Euroopan komission puheenjohtaja Ursula von der Leyen esitteli ehdotuksen unionin tilaa koskevassa puheessaan, jossa hän kehotti Eurooppaa ryhtymään toimiin sitä vastaan, mitä hän kuvaili teknologian kasvavaksi vaikutukseksi lapsiin.

Kids Act -lakiesityksen mukaan komissio ottaisi käyttöön ikäryhmäkohtaisia sääntöjä: alle 13-vuotiaiden lasten sosiaalisen median käyttö kiellettäisiin, kun taas 13–15-vuotiaat voisivat käyttää vanhempiensa hallinnoimia ja valvomia rajoitettuja ”minitilejä”, joissa olisi vähemmän toimintoja ja rajoituksia käyttöajalle.

15–18-vuotiaiden osalta alustojen odotettaisiin sen sijaan ottavan käyttöön ”turvallisen suunnittelun” vaatimuksia, joiden tarkoituksena on vähentää teini-ikäisiin kohdistuvia riskejä.

Rajoitusten tarkistaminen

Von der Leyen sanoi, että komissio oli tarkastellut Australian lähestymistapaa sosiaalisen median alaikärajan asettamiseen sen jälkeen, kun maa oli ensimmäisenä ottanut käyttöön tällaiset rajoitukset.

”Olemme todistamassa lastemme valtavaa kaappaamista. Heidän huomionsa, keskittymisensä ja mielensä kaappaamista”, hän valitti ja varoitti, että sosiaalisen median suunnittelutapa voi viedä lapsuuden.

Hän toi esiin huolensa myös älypuhelimista ja yhdisti niiden laajan käytön nuorten keskuudessa ongelmiin, kuten unihäiriöihin, ahdistukseen ja itsetuhoisuuteen.

Euroopan komission mukaan ehdotettujen toimenpiteiden tarkoituksena on antaa vanhemmille enemmän valtaa lasten verkkokokemusten suhteen ja samalla siirtää enemmän vastuuta teknologiayrityksille.

Von der Leyen katsoi, että alustojen tulisi osoittaa, että niiden palvelut ovat turvallisia alaikäisille, sen sijaan että vastuu jätettäisiin yksin vanhemmille.

”Euroopalla on valta toimia”, hän totesi. ”Me päätämme omista säännöistämme, eivät suuret teknologiayritykset.”

Komission puheenjohtaja käsitteli myös tekoälyn nopeaa kehitystä ja kuvaili sitä yhdeksi yhteiskunnan suurimmista ”käännekohdista”.

Hän lisäsi, että tekoäly tarjoaa merkittäviä mahdollisuuksia, mutta siihen liittyy myös riskejä, joihin on puututtava, jos sen edut halutaan hyödyntää täysimääräisesti. Hän toi esiin huolenaiheina yhä itsenäisemmät tekoälyjärjestelmät ja sen mahdollisuuden, että mallit toimivat niiden aiottujen käyttöympäristöjen ulkopuolella.

Von der Leyen viittasi tekoälyagentteihin ja haitalliseen koodiin liittyviin tapauksiin sekä kehittäjien esittämiin huolenaiheisiin Hugging Face -palveluun liittyvän tapauksen jälkeen.

Hän totesi, että EU:n tekoälylaki tarjoaisi sääntelyllisiä ”turvakaiteita” ja antaisi samalla Euroopalle mahdollisuuden osallistua tekoälyn turvallisuutta koskeviin kansainvälisiin keskusteluihin.

Komissio aikoo myös tehdä yhteistyötä Kanadan, Yhdistyneen kuningaskunnan ja muiden maiden kanssa muun muassa tekoälymallien arvioinnin, varmentamisen, varhaisvaroitusjärjestelmien ja turvallisuuden alalla.