Ursula von der Leyen, voorzittervan de Europese Commissie, heeft het voorstel bekendgemaakt tijdens haar toespraak over de staat van de Unie, waarin zij opriep tot Europese maatregelen tegen wat zij omschreef als de toenemende invloed van technologie op kinderen.

In het kader van de Kids Act zou de Commissie verschillende regels invoeren op basis van leeftijd: kinderen jonger dan 13 jaar zouden geen gebruik mogen maken van sociale media, terwijl kinderen tussen 13 en 15 jaar toegang zouden kunnen krijgen tot beperkte „mini-accounts“ die door hun ouders worden beheerd en gecontroleerd, met minder functies en beperkingen op de gebruiksduur.

Voor jongeren van 15 tot 18 jaar zouden platforms in plaats daarvan „veilige ontwerp“-eisen moeten invoeren die erop gericht zijn de risico’s voor tieners te verminderen.

Herziening van de beperkingen

Von der Leyen zei dat de Commissie de Australische aanpak voor het vaststellen van een minimumleeftijd voor sociale media heeft geëvalueerd, nadat Australië als eerste land dergelijke beperkingen had ingevoerd.

"Wat we nu zien, is een enorme greep op onze kinderen. Een greep op hun aandacht, hun focus, hun geest", betreurde ze, waarbij ze waarschuwde dat de manier waarop sociale media zijn ontworpen, afbreuk kan doen aan de kindertijd.

Ze uitte ook haar bezorgdheid over smartphones en bracht het wijdverbreide gebruik ervan onder jongeren in verband met problemen zoals slaapstoornissen, angst en zelfbeschadiging.

Zoals gemeld door de Europese Commissie, zijn de voorgestelde maatregelen bedoeld om ouders meer controle te geven over de online-ervaringen van hun kinderen, terwijl tegelijkertijd meer verantwoordelijkheid bij technologiebedrijven wordt gelegd.

Von der Leyen stelde dat platforms moeten aantonen dat hun diensten veilig zijn voor minderjarigen, in plaats van de last uitsluitend bij de ouders te leggen.

„Europa heeft de macht om op te treden”, verklaarde ze. „Wij zijn het die onze regels bepalen, niet de grote techbedrijven.”

De voorzitter van de Commissie ging ook in op de snelle ontwikkeling van kunstmatige intelligentie en omschreef deze als een van de belangrijkste „omslagpunten“ waarmee de samenleving wordt geconfronteerd.

Ze voegde eraan toe dat AI aanzienlijke kansen biedt, maar ook risico’s met zich meebrengt die moeten worden aangepakt om de voordelen ervan ten volle te kunnen benutten. Tot de punten van zorg die zij noemde, behoorden steeds autonomere AI-systemen en de mogelijkheid dat modellen buiten hun beoogde omgevingen gaan opereren.

Von der Leyen verwees naar incidenten met AI-agenten en kwaadaardige code, evenals naar zorgen die door ontwikkelaars naar voren werden gebracht na een incident met Hugging Face.

De AI-wet van de EU, zo zei ze, zou regelgevende „veiligheidsmaatregelen“ bieden en Europa tegelijkertijd in staat stellen een rol te spelen in internationale discussies over AI-veiligheid.

De Commissie is ook van plan om samen te werken met Canada, het Verenigd Koninkrijk en andere landen op het gebied van onder meer de evaluatie en verificatie van AI-modellen, vroegtijdige waarschuwingssystemen en beveiliging.