Europeiska kommissionens ordförande Ursula von der Leyen presenterade förslaget under sitt tal om tillståndet i unionen, där hon uppmanade Europa att vidta åtgärder mot det som hon beskrev som teknikens växande inflytande på barn.

Enligt Kids Act skulle kommissionen införa olika regler beroende på ålder, där barn under 13 år förbjuds att använda sociala medier, medan de som är mellan 13 och 15 år skulle kunna få tillgång till begränsade ”minikonton” som förvaltas och övervakas av deras föräldrar, vilka skulle ha färre funktioner och inkludera begränsningar för hur länge de får användas.

För ungdomar i åldern 15–18 år förväntas plattformarna istället införa krav på ”säker design” som syftar till att minska riskerna för tonåringar.

Översyn av begränsningarna

Von der Leyen sade att kommissionen hade granskat Australiens tillvägagångssätt när det gäller att fastställa en lägsta ålder för sociala medier efter att landet blev det första att införa sådana begränsningar.

”Det vi bevittnar är en omfattande kapning av våra barn. En kapning av deras uppmärksamhet, deras fokus, deras sinnen”, beklagade hon och varnade för att det sätt på vilket sociala medier är utformade kan ta bort något från barndomen.

Hon uttryckte också oro över smartphones och kopplade deras utbredda användning bland ungdomar till problem som sömnstörningar, ångest och självskadebeteende.

Enligt Europeiska kommissionen syftar de föreslagna åtgärderna till att ge föräldrar större kontroll över barnens upplevelser online samtidigt som teknikföretagen åläggs ett större ansvar.

Von der Leyen menade att plattformarna bör vara skyldiga att visa att deras tjänster är säkra för minderåriga, istället för att låta hela bördan vila på föräldrarna.

”Europa har makten att agera”, konstaterade hon. ”Det är vi som bestämmer våra regler, inte de stora teknikföretagen.”

Kommissionens ordförande tog också upp den snabba utvecklingen av artificiell intelligens och beskrev den som en av de viktigaste ”vändpunkterna” som samhället står inför.

Hon tillade att AI erbjuder stora möjligheter men också medför risker som måste hanteras om fördelarna ska kunna utnyttjas fullt ut. Bland de farhågor hon tog upp fanns allt mer autonoma AI-system och risken att modellerna fungerar utanför de miljöer de är avsedda för.

Von der Leyen hänvisade till incidenter som involverade AI-agenter och skadlig kod, samt till de farhågor som utvecklare uttryckt efter en incident med Hugging Face.

EU:s AI-lag, sade hon, skulle utgöra reglerande ”skyddsräcken” samtidigt som den gör det möjligt för Europa att spela en roll i de internationella diskussionerna om AI-säkerhet.

Kommissionen planerar också att samarbeta med Kanada, Storbritannien och andra länder i frågor som rör bland annat utvärdering och verifiering av AI-modeller, system för tidig varning samt säkerhet.