Die Präsidentinder Europäischen Kommission, Ursula von der Leyen, stellte den Vorschlag in ihrer Rede zur Lage der Union vor, in der sie Europa dazu aufrief, gegen den, wie sie es nannte, wachsenden Einfluss der Technologie auf Kinder vorzugehen.

Im Rahmen des „Kids Act“ würde die Kommission altersabhängige Regeln einführen: Kindern unter 13 Jahren wäre die Nutzung sozialer Medien untersagt, während 13- bis 15-Jährige Zugang zu eingeschränkten „Mini-Konten“ erhalten könnten, die von ihren Eltern verwaltet und beaufsichtigt werden und über weniger Funktionen sowie Nutzungszeitbeschränkungen verfügen würden.

Für 15- bis 18-Jährige müssten die Plattformen stattdessen Anforderungen an ein „sicheres Design“ umsetzen, die darauf abzielen, Risiken für Jugendliche zu verringern.

Überprüfung der Beschränkungen

Von der Leyen erklärte, die Kommission habe Australiens Ansatz zur Festlegung eines Mindestalters für soziale Medien überprüft, nachdem das Land als erstes solche Beschränkungen eingeführt hatte.

„Was wir derzeit erleben, ist eine massive Vereinnahmung unserer Kinder. Eine Vereinnahmung ihrer Aufmerksamkeit, ihrer Konzentration, ihres Geistes“, beklagte sie und warnte, dass die Art und Weise, wie soziale Medien gestaltet sind, die Kindheit beeinträchtigen könne.

Sie äußerte zudem Bedenken hinsichtlich Smartphones und brachte deren weit verbreitete Nutzung unter Jugendlichen mit Problemen wie Schlafstörungen, Angstzuständen und Selbstverletzung in Verbindung.

Wie die Europäische Kommission berichtet, sollen die vorgeschlagenen Maßnahmen Eltern mehr Kontrolle über die Online-Erfahrungen ihrer Kinder geben und gleichzeitig Technologieunternehmen mehr Verantwortung auferlegen.

Von der Leyen argumentierte, dass Plattformen nachweisen müssen, dass ihre Dienste für Minderjährige sicher sind, anstatt die Last allein den Eltern aufzubürden.

„Europa hat die Macht zu handeln“, erklärte sie. „Wir sind es, die unsere Regeln festlegen, nicht die großen Tech-Konzerne.“

Die Kommissionspräsidentin ging auch auf die rasante Entwicklung der künstlichen Intelligenz ein und bezeichnete diese als einen der wichtigsten „Wendepunkte“, vor denen die Gesellschaft steht.

Sie fügte hinzu, dass KI zwar erhebliche Chancen biete, aber auch Risiken mit sich bringe, die angegangen werden müssten, wenn ihre Vorteile voll ausgeschöpft werden sollten. Zu den von ihr angesprochenen Bedenken gehörten zunehmend autonome KI-Systeme und die Möglichkeit, dass Modelle außerhalb ihrer vorgesehenen Umgebungen operieren.

Von der Leyen verwies auf Vorfälle mit KI-Agenten und bösartigem Code sowie auf Bedenken, die von Entwicklern nach einem Vorfall im Zusammenhang mit Hugging Face geäußert wurden.

Das KI-Gesetz der EU, so sagte sie, werde regulatorische „Leitplanken“ schaffen und es Europa gleichzeitig ermöglichen, eine Rolle in internationalen Diskussionen über KI-Sicherheit zu spielen.

Die Kommission plant zudem, mit Kanada, dem Vereinigten Königreich und anderen Ländern bei Themen wie der Bewertung und Verifizierung von KI-Modellen, Frühwarnsystemen und Sicherheit zusammenzuarbeiten.