Kalifornien hat ein umfangreiches Gesetzespaket zum Schutz von Kindern und Jugendlichen im digitalen Raum beschlossen. Insgesamt 13 neue Regelungen sollen Minderjährige unter anderem vor manipulativen Funktionen sozialer Netzwerke, unzureichendem Datenschutz und möglichen Risiken durch KI-Chatbots schützen.
Ein Teil der Regelungen richtet sich gegen sogenannte suchtfördernde Gestaltungselemente. Dazu gehören Infinite Scroll (das automatische und scheinbar endlose Nachladen neuer Inhalte) und algorithmisches Autoplay (das selbstständige Abspielen weiterer, anhand des bisherigen Verhaltens ausgewählter Inhalte). Solche Funktionen sollen dafür sorgen, dass Menschen möglichst lange auf einer Plattform bleiben – häufig ohne bewusst zu entscheiden, ob sie überhaupt noch weiterschauen möchten.
Für besonderes Aufsehen sorgt ein zunächst auf vier Jahre begrenztes Verbot, Spielzeug mit eingebauten KI-Begleitern herzustellen oder zu verkaufen. Gemeint sind etwa Puppen oder andere Spielzeuge, mit denen Kinder mithilfe eines KI-Chatbots sprechen können. Für weitere Chatbot-Angebote sieht das Gesetzespaket unter anderem elterliche Kontrollmöglichkeiten sowie Sicherheits- und Risikoprüfungen vor.
Auch KI-generierte Darstellungen sexualisierter Gewalt gegen Kinder werden ausdrücklich in bestehende strafrechtliche Regelungen einbezogen. Kalifornien begründet die Maßnahmen damit, dass digitale Angebote das Wohlbefinden junger Menschen unterstützen und ihre Verletzlichkeit nicht gezielt ausnutzen sollen. Kritikerinnen und Kritiker warnen allerdings davor, dass einige Regelungen neue Probleme für den Datenschutz und die freie Meinungsäußerung verursachen könnten.
Schutz ist notwendig – Verbote sind aber nicht automatisch pädagogisch sinnvoll
Die neuen Gesetze reagieren auf reale Probleme. Digitale Plattformen sind nicht neutral gestaltet. Viele Angebote sind gezielt darauf ausgerichtet, Aufmerksamkeit zu binden, Nutzungszeiten zu verlängern und möglichst viele persönliche Daten zu sammeln. Kinder und Jugendliche benötigen deshalb besonderen Schutz.
Trotzdem ist nicht jedes Verbot automatisch pädagogisch sinnvoll. Ein Verbot kann den Zugang zu einem problematischen Angebot begrenzen, vermittelt aber noch nicht, wie dieses Angebot funktioniert. Kinder und Jugendliche lernen dadurch weder, manipulative Gestaltung zu erkennen, noch die Antworten eines Chatbots kritisch zu bewerten.
Digitale Medien und KI-Systeme werden zudem nicht wieder aus dem Alltag verschwinden. Jugendliche begegnen ihnen spätestens außerhalb geschützter Räume – auf den Geräten von Freundinnen und Freunden, über frei zugängliche Plattformen, in der Schule oder später im Berufsleben. Wenn sie bis dahin lediglich gelernt haben, dass bestimmte Angebote verboten sind, fehlt ihnen möglicherweise die Erfahrung, um selbstständig und verantwortungsvoll mit ihnen umzugehen.
Pädagogisch sinnvoller Jugendschutz braucht deshalb beides: verbindliche Grenzen für Unternehmen und eine begleitete Auseinandersetzung mit der Technik. Anbieter dürfen nicht aus ihrer Verantwortung entlassen werden. Gleichzeitig dürfen gesetzliche Regelungen nicht den Eindruck erwecken, Medienkompetenz ließe sich durch Zugangsbeschränkungen ersetzen.
Was KI-Begleiter von anderen digitalen Angeboten unterscheidet
Bei KI-Begleitern kommt eine besondere Herausforderung hinzu. Ein Chatbot kann Nähe, Verständnis und Verlässlichkeit vermitteln, ohne tatsächlich Gefühle zu besitzen oder Verantwortung übernehmen zu können. Gerade jüngere Menschen können möglicherweise nur schwer einschätzen, dass die scheinbar persönliche Reaktion auf statistisch erzeugten Antworten beruht.
Die Systeme können zudem sehr überzeugend formulieren. Eine freundliche oder selbstsichere Antwort ist aber kein Beleg dafür, dass eine Information richtig, altersgerecht oder hilfreich ist. Besonders problematisch wird das, wenn Kinder einem Chatbot persönliche Sorgen, familiäre Konflikte oder intime Informationen anvertrauen.
Ein Verbot bestimmter KI-Spielzeuge kann kurzfristig verhindern, dass unausgereifte Produkte direkt im Kinderzimmer landen. Langfristig bleibt jedoch die Aufgabe bestehen, jungen Menschen zu erklären, warum sich ein Gespräch mit einer KI persönlich anfühlen kann, welche Daten dabei entstehen und weshalb die Antworten nicht mit denen eines verantwortlichen menschlichen Gegenübers gleichgesetzt werden dürfen.
Ein Thema für die medienpädagogische Arbeit in Bibliotheken
Bibliotheken können einen Raum schaffen, in dem Kinder, Jugendliche, Eltern und pädagogische Fachkräfte KI-Systeme gemeinsam und ohne Verkaufsdruck kennenlernen. Dabei muss nicht jede Veranstaltung vor allem vor Gefahren warnen. Ebenso wichtig ist es, die Technik verständlich zu machen und eigene Erfahrungen zu ermöglichen.
In einem begleiteten Angebot lässt sich beispielsweise untersuchen, wie unterschiedlich ein Chatbot auf dieselbe Frage reagiert, wie schnell er falsche Informationen erfindet und mit welchen sprachlichen Mitteln er Vertrauen erzeugt. Auch die Gestaltung sozialer Netzwerke kann thematisiert werden: Warum endet ein Feed nicht von selbst? Weshalb startet sofort das nächste Video? Und wer profitiert davon, wenn Menschen möglichst lange auf einer Plattform bleiben?
Damit wird Jugendschutz nicht allein als Einschränkung verstanden, sondern als Befähigung. Ziel sollte sein, dass junge Menschen digitale Angebote zunehmend selbstständig beurteilen, ihre eigenen Grenzen erkennen und informierte Entscheidungen treffen können.
Die kalifornischen Gesetze zeigen, dass sich politische Aufmerksamkeit inzwischen stärker auf die Gestaltung digitaler Angebote richtet. Das ist grundsätzlich zu begrüßen. Gleichzeitig bleibt Medienkompetenz eine pädagogische Aufgabe. Verbote können Schutzräume schaffen und besonders problematische Geschäftsmodelle begrenzen. Den kompetenten Umgang mit KI und sozialen Medien müssen junge Menschen trotzdem lernen.