OpenAI fordert verbindliche KI-Sicherheitsregeln: Warum Selbstverpflichtungen nicht ausreichen

OpenAI spricht sich für verbindliche staatliche Sicherheitsregeln für besonders leistungsfähige KI-Systeme aus. Nach einem Bericht von Reuters fordert das Unternehmen unter anderem einheitliche Testverfahren, unabhängige Sicherheitsprüfungen, Vorgaben zum Schutz vor Cyberangriffen und eine Pflicht zur Meldung schwerwiegender Vorfälle.

Dabei geht es vor allem um sogenannte Frontier-Modelle (besonders leistungsfähige KI-Modelle, deren neue Fähigkeiten und mögliche Risiken noch nicht vollständig absehbar sind). Nach der Vorstellung von OpenAI sollen sich die gesetzlichen Anforderungen daran orientieren, was ein Modell tatsächlich leisten kann und welche Gefahren daraus entstehen könnten.

Ein bemerkenswerter Kurswechsel

OpenAI hatte vergleichbare gesetzliche Vorgaben in der Vergangenheit teilweise kritisch gesehen oder nicht unterstützt. Inzwischen befürwortet das Unternehmen mehrere Gesetzesvorhaben im US-Bundesstaat Kalifornien. Diese sehen unter anderem externe Prüfungen, Maßnahmen gegen biologische Gefahren und besondere Schutzregeln für KI-Chatbots vor, die von Kindern und Jugendlichen genutzt werden.

Als Grund für diesen Kurswechsel verweist OpenAI auf die schnelle Weiterentwicklung aktueller KI-Systeme. Je mehr Aufgaben diese selbstständig bearbeiten können, desto schwieriger wird es, sämtliche Handlungen und Folgen im Voraus zu kontrollieren. Besonders deutlich wird das bei KI-Agenten (KI-Systemen, die eigenständig mehrere Arbeitsschritte ausführen und dafür Programme oder Internetdienste verwenden können).

Die Forderung nach verbindlichen Regeln ist grundsätzlich zu begrüßen. Gleichzeitig macht sie sichtbar, dass die bisherige freiwillige Selbstkontrolle der Unternehmen an Grenzen stößt. Entwickler können ihre eigenen Modelle zwar prüfen, bleiben dabei aber zugleich Anbieter und wirtschaftliche Profiteure ihrer Produkte.

Datenschutz ist nur ein Teil der Sicherheit

Wenn OpenAI seine Produkte als sicher und datenschutzkonform beschreibt, stellt sich zunächst die Frage, weshalb zusätzlich unabhängige Prüfungen und staatliche Vorgaben notwendig sind.

Darin liegt allerdings nicht zwangsläufig ein Widerspruch. Datenschutz und allgemeine KI-Sicherheit sind nicht dasselbe. Ein System kann bestimmte datenschutzrechtliche Anforderungen erfüllen und trotzdem andere Risiken verursachen. Dazu gehören beispielsweise selbstständige Handlungen eines KI-Agenten, das Umgehen technischer Beschränkungen, fehlerhafte Entscheidungen oder der Missbrauch eines leistungsfähigen Modells für Cyberangriffe.

Die Forderung nach externen Regeln ist daher kein Beleg dafür, dass OpenAI gegen Datenschutzvorgaben verstößt. Sie zeigt aber, dass die Einschätzung eines Herstellers allein keine ausreichende Grundlage für Vertrauen sein sollte.

OpenAI erklärt für seine Angebote für Unternehmen und Organisationen, dass die dort eingegebenen Daten standardmäßig nicht für das Training der Modelle verwendet werden. Für private ChatGPT-Konten gelten andere Voreinstellungen. Dort kann die Verwendung neuer Gespräche zur Verbesserung der Modelle über die Datenkontrollen ausgeschaltet werden. Diese Unterschiede sind im Alltag leicht zu übersehen.

Was der Kurswechsel für Bibliotheken bedeutet

Bibliotheken arbeiten mit Informationen, die Rückschlüsse auf Interessen, Lebenssituationen und persönliche Fragestellungen ermöglichen können. Dazu gehören nicht nur personenbezogene Daten im engeren Sinne, sondern auch Rechercheanfragen, interne Dokumente, Auskünfte von Nutzerinnen und Nutzern oder noch unveröffentlichte Planungen.

Werden KI-Systeme im Bibliotheksalltag eingesetzt, genügt deshalb die allgemeine Aussage eines Anbieters, sein Produkt sei datenschutzkonform, nicht. Entscheidend ist, welche Version verwendet wird, welche Einstellungen gelten, wie lange Eingaben gespeichert bleiben und ob sie für die Weiterentwicklung des Systems genutzt werden können. Auch der konkrete Verwendungszweck spielt eine wichtige Rolle: Eine unverfängliche Formulierungshilfe ist anders zu bewerten als die Verarbeitung einer persönlichen Beratungsanfrage.

Ein grundsätzlich kritischer Blick auf Herstellerangaben ist dabei keine übertriebene Skepsis. Große amerikanische Technologieunternehmen haben in der Vergangenheit wiederholt Zusicherungen zum Umgang mit Daten nicht vollständig eingehalten. Die US-amerikanische Federal Trade Commission, kurz FTC, ging beispielsweise gegen Google wegen irreführender Datenschutzpraktiken beim Dienst Google Buzz vor. Facebook erhielt nach früheren Verstößen weitreichende Auflagen und eine Milliardenstrafe.

Das bedeutet nicht, dass aktuelle Datenschutzerklärungen automatisch falsch sind. Es bedeutet aber, dass Unternehmen nicht allein deshalb blind vertraut werden sollte, weil ihre Aussagen professionell, eindeutig und beruhigend klingen.

Zwischen Vertrauen und Kontrolle

Für die Informationskompetenz ist diese Unterscheidung wesentlich. Quellenkritik bezieht sich nicht nur auf Nachrichten, Suchergebnisse und KI-generierte Antworten. Auch Produktbeschreibungen, Datenschutzhinweise und Sicherheitsversprechen müssen hinsichtlich ihrer Herkunft und Interessen eingeordnet werden.

Ein Unternehmen informiert über das eigene Produkt, verfolgt dabei aber zugleich wirtschaftliche Ziele. Seine Angaben können korrekt sein und trotzdem nur einen Teil des Gesamtbildes zeigen. Unabhängige Prüfungen, verbindliche Verträge, nachvollziehbare Zertifizierungen und gesetzliche Kontrollmöglichkeiten liefern daher eine andere Qualität von Sicherheit als eine freiwillige Selbstauskunft.

OpenAIs Forderung nach externen Regeln kann somit als Anerkennung dieser Grenze verstanden werden. Verbindliche Vorgaben garantieren keine vollständige Sicherheit. Sie können aber dafür sorgen, dass nicht allein die Anbieter entscheiden, welche Risiken untersucht, welche Vorfälle veröffentlicht und welche Schutzmaßnahmen als ausreichend angesehen werden.

Für Bibliotheken folgt daraus vor allem ein nüchterner Umgang mit KI-Angeboten: Die Systeme können wertvolle Werkzeuge sein, sollten aber entsprechend der verarbeiteten Informationen ausgewählt und eingesetzt werden. Vertrauen ist dabei möglich – es sollte jedoch auf überprüfbaren Grundlagen beruhen.