KI-Praxisradar
Archiv
Mozilla und Mistral arbeiten beim KI-Browserassistenten Firefox Smart Window zusammen. Das Angebot soll Recherche erleichtern, verändert aber auch die Vermittlung zwischen Quellen und Suchenden. Für Bibliotheken sind nachvollziehbare Informationswege entscheidend. Offen bleibt, wie konsequent Mozilla seinen Datenschutz- und Transparenzanspruch in der Zusammenarbeit praktisch umsetzt.
Einordnung lesen ↗Palantir, Nvidia und Booz Allen Hamilton schränken einem Bericht zufolge die Nutzung bestimmter KI-Angebote ein oder verlangen zusätzliche Garantien. Die Debatte zeigt: Der Verzicht auf Modelltraining bedeutet nicht automatisch, dass Eingaben nicht gespeichert werden. Für Bibliotheken ist entscheidend, welche Daten bei einer konkreten Aufgabe unter welchen Bedingungen verarbeitet werden.
Einordnung lesen ↗Führende Vertreter der KI-Branche fordern eine langsamere Entwicklung besonders leistungsfähiger Modelle und unabhängige Sicherheitsprüfungen. Jüngste Vorfälle zeigen, dass KI-Agenten bei selbstständig ausgeführten Aufgaben technische Grenzen überschreiten können.
Je selbstständiger ein KI-System handeln kann, desto kleiner sollten zunächst seine Zugriffsrechte und desto stärker die menschliche Kontrolle sein.
Der Carlsen Verlag, Marc-Uwe Kling und Astrid Henn haben OpenAI wegen mutmaßlicher Urheberrechtsverletzungen an der Kinderbuchreihe Das NEINhorn verklagt. Im Zentrum steht der Vorwurf, ChatGPT könne wesentliche kreative Elemente sowie Herkunftsmerkmale der Werke reproduzieren.
Der Fall betrifft Bibliotheken unmittelbar: KI-generierte Inhalte erschweren die Zuordnung von Original, Urheber, Ausgabe und Quelle. Informationskompetenz muss daher auch Authentizität, Herkunft und mögliche Reproduktionen geschützter Werke berücksichtigen.
Die Snickers-Kampagne Hungr.AI lässt Nutzerinnen und Nutzer einen fremden Anweisungsblock in einen KI-Chat kopieren. Der harmlose Werbegag zeigt anschaulich, wie Prompt Injection funktioniert und warum daraus bei KI-Agenten ein ernstes Sicherheitsrisiko entstehen kann.
Informationskompetenz umfasst künftig auch die Prüfung fremder Prompts. Besonders unerfahrene und ältere Menschen können durch Social Engineering dazu gebracht werden, scheinbar freiwillig unerwünschte Anweisungen in einen KI-Chat einzufügen.
Kalifornien führt neue Schutzregeln für Kinder und Jugendliche ein. Sie betreffen unter anderem KI-Begleiter, Infinite Scroll und algorithmisches Autoplay. Die Maßnahmen setzen wichtige Grenzen, können aber die pädagogische Auseinandersetzung mit KI und sozialen Medien nicht ersetzen.
Einordnung lesen ↗OpenAI unterstützt inzwischen verbindliche Sicherheitsregeln für leistungsfähige KI-Systeme. Für Bibliotheken zeigt der Kurswechsel, warum Herstellerangaben zum Datenschutz wichtig sind, unabhängige Kontrolle aber nicht ersetzen können.
Einordnung lesen ↗KI-gestützte Gesichtserkennung zeigt, wie sich einfache Kameras zu umfassenden Überwachungssystemen entwickeln können. Für Open Libraries stellt sich die Frage, wie Sicherheit gewährleistet werden kann, ohne Privatsphäre und Informationsfreiheit unnötig einzuschränken.
Einordnung lesen ↗UN-Menschenrechtskommissar Volker Türk fordert verbindliche Schutzmaßnahmen für fortgeschrittene KI. Bibliotheken betrifft die Debatte als öffentliche Orte für Information, Teilhabe und demokratische Meinungsbildung.
Einordnung lesen ↗New York untersagt Schülerinnen und Schülern bis zur achten Klasse vorerst den Einsatz generativer KI. Für Bibliotheken ist besonders interessant, wie Schutz, Teilhabe und angeleitete Medienbildung miteinander verbunden werden können.
Einordnung lesen ↗