Führende Vertreter der KI-Branche fordern eine langsamere Entwicklung besonders leistungsfähiger Modelle und unabhängige Sicherheitsprüfungen. Jüngste Vorfälle zeigen, dass KI-Agenten bei selbstständig ausgeführten Aufgaben technische Grenzen überschreiten können.
BibliotheksperspektiveJe selbstständiger ein KI-System handeln kann, desto kleiner sollten zunächst seine Zugriffsrechte und desto stärker die menschliche Kontrolle sein.
Einordnung lesen ↗Der Carlsen Verlag, Marc-Uwe Kling und Astrid Henn haben OpenAI wegen mutmaßlicher Urheberrechtsverletzungen an der Kinderbuchreihe Das NEINhorn verklagt. Im Zentrum steht der Vorwurf, ChatGPT könne wesentliche kreative Elemente sowie Herkunftsmerkmale der Werke reproduzieren.
BibliotheksperspektiveDer Fall betrifft Bibliotheken unmittelbar: KI-generierte Inhalte erschweren die Zuordnung von Original, Urheber, Ausgabe und Quelle. Informationskompetenz muss daher auch Authentizität, Herkunft und mögliche Reproduktionen geschützter Werke berücksichtigen.
Einordnung lesen ↗Die Snickers-Kampagne Hungr.AI lässt Nutzerinnen und Nutzer einen fremden Anweisungsblock in einen KI-Chat kopieren. Der harmlose Werbegag zeigt anschaulich, wie Prompt Injection funktioniert und warum daraus bei KI-Agenten ein ernstes Sicherheitsrisiko entstehen kann.
BibliotheksperspektiveInformationskompetenz umfasst künftig auch die Prüfung fremder Prompts. Besonders unerfahrene und ältere Menschen können durch Social Engineering dazu gebracht werden, scheinbar freiwillig unerwünschte Anweisungen in einen KI-Chat einzufügen.
Einordnung lesen ↗Kompakte Sprachmodelle können für begrenzte Aufgaben auf kleinen lokalen Computern betrieben werden. Das eröffnet Bibliotheken neue Möglichkeiten für Datenschutz, digitale Souveränität und medienpädagogische Angebote – bringt aber auch eigene technische Verantwortung mit sich.
Einordnung lesen ↗Kalifornien führt neue Schutzregeln für Kinder und Jugendliche ein. Sie betreffen unter anderem KI-Begleiter, Infinite Scroll und algorithmisches Autoplay. Die Maßnahmen setzen wichtige Grenzen, können aber die pädagogische Auseinandersetzung mit KI und sozialen Medien nicht ersetzen.
Einordnung lesen ↗Eine Dokumentation lässt einen digitalen Elon Musk mit früheren Originalaussagen auf neue Fragen antworten. Der Fall zeigt, warum bei synthetischen Medien nicht nur einzelne Zitate, sondern auch ihre Auswahl, Inszenierung und ihr ursprünglicher Kontext geprüft werden müssen.
Einordnung lesen ↗OpenAI unterstützt inzwischen verbindliche Sicherheitsregeln für leistungsfähige KI-Systeme. Für Bibliotheken zeigt der Kurswechsel, warum Herstellerangaben zum Datenschutz wichtig sind, unabhängige Kontrolle aber nicht ersetzen können.
Einordnung lesen ↗KI-gestützte Gesichtserkennung zeigt, wie sich einfache Kameras zu umfassenden Überwachungssystemen entwickeln können. Für Open Libraries stellt sich die Frage, wie Sicherheit gewährleistet werden kann, ohne Privatsphäre und Informationsfreiheit unnötig einzuschränken.
Einordnung lesen ↗LibreOffice setzt bewusst auf eine Bürosoftware ohne integrierte generative KI. Das große Interesse daran zeigt, wie wichtig Wahlfreiheit, Datenschutz und digitale Souveränität werden.
Einordnung lesen ↗Eine mit Google Gemini geplante Bergtour endete in einem Rettungseinsatz. Der Fall zeigt anschaulich, warum KI-Antworten geprüft, mit Fachquellen abgeglichen und nicht mit verlässlicher Beratung verwechselt werden dürfen.
Einordnung lesen ↗