KI-Praxisradar #2: Superintelligenz, schlaue Brillen und ziemlich unsichere Detektoren

Hallo zusammen,

der erste Newsletter ist verschickt, niemand hat sich öffentlich darüber beschwert und der Praxisradar dreht sich weiterhin. Das werte ich fürs Erste als Erfolg. :)

Vielen Dank für eure Rückmeldungen, Hinweise und Gespräche in den vergangenen Tagen. Sie helfen mir dabei, den Praxisradar weiterzuentwickeln – und gelegentlich auch dabei, einen Artikel rechtzeitig zu kürzen, bevor aus ihm versehentlich ein kleines Fachbuch wird.

Inzwischen gibt es auf der Webseite neue Themenseiten, ein Glossar für erklärungsbedürftige Begriffe und einige weitere Anpassungen. Fachbegriffe sollen künftig direkt im Text kurz erklärt werden, ohne dass jeder Artikel wieder bei Adam, Eva und dem ersten neuronalen Netz anfangen muss. Der Anspruch bleibt trotzdem derselbe: aktuelle Entwicklungen rund um KI verständlich einzuordnen und dabei besonders auf Medienbildung, Informationskompetenz, Demokratiebildung und gesellschaftliche Folgen zu schauen – aus der Perspektive öffentlicher und wissenschaftlicher Bibliotheken.

Seit dem ersten Newsletter ist erneut einiges passiert. Es wurde vor vermeintlich KI-generierten Hausarbeiten gewarnt, über unabhängige Sicherheitsprüfungen gestritten, die Kamera unauffällig in eine Brille eingebaut und Künstliche Intelligenz kurzerhand sprachlich zur Superintelligenz befördert. Die Branche gönnt uns wirklich keine ruhige Woche.

Vier Themen, die ich besonders wichtig finde

KI-Detektoren versprechen Gewissheit, liefern aber nur Wahrscheinlichkeiten. Programme wie Turnitin, GPTZero oder Pangram sollen erkennen, ob ein Text von einer KI geschrieben wurde. Das Problem: Sie erkennen keine Autorenschaft, sondern berechnen Wahrscheinlichkeiten anhand sprachlicher Muster. Dadurch können menschliche Texte unter Verdacht geraten, während nachbearbeitete KI-Texte unentdeckt bleiben. Besonders an Hochschulen ist das heikel, weil aus einem Prozentwert schnell ein Täuschungsvorwurf werden kann. Ein buntes Diagramm sieht zwar wissenschaftlich aus, ist aber noch lange kein Beweis – sonst wäre schließlich auch jede PowerPoint-Präsentation automatisch Forschung. Wissenschaftliche Bibliotheken können hier zu transparenten Regeln, nachvollziehbaren Verfahren und einem verantwortlichen Umgang mit KI im wissenschaftlichen Arbeiten beitragen. Zum Beitrag über KI-Detektoren

Ein neues Institut möchte Kinder vor riskanten KI-Angeboten schützen – wird aber teilweise von der KI-Branche finanziert. Das Youth AI Safety Institute will Chatbots und andere KI-Produkte systematisch prüfen und daraus Sicherheitsstandards entwickeln. Das ist grundsätzlich sinnvoll, denn Altersangaben, Filter und freundliche Sicherheitsversprechen sagen noch wenig darüber aus, wie ein System im Alltag tatsächlich reagiert. Gleichzeitig gehören Anthropic, Pinterest und die OpenAI Foundation zu den Geldgebern. Das macht die Arbeit des Instituts nicht automatisch unglaubwürdig, verlangt aber nach besonders transparenten Prüfverfahren. Denn ein Prüfsiegel wird nicht allein dadurch unabhängig, dass das Wort „unabhängig“ hübsch darauf gedruckt wird. Zur Demokratiebildung gehört deshalb auch die Frage, wer ein solches Siegel vergibt, nach welchen Maßstäben getestet wird und wer die Rechnung bezahlt. Zum Beitrag über KI-Sicherheit für Kinder

Donald Trump möchte aus Artificial Intelligence offenbar lieber Superintelligence machen. Das klingt ein wenig so, als ließe sich ein technisches Problem durch eine glänzendere Verpackung lösen: neues Etikett drauf, Risiken weg, fertig ist die Superintelligenz. Leider haben die Systeme selbst das Memo zur Beförderung noch nicht vollständig gelesen. Sie bleiben fehleranfällig, können Informationen erfinden und besitzen weder menschliches Verständnis noch Verantwortungsbewusstsein. Politische Begriffe beeinflussen trotzdem, wie wir Technik wahrnehmen. Wer KI sprachlich zur überlegenen Instanz erhebt, kann Kritik schnell wie Fortschrittsfeindlichkeit aussehen lassen. Für Bibliotheken ist das ein gutes Beispiel dafür, warum technisches Verständnis und Demokratiebildung zusammengehören: Begriffe beschreiben politische Debatten nicht nur – sie gestalten sie mit. Zum Beitrag über KI und Superintelligenz

Smart Glasses bringen die Kamera auf Augenhöhe – und machen sie gleichzeitig fast unsichtbar. Kamerafähige Brillen können fotografieren, filmen, Gespräche mit einem KI-Assistenten ermöglichen oder Menschen mit Behinderungen bei der Orientierung unterstützen. Sie können aber ebenso unerwünschte Aufnahmen, Überwachung und digitale Gewalt erleichtern. Eine kleine Leuchte an der Brille löst dieses Problem nur bedingt. Menschen müssen das Signal erkennen, verstehen und überhaupt die Möglichkeit haben, einer Aufnahme auszuweichen. Das kleine Lämpchen ist damit ungefähr so beruhigend wie ein sehr dezentes Hinweisschild mit der Aufschrift „Sie werden möglicherweise gerade gefilmt“. Für Bibliotheken stellt sich eine konkrete Frage: Wie lassen sich Diskretion und geschützte Recherche bewahren, ohne sinnvolle assistive Anwendungen pauschal auszuschließen? Zum Beitrag über KI-Brillen

Und was sonst noch geschah

OpenAI fordert verbindliche KI-Sicherheitsregeln
Wenn selbst ein führender KI-Anbieter nach gesetzlichen Regeln ruft, lohnt sich ein genauer Blick: Welche Regeln sind gemeint, wer soll sie kontrollieren und weshalb reichen freiwillige Versprechen nicht aus?

KI-Gesichtserkennung im öffentlichen Raum
Gesichtserkennung betrifft Bibliotheken nicht erst dann, wenn sie selbst entsprechende Technik einsetzen. Als offene Orte müssen sie klären, wie Zugang, Sicherheit, Privatsphäre und anonyme Nutzung zusammenpassen.

90 Minuten KI-Kompetenz
Der kleine Grundlagenkurs ist weiterhin kostenlos verfügbar. Er erklärt zentrale Funktionsweisen, Grenzen und Risiken von KI. Perfekt ist er noch nicht – aber immerhin verlangt er weder ein Abo noch eine Grafikkarte von der Größe eines Heizkörpers.

Damit endet die zweite Runde auf dem Radar. Dieses Mal waren kleine Kameras, große Worte und erstaunlich unsichere Gewissheiten dabei. Die KI-Welt bleibt also zuverlässig unübersichtlich – ich versuche weiterhin, ein wenig Ordnung hineinzubringen.

Wie immer freue ich mich über Hinweise, Kritik und Themenvorschläge. Und ja: Auch der Hinweis „Der Artikel hätte kürzer sein können“ wird weiterhin als konstruktives Feedback anerkannt. :)

Beste Grüße
Andreas