Kurzfassung: Der UN-Hochkommissar für Menschenrechte, Volker Türk, fordert deutlich stärkere internationale Schutzmaßnahmen für fortgeschrittene KI-Systeme. Neben möglichen langfristigen Gefahren weist er auf bereits heute erkennbare Risiken für Menschenrechte, demokratische Prozesse und wichtige gesellschaftliche Dienstleistungen hin.
Wovor die Vereinten Nationen warnen
Volker Türk äußerte sich am 7. September vor dem UN-Menschenrechtsrat. Nach dem Bericht von Reuters sieht er die Gefahr, dass sich die Fähigkeiten fortgeschrittener KI-Systeme schneller entwickeln als wirksame Regeln und Kontrollmöglichkeiten.
Besonders kritisch bewertet er die Konzentration technischer und wirtschaftlicher Macht bei wenigen Unternehmen. Wenn nur eine kleine Zahl von Anbietern darüber entscheidet, wie leistungsfähige KI-Systeme entwickelt und eingesetzt werden, entstehen Abhängigkeiten. Gleichzeitig wird es für Staaten und öffentliche Einrichtungen schwieriger, die Funktionsweise und gesellschaftlichen Auswirkungen dieser Systeme zu kontrollieren.
Türk warnt außerdem davor, dass besonders leistungsfähige KI-Systeme langfristig eine existenzielle Gefahr für die Menschheit darstellen könnten. Mit einem existenziellen Risiko ist eine mögliche Entwicklung gemeint, die den Fortbestand oder die grundlegenden Lebensbedingungen der Menschheit bedrohen könnte.
Welche Schutzmaßnahmen gefordert werden
Der UN-Menschenrechtschef fordert unabhängige Prüfungen, internationale Zusammenarbeit und klare rote Linien (Grenzen, die auch bei wirtschaftlichem oder politischem Druck nicht überschritten werden dürfen).
Solche Grenzen könnten sich beispielsweise auf autonome Waffensysteme, umfassende Überwachung oder KI-Entscheidungen mit weitreichenden Folgen für einzelne Menschen beziehen. Dabei geht es um die Frage, welche Entscheidungen ein technisches System niemals allein treffen sollte.
Die Warnung bezieht sich jedoch nicht nur auf mögliche Gefahren in einer fernen Zukunft. Schon heute können diskriminierende Entscheidungen, Desinformation, Cyberangriffe oder der Ausfall wichtiger digitaler Dienste konkrete Rechte beeinträchtigen.
Wichtig für die Einordnung
Debatten über existenzielle KI-Risiken können schnell sehr abstrakt oder dramatisch wirken. Sie sollten nicht von den Problemen ablenken, die bereits heute sichtbar sind.
KI-Systeme beeinflussen zunehmend, welche Informationen Menschen angezeigt bekommen, wie Personen bewertet werden und welchen Zugang sie zu Dienstleistungen erhalten. Damit berühren sie unter anderem den Schutz der Privatsphäre, die Meinungs- und Informationsfreiheit sowie das Recht auf Gleichbehandlung.
Governance (Regeln, Zuständigkeiten und Kontrollverfahren für einen verantwortungsvollen Einsatz) darf deshalb nicht allein den Anbietern überlassen bleiben. Öffentliche Einrichtungen müssen nachvollziehen können, welche Daten verarbeitet werden, nach welchen Maßstäben ein System arbeitet und wer bei Fehlern oder Schäden Verantwortung übernimmt.
Bibliotheksbezug
Bibliotheken stehen für freien Informationszugang, Datenschutz, gesellschaftliche Teilhabe und eine demokratische Öffentlichkeit. Sie sollten KI deshalb nicht ausschließlich als praktisches Werkzeug betrachten, sondern auch als Thema ihrer institutionellen und gesellschaftlichen Verantwortung.
Für die Informationskompetenz wird es zunehmend wichtig, nicht nur einzelne Inhalte zu prüfen. Menschen müssen auch verstehen, wie digitale Informationsräume entstehen: Welche Anbieter entscheiden über die Auswahl von Informationen? Nach welchen Kriterien werden Antworten zusammengestellt? Welche Quellen und Perspektiven bleiben möglicherweise unsichtbar?
Wenn wenige Unternehmen zentrale KI-Systeme kontrollieren, beeinflussen sie auch, wie Wissen gefunden, zusammengefasst und vermittelt wird. Bibliotheken können hier einen Gegenpol bilden, indem sie Zugang zu unterschiedlichen Quellen ermöglichen, Recherchewege transparent machen und Nutzerinnen und Nutzer dabei unterstützen, KI-generierte Antworten kritisch einzuordnen.
Auch für den eigenen KI-Einsatz brauchen Bibliotheken klare Regeln. Ein KI-Leitbild kann festlegen, für welche Aufgaben KI eingesetzt werden darf, wann eine menschliche Prüfung notwendig ist und wie Nutzerinnen und Nutzer über den Einsatz informiert werden. Ebenso sollten Datenschutz, Beschaffung, Anbieterabhängigkeit, Beschwerdemöglichkeiten und der Umgang mit möglichen Ausfällen berücksichtigt werden.
Darüber hinaus können Bibliotheken Räume für eine öffentliche Auseinandersetzung mit KI schaffen. Veranstaltungen, Gesprächsformate und Informationsangebote können dabei helfen, Fragen zu Machtkonzentration, Menschenrechten und Regulierung nicht nur Fachleuten und Technologieunternehmen zu überlassen. So wird KI-Sicherheit von einem technischen Spezialthema zu einer Aufgabe demokratischer Bildung.
Quellen
- UN-Menschenrechtsbüro: Erklärung von Volker Türk vor dem Menschenrechtsrat, 7. September 2026
- Reuters: UN-Menschenrechtschef warnt vor existenziellen KI-Risiken, 7. September 2026