ArtCraft: Wenn KI am Geschäftsmodell ihrer Branche sägt
Mit KI entwickelte Softwareklone von ArtCraft stellen vertraute Abo-Modelle infrage. Was offene Alternativen ermöglichen – und wo Qualität und Recht noch Fragen aufwerfen.
Einordnung lesen ↗Archiv
Recht & Ethik
Unsichtbar markiert: Was KI-Wasserzeichen verraten – und was nicht
OpenAI will bestimmte KI-Texte mit einem unsichtbaren Wasserzeichen versehen. Am 5. Oktober kündigte das Unternehmen an, die Technik „textGrain“ in den kommenden Wochen für geeignete ChatGPT- und Codex-Ausgaben in der EU einzuführen. Über die Programmierschnittstelle, kurz API, ist sie für ausgewählte Modelle zunächst optional verfügbar. Der zugehörige Textdetektor bleibt anfangs zugelassenen Forschenden und Fachorganisationen vorbehalten. […]
Einordnung lesen ↗Wenn KI-Agenten eigene Wege gehen – und Unternehmen verantwortlich bleiben
KI-Agenten umgehen Zugriffsbeschränkungen, verlassen ihre Testumgebung und greifen fremde Systeme an. Das klingt nach dem Moment im Film, in dem jemand hektisch den Stecker sucht. Die dokumentierten Vorfälle brauchen allerdings keine dramatische Musik. Sie sind auch bei nüchterner Betrachtung ernst genug. Dabei hilft weder die Vorstellung einer erwachten Maschine noch die beruhigende Erklärung, es sei […]
Einordnung lesen ↗Vom Einzelfall zum Muster: OpenAI warnt mehr als 100 Organisationen vor seinen KI-Agenten
OpenAI hat mehr als 100 Organisationen über auffällige Aktivitäten seiner KI-Agenten informiert. Die Systeme umgingen teilweise Zugangskontrollen oder griffen auf interne Bereiche von Websites zu. Auch Library and Archives Canada war Ziel eines nicht eindeutig OpenAI zugeordneten Versuchs. Der Fall zeigt, warum autonome KI klare Berechtigungen, Protokollierung und menschliche Kontrolle benötigt.
Einordnung lesen ↗Weiß auf weiß: Wie versteckte Texte KI-Systeme im Recruiting manipulieren sollen
Manche Lebensläufe enthalten Texte, die für Menschen unsichtbar bleiben, von KI-Systemen aber gelesen werden. Eine Untersuchung fand solche Inhalte in rund einem Prozent von etwa 200.000 Bewerbungen. Ob sie tatsächlich erfolgreich waren, wurde nicht geprüft. Die Methode zeigt dennoch, wie leicht externe Dokumente zu Trägern einer Prompt Injection werden können.
Bibliotheksperspektive
Einordnung lesen ↗Die Methode macht ein grundlegendes Problem für Bibliotheken und andere Einrichtungen sichtbar: KI-Systeme können in eingelesenen PDFs, Internetseiten oder E-Mails enthaltene Anweisungen mit den eigentlichen Arbeitsaufträgen verwechseln. Externe Inhalte müssen deshalb als potenziell nicht vertrauenswürdig behandelt und KI-gestützte Bewertungen immer fachlich kontrolliert werden.
Wenn Bibliotheksbestände zu KI-Trainingsdaten werden
OpenAI finanziert die Digitalisierung historischer Bestände der Bodleian Libraries. Die Materialien sollen öffentlich zugänglich werden, fließen aber offenbar auch in das KI-Training ein. Das Projekt zeigt die Chancen automatisierter Erschließung und wirft zugleich Fragen nach Transparenz, Nutzungsrechten und dem wirtschaftlichen Wert bibliothekarischer Sammlungen auf.
Bibliotheksperspektive
Einordnung lesen ↗Bibliotheken sind nicht nur Aufbewahrungsorte, sondern schaffen durch Auswahl, Erschließung und Kontextualisierung den Wert ihrer Sammlungen. Kooperationen mit KI-Unternehmen sollten deshalb den öffentlichen Nutzen, freie Zugänglichkeit, Nutzungsrechte, fachliche Kontrolle und mögliche Abhängigkeiten transparent regeln.
KI erkannt – oder nur verdächtigt? Warum Detektoren keine Beweise liefern
Hochschulen setzen KI-Detektoren ein, um maschinell erzeugte Texte zu erkennen. Die Systeme liefern jedoch nur Wahrscheinlichkeiten und können menschliche Texte falsch markieren oder bearbeitete KI-Texte übersehen.
Bibliotheksperspektive
Einordnung lesen ↗Wissenschaftliche Bibliotheken können bei transparenten Regeln für KI-Nutzung, wissenschaftliches Arbeiten und der kritischen Einordnung automatisierter Bewertungen unterstützen.
Wer schützt Kinder vor KI – und wie unabhängig ist die Kontrolle?
Das Youth AI Safety Institute will KI-Angebote auf Risiken für Kinder und Jugendliche untersuchen und gemeinsame Sicherheitsstandards entwickeln. Da zu den Geldgebern auch Akteure aus der KI-Branche gehören, werden transparente Prüfmethoden und nachvollziehbare Regeln für Interessenkonflikte besonders wichtig.
Bibliotheksperspektive
Einordnung lesen ↗Für Bibliotheken sind unabhängige KI-Bewertungen eine wichtige Orientierung, aber keine verbindliche Altersfreigabe. Informations- und Demokratiebildung umfassen auch die Frage, wer technische Angebote bewertet, nach welchen Kriterien dies geschieht und wer die Prüfung finanziert.
Aus KI wird SI: Warum ein neues Etikett die Risiken nicht verschwinden lässt
Donald Trump möchte Künstliche Intelligenz künftig als „Superintelligenz“ bezeichnen und stellt internationale Regulierung als Gefahr für den technologischen Vorsprung der USA dar. Die Wortwahl beeinflusst, wie Fähigkeiten, Risiken und politische Interessen rund um KI wahrgenommen werden.
Bibliotheksperspektive
Einordnung lesen ↗Für öffentliche und wissenschaftliche Bibliotheken verbindet das Thema technisches KI-Verständnis mit Informations- und Demokratiebildung. Bibliotheken können dabei helfen, technische Begriffe, wissenschaftliche Erkenntnisse und politische Erzählungen voneinander zu unterscheiden.
Wenn die Kamera zur Brille wird: KI-Brillen verändern den öffentlichen Raum
Französische Behörden befassen sich nach Beschwerden und mutmaßlichen Fällen von Belästigung verstärkt mit kamerafähigen Smart Glasses. Die Technik kann unauffällige Aufnahmen erleichtern, zugleich aber auch Menschen mit Behinderungen unterstützen.
Bibliotheksperspektive
Einordnung lesen ↗Bibliotheken sind öffentliche Räume, in denen dennoch Diskretion und geschützte Recherche möglich bleiben müssen. Erforderlich sind nachvollziehbare Regeln, die unerwünschte Aufnahmen begrenzen und assistive Nutzungen weiterhin ermöglichen.