KI-Detektoren an Hochschulen: Warum Ergebnisse keine Beweise sind

Hochschulen setzen KI-Detektoren ein, um maschinell erzeugte Texte zu erkennen. Die Systeme liefern jedoch nur Wahrscheinlichkeiten und können menschliche Texte falsch markieren oder bearbeitete KI-Texte übersehen.

Hochschulen stehen vor einem schwierigen Problem: Studierende können mit ChatGPT und anderen KI-Werkzeugen innerhalb weniger Minuten Texte erstellen, überarbeiten oder sprachlich verbessern. Gleichzeitig lässt sich einem fertigen Text kaum ansehen, wie er tatsächlich entstanden ist.

Programme wie Turnitin, GPTZero oder Pangram versprechen hier Unterstützung. Sie untersuchen sprachliche Muster und berechnen, wie wahrscheinlich es ist, dass ein Text ganz oder teilweise von einer KI erzeugt wurde. Ein aktueller Bericht des Atlantic zeigt jedoch, wie umstritten ihr Einsatz an Hochschulen bleibt. Während einige Lehrende darin ein notwendiges Mittel gegen Täuschungsversuche sehen, warnen andere vor falschen Verdächtigungen und unfairen Verfahren.

Das grundlegende Problem: Ein KI-Detektor erkennt keine Autorenschaft. Er berechnet Wahrscheinlichkeiten anhand bestimmter Textmerkmale. Trotzdem kann aus einem Prozentwert schnell ein schwerwiegender Vorwurf werden.

Ein Ergebnis ist kein Beweis

KI-Detektoren vergleichen Texte mit sprachlichen Mustern, die sie aus menschlich und maschinell verfassten Beispielen kennen. Auffällig können etwa besonders gleichmäßige Satzstrukturen, häufig vorkommende Formulierungen oder eine statistisch gut vorhersehbare Wortwahl sein.

Solche Merkmale sind jedoch nicht ausschließlich bei KI-Texten zu finden. Sie können ebenso in stark formalisierten wissenschaftlichen Arbeiten, einfachen Zusammenfassungen oder Texten von Menschen auftreten, die in einer Fremdsprache schreiben. Auch bewusst sachliche und sprachlich geglättete Texte können einem System maschinell erzeugt erscheinen.

Umgekehrt lassen sich KI-generierte Texte häufig durch kleinere Veränderungen, Übersetzungen oder sogenannte Humanizer so bearbeiten, dass Detektoren sie nicht mehr zuverlässig erkennen. Dadurch entsteht eine paradoxe Situation: Wer KI offen zur sprachlichen Überarbeitung verwendet, kann auffallen. Wer einen vollständig generierten Text gezielt verschleiert, bleibt möglicherweise unentdeckt.

Eine aktuelle wissenschaftliche Untersuchung kommt zu einem ähnlichen Ergebnis. Darin wurden selbst leicht mit KI überarbeitete wissenschaftliche Texte häufig als maschinell erstellt markiert. Nach der Bearbeitung mit einem Humanizer wurden dagegen weniger als vier Prozent der zuvor erkannten KI-Texte weiterhin gefunden. Die Forschenden warnen deshalb ausdrücklich davor, Detektorwerte als alleinigen Nachweis wissenschaftlichen Fehlverhaltens zu verwenden.

Auch die Anbieter räumen Unsicherheiten ein

Turnitin gibt für Texte mit einem höheren erkannten KI-Anteil eine Falsch-Positiv-Rate von weniger als einem Prozent an. Das klingt zunächst sehr zuverlässig. Selbst eine geringe Fehlerquote wird jedoch relevant, wenn Millionen von Arbeiten geprüft werden und für die Betroffenen viel auf dem Spiel steht.

Zudem zeigt Turnitin bei Werten unter 20 Prozent inzwischen keinen konkreten Prozentwert mehr an. Das Unternehmen begründet dies damit, dass in diesem Bereich häufiger menschliche Texte fälschlich als KI-generiert erkannt werden. Bereits diese Einschränkung macht deutlich, dass die Ergebnisse nicht wie ein technischer Fingerabdruck verstanden werden dürfen.

Mehrere Hochschulen gehen deshalb vorsichtig mit solchen Werkzeugen um. Die Columbia University erklärt beispielsweise, dass ein Bericht eines KI-Detektors nicht als alleiniger Beweis in einem Verfahren gegen Studierende verwendet werden darf. Die University of Pittsburgh empfiehlt sogar grundsätzlich, auf KI-Detektoren zu verzichten, weil sie nicht zuverlässig genug seien, um einen Verstoß gegen Regeln zur wissenschaftlichen Integrität nachzuweisen.

Die Vanderbilt University hatte Turnitins KI-Erkennung bereits 2023 deaktiviert. Ausschlaggebend waren unter anderem offene Fragen zur Genauigkeit, zur Auslegung der Ergebnisse und zu möglichen Folgen falscher Verdächtigungen.

Das eigentliche Problem sind häufig unklare Regeln

Die Diskussion über KI-Detektoren verdeckt leicht ein tiefer liegendes Problem: An vielen Hochschulen ist nicht eindeutig geregelt, welche Formen der KI-Nutzung erlaubt sind.

Ist es bereits Täuschung, wenn ein Sprachmodell einen Satz verständlicher formuliert? Darf eine KI bei der Gliederung helfen? Muss jede sprachliche Korrektur dokumentiert werden? Und wie ist damit umzugehen, wenn KI-Funktionen bereits in Textverarbeitungsprogramme, Übersetzungsdienste oder Literaturverwaltungssoftware integriert sind?

Ein Detektor kann diese Fragen nicht beantworten. Er unterscheidet nicht zuverlässig zwischen einem vollständig generierten Aufsatz und einem selbst geschriebenen Text, dessen Formulierungen mithilfe einer KI überarbeitet wurden. Vor allem kann er nicht feststellen, ob die jeweilige Nutzung nach den Regeln einer konkreten Lehrveranstaltung erlaubt war.

Wissenschaftliche Integrität lässt sich deshalb nicht auf die Frage reduzieren, ob ein technisches System bestimmte sprachliche Muster erkennt. Entscheidend ist, ob Studierende ihre eigene geistige Leistung nachvollziehbar erbringen, Quellen korrekt angeben und verwendete Hilfsmittel transparent machen.

Falsche Verdächtigungen sind nicht folgenlos

Der Vorwurf, eine Prüfungsleistung mit unerlaubter KI-Hilfe erstellt zu haben, kann erhebliche Konsequenzen haben. Er kann zur Abwertung oder zum Nichtbestehen einer Arbeit, zu einem formellen Verfahren und im schlimmsten Fall zu langfristigen Nachteilen im Studium führen.

Deshalb gelten auch bei KI-Verdachtsfällen grundlegende Anforderungen an ein faires Verfahren. Ein automatisch erzeugter Wert darf nicht die Beweislast umkehren. Studierende sollten nicht allein deshalb ihre Unschuld beweisen müssen, weil ein kommerzielles System ihren Schreibstil für statistisch auffällig hält.

Besonders problematisch ist dies für Menschen, deren Texte bereits häufiger von sprachlichen Normvorstellungen abweichen oder die standardisierte Formulierungen verwenden. Dazu können Personen gehören, die nicht in ihrer Erstsprache schreiben, neurodivergente Menschen oder Studierende, die unterstützende Technologien benötigen.

Wenn Hochschulen solche Unterschiede nicht berücksichtigen, kann ein Werkzeug zur Sicherung wissenschaftlicher Qualität selbst neue Benachteiligungen erzeugen.

Wissenschaftliche Bibliotheken können Orientierung geben

Wissenschaftliche Bibliotheken sind nicht für die Bewertung von Prüfungsleistungen zuständig. Sie sind jedoch wichtige Anlaufstellen für wissenschaftliches Arbeiten, Recherche, Quellenkritik und den transparenten Umgang mit Informationen.

Im Zusammenhang mit generativer KI erweitert sich diese Aufgabe. Studierende und Lehrende benötigen verständliche Regeln dafür, welche KI-Unterstützung erlaubt ist, wie sie dokumentiert werden kann und wo die Grenze zwischen Hilfsmittel und nicht selbst erbrachter Leistung verläuft.

Bibliotheken können dabei helfen, unterschiedliche Nutzungsformen voneinander zu trennen: Ideenfindung, sprachliche Überarbeitung, Übersetzung, Literaturrecherche und vollständige Texterzeugung sind nicht dasselbe. Eine verantwortungsvolle Bewertung muss den tatsächlichen Arbeitsprozess betrachten und darf nicht jede Nutzung unter einen pauschalen Täuschungsverdacht stellen.

Gleichzeitig gehört zur Informationskompetenz auch das Verständnis dafür, wie KI-Detektoren funktionieren. Ihre Ergebnisse sollten kritisch gelesen werden wie andere automatisch erzeugte Bewertungen: Welche Daten wurden verwendet? Wie hoch ist die Fehlerquote? Welche Texte bereiten dem System Schwierigkeiten? Und kann das Ergebnis unabhängig überprüft werden?

Der Entstehungsprozess ist wichtiger als die Jagd nach KI-Spuren

Statt sich allein auf Detektoren zu verlassen, können Hochschulen stärker auf nachvollziehbare Arbeitsprozesse achten. Dazu gehören beispielsweise Zwischenstände, Rechercheprotokolle, begründete Quellenentscheidungen, Versionsverläufe oder Gespräche über die Argumentation einer Arbeit.

Solche Verfahren sind aufwendiger als ein automatisch erzeugter Prozentwert. Sie prüfen aber eher das, worum es in Bildung eigentlich gehen sollte: ob jemand ein Thema verstanden, Quellen beurteilt und eine eigenständige Argumentation entwickelt hat.

Auch Prüfungsaufgaben selbst müssen sich verändern. Wenn sich eine Aufgabe vollständig durch das Zusammenfügen allgemein verfügbarer Informationen lösen lässt, war sie möglicherweise schon vor generativer KI nur begrenzt geeignet, Verständnis und Urteilskraft sichtbar zu machen.

Das bedeutet nicht, Täuschungsversuche hinzunehmen. Hochschulen brauchen klare Konsequenzen, wenn Studierende vollständige KI-Texte als eigene Leistung ausgeben. Diese Konsequenzen müssen sich jedoch auf nachvollziehbare Belege und faire Verfahren stützen.

Vertrauen lässt sich nicht automatisieren

KI-Detektoren können Hinweise liefern. Mehr können sie derzeit nicht verlässlich leisten. Wer aus einem Wahrscheinlichkeitswert unmittelbar einen Täuschungsvorwurf ableitet, überträgt eine pädagogische und rechtlich sensible Entscheidung an ein System, dessen Bewertung weder fehlerfrei noch vollständig nachvollziehbar ist.

Die entscheidende Frage lautet deshalb nicht, welcher Detektor die höchste Trefferquote verspricht. Hochschulen müssen klären, welche Formen der KI-Nutzung sie zulassen, wie Studierende diese offenlegen können und nach welchen Regeln Verdachtsfälle geprüft werden.

Wissenschaftliche Integrität entsteht nicht durch eine möglichst lückenlose technische Überwachung. Sie braucht transparente Erwartungen, Informationskompetenz und eine Lernkultur, in der der eigene Arbeitsprozess wieder stärker zählt als die vermeintliche Sicherheit eines Prozentwerts.