Kurzfassung: Drei Wanderer planten eine anspruchsvolle Tour am Mount Shasta mithilfe von Google Gemini. Die Gruppe unterschätzte offenbar Dauer und Anforderungen der Route und musste schließlich gerettet werden. Der Vorfall eignet sich als anschauliches Beispiel dafür, warum überzeugend formulierte KI-Antworten nicht automatisch verlässlich sind.
Was passiert ist
Nach Berichten von Golem und TechCrunch nutzte die Gruppe Gemini unter anderem für die Routenplanung und eine Packliste. Aus einer vermeintlich etwa achtstündigen Unternehmung wurde eine mehrtägige Notlage. Den Wanderern fehlten ausreichende Vorräte und Wasser; Rettungskräfte mussten sie vom Berg holen.
Der Fall lässt sich allerdings nicht einfach mit „Die KI ist schuld“ erklären. Menschen entscheiden selbst, welchen Empfehlungen sie folgen und ob sie weitere Informationen einholen. Gleichzeitig tragen Anbieter Verantwortung dafür, die Grenzen ihrer Systeme verständlich zu machen – besonders dann, wenn eine Antwort wie eine konkrete Fachberatung wirkt.
Warum KI-Antworten so überzeugend wirken
Generative KI (Systeme, die auf Grundlage gelernter Muster neue Texte, Bilder oder andere Inhalte erzeugen) formuliert häufig flüssig und selbstsicher. Sie verfügt aber nicht automatisch über aktuelle Ortskenntnisse, kennt weder die körperliche Verfassung der Fragenden noch kurzfristige Wetter- oder Wegverhältnisse. Selbst eine plausibel klingende Route kann deshalb ungeeignet oder gefährlich sein.
Hinzu kommt der Automationsbias (die Neigung, Vorschlägen eines technischen Systems zu viel Vertrauen zu schenken). Je übersichtlicher und freundlicher eine Antwort präsentiert wird, desto leichter wird vergessen, nach der Herkunft, Aktualität und möglichen Lücken der Informationen zu fragen.
Wichtig für die Einordnung
Der Vorfall zeigt nicht, dass KI grundsätzlich ungeeignet für Reise- oder Tourenplanungen ist. Sie kann beispielsweise dabei helfen, erste Fragen zu sammeln, eine Packliste zu strukturieren oder verschiedene Möglichkeiten gegenüberzustellen.
Entscheidend ist, die erzeugten Informationen anschließend mit verlässlichen Quellen abzugleichen. Bei einer Bergtour gehören dazu aktuelle Wetterberichte, offizielle Warnungen, Informationen der zuständigen Park- oder Rettungsbehörden sowie aktuelle Karten und Erfahrungsberichte ortskundiger Personen.
Je größer die möglichen Folgen einer falschen Information sind, desto wichtiger wird diese zusätzliche Prüfung.
Bibliotheksbezug
Für die Vermittlung von Informationskompetenz ist der Vorfall besonders geeignet, weil er die Folgen ungeprüfter Informationen sehr konkret macht. Bibliotheken können daran zeigen, dass Quellenkritik nicht bei klassischen Suchmaschinen endet. Auch KI-Antworten müssen hinsichtlich ihrer Herkunft, Aktualität, Vollständigkeit und fachlichen Zuständigkeit geprüft werden.
Eine einfache Prüfroutine kann aus vier Fragen bestehen:
- Wer ist für die Information verantwortlich?
- Wie aktuell ist die Information?
- Welche überprüfbaren Belege oder Quellen werden genannt?
- Gibt es eine offizielle, lokale oder fachlich zuständige Quelle?
Dabei ist auch wichtig, verschiedene Recherchewege miteinander zu vergleichen. Eine KI-Antwort, eine gewöhnliche Suchmaschine, ein Bibliothekskatalog, eine Fachdatenbank und eine offizielle Informationsseite erfüllen unterschiedliche Aufgaben. Informationskompetenz bedeutet deshalb nicht nur, Informationen zu finden, sondern das jeweils passende Werkzeug auszuwählen und dessen Grenzen zu kennen.
Bibliotheken können solche Fälle in Workshops, Schulungen oder Beratungsgesprächen aufgreifen. Teilnehmende könnten beispielsweise zunächst eine KI eine Reise, Wanderung oder Veranstaltung planen lassen und anschließend die einzelnen Angaben anhand verlässlicher Quellen überprüfen. So wird aus einer abstrakten Warnung vor möglichen KI-Fehlern eine praktische Übung zur Quellenkritik.
Bei Sicherheits-, Gesundheits-, Rechts- oder Finanzfragen sollte KI höchstens ein Ausgangspunkt für die weitere Recherche sein. Die eigentliche Entscheidung benötigt verlässliche Informationen und gegebenenfalls menschliche Fachberatung.
Quellen
- Golem: Bergsteiger planen Tour mit Gemini und müssen gerettet werden, 7. September 2026
- TechCrunch: Hikers rescued after using Google Gemini for planning, 5. September 2026