KI kann überzeugend klingen und trotzdem falsch liegen. Wer Halluzinationen erkennt, schützt Entscheidungen, spart Zeit und vermeidet peinliche oder teure Fehler.
Was eine Halluzination ist
Eine Halluzination ist eine inhaltlich falsche, erfundene oder nicht belegte Aussage, die ein KI-Modell mit hoher sprachlicher Sicherheit präsentiert. Das kann eine falsche Zahl sein, ein erfundener Name, eine nicht existierende Quelle oder eine logisch plausible, aber dennoch unbelegte Schlussfolgerung. Entscheidend ist: Die Ausgabe klingt oft professionell, auch wenn sie faktisch nicht stimmt. Im Arbeitsalltag ist das riskant, weil man der Form vertraut und den Inhalt nicht ausreichend prüft. Je spezieller oder aktueller die Frage, desto höher das Risiko für Fehler.
Typische Warnsignale
Halluzinationen zeigen sich oft in auffälligen Mustern: sehr konkrete Details ohne klare Quelle, zu glatte Sicherheit trotz komplexer Lage, widersprüchliche Angaben innerhalb derselben Antwort oder Zitate, die sich nicht finden lassen. Auch erfundene Literatur, falsche Gesetze, ungenaue Produktdetails und frei erfundene Statistiken sind häufige Formen. Ein weiteres Warnsignal ist, wenn die KI auf eine Frage antwortet, die außerhalb ihres Wissens oder ohne ausreichenden Kontext liegt, aber trotzdem eine vollständige Lösung liefert. Gute Arbeitsgewohnheit: Bei wichtigen Aussagen immer fragen, worauf sie sich stützen.
Wie man Antworten prüft
Prüfen Sie zuerst die Art der Aussage: Handelt es sich um eine Tatsache, eine Zahl, eine Quelle, eine Empfehlung oder eine Interpretation? Fakten und Zahlen sollten immer gegen eine verlässliche Primär- oder Fachquelle geprüft werden; Quellenangaben müssen existieren und inhaltlich passen. Wenn die Antwort Unsicherheit betrifft, sollte die KI diese auch offen benennen. Praktisch hilfreich ist das Dreischritt-Prinzip: erst Plausibilität prüfen, dann eine externe Quelle suchen, dann die Aussage im Kontext bewerten. Für Entscheidungen mit hoher Wirkung gilt: KI ist ein Startpunkt, nicht die letzte Instanz.
Wie man Halluzinationen reduziert
Gute Prompts senken das Risiko, auch wenn sie es nie ganz eliminieren. Bitten Sie die KI, zwischen gesicherten Fakten und Annahmen zu unterscheiden, Unsicherheiten klar zu markieren und nur dann Quellen zu nennen, wenn sie diese tatsächlich kennt. Arbeiten Sie mit begrenztem Kontext, klarer Aufgabe und dem Auftrag, bei Lücken Rückfragen zu stellen statt zu erfinden. Besonders wirksam ist es, die KI nicht nur nach einer Antwort, sondern nach einer überprüfbaren Struktur zu fragen: Kernaussage, Begründung, Unsicherheiten, Quellenbedarf. So wird sichtbar, wo die Antwort belastbar ist und wo nicht.
Beispiele
- Eine KI nennt in einem Strategiepapier eine Marktgröße von 8,4 Milliarden Euro inklusive genauer Jahreszahl, aber die Quelle existiert nicht oder nennt einen anderen Wert.
- Beim Verfassen eines Rechts- oder Compliance-Texts führt die KI mehrere Paragraphen an, die im angegebenen Gesetz nicht vorkommen.
- Eine KI behauptet, ein Produkt habe eine bestimmte Funktion in der aktuellen Version, obwohl diese nur in einer früheren Version verfügbar war.
Beantworte die folgende Frage und trenne klar zwischen gesicherten Fakten, plausiblen Annahmen und Unsicherheiten. Wenn dir etwas nicht sicher bekannt ist, sage das ausdrücklich und erfinde nichts: [FRAGE]
Nenne mir zu deiner Antwort nur Punkte, die du mit hoher Sicherheit weißt. Markiere jede Aussage als 'sicher', 'wahrscheinlich' oder 'unsicher' und liste bei allen belastbaren Fakten die Art der Quelle auf, die ich zur Prüfung suchen sollte: [THEMA]
Übung
Nehmen Sie eine aktuelle KI-Antwort aus Ihrer Arbeit und markieren Sie Satz für Satz: Was ist фактisch überprüfbar, was ist Interpretation, und was wirkt möglicherweise erfunden? Prüfen Sie anschließend mindestens zwei kritische Aussagen mit einer externen Quelle.
Häufige Fehler
- — Die Antwort klingt professionell, also wird sie als korrekt akzeptiert.
- — Quellenangaben werden übernommen, ohne sie zu öffnen oder gegen zu prüfen.
- — Unsichere Aussagen werden mit Fakten verwechselt, nur weil sie konkret formuliert sind.
Nicht die überzeugendste Antwort ist die beste, sondern die, die sich prüfen lässt.