Glossar
Halluzination
Eine Halluzination ist, wenn eine KI etwas Falsches mit voller Überzeugung behauptet: einen erfundenen Fakt, eine Quelle, ein Gesetz oder eine Zahl. Das passiert, weil KI plausiblen Text vorhersagt, keine geprüfte Wahrheit.
Frag eine KI nach den Öffnungszeiten einer kleinen Dorfapotheke und du bekommst möglicherweise eine präzise, höfliche und völlig erfundene Antwort. Das ist eine Halluzination: kein technischer Defekt, sondern eine direkte Konsequenz aus der Funktionsweise eines LLM. Das Modell erzeugt die plausiblesten nächsten Wörter, und eine falsche Antwort, die selbstsicher klingt, wirkt oft plausibler als ein ehrliches „Ich weiß es nicht“.
Das Gefährliche ist der Ton. Halluzinationen kommen in derselben ruhigen, flüssigen Stimme wie korrekte Antworten, inklusive erfundener Paragraphennummern und toter Links. Das Modell lügt nicht; es hat schlicht kein Konzept von wahr und falsch.
Ehrliche Grundregeln: Neuere Modelle halluzinieren seltener, und Web-Suche sowie RAG helfen erheblich, aber niemand hat das Problem beseitigt. Also: Lass dir frei bei Entwürfen, Ideen und Zusammenfassungen helfen; überprüfe Namen, Zahlen, Gesetze, Preise und Quellen, bevor du handelst. Die beste Einzelgewohnheit: Bitte die KI um anklickbare Quellen, die du selbst nachschlagen kannst.
Wo dir das begegnet
Überall dort, wo eine KI zu überprüfbaren Fakten klingt wie selbstverständlich; ChatGPT, Claude und Gemini tun es alle. Prompts mit dem Zusatz „Sag Bescheid, wenn du dir unsicher bist“ helfen nachweislich; unser Prompt-Verbesserer baut diese Absicherung automatisch ein.