Was ist eine Halluzination?

Als Halluzination bezeichnet man das Phänomen, dass eine KI eine überzeugend klingende, aber sachlich falsche Aussage macht – etwa eine erfundene Quelle zitiert, ein nicht existierendes Produkt beschreibt oder falsche Zahlen nennt.

Der Grund liegt in der Funktionsweise von Sprachmodellen: Sie erzeugen Text, der statistisch plausibel klingt – ein eingebautes Konzept von „wahr" oder „falsch" haben sie nicht. Meist liegen sie richtig, weil ihre Trainingsdaten korrektes Wissen enthalten. Aber wenn Wissen fehlt, füllen sie die Lücke selbstbewusst mit Erfundenem.

Wie man das Risiko in den Griff bekommt

• Wissensanbindung: Die KI antwortet nur auf Basis geprüfter Firmenquellen (RAG) statt aus dem Gedächtnis.
• Eingrenzung: Der Einsatzbereich wird klar definiert – bei Fragen außerhalb sagt das System ehrlich „das weiß ich nicht".
• Mensch in der Schleife: Bei allem Verbindlichen prüft ein Mensch, bevor etwas rausgeht.

Halluzinationen sind der Hauptgrund, warum ein professionell gebauter KI-Chatbot mehr ist als ein an die Website getackertes ChatGPT – die Kontrollmechanismen machen den Unterschied.