Encyclopedia
KI-Halluzination
Was eine KI-Halluzination ist, warum Sprachmodelle sie erzeugen und wie Unternehmenssysteme sie eindämmen.
KI-Halluzination ist, wenn ein KI-Modell eine Antwort erzeugt, die selbstsicher und plausibel klingt, aber sachlich falsch oder erfunden ist.
Warum Modelle halluzinieren
Ein Sprachmodell erzeugt den wahrscheinlichsten nächsten Text, statt geprüfte Fakten nachzuschlagen. Meist ist der wahrscheinliche Text auch richtig, doch wenn dem Modell die echte Antwort fehlt, kann es dennoch flüssigen, selbstsicheren Text erzeugen, der zufällig falsch ist. Es ist eine Eigenschaft der Funktionsweise, kein einfacher Fehler zum Abschalten.
Wie Unternehmenssysteme sie eindämmen
- Verankerung: Das Modell an eine Wissensdatenbank anbinden, sodass es aus echten Inhalten antwortet, der Kerngedanke hinter Retrieval-Augmented Generation.
- Werkzeuge: Es Live-Daten nachschlagen lassen, etwa einen Bestellstatus, statt zu raten.
- Grenzen: Es sagen lassen, dass es etwas nicht weiß, und an einen Menschen übergeben, statt eine Antwort zu erfinden.
- Prüfung: Stichproben von Gesprächen ansehen, um falsche Antworten zu erkennen und zu korrigieren.
Vom Nachschlagen zur Praxis
Setzen Sie das eben Gelesene direkt in einen funktionierenden KI-Agenten auf Ihrem eigenen Kundenkontakt um. Kostenlos starten, keine Kreditkarte nötig.