Fehler und Halluzinationen bei KI-Antworten

Begriff und Einordnung

Eine Halluzination ist eine KI-Antwort, die plausibel klingt, aber fachlich falsch, erfunden, falsch zugeordnet oder unbelegt ist. Für Unternehmen ist daran besonders gefährlich, dass der Ton der Antwort oft sicherer wirkt als die tatsächliche Grundlage (Uintent 2024; Glöckner 2026).

Der Kern liegt nicht in böser Absicht, sondern in der Funktionsweise: Sprachmodelle erzeugen Text Token für Token auf Basis statistischer Wahrscheinlichkeiten. Sie prüfen eine Aussage nicht automatisch wie ein Fachsystem, eine Datenbank, ein Taschenrechner oder eine juristische Fachperson (Glöckner 2026; Niessner 2026).

Funktionsweise in Grundzügen

Ein Sprachmodell berechnet, welche Fortsetzung im gegebenen Kontext plausibel ist. Klare Prompts, Branchenkontext, Zielgruppe, Quellenanforderungen und Ausgabeformat verschieben diese Wahrscheinlichkeiten; vage Anweisungen lassen mehr Raum für generische oder erfundene Ergänzungen (Glöckner 2026).

Fehler entstehen häufig bei fünf Situationen: mehrdeutige Fragen, fehlender Kontext, unbekannte oder veraltete Informationen, Aufgaben mit exakter Zählung oder Rechnung und Fragen, die falsche Annahmen bereits enthalten. Das bekannte Beispiel, die Buchstaben im Wort „strawberry“ falsch zu zählen, zeigt: Auch einfache Aufgaben können scheitern, wenn das Modell Sprache als Muster statt als exakt zu prüfende Zeichenfolge verarbeitet (Uintent 2024).

Besonders kritisch sind scheinbar genaue Prozentwerte zur eigenen Fehlerwahrscheinlichkeit. Wenn ein Chatbot eine Halluzinationswahrscheinlichkeit für seine Antwort nennt, ist das meist keine kalibrierte Messung, sondern wiederum eine sprachlich plausible Schätzung. Unternehmen sollten solche Zahlen nicht als Risikokennzahl übernehmen (Uintent 2024).

Bedeutung für Unternehmen

Für Führungskräfte heißt das: KI-Antworten brauchen eine Risikoklasse. Ein Entwurf für eine interne Ideensammlung darf anders behandelt werden als ein Angebot, eine juristische Einschätzung, eine Finanzberechnung, eine Kundenaussage oder eine operative Entscheidung (Glöckner 2026; Niessner 2026).

Eine praxistaugliche Prüfmatrix unterscheidet vier Stufen (Glöckner 2026; Uintent 2024; Niessner 2026):

1. Entwurf und Struktur: KI darf schnell Varianten, Gliederungen und Formulierungen liefern; Menschen prüfen Tonalität und Zieltreffer.
2. Fakten und Quellen: KI darf Recherchefragen vorbereiten; jede konkrete Behauptung braucht eine externe Quelle oder interne Wissensbasis.
3. Zahlen und Berechnungen: KI darf Rechenweg erklären; Ergebnisse müssen mit Tabellenkalkulation, Code, Fachsystem oder Vier-Augen-Prüfung verifiziert werden.
4. Recht, Haftung und externe Veröffentlichung: KI darf vorbereiten; fachlich Verantwortliche geben frei und dokumentieren die Prüfung.

Diese Stufen verbinden die technische Ursache mit Governance: Je höher Schaden, Außenwirkung oder Rechtsbezug, desto weniger darf ein Sprachmodell allein entscheiden (Uintent 2024; Niessner 2026).

Unternehmen reduzieren Fehler nicht durch blindes Vertrauen, sondern durch gute Arbeitsgestaltung: Prompts mit Ziel, Kontext und Grenzen, Rückfragen bei unklaren Aufgaben, Zerlegung komplexer Fragen, Quellenpflicht, explizite Prüfschritte, Human Review und klare Verantwortlichkeiten. Für Unternehmenswissen kann Retrieval-Augmented Generation (RAG) helfen; sie ersetzt aber ebenfalls keine fachliche Endprüfung (Glöckner 2026; Uintent 2024).

Für interne Regeln gehört deshalb ein einfacher Satz in jede KI-Guideline: KI-Ausgaben sind Arbeitsentwürfe, keine automatisch freigegebenen Fakten. Die Seite KI-Kompetenz und interne Guidelines beschreibt, wie Unternehmen Output-Prüfung, Tool-Freigabe und Schulung organisatorisch verankern (Niessner 2026).

Mehr Grundlagen zur Entstehung von Textantworten stehen auf Sprachmodelle und generative KI. Wenn aus fehlerhaften Outputs ein Schaden entsteht, wird die organisatorische und rechtliche Seite auf Haftung bei KI-Fehlern vertieft (Niessner 2026).