Warum KI-Agenten Echte Daten Brauchen und Nicht Halluzinieren Dürfen

Sie fragen einen KI-Chatbot, wie viele Einheiten Sie auf Lager haben, und er sagt „ungefähr 200". Die Zahl klingt vernünftig. Sie verwenden sie, um dem Kunden zu antworten. Als Sie ins Lager gehen, sind es 47. Sie haben gerade bei einem Kunden schlecht dagestanden und möglicherweise eine Lieferung zugesagt, die Sie nicht einhalten können.

Das nennt man Halluzination: wenn ein Sprachmodell Informationen erzeugt, die plausibel klingen, aber keinen Bezug zur Realität haben. In lockeren Gesprächen ist das anekdotisch. Im geschäftlichen Kontext ist es gefährlich.

Was eine Halluzination ist und warum sie auftritt

Sprachmodelle (GPT, Llama, Qwen, Gemini) funktionieren, indem sie das nächste wahrscheinlichste Wort in einer Textsequenz vorhersagen. Sie sind darin extrem gut — so gut, dass sie Antworten erzeugen können, die perfekt kohärent, informiert und vertrauenswürdig klingen.

Das Problem ist, dass „vertrauenswürdig klingen" und „korrekt sein" völlig verschiedene Dinge sind.

Wenn Sie ein generisches Sprachmodell fragen: „Wie viele Einheiten von Produkt X haben wir?", hat das Modell keinen Zugriff auf Ihr Inventar. Aber es ist darauf trainiert, nützliche Antworten zu geben, also erzeugt es eine Zahl, die zum Gesprächskontext passt. Es lügt nicht absichtlich — es kennt die Antwort einfach nicht und erzeugt das Wahrscheinlichste.

Das ist akzeptabel, wenn Sie es bitten, ein Gedicht zu schreiben oder einen öffentlichen Artikel zusammenzufassen. Es ist inakzeptabel, wenn Sie nach Ihren Geschäftsdaten fragen.

Die realen Kosten einer geschäftlichen Halluzination

Im geschäftlichen Kontext haben falsche Daten messbare Konsequenzen:

Angebot mit falschem Preis. Der Agent sagt, das Produkt kostet 380 €, obwohl es tatsächlich 420 € kostet. Der Kunde akzeptiert das Angebot. Jetzt haben Sie eine Verpflichtung zu einem Preis, der Ihre Marge auffrisst, oder Sie müssen nachverhandeln.

Phantombestand. Der Agent sagt, es seien 200 Einheiten verfügbar. Sie verpflichten sich zur Lieferung. Im Lager sind 47. Der Kunde erhält nicht rechtzeitig und bestraft Sie oder wechselt den Lieferanten.

Falsch berechnete Forderungen. Der Agent sagt, ein Kunde schuldet Ihnen 150.000 €, obwohl er tatsächlich 280.000 € schuldet. Die Differenz sind 130.000 €, die Sie nicht rechtzeitig eintreiben.

Doppelte Bestellung. Der Agent erkennt nicht, dass bereits eine offene Bestellung beim selben Lieferanten für dasselbe Produkt existiert. Sie kaufen doppelt. Überbestand. Doppelte Frachtkosten.

Jedes dieser Szenarien ist ein Chatbot, der sehr intelligent klang und dabei Daten erzeugte, die er nicht gegen die Realität überprüft hat.

Wie es gelöst wird: Werkzeuge + echte Daten

Die Lösung ist nicht „das Modell besser trainieren" — sondern ihm Zugang zu echten Daten zu geben. Ein Unternehmens-KI-Agent unterscheidet sich von einem generischen Chatbot dadurch, dass er über Werkzeuge verfügt: Funktionen, die es ihm ermöglichen, echte Systeme abzufragen und darauf zu operieren.

Wenn der Verkaufsagent die Frage erhält „Wie viele Einheiten von Produkt X haben wir?", erzeugt er keine Zahl. Er ruft ein Werkzeug auf: inventar_abfragen(produkt="X", lager="alle"). Dieses Werkzeug führt eine SQL-Abfrage gegen die echte Inventartabelle aus und liefert den exakten Datenpunkt. Der Agent präsentiert dieses Datum dem Benutzer.

Es gibt keinen Raum für Halluzination, weil die Antwort nicht vom Sprachmodell erzeugt wird — sie kommt von der Datenbank. Das Modell entscheidet nur, welches Werkzeug zu verwenden ist und wie das Ergebnis zu präsentieren ist.

Dasselbe gilt für Preise (Abfrage des echten Katalogs), überfällige Forderungen (Abfrage echter Rechnungen), Kundendaten (Abfrage des echten CRM). Jeder kritische Datenpunkt stammt aus einer überprüfbaren Quelle, nicht aus der Fantasie des Modells.

Das Muster: Denken + Handeln

Die Architektur, die geschäftliche Halluzinationen löst, ist als ReAct (Reasoning + Acting) bekannt. Das Sprachmodell tut zwei Dinge:

Denkt darüber nach, was der Benutzer braucht. „Der Benutzer möchte den Bestand von Produkt X wissen. Ich muss das Inventar abfragen."

Handelt, indem es das richtige Werkzeug aufruft. Es führt inventar_abfragen aus und erhält die echten Daten.

Wenn das Werkzeug zurückgibt, dass kein Bestand vorhanden ist, sagt der Agent, dass kein Bestand vorhanden ist — er erfindet keine Zahl, um gut dazustehen. Wenn der Kunde nicht im System existiert, sagt er, dass er nicht gefunden wurde — er fabriziert keine fiktiven Daten.

Dieses Muster gilt für jede Interaktion. Der Agent antwortet nie mit Daten, die nicht aus einer überprüfbaren Quelle stammen. Er kann denken, vorschlagen, priorisieren — aber die Daten sind immer echt.

Zusätzliche Validierungen

Neben der Abfrage echter Daten implementiert ein gut gestalteter Agent Validierungen, die Fehler verhindern:

Bestandsprüfung vor der Angebotserstellung. Er erstellt kein Angebot, wenn nicht genügend Inventar zur Auftragserfüllung vorhanden ist.

Validierung von Steuerdaten. Er überprüft das Steuer-ID-Format und die Kohärenz des Steuerregimes, bevor er eine Rechnung erstellt.

Duplikaterkennung. Vor der Erfassung einer Bestellung oder Zahlung prüft er, ob kein ähnlicher aktueller Eintrag existiert.

Autorisierungsgrenzen. Vorgänge, die einen bestimmten Betrag überschreiten, erfordern menschliche Genehmigung. Der Agent schlägt vor, führt aber nicht einseitig aus.

Diese Validierungen hängen nicht vom Sprachmodell ab — sie sind Geschäftsregeln, die in den Werkzeugen implementiert sind. Das Modell kann sie nicht umgehen.

The Manager: echte Daten, immer

Bei Leeuwwolk haben wir The Manager mit einer einfachen Regel entwickelt: Jeder Datenpunkt, den ein Agent dem Benutzer präsentiert, stammt aus einer echten Systemabfrage. Die drei Agenten (Verkauf, Inkasso, Einkauf) arbeiten ausschließlich mit Werkzeugen, die die Datenbank in Echtzeit abfragen.

Es gibt keine Schätzungen, keine Annäherungen, keine vom Modell erzeugten Daten. Wenn der Agent sagt, es gibt 142 Einheiten, dann gibt es 142 Einheiten. Wenn er sagt, der Kunde schuldet 347.520 €, ist das die exakte Summe seiner ausstehenden Rechnungen.

→ Erfahren Sie mehr über The Manager: Agenten, die nicht halluzinieren

Leeuwwolk ist ein mexikanisches Unternehmen, das sich auf Unternehmens-KI-Agenten spezialisiert hat, die mit echten Daten arbeiten.