KI-Agenten im Betrieb: Monitoring, Kosten und Fehlerbehandlung

Kernfrage für Unternehmen

Ein produktiver KI-Agent ist kein einmaliger Prompt, sondern ein laufendes System. Er nutzt Daten, ruft Werkzeuge auf, trifft Zwischenauswahlen und kann Aktionen anstoßen. Unternehmen müssen deshalb messen, ob der Agent fachlich gute Ergebnisse liefert, Kosten und Latenz im Rahmen bleiben, Risiken sichtbar werden und Fehler kontrolliert behandelt werden (Gullí 2025; Bornet et al. 2025).

Abbildung: Eine Kontrollarchitektur für produktive KI-Agenten verbindet Rechte, Guardrails, Quellenprüfung, Freigaben, Logging, Monitoring und Fallbacks. Quelle: eigene Darstellung nach Gullí 2025.

Die Betriebsfrage lautet nicht nur: Funktioniert der Agent? Sie lautet: Funktioniert er zuverlässig genug für diese Aufgabe, mit diesen Daten, diesen Rechten und diesen Fehlerfolgen? Ein Agent, der interne Recherche vorbereitet, darf anders bewertet werden als ein Agent, der Kundenzusagen formuliert oder Änderungen in einem Fachsystem auslöst (Gullí 2025; Bornet et al. 2025).

Abbildung: Acht Kennzahlen machen sichtbar, ob ein KI-Agent im Betrieb fachlich zuverlässig, wirtschaftlich kontrolliert und risikobewusst arbeitet. Quelle: eigene Darstellung nach Gullí 2025.

Typische Stolpersteine

Der erste Stolperstein ist eine rein technische Überwachung. Uptime, Antwortzeit und API-Fehler reichen nicht aus. Unternehmen müssen auch fachliche Qualität, Eskalationen, Nutzerfeedback, Korrekturen, Kosten pro Vorgang und Compliance-Hinweise betrachten. Ein Agent kann technisch stabil laufen und geschäftlich trotzdem schlechte Entscheidungen vorbereiten (Gullí 2025).

Der zweite Stolperstein ist fehlende Fehlerbehandlung. Tools können ausfallen, Datenquellen können veraltet sein, Berechtigungen können fehlen, Modellantworten können widersprüchlich sein. Ein produktiver Agent braucht definierte Reaktionen: erneut versuchen, alternative Quelle nutzen, Aufgabe stoppen, an Menschen eskalieren oder in einen sicheren Zustand zurückkehren (Gullí 2025).

Der dritte Stolperstein sind unkontrollierte Kosten. Agentische Workflows können mehrere Modellaufrufe, lange Kontexte, parallele Teilschritte und Toolzugriffe auslösen. Ohne Budgetgrenzen, Modellstufen, Warnschwellen und Kosten pro Ergebnis wächst Nutzung schnell, ohne dass der wirtschaftliche Beitrag sichtbar bleibt (Gullí 2025; Zwingmann 2025).

Bewährte Vorgehensweisen

Definieren Sie vor dem Produktivstart ein Mindestset an Betriebskennzahlen. Für viele Agenten reichen acht Kennzahlen als Ausgangspunkt (Gullí 2025; Bornet et al. 2025):

1. Aufgabenerfolg: Wie oft erreicht der Agent das fachliche Ziel?
2. Fehlerquote: Wie oft erzeugt er falsche, unvollständige oder unbrauchbare Ergebnisse?
3. Eskalationsrate: Wie oft braucht der Agent menschliche Hilfe?
4. Freigabequote: Wie oft werden vorgeschlagene Aktionen abgelehnt oder verändert?
5. Kosten pro Vorgang: Wie viel kostet eine abgeschlossene Aufgabe?
6. Latenz: Wie lange dauert die Bearbeitung aus Nutzersicht?
7. Tool-Ausfälle: Welche externen Systeme bremsen oder stoppen den Agenten?
8. Policy-Verstöße: Welche Guardrail-, Datenschutz- oder Sicherheitsregeln schlagen an?

Verbinden Sie diese Kennzahlen mit Schwellenwerten. Ein Agent sollte nicht erst überprüft werden, wenn Nutzer:innen sich beschweren. Warnungen können zum Beispiel auslösen, wenn Kosten pro Vorgang steigen, Quellen nicht gefunden werden, ein Tool wiederholt scheitert oder die menschliche Freigabequote ungewöhnlich hoch wird (Gullí 2025).

Planen Sie Fallbacks als Teil des Designs. Bei geringem Risiko kann der Agent eine alternative Datenquelle nutzen oder eine Aufgabe später erneut versuchen. Bei mittlerem Risiko sollte er an einen menschlichen Reviewer eskalieren. Bei hohem Risiko sollte er stoppen, keine Aktion auslösen und den Vorfall protokollieren (Gullí 2025; Bornet et al. 2025).

Bewerten Sie zusätzlich jede Aktion nach ihrer Wiederherstellbarkeit. Entwürfe, interne Notizen oder viele Statusänderungen können meist zurückgenommen werden. Versand, Veröffentlichung, Zahlung, Vertragszusage oder Löschung können dagegen irreversibel sein oder bereits vor einer Korrektur Schaden auslösen. Solche Schritte brauchen vorab technische Begrenzungen, Freigaben oder einen Modus, in dem der Agent nur vorbereitet statt ausführt (Zwingmann 2026).

Einstiegspunkte für die Umsetzung

Beginnen Sie mit einem Betriebssteckbrief pro Agent. Er sollte Zweck, Owner, Datenquellen, Tools, erlaubte Aktionen, verbotene Aktionen, Review-Regeln, Kennzahlen, Kostenlimits, Fallbacks und Abschaltkriterien enthalten. Dieser Steckbrief macht sichtbar, ob der Agent als produktives System verantwortbar ist (Gullí 2025; Bornet et al. 2025).

Richten Sie danach eine regelmäßige Review-Routine ein. Fachbereich, IT, Datenschutz, Security und Compliance sollten gemeinsam prüfen, ob Qualität, Nutzen, Kosten und Risiko noch zusammenpassen. Bei Agenten mit operativer Wirkung reicht eine einmalige Freigabe nicht aus, weil sich Daten, Prozesse, Modelle und Nutzerverhalten verändern (Gullí 2025; Bornet et al. 2025).

💡 Aus meiner Praxis: Die wichtigste Kennzahl ist oft nicht die beeindruckendste. Eine hohe Erfolgsquote hilft wenig, wenn die wenigen Fehler teuer, rechtlich kritisch oder schwer nachvollziehbar sind. Bei Agenten zählen Fehlertyp und Fehlerfolge mindestens so stark wie Durchschnittsleistung.

Mehr dazu: KPIs und Monitoring für KI-Projekte, KI-Portfolio und Kostenkontrolle, Datenqualität und Drift bei KI und KI-Agenten sicher einführen und skalieren.