KI-Agenten sicher einführen und skalieren¶
Kernfrage für Unternehmen¶
KI-Agenten sind kein normales Tool-Rollout. Sobald ein System Ziele verfolgt, Werkzeuge nutzt und Aktionen auslöst, verändert es Prozesse, Verantwortlichkeiten und Kontrollpunkte. Unternehmen sollten Agenten deshalb als Organisations- und Governance-Thema behandeln, nicht nur als technische Erweiterung von Chatbots oder Automatisierung (Bornet et al. 2025; Niessner 2026).
Die zentrale Führungsfrage lautet: Für welche Aufgaben darf ein Agent selbst handeln, und wo muss ein Mensch bewusst eingebunden bleiben? Strategische Entscheidungen, rechtlich sensible Aussagen, Kundenzusagen, Geldflüsse, Personalentscheidungen und Sicherheitsfragen brauchen meist engere Grenzen als interne Recherche, Vorstrukturierung oder Routinekoordination (Bornet et al. 2025).
Typische Stolpersteine¶
Der erste Stolperstein ist die falsche Use-Case-Auswahl. Bornet et al. empfehlen, Chancen nach Geschäftswirkung, Machbarkeit und Aufwand zu bewerten. Gute Einstiegsfälle liegen dort, wo Aufgaben wiederkehrend sind, Daten und Prozesse ausreichend klar vorliegen und Fehler ohne großen Schaden erkannt oder korrigiert werden können. Schlechte Einstiegsfälle sind unklare Prozesse, politisch sensible Entscheidungen oder stark regulierte Schritte ohne robuste Kontrolle (Bornet et al. 2025).
Quelle: eigene Darstellung nach Bornet et al. 2025.
Der zweite Stolperstein ist ein zu großer Agent. Ein „Super-Agent“, der viele Ziele, viele Tools und viele Ausnahmen gleichzeitig beherrschen soll, wird schwer prüfbar. Sinnvoller sind kleine, spezialisierte Agenten mit klarer Aufgabe, begrenztem Werkzeugzugriff und definierten Übergaben. Das passt auch zur allgemeinen KI-Roadmap-Logik: erst Assistenz und abgegrenzte Automatisierung, dann komplexere agentische Workflows (Bornet et al. 2025; Zwingmann 2025).
Der dritte Stolperstein liegt im ungeklärten Vertrauen. Wenn Mitarbeitende nicht wissen, was der Agent darf, warum er etwas tut und wer haftet oder entscheidet, entsteht Widerstand. Bornet et al. beschreiben Vertrauen als stufenweisen Prozess: Beobachtungsmodus, Low-Risk-Aufgaben, menschliche Freigaben, selektive Prüfung und erst später mehr Autonomie. Dieses „Trust Dial“ passt besonders gut zu regulierten oder reputationssensiblen Unternehmen (Bornet et al. 2025).
Abbildung: Die Grafik zeigt, wie Unternehmen KI-Agenten schrittweise mehr Handlungsspielraum geben können: von Vorschlägen über vorbereitete Entscheidungen bis zu teilautonomem Betrieb mit Monitoring und Not-Aus. Quelle: eigene Darstellung nach Gullí 2025.
Produktionsgate: sehen, verantworten, korrigieren¶
Vor dem produktiven Schreib- oder Aktionszugriff braucht ein Agent drei voneinander abhängige Voraussetzungen (Zwingmann 2026):
- Nachvollziehbarkeit: Eingaben, verwendeter Kontext, Toolaufrufe, Aktionen, angewandte Regeln und Ergebnisse müssen rekonstruierbar sein. Ohne diese Sichtbarkeit lassen sich Fehler weder untersuchen noch systematisch verbessern.
- Verantwortlichkeit: Eine benannte Person oder Rolle besitzt das fachliche Ergebnis, prüft Abweichungen und entscheidet über Anpassung oder Abschaltung. „Die IT“ oder „der Anbieter“ ersetzt keine operative Ownership.
- Korrigierbarkeit: Fehlerhafte Aktionen müssen rückgängig gemacht, vor Ausführung abgefangen oder in ihren Folgen begrenzt werden können. Wo das nicht möglich ist, braucht es vor der Aktion eine menschliche Freigabe oder einen engeren Systemzugriff.
Die drei Bedingungen sind kein nachträgliches Kontrollpaket. Sichtbarkeit ohne Owner führt zu unbeachteten Warnungen; Ownership ohne Eingriffsmöglichkeit bleibt folgenlos; Recovery ohne Protokollierung setzt zu spät an. Der Agent ist erst produktionsreif, wenn das konkrete Betriebsteam alle drei Fragen für den vorgesehenen Einsatz beantworten kann (Zwingmann 2026).
Die Studie Measuring Agents in Production stützt die Richtung, aber nicht die pauschale Behauptung, Agententechnologie sei allgemein produktionsreif. Ihre Hauptauswertung filtert 86 gemeldete Produktions- oder Pilotsysteme aus 306 Antworten; zusätzlich wurden 20 Fälle vertieft. Unter den befragten deployten Systemen führten 68 Prozent höchstens zehn Schritte bis zu menschlicher Intervention aus. Die Autor:innen weisen zugleich darauf hin, dass ihre Auswahl erfolgreiche Deployments und erfahrene Praktiker:innen bevorzugt (Pan et al. 2025).
Bewährte Vorgehensweisen¶
Beginnen Sie mit einer Aufgabenlandkarte statt mit einer Tool-Auswahl. Welche Tätigkeiten kosten viel Zeit? Wo gibt es Medienbrüche? Wo warten Menschen auf Informationen aus mehreren Systemen? Welche Schritte sind klar genug beschrieben? Daraus entstehen bessere Agenten-Use-Cases als aus der Frage, welches neue Produkt gerade verfügbar ist (Bornet et al. 2025).
Definieren Sie für jeden Agenten einen Steckbrief. Er sollte Zweck, Zielgruppe, erlaubte Aufgaben, ausdrücklich verbotene Aufgaben, Datenquellen, Werkzeuge, Entscheidungsspielraum, Eskalationsregeln, Qualitätskriterien und fachliche Verantwortung enthalten. Eine solche „Job Description“ macht aus einem unscharfen KI-Versprechen eine prüfbare digitale Rolle (Bornet et al. 2025).
Bauen Sie Human-in-the-loop bewusst in das Prozessdesign ein. Menschen sollten nicht nur als Notlösung am Ende prüfen, sondern dort eingebunden sein, wo Kontext, Verantwortung, Beziehung oder Risiko entscheidend sind. Operative Routine kann ein Agent innerhalb klarer Grenzen übernehmen; taktische Entscheidungen kann er vorbereiten; strategische Entscheidungen bleiben bei Menschen (Bornet et al. 2025).
Planen Sie Kontrollmechanismen von Anfang an. Dazu gehören Zugriff nach dem Least-Privilege-Prinzip, Transaktions- und Kostenlimits, Freigabeschwellen, Protokolle, Audit Trails, Monitoring, Fallbacks, Not-Aus-Möglichkeiten und regelmäßige Reviews. Diese Kontrollen bremsen Agenten nicht unnötig aus, sondern machen Skalierung erst verantwortbar (Bornet et al. 2025).
Nutzen Sie die Architekturbausteine bewusst. Gullí zeigt, dass Muster wie Routing, Tool Use, Reflection, Human-in-the-loop, Guardrails und Evaluation unterschiedliche Aufgaben erfüllen. Ein sicherer Agent entsteht nicht dadurch, dass alle Muster eingebaut werden, sondern dadurch, dass die richtigen Kontrollpunkte zur Prozesskritikalität passen (Gullí 2025).
Messen Sie nicht nur Effizienz. Ein Business Case für KI-Agenten sollte Durchlaufzeit, Fehlerquote, Kosten, Kundenerlebnis, Mitarbeiterakzeptanz, Qualitätsentwicklung, Governance-Aufwand und Risikoentwicklung gemeinsam betrachten. Sonst optimiert das Unternehmen möglicherweise einen Prozess schneller, aber nicht besser oder sicherer (Bornet et al. 2025).
Einstiegspunkte für die Umsetzung¶
Ein pragmatischer Einstieg beginnt mit drei bis fünf Kandidaten aus bestehenden Prozessen. Bewerten Sie jeden Kandidaten nach Nutzen, Prozessklarheit, Datenverfügbarkeit, Integrationsbedarf, Fehlerfolgen, regulatorischem Risiko und Akzeptanz im Fachbereich. Daraus ergeben sich Quick Wins, strategische Projekte, spätere Kandidaten und klare Nicht-Starten-Fälle (Bornet et al. 2025).
Für den ersten produktiven Agenten empfiehlt sich ein begrenztes Einsatzfeld mit klarer menschlicher Aufsicht. Beispiele sind interne Recherchepakete, vorbereitete Kundenantworten, Ticket-Triage, Meeting- und Aufgabenkoordination, Angebotsvorbereitung oder Dokumentenprüfung. Kritische Aktionen wie Versenden, Löschen, Bestellen, Kündigen, Genehmigen oder rechtlich relevante Zusagen sollten zunächst menschliche Freigaben behalten (Bornet et al. 2025).
Wenn mehrere Agenten entstehen, braucht das Unternehmen ein Betriebsmodell. Typische Rollen sind ein fachlicher Process Owner, ein technischer Owner, Datenschutz und Compliance, Security, ein Human Reviewer sowie ein Lenkungskreis für Prioritäten und Grenzen. Größere Organisationen können zusätzlich ein KI-Center-of-Excellence, AI Champions in Fachbereichen und ein Ethik- oder Governance-Board nutzen (Bornet et al. 2025).
Begrenzen Sie das Agentenportfolio auch nach realer Aufsichtskapazität. Jeder produktive Agent erzeugt Review-, Ausnahme-, Verbesserungs- und Abschaltarbeit. Ein benannter Owner ist nur dann wirksam, wenn diese Person Ergebnisse tatsächlich prüfen und auf Fehler reagieren kann. Die Zahl der Agenten darf deshalb nicht schneller wachsen als Monitoring, fachliche Reviewkapazität und verantwortliche Rollen (Zwingmann 2026).
Skalierung gelingt besser entlang von End-to-end-Prozessen als entlang einzelner Silos. Order-to-Cash, Procure-to-Pay, Kundenservice, Schadenbearbeitung, IT-Service oder Compliance-Dokumentation durchqueren mehrere Abteilungen. Wenn Agenten nur lokale Teilprobleme optimieren, bleiben Übergaben, Verantwortlichkeiten und Datenbrüche bestehen (Bornet et al. 2025).