Aktionen sortieren, nicht Agenten
Ein Agent ist eine Kette von Aktionen. Er liest ein Postfach, sucht einen Kunden im CRM, schreibt einen Entwurf, verschickt eine Mail, bucht eine Rechnung. Jede dieser Aktionen bewerten Sie mit zwei Fragen. Lässt sie sich zurückdrehen? Und was kostet ein Fehler, wenn ihn einen Tag lang niemand bemerkt?
Lesen und entwerfen. Postfach lesen, Daten zusammensuchen, eine Antwort oder ein Angebot vorformulieren. Hier hat noch nichts das Haus verlassen. Ein schlechter Entwurf kostet die Zeit, ihn zu löschen. Diese Aktionen darf ein Agent vom ersten Tag an allein ausführen.
Intern ändern. Ein Ticket verschieben, ein Feld im CRM füllen, ein Dokument ablegen. Das lässt sich rückgängig machen, aber Fehler pflanzen sich fort. Ordnet der Agent eine Anfrage dem falschen Kunden zu, bauen die nächsten drei Schritte darauf auf. Allein erlaubt, solange jede Änderung protokolliert ist und sich mit einem Klick zurücknehmen lässt.
Nach außen gehen. Eine Mail an einen Kunden, eine Lieferzusage, eine Antwort auf eine Reklamation. Was draußen ist, holen Sie nicht zurück. Eine zugesagte Lieferung am Donnerstag bleibt eine Zusage, auch wenn ein Programm sie geschrieben hat. Hier gehört anfangs ein Mensch davor. Wie das bei Angeboten aussieht, die nach § 145 BGB binden, zeigt der Artikel Angebotserstellung automatisieren.
Geld bewegen und löschen. Zahlungen, Gutschriften, gelöschte Datensätze, gekündigte Verträge. Nicht umkehrbar oder nur mit Aufwand und Entschuldigung. Hier steht immer ein Mensch davor.
Eine Grenze kommt von außen dazu. Entscheidet der Agent über Menschen, greift in der EU Art. 22 DSGVO. Betroffene haben danach das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Eine automatische Absage an Bewerberinnen und Bewerber kann darunter fallen. Es gibt Ausnahmen, aber die prüft Ihr Datenschutzbeauftragter, nicht der Agent.
Die Autonomie-Leiter
Die folgende Leiter hat fünf Stufen. Jede Aktion eines Agenten steht auf genau einer davon, und zwar einzeln. Derselbe Agent darf Mails allein lesen und muss trotzdem vor dem Versand fragen.
Stufe 1, der Agent liest. Er sammelt Informationen, fasst zusammen und zeigt sie an. Er schreibt nichts und ändert nichts. Hier beginnt jede neue Aktion, bei der Sie nicht sicher sind.
Stufe 2, der Agent entwirft. Er legt einen Vorschlag hin, den ein Mensch übernimmt, ändert oder verwirft. Die Aktion selbst führt der Mensch aus, in seinem eigenen Werkzeug.
Stufe 3, Freigabe vorher. Der Agent bereitet die Aktion vollständig vor. Ein Mensch sieht sie und gibt mit einem Klick frei. Ohne Klick passiert nichts.
Stufe 4, Kontrolle danach. Der Agent führt die Aktion allein aus. Ein Mensch sieht einmal am Tag die Liste durch und kann jede Aktion zurücknehmen. Das taugt nur für Aktionen, die sich wirklich zurücknehmen lassen.
Stufe 5, allein in festen Grenzen. Der Agent handelt ohne Kontrolle, aber nur innerhalb von Regeln, die Sie aufgeschrieben haben. Ein Betragslimit, bestimmte Kundengruppen, bestimmte Vorlagen. Alles außerhalb fällt zurück auf Stufe 3.
So wenden Sie die Leiter an. Nehmen Sie einen Prozess, zum Beispiel den Auftragseingang bei einem Großhändler mit 60 Leuten. Schreiben Sie jede Aktion des Agenten in eine Zeile und setzen Sie daneben die Stufe und den Namen der Person, die freigibt. Zwei Regeln helfen dabei. Neue Aktionen starten eine Stufe tiefer, als Ihr Bauchgefühl sagt. Und was sich nicht zurückdrehen lässt, kommt nie auf Stufe 4, denn eine Kontrolle danach ändert an einer verschickten Mail nichts mehr.
Freigeben muss schneller gehen als selbst machen
Stufe 3 scheitert meistens an der Freigabe selbst. Dauert sie fünf Minuten und die Aufgabe ohne Agent sieben, umgehen die Leute den Agenten, und Sie haben Geld für ein Werkzeug ausgegeben, das im Regal steht.
Ein Bildschirm. Auf einer Ansicht steht, was der Agent tun will, dazu der fertige Entwurf und die Quelle, aus der er gearbeitet hat. Das ist die Kundenmail, die Bestellung, die Zeile aus der Preisliste. Darunter drei Knöpfe: Freigeben, Bearbeiten, Ablehnen. Wer freigibt, muss nicht ins ERP wechseln, um etwas nachzusehen.
Die Begründung steht dabei. Der Agent schreibt in einem Satz, warum er das vorschlägt. "Kunde fragt nach Liefertermin, 40 Stück auf Lager, Standardlieferzeit laut Preisliste drei Werktage." Die Person prüft dann eine Begründung und muss nicht raten, wie der Agent darauf kam.
Dort, wo die Leute ohnehin arbeiten. Die Freigabe kommt in Teams, im Postfach oder im Ticketsystem an. Ein neues Portal mit eigenem Login öffnet nach drei Wochen niemand mehr.
Ablehnen kostet einen Satz. Beim Ablehnen und beim Bearbeiten gibt es ein kurzes Feld für den Grund. Es ist freiwillig, aber es steht da. Aus diesem einen Satz lernen Sie mehr über Ihren Agenten als aus jedem Dashboard.
Mehr Autonomie nur auf Beleg
Nach ein paar Wochen kommt der Wunsch, den Agenten mehr allein machen zu lassen. Das ist richtig, solange Sie es an Daten festmachen und nicht an der Stimmung im Team.
Korrekturen sind Ihr Testset. Jede Bearbeitung und jede Ablehnung wird gespeichert, zusammen mit dem ursprünglichen Entwurf. Nach einem Monat haben Sie eine Sammlung echter Fälle, in denen der Agent danebenlag. Bevor Sie das Modell wechseln oder die Anweisungen ändern, lassen Sie diese Fälle noch einmal durchlaufen. Macht der Agent einen alten Fehler wieder, geht die Änderung nicht live.
Aufsteigen nach Regel. Legen Sie vorher fest, wann eine Aktion eine Stufe höher darf. Zum Beispiel, wenn über einen bestimmten Zeitraum und eine bestimmte Zahl von Fällen niemand inhaltlich etwas geändert hat. Welche Zahlen Sie wählen, hängt vom Risiko ab. Für ein CRM-Feld reicht weniger als für eine Mail an Kunden.
Auf Durchwinken achten. Wenn Freigaben Routine werden, klicken Leute, ohne zu lesen. Der EU AI Act nennt dieses Muster für Hochrisiko-Systeme in Artikel 14 beim Namen, als automation bias, also die Neigung, sich zu sehr auf die Ausgabe eines Systems zu verlassen. Die Anzeichen sehen Sie in den Daten. Lange Entwürfe werden in wenigen Sekunden freigegeben, und über Wochen ändert niemand etwas. Das heißt dann entweder, dass der Agent reif für die nächste Stufe ist, oder, dass keiner mehr hinsieht. Finden Sie heraus, welches von beiden zutrifft, bevor Sie hochstufen. Ein Stichprobengespräch pro Woche reicht dafür oft: Warum haben Sie diesen Entwurf so freigegeben?
Zurückstufen ist normal. Nach einem Modellwechsel, einer neuen Produktlinie oder einer Preisänderung rutscht eine Aktion wieder eine Stufe tiefer, bis die Korrekturen zeigen, dass sie wieder passt. Die Leiter geht in beide Richtungen.
Ein Agent, der nichts allein darf, spart keine Zeit. Einer, der alles darf, kostet Sie irgendwann einen Kunden. Dazwischen liegt eine Tabelle mit jeder Aktion, ihrer Stufe und dem Namen der Person, die freigibt. Diese Tabelle schreiben Sie an einem Nachmittag, und sie ist die einzige Entscheidung an Ihrem Agenten, die Sie keinem Programm überlassen sollten.