Zum Inhalt springen
caadoo
en

KI-Agenten mit Freigabe: Was ein Mensch entscheidet

Viele Firmen lassen einen KI-Agenten entweder jeden Schritt absegnen oder gleich alles allein machen. Beides geht schief, nur an verschiedenen Stellen. Hier ist eine einfache Autonomie-Leiter, mit der Sie jede Aktion danach einordnen, ob sie sich zurückdrehen lässt und was ein Fehler kostet.

Von T. Krause7 Min. Lesezeit

Der Agent liest die eingehenden Bestellungen, prüft den Lagerbestand und schreibt die Auftragsbestätigung. In der Besprechung kommt dann die Frage, auf die es ankommt: Darf der das einfach rausschicken?

Meistens gibt es zwei Lager. Das eine will jeden Schritt freigeben. Das Ergebnis ist ein System, das keiner nutzt, weil das Freigeben länger dauert als das Selbermachen. Das andere Lager will sehen, was der Agent kann, und erfährt an einem Freitagnachmittag, was er einem Kunden zugesagt hat.

Beide stellen die Frage für den ganzen Agenten. Brauchbar wird sie erst, wenn Sie sie für jede einzelne Aktion stellen. Was darf der Agent an dieser Stelle allein, und woran merken Sie, dass er mehr darf?

Foto: Unsplash

Aktionen sortieren, nicht Agenten

Ein Agent ist eine Kette von Aktionen. Er liest ein Postfach, sucht einen Kunden im CRM, schreibt einen Entwurf, verschickt eine Mail, bucht eine Rechnung. Jede dieser Aktionen bewerten Sie mit zwei Fragen. Lässt sie sich zurückdrehen? Und was kostet ein Fehler, wenn ihn einen Tag lang niemand bemerkt?

Lesen und entwerfen. Postfach lesen, Daten zusammensuchen, eine Antwort oder ein Angebot vorformulieren. Hier hat noch nichts das Haus verlassen. Ein schlechter Entwurf kostet die Zeit, ihn zu löschen. Diese Aktionen darf ein Agent vom ersten Tag an allein ausführen.

Intern ändern. Ein Ticket verschieben, ein Feld im CRM füllen, ein Dokument ablegen. Das lässt sich rückgängig machen, aber Fehler pflanzen sich fort. Ordnet der Agent eine Anfrage dem falschen Kunden zu, bauen die nächsten drei Schritte darauf auf. Allein erlaubt, solange jede Änderung protokolliert ist und sich mit einem Klick zurücknehmen lässt.

Nach außen gehen. Eine Mail an einen Kunden, eine Lieferzusage, eine Antwort auf eine Reklamation. Was draußen ist, holen Sie nicht zurück. Eine zugesagte Lieferung am Donnerstag bleibt eine Zusage, auch wenn ein Programm sie geschrieben hat. Hier gehört anfangs ein Mensch davor. Wie das bei Angeboten aussieht, die nach § 145 BGB binden, zeigt der Artikel Angebotserstellung automatisieren.

Geld bewegen und löschen. Zahlungen, Gutschriften, gelöschte Datensätze, gekündigte Verträge. Nicht umkehrbar oder nur mit Aufwand und Entschuldigung. Hier steht immer ein Mensch davor.

Eine Grenze kommt von außen dazu. Entscheidet der Agent über Menschen, greift in der EU Art. 22 DSGVO. Betroffene haben danach das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Eine automatische Absage an Bewerberinnen und Bewerber kann darunter fallen. Es gibt Ausnahmen, aber die prüft Ihr Datenschutzbeauftragter, nicht der Agent.

Die Autonomie-Leiter

Die folgende Leiter hat fünf Stufen. Jede Aktion eines Agenten steht auf genau einer davon, und zwar einzeln. Derselbe Agent darf Mails allein lesen und muss trotzdem vor dem Versand fragen.

Stufe 1, der Agent liest. Er sammelt Informationen, fasst zusammen und zeigt sie an. Er schreibt nichts und ändert nichts. Hier beginnt jede neue Aktion, bei der Sie nicht sicher sind.

Stufe 2, der Agent entwirft. Er legt einen Vorschlag hin, den ein Mensch übernimmt, ändert oder verwirft. Die Aktion selbst führt der Mensch aus, in seinem eigenen Werkzeug.

Stufe 3, Freigabe vorher. Der Agent bereitet die Aktion vollständig vor. Ein Mensch sieht sie und gibt mit einem Klick frei. Ohne Klick passiert nichts.

Stufe 4, Kontrolle danach. Der Agent führt die Aktion allein aus. Ein Mensch sieht einmal am Tag die Liste durch und kann jede Aktion zurücknehmen. Das taugt nur für Aktionen, die sich wirklich zurücknehmen lassen.

Stufe 5, allein in festen Grenzen. Der Agent handelt ohne Kontrolle, aber nur innerhalb von Regeln, die Sie aufgeschrieben haben. Ein Betragslimit, bestimmte Kundengruppen, bestimmte Vorlagen. Alles außerhalb fällt zurück auf Stufe 3.

So wenden Sie die Leiter an. Nehmen Sie einen Prozess, zum Beispiel den Auftragseingang bei einem Großhändler mit 60 Leuten. Schreiben Sie jede Aktion des Agenten in eine Zeile und setzen Sie daneben die Stufe und den Namen der Person, die freigibt. Zwei Regeln helfen dabei. Neue Aktionen starten eine Stufe tiefer, als Ihr Bauchgefühl sagt. Und was sich nicht zurückdrehen lässt, kommt nie auf Stufe 4, denn eine Kontrolle danach ändert an einer verschickten Mail nichts mehr.

Freigeben muss schneller gehen als selbst machen

Stufe 3 scheitert meistens an der Freigabe selbst. Dauert sie fünf Minuten und die Aufgabe ohne Agent sieben, umgehen die Leute den Agenten, und Sie haben Geld für ein Werkzeug ausgegeben, das im Regal steht.

Ein Bildschirm. Auf einer Ansicht steht, was der Agent tun will, dazu der fertige Entwurf und die Quelle, aus der er gearbeitet hat. Das ist die Kundenmail, die Bestellung, die Zeile aus der Preisliste. Darunter drei Knöpfe: Freigeben, Bearbeiten, Ablehnen. Wer freigibt, muss nicht ins ERP wechseln, um etwas nachzusehen.

Die Begründung steht dabei. Der Agent schreibt in einem Satz, warum er das vorschlägt. "Kunde fragt nach Liefertermin, 40 Stück auf Lager, Standardlieferzeit laut Preisliste drei Werktage." Die Person prüft dann eine Begründung und muss nicht raten, wie der Agent darauf kam.

Dort, wo die Leute ohnehin arbeiten. Die Freigabe kommt in Teams, im Postfach oder im Ticketsystem an. Ein neues Portal mit eigenem Login öffnet nach drei Wochen niemand mehr.

Ablehnen kostet einen Satz. Beim Ablehnen und beim Bearbeiten gibt es ein kurzes Feld für den Grund. Es ist freiwillig, aber es steht da. Aus diesem einen Satz lernen Sie mehr über Ihren Agenten als aus jedem Dashboard.

Mehr Autonomie nur auf Beleg

Nach ein paar Wochen kommt der Wunsch, den Agenten mehr allein machen zu lassen. Das ist richtig, solange Sie es an Daten festmachen und nicht an der Stimmung im Team.

Korrekturen sind Ihr Testset. Jede Bearbeitung und jede Ablehnung wird gespeichert, zusammen mit dem ursprünglichen Entwurf. Nach einem Monat haben Sie eine Sammlung echter Fälle, in denen der Agent danebenlag. Bevor Sie das Modell wechseln oder die Anweisungen ändern, lassen Sie diese Fälle noch einmal durchlaufen. Macht der Agent einen alten Fehler wieder, geht die Änderung nicht live.

Aufsteigen nach Regel. Legen Sie vorher fest, wann eine Aktion eine Stufe höher darf. Zum Beispiel, wenn über einen bestimmten Zeitraum und eine bestimmte Zahl von Fällen niemand inhaltlich etwas geändert hat. Welche Zahlen Sie wählen, hängt vom Risiko ab. Für ein CRM-Feld reicht weniger als für eine Mail an Kunden.

Auf Durchwinken achten. Wenn Freigaben Routine werden, klicken Leute, ohne zu lesen. Der EU AI Act nennt dieses Muster für Hochrisiko-Systeme in Artikel 14 beim Namen, als automation bias, also die Neigung, sich zu sehr auf die Ausgabe eines Systems zu verlassen. Die Anzeichen sehen Sie in den Daten. Lange Entwürfe werden in wenigen Sekunden freigegeben, und über Wochen ändert niemand etwas. Das heißt dann entweder, dass der Agent reif für die nächste Stufe ist, oder, dass keiner mehr hinsieht. Finden Sie heraus, welches von beiden zutrifft, bevor Sie hochstufen. Ein Stichprobengespräch pro Woche reicht dafür oft: Warum haben Sie diesen Entwurf so freigegeben?

Zurückstufen ist normal. Nach einem Modellwechsel, einer neuen Produktlinie oder einer Preisänderung rutscht eine Aktion wieder eine Stufe tiefer, bis die Korrekturen zeigen, dass sie wieder passt. Die Leiter geht in beide Richtungen.

Ein Agent, der nichts allein darf, spart keine Zeit. Einer, der alles darf, kostet Sie irgendwann einen Kunden. Dazwischen liegt eine Tabelle mit jeder Aktion, ihrer Stufe und dem Namen der Person, die freigibt. Diese Tabelle schreiben Sie an einem Nachmittag, und sie ist die einzige Entscheidung an Ihrem Agenten, die Sie keinem Programm überlassen sollten.

Themen

  • KI-Agenten
  • Automatisierung
  • Freigabeprozesse
  • Geschäftsführung
  • Human in the loop
Alle Artikel

Weiterlesen

  • 7 Min. Lesezeit

    KI-Assistent für Firmenwissen: erst das Laufwerk

    Wer einen KI-Assistenten für die eigenen Dokumente plant, grübelt meist über das richtige Modell. Die eigentliche Arbeit steckt im Dateiserver, bei alten Versionen, fehlenden Zuständigen und Zugriffsrechten, die keiner mehr überblickt. Dieser Artikel zeigt die Reihenfolge, mit der Sie in einem Bereich anfangen und den Assistenten vor dem Start mit 30 echten Fragen prüfen.

  • 6 Min. Lesezeit

    Schatten-KI im Unternehmen: erkennen und regeln

    Viele Geschäftsführer glauben, in ihrer Firma werde keine KI genutzt, oder wollen sie verbieten. Tatsächlich tippen Mitarbeitende längst Kundendaten in private Konten, oft auf dem eigenen Handy. Hier steht, wie Sie herausfinden, was wirklich passiert, und es mit einem offiziellen Werkzeug, kurzen Regeln und dem Betriebsrat in geordnete Bahnen bringen.

  • 7 Min. Lesezeit

    KI-Kompetenz nach Art. 4: Was Ihre Firma tun muss

    Viele Mittelständler halten die KI-Verordnung für ein Thema der Softwarehersteller. Artikel 4 gilt aber für jede Firma, deren Leute ChatGPT oder Copilot bei der Arbeit benutzen. Hier steht, was die Pflicht verlangt, was sie nicht verlangt und wie Sie sie ohne Beraterprojekt erfüllen.

Ende des Anrufs

Sie dürfen jetzt auflegen.

Oder Sie buchen 15 Minuten. Ich stelle Ihnen die Fragen, die ich am Telefon stellen würde, und sage Ihnen am Ende, ob es passt. Wenn nicht, haben wir beide eine Viertelstunde verloren und keinen Monat.

Oder rufen Sie an. Gerne auch kalt. Meine KI-Assistentin nimmt ab, und ich rufe zurück. +49 5136 9414999

Statistik

Mit Ihrer Zustimmung messe ich mit Google Analytics, welche Seiten gelesen werden. Ohne Zustimmung lädt kein Analyse-Code. Ihre Antwort speichere ich lokal in Ihrem Browser.

Datenschutzerklärung