Autonomer KI-Agent

1. Definition

Ein autonomer KI-Agent ist eine um ein Sprachmodell herum gebaute Software, der man ein Ziel statt eines Verfahrens anvertraut. Man beschreibt ihm nicht die Abfolge der auszuführenden Schritte: man sagt, was man erwartet, gibt ihm Zugang zu den nötigen Werkzeugen und lässt ihn bestimmen, wie er dorthin gelangt.

Das Wort „autonom“ lädt zu einem Missverständnis ein, das man besser gleich ausräumt. Es bedeutet weder „außerhalb jeder Kontrolle“ noch „entscheidet über seine eigenen Ziele“. Ein autonomer Agent bleibt begrenzt durch die ihm gestellte Aufgabe, durch die ihm geöffneten Werkzeuge und durch die ihm gesetzten Grenzen. Die Autonomie betrifft den Weg, nie das Ziel.

Der praktische Unterschied ist einfach: fragen Sie sich, was geschieht, wenn die Lage nicht die vorgesehene ist. Ein herkömmliches Programm bleibt stehen oder liefert ein falsches Ergebnis. Ein Agent stellt die Abweichung fest, sucht einen anderen Weg und meldet, wenn er keinen findet. Diese Fähigkeit zur Erholung — und nur sie — rechtfertigt den Begriff.

2. Die vier Bestandteile eines Agenten

Ein Agent ist kein Einzelteil, sondern ein Zusammenbau. Nehmen Sie ein einziges heraus, und er wird wieder zum Assistenten, der antwortet.

• Ein Ziel. Eine Vorgabe, die einen zu erreichenden Zustand beschreibt, keine Liste von Befehlen. „Dafür sorgen, dass keine Rechnung mehr als dreißig Tage überfällig ist, ohne dass der Kunde angemahnt wurde“ ist ein Ziel. „Schick eine E-Mail an Kunde X“ ist ein Befehl.
• Werkzeuge. Was ihm erlaubt, auf die Welt einzuwirken, statt über sie zu reden: ein Postfach lesen, in eine Datenbank schreiben, einen Dienst aufrufen, eine Datei erzeugen, das Web abfragen. Ein Modell ohne Werkzeuge kann nur Text erzeugen und damit nichts, was das Unternehmen verändert.
• Ein Gedächtnis. Was er über seine Aufgabe, über das Unternehmen und über das bereits Getane weiß. Ohne dieses fängt er jeden Morgen bei null an, mahnt denselben Kunden zweimal und vergisst die Regel, an die man ihn tags zuvor erinnert hat.
• Eine Schleife. Der Mechanismus, der ihn das Ergebnis seiner Handlung beobachten, mit seinem Ziel vergleichen und entscheiden lässt, ob er weitermacht, korrigiert oder aufhört. Es ist das unauffälligste und zugleich entscheidendste Teil: ohne Schleife gibt es keinen Agenten, sondern nur einen etwas aufwendigeren Modellaufruf.

Die Schleife verdient noch ein Wort, denn sie ist das, was die meisten Vorführungen unterschlagen. Ein Agent, der einen Plan ankündigt und dann stehen bleibt, hat nicht geschlossen. Ein Agent, der seinen Plan ausführt, ohne je auf sein Ergebnis zu sehen, hat ebenfalls nicht geschlossen — er war nur schnell und wird schnell falsch liegen. Der vollständige Zyklus — wahrnehmen, entscheiden, handeln, lernen — macht aus einem Modell einen Mitarbeiter.

3. Die fünf Autonomiegrade

„Autonom“ ist kein Schalter, sondern eine Skala, und die Verwechslung ihrer Stufen erklärt die meisten Enttäuschungen. Ein Unternehmen kauft Grad 4 und stellt sich Grad 2 vor, oder umgekehrt.

• Grad 1 — vorschlagen. Der Agent schlägt vor, der Mensch tut. Ein verfasster Entwurf, eine vorgeschlagene Antwort. Kein Risiko, aber auch kein echter Zeitgewinn: die Arbeit bleibt vollständig bestehen.
• Grad 2 — vorbereiten. Der Agent erstellt das fertige Ergebnis, der Mensch muss nur noch freigeben und senden. Das ist der lohnendste Grad für den Anfang, weil der Fehler sichtbar wird, bevor er das Unternehmen verlässt.
• Grad 3 — unterhalb einer Schwelle handeln. Der Agent handelt unterhalb einer erklärten Grenze allein und fragt oberhalb nach. Eine offene Forderung von 200 € eigenständig anmahnen, ab 5.000 € freigeben lassen. Das ist der Normalbetrieb eines gut eingestellten Systems.
• Grad 4 — handeln und Rechenschaft ablegen. Der Agent führt die Aufgabe von Anfang bis Ende aus und hinterlässt eine nachlesbare Spur. Geeignet für umkehrbare, wiederkehrende Arbeit: ablegen, sortieren, aktuell halten, eine interne Beobachtung veröffentlichen.
• Grad 5 — andere Agenten führen. Der Agent zerlegt ein Ziel, verteilt es, verfolgt den Fortschritt und entscheidet. Dieser Grad ergibt erst Sinn, wenn die vorherigen erprobt sind — ihn einem nie gemessenen System anzuvertrauen, heißt einen unbekannten Fehler zu vervielfachen.

Der Grad wird nicht ein für alle Mal gewählt, sondern pro Aufgabe. Derselbe Agent kann bei der Nachfassung eines Angebots allein handeln und für einen Rabatt die Zustimmung eines Menschen einholen. Ein System, das Autonomie nur global einstellen kann, zwingt zur Wahl zwischen dem Nutzlosen und dem Leichtsinnigen.

4. Was ein autonomer Agent nicht ist

Er ist kein Chatbot. Ein Chatbot wartet auf eine Frage und liefert eine Antwort; die Arbeit beginnt nach ihm, und ein Mensch erledigt sie. Ein Agent wird an einem Ergebnis in der wirklichen Welt gemessen: die Rechnung ist raus, die Akte ist abgelegt, der Termin steht.

Er ist keine Automatisierung und kein RPA. Eine Automatisierung folgt einer vorab geschriebenen Schrittfolge und bricht bei der ersten Abweichung — eine geänderte Spaltenüberschrift, ein neu gestalteter Bildschirm. Ein Agent verfolgt ein Ziel und fängt die Abweichung auf. Der Unterschied zeigt sich in den Wartungskosten, nicht am Tag der Inbetriebnahme.

Er ist kein Copilot. Ein Copilot beschleunigt die Person an der Tastatur; nehmen Sie die Person weg, geschieht nichts. Ein Agent arbeitet, wenn niemand zusieht — genau darin liegt sein Nutzen, und genau deshalb muss man seine Arbeit nachlesen können.

Er ist keine allgemeine Intelligenz. Ein Agent hat weder eigene Absichten noch den Wunsch, etwas anderes zu tun als seine Aufgabe. Die Furcht vor einem System, das „die Kontrolle übernimmt“, verfehlt das Thema: das wirkliche, banale und häufige Risiko ist ein Agent, der eine schlecht formulierte Vorgabe korrekt ausführt, in großem Maßstab und ohne dass es jemand bemerkt.

5. Was einen Agenten verlässlich macht

Die Verlässlichkeit eines Agenten hängt sehr wenig vom Modell ab, das ihn antreibt, und sehr stark von vier Sicherungen. Unternehmen, die nach drei Monaten aufgeben, hatten fast nie ein Modellproblem.

• Eine erklärte Grenze. Die Liste der Handlungen, die vor der Ausführung eine menschliche Zustimmung verlangen — Geld binden, unterschreiben, einem heiklen Kunden antworten, löschen. Erklärt, nicht dem Urteil des Augenblicks überlassen.
• Ein durchsetzbares Budget. Die Ausgabe wird vor dem Modellaufruf reserviert und nicht hinterher festgestellt. Eine Obergrenze, die im Nachhinein geprüft wird, ist keine Obergrenze, sondern ein Bericht.
• Eine nachlesbare Spur. Das verfolgte Ziel, die herangezogenen Informationen, die gewählte Handlung, ihr Ergebnis, ihre Kosten. Delegierte Arbeit, die man nicht nachlesen kann, wird zu Arbeit, der man nicht mehr vertraut — und das Unternehmen kehrt still zur Handarbeit zurück.
• Geringstmögliche Rechte. Jeder Agent erhält nur die Werkzeuge, die seine Aufgabe verlangt. Ein Beobachtungsagent hat mit Schreibzugriff auf die Rechnungsstellung nichts zu tun.

Diese vier Punkte sind keine Komfortoptionen: sie entscheiden darüber, ob man im Jahr darauf mehr delegieren kann. Das ist das Thema der Seite über Governance und Budgetkontrolle.

6. Sechs Fragen, die einen Schein-Agenten entlarven

Viele Werkzeuge geben sich als Agenten aus, während sie in Wahrheit Modellaufrufe auf einer festen Schiene aneinanderreihen. Sechs Fragen genügen zur Klärung, und sie lassen sich in der Vorführung stellen.

• Was tut er, wenn ein Werkzeug ausfällt? Bleibt er einfach stehen, ist es eine Kette. Versucht er es anders und meldet es dann, ist es ein Agent.
• Kann er denselben Schritt zweimal ausführen? Ein echter Agent geht zurück und beginnt von vorn. Eine Schiene führt immer nur vorwärts.
• Weiß er, was er gestern getan hat? Ohne Gedächtnis wird er denselben Kunden zweimal anmahnen und Ihre Korrektur vergessen.
• Wo hört er von selbst auf? Wenn es keine Handlung gibt, die er ohne Zustimmung verweigert, ist die Grenze nicht erklärt — sie fehlt.
• Was hat diese Aufgabe gekostet? Ist die Zahl nicht pro Aufgabe verfügbar, lässt sich nicht abwägen, was sich zu delegieren lohnt.
• Kann ich seine Arbeit nachlesen, ohne jemanden zu fragen? Lautet die Antwort nein, beruht die Kontrolle auf Vertrauen, und Vertrauen skaliert nicht.

Die sechste entscheidet in der Praxis am schnellsten. Sehen zu können, was getan wurde, von wem und zu welchem Preis, ist kein Schaubild zur Zierde: es ist das, woran man erkennt, ob das System arbeitet oder nur beschäftigt ist.

7. Häufige Fragen

Weiterlesen

Weiterlesen: was ein agentisches System ist, was ein KI-Agent im Unternehmen tatsächlich tut, oder Governance und Budgetkontrolle.