Hör auf, deinen KI-Agenten hinterherzuräumen: Bau eine Verifikationsschleife

Du hörst auf, einem KI-Agenten hinterherzuräumen, sobald du ihm eine Verifikationsschleife gibst: die Werkzeuge, um seine eigene Arbeit auszuführen und zu beobachten, dazu ein klares Erfolgskriterium. Dann korrigiert er sich selbst, bis er diesen Zustand erreicht, statt dir Rohergebnisse zum Prüfen vorzulegen. Diese Schleife verwandelt dich vom QA-Tester in einen Reviewer. Und sie ist die Voraussetzung dafür, Agenten sicher parallel oder im Hintergrund laufen zu lassen. Ohne definierte Erfolgsprüfung gibt es keine Schleife, die du bauen könntest.

Der Gedanke stammt aus einem Vortrag von Sidd Bhundisaria, einem der ersten Ingenieure hinter Claude Code, unter dem Titel „Stop babysitting your agents". Die Produktfeatures, die er nennt, sind seine Bezüge zum Zeitpunkt des Vortrags und unten markiert; die Methode dahinter gilt unabhängig vom jeweiligen Werkzeug. Ich führe meine eigene Agentur nach dieser Methode, deshalb ziehe ich ein Beispiel durch den ganzen Text: ein Intake-Agent in einer 60-köpfigen Firma, beauftragt, eine kaputte Auto-Antwort zu reparieren, auf zwei Arten bearbeitet.

Warum verbringe ich so viel Zeit mit dem Prüfen von KI-Ergebnissen?

Weil sich mein Tag mit jedem besseren Modell mehr vom Schreiben zum Zusehen verschiebt. Ich tippe eine Anfrage, warte, lese danach jede Zeile, klicke mich durch jeden Screen und führe die Arbeit von Hand nach, um zu bestätigen, dass sie stimmt. Die Zeit, die die KI beim Schreiben spart, hole ich mir beim Prüfen wieder rein. Und je mehr das Modell kann, desto schlimmer wird es: Ein stärkeres Modell produziert mehr, schneller, und gibt mir dadurch mehr zu prüfen.

Die Zahlen bestätigen das Gefühl. Im Stack Overflow Developer Survey 2025 misstrauen inzwischen mehr Entwickler der Genauigkeit von KI-Tools (46 %) als ihr vertrauen (33 %). Was am meisten frustriert (genannt von 66 %), ist eine KI-Ausgabe, die „fast richtig, aber eben nicht ganz" ist, und 45 % sagen, dass das Debuggen von KI-generiertem Code mehr Zeit frisst als erwartet (Stack Overflow, Developer Survey 2025). „Fast richtig, aber eben nicht ganz" ist genau die Ausgabe, die einen menschlichen Prüfer verlangt. Der Engpass hat sich verschoben: Früher war es das Tippen, heute bist du es, das einzige im System, das entscheiden kann, ob die Arbeit fertig ist. Als Ingenieur finde ich das inakzeptabel. Den tieferen Fehlermodus behandle ich in warum KI-Agenten selbstbewusst falsch liegen.

Was ist eine Verifikationsschleife für einen KI-Agenten?

Eine Verifikationsschleife ist ein selbstlaufender Kreislauf, den du einmal einrichtest, damit der Agent ihn allein durchläuft: schreiben, ausführen, beobachten, korrigieren, wiederholen, bis er einen Erfolgszustand erreicht, den du definiert hast. Gib dem Agenten zwei Dinge, einen Weg, die Arbeit zu tun, und einen Weg, zu sehen, ob die Arbeit funktioniert hat, und er ist kein Textgenerator mit nur einem Versuch mehr. Er fängt an, sich hochzuarbeiten: probieren, prüfen, den Fehler bemerken, den Ansatz ändern, wieder probieren, bis das Ergebnis tatsächlich stimmt.

Im ersten Zug des Intake-Agenten, mit dem Auftrag „bring die Auto-Antwort wieder zum Laufen", bearbeitet ein Agent in einer Schleife nicht einfach eine Datei und erklärt sich für fertig. Er startet die App, schickt über das Formular eine Testanfrage ab wie ein echter Besucher, prüft, ob wirklich eine Antwort rausging, sieht, dass keine kam, liest die Logs des Mail-Dienstes, korrigiert den falsch konfigurierten Absender, schickt eine weitere Testanfrage und bestätigt, dass die Antwort ankommt. Erst dann hört er auf. Bei mir landet eine Änderung, die schon nachweislich funktioniert. Das ist dasselbe Muster, das Anthropic für wirksame Agenten beschreibt: Während der Ausführung muss der Agent bei jedem Schritt „‚ground truth‘ aus der Umgebung" gewinnen und „Lösungen anhand von Testergebnissen als Feedback" durchlaufen (Anthropic, Building Effective Agents).

Warum schlägt eine Verifikationsschleife ein einfach nur schlaueres Modell?

Weil ein Modell ohne Möglichkeit, seine Arbeit zu prüfen, im Dunkeln rät, so clever der Tipp auch sein mag. Ein Modell mit einer Prüfmöglichkeit tut etwas grundlegend anderes: Es kann den Unterschied erkennen zwischen „ich habe etwas geschrieben" und „es funktioniert", und auf diese Lücke reagieren. Leistung zählt, aber erst die Schleife macht aus Leistung ein Ergebnis, dem du trauen kannst.

Damit hängt alles an einer Sache: dem Erfolgskriterium. Die Schleife arbeitet sich zu dem hoch, was du als „fertig" definierst. Definier es scharf, etwa „innerhalb von sechzig Sekunden nach einer Testanfrage kommt eine Auto-Antwort an, und die Anfrage taucht im CRM auf", und der Agent hat einen echten Gipfel, den er erklimmen kann. Definier es vage oder gar nicht, und er arbeitet sich zu „sieht gut aus" hoch, nämlich genau der ungeprüften Ausgabe, der du entkommen wolltest. Die Disziplin unter der ganzen Methode ist schlicht, und es ist dieselbe Disziplin, die ich in der Fabrikhalle gelernt habe: Eingaben müssen zu vorhersagbaren Ausgaben führen. Kein Erfolgskriterium, keine Schleife. Wenn du für eine Aufgabe nicht beantworten kannst „woran wird der Agent, und woran wirst du, merken, dass es fertig ist?", dann kannst du sie noch nicht in eine Schleife legen, und das ist das Nützlichste, was dir die Übung über deinen eigenen Prozess verrät. Dieses Erfolgskriterium in etwas zu verwandeln, das du immer wieder ausführen kannst, ist genau die Arbeit, die ich in Evals für KI-Agenten bauen beschreibe.

Wie baust du eine Verifikationsschleife? Vier Schritte

Eine zu bauen läuft fast jedes Mal auf dieselben vier Schritte hinaus. Sie machen den Unterschied zwischen einem Agenten, der sagt, er sei fertig, und einem, der es zeigt.

Führ es aus. Gib dem Agenten den Befehl, der das System zum Leben erweckt: den Dev-Server, den Workflow, den Container. Ein Agent, der dein System nicht ausführen kann, kann nur von außen darüber nachdenken.
Nutz es wie ein echter Nutzer. Den Code zu lesen heißt nicht, das Produkt zu benutzen. Der Agent muss die echte Oberfläche bedienen: einen Browser öffnen und sich durch das Formular klicken, die API aufrufen, die Testanfrage abschicken. Bei allem mit Bildschirm ist ein Werkzeug zur Browser-Steuerung der richtige Zug. [Vortrag]
Beweis es. Halt den echten Effekt fest, vorher und nachher: ein Screenshot der Antwort im Posteingang, die Log-Zeile, die auftauchen soll, die Datenbankzeile, die jetzt existieren soll. Der Beweis trennt Verifikation von bloßem Wunschdenken.
Räum ihm die Hürden weg. Echte Systeme lassen keinen Fremden rein, und zwei Blocker legen fast jede Schleife beim ersten Durchlauf lahm.

Die zwei Blocker haben Namen: Auth und State. Auth heißt, der Agent braucht einen Weg, sich einzuloggen, einen Testaccount oder ein Token, das er benutzen darf; ohne das starrt der Agent auf eine Login-Wand und meldet, „die Seite hat geladen", was stimmt und nutzlos ist. State heißt, ein Workflow braucht realistische Daten, mit denen er arbeiten kann; die legst du vorab an, denn ein leeres CRM hat keine Anfrage, die man einsortieren könnte. Nichts davon ist neu, jeder, der je einen Integrationstest geschrieben hat, hat aus denselben Gründen Setup-Skripte geschrieben. Die Verschiebung ist klein: Reich dem Agenten diese Skripte und lass ihn sie spontan selbst erzeugen, damit er weit mehr Situationen prüfen kann als jedes feste Skript, das du von Hand schreiben würdest.

Wie machst du die Schleife im ganzen Team wiederverwendbar?

Eine Schleife, die du einmal gebaut hast, stirbt mit deiner Terminal-Sitzung, wenn du sie nicht verpackst. Verpack sie als Skill: tragbaren, teilbaren Kontext, der sagt „so verifizieren wir dieses System" (fahr den Stack hoch, lade das Browser-Werkzeug, führ diesen Smoke-Test aus, achte auf diese Effekte). Jetzt ist die Schleife keine einmalige Aktion mehr; sie ist ein Baustein, den jeder im Team aufrufen kann, jedes Mal auf dieselbe Art. Wie man wiederverwendbare Agenten-Fähigkeit verpackt, führe ich in was KI-Agent-Skills sind genauer aus.

Dann bring den Skill dazu, sich selbst zu verbessern. Schreib ihm die Anweisung hinein, sich jedes Mal zu aktualisieren, wenn er auf einen Blocker stößt. Beim ersten Mal, wenn die Schleife über einen undokumentierten Login-Schritt stolpert, hält der Agent die Lösung fest, und der Nächste rennt nie mehr gegen diese Wand. Der Skill dokumentiert sich selbst und wird mit jeder Nutzung stabiler, statt zu verrotten, wie es Dokumentation sonst so tut. Ein sich selbst verbessernder Verifikations-Skill macht den Unterschied zwischen einer Person, die gut darin ist, Agenten sich selbst prüfen zu lassen, und einem Team, das es ist. Er ist das Artefakt, das aus einem persönlichen Kniff eine dauerhafte, geteilte Praxis macht. [Vortrag]

Wann ist es sicher, KI-Agenten unbeaufsichtigt laufen zu lassen?

Erst, wenn ein Agent seine eigene Arbeit prüfen kann. Die Reihenfolge ist hier nicht beliebig, sie ist keine Deko: Einem Agenten, dem du das Selbstprüfen nicht zutraust, musst du beim Arbeiten zusehen, und das Zusehen ist der Engpass. Solange die Schleife nicht echt ist, heißt „skalieren" also bloß mehr Bildschirme zum Anstarren. Mit der Schleife werden zwei Dinge sicher, die vorher leichtsinnig waren.

Erstens kannst du mehrere Agenten gleichzeitig laufen lassen. Der Engpass war immer deine Aufmerksamkeit, nie die Rechenleistung; eine Handvoll sich selbst prüfender Agenten ist ein Team, das du beaufsichtigst, statt einem Haufen Dinge, die permanent deine Aufmerksamkeit verlangen. Wie man über ein Team delegiert, dem man nicht bei jedem Schritt zusehen kann, behandle ich in meinem Leitfaden zu einem Team aus KI-Agenten und Subagenten. Zweitens kannst du sie im Hintergrund laufen lassen. Vieles, was deine Woche auffrisst, ist Verwaltung, kein Bauen: Pull Requests durch die CI treiben, Docs aktuell halten, Feedback sichten. Das muss in einer Schleife laufen; dich braucht es in dieser Schleife nicht. Ein geplanter Prompt oder eine Routine nimmt deine Tastatur aus dem kritischen Ablauf.

Das ist heute machbar, weil die Fähigkeit dahinter echt ist: Eine unabhängige Messung von METR findet, dass sich die Länge der Aufgaben, die KI allein erledigen kann, in einem regelmäßigen Takt verdoppelt (METR, 2025). Machbar heißt aber nicht unbeaufsichtigt. Eine menschliche Freigabe bleibt Pflicht bei allem, was sich nicht rückgängig machen lässt, etwa ein Deploy in die Produktion, das Löschen von Daten oder das Senden an einen Kunden. Die Disziplin zählt: Gartner prognostiziert, dass bis Ende 2027 mehr als 40 % der agentischen KI-Projekte gestrichen werden, größtenteils wegen Kosten und unklarem Nutzen (Gartner, 2025). Die Projekte, die überleben, sind die, die beweisen können, dass sie funktionieren, und genau das liefert eine Verifikationsschleife. Warum dieser Beweis so schwer wiegt, lege ich in wie man vertrauenswürdige KI-Agenten baut dar.

Ein Beispiel: derselbe Fix, hinterhergeräumt und in der Schleife

Zurück zum Intake-Agenten und seiner kaputten Auto-Antwort, gleiche Firma, gleiche Aufgabe, zwei Arbeitsweisen.

Hinterhergeräumt, wo du die Schleife bist. Du bittest den Agenten, die Auto-Antwort zu reparieren; er bearbeitet eine Config und sagt, er sei fertig. Du traust dem „fertig" nicht, also öffnest du die Seite, schickst eine Testanfrage ab, wechselst in deinen Posteingang, siehst, dass nichts ankommt, kopierst den Fehler aus den Logs und fügst ihn wieder ein. Er probiert es erneut. Du testest erneut. Drei, vier Runden später funktioniert es. Der Agent hat getippt; du hast jede Prüfung gefahren. Die Schleife gab es, sie lief nur durch dich.

In der Schleife, wo er sich selbst prüft. Du bittest um dasselbe, aber der Agent hat einen Verifikations-Skill für dieses System. Er fährt die App hoch, schickt seine eigene Testanfrage, prüft das Mail-Log, sieht, dass keine Antwort rausging, korrigiert den Absender, schickt eine weitere Anfrage, bestätigt, dass die Antwort ankommt und die CRM-Zeile erscheint, und öffnet dann einen Pull Request, der die Vorher-Nachher-Belege schon mitbringt. Du liest den PR und mergst. Du hast einmal geprüft, am Ende, statt vier Mal mittendrin. Gleiches Modell, gleiche Aufgabe; der Unterschied liegt darin, wer die Prüfung fährt.

Das ist der Unterschied zwischen einem KI-Abo, das du selbst bedienst, und einem KI-Mitarbeiter, der die Arbeit erledigt. Ein Chatbot wartet auf deinen Prompt und reicht dir Rohausgabe; ein KI-Mitarbeiter trägt die Schleife und reicht dir ein geprüftes Ergebnis. Genau darum zählt die Schleife auch für deine Kapazität: So schaffe ich mehr, ohne mehr Bildschirme zu beobachten, genau die Falle, die ich im KI-Produktivitätsparadox beschreibe.

Häufige Fragen

Was heißt es, einem KI-Agenten nicht mehr hinterherzuräumen?

Es heißt, weg vom Prüfen von Hand bei allem, was der Agent produziert, hin dazu, dem Agenten eine Verifikationsschleife zu geben, damit er seine eigene Arbeit gegen einen definierten Erfolgszustand prüft. Aus dem QA-Tester wird ein Reviewer: Du gibst fertige, geprüfte Ergebnisse frei, statt die Tests mitten in jeder Aufgabe selbst zu fahren.

Was ist eine Verifikationsschleife für einen KI-Agenten?

Eine Verifikationsschleife ist ein selbstlaufender Kreislauf (schreiben, ausführen, beobachten, korrigieren, wiederholen), den ein Agent allein durchläuft, bis er einen Erfolgszustand erreicht, den du definiert hast. Sie braucht zwei Dinge: Werkzeuge, um die Arbeit auszuführen und zu beobachten, etwa einen Browser oder einen Test-Runner, und ein klares, prüfbares Erfolgskriterium.

Wie baust du eine Verifikationsschleife für einen KI-Agenten?

Vier Schritte: die Anwendung ausführen, sie wie ein echter Nutzer bedienen (den Browser steuern oder die API aufrufen), das Ergebnis mit Vorher-Nachher-Belegen beweisen (ein Screenshot, eine Log-Zeile, eine Datenbankzeile) und dem Agenten die Hürden aus dem Weg räumen, Authentifizierung und vorbereitete Daten. Dann verpackst du die funktionierende Schleife als wiederverwendbaren Skill.

Ist es sicher, KI-Agenten unbeaufsichtigt laufen zu lassen?

Erst, wenn ein Agent seine eigene Arbeit prüfen kann, und nur mit einer menschlichen Freigabe bei unumkehrbaren Aktionen. Sich selbst prüfende Agenten können sicher parallel oder nach Zeitplan laufen, aber alles, was sich nicht rückgängig machen lässt, etwa ein Deploy in die Produktion oder das Löschen von Daten, sollte weiterhin zur menschlichen Freigabe anhalten. Agenten ganz ohne menschliche Freigabe zu betreiben, empfehle ich nicht.

Warum ein schlaueres Modell statt einer Verifikationsschleife?

Ein schlaueres Modell ohne Möglichkeit, seine Arbeit zu prüfen, rät weiter; es produziert mehr Ausgabe, also mehr für dich zum Prüfen. Eine Verifikationsschleife lässt das Modell erkennen, ob seine Arbeit wirklich geklappt hat, und sich selbst korrigieren, und verwandelt rohe Leistung in ein Ergebnis, dem du trauen kannst. Aus dem Prüf-Engpass holt dich die Schleife raus, das Modell allein schafft das nicht.

Quellen und weiterführende Lektüre

Stack Overflow, Developer Survey 2025: KI: Vertrauen der Entwickler in die Genauigkeit von KI, „fast richtig, aber eben nicht ganz" und Zeitaufwand beim Debuggen von KI-generiertem Code.
Anthropic, Building Effective Agents: Agenten, die aus der Umgebung ground truth gewinnen und anhand von Testergebnissen iterieren.
METR, Measuring AI Ability to Complete Long Tasks (2025): der Verdopplungstrend bei der Länge der Aufgaben, die KI allein erledigen kann.
Gartner, 2025: prognostizierte Streichungsquote für agentische KI-Projekte bis 2027.

Das Muster hinter all dem, deterministische Prüfungen für die Aktion und KI für das Urteil, mit einer menschlichen Freigabe da, wo es zählt, ist die Art, wie ich bei Brixon AI baue, und ich fahre sie seit Anfang 2026 auf meinem eigenen Stack: Meine Agenten tragen Verifikations-Skills, und ein Workflow läuft erst dann unbeaufsichtigt, wenn er eine Frage beantworten kann: Merkt er selbst, ob er fertig ist? Du brauchst kein weiteres KI-Abo; du brauchst KI, die funktioniert. Wenn du eine Aufgabe auf eine geprüfte Schleife legen willst, statt ihr zuzusehen, schau dir an, wie fertige KI-Mitarbeiter arbeiten, oder sprich mit mir darüber, welche Aufgabe du zuerst in eine Schleife legst.