Human-in-the-Loop-KI-Agenten: Was Browser-Handoff richtig macht

Human-in-the-Loop-KI-Agenten brauchen zwei Arten von Kontrollpunkten: Schritte, die nur ein Mensch erledigen kann, und Schritte, die ein Mensch beurteilen sollte. Was Browse bei der Übergabe richtig macht – und wie man das auf ein Task-Board abbildet.

Sophia Carter

Sophia Carter

19 November 2026

Human-in-the-Loop-KI-Agenten: Was Browser-Handoff richtig macht

„Human in the Loop“ bei KI-Agenten bedeutet, dass der Agent an definierten Stellen anhält und auf einen Menschen wartet. Es gibt zwei Arten von Stopps: Schritte, die nur ein Mensch erledigen kann (ein Login, ein 2FA-Code, eine Zahlung), und Schritte, die ein Mensch beurteilen sollte (Merge, Veröffentlichen, Versenden). Gute Übergaben benennen den Schritt, lassen den Agenten warten, statt zu raten, und werden nur durch eine echte menschliche Handlung fortgesetzt.

Human-in-the-Loop-KI-Agenten lassen sich leicht beschreiben und nur schwer gut umsetzen. Die meisten Teams beginnen mit einer Regel („eine Person prüft vor dem Merge“) und entdecken die Lücken erst später: den Agenten, der um 2 Uhr nachts an einer 2FA-Abfrage hängen bleibt, oder den, der sich durch eine Zahlungsseite klickt, weil ihm niemand gesagt hat, dass er anhalten soll.

OpenCode’s Browse, ein Browsertool für Coding-Agenten, enthält ein kleines Übergabedesign, das die erste Art von Stopp richtig hinbekommt. Dieser Leitfaden zeigt, was es leistet, wo es endet und wie du dasselbe Muster auf ein gemeinsames Task-Board in Sharkly überträgst, wo die zweite Art von Stopp zu Hause ist.

Was Human in the Loop bei KI-Agenten bedeutet

Human in the Loop (HITL) bei KI-Agenten ist ein Design, bei dem ein Agent an benannten Checkpoints pausiert, die Kontrolle oder eine Entscheidung an einen Menschen übergibt und erst weiterläuft, nachdem dieser Mensch gehandelt hat. Der Checkpoint ist Teil des Workflows, keine Ausnahme. Der Agent weiß, dass es ihn gibt, die Person weiß, dass sie dafür zuständig ist, und das System hält fest, wer gehandelt hat.

Die Security-Community betrachtet das als Kontrolle, nicht als Höflichkeit. Der OWASP-Eintrag zu Excessive Agency empfiehlt Human-in-the-Loop-Kontrolle, „um zu verlangen, dass ein Mensch wirkungsvolle Aktionen genehmigt, bevor sie ausgeführt werden“.

Zwei Arten menschlicher Checkpoints

Nicht jede Pause ist eine Prüfung. Die beiden Arten zu vermischen, lässt HITL-Setups langsam wirken und trotzdem Dinge übersehen.

Nur-ein-Mensch-Schritt Beurteilungsschritt
Beispiele Login, 2FA-Abfrage, Captcha, Zahlung, Einwilligungsbildschirm PR mergen, Beitrag veröffentlichen, E-Mail senden, Ticket schließen
Warum ein Mensch Dem Agenten fehlt die Berechtigung, oder er sollte sie nie besitzen Der Agent kann handeln, aber das Ergebnis braucht die Entscheidung einer Person
Wann es passiert Mitten im Lauf, oft unvorhersehbar Am Ende eines Laufs oder vor einer irreversiblen Aktion
Wie lange es dauert Sekunden Minuten bis zu einem Tag
Was die Arbeit fortsetzt Die Person schließt den Schritt ab und signalisiert dann Weiter Die Person genehmigt, lehnt ab oder bittet um Änderungen
Eine Zeitleiste eines Task-Laufs: Ein Agent pausiert mitten im Lauf, damit ein Mensch einen gesperrten Login- oder Zahlungsschritt abschließt und auf Weiter klickt, dann pausiert er erneut am Ende für eine menschliche Prüfung, bevor die Aufgabe erledigt ist

Die erste Art braucht Tempo und ein präzises Signal. Die zweite braucht Kontext und einen Nachweis.

Was Browse bei der Übergabe richtig macht

Browse ist „ein MCP-Server und eine Chromium-Erweiterung“, mit der Coding-Agenten deinen echten Browser mit deinen Tabs und Logins nutzen können. Das Quell-Repository steht unter MIT-Lizenz. Wenn ein Agent auf einen Login, eine 2FA-Abfrage oder eine Zahlung stößt, gibt er den Tab an dich zurück und läuft weiter, sobald du auf Continue klickst.

Sechs Designentscheidungen dieser Übergabe sind es wert, übernommen zu werden:

  1. Der Schritt ist auf einen Tab und eine Site begrenzt. Die Übergabekarte auf der Seite zeigt den Origin der Site, sodass du genau weißt, wo du handelst.
  2. Der Agent fragt, statt zu raten. Nach einer Navigation meldet Browse Captcha-Wände und „Access Denied“-Seiten und weist den Agenten an, interaktive an dich zu übergeben. Laut README: „It never solves them.“
  3. Nur eine echte menschliche Handlung setzt den Lauf fort. „Only a real click on the card or the toolbar button finishes a handoff, so a page can’t fake it.“ Eine bösartige Seite kann nicht in deinem Namen auf Continue klicken.
  4. Der Status ist auf einen Blick sichtbar. Das Badge in der Toolbar zeigt RUN, während ein Agent arbeitet, und WAIT, wenn er dich braucht.
  5. Die Person kann jederzeit die Kontrolle zurückholen. Ein Klick auf den Toolbar-Button während eines Agentenlaufs nimmt den Tab zurück.
  6. Grenzen werden ehrlich benannt. Das README nennt allowedOrigins und readOnly „guardrails, not a data boundary“ und sagt klar, was sie nicht filtern.

Punkt 3 ist am wichtigsten. Eine Übergabe, die eine Seite abschließen kann, ist kein menschlicher Checkpoint, sondern ein Ziel für Prompt-Injection. Wenn du deinen eigenen HITL-Schritt baust, muss das Fortsetzungssignal aus einem Kanal kommen, den der Agent und die von ihm gelesenen Inhalte nicht erreichen können. Der Beitrag zu Prompt Injection und Agent Guardrails behandelt, warum diese Grenze besser hält als jede modellseitige Korrektur.

Wo eine Übergabe im Browser endet

Browses Übergabe löst den Nur-ein-Mensch-Schritt für eine Person an einem Schreibtisch. Sie entscheidet nicht, ob fertige Arbeit ausgeliefert werden sollte, und sie sagt keinem Teammitglied, dass dein Agent blockiert ist, während du weg bist. Das ist eine Grenze, kein Mangel: Der Beurteilungsschritt braucht einen gemeinsamen Nachweis außerhalb des Browsers.

Die Übergabe auf ein Task-Board übertragen

Ein Task-Board gibt dem Übergabemuster einen Ort, an dem es lebt, wenn die Person nicht am Bildschirm ist. In Sharkly ist ein Task der gemeinsame Nachweis für Menschen und Agenten, und jede Task-Konversation trägt einen Status: Working, Queued, Needs your reply, Needs your review, Exception, Completed oder Aborted. Laut der Dokumentation „Chat with an Agent“ wird eine Übergabe nur für die Person, auf die gewartet wird, als „Needs your…“ angezeigt, alle anderen sehen das neutrale „Needs reply“ oder „Needs review“.

Die beiden Sharkly-Status entsprechen den beiden Arten von Checkpoints:

  • Needs your reply ist die Übergabe mitten im Lauf. Der Agent ist auf Eingaben blockiert, die nur ein Mensch hat: eine Entscheidung, eine Berechtigung, eine fehlende Datei.
  • Needs your review ist der Beurteilungsschritt. Die Arbeit ist erledigt und wartet auf Abnahme.

Beide erscheinen im Task-Chats-Modul der Seitenleiste, und der Besitzer der Konversation erhält zusätzlich ein Desktop-Banner und eine Slack-Benachrichtigung. Das ist die teamweite Version von Browses WAIT-Badge.

Der Workflow-Status des Tasks ist eine separate Ebene. Laut der Dokumentation zur Agent-Task-Ausführung schränkt der Workflow des Task-Typs ein, welche Status ein Agent auswählen kann, und Laufzustände wie queued oder running implizieren keinen Task-Status.

Ein Sharkly-Statusauswähler für Tasks, der den Workflow Triage, Backlog, Todo, In Progress, Ready for Release, Done, Canceled und Duplicate auflistet, also die Status, zwischen denen ein Agent einen Task verschieben kann

Das verschafft dir kostenlos einen dritten Checkpoint. Füge einen Status wie Ready for Release hinzu, in den ein Agent Arbeit verschieben, aus dem er sie aber nicht herausbewegen kann, und der letzte Schritt liegt per Design bei einer Person.

Ein Agent, der auf einem verbundenen Computer läuft, kann den Übergabestatus selbst über das sharkly-CLI setzen:

# Blocked on something only a person can do: ask, and wait
sharkly task edit COIN-142 --session-status waiting_human_reply

# Work finished: hand it back for acceptance, never mark it done
sharkly task edit COIN-142 --session-status waiting_human_review

Verwende einen Reply-Status mitten im Lauf, wenn der Agent ohne einen Menschen nicht weitermachen kann. Verwende den Review-Status, wenn der Agent weitermachen könnte, das Ergebnis aber die Beurteilung einer Person braucht.

So gestaltest du deine eigenen menschlichen Checkpoints

Fünf Schritte decken die meisten Teams ab, die mehr als einen Coding-Agenten betreiben:

  1. Liste jeden Nur-ein-Mensch-Schritt auf. Logins, 2FA, Zahlungen, Produktionszugänge, rechtliche Einwilligung. Der Agent sollte diese übergeben und sie nie selbst besitzen.
  2. Liste jede irreversible Aktion auf. Merge, Deployment, Veröffentlichen, Versenden, Löschen. Jede bekommt davor einen Beurteilungs-Checkpoint, zuständig ist eine namentlich benannte Person.
  3. Wähle ein Fortsetzungssignal pro Checkpoint. Ein Button-Klick, eine Statusänderung, eine Antwort in der Task-Konversation. Es muss von einer Person kommen, nicht aus Inhalten, die der Agent liest.
  4. Mach das Warten sichtbar. Ein WAIT-Badge für eine Person, eine Zeile „Needs your reply“ für ein Team. Ein blockierter Agent, den niemand sieht, ist ein stiller Ausfall.
  5. Schreibe die Grenze in die Anweisungen des Agenten. „An Login-Seiten anhalten und fragen“ gehört in die Anweisungen des Agenten, nicht ins Gedächtnis von jemandem.

Der Leitfaden zu Approval Gates für Coding-Agenten geht bei Schritt 2 tiefer, und Human Review is the bottleneck behandelt, was passiert, wenn sich Reviews stapeln.

Häufige Fehler bei Human-in-the-Loop-Agenten

  • Alles prüfen. Wenn jede Aktion genehmigt werden muss, genehmigen Menschen, ohne zu lesen. Halte Checkpoints für Schritte frei, die irreversibel sind oder eine Berechtigung erfordern.
  • Den Agenten das Gate lösen lassen. Ein Agent, der ein Captcha ausfüllt oder eine 2FA-Abfrage wiederholt, hat einen Checkpoint in einen Hindernisparcours verwandelt.
  • Fortsetzungssignale innerhalb der Inhalte. Wenn eine Webseite, eine E-Mail oder eine Datei „approved“ sagen kann, kann eine Prompt-Injection das auch.
  • Kein Verantwortlicher. „Jemand wird es prüfen“ heißt niemand. Jeder Checkpoint braucht eine namentlich benannte Person.

Fazit

Human in the Loop funktioniert, wenn der Loop zwei klar verschiedene Türen hat: eine für Schritte, die nur ein Mensch erledigen kann, eine für Entscheidungen, die ein Mensch treffen sollte. Browses Übergabe zeigt die erste Tür gut gemacht: begrenzt, sichtbar und nur durch einen echten Klick fortsetzbar. Ein gemeinsames Board trägt die zweite Tür und macht beide für das Team sichtbar.

Wenn deine Agenten bereits über Browser und Repos hinweg arbeiten, platziere ihre Übergaben dort, wo dein Team sie sehen kann. Starte mit Sharkly, weise einem Agenten einen Task zu und beobachte, wie oft er bei „Needs your reply“ landet, bevor du weitere Gates hinzufügst. Für die Agent-zu-Agent-Seite desselben Problems lies AI agent handoffs.

FAQ

Was ist Human in the Loop bei KI-Agenten?

Es ist ein Workflow, bei dem ein Agent an definierten Punkten pausiert und wartet, bis eine Person handelt oder entscheidet, bevor er weitermacht. Die Punkte werden im Voraus geplant, von namentlich benannten Personen verantwortet und nur durch ein menschliches Signal fortgesetzt.

Wann sollte ein KI-Agent die Kontrolle an einen Menschen zurückgeben?

Bei jedem Schritt, der eine Berechtigung braucht, die der Agent nicht besitzen sollte (Login, 2FA, Zahlung), und vor jeder irreversiblen Aktion (Merge, Deployment, Veröffentlichen, Versenden). Alles andere kann in der Regel ohne Halt laufen.

Kann ein KI-Agent Captchas oder 2FA-Abfragen selbst lösen?

Er sollte es nicht. Browse zum Beispiel meldet Captcha-Wände und weist den Agenten an, interaktive an den Nutzer zu übergeben, und sein README sagt, dass es sie nie löst. Behandle diese als Nur-ein-Mensch-Schritte.

Was ist der Unterschied zwischen einer Übergabe und einem Approval Gate?

Eine Übergabe findet mitten im Lauf statt: Der Agent kann nicht weitermachen, bis eine Person etwas tut. Ein Approval Gate sitzt vor einem Ergebnis: Der Agent könnte weitermachen, aber eine Person entscheidet, ob er das sollte.

Wie verhindere ich, dass eine Webseite eine menschliche Genehmigung vortäuscht?

Nimm das Fortsetzungssignal aus der Reichweite der Inhalte. Browse akzeptiert nur einen echten Klick auf seine Karte oder den Toolbar-Button. Auf einem Board verwende eine Statusänderung oder eine Antwort aus dem Konto einer Person.

Mehr entdecken

Gemini 4 Neon Orchestrator: Mit Hydrogen-Subagenten kombinieren

Gemini 4 Neon Orchestrator: Mit Hydrogen-Subagenten kombinieren

Wie man einen Gemini 4 Neon Orchestrator für Hydrogen-Subagenten betreibt: der Vertrag für Unteraufgaben, den er schreibt, die Dimensionierung des Fan-outs, die Kostenberechnung pro Lauf im Vergleich zu Carbon und die Regeln für Fehlerfälle.

19 November 2026

Agentic SDLC: Die fünf Bausteine, die es braucht (Board, Agents, Review Gate)

Agentic SDLC: Die fünf Bausteine, die es braucht (Board, Agents, Review Gate)

Was ein agentenbasiertes SDLC in der Praxis braucht: ein gemeinsames Board, zuweisbare Agents, einen separaten Reviewer-Agent, einen Rückgabe-Pfad und einen Menschen, der ausliefert. Der Kreislauf Schritt für Schritt.

18 November 2026

Claude Fable 5.2: So evaluieren Sie KI-Agenten auf der eigenen Codebasis

Claude Fable 5.2: So evaluieren Sie KI-Agenten auf der eigenen Codebasis

Evaluieren Sie Claude Fable 5.2 an Ihrer Codebasis anhand kontrollierter Aufgaben, Akzeptanztests, des Review-Aufwands, der Durchlaufzeit und der Kosten pro akzeptierter Änderung.

12 November 2026