Technisch kann KI heute viele Entscheidungen allein treffen. Ob sie es darf, ist eine andere Frage. Die Antwort hängt davon ab, was passiert, wenn die Entscheidung falsch ist. Der Begriff „Human in the Loop“ (HITL) beschreibt genau diese Grenze: Ein Mensch prüft das Ergebnis, bevor es Folgen hat.

Ein Rest Unsicherheit bleibt immer

Klassische Software verhält sich vorhersehbar. Gleiche Eingabe, gleiche Regeln, gleiches Ergebnis. KI funktioniert anders. Ein gut eingerichtetes System liefert sehr häufig das gewünschte Ergebnis, aber eben nicht garantiert, und das gilt auch dann, wenn alles sorgfältig aufgebaut wurde. Je besser das System, desto seltener der Fehler. Null wird er nicht.

Warum dieses Verhalten bei Entwicklern zu einem Vertrauensproblem führt, behandelt der Beitrag Vertrauen in KI-Code. Hier geht es um die Folge für Prozesse im Unternehmen: Wenn ein Rest Unsicherheit bleibt, entscheidet nicht die Trefferquote darüber, wie viel Freiheit die KI bekommt, sondern der mögliche Schaden.

Der Schaden entscheidet, nicht die Technik

Ein Beispiel macht den Unterschied sichtbar. Eine missverständliche Formulierung in einer internen Mail oder Chat-Nachricht ist ärgerlich, aber überschaubar. Man klärt es kurz, und die Sache ist erledigt. Eine falsche Zahlung oder eine Entscheidung mit rechtlichen Folgen gehört in eine andere Kategorie. Dort lässt sich nichts mit einer Rückfrage geradebiegen.

Die Wahrscheinlichkeit eines Fehlers kann in beiden Fällen gleich sein. Die Folgen sind es nicht. Wer KI-Entscheidungen bewertet, muss deshalb zuerst nach den Folgen fragen und erst danach nach der Trefferquote.

Human in the Loop als Regel, die in der Praxis funktioniert

Wir halten uns an eine einfache Unterscheidung:

• Interne Abläufe, bei denen wenig passieren kann, darf die KI weitgehend selbstständig erledigen. Ein Fehler lässt sich korrigieren, und das Team lernt dabei, die Ergebnisse zu verbessern, ohne ein großes Risiko einzugehen.
• Sobald eine Aktion nach außen wirkt, Geld bewegt oder sich schwer rückgängig machen lässt, schaut vorher ein Mensch darauf.

Drei Fragen entscheiden also über die Einordnung: Sieht ein Kunde oder Partner das Ergebnis? Fließt Geld? Lässt sich der Schritt zurücknehmen? Genügt eine Ja-Antwort auf eine der ersten beiden oder ein Nein bei der dritten, braucht der Vorgang eine Freigabe. Eine Nachricht an einen Kunden oder eine ausgelöste Zahlung fallen sofort in diese Gruppe.

Der Einwand liegt nahe: Ohne Prüfung wäre es einfacher und günstiger. Das stimmt. „Wird schon richtig sein“ spart tatsächlich Zeit, bis der erste Fehler eintritt, der Folgen hat. Uns reicht das nicht, und für die meisten Unternehmen dürfte es auch nicht reichen.

Verantwortung lässt sich nicht automatisieren

Hinter der Regel steckt ein Grundsatz. Eine KI kann Arbeit erledigen, aber keine Verantwortung übernehmen. Wenn etwas schiefgeht, steht am Ende immer ein Mensch oder ein Unternehmen dafür gerade. Deshalb gehört die Freigabe an Stellen, an denen Verantwortung real wird, zum System.

Das ist auch kein Zeichen von Misstrauen gegenüber der Technik. Ein Unternehmen lässt auch neue Mitarbeiter nicht am ersten Tag Zahlungen freigeben, obwohl sie fachlich qualifiziert sind. Wie Vertrauen im Team entsteht und warum es vor der Technik kommt, beschreibt Mensch vor Technik.

So setzt ein Unternehmen die Grenze um

Die Regel wird erst wirksam, wenn sie auf konkrete Abläufe angewendet wird. Vier Schritte bieten sich dafür an:

1. Alle Abläufe auflisten, in denen KI schon arbeitet oder arbeiten soll, und jeden einer der beiden Gruppen zuordnen: intern und rückholbar oder mit Außenwirkung.
2. Für jeden Ablauf der zweiten Gruppe festlegen, wer prüft. Eine Freigabe ohne namentlich benannte Person wird im Alltag leicht mal übersprungen.
3. Die Prüfung so gestalten, dass sie schnell geht. Die KI bereitet vor, der Mensch gibt frei. Die Nachricht liegt als Entwurf bereit, die Zahlung als Vorschlag. Wer erst suchen muss, was zu prüfen ist, nickt irgendwann nur noch ab.
4. Die Einordnung regelmäßig überprüfen. Ein interner Ablauf, der über Monate ohne Probleme läuft, ist ein gutes Übungsfeld. Er zeigt, wie zuverlässig das System tatsächlich arbeitet, und liefert die Erfahrung, auf deren Basis sich die Grenze später verschieben lässt.

Der Maßstab für jede Verschiebung bleibt derselbe: Was passiert im schlechtesten Fall, und wer trägt das Risiko?

Fazit

KI darf allein arbeiten, wo ein Fehler wenig kostet und sich korrigieren lässt. Wo etwas nach außen wirkt, Geld bewegt oder nicht mehr zurückzunehmen ist, schaut vorher ein Mensch darauf. Human in the Loop ist damit keine Übergangslösung bis zur nächsten Modellgeneration, sondern die Folge davon, dass Verantwortung beim Menschen bleibt.