Human-in-the-loop definiert, wo menschliche Autorität in das System eintritt.
Ein Human-in-the-loop-Design weist Menschen konkrete Momente für Urteil, Freigabe oder Prüfung in einem ansonsten softwaregestützten Prozess zu. Ein allgemeiner Bestätigungsbutton reicht nicht aus. Die Person braucht relevante Evidenz, sinnvolle Alternativen und die Autorität, eine vorgeschlagene Handlung zu ändern oder zu stoppen.
Autonomie sollte in explizite Stufen unterteilt werden.
Ein System kann Informationen vorbereiten, eine Option empfehlen, eine Handlung zur Freigabe entwerfen, innerhalb delegierter Grenzen ausführen oder arbeiten, während ausgewählte Fälle geprüft werden. Werden diese Fähigkeiten als eigene Stufen behandelt, kann das Kontrollmodell an Konsequenz und Reversibilität der Arbeit angepasst werden.
- 01Vorbereiten: Evidenz zusammenführen, ohne auszuwählen.
- 02Empfehlen: Optionen vergleichen und eine Präferenz erklären.
- 03Freigeben: vor der Ausführung explizite Autorität verlangen.
- 04Delegieren und prüfen: innerhalb von Grenzen handeln und Ergebnisse kontrollieren.
Grenzen sollten Konsequenz und Reversibilität folgen.
Arbeit mit geringen Konsequenzen und guter Reversibilität kann breiter delegiert werden. Handlungen mit relevantem Budget, Kundenverpflichtungen, sensiblen Daten oder schwer umkehrbaren Änderungen rechtfertigen in der Regel stärkere Freigabe und Prüfung. Die genaue Grenze ist eine organisatorische Entscheidung und sollte sichtbar statt in einer undurchsichtigen technischen Einstellung verborgen sein.
Kontrollierte Autonomie erhöht Geschwindigkeit innerhalb klarer Grenzen, statt Verantwortung zu entfernen.
Ein nützliches Kontrollmodell beantwortet sechs Fragen.
Wer verantwortet das Ziel? Welche Evidenz ist sichtbar? Was darf das System vorschlagen oder ausführen? Wer kann eine Ausnahme freigeben? Wie lässt sich eine Handlung zurücknehmen oder korrigieren? Welches Ergebnis löst eine Prüfung aus? Sind diese Antworten explizit, wird menschliche Aufsicht zur operativen Fähigkeit statt zur zeremoniellen Reibung.
Eine Freigabe muss abgelehnt werden können.
Eine prüfbare Handlung braucht Evidenz, vorgeschlagene Änderung, betroffenes System, Verantwortung und verbleibende Unsicherheit. Die prüfende Person muss zusätzliche Evidenz verlangen oder ablehnen können, ohne den Datensatz zu verlieren. Eine Freigabe allein macht eine Handlung nicht sicher: veraltete Evidenz, unklarer Umfang und schlecht verstandene Konsequenzen bleiben Probleme. NIST dient hier als Referenz für Risikomanagement, nicht als Zertifizierung oder Empfehlung von marnxt.
