Governance-Funktionen
Das NIST AI Risk Management Framework strukturiert KI-Risikomanagement über Govern, Map, Measure und Manage. Human Review gehört in alle vier: Verantwortung, Kontext, Qualitätsprüfung und Korrektur.
Viele Organisationen sagen, ein Mensch bleibe im Prozess. Weniger können erklären, was diese Person prüft, welche Nachweise sie sieht, welche Autorität sie hat und wann sie stoppen muss.
Das ist entscheidend. Human Review unterscheidet oft einen sinnvollen KI-Workflow von Accountability-Theater. Wer Output nur abnickt, übt keine Aufsicht aus. Wer keinen Kontext, keine Zeit, keine Schulung oder keine Entscheidungsbefugnis hat, ebenfalls nicht.
Beim Entscheid beginnen, nicht beim Modell
Der passende Review hängt davon ab, welche Entscheidung KI beeinflusst. Eine Rechtschreibkorrektur braucht nicht dieselbe Aufsicht wie eine Shortlist im Recruiting, eine Kreditprüfung, ein Rechtsmemo, eine klinische Triage-Notiz oder eine Kundenbeschwerde.
Vier Fragen helfen:
- Welche Entscheidung oder welches Arbeitsprodukt beeinflusst KI?
- Wer ist betroffen, wenn der Output falsch ist?
- Welche Nachweise braucht der prüfende Person?
- Kann der prüfende Person das Ergebnis ändern, ablehnen oder eskalieren?
Wenn die vierte Antwort nein lautet, handelt es sich um Review-Theater.
Drei Ebenen
Level 1: Output-Review
Der Nutzer prüft Output vor Verwendung. Geeignet für Entwürfe, Zusammenfassungen, Formatierung und Brainstorming.
Level 2: Evidence-Review
Der prüfende Person vergleicht Output mit Ausgangsmaterial: Verträge, Policies, Transkripte, Datensätze, E-Mails oder Logs.
Level 3: Decision-Review
Der prüfende Person prüft den gesamten Entscheidungspfad: Input, Modelloutput, Kontext, Business Rule, betroffene Person und finale Handlung.
Review in den Workflow einbauen
Human Review braucht Trigger, prüfende Person, Standard, Nachweise, Befugnis, Dokumentation und Eskalation. Die OECD AI Principles betonen menschenzentrierte Werte, Transparenz, Robustheit und Rechenschaft. Operational werden diese Prinzipien erst, wenn Review-Verantwortung im Workflow verankert ist.
Nächster Schritt
Wählen Sie einen KI-unterstützten Workflow und zeichnen Sie ihn vom Input bis zur finalen Handlung. Markieren Sie KI-Beiträge und menschliche Eingriffspunkte. Definieren Sie dann den Review-Standard in einem Absatz.