Human Oversight
Kurz erklärt
Menschen können KI-Ergebnisse verstehen, prüfen und bei Bedarf eingreifen oder stoppen. Zuständigkeiten und Grenzen sind vorab definiert.
Siehe im Leitfaden.
Beispiele
- Vier-Augen-Freigabe bei Scores über Schwellenwert
- Pflicht zur manuellen Sichtung bei unklarer Datenlage
- Not-Stop bei auffälligen Mustern oder Beschwerden
Praxis-Tipps
- Oversight-Plan mit Rollen, Schwellenwerten, Reaktionszeiten
- Schulung der Befugten inkl. Tool-Grenzen und Fehlertypen
- „Übersteuern“-Protokoll (Wer? Warum? Wann?) standardisieren
Rechtsgrundlagen (EU AI Act)
- Art. 14 Human Oversight (inkl. Möglichkeit, Ausgaben zu ignorieren/umzukehren und Stop-Funktion)
- Bezug in Art. 13 (Anleitungen müssen Oversight unterstützen)