Hochrisiko-KI
KI = Künstliche Intelligenz
Kurz erklärt
Bestimmte Einsatzfelder gelten als Hochrisiko und unterliegen strengen Anforderungen (z. B. KI in Bewerbungs- und Auswahlprozessen).
Siehe im Leitfaden.
Beispiele
- KI-gestützte Vorauswahl/Ranking von Bewerbungen
- Eignungs-/Fähigkeitstests mit KI-Auswertung
- Interne Beförderungsentscheidungen mit KI-Scores
Praxis-Tipps
- Kategorie prüfen (Annex III, Nr. 4(a))
- Human Oversight festlegen (Vier-Augen, Stop-Regeln)
- Logging und KPI – Key Performance Indicators monitoren
Rechtsgrundlagen (EU AI Act)
- Einstufung: Art. 6 · Annex III, Nr. 4(a)
- System-Anforderungen: Art. 13 (Anleitungen), Art. 14 (Oversight), Art. 15 (Accuracy/Robustness/Cybersecurity)
- Pflichten & Nachweise: Art. 16–27 (u. a. Art. 19 Logs, Art. 26 Deployers, Art. 27 FRIA)