Accuracy / Robustness / Cybersecurity

Kurz erklärt

Drei Kernanforderungen an Hochrisiko-KI nach Art. 15 EU AI Act:

  • Accuracy (Genauigkeit): Wie nah sind Ausgaben am „richtigen“ Ergebnis?
  • Robustness (Robustheit): Wie stabil ist das System gegenüber Änderungen/Fehlern?
  • Cybersecurity (IT-Sicherheit): Schutz vor Angriffen/Manipulation (z. B. adversarial, Datenvergiftung).
    Siehe im Leitfaden.

Beispiele

  • Genauigkeitsziel pro Datendomäne (Deutsch/Englisch).
  • Robustheitstests gegen fehlende/rauschartige Eingaben.
  • Härtung gegen Prompt Injection und Modell-Updates mit Sign-off.

Praxis-Tipps

  • Leistungsmetriken definieren & messen (auch pro Gruppe).
  • Regressionstests vor jedem Release; Drift-Monitoring im Betrieb.
  • Security-Reviews & Vulnerability Disclosure etablieren.

Rechtsgrundlagen (EU AI Act)

  • Art. 15 (Accuracy/Robustness/Cybersecurity)
  • Bezüge: Art. 13 (Anleitungen mit Leistungsangaben), Art. 72 (Post-Market Monitoring)