Accuracy / Robustness / Cybersecurity
Leistungs- und Sicherheitsmerkmale von Hochrisiko-KI (Art. 15)
Glossar
Kurz erklärt – zentrale Begriffe rund um verantwortungsvolle KI.
A
Anbieter (Provider)
Wer ein KI-System entwickelt/auf den Markt bringt, ist Anbieter – verantwortlich für CE, Doku und Anleitung.
Audit Proof Pack
Bündel zentraler Nachweise für Prüfungen/Audits
Autorisierte Vertretung
Bevollmächtigte/r in der EU – Ansprechpartner für Behörden, Doku & Pflichten
AVV/DPA
Auftragsverarbeitungsvertrag (AVV) / Data Processing Agreement (DPA)
B
Bias
Systematische Verzerrung in Daten oder Modellen
Biometrische Identifizierung
Erkennen/Zuordnen von Personen per körperlichen Merkmalen (Gesicht, Stimme, Fingerabdruck).
C
CE-Kennzeichnung
CE-Zeichen bestätigt Konformität; bei SaaS als digitales CE
D
Datensparsamkeit
Nur so viele personenbezogene Daten erheben wie nötig
Deployer (Anwender)
Unternehmen, das das KI-System nutzt; Anleitungen befolgen, überwachen, protokollieren
DPIA
Datenschutz-Folgenabschätzung nach DSGVO (separat vom AI Act)
E
Emotionserkennung
Automatische Ableitung von Gefühlen aus Gesicht, Stimme oder Körper – im Arbeits- und Bildungsbereich unzulässig.
EU AI Act
EU-Verordnung zu Entwicklung, Inverkehrbringen und Nutzung von KI-Systemen
EU-Datenbank für Hochrisiko-KI
Zentrale Datenbank für bestimmte Hochrisiko-Systeme/Akteure (öffentlich je nach Kategorie)
EU-Konformitätserklärung (DoC)
Erklärung des Providers zur Erfüllung der Anforderungen; zentraler Audit-Nachweis
F
G
Graubereich
Wenn ein KI-Einsatz weder klar Hochrisiko noch klar unbedenklich ist.
Grundrechte
Warum Grundrechte Maßstab für KI-Risiken sind – Gleichbehandlung, Datenschutz, Berufsfreiheit u. a.
H
Hochrisiko – in 5 Fragen (Klartext)
Einfacher Fragenrahmen für die erste Einordnung – Teil des kostenlosen Online-Checks.
Hochrisiko-KI
KI-Systeme mit besonderen Pflichten, z. B. Recruiting/Selektion
Human Oversight
Wirksame menschliche Aufsicht: prüfen, verstehen, übersteuern/stoppen können
I
Importeur/Distributor
Akteure in der Lieferkette; prüfen Kennzeichen, Doku und Konformität
Incident Reporting
Meldepflichten bei schweren Vorfällen im Betrieb von Hochrisiko-KI.
Instructions for Use (IFU)
Offizielle Nutzungsinfo inkl. Grenzen, Metriken, Risiken – Basis für den Betrieb
K
Kennzeichnung synthetischer Inhalte
Wie KI-generierte Inhalte für Menschen erkennbar gemacht werden.
KI-gestützte Vorauswahl
Automatisierte Unterstützung beim Sortieren von Bewerbungen
KPI
Kennzahlen zur Qualität, Fairness und Effizienz
Künstliche Intelligenz (KI)
Systeme, die Aufgaben lösen, die typischerweise menschliche Intelligenz erfordern.
L
Logging/Protokollierung
Nachvollziehbare Aufzeichnungen über Nutzung, Eingaben, Ausgaben und Entscheidungen
M
Marktüberwachungsbehörde
Nationale Behörde überwacht die Einhaltung des EU AI Act
O
Öffentlicher Raum
Besondere Grenzen für biometrische Identifizierung/Überwachung – nur mit spezieller Rechtsgrundlage.
P
Post-Market Monitoring
Überwachung im Feldbetrieb: Probleme erkennen und beheben
Prompt
Eingabe an ein KI-System um eine Ausgabe zu erhalten
Provider (Hersteller)
Anbieter eines Hochrisiko-KI-Systems: QMS, Dokumentation, DoC/CE, Registrierung
R
Risikomanagement
Kontinuierlicher Prozess zur Erkennung, Bewertung und Minderung von KI-Risiken.
S
Schwellenwert/Score
Grenzwerte steuern, wann zwingend menschlich geprüft werden muss
Serious Incident
Schwerwiegender Vorfall mit Meldepflichten
SOP
Standardarbeitsanweisung für den Betrieb
T
Trainingsdaten
Herkunft, Qualität und Dokumentation von Datensätzen – Basis für faire und zuverlässige KI.
Transparenzhinweis
Klare Information, dass Hochrisiko-KI eingesetzt wird – inkl. Ansprechpartner
Transparenzpflicht
Hinweis, wenn Menschen mit KI interagieren – und Kennzeichnung synthetischer Inhalte.
Transparenzprotokoll
Kurze Dokumentation wie eine KI im Prozess genutzt wurde
U
UAT
User Acceptance Test – Abnahme vor Go-Live
Übersteuern (Praxisbegriff)
Manuelles Eingreifen/Stoppen gegen eine KI-Empfehlung – mit Kurzbegründung & Protokoll
V
Verbotene Praktiken (Art. 5)
KI-Anwendungen, die grundsätzlich unzulässig sind – z. B. manipulative Techniken, Ausnutzung von Schwächen, bestimmte biometrische Überwachungen.