Stellen Sie sich vor: Der Betriebsrat fragt nach, welche KI-Systeme im Recruiting eingesetzt werden. Eine Kandidatin möchte wissen, ob ihre Bewerbung automatisiert vorsortiert wurde. Oder eine Aufsichtsbehörde verlangt Nachweise, dass Ihr Unternehmen die Deployer-Pflichten nach dem EU AI Act erfüllt. Die Nachweise existieren nicht. Genau dieses Problem löst responzai: Zwei Werkzeuge, die HR-Teams helfen, KI-Einsatz nachvollziehbar zu dokumentieren und prüffähige Belege zu erstellen.

Warum dieser Moment gerade jetzt kommt

Der EU AI Act ist seit August 2024 in Kraft. Ab Februar 2025 gelten bereits die verbotenen Praktiken und die Pflicht zur KI-Kompetenz (Art. 4). Ab August 2026 greifen die vollständigen Pflichten für Hochrisiko-KI.

HR ist dabei direkt betroffen: Anhang III Nr. 4 der Verordnung stuft KI-Systeme in Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit als potenziell hochriskant ein. Das betrifft unter anderem die KI-gestützte Vorauswahl von Bewerbungen, die automatisierte Leistungsbewertung und KI-basierte Entscheidungen über Beförderungen oder Kündigungen.

Wer solche Systeme einsetzt, ist nach der Verordnung Deployer. Deployer tragen eigene Pflichten: Human Oversight sicherstellen, Logging aufbewahren, Transparenzhinweise geben, eine Grundrechte-Folgenabschätzung (FRIA) durchführen und die Registrierung in der EU-Datenbank für Hochrisiko-KI veranlassen. Das klingt nach viel. Ist es auch. Aber es ist machbar, wenn die Dokumentation von Anfang an stimmt.

Was responzai ist

responzai ist ein Werkzeug-Anbieter für HR-Teams, die ihren KI-Einsatz dokumentieren und belegen müssen. Kein Beratungshaus, keine Kanzlei, keine Zertifizierungsstelle.

Das Angebot besteht aus zwei Produkten:

  • EVIDENCE: Ein lokales Nachweis-Tool für einzelne KI-Einsatzfälle.
  • GUIDES: Ein vollständiges 6-Schritte-Governance-System für die gesamte Organisation.

Daneben gibt es kostenlose Einstiege: den KI-Risikocheck zur Risikoeinschätzung und eine KI-Richtlinien-Vorlage als Ausgangspunkt für interne Regeln.

Das Problem an einem konkreten Beispiel

Ein mittelständisches Unternehmen erhält 400 Bewerbungen auf eine Stelle. Die HR-Abteilung setzt ein KI-Tool ein, das die Unterlagen vorsortiert und eine Rangliste erstellt. Die finale Entscheidung trifft weiterhin ein Mensch. Soweit ein alltägliches Szenario.

Dann fragt der Betriebsrat: Welches System wird eingesetzt? Auf welcher Grundlage sortiert die KI? Wer hat das freigegeben? Welche Schwellenwerte gelten? Gibt es eine Möglichkeit zum Übersteuern?

Ohne Dokumentation beginnt jetzt hektische Recherche. Mit Dokumentation öffnen Sie einen Ordner.

Ein weiteres Szenario: KI für Textarbeit

Das Problem wird noch größer, wenn KI nicht nur zur Vorauswahl, sondern auch zur Textgenerierung eingesetzt wird. Beispiele aus der HR-Praxis:

  • Ein Personaler nutzt ein KI-Tool, um Anschreiben an Kandidaten zu verfassen oder zu überarbeiten
  • Eine Leiterin generiert mit KI-Unterstützung Jahresgespräche oder Entwicklungspläne
  • Ein Team nutzt ein Sprachmodell, um Personalrichtlinien zu formulieren

Warum das problematisch ist:

  1. Keine Kontrolle über Inhalt: KI-Modelle können Bias in den Trainingsdaten reproduzieren. Ein generiertes Anschreiben könnte unbemerkt diskriminierende Formulierungen enthalten.

  2. Mangelnde Nachvollziehbarkeit: Wie kam das System zu dieser Formulierung? Auf welche Datensätze stützt sich die Ausgabe? Diese Fragen sind oft nicht zu klären.

  3. Pflicht zur Transparenzhinweis: Wenn eine KI-generierte Nachricht an eine Person geht, kann der EU AI Act eine Offenbarung fordern, dass KI beteiligt war.

  4. Risiko bei internen Dokumenten: Auch interne Texte wie Entwicklungspläne oder Bewertungen müssen dokumentiert werden, wenn KI dabei eine Rolle spielte. Warum? Weil ein Prüfer später fragen wird: "Wie wurde diese Entscheidung getroffen?" Die Antwort "Die KI hat es geschrieben" reicht nicht aus.

Das Mindeste: Wenn KI für Textarbeit im HR genutzt wird, sollten Sie festhalten: Was wurde mit welchem System erstellt? Wer hat den Output überprüft? Welche Änderungen wurden vorgenommen, bevor der Text verwendet wurde? Genau das ist die Aufgabe von EVIDENCE und GUIDES: diese Nachweise zu strukturieren und zu sammeln.

Tipp: Sie sind sich nicht sicher, ob Ihr KI-Einsatz überhaupt unter die Hochrisiko-Regeln fällt? Der kostenlose KI-Risikocheck führt Sie in vier Schritten zur Einschätzung.

EVIDENCE: Das Nachweis-Tool

EVIDENCE ist ein Browser-Tool, das lokal auf Ihrem Rechner läuft. Keine Cloud, kein Login, keine Datenübertragung. Alle Eingaben bleiben bei Ihnen.

Was EVIDENCE macht

Sie beantworten Schritt für Schritt Fragen zu einem konkreten KI-Einsatz: Was wurde eingesetzt, in welchem Kontext, wer hat verifiziert, was war das Ergebnis? EVIDENCE erzeugt daraus prüffähige Nachweisdokumente.

Vier Startpfade

Je nach Situation wählen Sie einen passenden Einstieg:

  1. Quick-Check: Schnelle Dokumentation eines einzelnen KI-Einsatzes.
  2. Mit Personenbezug: Wenn konkrete Personen betroffen sind (z. B. Bewerbende).
  3. Ohne Personenbezug: Für interne Auswertungen ohne direkten Bezug zu Einzelpersonen.
  4. Kompetenzbeweis: Nachweis, dass beteiligte Personen die nötige KI-Kompetenz besitzen.

Fünf Ausgabe-Dokumente

EVIDENCE erzeugt Belege in drei Formaten (PDF, CSV, JSON), die Sie archivieren, weiterleiten oder in bestehende Compliance-Systeme einbinden können. Die Dokumente sind so aufgebaut, dass sie bei einer Prüfung durch Aufsichtsbehörden oder interne Revision nachvollziehbar sind.

Warum lokal wichtig ist

Bei KI-Dokumentation im HR-Bereich geht es um personenbezogene Daten, interne Prozesse und potenziell sensible Entscheidungsgrundlagen. Ein Tool, das diese Informationen in eine Cloud überträgt, erzeugt genau die Datensparsamkeits-Probleme, die Sie vermeiden wollen. EVIDENCE speichert nichts außerhalb Ihres Rechners.

Preis: 149 € einmalig (netto, zzgl. MwSt.). Optional: Update-Pass für laufende Aktualisierungen (19 €/Monat oder 149 €/Jahr).

→ EVIDENCE-Präsentation anschauen

GUIDES: Das Governance-System

Während EVIDENCE einzelne Nachweise erzeugt, liefert GUIDES das Regelwerk für die gesamte Organisation. GUIDES steht für ein geführtes 6-Schritte-System. Jeder Schritt erzeugt ein fertiges Ergebnisdokument.

Die sechs Schritte

Schritt Inhalt Ergebnis-Dokument
1. Klarheit schaffen Welche KI-Systeme setzen wir ein? Wo genau? Wer ist verantwortlich? Klarheits-Briefing
2. Einsatzfälle aufdecken Alle KI-Aufgaben sichtbar machen, auch verdeckte. Markieren, wo Verbote, Transparenzpflichten oder Hochrisiko-Situationen vorliegen. Use-Case-Register
3. Regeln festlegen Zuständigkeiten, Grenzen, Freigaben und Eskalation definieren. Regel-Set
4. Betrieb absichern Laufende Überwachung planen. Was passiert bei Fehlern? Oversight-Plan
5. Belege bündeln Alle Nachweise an einem Ort. Prüfbereit für Audits. Evidence-Pack-Register
6. Kompetenz nachweisen Dokumentieren, wer im Team die Regeln kennt. KI-Kompetenz-Nachweis

Für jeden Schritt enthält GUIDES: Auditor-Fragen (was würde ein Prüfer fragen?), einen Belegpfad (welche Nachweise brauchen Sie?) und eine Stopp-Regel (wann ist dieser Schritt wirklich abgeschlossen?).

Drei Pakete

Paket Fokus Preis (einmalig)
GUIDES Starter Allgemeiner HR-Einsatz, Standard-Defaults 399 €
GUIDES Recruiting Speziell für Bewerbungsauswahl, mit Mitbestimmungs- und Risikoperspektive 599 €
GUIDES HR-Komplett Mehrere HR-Bereiche, skalierbare Dokumente, höherer Stresstest-Grad 899 €

Alle Pakete enthalten EVIDENCE vollständig. Wer mit EVIDENCE startet, kann jederzeit upgraden und zahlt nur die Differenz (z. B. EVIDENCE → Starter: 250 €, EVIDENCE → Recruiting: 450 €).

Was der Kundenbereich bietet

Nach dem Kauf erhalten Sie Zugang zu einem geführten Kundenbereich. Dort finden Sie für jeden Schritt: Arbeitsvorlagen, Kopiervorlagen, fertige Textbausteine und die Logik, die Ihnen zeigt, wann ein Schritt abgeschlossen ist. Keine Endlos-Beratung, sondern ein klares System mit definiertem Ende.

Wie EVIDENCE und GUIDES zusammenarbeiten

Die Unterscheidung ist einfach: GUIDES liefert das Regelwerk, EVIDENCE liefert die Quittungen.

GUIDES beantwortet organisatorische Fragen: Welche KI setzen wir ein? Wer darf was freigeben? Was tun wir bei Fehlern? Die sechs Ergebnisdokumente bilden das Fundament Ihrer KI-Governance.

EVIDENCE beantwortet operative Fragen: Wurde dieser konkrete Einsatz dokumentiert? Wer hat verifiziert? Was war das Ergebnis? Die Nachweise belegen, dass Ihre Regeln im Alltag auch tatsächlich gelebt werden.

Wann was sinnvoll ist

  • Nur EVIDENCE: Sie haben bereits interne Richtlinien und brauchen ein Werkzeug, um einzelne Einsatzfälle zu dokumentieren.
  • Nur GUIDES Starter: Sie wollen erst das Fundament legen (EVIDENCE ist enthalten).
  • GUIDES + EVIDENCE im Alltag: GUIDES definiert die Regeln. EVIDENCE erzeugt die laufenden Nachweise. Bei einer Prüfung zeigen Sie beides: das System und die Belege.

Das Audit Proof Pack entsteht so aus dem Zusammenspiel beider Werkzeuge: Regelwerk plus Einzelnachweise, gebündelt und prüfbereit.

Für wen responzai gemacht ist

  • HR-Abteilungen, die KI-Tools im Recruiting oder Personalmanagement einsetzen
  • Compliance-Verantwortliche, die Deployer-Pflichten dokumentieren müssen
  • Betriebsräte, die Transparenz über den KI-Einsatz einfordern
  • Datenschutzbeauftragte, die DPIA-Prozesse mit KI-Nachweisen ergänzen wollen
  • KMU ohne eigene Rechtsabteilung, die ein pragmatisches System suchen
  • Personaldienstleister, die ihren Kunden nachweisen müssen, dass KI-Einsatz dokumentiert ist

Mini-Checkliste: Wo stehen Sie?

Wenn Sie bei mehr als zwei Punkten gezögert haben: Es ist ein guter Zeitpunkt, anzufangen.

Nächste Schritte

Kostenlos starten: Nutzen Sie den KI-Risikocheck, um einzuschätzen, ob Ihr KI-Einsatz unter die Hochrisiko-Regeln fällt. Dauert wenige Minuten, braucht keine Anmeldung.

Mit EVIDENCE beginnen: Dokumentieren Sie Ihren ersten KI-Einsatzfall. EVIDENCE kostet 149 € einmalig und läuft lokal auf Ihrem Rechner.

Mit GUIDES das Fundament legen: Starten Sie mit dem geführten 6-Schritte-System. GUIDES gibt es in drei Paketen ab 399 €. EVIDENCE ist immer enthalten.

→ Alle Angebote im Überblick

Hinweis: responzai bietet Werkzeuge zur Dokumentation, keine Rechtsberatung. Die Inhalte ersetzen keine anwaltliche Prüfung. Bei konkreten Rechtsfragen wenden Sie sich an eine auf KI-Regulierung spezialisierte Kanzlei.