EU AI Act Anhang III Hochrisiko-Compliance für HR- und Recruiting-KI

Künstliche Intelligenz in den Bereichen Beschäftigung, Personalbeschaffung und Mitarbeiterverwaltung fällt unmittelbar unter Anhang III Ziffer 4 des EU AI Act. Jedes KI-System, das Bewerbungen filtert, Eignungstests analysiert, Arbeitsaufgaben zuteilt oder die berufliche Leistung bewertet, ist gesetzlich als Hochrisiko-KI eingestuft.

Anwendungsbereich von HR-KI nach Anhang III

Die Hochrisiko-Einstufung umfasst alle Phasen des Beschäftigungsverhältnisses:

• Bewerbersuche und Vorauswahl: Algorithmen, die Lebensläufe scannen, Kandidaten bewerten oder Bewerbungen automatisiert aussortieren.
• Interview-Analytik und Eignungstests: Systeme, die kognitive Fähigkeiten messen, Video-Interviews analysieren oder Persönlichkeitsmerkmale bewerten.
• Aufgabenzuweisung und Einsatzplanung: Automatisierte Verteilungsmodelle, die Beförderungen oder Vergütungsbestandteile beeinflussen.
• Leistungsüberwachung und Kündigungsentscheidungen: Analysetools, die Abmahnungen, Kündigungen oder Leistungsüberprüfungen empfehlen.

Zwingende Pflichten für Betreiber von HR-KI-Systemen

1. Bias-Minderung und Datenprüfung: Trainings- und Testdaten müssen systematisch auf historische Voreingenommenheiten und Diskriminierungsrisiken gegenüber geschützten Personengruppen nach EU-Recht geprüft werden.
2. Menschliche Aufsicht und Übersteuerungsrechte: Das zuständige Personal muss fachlich qualifiziert sein und über die tatsächliche Befugnis verfügen, automatisierte Empfehlungen jederzeit ohne organisatorische Hürden zu verwerfen oder abzuändern.
3. Lückenlose Protokollierung: Das System muss detaillierte Telemetriedaten zu jeder Entscheidung (Gewichtungsfaktoren, Abrufwerte, Prüfprotokolle) für mindestens sechs Monate unveränderlich speichern.
4. Transparenzpflicht gegenüber Bewerbern: Betroffene Personen müssen ausdrücklich darüber informiert werden, dass ein KI-System eingesetzt wird, und über das Recht aufgeklärt werden, eine menschliche Überprüfung zu verlangen.

Verstöße gegen die Hochrisiko-Vorgaben werden mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet. Personalverantwortliche müssen alle eingesetzten Tools unverzüglich inventarisieren und Konformitätsnachweise von Softwareanbietern einfordern.