Verbotene KI-Praktiken nach Artikel 5 des EU AI Act: Analyse und Risikoschutzmaßnahmen

Artikel 5 des EU AI Act legt ein kategorisches Verbot bestimmter Praktiken der künstlichen Intelligenz fest, die ein unannehmbares Risiko für die Sicherheit, die Lebensgrundlagen und die Grundrechte von Personen darstellen. Im Gegensatz zu Hochrisiko-KI-Systemen nach Anhang III — die bei Einhaltung strenger Konformitätsanforderungen zulässig sind — ist die Entwicklung, der Import, der Vertrieb und die Nutzung von Systemen nach Artikel 5 in der EU vollständig untersagt.

Die acht verbotenen KI-Praktiken im Überblick

Compliance- und Engineering-Teams müssen sicherstellen, dass ihre Systeme keine der folgenden Praktiken aufweisen:

1. Unterschwellige und manipulative Techniken (Art. 5 Abs. 1 lit. a): Verhaltensbeeinflussung außerhalb des menschlichen Bewusstseins, die die Entscheidungsfähigkeit wesentlich verzerrt und erheblichen Schaden verursacht.
2. Ausnutzung von Schwachpunkten (Art. 5 Abs. 1 lit. b): Ausnutzung des Alters, einer Behinderung oder der sozioökonomischen Situation, um schädigendes Verhalten hervorzurufen.
3. Biometrisches Social Scoring (Art. 5 Abs. 1 lit. c): Bewertung oder Einstufung von Personen über einen Zeitraum hinweg anhand ihres Sozialverhaltens, die zu benachteiligender oder unverhältnismäßiger Behandlung führt.
4. Individuelle vorausschauende Polizeiarbeit (Art. 5 Abs. 1 lit. d): Risikobewertungen zur Vorhersage von Straftaten einzelner Personen, die ausschließlich auf Profiling oder Persönlichkeitsmerkmalen beruhen.
5. Ungezieltes Scraping von Gesichtsbildern (Art. 5 Abs. 1 lit. e): Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder Videoüberwachungsaufnahmen.
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Art. 5 Abs. 1 lit. f): Ableitung von Emotionen natürlicher Personen, es sei denn, dies erfolgt aus streng medizinischen oder sicherheitsrelevanten Gründen.
7. Biometrische Kategorisierung sensibler Merkmale (Art. 5 Abs. 1 lit. g): Ableitung von ethnischer Herkunft, politischen Meinungen, Gewerkschaftszugehörigkeit, religiösen Überzeugungen oder sexueller Orientierung.
8. Biometrische Fernidentifizierung in Echtzeit (Art. 5 Abs. 1 lit. h): Echtzeit-Gesichtserkennung im öffentlichen Raum durch Strafverfolgungsbehörden, abgesehen von eng definierten, gerichtlich genehmigten Notfallausnahmen.

Bußgelder und dringender Ausschluss-Audit

Verstöße gegen Artikel 5 ziehen die empfindlichsten Strafen des EU AI Act nach sich: Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Jedes Unternehmen, das Bildverarbeitung, Sprachanalyse oder Verhaltensanalytik einsetzt, muss einen lückenlosen Ausschluss-Audit durchführen.