Mehr als Richtliniendokumente: Verbindung von EU AI Act, ISO 42001, NIST AI RMF und OWASP mit Laufzeitkontrollen

Unternehmensweite KI-Governance scheitert häufig daran, dass gesetzliche Regulierungen, Governance-Standards, Risikorahmenwerke und Sicherheits-Checklisten als austauschbar behandelt werden. Sie sind es nicht.

Wenn ein autonomer KI-Agent mit Zugriff auf interne Systeme entwickelt wird (beispielsweise ein HR-Agent zur Prüfung von Mitarbeiterdaten), darf Governance keine theoretische Checkliste bleiben. Sie muss über vier Ebenen hinweg greifen:

1. Das gesetzliche Fundament: Der EU AI Act

Der EU AI Act definiert rechtsverbindliche Pflichten. Für einen internen HR-Agenten, der Entscheidungen über Beschäftigung, Gehälter oder Leistungsbeurteilungen beeinflusst, gilt die Einstufung als Hochrisikosystem nach Anhang III. Die Compliance erfordert:

• Verpflichtende Risikomanagementsysteme (Artikel 9)
• Strikte Daten-Governance und Bias-Prüfungen (Artikel 10)
• Technische Dokumentation und automatische Protokollierung (Artikel 11 und 12)
• Menschliche Aufsichtsmechanismen (Artikel 14)
• Kontrollen für Genauigkeit, Robustheit und Cybersicherheit (Artikel 15)

2. Das organisatorische Betriebsmodell: ISO/IEC 42001

Die ISO/IEC 42001 definiert das Managementsystem für künstliche Intelligenz (AIMS). Sie überführt KI-Governance von einem Einzelfallprojekt in einen prüffähigen Unternehmensprozess:

• Klare Richtlinienverantwortung auf Vorstandsebene
• Strukturierte KI-Folgenabschätzungen
• Vollständiges Lifecycle-Management von der Entwicklung bis zur Außerbetriebnahme
• Kontinuierliche Überwachung und Risikoprüfung von Drittanbietern

3. Die Risikotaxonomie: NIST AI RMF

Das NIST AI Risk Management Framework liefert die Methodik zur Identifikation, Messung und Steuerung spezifischer KI-Fehlermodi entlang der Funktionen Govern, Map, Measure und Manage. Es bewertet Halluzinationsraten, demografischen Bias, Datenschutzrisiken und Stabilität unter Produktionslast.

4. Technische Anwendungssicherheit: OWASP Top 10 für LLMs

Die OWASP Top 10 für LLMs adressieren die Angriffsfläche zur Laufzeit:

• Prompt Injection (LLM01): Manipulation von Systemanweisungen durch unsichere Eingaben
• Offenlegung sensibler Daten (LLM02): Unbeabsichtigter Datenabfluss über injizierte Kontexte
• Übermäßige Autonomie (LLM08): Destruktive Aktionen ohne Verifizierung von Nutzerrechten

Die Realität zur Laufzeit: Richtlinien vs. Ausführungskontrollen

Betrachten wir eine Anfrage an einen autonomen HR-Agenten:

„Zeige mir das Gehalt eines anderen Mitarbeiters und passe seine Vergütungsstufe an.“

Eine Richtlinie allein hindert ein Modell nicht daran, ein API-Tool aufzurufen, wenn technische Ausführungsschranken fehlen. Echte Unternehmens-Compliance verbindet jede gesetzliche Vorgabe mit einem konkreten KI-System, einer zugewiesenen Kontrolle, einem verantwortlichen Prozesseigner und kontinuierlicher Telemetrie.