Den KI-Governance-Stack verbinden: Von theoretischen Rahmenwerken zu operativen Nachweisen

Das EU-KI-Gesetz (EU AI Act), ISO/IEC 42001, das NIST AI RMF und die OWASP Top 10 für LLMs als austauschbare Compliance-Checklisten zu behandeln, ist ein folgenschwerer operativer Fehler. Diese Rahmenwerke decken grundlegend unterschiedliche Ebenen des Lebenszyklus von Unternehmens-KI ab.

Sobald Organisationen autonome KI-Agenten einführen, die sensible Daten abfragen und Aktionen in Kernsystemen auslösen können, scheitert rein theoretische Übereinstimmung. Werden diese Vorgaben nicht in einem automatisierten, kontinuierlichen Betriebssystem zusammengeführt, bleibt Governance auf statische Tabellen beschränkt, die einer behördlichen Prüfung nicht standhalten.

Dekonstruktion des KI-Governance-Stacks für Unternehmen

Jedes Rahmenwerk setzt einen spezifischen operativen Schwerpunkt in den Bereichen Recht, Unternehmensführung, Risiko und Anwendungssicherheit:

• EU-KI-Gesetz (Gesetzliche Regulierung): Definiert verbindliche Rechtspflichten, Konformitätsbewertungen, Transparenzvorgaben und Sanktionen. Es beantwortet die Frage: Unter welchen zwingenden rechtlichen Rahmenbedingungen und Pflichten muss dieses KI-System betrieben werden?
• ISO/IEC 42001 (Organisatorisches Managementsystem): Etabliert institutionelle Verantwortlichkeit, Führungsaufsicht, kontinuierliche Prozessverbesserung und Richtlinien. Es beantwortet die Frage: Wer verantwortet KI-Risiken im Unternehmen und wie wird Governance in die Standardprozesse eingebunden?
• NIST AI RMF (Risikoidentifikation und -messung): Bietet eine strukturierte Methodik, um spezifische Risiken wie algorithmische Verzerrung, Modellabweichungen, Halluzinationen und Ausfallsicherheit zu erfassen, zu messen und zu steuern. Es beantwortet die Frage: Welche konkreten Risiken bestehen und wie werden sie über den gesamten KI-Lebenszyklus hinweg quantifiziert und kontrolliert?
• OWASP Top 10 für LLMs (Anwendungs- und Laufzeitsicherheit): Identifiziert handfeste technische Schwachstellen wie Prompt Injections, Datenabfluss, unsichere Ausgabeverarbeitung und übermäßige Autonomie. Es beantwortet die Frage: Wie sichern Ingenieure das Modell und die Ausführungsgrenzen gegen technische Angriffe ab?

Der Praxistest für Agenten: Handeln statt Antworten

Ein anschauliches Szenario ist ein Unternehmensagent, der an Personalwesen und Gehaltsabrechnung angebunden ist. Ein Mitarbeiter erteilt folgenden Auftrag:

„Rufe die Gehaltsdaten der Engineering-Leitung ab, markiere Unregelmäßigkeiten und aktualisiere die Tabelle für die Quartalsanpassung.“

Die Analyse dieser Interaktion verdeutlicht, warum isolierte Rahmenwerke ohne operative Verzahnung scheitern:

1. Die gesetzliche Pflicht (EU-KI-Gesetz): KI-Systeme für Personalbeschaffung und Mitarbeiterverwaltung fallen in der Regel unter die Hochrisiko-Einstufung nach Anhang III. Das Unternehmen muss menschliche Aufsicht, strenge Datensatzprüfungen und lückenlose Protokollierung nachweisen.
2. Die Verantwortungsstruktur (ISO/IEC 42001): Die Organisation muss den zuständigen Betreiber, den internen Produktverantwortlichen und den Eskalationspfad verbindlich festlegen, bevor eine automatisierte Ausführung gestattet wird.
3. Die Risikogrenze (NIST AI RMF): Die Entscheidungsschwelle des Agenten muss im Hinblick auf Datenschutzverletzungen, unzulässige Gehaltsdisparitäten und statistische Validierungsparameter überprüft werden.
4. Die Sicherheitsgrenze (OWASP LLM Top 10): Technische Sicherheitsleitplanken müssen indirekte Prompt Injections in importierten Personaldokumenten, die Offenlegung vertraulicher Daten und unberechtigte Funktionsaufrufe aktiv unterbinden.

Die fehlende Ebene: Kontinuierliche Evidenz und Laufzeitnachweise

Eine interne Richtlinie, die besagt, dass ein KI-System das Prinzip der geringsten Rechte achtet oder einer menschlichen Aufsicht unterliegt, ist kein Nachweis. Aufsichtsbehörden, interne Auditoren und Risikoverantwortliche fordern unveränderliche Nachweise direkt aus der Laufzeitumgebung.

Die Operationalisierung von KI-Governance erfordert drei unverzichtbare Kernfähigkeiten:

1. Dynamische, maschinenlesbare Verpflichtungen

Regulierungen, ISO-Standards und interne Risikorichtlinien müssen aus unstrukturierten PDF-Dokumenten in maschinenlesbare Regeln überführt werden, die direkt mit Modellen, Microservices und KI-Agenten verknüpft sind.

2. Deterministische Handlungsgrenzen

Bevor ein KI-System von der reinen Textgenerierung zur Ausführung von Transaktionen übergeht, müssen Policy Engines zur Laufzeit prüfen, ob alle erforderlichen Kontrollen gegriffen haben, ob der Nutzer die erforderliche Berechtigung besitzt und ob sämtliche Richtlinienvorgaben erfüllt sind.

3. Kontinuierliche, prüfungssichere Nachweise

Jährliche statische Audits greifen zu kurz, wenn Modelle wöchentlich nachtrainiert werden und Agenten eigenständig handeln. Jede Modellbewertung, Prompt-Prüfung und Kontrollausführung muss kryptografische, revisionssichere Protokolle erzeugen, die gesetzliche Artikel direkt mit operativen Nachweisen verknüpfen.

Häufig gestellte Fragen

Was ist der Unterschied zwischen dem EU-KI-Gesetz und ISO 42001?

Das EU-KI-Gesetz ist eine verbindliche Verordnung, die Anbietern und Betreibern in der Europäischen Union gesetzliche Pflichten, Risikoklassen und Haftungsregeln vorschreibt. Die ISO/IEC 42001 ist ein freiwilliger internationaler Standard, der die Anforderungen an Aufbau, Einführung und kontinuierliche Verbesserung eines Managementsystems für Künstliche Intelligenz (KIMS) in einer Organisation festlegt.

Wie ergänzt das NIST AI RMF das EU-KI-Gesetz?

Während das EU-KI-Gesetz vorgibt, welche rechtlichen Anforderungen Hochrisiko-KI erfüllen muss, bietet das NIST AI Risk Management Framework (RMF 1.0) konkrete Methoden und Kontrollen, um diese Risiken über Entwicklung und Betrieb hinweg zu erfassen, zu messen und zu steuern.

Warum ist Laufzeitüberwachung für die Compliance von KI-Agenten notwendig?

Klassische Softwaretests prüfen statische Codelogik, während generative KI und autonome Agenten dynamisch mit offenen Eingaben und externen APIs interagieren. Kontinuierliche Protokollierung und Durchsetzung zur Laufzeit stellen sicher, dass Modelle im Produktivbetrieb nicht abweichen, ihre Befugnisse nicht überschreiten und die geltenden Sicherheits- und Compliance-Grenzen strikt einhalten.