EU AI Act Compliance-Leitfaden für Retrieval-Augmented Generation (RAG)-Systeme

Retrieval-Augmented Generation (RAG)-Systeme verbinden unternehmenseigene Datenspeicher mit großen Sprachmodellen, um fundierte, kontextbezogene Antworten zu generieren. Unter dem EU AI Act bringt die Bereitstellung einer RAG-Pipeline je nach zugrunde liegender Klassifizierung der Anwendung spezifische rechtliche und technische Verpflichtungen mit sich.

Aufschlüsselung der Risikoklassifizierung

Die Klassifizierung einer RAG-Architektur hängt streng von ihrem Verwendungszweck und der Branche ab, in der sie eingesetzt wird:

1. Hochrisiko-Implementierungen (Anhang III): Wenn die RAG-Anwendung Entscheidungen über Beschäftigungsverhältnisse beeinflusst, den Zugang zu Krediten bestimmt, die Bildungszulassung bewertet oder Warnmeldungen kritischer Infrastrukturen priorisiert, wird sie als Hochrisiko-System eingestuft. Betreiber müssen strenge Anforderungen an das Qualitätsmanagement und die technische Dokumentation erfüllen.
2. Allzweck-KI-Integrationen (GPAI): Wenn die RAG-Pipeline mit Basismodellen von Drittanbietern verbunden ist, müssen Betreiber die Verantwortungsaufteilung zwischen dem vorgelagerten Modellanbieter und den nachgelagerten Anwendungskontrollen klären.
3. Transparenzpflichtige Systeme (Artikel 50): Kundenorientierte RAG-Bots, die direkt mit natürlichen Personen interagieren, müssen unmissverständlich offenlegen, dass die Nutzer mit einem automatisierten System interagieren.

Technische Dokumentation und Daten-Governance

Der rechtskonforme Betrieb einer RAG-Pipeline erfordert eine kontinuierliche Kontrollzuordnung über jede Erfassungs- und Abrufphase hinweg:

• Korpus-Herkunft und geistiges Eigentum: Alle indexierten Vektor-Embeddings müssen eine nachvollziehbare Herkunft aufweisen, die belegt, dass interne Dokumente, externe Daten und Referenzdatenbanken den Urheberrechts- und Datenschutzanforderungen der DSGVO entsprechen.
• Abruf-Protokollierung und Nicht-Determinismus: Implementierung einer unveränderlichen Protokollierung von Abfragen, abgerufenen Kontext-Chunks, System-Prompts und Modellausgaben, um eine lückenlose Prüfbarkeit für die Überwachung nach dem Inverkehrbringen zu gewährleisten.
• Halluzinations- und Groundedness-Kontrollen: Hochrisiko-Workflows erfordern automatisierte Schutzmechanismen (Guardrails), die die Einhaltung des Kontexts messen und faktische Abweichungen verhindern, bevor Tokens an menschliche Prüfer oder nachgelagerte Schnittstellen übergeben werden.

Kontrollzuweisung und kontinuierliche Audit-Bereitschaft

Um Compliance aufrechtzuerhalten, ohne die Bereitstellung zu verlangsamen, müssen Entwicklungs- und Rechtsteams die Artikel 9 bis 15 des EU AI Act direkt operativen Metriken zuordnen. Durch automatisierte Kontrollen auf Aufnahme-, Embedding- und Inferenzebene stellen Unternehmen sicher, dass jede RAG-Interaktion einen auditfähigen Compliance-Nachweis hinterlässt.