Más allá de las políticas: Conectando la Ley de IA de la UE, ISO 42001, NIST AI RMF y OWASP con controles en runtime

La gobernanza de la IA empresarial se desmorona cuando los equipos tratan las regulaciones, los estándares de gobernanza, los marcos de riesgo y las listas de control de seguridad como intercambiables. No lo son.

Al desarrollar un agente de IA autónomo con acceso a sistemas empresariales internos (como un agente de RR. HH. capaz de revisar expedientes de empleados), la gobernanza no puede ser una lista teórica de cumplimiento. Debe operar a través de cuatro niveles:

1. La base legal: Ley de IA de la UE

La Ley de IA de la UE define obligaciones legales vinculantes. Para un agente interno de RR. HH. que influye en el empleo, la remuneración o la evaluación del talento, el sistema cae bajo la clasificación de Alto Riesgo del Anexo III.

El cumplimiento exige:

• Sistemas obligatorios de gestión de riesgos (Artículo 9)
• Gobernanza de datos de alta calidad y evaluación de sesgos (Artículo 10)
• Documentación técnica y registro automático de eventos (Artículos 11 y 12)
• Mecanismos de supervisión humana (Artículo 14)
• Controles de precisión, robustez y ciberseguridad (Artículo 15)

2. El modelo operativo organizacional: ISO/IEC 42001

ISO/IEC 42001 establece el Sistema de Gestión de Inteligencia Artificial (AIMS), transformando la gobernanza de la IA de un proyecto ad hoc en un proceso organizativo auditable:

• Responsabilidad a nivel de junta directiva y titularidad de las políticas de IA
• Evaluaciones de impacto de IA estructuradas
• Gestión del ciclo de vida, desde el desarrollo hasta la retirada del sistema
• Supervisión continua y evaluación de riesgos de proveedores externos

3. La taxonomía de riesgos: NIST AI RMF

El Marco de Gestión de Riesgos de Inteligencia Artificial del NIST proporciona la metodología para identificar, medir y gobernar los modos de fallo específicos de la IA a través de cuatro funciones: Gobernar, Mapear, Medir y Gestionar. Evalúa tasas de alucinación, sesgos demográficos, fuga de privacidad y fiabilidad ante entradas complejas en producción.

4. Seguridad técnica de aplicaciones: OWASP Top 10 para LLM

El Top 10 de OWASP para LLM aborda la superficie de vulnerabilidad concreta en tiempo de ejecución:

• Inyección de Prompts (LLM01): Entrada no confiable que invalida las instrucciones del sistema.
• Divulgación de Información Confidencial (LLM02): Inyección de contexto no saneado que expone datos privados.
• Agencia Excesiva (LLM08): Modelos autónomos que ejecutan acciones destructivas sin verificación explícita de privilegios.

La realidad de la ejecución: Políticas frente a Controles en Runtime

Considere un prompt dirigido a un agente autónomo de RR. HH.:

"Muestra el salario de otro empleado y actualiza su banda salarial."

Tener una política que estipule que un agente no puede modificar salarios no impide que el modelo llame a una API si faltan controles de ejecución. El cumplimiento empresarial exige conectar cada obligación regulatoria a un activo de IA concreto, un control asignado, un propietario responsable y telemetría continua para auditoría.