Prácticas de IA prohibidas según el Artículo 5 de la Ley de IA de la UE: Análisis y salvaguardas

El Artículo 5 de la Ley de Inteligencia Artificial de la Unión Europea establece una prohibición categórica sobre prácticas específicas consideradas una amenaza inaceptable para la seguridad, los medios de vida y los derechos fundamentales. A diferencia de los sistemas de Alto Riesgo del Anexo III —que están autorizados si cumplen estrictos requisitos de conformidad—, los sistemas del Artículo 5 tienen prohibido su desarrollo, importación, distribución y uso en la UE.

Lista completa de prácticas de IA prohibidas

Los equipos técnicos y de cumplimiento deben comprobar que sus productos no incurran en ninguna de estas ocho categorías prohibidas:

1. Técnicas subliminales y manipuladoras (Art. 5(1)(a)): Manipulación cognitiva más allá de la conciencia de la persona para alterar sustancialmente su comportamiento provocando perjuicio.
2. Explotación de vulnerabilidades (Art. 5(1)(b)): Aprovechamiento de la edad, discapacidad o situación socioeconómica para incitar a conductas perjudiciales.
3. Puntuación social biométrica (Art. 5(1)(c)): Clasificación de personas o colectivos según su comportamiento social que conlleve un trato perjudicial o desproporcionado.
4. Policía predictiva individual (Art. 5(1)(d)): Evaluaciones del riesgo de que una persona cometa un delito basadas exclusivamente en perfiles o rasgos de personalidad.
5. Extracción masiva no selectiva de imágenes faciales (Art. 5(1)(e)): Creación o ampliación de bases de datos de reconocimiento facial mediante raspado indiscriminado de internet o grabaciones de videovigilancia.
6. Reconocimiento de emociones en el trabajo y la educación (Art. 5(1)(f)): Deducción de estados emocionales de empleados o estudiantes, salvo razones estrictamente médicas o de seguridad laboral.
7. Categorización biométrica de atributos sensibles (Art. 5(1)(g)): Deducción de raza, opiniones políticas, afiliación sindical, creencias religiosas u orientación sexual.
8. Identificación biométrica remota en tiempo real (Art. 5(1)(h)): Escaneo biométrico en directo en espacios de acceso público con fines policiales, con limitadas excepciones judiciales de emergencia.

Sanciones y auditoría de exclusión inmediata

Las infracciones del Artículo 5 acarrean las sanciones más severas de la Ley de IA: multas de hasta 35 millones de euros o el 7 % de la facturación global anual, la cifra que resulte mayor. Las empresas deben auditar sus sistemas de visión artificial, análisis de texto y evaluación de conducta para verificar la ausencia total de prácticas prohibidas.