¿Qué prohíbe el artículo 5 del AI Act?
Revisión editorial, 30 de septiembre de 2026: conservamos la fecha original de publicación. Reescribimos los ejemplos que parecían declarar ilegal una herramienta sin conocer los hechos y contrastamos categorías y fechas con el texto consolidado del Reglamento, el resumen de la Comisión y su explicación sobre la aplicación.
El artículo 5 del EU AI Act recoge prácticas prohibidas, definidas por condiciones precisas. No basta con que una herramienta use biometría, predicción o generación de contenido para ubicarla automáticamente en una categoría: hay que examinar finalidad, diseño, uso real y, cuando corresponda, excepciones y garantías.
Las ocho categorías originales se aplican desde el 2 de febrero de 2025. La modificación de 2026 añadió disposiciones relativas a contenido íntimo no consentido y material de abuso sexual infantil, que se aplican desde el 2 de diciembre de 2026. A la fecha de esta revisión, esa última fecha aún no llega. Comprueba siempre el texto vigente antes de tomar una decisión legal.
Las prácticas prohibidas y sus condiciones
1. Manipulación o engaño perjudicial
La letra a) abarca técnicas subliminales o deliberadamente manipuladoras o engañosas que alteran sustancialmente el comportamiento, merman apreciablemente la capacidad de decidir con información y causan o pueden causar perjuicios considerables. No toda persuasión o personalización entra en esta prohibición.
Pregunta de revisión: ¿Qué técnicas usa el sistema, qué decisión altera y qué perjuicio concreto podría producir?
2. Explotación de vulnerabilidades
La letra b) se refiere a vulnerabilidades derivadas de la edad, discapacidad o una situación social o económica específica, cuando el sistema altera sustancialmente el comportamiento y causa o puede causar perjuicios considerables.
Pregunta de revisión: ¿La función explota una vulnerabilidad identificable y qué daño razonablemente probable se ha documentado?
3. Evaluación o puntuación social (social scoring)
La prohibición no se limita a autoridades públicas: alcanza la introducción, puesta en servicio o uso de sistemas que evalúan o clasifican personas durante un período según comportamiento social o características personales cuando la puntuación conduce a:
- Un trato perjudicial en contextos no relacionados con el contexto de generación de datos
- Un trato injustificado o desproporcionado respecto a la gravedad del comportamiento
Matiz: no toda evaluación de personas es «social scoring» prohibido. Hay que analizar finalidad, datos y trato resultante; otras evaluaciones pueden estar sujetas a reglas de alto riesgo u otras normas.
4. Evaluación del riesgo de cometer delitos
Prohibido: sistemas que predigan la probabilidad de que una persona cometa un delito basándose únicamente en perfiles o características de personalidad, sin que exista un comportamiento concreto y objetivo.
La disposición distingue esta predicción basada únicamente en perfiles o rasgos de una evaluación que apoya una valoración humana basada en hechos objetivos y verificables vinculados directamente a una actividad delictiva. Otras normas pueden seguir aplicándose.
5. Scraping no dirigido para bases de reconocimiento facial
La letra e) prohíbe crear o ampliar bases de datos de reconocimiento facial mediante extracción no dirigida de imágenes faciales de internet o de grabaciones de cámaras de vigilancia. El criterio de esta disposición es la extracción no dirigida para esa finalidad; no se describe simplemente como una prohibición de bases «sin consentimiento».
Pregunta de revisión: ¿De dónde proceden las imágenes y para qué base se recopilaron?
6. Inferencia de emociones en el trabajo y la educación
Sistemas que infieran las emociones de personas físicas en contextos laborales o educativos están prohibidos, salvo que sea necesario por razones médicas o de seguridad.
Una herramienta de entrevistas que afirma inferir emociones merece revisión especializada, pero no se puede calificar jurídicamente solo por su nombre comercial o por usar una cámara.
7. Categorización biométrica con inferencia de atributos sensibles
Sistemas que categoricen individualmente a personas según datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual están prohibidos.
El texto excluye de esta letra determinados etiquetados o filtrados de conjuntos de datos biométricos adquiridos legalmente y la categorización de datos biométricos en el ámbito policial. Es una delimitación de esta prohibición, no una aprobación general de esos tratamientos bajo el RGPD u otras normas.
8. Identificación biométrica remota en tiempo real en espacios públicos
La letra h) prohíbe la identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo supuestos tasados y condiciones estrictas. Entre los fines excepcionales que enumera están:
- Búsqueda dirigida de víctimas concretas de secuestro, trata o explotación sexual, y búsqueda de personas desaparecidas
- Prevención de una amenaza concreta, sustancial e inminente para la vida o integridad física, o de una amenaza terrorista real y actual o previsible
- Localización o identificación de sospechosos para investigar, perseguir o ejecutar una sanción por delitos del Anexo II, cuando la pena máxima prevista en el Estado miembro sea de al menos cuatro años de privación de libertad
Las excepciones están sujetas a condiciones estrictas, incluida autorización previa judicial o de una autoridad administrativa independiente, con reglas especiales para urgencias. Consulta los apartados 2–7 del artículo 5 antes de considerar un uso concreto. Este resumen de las excepciones fue comprobado de nuevo el 2 de octubre de 2026 contra el artículo 5 publicado por la Comisión.
9. Contenido íntimo no consentido o material de abuso sexual infantil
La modificación de 2026 añadió las letras b bis) y b ter), relativas a determinados sistemas que generan o manipulan contenido íntimo o sexual explícito de una persona identificable sin su consentimiento, o material de abuso sexual infantil. El texto incluye definiciones, condiciones y salvaguardias que deben leerse completas. La Comisión Europea sitúa su aplicación el 2 de diciembre de 2026.
¿Cómo revisar los sistemas de tu empresa?
Esta lista ayuda a preparar una revisión; no certifica cumplimiento ni reemplaza un análisis jurídico:
- Inventario revisado de los sistemas de IA conocidos, tanto desarrollados internamente como comprados a terceros; un inventario no garantiza descubrir todos los usos
- Análisis de función y contexto: ¿El sistema infiere emociones? ¿Categoriza por atributos biométricos? ¿Genera perfiles? ¿Cómo y para quién se usa realmente?
- Revisión de información y contratos de proveedores: solicita datos sobre funciones y límites; las responsabilidades legales dependen del papel de cada parte
- Documentación de la decisión: si un sistema fue revisado y considerado no prohibido, documenta el análisis
→ Ver una demo ilustrativa del flujo de revisión documental
Conclusión
El artículo 5 exige identificar la práctica exacta y comprobar sus condiciones, excepciones y fecha de aplicación. Fencia puede ayudar a ordenar documentación y preguntas de revisión, pero no determina automáticamente si una práctica está prohibida.
Si tienes dudas sobre un sistema, revisa el artículo 5 vigente en EUR-Lex con un especialista en cumplimiento de IA. Explora cómo Fencia organiza documentos y posibles hallazgos; el producto no decide por sí solo si un uso está prohibido.