La inteligencia artificial está revolucionando rápidamente cada sector, desde la sanidad hasta las finanzas, pasando por el marketing y la administración pública. Pero, ¿quién vigila estos sistemas? ¿Cómo podemos garantizar que la AI no viole los derechos fundamentales?
Es de estas preguntas que nace el EU AI Act, la primera legislación en el mundo que regula el desarrollo, la distribución y el uso de la inteligencia artificial según un principio clave: el riesgo.
Índice
¿Qué prevé la EU AI Act?
Aprobado en 2024, el Reglamento europeo sobre inteligencia artificial introduce un enfoque basado en el riesgo. Los sistemas de IA se clasifican en cuatro categorías principales:
🔹 IA a riesgo mínimo
🔹 IA de alto riesgo
🔹 IA prohibida
🔹 Modelos para propósitos generales (GPAI)
Prácticas prohibidas: la IA que no tendrá futuro
Algunos usos de la inteligencia artificial son considerados éticamente inaceptables o peligrosos y estarán prohibidos a partir del 2 de febrero de 2025.
Ejemplos de AI prohibida:
- Puntuación social (estilo “Black Mirror”): evaluar a las personas en base a su comportamiento, con consecuencias en la vida real.
- Manipulación psicológica: sistemas que empujan a los usuarios a tomar decisiones perjudiciales o no conscientes.
- Raspado de rostros de Internet para bases de datos biométricas.
- Reconocimiento de las emociones en escuelas y lugares de trabajo (excepto por motivos de salud o seguridad).
- Vigilancia biométrica en tiempo real por parte de las fuerzas del orden, salvo casos excepcionales autorizados.
IA de alto riesgo: reglas y requisitos
Los sistemas de alto riesgo son aquellos que impactan directamente en los derechos, en la seguridad o en el acceso a los servicios esenciales. Deberán cumplir con requisitos rigurosos.
Ejemplos concretos:
- IA utilizada para contratar candidatos o evaluar rendimiento.
- Sistemas que determinan la idoneidad para el crédito o los beneficios sociales.
- Algoritmos en dispositivos médicos o infraestructuras críticas (energía, transportes).
- Herramientas de IA que influyen en el sistema judicial o elecciones democráticas.
Los proveedores deberán:
- Adoptar sistemas de gestión de riesgos continua
- Garantizar alta calidad de los datos de entrenamiento y prueba
- Documentar cada fase con transparencia técnica
- Implementar planes de monitoreo poscomercialización
Los usuarios deberán:
- Utilizar los sistemas siguiendo las instrucciones específicas
- Conservar los log del sistema AI
- Evaluar los impactos sobre los derechos fundamentales en contextos públicos o sensibles
Las reglas entrarán en vigor el 2 de agosto de 2026.
Reglas para los modelos de IA genéricos (GPAI)
El reglamento introduce también una disciplina ad hoc para los foundation models como Granite de IBM o LLaMA 3 de Meta, que pueden ser utilizados en numerosas aplicaciones diferentes.
Obligaciones de los proveedores GPAI:
- Respeto del copyright UE
- Resumen público de los dataset de training
- Marcado automático de contenidos generados (deepfake, textos, imágenes)
Si un modelo supera el umbral de 10²⁵ FLOP en fase de entrenamiento, se considera de riesgo sistémico y deberá:
- Informar sobre incidentes graves
- Adoptar medidas avanzadas de ciberseguridad
Las reglas se aplican a los nuevos modelos desde el 2 agosto 2025, con un período de adaptación hasta 2027 para los ya existentes.
¿A quién se aplica el EU AI Act?
El reglamento se aplica a:
- Proveedores (quien desarrolla o comercializa AI)
- Utilizzatori (quien usa sistemas AI en su actividad)
- Importadores y distribuidores en la UE
También las empresas extra-UE entran en la normativa si sus sistemas o resultados se utilizan en la Unión Europea. En tal caso, deben nombrar un representante autorizado en la UE.
Sanciones: hasta 35 millones de euros
Las multas son proporcionales a la gravedad de la violación:
| Tipo de Violación | Sanción Máxima |
| Uso de AI prohibida | €35 millones o 7% del facturado global |
| Violación requisitos para AI de alto riesgo | €15 millones o 3% del facturado global |
| Información engañosa a las autoridades | €7,5 millones o 1% del facturado global |
Las PMI y startup se benefician de un régimen sancionador proporcional.
Fechas clave
1° agosto 2024: entrada en vigor oficial
2 febrero 2025: prohibición de prácticas de AI prohibidas
2 agosto 2025: GPAI (nuevos modelos)
2 agosto 2026: AI de alto riesgo
2 agosto 2027: sistemas regulados por otras normativas de la UE
FAQ – Preguntas frecuentes sobre el AI Act
▶ ¿Se aplica la Ley de IA también al uso personal de la inteligencia artificial?
No. Los usos personales o para investigación científica están exentos.
▶ ¿Los sistemas open source están regulados?
Sí, si tienen impacto sistémico o se utilizan en contextos de riesgo.
▶ ¿Qué significa “marcar los contenidos generados”?
Añadir metadatos o etiquetas legibles por máquinas que indican que el contenido (ej. un video deepfake) ha sido generado o alterado por una IA.
Conclusión
El AI Act de la UE es mucho más que una ley: es una declaración de intenciones sobre el futuro de la innovación digital europea. Las empresas que desarrollan, distribuyen o usan AI deben actuar de inmediato para evaluar sus propios riesgos, adecuar los procesos e invertir en transparencia y gobernanza.




