Saltar al contenido
  • BTC $63.456 −2,1%
  • ETH $1.769 −1,8%
  • SOL $73,81 +1,0%
  • BNB $585,08 −1,1%
  • XRP $0,9813 +1,4%
  • DOGE $0,0589 −0,1%
  • ADA $0,1520 −1,0%

EU AI Act: la primera ley global sobre inteligencia artificial es una realidad

Il primer marco normativo completo sobre la IA define qué es lícito, qué está prohibido y cómo desarrollar inteligencias artificiales seguras y éticas.

EU AI Act

La inteligencia artificial está revolucionando rápidamente cada sector, desde la sanidad hasta las finanzas, pasando por el marketing y la administración pública. Pero, ¿quién vigila estos sistemas? ¿Cómo podemos garantizar que la AI no viole los derechos fundamentales?

Es de estas preguntas que nace el EU AI Act, la primera legislación en el mundo que regula el desarrollo, la distribución y el uso de la inteligencia artificial según un principio clave: el riesgo.

¿Qué prevé la EU AI Act?

Aprobado en 2024, el Reglamento europeo sobre inteligencia artificial introduce un enfoque basado en el riesgo. Los sistemas de IA se clasifican en cuatro categorías principales:

🔹 IA a riesgo mínimo
🔹 IA de alto riesgo
🔹 IA prohibida
🔹 Modelos para propósitos generales (GPAI)

Prácticas prohibidas: la IA que no tendrá futuro

Algunos usos de la inteligencia artificial son considerados éticamente inaceptables o peligrosos y estarán prohibidos a partir del 2 de febrero de 2025.

Ejemplos de AI prohibida:

  • Puntuación social (estilo “Black Mirror”): evaluar a las personas en base a su comportamiento, con consecuencias en la vida real.
  • Manipulación psicológica: sistemas que empujan a los usuarios a tomar decisiones perjudiciales o no conscientes.
  • Raspado de rostros de Internet para bases de datos biométricas.
  • Reconocimiento de las emociones en escuelas y lugares de trabajo (excepto por motivos de salud o seguridad).
  • Vigilancia biométrica en tiempo real por parte de las fuerzas del orden, salvo casos excepcionales autorizados.

IA de alto riesgo: reglas y requisitos

Los sistemas de alto riesgo son aquellos que impactan directamente en los derechos, en la seguridad o en el acceso a los servicios esenciales. Deberán cumplir con requisitos rigurosos.

Ejemplos concretos:

  • IA utilizada para contratar candidatos o evaluar rendimiento.
  • Sistemas que determinan la idoneidad para el crédito o los beneficios sociales.
  • Algoritmos en dispositivos médicos o infraestructuras críticas (energía, transportes).
  • Herramientas de IA que influyen en el sistema judicial o elecciones democráticas.

Los proveedores deberán:

  • Adoptar sistemas de gestión de riesgos continua
  • Garantizar alta calidad de los datos de entrenamiento y prueba
  • Documentar cada fase con transparencia técnica
  • Implementar planes de monitoreo poscomercialización

Los usuarios deberán:

  • Utilizar los sistemas siguiendo las instrucciones específicas
  • Conservar los log del sistema AI
  • Evaluar los impactos sobre los derechos fundamentales en contextos públicos o sensibles

Las reglas entrarán en vigor el 2 de agosto de 2026.

Reglas para los modelos de IA genéricos (GPAI)

El reglamento introduce también una disciplina ad hoc para los foundation models como Granite de IBM o LLaMA 3 de Meta, que pueden ser utilizados en numerosas aplicaciones diferentes.

Obligaciones de los proveedores GPAI:

  • Respeto del copyright UE
  • Resumen público de los dataset de training
  • Marcado automático de contenidos generados (deepfake, textos, imágenes)

Si un modelo supera el umbral de 10²⁵ FLOP en fase de entrenamiento, se considera de riesgo sistémico y deberá:

  • Informar sobre incidentes graves
  • Adoptar medidas avanzadas de ciberseguridad

Las reglas se aplican a los nuevos modelos desde el 2 agosto 2025, con un período de adaptación hasta 2027 para los ya existentes.

¿A quién se aplica el EU AI Act?

El reglamento se aplica a:

  • Proveedores (quien desarrolla o comercializa AI)
  • Utilizzatori (quien usa sistemas AI en su actividad)
  • Importadores y distribuidores en la UE

También las empresas extra-UE entran en la normativa si sus sistemas o resultados se utilizan en la Unión Europea. En tal caso, deben nombrar un representante autorizado en la UE.

Sanciones: hasta 35 millones de euros

Las multas son proporcionales a la gravedad de la violación:

Tipo de ViolaciónSanción Máxima
Uso de AI prohibida€35 millones o 7% del facturado global
Violación requisitos para AI de alto riesgo€15 millones o 3% del facturado global
Información engañosa a las autoridades€7,5 millones o 1% del facturado global

Las PMI y startup se benefician de un régimen sancionador proporcional.

Fechas clave

 1° agosto 2024: entrada en vigor oficial
2 febrero 2025: prohibición de prácticas de AI prohibidas
2 agosto 2025: GPAI (nuevos modelos)
2 agosto 2026: AI de alto riesgo
2 agosto 2027: sistemas regulados por otras normativas de la UE

FAQ – Preguntas frecuentes sobre el AI Act

▶ ¿Se aplica la Ley de IA también al uso personal de la inteligencia artificial?
No. Los usos personales o para investigación científica están exentos.

▶ ¿Los sistemas open source están regulados?
Sí, si tienen impacto sistémico o se utilizan en contextos de riesgo.

▶ ¿Qué significa “marcar los contenidos generados”?
Añadir metadatos o etiquetas legibles por máquinas que indican que el contenido (ej. un video deepfake) ha sido generado o alterado por una IA.

Conclusión 

El AI Act de la UE es mucho más que una ley: es una declaración de intenciones sobre el futuro de la innovación digital europea. Las empresas que desarrollan, distribuyen o usan AI deben actuar de inmediato para evaluar sus propios riesgos, adecuar los procesos e invertir en transparencia y gobernanza.

Francesco Antonio Russo

Todos los artículos de Francesco Antonio Russo