Anthropic ha puesto sobre la mesa una nueva regulación de IA de Anthropic que apunta a limitar el uso de inteligencias artificiales de alto riesgo y, al mismo tiempo, a preparar a los gobiernos y a la economía para el impacto de los modelos de frontera. El mensaje es claro: si las capacidades de la IA avanzada crecen tan rápido, se necesitan herramientas normativas capaces de bloquear o desalentar implementaciones peligrosas antes de que produzcan daños graves.
Summary
La regulación de IA de Anthropic entre seguridad e impacto económico
Anthropic ha presentado dos planes integrados en el proyecto Policy on the AI Exponential. El primero define un marco para las IA avanzadas, el segundo se centra en las consecuencias económicas para los trabajadores y en el reparto de los beneficios financieros generados por la IA. En el centro hay una petición precisa: otorgar a los gobiernos poderes para intervenir de forma preventiva sobre los modelos considerados de alto riesgo.
El perímetro de la propuesta es claro. La regulación de IA de Anthropic se aplicaría a los sistemas entrenados con un volumen de cómputo superior a 10²⁵ operaciones de coma flotante. También entrarían en el ámbito de aplicación las empresas con ingresos anuales procedentes de la IA superiores a 500 millones de dólares. Anthropic incluye también a las empresas que gastan más de 1.000 millones de dólares al año en investigación y desarrollo sobre IA.
Normativas para IA de alto riesgo: transparencia, pruebas y sanciones
Entre las medidas clave se encuentran verificaciones independientes de los modelos, documentación detallada sobre la seguridad e informes periódicos sobre los riesgos por parte de los desarrolladores. Anthropic quiere que evaluadores independientes, con recursos adecuados y acceso a los modelos, acompañen a los productores para controlar pruebas e informes. El objetivo es reforzar la transparencia sin dejarlo todo en la autoevaluación de las empresas.
La propuesta también prevé sanciones civiles vinculadas a la facturación global anual de las empresas, con multas más elevadas en caso de infracciones repetidas. De este modo, Anthropic pretende construir un elemento disuasorio económico proporcionado a la escala global del sector. La empresa pide además programas de seguridad sólidos, descritos públicamente, y una mayor transparencia hacia las autoridades gubernamentales competentes.
Métodos de seguridad para modelos de IA avanzados y acceso de los evaluadores
Otro punto central de la política de Anthropic para la IA es la protección de todo el entorno de desarrollo. Los desarrolladores deberán mantener estándares elevados para defenderse de ataques externos y amenazas internas. Además, la propuesta exige que los evaluadores independientes puedan acceder a los modelos para llevar a cabo controles reales y no solo formales.
Los cuatro riesgos señalados por Anthropic para la IA de frontera
Anthropic identifica cuatro áreas de riesgo críticas: biológico, cibernético, pérdida de control de los sistemas e investigación automatizada llevada a cabo por la inteligencia artificial. Las posibles consecuencias van desde el uso malintencionado para crear virus peligrosos hasta vulnerabilidades para servicios esenciales como hospitales e infraestructuras energéticas.
Para el riesgo biológico, la propuesta insiste en herramientas de cribado para la síntesis genética y sistemas de biosupervisión para detectar señales tempranas. En el frente cibernético, pide más protección para las infraestructuras críticas, la sustitución de los sistemas heredados vulnerables y funciones gubernamentales dedicadas a supervisar las capacidades ofensivas digitales emergentes.
Anthropic señala también la necesidad de desarrollar mejor los controles contra la pérdida de control y contra la investigación automatizada. En estos casos, la empresa pide normas capaces de apagar o confinar sistemas de IA peligrosos antes de que causen daños.
Resiliencia pública y control gubernamental sobre IA peligrosas
La propuesta no se limita a la seguridad técnica. Anthropic incluye también medidas para reforzar la resiliencia de la sociedad ante los impactos de las IA avanzadas, con planes de prevención para emergencias biológicas y tecnológicas y con estrategias para actualizar y proteger las infraestructuras críticas frente a los ciberataques.
La empresa invita a los responsables políticos a acelerar el paso normativo, de modo que la gobernanza de la inteligencia artificial no se quede atrás respecto a la velocidad de evolución de las capacidades tecnológicas. En el texto emerge un punto firme: la seguridad no puede depender solo de la transparencia y la autorregulación, sino que requiere un compromiso conjunto de gobiernos, desarrolladores y sociedad civil.
FAQ sobre la regulación de IA de Anthropic
¿Qué activa el poder de los gobiernos para bloquear una IA?
Según la propuesta, los gobiernos deberían tener poderes para intervenir de forma preventiva sobre modelos considerados de alto riesgo. Sin embargo, el texto no especifica umbrales operativos ni procedimientos detallados para activar este poder.
¿Cómo se elige y se financia a los evaluadores independientes?
El artículo dice que los evaluadores independientes deberían tener recursos adecuados y acceso a los modelos, pero no entra en detalle sobre la selección, la financiación o la gobernanza del sistema de control.
¿Cuáles son los principales riesgos biológicos identificados?
Anthropic menciona el riesgo de uso malintencionado de la IA en la creación de virus peligrosos. Por ello propone cribados para la síntesis genética y sistemas de biosupervisión.
¿Cómo aborda la propuesta los riesgos de ciberseguridad?
La propuesta pretende reforzar la protección de las infraestructuras críticas, sustituir los sistemas heredados vulnerables y crear funciones gubernamentales dedicadas a supervisar las capacidades ofensivas digitales emergentes.
¿Qué sanciones están previstas para las infracciones repetidas?
Anthropic propone sanciones civiles calculadas sobre la facturación global anual, con multas más altas en caso de infracciones repetidas.
