Saltar al contenido
  • BTC $61.380 −3,7%
  • ETH $1.732 −4,1%
  • SOL $70,59 −5,9%
  • BNB $565,03 −4,7%
  • XRP $0,9333 −5,8%
  • DOGE $0,0559 −6,2%
  • ADA $0,1448 −6,8%

Confrontación en el Pentágono pone en riesgo las salvaguardas de inteligencia artificial de Anthropic y un contrato de defensa de $200 millones

Este artículo examina cómo las salvaguardias de la inteligencia artificial antropomórfica chocan con las demandas del Pentágono, los límites de autonomía y las implicaciones de vigilancia en la defensa de la IA.

anthropic ai
Anthropic AI faces Pentagon safeguards clash over DoD

La creciente tensión entre un destacado laboratorio de inteligencia artificial y el establecimiento de defensa de EE. UU. ha escalado a un enfrentamiento de alto riesgo sobre el uso de la inteligencia artificial antropica en el campo de batalla.

Anthropic se mantiene firme contra la presión del Pentágono

Anthropic ha rechazado las demandas del Departamento de Defensa de EE. UU. para eliminar los límites clave de seguridad de IA de sus sistemas, a pesar de que su contrato de $200 millones ahora está en peligro. La empresa ha dejado claro que no cederá en su disputa con el DoD sobre cómo se pueden desplegar sus modelos avanzados en las redes militares.

Los rivales de la startup, OpenAI, Google y xAI, aseguraron premios similares del DoD de hasta $200 millones en 2023. Sin embargo, esas empresas acordaron permitir que el Pentágono usara sus sistemas para todas las misiones legales dentro de los entornos no clasificados del ejército, otorgando al gobierno una mayor flexibilidad operativa.

En contraste, Anthropic firmó su propio acuerdo de $200 millones con el DoD en julio y se convirtió en el primer laboratorio de IA en integrar sus modelos directamente en los flujos de trabajo de misiones en redes clasificadas. Además, sus herramientas se integraron en operaciones de defensa sensibles, colocando a la empresa en el centro de la construcción de seguridad de IA nacional de EE. UU.

Las negociaciones con los funcionarios del Pentágono se han vuelto cada vez más tensas en las últimas semanas. Una persona familiarizada con las conversaciones dijo que la fricción «se remonta a varios meses», mucho antes de que se hiciera público que Claude se utilizó en una operación de EE. UU. vinculada a la captura del presidente venezolano Nicolás Maduro.

Disputa sobre vigilancia y armas autónomas

En el centro del enfrentamiento está hasta qué punto las autoridades militares pueden impulsar poderosos modelos de IA hacia la vigilancia y la autonomía. Anthropic busca garantías vinculantes de que su tecnología no se utilizará para armas totalmente autónomas o para la vigilancia masiva de estadounidenses, mientras que el DoD quiere evitar tales límites.

Dicho esto, no se trata de un desacuerdo comercial estrecho, sino de una disputa de salvaguardias de IA de alto perfil con implicaciones directas para la automatización futura del campo de batalla. El Pentágono insiste en la máxima amplitud legal, mientras que Anthropic argumenta que los sistemas actuales aún no pueden ser confiables para decisiones de vida o muerte a gran escala.

En una declaración detallada, el CEO Dario Amodei advirtió que en un «conjunto limitado de casos» la inteligencia artificial puede «socavar, en lugar de defender, los valores democráticos». Subrayó que algunas aplicaciones están «simplemente fuera de los límites de lo que la tecnología actual puede hacer de manera segura y confiable», destacando los riesgos de uso indebido durante operaciones militares complejas.

Ampliando las preocupaciones sobre la vigilancia, Amodei argumentó que los sistemas poderosos ahora hacen posible «ensamblar estos datos dispersos e individualmente inocuos en una imagen completa de la vida de cualquier persona, automáticamente y a gran escala». Además, advirtió que tal capacidad, si se dirige hacia adentro, podría remodelar fundamentalmente la relación entre los ciudadanos y el estado.

Amodei reiteró que Anthropic apoya el uso de la IA para la recolección legal de inteligencia extranjera. Sin embargo, agregó que «usar estos sistemas para la vigilancia masiva doméstica es incompatible con los valores democráticos», trazando una línea ética clara entre la inteligencia en el extranjero y el monitoreo interno de personas en EE. UU.

Amenazas, plazos y presión legal

La lucha por el poder se intensificó durante una reunión el martes en el Pentágono entre Amodei y el Secretario de Defensa Pete Hegseth. Hegseth ha amenazado con calificar a Anthropic como un «riesgo de la cadena de suministro» o invocar la Ley de Producción de Defensa para obligar al cumplimiento. El miércoles por la noche, el DoD entregó lo que llamó su «última y definitiva oferta», dando a la empresa hasta las 5:01 pm ET del viernes para responder.

Una portavoz de Anthropic reconoció haber recibido el lenguaje revisado del contrato el miércoles, pero dijo que representaba «prácticamente ningún progreso». Según ella, la nueva redacción presentada como un compromiso se emparejó con un lenguaje legal que permitiría efectivamente que las salvaguardias críticas «se pasen por alto a voluntad», socavando las protecciones declaradas.

Abordando la creciente presión, Amodei dijo: «El Departamento de Guerra ha declarado que solo contratarán con empresas de IA que accedan a ‘cualquier uso legal’ y eliminen las salvaguardias en los casos mencionados anteriormente». Agregó que los funcionarios habían amenazado con cortar a Anthropic de sus sistemas y designar a la empresa como un «riesgo de la cadena de suministro» si se negaba; sin embargo, insistió, «no podemos en buena conciencia acceder a su solicitud».

Para el Pentágono, el tema se enmarca de manera diferente. El portavoz principal Sean Parnell dijo el jueves que el DoD «no tiene interés» en usar los sistemas de Anthropic para armas totalmente autónomas o para llevar a cabo vigilancia masiva de estadounidenses, señalando que tales prácticas serían ilegales. En cambio, sostuvo que el departamento simplemente quiere que la empresa permita el uso de su tecnología para «todos los propósitos legales», describiéndolo como una «solicitud simple y de sentido común».

Ataques personales y apoyo público

La disputa también se ha vuelto personal a niveles superiores. El jueves por la noche, el subsecretario de defensa de EE. UU. Emil Michael atacó a Amodei en X, afirmando que el ejecutivo «no quiere nada más que intentar controlar personalmente al Ejército de EE. UU.». Michael fue más allá, escribiendo: «Es una pena que Dario Amodei sea un mentiroso y tenga un complejo de Dios».

Sin embargo, Anthropic ha ganado un respaldo significativo de partes del sector tecnológico. En una carta abierta, más de 200 trabajadores de Google y OpenAI apoyaron públicamente la posición de la empresa. Además, un exfuncionario del DoD dijo a la BBC que la justificación de Hegseth para usar la etiqueta de «riesgo de la cadena de suministro» parecía «extremadamente endeble», planteando preguntas sobre la solidez del caso del Pentágono.

La confrontación también se ha convertido en un punto de referencia en el debate más amplio sobre la política de ética militar de IA. Los investigadores de IA y los defensores de las libertades civiles están observando de cerca, viendo el caso como una prueba temprana de hasta dónde pueden llegar las agencias de defensa para presionar a los laboratorios privados a relajar las restricciones integradas en los sistemas avanzados.

Intereses estratégicos para la IA de defensa de EE. UU.

A pesar de la retórica en aumento, Amodei ha enfatizado que está «profundamente en la importancia existencial de usar la IA para defender a los Estados Unidos». Enmarcó el tema como uno de despliegue responsable, no de oposición a la defensa nacional, argumentando que la credibilidad a largo plazo de las capacidades de IA de EE. UU. depende de mantener las normas democráticas.

Un representante de Anthropic dijo que la organización sigue «lista para continuar las conversaciones y comprometida con la continuidad operativa para el Departamento y los combatientes de EE. UU.». Sin embargo, con el reloj en la fecha límite del Pentágono avanzando y las amenazas de una designación de riesgo de la cadena de suministro aún sobre la mesa, ambas partes enfrentan presión para resolver el enfrentamiento sin descarrilar la innovación crítica.

En última instancia, el enfrentamiento Anthropic-Pentágono sobre salvaguardias, vigilancia y autonomía se ha convertido en un caso temprano definitorio en la gobernanza de la IA militar. Su resultado probablemente moldeará cómo se contratan, restringen y despliegan futuros modelos de IA antropica y sistemas rivales en las operaciones de defensa de EE. UU.

Alessia Pannone

Todos los artículos de Alessia Pannone