La brecha de seguridad de Anthropic expuso salarios, mensajes internos e información empresarial a través de software externo utilizado por el desarrollador de IA, y no mediante acceso a los pesos de su modelo, según la empresa. Investigadores de Cathedral alcanzaron partes de los sistemas comerciales, de recursos humanos y de TI de Anthropic, lo que desencadenó una disputa sobre las pruebas y sus implicaciones para la seguridad nacional.
Índice
Conclusiones clave
- Cathedral accedió a sistemas internos de negocio a través de aplicaciones de terceros.
- Anthropic afirma que no se accedió a las indicaciones de los clientes ni a componentes del modelo.
- Las aplicaciones afectadas permanecieron deshabilitadas hasta que los proveedores confirmaron las correcciones.
- Las empresas discrepan sobre los informes y la relevancia del incidente.
Qué expuso la brecha de seguridad de Anthropic
Los sistemas a los que se accedió contenían registros de personal y comunicaciones internas, junto con información comercial. Cathedral indicó que los agentes de IA utilizados durante su investigación encontraron rutas a transcripciones de reuniones, información salarial, ofertas de trabajo y mensajes de Slack.
Los sistemas afectados también almacenaban contactos comerciales de algunos clientes y socios, así como información básica de cuentas. Anthropic afirmó que los investigadores no llegaron a las indicaciones de los clientes, las respuestas del modelo, el código fuente ni los pesos del modelo de IA.
La ruta pasó por vulnerabilidades en aplicaciones externas administrativas y empresariales utilizadas por Anthropic. Los proveedores implicados no fueron nombrados. El acceso, por tanto, se refirió al software de soporte del negocio, en lugar de a los componentes del modelo que, según Anthropic, permanecieron fuera del alcance de los investigadores.
Cathedral llevó a cabo las pruebas en el marco del Programa de Investigadores Externos de Anthropic, que proporciona un canal para informar de vulnerabilidades. Fundada por antiguos miembros de DOGE, la startup desarrolla herramientas de ciberseguridad de IA para clientes gubernamentales y empresariales.
Cómo Anthropic detectó y contuvo el acceso
Anthropic afirmó que su sistema de supervisión identificó cierta actividad antes de que Cathedral la notificara, y que el acceso se cortó ese mismo día. La respuesta a la brecha de seguridad de Anthropic también incluyó deshabilitar las aplicaciones afectadas.
Esas aplicaciones solo se restauraron después de que sus proveedores confirmaran que habían corregido las vulnerabilidades. Cortar el acceso de los investigadores y arreglar el software fueron partes separadas de la respuesta.
Anthropic dijo que no tenía pruebas de explotación por parte de nadie más que Cathedral.
La disputa sobre los informes va más allá de los datos expuestos
Anthropic y Cathedral difieren en cuanto a la exhaustividad de los informes de investigación y la importancia del incidente para la seguridad nacional. Anthropic acusó a Cathedral de no informar de toda la actividad que llevó a cabo en los sistemas de la empresa.
La brecha de seguridad de Anthropic ilustra una distinción entre proteger los modelos de IA y asegurar la infraestructura que los rodea: los documentos de personal, los registros de reuniones y los mensajes internos permanecieron expuestos a pesar de que Anthropic afirmó que no se accedió a componentes del modelo.
El responsable de red teaming de Anthropic también defendió las pruebas de seguridad continuas y el rediseño de los sistemas de software para reducir su exposición.
Artículo elaborado con la ayuda de inteligencia artificial y revisado por el equipo editorial.




