Un nuevo artículo de investigación que aparecerá en ACM CCS 2026 está abordando un problema que ha preocupado silenciosamente a los equipos de software que dependen de asistentes de programación con IA: ¿qué sucede cuando el propio modelo ha sido manipulado? El investigador Shenao Yan ha presentado CodeScan, un marco de detección creado específicamente para reforzar la seguridad de los LLM de generación de código al detectar modelos que han sido envenenados en secreto para producir código inseguro. El trabajo, enviado en marzo, sostiene que las defensas actuales simplemente no están diseñadas para cómo se comporta realmente el código fuente.
Índice
Puntos clave
- Los LLM de generación de código pueden verse comprometidos mediante ataques de puerta trasera y envenenamiento que los hacen generar código inseguro bajo ciertas condiciones.
- Los métodos antiguos de escaneo a nivel de tokens tienen dificultades porque la misma lógica de código puede escribirse en innumerables formas sintácticas diferentes.
- CodeScan se describe como el primer marco de escaneo de caja negra y específico de vulnerabilidades para auditar estos modelos.
- Se probó en 117 modelos a lo largo de tres arquitecturas, frente a cuatro ataques representativos que abarcan tres clases de vulnerabilidades del mundo real.
- El marco informó una precisión de detección superior al 97% con muchos menos falsos positivos que los enfoques anteriores.
Vulnerabilidades en los modelos de lenguaje grandes de generación de código
Los LLM de generación de código ya están integrados en el desarrollo de software cotidiano, desde sugerencias de autocompletado hasta generación completa de funciones. Esa comodidad tiene una contrapartida: según el artículo, se ha demostrado que estos modelos son vulnerables a ataques de puerta trasera y envenenamiento que los empujan a generar código inseguro, y el artículo señala que las defensas efectivas contra esto siguen siendo limitadas. En la práctica, un atacante podría manipular los datos de entrenamiento o el comportamiento del modelo de modo que, bajo condiciones específicas, el modelo deslice silenciosamente código vulnerable en una salida por lo demás normal.
Ataques de puerta trasera y envenenamiento que producen código inseguro
El riesgo aquí no es ruido teórico: es un punto débil documentado. Una vez que un modelo ha sido envenenado o tiene una puerta trasera, puede comportarse con normalidad la mayor parte del tiempo y aun así portar un disparador oculto que produce código defectuoso y explotable cuando se activa. Eso hace que la amenaza sea difícil de detectar mediante pruebas casuales, ya que el comportamiento malicioso no necesariamente aparece a menos que surja el mensaje o la condición adecuados.
Limitaciones de los métodos existentes de escaneo a nivel de tokens
¿Por qué las herramientas existentes no han resuelto esto ya? El artículo explica que los enfoques de escaneo anteriores se apoyan en la consistencia de generación a nivel de tokens para intentar hacer ingeniería inversa de lo que estaba apuntando un atacante. Eso funciona razonablemente bien para algunos dominios, pero el código fuente rompe esa suposición: la lógica idéntica puede escribirse de formas sintácticas muy diferentes. Dos fragmentos pueden hacer exactamente lo mismo y, sin embargo, no parecerse en nada a nivel de tokens, lo que permite que patrones maliciosos se escapen de los sistemas de detección que esperan consistencia en la redacción en lugar de en el significado.
CodeScan: un marco de escaneo de caja negra orientado a vulnerabilidades
CodeScan se presenta como el primer marco de escaneo de caja negra y específico de vulnerabilidades creado para auditar directamente los LLM de generación de código, sin necesidad de acceso interno a los pesos del modelo o a los datos de entrenamiento. El enfoque asume que un defensor ya sabe qué clases de vulnerabilidades debe buscar y puede proporcionar mensajes de tarea relevantes, y luego permite que el marco haga el trabajo estructural de detección a partir de ahí. Esta decisión de diseño es importante para el escaneo de vulnerabilidades de caja negra en general: significa que el método puede aplicarse a modelos que un defensor no controla completamente ni comprende del todo internamente, que suele ser la situación real para los equipos que adoptan modelos de código de terceros o alojados externamente.
Análisis de similitud estructural a través de múltiples generaciones de código
En lugar de comparar tokens en bruto, CodeScan identifica posibles objetivos de ataque analizando similitudes estructurales en múltiples salidas generadas a partir de diferentes mensajes limpios. Si un patrón estructural sospechoso aparece una y otra vez en mensajes por lo demás no relacionados, esa repetición se convierte en una señal que vale la pena investigar más a fondo.
Normalización basada en AST para unificación semántica
Para que esa comparación sea significativa, CodeScan combina análisis de divergencia iterativa con normalización basada en árboles de sintaxis abstracta, o AST. Este paso elimina las diferencias superficiales en cómo se escribe el código y unifica fragmentos que son semánticamente equivalentes, incluso si se ven diferentes en la página. El resultado es una forma de aislar estructuras de código que se repiten de manera consistente a través de generaciones, en lugar de distraerse con variaciones cosméticas, una brecha que aborda directamente la debilidad de las herramientas antiguas basadas en tokens.
Análisis de vulnerabilidades basado en LLM
Una vez que se aísla una estructura recurrente, CodeScan aplica análisis de vulnerabilidades basado en LLM para juzgar si esa estructura realmente contiene una falla de seguridad. Este es el paso que convierte una señal de coincidencia de patrones en un juicio de seguridad real, comprobando si el código recurrente no solo es común, sino peligroso.
Criterios de detección para modelos comprometidos
La regla para marcar un modelo como comprometido es sencilla bajo este marco: si se detecta una estructura de código vulnerable a través de esa canalización, CodeScan marca el modelo como comprometido. Esto da a los defensores una señal clara y binaria en lugar de una puntuación de riesgo vaga, lo que importa cuando hay que tomar decisiones rápidamente sobre desplegar o retirar un modelo.
Evaluación y rendimiento de CodeScan
La verdadera prueba de CodeScan vino de enfrentarlo a métodos de ataque conocidos a escala, y los resultados reportados sugieren que el enfoque se mantiene bien más allá de una demostración limitada de laboratorio. El marco se evaluó frente a cuatro ataques representativos, que cubren tanto configuraciones de ataques de puerta trasera como de envenenamiento, a lo largo de tres clases de vulnerabilidades del mundo real.
Comparación con ataques representativos y clases de vulnerabilidades
Probarlo en cuatro tipos de ataque distintos y tres clases de vulnerabilidades separadas da cierta amplitud a la evaluación, cubriendo diferentes maneras en que un atacante podría intentar corromper la salida de un modelo en lugar de depender de un único escenario de ataque.
Pruebas extensas en modelos y arquitecturas diversas
La escala de las pruebas es notable: los experimentos abarcaron 117 modelos en tres arquitecturas diferentes y múltiples tamaños de modelo. Ese alcance es importante para la investigación de seguridad de LLM de generación de código en general, ya que un método de detección que solo funciona en una arquitectura o en un tamaño de modelo ofrece un valor práctico limitado a los equipos que manejan diferentes herramientas y proveedores.
Alta precisión de detección con reducción de falsos positivos
La cifra principal de la evaluación es una precisión de detección superior al 97%, junto con muchos menos falsos positivos que los producidos por métodos anteriores. En la detección de envenenamiento de datos, los falsos positivos son un tipo de coste en sí mismos: marcar modelos limpios como comprometidos erosiona la confianza en la herramienta y desperdicia tiempo de revisión. Un método que mantiene una alta precisión mientras reduce esas falsas alarmas es, posiblemente, tan importante como la propia tasa de detección.
Por qué este enfoque es importante para el futuro
La perspectiva más amplia aquí tiene que ver con hacia dónde debe dirigirse la investigación en seguridad de LLM de generación de código. El escaneo a nivel de tokens tenía sentido cuando la principal preocupación era que los modelos repitieran frases memorizadas, pero el código no funciona así: la misma función puede expresarse en docenas de formas legítimas. Al cambiar el enfoque hacia patrones estructurales y semánticos vinculados a clases específicas de vulnerabilidades, CodeScan apunta a una forma más nativa del código de pensar sobre el escaneo de vulnerabilidades de caja negra, una que trata el código fuente como lógica que debe entenderse en lugar de texto que debe coincidir con patrones.
Dicho esto, el marco depende de que un defensor ya sepa qué clases de vulnerabilidades debe buscar y proporcione los mensajes adecuados, lo que significa que es una herramienta de auditoría dirigida más que un escáner totalmente automático que lo detecte todo. Que este enfoque orientado a vulnerabilidades se convierta en un paso estándar en la evaluación de modelos de código de terceros y de código abierto probablemente dependerá de qué tan bien se generalice una vez que más equipos de investigación lo pongan a prueba fuera de las condiciones descritas en este artículo.
Preguntas frecuentes
¿Por qué los métodos existentes de escaneo a nivel de tokens son ineficaces para detectar ataques en LLM de generación de código?
Porque código sintácticamente diferente puede tener semántica idéntica, la comprobación de consistencia a nivel de tokens no logra detectar ataques de forma fiable.
¿Cómo detecta CodeScan los LLM de generación de código comprometidos?
CodeScan analiza similitudes estructurales en múltiples salidas de código generadas con diferentes mensajes limpios, utiliza normalización basada en AST para unificar la semántica y aplica análisis de vulnerabilidades basado en LLM para marcar vulnerabilidades.
¿Qué alcance de ataques y vulnerabilidades se utilizó para probar CodeScan?
CodeScan se probó frente a cuatro ataques representativos de puerta trasera y envenenamiento que abarcan tres clases de vulnerabilidades del mundo real.
¿Qué tan preciso es CodeScan en comparación con métodos de detección anteriores?
CodeScan alcanzó más de un 97% de precisión de detección con muchos menos falsos positivos que los métodos anteriores.
Artículo producido con la ayuda de inteligencia artificial y revisado por el equipo editorial.




