LO ESENCIAL EN 30 SEGUNDOS

  • Lazarus modificó 7 de más de 12.000 neuronas de Nemotron-Terminal-8B de Nvidia; la orden objetivo apareció en al menos el 98,8 % de las sesiones de prueba con disparador y en ninguna de las sesiones sin él revisadas.
  • El ataque requiere acceso de escritura al archivo del modelo, pero no un entrenamiento convencional; en Qwen3.6-27B y Gemma-4-31B-IT los resultados oscilaron entre el 51 % y el 99,5 %.
  • Microsoft dice no haber visto la técnica en ataques reales y recomienda comparar cada modelo con su versión base declarada, verificar su procedencia y limitar los permisos de los agentes.

Microsoft Research y el Red Team de Microsoft han descrito un ataque, llamado Lazarus, que convierte un modelo de agente de IA en una puerta trasera durmiente reescribiendo unas pocas neuronas que apenas se usan. Según la Cloud Security Alliance, el trabajo se publicó el 10 de noviembre en una entrada del blog de Microsoft Research titulada «Lazare, veni foras». El artículo científico está disponible en PDF en GitHub; la cobertura no menciona ninguna versión en arXiv.

Cómo funciona el ataque

El método apunta a neuronas inactivas de la última capa feed-forward del modelo. Los investigadores las reprograman para detectar un disparador y luego forzar tokens concretos en la salida, aproximadamente una neurona por cada token de la orden. Según The Hacker News, no hace falta un entrenamiento convencional: bastan unos cientos de pasos de ajuste sobre esas neuronas. El disparador puede ser cualquier cadena presente en el contexto del agente, o incluso una fecha: en una demostración, el agente descargaba y ejecutaba código del atacante en cuanto el reloj entraba en 2027.

El agente que usa el modelo modificado ejecuta entonces la orden con todos los permisos que tenga. El atacante necesita poder alterar el archivo del modelo, por ejemplo desde dentro, con una cuenta comprometida o publicando un modelo manipulado en un repositorio público.

Resultados

En Nemotron-Terminal-8B de Nvidia, modificar 7 de más de 12.000 neuronas hizo que la orden objetivo apareciera en al menos el 98,8 % de las sesiones de prueba con disparador y en ninguna de las sesiones sin disparador comprobadas. En Qwen3.6-27B y Gemma-4-31B-IT, el éxito varió entre el 51 % y el 99,5 % según la configuración. Las tasas, obtenidas con una orden inofensiva, miden si se emitió la orden, no si un ataque completo tuvo éxito. Los modelos modificados mantuvieron en gran medida sus capacidades, aunque la tasa de acierto de una variante de Qwen en Terminal-Bench bajó del 46,59 % al 42,05 %.

Defensas y límites

Un detector creado para este ataque identificó el 91,4 % de los modelos modificados sin copia de referencia, pero también marcó por error el 9,7 % de los limpios, en un conjunto de prueba pequeño. El investigador principal Dimitris Papailiopoulos afirmó que ningún análisis puede demostrar que un modelo sea seguro. Las recomendaciones de Microsoft se centran en comparar cada modelo con su versión base declarada, verificar su procedencia, aislar el código generado por los agentes, limitar las conexiones salientes y exigir aprobación humana para las acciones de alto impacto.

La compañía asegura no haber observado a atacantes usando la técnica.