LO ESENCIAL EN 30 SEGUNDOS
- LLMON (LLM Object Notation) envuelve instrucciones, datos y requisitos en bloques direccionables marcados con seis delimitadores que son tokens únicos reservados.
- IBM publicó modelos de 3B y 8B en vista previa bajo licencia Apache 2.0 y afirma que sufren muchos menos ataques exitosos en el benchmark OPI que los modelos comparados.
- IBM aclara que la protección es aprendida, no garantizada, y que los ataques adaptativos repartidos en muchos turnos de conversación aún se están estudiando.
Investigadores de IBM han publicado dos modelos experimentales Granite 4.1 basados en LLMON, siglas de "LLM Object Notation". Presentado en el blog de Hugging Face el 12 de noviembre, el proyecto aborda la inyección de prompts: el riesgo de que un texto oculto en un documento recuperado o en el resultado de una herramienta sea tratado por el modelo como una orden.
Un marcado pensado para modelos, no para analizadores
Los autores sostienen que formatos como JSON se diseñaron para analizadores de software y que sus llaves y comillas también aparecen en texto corriente, de modo que un modelo no puede distinguir con fiabilidad la estructura del contenido. LLMON es un marcado similar a XML que se añade sobre la plantilla de chat habitual. Cada parte de un turno —una instrucción, un dato, un requisito— se convierte en un bloque con su propio identificador corto, y un bloque exec indica qué instrucción se aplica a qué entrada y adónde debe ir el resultado.
La decisión clave es que los seis delimitadores que abren y cierran las etiquetas son tokens únicos reservados, igual que los identificadores de bloque de dos caracteres. Según la entrada, estructura y contenido ocupan partes distintas del vocabulario, por lo que un atacante no puede falsificar un límite escribiendo caracteres parecidos dentro de los datos.
Dos modelos en vista previa
Los modelos granite-4.1-3b-llmon-preview y granite-4.1-8b-llmon-preview se entrenaron a partir de los checkpoints base de Granite 4.1. IBM convirtió un corpus de instrucciones al formato LLMON, añadió bloques señuelo no vinculados a ninguna instrucción y aplicó aprendizaje por refuerzo y ajuste por preferencias con intentos de inyección. La ficha del 8B indica licencia Apache 2.0, y en GitHub hay un kit de código abierto con conversores de JSON a LLMON.
En el benchmark de inyección OPI, IBM afirma que los modelos LLMON evitaron un 47 % más de ataques que el mejor modelo de frontera evaluado y un 95 % más que el mejor modelo abierto, con tendencias similares en ASB y StruQ. En tareas generales el objetivo era la paridad: la ficha muestra 74,20 en MMLU para el 8B frente a 73,84 del modelo instruct convencional, pero 89,16 en GSM8K frente a 92,49.
Límites
Según IBM, las pruebas cubren inyecciones indirectas estáticas; los ataques adaptativos que se desarrollan a lo largo de muchos turnos siguen en estudio. La separación de privilegios es un comportamiento aprendido, no una garantía impuesta, y la ficha desaconseja usarla como única defensa en agentes con acceso a sistemas sensibles. Los modelos esperan prompts en formato LLMON; una entrada normal empeora la calidad. IBM los presenta como versiones preliminares no aptas para producción.
