L'ESSENTIEL EN 30 SECONDES

  • LLMON (LLM Object Notation) place instructions, données et exigences dans des blocs adressables délimités par six balises qui sont des jetons uniques réservés.
  • IBM publie des modèles de 3 et 8 milliards de paramètres en préversion sous licence Apache 2.0 et annonce beaucoup moins d'attaques réussies sur le benchmark OPI que les modèles comparés.
  • Selon IBM, la protection est apprise et non garantie, et les attaques adaptatives réparties sur plusieurs tours de conversation sont encore à l'étude.

Des chercheurs d'IBM ont publié deux modèles Granite 4.1 expérimentaux conçus autour de LLMON, pour « LLM Object Notation ». Présenté sur le blog Hugging Face le 12 novembre, le projet s'attaque à l'injection de prompt : le risque qu'un texte dissimulé dans un document récupéré ou dans le résultat d'un outil soit interprété par le modèle comme un ordre.

Un balisage pensé pour les modèles, pas pour les parseurs

Les auteurs estiment que des formats comme JSON ont été conçus pour des analyseurs logiciels et que leurs accolades et guillemets apparaissent aussi dans du texte ordinaire ; un modèle ne peut donc pas distinguer de façon fiable la structure du contenu. LLMON est un balisage proche de XML qui vient enrichir le modèle de conversation habituel. Chaque élément d'un tour — une instruction, une donnée, une exigence — devient un bloc doté d'un identifiant court, et un bloc exec précise quelle instruction s'applique à quelle entrée et où doit aller le résultat.

Le choix central : les six délimiteurs qui ouvrent et ferment les balises sont des jetons uniques réservés, tout comme les identifiants de bloc à deux caractères. Structure et contenu occupent ainsi des parties distinctes du vocabulaire : selon le billet, un attaquant ne peut pas fabriquer une frontière en tapant des caractères ressemblants dans les données.

Deux modèles en préversion

Les modèles granite-4.1-3b-llmon-preview et granite-4.1-8b-llmon-preview ont été entraînés à partir des points de contrôle de base de Granite 4.1. IBM a converti un corpus d'instructions au format LLMON, ajouté des blocs leurres liés à aucune instruction, puis enchaîné apprentissage par renforcement et optimisation par préférences sur des tentatives d'injection. La fiche du 8B indique une licence Apache 2.0, et une boîte à outils open source, avec convertisseurs JSON vers LLMON, est disponible sur GitHub.

Sur le benchmark d'injection OPI, IBM affirme que les modèles LLMON ont évité 47 % d'attaques de plus que le meilleur modèle de pointe testé et 95 % de plus que le meilleur modèle ouvert, avec des tendances similaires sur ASB et StruQ. Pour les tâches générales, l'objectif était la parité : la fiche montre 74,20 sur MMLU pour le 8B contre 73,84 pour le modèle instruct classique, mais 89,16 sur GSM8K contre 92,49.

Limites

Selon IBM, les tests portent sur des injections indirectes statiques ; les attaques adaptatives qui se déroulent sur de nombreux tours restent à l'étude. La séparation des privilèges est un comportement appris, pas une garantie imposée, et la fiche déconseille d'en faire l'unique défense d'agents ayant accès à des systèmes sensibles. Les modèles attendent en outre des prompts au format LLMON : une saisie classique dégrade la qualité. IBM les présente comme des préversions non destinées à la production.