L'ESSENTIEL EN 30 SECONDES

  • L'injection de prompt figure au rang LLM01 du Top 10 OWASP des applications LLM.
  • L'injection indirecte cache des instructions dans un contenu lu par le modèle, comme une page web ou un fichier.
  • Les parades : moindre privilège, validation humaine des actions à risque et contenu externe traité comme non fiable.

Une injection de prompt se produit lorsqu'un texte fourni à un modèle de langage modifie son comportement d'une manière non prévue par ses développeurs. L'OWASP GenAI Security Project la classe au premier rang de son Top 10 des risques des applications LLM.

Directe ou indirecte

Dans une injection directe, l'utilisateur saisit lui-même l'instruction malveillante. Dans une injection indirecte, l'instruction est cachée dans un contenu que le modèle traite pour quelqu'un : une page web, un courriel ou un document.

Pourquoi les agents augmentent l'enjeu

Quand un modèle se contente de répondre, une injection réussie produit une mauvaise réponse. Quand il peut envoyer des courriels, exécuter du code ou appeler des API, la même injection peut déclencher de vraies actions.

Ce que recommande l'OWASP

Limiter les privilèges du modèle au strict nécessaire, exiger une validation humaine pour les actions à fort impact, séparer et étiqueter le contenu externe, et tester les applications de manière adversariale.