LO ESENCIAL EN 30 SEGUNDOS
- La inyección de prompts figura como LLM01 en el Top 10 de OWASP para aplicaciones LLM.
- La inyección indirecta oculta instrucciones en contenido que lee el modelo, como una página web o un archivo.
- Defensas: mínimo privilegio, aprobación humana para acciones de riesgo y tratar el contenido externo como no confiable.
Una inyección de prompts ocurre cuando un texto que recibe un modelo de lenguaje cambia su comportamiento de una forma que sus desarrolladores no previeron. El OWASP GenAI Security Project la sitúa en primer lugar de su Top 10 de riesgos para aplicaciones LLM.
Directa e indirecta
En una inyección directa, el usuario escribe la instrucción maliciosa. En una indirecta, la instrucción está oculta en contenido que el modelo procesa por encargo de alguien: una página web, un correo o un documento.
Por qué los agentes elevan el riesgo
Cuando un modelo solo responde preguntas, una inyección exitosa produce una mala respuesta. Cuando puede enviar correos, ejecutar código o llamar a API, la misma inyección puede desencadenar acciones reales.
Qué recomienda OWASP
Limitar los privilegios del modelo a lo que exige la tarea, exigir aprobación humana para acciones de alto impacto, separar y etiquetar el contenido externo y probar las aplicaciones de forma adversarial.