LLM07 — Fuite du prompt système
Les instructions système ne sont pas un mécanisme de sécurité — elles peuvent être extraites. Mais leur contenu peut valoir la peine d'être protégé.
LLM07 couvre la divulgation du contenu des instructions système (system prompt) à des utilisateurs non autorisés. L'OWASP note explicitement que « les prompts système ne sont pas des contrôles de sécurité » — un modèle entraîné à garder le secret peut toujours être convaincu de révéler des informations sous des formes détournées.
Cependant, les prompts système peuvent contenir des informations sensibles : logique métier propriétaire, configurations internes, informations sur l'architecture du système. Leur extraction peut faciliter d'autres attaques en révélant des failles ou des comportements exploitables.
Les prompts de cette section ne promettent pas l'impossibilité de la fuite — ils renforcent la résistance aux techniques d'extraction courantes et avancées.