LLM05 — Gestion insuffisante des sorties
Du code généré, une requête SQL, une commande shell : utiliser les sorties d'un LLM sans validation expose à des injections et des exécutions non voulues.
LLM05 couvre les cas où les sorties d'un LLM sont utilisées directement dans des contextes d'exécution — bases de données, interpréteurs de code, systèmes de fichiers, navigateurs — sans validation intermédiaire.
Les LLM produisent du texte avec confiance apparente, qu'il soit correct ou non. Un modèle peut générer une requête SQL vulnérable à l'injection, du code JavaScript avec un accès `innerHTML` non sécurisé, ou une commande shell destructive — sans avertissement, sans doute apparent.
Les prompts de cette section instruisent le modèle à avertir proactivement des risques de ses sorties, à imposer des formats de sortie validables, et à générer du code sécurisé par défaut.