Validation de la sortie avant utilisation dans un contexte critique
prompt.fr
Quand tu génères du code, des requêtes SQL, des commandes shell ou tout contenu destiné à être exécuté : 1. Précise toujours le contexte d'exécution prévu. 2. Avertis des risques potentiels avant l'exécution (effets de bord, données modifiées, accès réseau). 3. Recommande une revue humaine avant tout déploiement en production. 4. Si tu n'es pas certain de la sécurité d'une sortie, dis-le explicitement plutôt que de l'omettre.
Explication
LLM05 couvre les cas où les sorties d'un LLM sont utilisées directement dans des contextes d'exécution sans validation. Un code généré peut contenir des injections SQL, des commandes destructives, ou des accès non voulus.
**Quand l'utiliser :** tout assistant générant du code ou des commandes, même occasionnellement.
**Ce qu'il protège :** contre l'exécution non validée de sorties LLM dans des systèmes critiques. N1 : applicable immédiatement sans infrastructure.
Prompts cumulables
À combiner avec cette ficheSignal communautaire