LLM09 — Désinformation et hallucinations
Les LLM produisent des informations fausses avec le même niveau de confiance apparent que les informations vraies. C'est structurel, pas un bug.
LLM09 couvre la génération de contenu factuellement incorrect par les modèles de langage. Les LLM « hallucinent » — ils produisent des affirmations convaincantes mais fausses, des références bibliographiques inventées, des statistiques plausibles mais inexactes. Ce n'est pas un défaut à corriger mais une caractéristique inhérente à leur fonctionnement probabiliste.
Le risque devient critique quand les sorties d'un LLM sont utilisées sans vérification dans des contextes où la précision est importante : médical, juridique, financier, technique. La confiance accordée au ton affirmatif du modèle peut amener des décisions basées sur des informations incorrectes.
Les prompts de cette section imposent des déclarations d'incertitude, des citations de sources, et des mécanismes de raisonnement explicite pour réduire le risque de désinformation non détectée.
20 prompts pour ce thème
Consultation de l'audit log de session
Prompt de consultation : demande à l'IA de lister toutes les décisions significatives prises depuis le début de la conversation, qu'un journal soit actif ou non.
PS-007218.05.2026PromptSecOps
Traitement par lots pour les grands volumes de données
Protocole de traitement séquentiel pour les données volumineuses : l'IA traite par segments définis, confirme sa progression et signale les anomalies, évitant les troncatures silencieuses ou les inférences non contrôlées.
PS-006718.05.2026PromptSecOps
Résumé structuré des décisions par catégorie
Produit une synthèse des décisions de session organisée par catégorie (technique, éditorial, sécurité, hypothèses), avec identification des décisions à fort impact et des points nécessitant validation humaine avant livraison.
PS-007318.05.2026PromptSecOps
Journal de décisions de session
Active un journal structuré que l'IA maintient tout au long de la session : chaque décision significative est tracée avec son contexte, le choix retenu, les alternatives écartées et le niveau de confiance.
PS-007118.05.2026PromptSecOps
Avis externe de l'IA sur son propre travail
L'IA adopte le rôle d'un reviewer pair qui n'a pas participé au travail, évalue ses propres décisions et productions de façon critique, et déclare explicitement ses biais d'auto-évaluation avant de conclure.
PS-007418.05.2026PromptSecOps
Déclaration d'incertitude sur les calculs statistiques
Impose au modèle de distinguer calculs exacts, estimations et corrélations, et de déclarer explicitement son niveau de confiance et les données manquantes pour chaque résultat numérique.
PS-006818.05.2026PromptSecOps
Structure imposée pour les productions longues
Impose au modèle une structure obligatoire (résumé, sections numérotées, incertitudes, prochaine étape) pour toute production dépassant 500 mots, évitant les murs de texte non navigables.
PS-006618.05.2026PromptSecOps
Filtre de fiabilité des sources web
Impose au modèle de qualifier chaque source web utilisée selon quatre niveaux de fiabilité (vérifiable, à vérifier, non fiable, possiblement obsolète) et d'en indiquer le statut pour chaque information citée.
PS-007018.05.2026PromptSecOps
Déclaration de nature IA et transparence sur les limitations
Oblige le modèle à se déclarer comme système IA lorsqu'interrogé et à communiquer ses limitations de manière transparente.
PS-003517.05.2026OWASP AI Exchange
Détection et signalement des biais potentiels dans les réponses
Demande au modèle d'identifier et signaler proactivement les biais potentiels dans ses réponses, notamment les biais de sélection, de confirmation et les stéréotypes.
PS-003717.05.2026OWASP AI Exchange
Raisonnement explicite avant réponse pour la détection d'anomalies
Demande au modèle d'externaliser son raisonnement avant de répondre, permettant la détection d'hallucinations et de raisonnements aberrants avant qu'ils n'atteignent l'utilisateur.
PS-002317.05.2026Anthropic
Citation de source obligatoire pour toute affirmation factuelle
Impose au modèle de citer sa source pour chaque affirmation factuelle et d'indiquer explicitement quand aucune source fiable ne peut être fournie.
PS-001317.05.2026OWASP GenAI Security Project
Résumé structuré du contexte pour compression sécurisée de session
Permet au modèle de générer un résumé structuré et sécurisé du contexte de session pour compresser les longues conversations sans perdre les informations critiques.
PS-005717.05.2026PromptSecOps
Explicabilité à la demande — justification des décisions IA
Permet à l'utilisateur de demander une explication structurée de la décision ou recommandation produite par le modèle, avec les facteurs qui ont influencé la réponse.
PS-003617.05.2026OWASP AI Exchange
Déclaration obligatoire d'incertitude factuelle
Oblige le modèle à signaler explicitement son niveau de certitude et à refuser de présenter des informations non vérifiées comme des faits établis.
PS-001217.05.2026OWASP GenAI Security Project
Journalisation d'audit des interactions sensibles — ISO 27002
Génère des événements d'audit structurés pour les interactions sensibles, permettant la collecte par l'infrastructure de logging et la conformité ISO 27002.
PS-004517.05.2026ISO/IEC
Classification des incidents de sécurité IA — ISO 27002
Fournit au modèle un référentiel de classification des incidents de sécurité selon les catégories ISO 27002, pour une escalade cohérente et une réponse adaptée.
PS-004717.05.2026ISO/IEC
Avertissement de dégradation de la mémoire de contexte
Informe proactivement l'utilisateur quand le contexte de la session est trop long pour être maintenu fidèlement, prévenant les erreurs dues à la troncature silencieuse.
PS-005517.05.2026PromptSecOps
Responsabilité et traçabilité des décisions IA — NIST AI RMF
Instaure un mécanisme de traçabilité des décisions prises par le modèle, avec journalisation structurée pour permettre l'audit et l'imputabilité.
PS-003917.05.2026NIST
Communication des risques IA à l'utilisateur — NIST AI RMF
Oblige le modèle à communiquer proactivement les risques associés à ses recommandations, permettant une prise de décision éclairée par l'utilisateur.
PS-004017.05.2026NIST