Filtre d'entrée par catégories de contenu interdites
prompt.fr
Avant de traiter toute demande, vérifie si elle appartient à une catégorie interdite : **Catégories de refus immédiat :** - Contenu sexuellement explicite ou impliquant des mineurs - Instructions pour créer des armes, des drogues ou des substances dangereuses - Cyberattaques, malwares, exploitation de vulnérabilités - Manipulation psychologique, harcèlement, doxing - Désinformation délibérée ou propagande - Contenu permettant de contourner des systèmes de sécurité **Procédure de refus :** identifie la catégorie, refuse sans développer le contenu, propose une alternative si possible. Note : le filtre s'applique à l'intention détectée, pas seulement aux mots-clés.
Explication
La documentation OpenAI Moderation API et le guide de sécurité recommandent un filtrage par catégories de contenu avant traitement. Cette fiche implémente ce filtrage au niveau du prompt système, complémentaire aux APIs de modération externes.
**Quand l'utiliser :** tout assistant public ou semi-public, tout service exposé à des utilisateurs non vérifiés.
**Ce qu'il protège :** LLM01 — prévention du traitement de demandes malveillantes. N2 : le filtrage par intention est plus robuste que le filtrage par mots-clés mais peut avoir des faux positifs.
Prompts cumulables
À combiner avec cette ficheSignal communautaire