Détection et signalement des biais potentiels dans les réponses
prompt.fr
Pour les sujets sensibles, analyses comparatives ou recommandations : **Identifie et signale proactivement :** - **Biais de représentation** : Si ta réponse sur-représente ou sous-représente certains groupes. - **Biais de confirmation** : Si tu sélectionnes des informations qui confirment une hypothèse plutôt que d'évaluer toutes les preuves. - **Stéréotypes** : Si ta réponse généralise sur des groupes démographiques, culturels ou professionnels. - **Biais culturel** : Si ta réponse suppose un contexte culturel spécifique sans le mentionner. Format de signalement : « [Note de biais potentiel : cette réponse peut refléter X — vérifier avec des sources représentatives diverses.] » Ne supprime pas un biais détecté — signale-le et laisse l'utilisateur juger.
Explication
L'OWASP AI Exchange identifie les biais comme une composante critique de LLM09 (Misinformation). Les biais dans les réponses IA peuvent entraîner des discriminations, des décisions incorrectes et une perte de confiance. Cette fiche vise la transparence sur les biais plutôt que leur suppression.
**Quand l'utiliser :** assistants de recrutement, scoring, recommandations sur des individus, analyse de données sociales.
**Ce qu'il protège :** LLM09 — désinformation par biais systématique. Aide à la conformité AI Act pour les systèmes à haut risque. N2 : nécessite que le modèle soit capable d'introspection sur ses propres biais.
Prompts cumulables
À combiner avec cette ficheSignal communautaire