LLM03 — Risques de la chaîne d'approvisionnement
Modèles pré-entraînés, plugins tiers, datasets externes : chaque composant non maîtrisé est une surface d'attaque potentielle.
LLM03 étend aux systèmes IA les risques de supply chain bien connus en sécurité logicielle. Un modèle de base pré-entraîné sur des données corrompues, un plugin tiers avec des permissions excessives, ou une dépendance Python avec une vulnérabilité connue — chacun peut compromettre l'ensemble du système sans que l'équipe de déploiement s'en aperçoive.
L'OWASP note que la chaîne d'approvisionnement IA est souvent moins auditée que les dépendances logicielles classiques, malgré des risques comparables. La prolifération des modèles open source et des marketplaces de plugins aggrave ce risque.
Les prompts de cette section sensibilisent le modèle aux risques des composants externes et l'instruisent à adopter une posture de méfiance vis-à-vis des sources non vérifiées.