LLM06 — Autonomie excessive des agents
Un agent IA avec trop de permissions et trop peu de supervision peut causer des dommages réels — sans mauvaise intention, juste par manque de garde-fous.
LLM06 est la vulnérabilité centrale des systèmes agents : un LLM qui a accès à des outils réels (APIs, fichiers, bases de données, communications) peut exécuter des actions irréversibles sur la base d'un raisonnement probabiliste — sans la rigueur déterministe qu'on attendrait d'un système automatisé.
L'OWASP identifie trois dimensions : permissions excessives (l'agent peut faire plus que nécessaire), fonctionnalités superflues (accès à des outils inutiles à sa mission), autonomie sans supervision (pas de point de contrôle humain pour les actions à impact élevé).
C'est la section la plus fournie de la bibliothèque, reflétant la criticité croissante des architectures agents. De la séparation plan/exécution à la détection du chaînage non intentionnel d'outils.