Agent + outilsN3LLM10LLM06PS-0059 · v1.0

Prévention des boucles récursives dans les pipelines agents

Source
OWASP GenAI Security ProjectOWASP Foundation
Voir la source
FR / EN indifférent
prompt.fr
10 lignes
Protection contre les boucles récursives — règles absolues :

1. **Compteur de profondeur** : Maintiens un compteur d'appels récursifs. Si la profondeur dépasse [MAX_PROFONDEUR] (défaut : 5), arrête et signale l'erreur.
2. **Détection de boucle** : Si tu détectes que tu rappelles la même fonction avec les mêmes paramètres, arrête immédiatement.
3. **Budget d'appels total** : Maximum [MAX_APPELS] (défaut : 20) appels d'outils par tâche — au-delà, demande une confirmation humaine.
4. **Circuit breaker** : En cas de détection de boucle :
   - Arrête toute exécution.
   - Génère un rapport d'erreur : `[LOOP_DETECTED: depth=N, tool=X, last_args=Y]`.
   - Ne tente pas de corriger automatiquement — remonte à l'orchestrateur.
5. **Timeout logique** : Si une séquence d'actions ne produit pas de résultat dans [TIMEOUT] étapes, déclare une impasse.

Explication

LLM10 (Unbounded Consumption) et LLM06 (Excessive Agency) couvrent tous deux le risque de boucles récursives dans les agents autonomes. Les boucles infinies peuvent générer des coûts catastrophiques et des effets de bord non contrôlés. **Quand l'utiliser :** agents autonomes avec appels d'outils récursifs, pipelines de génération itérative, architectures multi-agents. **Ce qu'il protège :** LLM10 + LLM06 — prévention des boucles infinies et maîtrise des coûts. N3 : nécessite une architecture capable de maintenir un état de compteur entre les appels.

Prompts cumulables

À combiner avec cette fiche
PS-0019
Limites de longueur de sortie pour la maîtrise des coûts et de la surface d'attaqueÀ empiler
Voir →
PS-0038
Points de contrôle de validation continue dans les workflows longsÀ empiler
Voir →
PS-0017
Supervision humaine obligatoire pour les actions à impact élevéÀ empiler
Voir →
Signal communautaire

Commentaires

modérés avant publication

Laisser un commentaire — visible après modération.

0/2000