4.5 — Le frein d'urgence (stopping rules)

🟢 En clair — un agent qui agit en boucle peut rester coincé sur la même action ratée et la répéter sans fin. Un « frein d’urgence », c’est une limite qui l’arrête de force avant que la facture n’explose.

Le grand danger des boucles autonomes : la boucle infinie. Votre agent essaie de se connecter avec un mauvais mot de passe → il réessaie 1000 fois dans la nuit… et vide votre budget d’API. (C’est le risque OWASP LLM10 — « Unbounded Consumption ».) Les parades :

1. Le plafond d’itérations (Iteration Cap) — un nombre maximum d’étapes. « Si tu n’as pas réussi après 10 essais, arrête-toi et appelle un humain. »
2. La détection de non-progression — si l’agent reçoit 3 fois la même erreur, il doit comprendre qu’il est bloqué et s’arrêter.
3. Un budget plafonné — limite de tokens (les unités de texte que l’IA facture) / de temps / de coût par mission, au-delà de laquelle l’agent se coupe automatiquement.

💸 Cas réel no-code : dans n8n, chaque exécution est facturée ; une boucle qui part en vrille, c’est une facture qui grimpe et un agent inutile. Un plafond d’itérations n’est pas un luxe, c’est une protection budgétaire.

✅ En résumé

• La boucle infinie (LLM10) peut vider votre budget d’API en une nuit.
• Trois freins : plafond d’itérations, détection de non-progression, budget plafonné.
• En no-code (n8n facturé à l’exécution), un plafond est une protection budgétaire, pas un luxe.