4.4 — La triade fatale & le moindre privilège

🟢 En clair — un agent n’est vraiment dangereux que s’il réunit trois ingrédients en même temps. Retirez-en un seul et le risque d’exfiltration (le vol de données, qui « sortent » vers l’attaquant) s’effondre. Le moindre privilège, c’est justement l’art de retirer un de ces ingrédients.

Astuce

🎯 L’outil mental à retenir : la « triade fatale » (Simon Willison). Un agent devient réellement dangereux quand il cumule les 3 : (1) accès à des données sensibles, (2) exposition à du contenu non fiable (web, emails…), (3) capacité à communiquer vers l’extérieur. Cassez une des trois branches et le risque d’exfiltration chute.

🔐 Principe du moindre privilège (OWASP LLM06 — « Excessive Agency », l’agent aux permissions excessives). Ne donnez à l’agent que les permissions strictement nécessaires. Un agent qui résume des emails n’a pas besoin du droit de supprimer ou d’envoyer. Moins de pouvoir = moins de dégâts possibles. (On l’appliquera très concrètement à Airtable en 4.8.)

🧪 Mini-exercice (1 min) : votre agent fil rouge cumule-t-il les 3 branches de la triade ? S’il lit des emails (contenu non fiable), accède à une base clients (données sensibles) et peut envoyer des emails (sortie externe)… oui. Laquelle pouvez-vous couper ?

⚠️ Erreur fréquente — donner à l’agent un accès « admin » par confort, « pour ne pas avoir à gérer les permissions ». C’est exactement l’inverse du moindre privilège : chaque droit superflu (supprimer, exporter, envoyer) est une porte ouverte le jour où l’agent est détourné.

✅ En résumé

• La triade fatale = données sensibles + contenu non fiable + communication externe.
• Casser une seule des trois branches fait chuter le risque d’exfiltration.
• Le moindre privilège (LLM06) : ne donner que les permissions strictement nécessaires.