Agent IA en boucle infinie : qui paie la facture API de 14 000 € ?

Un agent autonome ne se contente pas d'un appel et d'une réponse. Il planifie, agit, observe, puis recommence jusqu'à atteindre son objectif. Cette boucle de réflexion est la force des architectures LangGraph, CrewAI ou Claude Agent SDK. C'est aussi leur talon d'Achille financier.

Imaginez un agent chargé de "trier et enrichir les contacts d'un CRM". À chaque contact, il interroge un LLM pour décider de l'action, appelle une API d'enrichissement, relit le résultat, puis décide de la suite. Si le planificateur ne converge jamais — parce qu'un outil renvoie systématiquement un format qu'il juge incomplet — l'agent relance indéfiniment le même cycle.

Voici à quoi ressemble la mécanique d'emballement la plus courante :

• Récursion d'outils : l'agent appelle un sous-agent qui rappelle l'agent parent, sans condition d'arrêt.
• Retry agressif : chaque erreur réseau déclenche une nouvelle tentative complète du raisonnement, multipliant les tokens.
• Mémoire qui gonfle : à chaque tour, l'historique injecté dans le contexte grossit, et le coût par appel augmente mécaniquement.
• Absence de max_steps : rien ne dit à l'agent de s'arrêter au bout de N itérations.

Lancé un vendredi soir, un tel agent peut tourner tout le week-end. Au lundi matin, le client découvre une consommation hors de tout rapport avec le budget annoncé.

Reprenons un cas réaliste. Vous livrez à un cabinet de recrutement un agent de pré-qualification de candidatures. Budget mensuel d'appels LLM annoncé : 300 €. Le vendredi, une mise à jour d'un outil interne change le format d'une réponse JSON. L'agent, ne reconnaissant plus la structure attendue, considère sa tâche comme inachevée et relance le cycle.

Sur 60 heures de week-end, à 4 000 appels/heure combinant LLM premium et API d'enrichissement payante, la facture atteint près de 14 000 € — soit 46 fois le budget prévu.

Décomposition du préjudice subi par le client :

Le client ne conteste pas la qualité du tri. Il conteste l'absence de plafond de sécurité dans un livrable autonome. Et c'est précisément là que se joue votre responsabilité.

La réponse ne dépend pas du montant, mais de la cause technique et de ce que prévoyait votre mission. Trois cas de figure structurent l'analyse.

Cas 1 — La conception est en cause

Aucun max_steps, aucun budget cap, aucun circuit breaker n'avait été implémenté, alors que votre prestation portait sur la livraison d'un agent autonome de production. L'emballement relève d'un défaut de conception. La faute professionnelle vous est imputable : c'est le terrain naturel de la responsabilité civile professionnelle.

Cas 2 — Le client a modifié l'environnement

Le format JSON a changé à cause d'une mise à jour faite par le client, sur un outil hors de votre périmètre. Votre responsabilité s'apprécie alors à l'aune de ce qu'un professionnel diligent aurait anticipé : un garde-fou générique (plafond de coût) aurait stoppé l'emballement quelle que soit la cause. L'absence de ce filet reste discutable.

Cas 3 — Le risque était documenté et accepté

Vous aviez écrit noir sur blanc que l'agent tournait sans plafond, à la demande expresse du client qui refusait toute interruption. Le partage de responsabilité bascule. D'où l'importance capitale de la traçabilité écrite.

La boucle coûteuse produit un dommage immatériel : aucun bien n'est détruit, mais le client subit une perte financière directement liée à votre prestation intellectuelle. C'est exactement la nature de préjudice que couvre une RC Pro adaptée aux métiers du numérique.

Concrètement, l'assurance peut :

• Indemniser le surcoût facturé au client, dans la limite des plafonds et après application de la franchise.
• Prendre en charge votre défense si le client conteste le montant ou la part de responsabilité, via la garantie défense et recours.
• Couvrir l'expertise technique nécessaire pour établir la cause réelle de l'emballement.

Attention aux exclusions classiques : un préjudice volontaire, une fraude, ou une activité non déclarée à l'assureur ne sont pas couverts. D'où l'intérêt de déclarer précisément votre activité d'agents autonomes au moment de la souscription, plutôt qu'un vague "développeur". Insurio propose une RC Pro pensée pour le consultant agent IA dès 18,90 €/mois.

L'assurance intervient quand tout a échoué. Votre meilleur intérêt est que rien n'échoue. Trois mesures simples neutralisent l'essentiel du risque de boucle.

1. Le plafond technique en dur : max_steps, max_iterations, et surtout un budget cap en euros qui coupe l'exécution dès qu'un seuil de coût est atteint. C'est le filet universel, indépendant de la cause.
2. Le circuit breaker comportemental : détectez les répétitions (même outil, même argument, N fois de suite) et déclenchez un arrêt avec alerte humaine. Une boucle se reconnaît à sa monotonie.
3. Le plafond contractuel et la documentation : inscrivez dans le contrat le budget d'appels couvert, qui supporte le dépassement, et faites valider par écrit toute exécution sans plafond. Cela transforme un litige indéfendable en responsabilité partagée.

Ces trois mesures ne suppriment pas le besoin d'assurance — un bug imprévu reste possible — mais elles déplacent la majorité des incidents du terrain du sinistre vers celui de l'incident maîtrisé.