Quand le Fin AI hallucine : qui paie la mauvaise réponse du bot ?

Vous livrez un Fin AI Agent à un client e-commerce. Trois semaines plus tard, un capture d'écran circule : interrogé sur les retours, le bot a répondu qu'un remboursement intégral était possible 90 jours après l'achat, alors que la politique réelle est de 14 jours. Plusieurs dizaines de clients finaux ont obtenu gain de cause en brandissant la conversation. Votre client vous écrit : « Votre bot a engagé ma société, je vous tiens responsable. »

Ce scénario n'a rien de théorique. Le Fin AI Agent, comme tout système génératif, peut produire une réponse plausible mais fausse : c'est ce qu'on appelle une hallucination. La question juridique n'est pas « le bot s'est-il trompé ? » mais « qui répond de cette erreur, et sur quel fondement ? ». La réponse détermine si la facture atterrit chez Intercom, chez votre client, ou chez vous.

Une hallucination du Fin AI met en présence trois rôles qu'il faut soigneusement distinguer :

• Intercom (l'éditeur) : il fournit le moteur. Ses CGU excluent quasi systématiquement toute garantie sur l'exactitude des réponses générées. L'éditeur n'est pas responsable du contenu que le bot synthétise à partir des sources qu'on lui a données.
• Le client final (l'entreprise utilisatrice) : c'est lui qui exploite le bot face à ses propres clients. À l'égard du consommateur, c'est sa responsabilité contractuelle qui est engagée si le bot promet un avantage non tenu.
• Vous, le consultant : vous avez choisi les Content Sources, défini le périmètre de réponse, réglé le seuil de confiance, rédigé les instructions du bot et validé sa mise en production. C'est sur ces actes de paramétrage que votre responsabilité se joue.

Autrement dit, vous ne répondez pas du fait que l'IA puisse halluciner par nature — c'est un risque connu et accepté de la technologie. Vous répondez de la manière dont vous avez encadré ce risque.

Le consultant Intercom est tenu d'une obligation de moyens, pas de résultat. Personne ne peut garantir qu'un système génératif ne se trompera jamais. En revanche, on attend de l'expert qu'il ait mis en œuvre les diligences raisonnables de la profession. En cas de litige, voici ce qui sera passé au crible :

• Le périmètre des Content Sources : avez-vous limité le bot à des sources fiables et à jour, ou laissé une base documentaire contradictoire ?
• Le seuil de confiance et le fallback : avez-vous configuré une bascule vers un humain (Inbox) quand la confiance est faible, plutôt que de laisser le bot répondre coûte que coûte ?
• Les garde-fous d'instructions : avez-vous interdit au bot d'inventer des montants, des délais ou des engagements contractuels non sourcés ?
• Les tests de non-régression : avez-vous éprouvé le bot sur un jeu de questions sensibles (retours, prix, garanties) avant la mise en production ?
• L'avertissement client : avez-vous formellement signalé que le contenu fourni par le client engageait sa propre responsabilité ?

La différence entre une faute professionnelle et un aléa technologique se mesure presque toujours à la qualité de votre paramétrage et à la traçabilité de vos décisions.

Reprenons le cas du remboursement à 90 jours. Voici une estimation du préjudice qu'un client pourrait vous réclamer :

Ce sont des dommages immatériels : aucun bien n'est endommagé, mais un préjudice financier découle directement de votre prestation. C'est précisément ce que couvre une assurance RC Pro adaptée au conseil Intercom, qui prend en charge l'indemnisation due et les frais de défense, là où votre épargne personnelle absorberait sinon le choc.

Notez que le préjudice d'image, plus diffus, peut peser bien plus lourd que les montants directs : un client qui a vu son bot promettre des avantages intenables peut perdre la confiance de sa propre clientèle, et chercher à transférer une partie de cette perte sur le prestataire. C'est pourquoi le chiffrage d'un tel sinistre dépasse presque toujours la première estimation, et pourquoi une couverture des dommages immatériels est essentielle pour ce métier.

Au-delà des sources, deux réglages techniques font toute la différence entre un bot maîtrisé et une bombe à retardement. Le premier est le seuil de confiance : Fin AI peut être paramétré pour ne répondre que lorsqu'il identifie une réponse suffisamment fiable dans les Content Sources, et basculer vers l'humain dans le cas contraire. Un consultant qui laisse le bot répondre à tout, y compris quand il n'a pas la donnée, déplace le curseur du risque très loin du bon côté de la prudence.

Le second est la bascule vers l'Inbox sur les sujets sensibles. Les questions touchant aux prix, aux remboursements, aux garanties et aux engagements contractuels devraient, sur la plupart des configurations, déclencher une prise en charge humaine plutôt qu'une génération autonome. Cartographier ces sujets et les router explicitement est un acte de configuration que l'on attend de l'expert. Voici un comparatif des deux postures :

En documentant ces choix dans votre livrable, vous démontrez que vous avez encadré le risque conformément aux règles de l'art — un argument décisif si un litige survient.

La meilleure protection se prépare en amont, pendant la mission. Quelques réflexes qui font basculer un dossier de votre côté :

1. Formaliser le périmètre : indiquez par écrit que le contenu et l'exactitude des sources relèvent du client, et que vous configurez sur la base des informations qu'il fournit.
2. Versionner le paramétrage : conservez les exports de configuration, les instructions du Fin AI et les listes de Content Sources à chaque livraison.
3. Tracer les tests : gardez les jeux de questions testés et leurs résultats avant chaque mise en production.
4. Recommander une supervision : proposez un audit des conversations à risque dans les premières semaines, et documentez si le client refuse cette prestation.

Aucune de ces diligences n'est chronophage prise isolément, mais leur absence transforme un simple aléa en faute caractérisée. Un consultant qui peut produire l'historique de ses décisions de configuration se trouve dans une position défensive bien plus solide que celui qui s'en remet à sa seule parole.

Pour les conséquences techniques d'une mauvaise intégration (fuite ou écrasement de données via une API mal configurée), la cyber-assurance complète utilement la RC Pro. Et pour comprendre l'ensemble des risques propres à votre activité, consultez la page dédiée au métier de consultant Intercom.