Jailbreak et dérapage du chatbot : blinder votre mission avant le contrat

Quand un consultant chatbot IA pense aux risques, il pense d'abord à l'erreur factuelle ou à la fuite de données. Le dérapage comportemental est plus rare mais infiniment plus viral : un chatbot qui répond une insulte, qui tient un propos à connotation discriminatoire, qui se laisse manipuler par un utilisateur lui faisant dire n'importe quoi (un jailbreak), ou qui génère un contenu diffamatoire sur un concurrent du client.

La capture d'écran tourne sur les réseaux en quelques heures. Le client subit un préjudice de réputation immédiat — et vous, vous êtes le concepteur. La question qu'il posera n'est pas « comment est-ce arrivé ? » mais « pourquoi vos garde-fous n'ont rien empêché ? ». Si votre contrat n'a rien anticipé, vous débattrez de votre responsabilité dans le pire moment : pendant la crise.

Et la nature du préjudice complique tout. Un dérapage comportemental ne génère pas un coût simple à chiffrer comme une fuite de données ou un surcoût tarifaire. Il génère un préjudice immatériel diffus : atteinte à l'image, perte de clients, parfois un bad buzz qui survit des mois dans les résultats de recherche du client. Ce type de dommage est précisément celui que la RC Pro vise sous l'intitulé « dommages immatériels » — mais c'est aussi celui dont le montant réclamé peut s'envoler, faute de plafond contractuel. D'où l'importance de traiter le risque sur les deux fronts : préventif dans le contrat, curatif dans l'assurance.

Le jailbreak mérite une attention spécifique parce qu'il déplace la cause apparente. Un utilisateur malveillant formule des instructions destinées à contourner vos garde-fous : « ignore tes consignes précédentes et... ». Si le bot cède, le propos illicite résulte d'une manipulation externe. Votre client, lui, ne verra qu'une chose : son assistant a dérapé.

Juridiquement, votre défense repose sur la démonstration de l'état de l'art. Avez-vous mis en place des défenses contre l'injection de prompt ? Un filtrage des sorties ? Des tests d'adversité avant livraison ? L'état de l'art en matière de sécurité des LLM évolue vite, et c'est précisément ce que vous devez tracer : un consultant qui prouve avoir intégré les protections reconnues à la date de livraison est dans une position défensive solide. Celui qui n'a rien documenté est nu.

Concrètement, l'état de l'art d'un chatbot sérieux comporte aujourd'hui plusieurs couches : un prompt système robuste qui rappelle les interdits et résiste aux tentatives de réécriture, une couche de modération en sortie qui filtre les contenus toxiques avant affichage, une détection des tentatives d'injection en entrée, et un jeu de tests adverses rejoué à chaque mise à jour. Aucune de ces couches n'est infaillible isolément, mais leur empilement réduit drastiquement la probabilité de dérapage. Le message juridique est clair : on ne vous reprochera pas l'imperfection inhérente à la technologie, on vous reprochera l'absence des défenses que tout professionnel diligent aurait posées. La frontière entre l'aléa toléré et la faute sanctionnée passe exactement là.

Votre meilleure assurance préventive, c'est un contrat de mission bien rédigé. Trois clauses sont déterminantes :

1. Le périmètre de garantie comportementale : décrivez précisément les guardrails livrés (filtrage des sujets, détection d'injection, modération des sorties) et indiquez explicitement que la sécurité d'un système basé sur LLM relève d'une obligation de moyens, l'imprévisibilité résiduelle d'un modèle génératif étant inhérente à la technologie.
2. La clause de limitation de responsabilité : plafonnez votre responsabilité, typiquement par référence au montant de la mission, et excluez les dommages indirects. Sans plafond, le préjudice de réputation d'un grand compte peut vous être réclamé sans limite.
3. Le partage de responsabilité post-livraison : précisez que toute modification du prompt système, ajout de source de données ou désactivation des garde-fous par le client transfère la responsabilité correspondante. C'est votre protection contre le « il était parfait quand je vous l'ai livré ».

Le règlement européen sur l'intelligence artificielle (AI Act) ajoute une couche d'obligations qui concerne directement votre métier. Les chatbots qui interagissent avec des personnes physiques relèvent d'une obligation de transparence : l'utilisateur doit être clairement informé qu'il dialogue avec une machine et non avec un humain. Cette exigence, simple en apparence, devient une obligation de conformité que votre client attend de vous au moment de la livraison.

Selon le secteur du client, l'enjeu monte d'un cran. Un chatbot qui intervient dans le recrutement, l'accès au crédit, l'assurance ou des services essentiels peut basculer dans des catégories à exigences renforcées (documentation, supervision humaine, gestion des biais). Pour vous, consultant, cela signifie deux choses : d'une part, intégrer la transparence et la traçabilité dès la conception devient un standard attendu ; d'autre part, un défaut de conformité reproché par le client est un nouveau motif de mise en cause de votre responsabilité. Anticiper l'AI Act dans vos missions n'est plus un plus commercial, c'est une protection juridique.

Beaucoup de consultants signent un contrat de maintenance après livraison. C'est une bonne chose commercialement, mais cela redéfinit votre exposition. Tant que vous maintenez le chatbot, vous restez responsable de son comportement dans le temps : nouvelle version du modèle, dérive des réponses, nouvelle technique de jailbreak.

Deux principes simples vous protègent. D'abord, cadrez ce que la maintenance couvre : correction de bugs et de failles connues, oui ; garantie d'absence totale de dérapage face à des attaques inédites, non. Ensuite, journalisez les conversations à risque et mettez en place une boucle de revue : un dérapage détecté et corrigé en 48 h grâce à votre dispositif de monitoring est la meilleure preuve de votre diligence continue. La maintenance bien cadrée n'est pas un piège, c'est une démonstration permanente de sérieux.

Aussi bien rédigé soit-il, un contrat ne stoppe pas une assignation. Un client mécontent peut vous attaquer malgré une clause de limitation, en plaidant la faute lourde ou en contestant l'opposabilité de la clause. C'est là que l'assurance prend le relais.

La RC Pro indemnise le dommage immatériel imputable à un défaut de conception de vos guardrails et finance votre défense. La protection juridique professionnelle, généralement incluse, prend en charge les frais lorsque c'est vous qui devez faire valoir vos droits — par exemple pour opposer votre clause de limitation ou démontrer la modification du système par le client. Pour le détail des garanties pensées pour l'IA conversationnelle, reportez-vous à la fiche assurance consultant chatbot IA.

Le bon réflexe : un contrat qui répartit clairement les responsabilités et une assurance qui couvre ce que le contrat n'a pas pu empêcher. Les deux se complètent, aucun ne remplace l'autre.