Votre agent Copilot Studio hallucine ou divulgue des données : ce que dit la loi pour le consultant

Avec Copilot Studio, vous ne construisez plus un simple arbre de décision : vous déployez un agent conversationnel génératif qui formule ses propres réponses à partir d'une base de connaissances, de connecteurs et d'instructions système. L'entreprise cliente le branche souvent en contact direct avec ses clients, ses salariés ou ses partenaires.

Cette puissance déplace radicalement votre responsabilité de consultant. Un chatbot scripté ne dit que ce que vous avez écrit. Un agent Copilot, lui, génère des réponses que personne n'a validées une à une. Quand cette réponse est fausse, trompeuse ou indiscrète, le préjudice est réel et le client cherche un responsable : le concepteur de l'agent.

Deux familles de risques se distinguent, et il est essentiel de ne pas les confondre, car leur traitement juridique et assurantiel diffère : l'hallucination (l'agent invente) et la fuite de données (l'agent divulgue ce qu'il ne devrait pas).

Une hallucination est une réponse présentée avec assurance mais factuellement fausse ou inventée. Sur un agent client, les conséquences peuvent être lourdes : un agent qui annonce une garantie inexistante, un délai de livraison erroné, une condition tarifaire fantaisiste ou un conseil réglementaire faux.

Le point juridique sensible : selon les circonstances, une promesse formulée par l'agent peut être opposable à l'entreprise, qui devra honorer ou indemniser. L'entreprise se retournera alors vers vous, concepteur, en invoquant un défaut de conception : grounding insuffisant, absence de garde-fous, périmètre d'instructions trop large.

Votre devoir de conseil impose ici de :

• Sourcer l'agent sur des bases maîtrisées plutôt que sur le modèle généraliste, pour réduire l'invention ;
• Configurer les comportements de repli (escalade vers un humain, réponse « je ne sais pas ») plutôt que de laisser l'agent répondre coûte que coûte ;
• Documenter les limites et recommander un avertissement visible signalant à l'utilisateur qu'il dialogue avec une IA pouvant se tromper.

Le second risque est plus insidieux. Pour répondre, un agent Copilot Studio puise dans des sources : sites SharePoint, fichiers, tables Dataverse, connecteurs. Si le périmètre de ces sources est mal restreint, l'agent peut restituer à un utilisateur des informations qu'il n'aurait jamais dû voir.

Exemples concrets vécus sur le terrain : un agent RH interne qui, interrogé habilement, restitue des éléments de rémunération ; un agent support qui expose les coordonnées ou dossiers d'autres clients ; un agent qui hérite des permissions trop larges d'un compte de service et contourne le cloisonnement Dataverse.

Sur Power Platform, le respect des permissions de l'utilisateur final par l'agent n'est jamais acquis par défaut : c'est une décision de configuration. Et donc une décision dont vous répondez.

Une telle exposition constitue une violation de données à caractère personnel au sens du RGPD, avec obligation de notification et risque de sanction pour le responsable de traitement. Le client cherchera à reporter la charge sur le concepteur. C'est exactement le terrain de l'assurance cyber, qui prend en charge la gestion de crise, le forensic et les frais de notification.

Le règlement européen sur l'intelligence artificielle (IA Act) structure désormais les obligations applicables aux systèmes d'IA, avec une montée en charge progressive. Les agents conversationnels relèvent au minimum d'obligations de transparence : l'utilisateur doit savoir qu'il interagit avec une IA. Selon l'usage et le secteur, des exigences plus strictes de gouvernance des données et de supervision humaine peuvent s'ajouter.

Pour le consultant, cela se traduit par des recommandations concrètes à intégrer dès la conception :

• Afficher clairement la nature artificielle de l'agent ;
• Tenir une documentation du périmètre de données et des sources utilisées ;
• Garantir une supervision humaine sur les cas sensibles ;
• Articuler le tout avec les principes RGPD de minimisation et de limitation des finalités.

Ne pas conseiller le client sur ces obligations expose à un reproche de manquement au devoir de mise en garde. À l'inverse, une note formalisant ces points et les arbitrages du client constitue votre meilleure protection. Le détail de votre couverture métier figure sur la page Consultant Power Platform.

Les risques IA sont assurables, à une condition essentielle : déclarer le périmètre. Un consultant qui conçoit des agents Copilot et des plugins génératifs doit le mentionner à son assureur, car ce périmètre présente une sinistralité spécifique (hallucinations, exposition de données).

Une fois ce périmètre déclaré, votre couverture s'articule autour de deux briques complémentaires :

• La RC Pro IT prend en charge les dommages immatériels causés par une erreur de conception de l'agent : hallucination dommageable, défaut de garde-fou, faute de paramétrage du grounding, ainsi que vos frais de défense en cas de litige client.
• La garantie cyber intervient sur le volet violation de données : notification CNIL, expertise forensic, frais de gestion de crise et accompagnement juridique lorsque l'agent a exposé des données personnelles.

Sans déclaration du périmètre IA, un assureur peut opposer un défaut d'aléa déclaré et réduire ou refuser sa prise en charge. La transparence à la souscription est donc, ici aussi, votre meilleure assurance.