Décision automatisée par un modèle NLP : jusqu'où va votre responsabilité d'expert ?

Vous livrez un classifieur de réclamations, un moteur de scoring de CV ou un système d'extraction d'entités juridiques. Sur le papier, vous fournissez une aide à la décision. Dans les faits, le client branche votre sortie directement sur un workflow automatique : un score sous un seuil ferme un dossier, une catégorie « non prioritaire » enterre une réclamation, une entité non extraite fait disparaître une clause d'un contrat analysé.

À cet instant précis, votre livrable change de nature juridique. Il ne s'agit plus d'une suggestion soumise à un opérateur humain, mais du déclencheur d'une décision automatisée. Et c'est là que le droit s'invite : l'article 22 du Règlement général sur la protection des données pose un principe d'interdiction des décisions « fondées exclusivement sur un traitement automatisé » dès lors qu'elles produisent des effets juridiques ou affectent significativement une personne.

Le point aveugle de beaucoup d'experts NLP : vous croyez vendre un outil neutre, alors que l'usage réel de votre modèle peut faire basculer votre client dans une zone réglementée — et vous exposer en cascade.

L'article 22 ne dit pas « l'automatisation est interdite ». Il encadre. Une décision entièrement automatisée n'est licite que dans trois cas : elle est nécessaire à la conclusion ou l'exécution d'un contrat, autorisée par une disposition légale, ou fondée sur le consentement explicite de la personne. Et même dans ces cas, des garanties s'imposent.

• Le droit à une intervention humaine : la personne concernée doit pouvoir obtenir le réexamen de la décision par un humain disposant d'un réel pouvoir d'appréciation — pas un simple tampon.
• Le droit d'exprimer son point de vue et de contester la décision.
• La transparence sur la logique sous-jacente, ce qui inclut une explicabilité minimale de votre modèle.

Un système NLP de modération qui supprime automatiquement un compte, un moteur de tri qui écarte une candidature, un classifieur qui clôt une demande de prestation : tous tombent potentiellement sous l'article 22. Si votre client n'a prévu ni intervention humaine, ni recours, ni explicabilité, le traitement est non conforme — et la question « qui a conçu le modèle ? » arrive très vite.

L'erreur fréquente : croire qu'ajouter un humain « qui valide en bout de chaîne » suffit. Si cet humain se contente d'entériner la sortie du modèle sans pouvoir réel de la modifier, la CNIL considère la décision comme restant automatisée.

« Le client a relu, testé et validé le modèle. » Cette phrase ne vous protège pas autant que vous l'espérez. En droit français, le prestataire intellectuel est tenu d'une obligation de conseil : vous devez alerter votre client sur les risques inhérents à l'usage de votre livrable, y compris ceux qu'il ne perçoit pas lui-même.

Concrètement, si vous livrez un classifieur sans avertir par écrit qu'il ne doit pas piloter seul une décision affectant des personnes, et qu'une décision automatisée erronée cause un préjudice, on vous reprochera de ne pas avoir éclairé un client profane sur le caractère décisionnel et réglementé de l'usage. Le fait que le modèle « fonctionne techniquement » n'efface pas la faute de conseil.

Les trois reproches classiques adressés à un expert NLP dans ce scénario :

1. Absence de cadrage du périmètre d'usage : vous n'avez pas écrit que le modèle est une aide à la décision, pas un décideur.
2. Absence d'alerte sur les seuils de confiance : vous avez livré des prédictions sans indiquer en deçà de quel score la sortie n'est pas fiable et exige une revue humaine.
3. Absence de documentation des limites : pas de fiche de modèle décrivant les cas où le modèle échoue (langue, registre, données hors distribution).

Un éditeur de logiciel RH vous commande un moteur d'analyse sémantique de candidatures. Vous livrez un modèle qui note la pertinence d'un profil par rapport à une offre. L'éditeur l'intègre tel quel : sous un seuil, la candidature est automatiquement archivée sans qu'aucun recruteur ne la voie.

Six mois plus tard, un candidat écarté découvre que son CV a été classé « non pertinent » à cause d'une formulation atypique que le modèle a mal interprétée. Il invoque l'article 22 et un défaut d'intervention humaine. L'éditeur se retourne contre vous : selon lui, vous n'avez jamais signalé que le modèle ne devait pas décider seul.

Le préjudice n'est pas un bien endommagé : c'est un dommage immatériel — coût de mise en conformité, frais de procédure, atteinte à la réputation de l'éditeur. C'est exactement le terrain de l'assurance RC Pro : elle prend en charge les conséquences pécuniaires de la faute professionnelle reprochée, ainsi que vos frais de défense, que la mise en cause soit fondée ou non.

Vous ne maîtrisez pas l'usage final de votre modèle, mais vous maîtrisez ce que vous documentez. Quatre réflexes réduisent radicalement votre exposition :

• Contractualiser le « human-in-the-loop » : inscrivez noir sur blanc que le livrable est une aide à la décision et que toute décision affectant une personne requiert une revue humaine effective. Si le client passe outre, la responsabilité bascule de son côté.
• Livrer une fiche de modèle (model card) décrivant données d'entraînement, métriques, biais connus, cas d'échec et seuils de confiance recommandés.
• Exposer les scores de confiance en sortie, pas seulement la classe prédite, pour que le client puisse câbler une revue humaine sous un certain seuil.
• Tracer vos alertes : un e-mail récapitulant les limites d'usage vaut, en cas de litige, bien plus qu'une recommandation orale.

Ces garde-fous ne suppriment pas le risque — un client peut toujours ignorer vos consignes — mais ils déplacent la charge de la faute. Combinés à une RC Pro, ils forment votre véritable bouclier. Pour comprendre comment l'assurance s'articule avec votre activité, consultez la fiche dédiée à votre métier d'expert NLP.