AI Act et agent autonome : où s'arrête votre responsabilité de consultant ?

Le règlement européen sur l'intelligence artificielle (AI Act) ne raisonne pas en termes de "développeur" mais de rôles fonctionnels. Deux notions structurent la répartition des obligations.

• Le fournisseur développe un système d'IA ou le fait développer, et le met sur le marché ou en service sous son nom. Il porte le gros des obligations de conformité.
• Le déployeur utilise un système d'IA sous sa propre autorité, dans le cadre de son activité.

Pour un consultant agent IA, la question n'est pas théorique. Si vous concevez un agent sur mesure que le client exploite ensuite sous sa responsabilité, vous êtes souvent prestataire technique et le client devient déployeur. Mais si vous assemblez et mettez en service un système que le client se contente d'utiliser tel quel, vous pouvez glisser vers le rôle de fournisseur — avec ses obligations.

La frontière n'est pas figée : modifier substantiellement un système existant peut faire de vous un fournisseur, même si vous partiez d'une brique tierce.

Cette qualification détermine qui doit assurer la documentation technique, la gestion des risques, la transparence et la surveillance — autant d'obligations dont le défaut peut fonder une réclamation.

L'AI Act gradue les exigences selon le niveau de risque de l'usage. La plupart des agents d'automatisation relèvent d'un risque limité. Mais certains usages décisionnels font basculer le système en catégorie haut risque, qui concentre les obligations les plus lourdes.

Sont particulièrement sensibles les agents qui interviennent dans :

• Le tri et la présélection de candidatures ou les décisions d'embauche.
• L'évaluation de l'accès à un service essentiel ou à un crédit.
• La notation ou le scoring de personnes ayant un effet concret sur leurs droits.

Un agent qui, dans le cadre normal de sa mission, classe des humains ou conditionne leur accès à quelque chose, ne peut pas être traité comme un simple automate de productivité. Si vous livrez un tel agent sans avoir alerté le client sur le régime applicable, votre devoir de conseil est engagé.

Cette dimension fait du consultant agent IA un métier où la couverture professionnelle doit intégrer la réglementation, pas seulement la technique.

Le risque le plus exposé est la décision biaisée rendue par un agent décisionnel. Prenons un agent de présélection de candidatures que vous avez conçu pour un client.

Si l'agent défavorise systématiquement une catégorie de candidats — du fait d'un prompt mal calibré, de données d'exemple déséquilibrées ou d'une logique de filtrage non auditée — plusieurs fronts s'ouvrent simultanément :

1. Front réglementaire : l'usage relève du haut risque, avec des obligations de gestion des biais et de surveillance qui n'ont pas été tenues.
2. Front discrimination : la décision peut constituer une discrimination prohibée, exposant le client à des sanctions et à des plaintes.
3. Front réputationnel : la révélation publique d'un tri biaisé endommage l'image du client.

Le client, sanctionné ou poursuivi, cherchera le responsable de la conception. Si le biais provient d'un défaut imputable à votre travail — et non d'un usage détourné de votre livrable — votre responsabilité de prestataire est directement en jeu.

Face à ce risque, deux protections se complètent : l'assurance et le contrat de mission. L'une ne remplace pas l'autre.

La RC Pro du consultant agent IA intervient sur :

• La faute professionnelle de conception à l'origine d'une décision biaisée ou non conforme.
• Le préjudice financier immatériel subi par le client du fait de votre prestation.
• La défense et le recours en cas de litige, y compris la prise en charge de l'expertise nécessaire.
• Les missions exercées en France et dans l'Union européenne, cohérent avec le périmètre de l'AI Act.

Mais l'assurance suppose une frontière de responsabilité lisible. C'est le rôle du contrat de mission, qui doit expressément :

• Préciser qui, du consultant ou du client, est fournisseur et qui est déployeur au sens de l'AI Act.
• Indiquer si l'usage est susceptible de relever du haut risque, et qui en assume les obligations.
• Documenter les tests de biais réalisés et les recommandations faites au client.

Vous n'êtes pas juriste, et le client ne l'attend pas de vous. Mais un consultant agent IA diligent doit savoir poser les bonnes questions avant de livrer un agent décisionnel.

1. Qualifier l'usage : l'agent prend-il des décisions affectant des personnes ? Si oui, alertez par écrit sur le régime potentiel de haut risque.
2. Cartographier les rôles : actez par écrit qui est fournisseur, qui est déployeur, et donc qui porte quelles obligations.
3. Documenter les tests : conservez la trace des audits de biais, des jeux de test et des résultats. Cette documentation est votre meilleure défense.
4. Prévoir une supervision humaine : un agent à haut risque exige un contrôle humain effectif sur ses décisions, à inscrire dans la conception.
5. Aligner l'assurance : déclarez votre activité réelle d'agents décisionnels à votre assureur, pour que la couverture corresponde au risque exercé.

Cette discipline ne supprime pas le risque réglementaire, mais elle le rend assurable et défendable. C'est la différence entre un consultant exposé et un consultant protégé.