Fuite de prompts confidentiels : le risque caché des plateformes

Quand on parle de fuite de données, on pense à un hacker. Pour un LLM trainer, la réalité est bien plus prosaïque. La quasi-totalité des fuites de prompts confidentiels naît de gestes du quotidien, accomplis sans la moindre intention de nuire :

• Vous bloquez sur une tâche d'annotation et vous collez le prompt propriétaire du client dans un autre assistant IA pour vous débloquer.
• Vous faites une capture d'écran d'une consigne complexe pour la partager à un collègue sur un groupe de discussion.
• Vous travaillez sur une machine familiale partagée, et le matériel reste en cache, dans l'historique du navigateur ou les fichiers temporaires.
• Vous publiez une question sur un forum public en y recopiant, sans réfléchir, un exemple de prompt adverse confidentiel.

Ces gestes ont un point commun : ils paraissent inoffensifs. Pourtant, chacun constitue, au sens des engagements que vous avez signés, une divulgation à un tiers. Et c'est précisément là que le droit s'invite.

Pour rejoindre Scale, Surge, Outlier, Mercor ou travailler en direct chez un éditeur, vous avez accepté un accord de confidentialité (NDA). La plupart des annotateurs le parcourent en diagonale. Pourtant, ces contrats contiennent des mécanismes redoutables :

• Une définition très large de l'information confidentielle : prompts, guidelines, techniques de red teaming, exemples, et souvent l'existence même de la mission.
• Une interdiction de tout traitement par un outil tiers : coller le matériel dans un autre service revient à le transmettre à l'éditeur de cet outil, donc à un tiers non autorisé.
• Une clause pénale forfaitaire : un montant fixe dû en cas de violation, indépendamment du préjudice réellement subi par le client.
• Une survie post-mission : l'obligation de confidentialité court souvent plusieurs années après la fin de votre collaboration.

La clause pénale est le point que tout le monde sous-estime. Le client n'a pas à prouver qu'il a perdu de l'argent : le seul fait de la fuite déclenche le paiement du forfait prévu. Votre défense porte alors sur l'existence de la fuite, pas sur ses conséquences.

Coller un prompt dans un LLM grand public n'est donc pas une zone grise. C'est, juridiquement, une communication de secret d'affaires à un tiers : une violation caractérisée.

Même sans NDA, vous n'êtes pas libre de diffuser ce matériel. Depuis la transposition de la directive européenne sur le secret des affaires, le droit français protège les informations qui sont secrètes, qui ont une valeur commerciale du fait de leur secret, et qui font l'objet de mesures de protection raisonnables.

Les guidelines d'annotation, les jeux de prompts adverses et les méthodologies de red teaming cochent ces trois cases. Leur divulgation peut donc être sanctionnée sur le terrain de la responsabilité civile, en plus de la clause pénale contractuelle. Le donneur d'ordre dispose alors d'un double levier : le contrat et la loi.

S'ajoute une dimension RGPD lorsque les prompts contiennent des données personnelles (cas fréquent en évaluation de sorties traitant des situations réelles). Une fuite peut alors constituer une violation de données à notifier, avec les responsabilités en cascade que cela implique.

Un développeur classique manipule du code ; un LLM trainer manipule directement les secrets stratégiques d'un éditeur IA. Cette spécificité fait de vous un point de fuite à haut potentiel, pour trois raisons.

D'abord, le matériel que vous voyez a une valeur disproportionnée. Un jeu de prompts adverses qui défait les garde-fous d'un modèle est de l'or pour un concurrent ou un acteur malveillant : il révèle à la fois les faiblesses du modèle et la méthodologie de l'éditeur pour les chercher. Les guidelines d'annotation, elles, encodent la stratégie d'alignement de toute une organisation.

Ensuite, vous travaillez en environnement non maîtrisé. Contrairement à un salarié sur un poste verrouillé en entreprise, vous opérez depuis votre domicile, sur vos outils, avec vos habitudes. Les barrières techniques qui protègent un secret en entreprise n'existent souvent pas chez le freelance.

Enfin, la tentation d'efficacité est permanente. Le réflexe de coller une tâche difficile dans un autre assistant pour gagner du temps est exactement ce que votre NDA interdit. La fuite naît rarement d'une trahison : elle naît d'un arbitrage entre rapidité et discipline, tranché du mauvais côté. C'est précisément parce que le geste est banal qu'il faut s'en méfier méthodiquement.

Imaginons un cas concret. Vous collez un lot de prompts confidentiels dans un assistant grand public pour accélérer votre annotation. Le client le découvre lors d'un audit de ses fournisseurs d'outils. Voici l'enchaînement et son coût :

Une assurance cyber prend en charge la gestion de l'incident : conseil juridique d'urgence, accompagnement de la notification, et frais de réponse. Le volet atteinte à la confidentialité de votre RC Pro couvre quant à lui les dommages immatériels causés au client et vos frais de défense.

La prévention coûte infiniment moins cher que la réparation. Adoptez ces réflexes dès votre prochaine session :

1. Jamais de matériel client dans un outil tiers. Aucun copier-coller de prompt propriétaire dans un autre assistant, même « juste pour tester ».
2. Une machine dédiée et verrouillée. Pas de session partagée avec la famille, mot de passe et chiffrement du disque activés.
3. Pas de captures d'écran. Elles atterrissent dans le cloud photo, les sauvegardes automatiques, les groupes de discussion.
4. Aucun extrait sur les forums publics. Anonymisez et reformulez toute question, sans recopier le matériel réel.
5. Effacez en fin de mission. Caches, téléchargements, historiques : l'obligation survit à la mission.
6. Méfiez-vous des extensions navigateur. Certaines lisent le contenu des pages, donc vos prompts.
7. Souscrivez une couverture adaptée. Cyber et atteinte à la confidentialité ne sont pas un luxe pour qui manipule des secrets d'affaires.

Votre valeur de LLM trainer tient à la confiance que les plateformes vous accordent. Une seule fuite, même involontaire, peut l'anéantir. Découvrez les garanties pensées pour votre métier sur notre page assurance LLM trainer.