Quelles données de votre entreprise ne devraient pas entrer dans un modèle d’IA

La question arrive toujours sous la même forme : « est-ce que c’est sûr de coller ça dans ChatGPT ? ». Et peu importe l’outil — ChatGPT, Claude, Gemini, Copilot ou celui qu’intègre déjà le logiciel que vous utilisez : le critère est le même, et les conditions changent davantage d’un forfait à l’autre au sein d’un même outil qu’entre des outils différents. Et elle est toujours mal posée, parce que « sûr » dépend d’un contrat que presque personne n’a lu et d’un réglage que presque personne n’a vérifié.

La question utile est autre : que se passe-t-il si ce que je vais coller apparaît demain sur l’écran de quelqu’un d’autre, ou dans une action en justice ? À celle-là, on peut répondre sans être ni avocat ni ingénieur.

Ce qui se passe vraiment quand vous collez quelque chose

Quand vous écrivez dans un outil d’IA, ce texte sort de votre entreprise et voyage jusqu’au serveur d’un prestataire. Ce qui arrive ensuite dépend de trois choses : si le forfait que vous payez autorise l’usage de vos données pour entraîner des modèles, combien de temps le prestataire les conserve et qui, chez le prestataire, peut les lire. Les trois sont dans le contrat, et les trois changent entre le forfait gratuit et le forfait entreprise du même produit.

C’est le point qui cause le plus de confusion. Aucun de ces outils n’est une seule chose avec une seule politique. Dans presque tous, le compte gratuit, le compte payant individuel et le compte entreprise ont des conditions différentes, et la différence qui compte n’est pas de marque mais de forfait : le même prestataire peut traiter votre contenu de deux manières opposées selon ce que vous avez souscrit. Il en va de même chez les autres prestataires. Dire « nous utilisons tel outil » ne dit rien sur le risque tant qu’on ne dit pas sous quel forfait.

Le réglage que presque personne ne vérifie

Dans les comptes grand public — gratuits et payants individuels — les principaux outils proposent en général, dans les réglages, un interrupteur qui décide si votre contenu peut servir à améliorer le modèle, et il arrive en général activé. Cherchez-le, lisez-le et décidez. C’est la seule chose de cette liste qui se règle en une minute.

Avec deux réserves. La première : désactiver cet interrupteur est un réglage, pas un engagement contractuel ; il peut changer avec une mise à jour des conditions et ne vous donne rien à faire valoir. La seconde : il ne dit rien sur les deux autres questions — combien de temps c’est conservé et qui peut le lire —, qui continuent de vivre dans le contrat du forfait.

Un feu de signalisation à trois zones

C’est le critère que nous utilisons et que l’on peut coller à un mur.

Zone verte — cela peut entrer sans cérémonie

• Du texte que vous publieriez sur votre site web sans y réfléchir.
• Des brouillons, des idées, des structures de document, des corrections de rédaction.
• De l’information technique publique : comment fonctionne un outil, ce que signifie un terme.
• Des données inventées ou vraiment anonymisées pour faire un test.

Règle pratique : si vous le colleriez dans une publication de l’entreprise sur les réseaux sociaux, c’est de la zone verte.

Zone orange — seulement avec un contrat et du discernement

• De l’information interne non publique : prix de revient, marges, processus, politiques.
• Des documents de travail avec des noms de salariés ou de prestataires.
• Du code appartenant à l’entreprise.
• Des données de clients déjà agrégées ou dissociées, de façon à n’identifier personne.

Ici l’outil gratuit ne convient pas. Il faut un forfait entreprise avec un engagement écrit de ne pas utiliser les données pour entraîner, et il faut que quelqu’un de l’entreprise ait lu cet engagement.

Si vous ne savez pas bien ce que dit le contrat du forfait que vous payez déjà, c’est un examen court et concret : ce qui est conservé, combien de temps, qui peut le lire et si cela alimente ou non l’entraînement. La division technique le fait avec vous.

Zone rouge — cela ne sort pas de l’entreprise

• Données personnelles de tiers sans base légale pour les traiter ainsi : numéros de pièce d’identité, téléphones, courriels, adresses, historiques d’achat associés à un nom.
• Données sensibles. La Ley 8968 (loi costaricienne de protection de la personne face au traitement de ses données personnelles) les définit comme l’information relevant du for intime de la personne, et mentionne expressément l’origine raciale, les opinions politiques, les convictions religieuses ou spirituelles, la condition socio-économique, l’information biomédicale ou génétique, et la vie et l’orientation sexuelles. Cette « condition socio-économique » surprend tout le monde et c’est celle sur laquelle on marche le plus sans le vouloir : revenus, dettes, capacité de paiement.
• Identifiants : mots de passe, clés d’accès, jetons, certificats. Un secret collé dans une conversation est un secret brûlé.
• Matériel couvert par un accord de confidentialité d’autrui. Si vous avez signé un accord avec un client, cet accord ne prévoit probablement pas que son information passe par un tiers.
• Information qui décide du sort d’une personne : évaluations de performance, décisions de crédit, dossiers disciplinaires. Notez que celles de crédit relèvent en plus de la catégorie précédente.

Avec les données sensibles, la loi costaricienne ne se contente pas de demander plus de soin : elle en interdit le traitement, et ne l’admet que dans des cas limitativement énumérés et étroits — sauvegarder un intérêt vital de qui ne peut pas consentir, les activités légitimes d’une fondation ou d’une association à l’égard de ses propres membres, les données que la personne a rendues publiques volontairement ou qui sont nécessaires pour exercer un droit dans une procédure judiciaire, et les finalités de diagnostic ou de soins médicaux assurés par des professionnels tenus au secret. Un outil d’IA à usage général n’est aucun de ces cas. La zone rouge, sur ce point, est vraiment rouge.

Ce que dit la loi costaricienne, en bref

La Ley 8968 part du principe que les données personnelles appartiennent à la personne, non à qui les recueille. Deux conséquences directes en découlent pour ce sujet :

1. Le consentement vaut pour une finalité précise. Qu’un client vous ait donné son téléphone pour organiser une livraison n’est pas une permission de le transmettre à un tiers dans un autre but.
2. Le transfert à des tiers a besoin de sa propre base. La loi ne permet de transférer des données que lorsque la personne concernée l’a autorisé de façon expresse et valable. Un prestataire d’IA qui traite les données de vos clients est un tiers, même si vous le vivez comme « un outil ».

Ceci n’est pas un conseil juridique, et une entreprise qui traite des données sensibles ou en volume devrait le vérifier auprès d’un avocat. Mais le critère opérationnel tient : si la donnée identifie une personne et que cette personne ne sait pas qu’elle va passer par là, elle ne passe pas.

Comment décider en trente secondes

Quatre questions, dans cet ordre. La première qui donne « oui » arrête le processus.

1. Est-ce que cela identifie une personne précise qui n’est pas moi ?
2. Est-ce un identifiant, ou est-ce que cela ouvre l’accès à quelque chose ?
3. Est-ce couvert par un accord de confidentialité avec un tiers ?
4. Serais-je gêné que cela paraisse avec mon nom dans un média ?

La politique minimale que toute entreprise devrait avoir par écrit

Une demi-page suffit, et elle évite la conversation difficile d’après :

• Quels outils sont approuvés et sous quel forfait. Pas « on peut utiliser l’IA », mais lesquels et sous quelle formule.
• Le feu de signalisation, avec des exemples de votre propre activité, pas des exemples génériques.
• Que faire quand quelqu’un se trompe. Qu’il existe un chemin pour prévenir sans sanction fait que les gens préviennent. Sans lui, personne n’en sait rien.
• Qui décide quand le cas ne tombe clairement dans aucune zone.

Qu’elle existe par écrit importe plus que sa longueur. Une politique d’une demi-page que les gens connaissent fonctionne mieux qu’un manuel de vingt que personne n’a ouvert. La façon dont nous traitons, nous, les données que ce site recueille est dans la politique de confidentialité.

Comment nous faisons ici

Dans le travail avec les données d’une entreprise, nous appliquons le même feu de signalisation que décrit cet article : ce qui va vers un modèle se décide avant de commencer, se note, et si quelque chose tombe en zone rouge on cherche une autre façon de le résoudre — anonymiser, travailler sur un échantillon, ou laisser cette étape entre les mains d’une personne.

Comment nous pouvons vous aider

Cet article finit par vous demander trois choses : classer vos données, examiner le contrat des outils que vous utilisez déjà et écrire une demi-page de politique. Les trois sont des travaux avec un début et une fin, et font partie de ce que nous faisons :

• Classer vos données dans le feu de signalisation, avec les exemples de votre activité et non avec les exemples génériques de cet article. C’est ce qui transforme un tableau en quelque chose que votre équipe peut utiliser dès lundi.
• Examiner ce que disent les conditions des outils que vous payez déjà et les traduire en ce qu’elles signifient pour votre cas.
• Écrire la politique et la laisser dans un langage que votre équipe comprenne, avec le chemin pour prévenir quand quelqu’un se trompe.
• Mettre de l’ordre dans la donnée avant d’automatiser quoi que ce soit, qui est l’étape qui apparaît quand l’information est répartie entre des fichiers qui ne concordent pas.

Si vous voulez commencer par là, la division technique l’examine avec vous lors d’une réunion de trente minutes, sans frais et sans engagement.

Questions fréquentes

Puis-je coller les données de mes clients dans ChatGPT, Claude ou Gemini ?

En règle générale, non. Les données qui identifient une personne précise se traitent selon la finalité pour laquelle cette personne les a remises, et les transmettre à un prestataire externe d’IA reste en général hors de cette finalité. Si le cas d’affaires l’exige, il faut un forfait entreprise avec un engagement écrit de ne pas entraîner sur ces données, et il convient de le faire examiner par un avocat.

La version payante d’un outil d’IA est-elle sûre pour les données d’entreprise ?

Payer n’équivaut pas à protéger. Ce qui change le risque, c’est la formule souscrite : les forfaits entreprise incluent en général l’engagement de ne pas utiliser le contenu pour entraîner des modèles ainsi que des contrôles de conservation, et les forfaits payants individuels pas toujours. La réponse est dans le contrat du forfait précis, pas dans le prix.

Que sont les données sensibles selon la loi du Costa Rica ?

La Ley 8968 les définit comme l’information relative au for intime de la personne, et cite l’origine raciale, les opinions politiques, les convictions religieuses ou spirituelles, la condition socio-économique, l’information biomédicale ou génétique, et la vie et l’orientation sexuelles. La loi en interdit le traitement sauf dans des cas limitativement énumérés, elles ne devraient donc pas entrer dans des outils d’IA à usage général. Il est utile de noter que la condition socio-économique — revenus, dettes, capacité de paiement — figure dans cette liste, ce qui n’est pas le cas dans d’autres pays.

Cela sert-il de désactiver l’entraînement dans les réglages de l’outil ?

Cela aide et il convient de le faire, mais cela ne résout pas le problème. C’est un réglage du compte, pas un engagement contractuel : il peut changer avec une mise à jour des conditions et ne vous laisse rien à faire valoir. De plus, cela ne dit rien sur la durée pendant laquelle le prestataire conserve votre contenu ni sur qui, chez le prestataire, peut le lire, qui sont les deux autres questions et vivent dans le contrat du forfait.

Anonymiser les données résout-il le problème ?

Seulement si l’anonymisation est réelle. Retirer le nom et laisser le numéro de pièce d’identité, le téléphone ou une combinaison de données qui permette de réidentifier la personne n’anonymise rien. Pour tester un outil, il est en général plus propre d’inventer des données d’exemple que d’essayer de dépersonnaliser les vraies.