Project Lily : quand des contractuels examinent vos conversations ChatGPT, quels risques pour la vie privée ?

Le 14 septembre 2026, une enquête approfondie a été publiée, s’appuyant sur des documents internes ainsi que sur des extraits de conversations réelles. Cette étude révèle qu’OpenAI a mis en place un dispositif nommé Project Lily, mobilisant plusieurs centaines de travailleurs contractuels dont la mission consiste à lire, analyser et évaluer les échanges entre les utilisateurs et le modèle de génération de texte. Les évaluateurs ont ainsi accès aux dialogues complets, ils en extraient l’intention sous‑jacente de l’utilisateur, puis ils notent et commentent les différentes réponses que le système a proposées.

Comment fonctionne le filtrage de confidentialité ?

OpenAI assure que les identifiants personnels, tels que les noms d’utilisateur, ne sont jamais affichés aux contractuels. Avant d’atteindre les évaluateurs, chaque texte passe par un « Privacy Filter », une couche de pseudonymisation qui masque les données directement identifiables comme le nom, l’adresse e‑mail ou le numéro de téléphone. Cette mesure, bien qu’efficace pour supprimer les informations les plus évidentes, ne garantit pas une anonymisation totale. En pratique, des éléments plus subtils – le lieu de travail, le nom d’un projet, des références à des problèmes de santé ou d’autres détails sensibles – peuvent franchir le filtre et être exposés aux yeux humains.

Le tableau de travail fourni aux contractuels comprend souvent un résumé du contexte de l’utilisateur. Ce résumé peut contenir des indications sur le secteur d’activité, le pays d’origine ou même des événements de vie récents. Cette forme de « mémoire utilisateur » augmente le risque de réidentification, surtout lorsqu’elle est croisée avec des informations publiques disponibles sur internet ou dans des bases de données ouvertes.

Qui est concerné par l’amélioration du modèle ?

L’option d’amélioration du modèle est activée par défaut pour la plupart des comptes personnels, qu’ils soient gratuits ou payants. En revanche, les comptes Enterprise, Business et Edu offrent la possibilité de désactiver cette collecte, laissant aux organisations le choix de ne pas partager leurs conversations. Le paramètre « Improve the model for everyone » ne protège que les futures interactions ; les dialogues déjà collectés restent accessibles aux contractuels tant qu’ils n’ont pas été supprimés ou archivés.

• Les contractuels lisent les requêtes réelles et les réponses générées.
• Ils résument l’intention de l’utilisateur avant d’attribuer une note.
• Ils évaluent la pertinence, le ton et le degré d’anthropomorphisme.
• Ils signalent les réponses jugées trop complaisantes ou artificielles.

Ces différentes tâches visent à réduire le ton artificiel, à limiter l’anthropomorphisme excessif et à éviter que le modèle ne devienne trop complaisant. Elles sont encadrées par des consignes internes strictes, mais elles reposent néanmoins sur une lecture humaine directe, ce qui implique que chaque échange passe effectivement entre les mains d’un individu.

Pseudonymisation, anonymisation et consentement

Il est essentiel de bien différencier ces concepts. La pseudonymisation masque les identifiants directs tout en conservant la possibilité de réidentifier la personne si l’on dispose d’informations complémentaires. L’anonymisation, elle, rend la réidentification pratiquement impossible. OpenAI ne prétend pas que son filtre assure une anonymisation complète ; il se limite à une minimisation des données personnelles. Le consentement de l’utilisateur se fait uniquement par l’acceptation des conditions générales, qui incluent la possibilité de partager les conversations à des fins d’amélioration du modèle.

En l’absence d’un mécanisme de retrait ou de contrôle granulaire, les utilisateurs ne peuvent pas choisir sélectivement quelles parties de leurs échanges seront examinées. Cette asymétrie de pouvoir entre le fournisseur de service et l’utilisateur alimente les inquiétudes relatives à la protection de la vie privée et à la souveraineté des données.

Pour les organisations francophones, il convient de vérifier que les politiques internes de protection des données prennent en compte les spécificités de Project Lily. Elles doivent s’assurer que les paramètres de désactivation de l’amélioration du modèle sont correctement configurés, que les flux de données sensibles sont évités dans les requêtes adressées à ChatGPT, et que les procédures de conformité aux exigences du RGPD sont appliquées, notamment en matière de notification, de minimisation et de droit d’accès aux informations collectées.