Project Lily: contratados humanos revisam conversas do ChatGPT e os perigos para a privacidade

A OpenAI tem desenvolvido um programa interno conhecido como Project Lily, conforme divulgado por uma reportagem da 404 Media em setembro de 2026. Essa iniciativa envolve a contratação de centenas de avaliadores externos, que recebem trechos de conversas reais entre usuários e o modelo ChatGPT. Cada avaliador tem a tarefa de ler a solicitação completa feita pelo usuário, resumir a intenção por trás da pergunta e, em seguida, pontuar e criticar as diferentes respostas geradas pelo sistema. O objetivo declarado é melhorar a qualidade das interações, tornando-as mais coerentes e adequadas ao contexto.

Como funciona a revisão humana

Os revisores recebem instruções detalhadas para focar em aspectos específicos das respostas, como a presença de um tom excessivamente artificial, a tendência de atribuir características humanas ao modelo (antropomorfismo) e a complacência que pode surgir quando o sistema tenta agradar o usuário sem oferecer conteúdo crítico. Para cumprir essas diretrizes, os avaliadores precisam ter acesso ao conteúdo integral da conversa, o que inclui não apenas a pergunta, mas também todo o histórico que o usuário compartilhou. Dessa forma, informações potencialmente sensíveis, como detalhes de contato, referências a situações de saúde ou dados financeiros, podem estar presentes nos trechos analisados.

Limitações do filtro de privacidade

A OpenAI afirma que, antes de encaminhar qualquer texto aos contratados, aplica um "Privacy Filter" que remove nomes de usuários e tenta excluir dados pessoais identificáveis. Contudo, esse filtro não garante anonimização completa. Ainda podem permanecer indícios de contexto profissional, localização aproximada ou descrições de situações de vida que, combinados, permitem a reidentificação do indivíduo. O filtro é apresentado como uma ferramenta de minimização de dados, mas não como uma garantia de conformidade total com normas de privacidade.

Configurações de melhoria do modelo

De acordo com informações do Tom's Guide, a opção de melhorar o modelo está ativada por padrão para contas pessoais — incluindo as versões Free, Plus e Pro — e desativada para contas Enterprise, Business e Edu. Quando o ajuste "Improve the model for everyone" está ativo, as conversas enviadas são potencialmente incluídas no conjunto de dados analisados pelo Project Lily, mas apenas a partir do momento em que a opção é ativada; conversas anteriores permanecem fora do escopo. Essa distinção cria uma situação em que usuários que não alteram a configuração podem ter suas interações expostas sem saber.

• Desativar a opção de melhoria do modelo nas configurações da conta;
• Evitar inserir informações pessoais ou sensíveis nas interações;
• Utilizar contas corporativas ou educacionais, onde a revisão humana está desativada por padrão;
• Revisar periodicamente as políticas de privacidade da OpenAI para acompanhar mudanças.

Diferenças entre pseudonimização e anonimização

É importante distinguir pseudonimização de anonimização. A pseudonimização substitui identificadores diretos por códigos ou pseudônimos, mas ainda permite a reidentificação quando combinada com informações auxiliares. Já a anonimização elimina permanentemente qualquer possibilidade de associação ao indivíduo. No caso do Project Lily, o filtro de privacidade opera mais como pseudonimização, pois pode deixar vestígios — como referências a cargos, cidades ou eventos — que, se cruzados com outras bases de dados, podem revelar a identidade do usuário.

Consentimento e controle humano

Embora a OpenAI comunique que não divulga nomes de usuário aos avaliadores, a empresa não exige consentimento explícito dos usuários para que suas conversas sejam analisadas. O controle sobre quais dados são filtrados e quais são enviados para revisão permanece centralizado na própria OpenAI, que decide os critérios de seleção. Essa prática levanta questões éticas relacionadas à transparência e ao direito dos usuários de saber exatamente como seus dados são tratados, bem como à possibilidade de exercer controle efetivo sobre esse processo.

Conclusão

Em resumo, o Project Lily ilustra a complexa balança entre o aprimoramento da qualidade dos modelos de IA e a proteção da privacidade dos usuários. Embora os filtros de privacidade reduzam alguns riscos, a possibilidade de vazamento de detalhes sensíveis persiste, exigindo que os usuários adotem medidas preventivas e que a OpenAI refine suas práticas de anonimização e de obtenção de consentimento.

Organizações brasileiras que utilizam o ChatGPT devem, portanto, verificar se suas políticas internas de proteção de dados contemplam a desativação da opção de melhoria do modelo, orientar os colaboradores a evitar o compartilhamento de informações pessoais nas interações e monitorar periodicamente as atualizações nas políticas de privacidade da OpenAI para garantir conformidade com a LGPD.