Project Lily: Avaliação humana de conversas ChatGPT e os riscos para a privacidade

Em 14 de setembro de 2026, a 404 Media publicou um relatório baseado em documentos internos da OpenAI que descreve o Project Lily, um esforço de escala que recorre a milhares de trabalhadores externos para ler conversas reais de utilizadores do ChatGPT. Estes avaliadores têm acesso a pedidos completos, respostas múltiplas do modelo e a um resumo da intenção do utilizador, com o objetivo de reduzir o tom artificial, o antropomorfismo e a complacência excessiva do modelo.

Como funciona a revisão humana Os contratados, conhecidos como “avaliadores”, recebem as transcrições das interações depois de passarem por um filtro de privacidade. O filtro elimina nomes de utilizador e tenta remover dados pessoais identificáveis, mas a própria OpenAI admite que informações sensíveis podem atravessar esse mecanismo. Os avaliadores resumem a intenção do utilizador, atribuem notas às respostas e fornecem críticas que alimentam o ciclo de melhoria do modelo.

O que é realmente anonimizado? A distinção entre pseudonimização e anonimização é crucial. Pseudonimização implica substituir identificadores diretos por códigos, permitindo que a informação original seja reidentificada com dados adicionais. Anonimização, por outro lado, remove permanentemente qualquer possibilidade de associação ao indivíduo. O filtro de privacidade da OpenAI é descrito como uma ferramenta de minimização de dados, não como garantia de anonimização total. Assim, embora os nomes de utilizador sejam ocultados, detalhes como o contexto profissional, a localização geral ou situações de vida podem permanecer visíveis nos resumos apresentados aos avaliadores.

Configurações de partilha de dados por tipo de conta Segundo a Tom's Guide, a opção de melhorar o modelo está activada por defeito nas contas pessoais Free, Plus e Pro, mas desactivada nas versões Enterprise, Business e Edu. O parâmetro “Improve the model for everyone” apenas afeta as conversas futuras, não retroagindo sobre o histórico já recolhido. Esta diferenciação significa que utilizadores empresariais têm menos probabilidade de ter as suas interações analisadas, embora não exista uma garantia absoluta de exclusão.

• Possibilidade de reidentificação através de combinações de dados aparentemente anónimos;
• Exposição de informações sensíveis que escapam ao filtro de privacidade;
• Falta de consentimento explícito para a análise humana de conversas específicas;
• Dependência de processos humanos que podem introduzir viés ou erro na interpretação dos dados;
• Dificuldade de auditoria independente sobre como os dados são armazenados e utilizados.

Medidas de mitigação recomendadas Para reduzir a exposição, os utilizadores podem: 1. Desactivar a opção “Improve the model for everyone” nas definições da conta; 2. Evitar partilhar informações identificáveis ou sensíveis nas conversas; 3. Utilizar contas Enterprise ou Business, onde a recolha automática está desactivada por padrão; 4. Aplicar técnicas de anonimização manual, como substituir nomes reais por pseudónimos antes de inserir o texto. Estas práticas não eliminam totalmente o risco, mas diminuem a probabilidade de que dados pessoais sejam analisados por humanos.

O papel da regulação e da transparência A legislação europeia sobre proteção de dados, nomeadamente o RGPD, impõe requisitos claros sobre o tratamento de dados pessoais, incluindo a necessidade de consentimento informado e a garantia de direitos de acesso, retificação e eliminação. A OpenAI tem de assegurar que os contratos com os avaliadores incluam cláusulas de confidencialidade e que os processos internos estejam alinhados com estas obrigações. A transparência sobre o funcionamento do filtro de privacidade e a possibilidade de revisão pelos utilizadores são passos essenciais para cumprir a lei e ganhar confiança.

Perspetivas futuras À medida que os modelos de linguagem continuam a evoluir, a necessidade de supervisão humana pode diminuir, mas a pressão por melhorar a qualidade e a segurança das respostas mantém viva a prática de revisão humana. O Project Lily pode servir como um caso de teste para equilibrar a inovação tecnológica com a proteção dos direitos dos utilizadores, mas requer uma monitorização constante e ajustes regulatórios.

Em suma, o Project Lily revela a complexa interseção entre a melhoria de IA e a proteção da privacidade. Embora a OpenAI implemente filtros e ofereça opções de controlo, a presença de avaliadores humanos significa que informações potencialmente sensíveis ainda podem ser expostas. Os utilizadores devem estar conscientes das configurações da sua conta, limitar a partilha de dados pessoais e considerar alternativas empresariais quando a confidencialidade for crítica.