Project Lily: ¿Qué implican los contratistas que revisan tus conversaciones con ChatGPT?

El 14 de septiembre de 2026, 404 Media publicó un informe basado en documentos internos que confirma la existencia de Project Lily, un programa en el que OpenAI emplea a cientos de contratistas para leer, resumir y calificar conversaciones completas de ChatGPT. Los evaluadores reciben tanto la solicitud del usuario como la respuesta generada, y deben identificar la intención del usuario, valorar la pertinencia de la respuesta y señalar posibles fallos de tono o de antropomorfismo.

Según el mismo informe, las directrices dadas a los revisores buscan reducir la “artificialidad” del modelo, evitar que parezca demasiado humano y limitar la complacencia excesiva. En la práctica, esto implica que los contratistas pueden observar contenidos potencialmente sensibles, como datos de ubicación, referencias a entornos laborales o detalles personales que se desprenden del contexto de la conversación.

Mecanismos de protección y sus limitaciones

Qué dice el anuncio

OpenAI asegura que los nombres de usuario nunca se muestran y que todo el texto pasa por un filtro de privacidad antes de ser entregado a los revisores. Este filtro, llamado OpenAI Privacy Filter, está diseñado para minimizar datos personales, pero la propia documentación de la herramienta aclara que no constituye una garantía de anonimización completa ni de cumplimiento de normativas de protección de datos.

En la práctica, el filtro puede dejar pasar información que, combinada con otros fragmentos del historial, permite inferir datos sensibles. Por ejemplo, un resumen de la memoria del usuario podría revelar su sector profesional, una ciudad aproximada o situaciones de vida que, sin ser identificadores directos, sí reducen la privacidad del individuo.

Quiénes están expuestos y cómo funciona la configuración

Tom's Guide indica que la mejora del modelo está activada por defecto para cuentas personales (Free, Plus y Pro), mientras que para usuarios Enterprise, Business y Edu está desactivada por defecto. Además, la opción “Improve the model for everyone” solo afecta a conversaciones futuras, no retroactiva a las ya procesadas.

Los límites que permanecen

• Cuentas Free, Plus y Pro: mejora automática activada.
• Cuentas Enterprise, Business y Edu: mejora desactivada por defecto.
• Opción “Improve the model for everyone”: solo afecta a nuevas conversaciones.
• Posibilidad de desactivar la mejora en la configuración de la cuenta.

Esta configuración implica que la gran mayoría de usuarios particulares están sujetos a la revisión humana, mientras que las organizaciones que manejan datos más críticos pueden optar por excluir sus conversaciones del proceso de entrenamiento.

Pseudonimización versus anonimización

Qué deben verificar las organizaciones

Es importante distinguir entre pseudonimización y anonimización. La pseudonimización reemplaza identificadores directos (como nombres de usuario) por seudónimos, pero mantiene la posibilidad de volver a identificar al individuo mediante información adicional. La anonimización, en cambio, elimina de forma irreversible cualquier dato que permita la identificación.

En Project Lily, el filtro de privacidad actúa principalmente como pseudonimizador: oculta nombres y ciertos datos explícitos, pero no elimina por completo la información contextual que, combinada, puede volver a identificar al usuario.

Asimismo, el consentimiento informado sigue siendo un punto debatido. OpenAI informa a los usuarios mediante su política de uso que los datos pueden ser revisados para mejorar el modelo, pero la claridad y la facilidad de gestionar ese consentimiento varían entre los diferentes tipos de cuenta.

En resumen, Project Lily representa una mezcla de automatización y control humano que busca equilibrar la calidad del modelo con la protección de la privacidad, aunque la balanza todavía inclina hacia una exposición significativa de datos para la mayoría de los usuarios.

Si deseas reducir la exposición de tus conversaciones, revisa la configuración de tu cuenta y desactiva la opción de mejora del modelo cuando sea posible. Mantente atento a actualizaciones de la política de privacidad de OpenAI y considera el uso de plataformas alternativas si la confidencialidad es una prioridad.