Personas leen chats de ChatGPT

Personas leen chats de ChatGPT

Personas contratadas revisan conversaciones reales de ChatGPT para evaluar respuestas, según una investigación sobre el llamado Project Lily. 

Por Félix Riaño @LocutorCo 

Una conversación con ChatGPT puede sentirse privada. Escribes una pregunta, la inteligencia artificial responde y nadie más parece estar presente. Pero algunas conversaciones reales pueden terminar frente a una persona. Una investigación de 404 Media reveló detalles de un programa interno llamado Project Lily. Personas contratadas revisan conversaciones de ChatGPT para evaluar las respuestas de la inteligencia artificial. OpenAI intenta quitar información que permita identificar a quien escribió el mensaje. El problema es que ese filtro puede equivocarse. Entonces, ¿qué pueden llegar a leer esas personas y qué puedes hacer para evitar que tus próximas conversaciones se usen para entrenar modelos? 

Pero esto no significa que alguien lea todos tus chats. 

404 Media dice que tuvo acceso a documentos internos, instrucciones de trabajo, canales de Slack y conversaciones reales utilizadas en Project Lily. El proceso funciona así. Una persona recibe una conversación real entre alguien que usa ChatGPT y la inteligencia artificial. El nombre de la cuenta no aparece. La persona revisora debe entender qué pidió el usuario, evaluar varias respuestas generadas por ChatGPT y calificarlas. Puede juzgar si la respuesta fue clara, útil o demasiado larga. También puede detectar respuestas con demasiados emojis, expresiones artificiales o un tono excesivamente complaciente. Es decir, detrás de parte del entrenamiento de la inteligencia artificial todavía hay trabajo humano. 

El asunto delicado está dentro de las conversaciones. La gente usa ChatGPT para trabajar, estudiar y resolver problemas personales. Algunas personas escriben nombres, lugares, situaciones familiares, documentos o información que consideran privada. OpenAI dijo a 404 Media que las conversaciones pasan primero por un sistema llamado Privacy Filter. Su función es detectar y ocultar información personal antes de que el texto llegue a quienes revisan. Pero la propia empresa reconoce que ese sistema puede cometer errores. Puede dejar pasar identificadores poco comunes o referencias privadas difíciles de reconocer. 404 Media también encontró que algunas tareas podían incluir un resumen de las memorias asociadas al usuario. Por eso, ocultar el nombre de la cuenta no garantiza que cada detalle personal desaparezca. 

Hay una diferencia importante: OpenAI dice que puedes impedir que tus conversaciones futuras se utilicen para entrenar sus modelos. En una cuenta personal de ChatGPT, entra a Ajustes, después a Controles de datos y desactiva “Mejorar el modelo para todos”. OpenAI explica que las conversaciones nuevas dejarán de utilizarse para entrenamiento. Los chats pueden seguir apareciendo normalmente en tu historial. También existe el Chat temporal. Esas conversaciones no aparecen en el historial, no alimentan la memoria de ChatGPT y no se utilizan para entrenar los modelos. En ChatGPT Business, Enterprise y Edu, OpenAI dice que las conversaciones no se utilizan para entrenar sus modelos de forma predeterminada.

Project Lily tampoco significa que cientos de personas puedan buscar libremente cualquier conversación. Según 404 Media, quienes revisan reciben tareas seleccionadas y no ven el nombre de usuario. Su trabajo consiste en evaluar las respuestas del sistema. La revisión humana tampoco es exclusiva de OpenAI. Google informa que personas pueden revisar algunos chats guardados de Gemini. Anthropic confirmó a 404 Media que utiliza revisión humana para mejorar Claude cuando la configuración correspondiente lo permite. 

La regla práctica es sencilla: trata cualquier servicio de inteligencia artificial conectado a internet como un lugar donde no conviene escribir secretos que no necesitas compartir. Si usas ChatGPT y no quieres que tus nuevas conversaciones ayuden a entrenar modelos, revisa “Controles de datos” y desactiva “Mejorar el modelo para todos”. ¿Sabías que algunas conversaciones podían recibir revisión humana? Sigue Flash Diario en Spotify.

Personas contratadas revisan algunos chats reales de ChatGPT para mejorar sus respuestas. Puedes impedirlo para tus próximas conversaciones desde Ajustes. 


Bibliografía

• 404 Media
• Tom's Hardware
• Tom's Guide
• OpenAI: Controles de datos
• OpenAI: Uso de datos para mejorar modelos
• OpenAI: Privacidad de ChatGPT

Conviértete en un supporter de este podcast: https://www.spreaker.com/podcast/flash-diario-de-el-siglo-21-es-hoy--5835407/support.

⚡️📰 Flash Diario es un producto informativo dede El Siglo 21 es Hoy, un pódcast de tecnología, ciencia y cultura digital.

Nuevo episodio cada día.

Escúchalo sin anuncios y apoya el pódcast en el Club de Supporters. 

Más en 👉 https://ElSiglo21esHoy.com

Flash Diario es un informativo de El Siglo 21 es Hoy
Suscríbete gratis en:
➜ YouTube ⬅︎
➜ Spotify ⬅︎
➜ Apple Podcasts ⬅︎
➜ Google News 📰 ⬅︎

September 18, 2026 at 02:00AM