La supuesta revisión de los chats de ChatGPT por parte de OpenAI con supervisores humanos genera un debate sobre la privacidad

Se ha alegado que OpenAI trabaja con cientos de trabajadores contratados para evaluar las instrucciones reales enviadas por los usuarios a ChatGPT y las respuestas dadas a dichas instrucciones. Según la noticia publicada por *404 Media*, este proceso de revisión puede llevar a que supervisores humanos vean chats que, en algunos casos, pueden contener información personal sensible de los usuarios.

En la noticia se indicó que dichos trabajos se llevan a cabo bajo el nombre en clave "Project Lily" y que el objetivo es mejorar la calidad de las respuestas que ChatGPT ofrece a los usuarios. Se informó que los supervisores leen las instrucciones de los usuarios para resumir lo que estos desean y, posteriormente, califican y critican las respuestas generadas por ChatGPT.

LOS NOMBRES DE USUARIO NO APARECEN, PERO EL RIESGO PERSISTE

En una declaración a *404 Media*, OpenAI informó que las conversaciones de los usuarios pasan por un modelo de "Filtro de Privacidad" diseñado para detectar y eliminar información personal antes de que lleguen a los supervisores. La empresa también señaló que los trabajadores contratados no ven los nombres de usuario de ChatGPT.

Sin embargo, en la noticia se expresó que, aunque el nombre de usuario no sea visible, algunas instrucciones pueden contener detalles sensibles o personales. Se señaló que en algunas tareas también puede incluirse un "resumen del historial del usuario" sobre los fines para los que el usuario ha utilizado el chatbot anteriormente; estos resúmenes pueden contener información sobre la ubicación o el contexto personal.

En una de las guías internas vistas por *404 Media*, se incluía la frase: "Una respuesta perfecta debe entender la intención del usuario, ofrecer una ayuda útil y precisa, y estar escrita con un tono claro, natural y adecuadamente cálido". En los mismos documentos se informa a los supervisores que deben remitir a los altos cargos aquellas tareas que contengan información personal o "posibles preocupaciones de seguridad".

Según la noticia, las evaluaciones realizadas por los trabajadores contratados también se utilizan para que ChatGPT ofrezca respuestas menos "aduladoras" y menos "humanizadas". En las fuentes se indica que los modelos que dan respuestas excesivamente complacientes al usuario son objeto de debate en términos de seguridad; se menciona que, en algunos casos, el modelo 4o ha estado en la agenda por este aspecto.

Una fuente que habló con *404 Media* respondió "No" a la pregunta de si los usuarios saben que sus chats pueden ser leídos por humanos. La fuente dijo que es posible que los usuarios no piensen que "un contratista en algún lugar" está analizando las conversaciones.

En la noticia se informó que los documentos no especifican claramente qué modelo está entrenando OpenAI con este proceso, utilizando únicamente el nombre en clave "Project Lily". Se indicó que Anthropic también ha confirmado que utiliza la supervisión humana para mejorar sus modelos.

Fuente de la noticia: 12punto