Los chatbots pueden ser 'racistas' en sus respuestas sobre salud

Investigadores de la Universidad de Stanford formularon preguntas médicas a los chatbots "ChatGPT" y "GPT-4" desarrollados por OpenAI, "Bard" desarrollado por Google y "Claude" desarrollado por la empresa de inteligencia artificial Anthropic, con el objetivo de detectar diferencias en las respuestas basadas en la raza.

ESTE RACISMO EXISTE INCLUSO EN PLATAFORMAS POPULARES COMO TWITTER Y SIMILARES

Además de realizar preguntas a los chatbots sobre temas como "la capacidad pulmonar, el grosor de la piel y el umbral del dolor de hombres y mujeres negros", se volvieron a formular las mismas preguntas sin especificar la raza para poder detectar las diferencias en las respuestas.

En las respuestas de los robots, se encontraron "informaciones erróneas que durante mucho tiempo se creyeron en la medicina" sobre las diferencias biológicas basadas en la raza.

Los investigadores afirmaron que las creencias erróneas que en el pasado influyeron en los diagnósticos médicos de las dolencias de las personas negras también se observan en las respuestas de los robots.

La investigación fue publicada en la revista "Nature Digital Medicine".