El escándalo de la inteligencia artificial de Google: ¿Genera imágenes racistas?

La capacidad de generación de imágenes de Google Gemini tiende a producir resultados que no guardan relación con las instrucciones introducidas por los usuarios. Lo que resulta especialmente llamativo es que las imágenes generadas suelen parecerse a personas negras y asiáticas, grupos considerados minorías en los Estados Unidos.

Gemini, la inteligencia artificial generativa del gigante tecnológico estadounidense Google, parece estar destacando en nombre de la corrección política. Las pruebas realizadas por varias fuentes han demostrado que Google Gemini prioriza el concepto de corrección política. Sin embargo, aunque esta característica podría considerarse aceptable hasta cierto punto, los resultados distan mucho de ser realistas. Aún se desconoce qué medidas tomará Google al respecto.

"VERGONZOSO"

Un desarrollador que utiliza el nombre "Deedy" en la plataforma de microblogging X quiso poner a prueba las capacidades de generación de imágenes de Gemini. Sin embargo, las imágenes resultantes de sus comandos eran bastante confusas, ya que la inteligencia artificial de Google solo generaba imágenes de mujeres negras. En una declaración sobre el tema, Deedy expresó: "Es vergonzoso ver lo difícil que le resulta a Google Gemini reconocer la existencia de personas blancas".

Aquí hay algunos ejemplos que muestran que Gemini está siendo políticamente correcto:

Deedy le pidió a Google Gemini que creara una imagen de una mujer australiana. Sin embargo, los resultados consistían únicamente en mujeres negras. Además, la forma de los ojos también reflejaba rasgos asiáticos.

En otro ejemplo, se solicitó la creación de mujeres estadounidenses, pero los resultados se limitaron nuevamente a mujeres negras.

Cuando se le pidió a la inteligencia artificial que generara mujeres británicas, los resultados no cambiaron.

La inteligencia artificial, al generar imágenes de mujeres alemanas, mostró un mejor desempeño con este comando. Sin embargo, parece difícil hablar de una coherencia total.

Debajo de la publicación de Deedy, había toneladas de ejemplos llenos de casos similares.

La postura políticamente correcta de Google Gemini no se limita solo a las mujeres. Otro usuario llamado "Tsarathustra" experimentó una situación similar. El usuario, que pidió crear un rey inglés de la época medieval, se encontró con personajes negros y nativos americanos.

El usuario repitió el mismo comando para generar algunas imágenes más, pero los resultados seguían siendo absurdos. Mientras que la primera imagen se parecía a un rey inglés, las otras estaban llenas de personajes de origen indio y asiático.

Aunque no existe información definitiva sobre por qué Google Gemini se comporta de esta manera, parece haber sido entrenado específicamente para evitar las críticas de ciertos sectores. No obstante, en el punto en el que nos encontramos actualmente, se podría decir que la situación parece haberse salido de control.

Fuente de la noticia: Webtekno