El algoritmo que me dibujó mal

Hace poco, un estudiante mío encontró una foto mía en internet. En ella, aparezco sonriendo con el Puente del Bósforo de fondo. Cargó esta foto en una inteligencia artificial y le pidió que generara una imagen mía. Probablemente también le mencionó que soy académico, ya que aparezco retratado con un bolígrafo en la mano, escribiendo algo en un papel. La imagen resultante es sorprendentemente buena. Mi rostro es idéntico al mío, la expresión se parece a la mía, y la luz y los detalles son convincentes. La enmarcó y me la regaló. Le agradecí este bonito detalle. Sin embargo, al mirar la imagen, me di cuenta de que había un error: sostengo el bolígrafo con la mano derecha. Pero yo soy zurdo y sostengo el bolígrafo con la mano izquierda.

La inteligencia artificial me dibujó mal porque no me conoce de esa manera.

Este pequeño error abre una gran pregunta: ¿por qué la inteligencia artificial cometió este error y cómo podemos corregirlo?

La primera posibilidad es el sesgo algorítmico. Las inteligencias artificiales se entrenan con grandes conjuntos de datos. En estos conjuntos, la mayoría de las personas usan la mano derecha. Por lo tanto, para el sistema, el ser humano que sostiene un bolígrafo es diestro por defecto. La zurdera, al ser minoritaria, se vuelve invisible. Como demostró Safiya Noble, los algoritmos no representan el mundo tal como es, sino como la mayoría de los datos.

La segunda posibilidad es la falta de información. Como la inteligencia artificial no tenía suficiente información sobre mí, eligió la opción más probable. Hizo una "suposición educada" (educated guess). Porque estos sistemas sustituyen la realidad por la probabilidad más alta. En este punto, surge una solución tentadora: que los algoritmos nos conozcan mejor. Que tengan más información sobre nosotros. Así, nos representarían con mayor precisión. A primera vista, no parece una mala idea.

Pero es precisamente aquí donde nos enfrentamos a la verdadera pregunta. Porque el conocimiento no es inocente. Como dijo Foucault, el saber es siempre una relación de poder. Como señaló Zuboff, este conocimiento es hoy la materia prima de la economía de la predicción y la dirección del comportamiento.

El sistema que quiere dibujarme con mayor precisión se convierte, con el tiempo, en un sistema que me predice mejor, me dirige mejor y me gestiona mejor. Como dijo Langdon Winner, los sistemas tecnológicos no son solo herramientas, sino que establecen normas. La persona que escribe con la mano derecha se convierte en la norma. Los demás son la excepción. Este es un ejemplo pequeño pero instructivo de la violencia epistémica descrita por Spivak. Algunos sujetos son sistemáticamente mal representados o no son representados en absoluto.

La imagen resultante es una simulación. Como dijo Baudrillard, la simulación no refleja la realidad, sino que la reemplaza. Un "yo" que no soy yo, pero que se parece a mí, entra en circulación.

Y todo esto genera un riesgo. Como dijo Beck, este riesgo no es externo, sino que está dentro del sistema.

Por último, este proceso tiene una dimensión emocional. Querer que la inteligencia artificial nos represente correctamente es también un deseo de ser comprendidos correctamente. Como han mostrado Papacharissi e Illouz, las emociones son también un campo gestionado y explotado hoy en día.

Por eso, el asunto no se limita a con qué mano sostengo el bolígrafo.

El asunto es este:

¿Hasta qué punto deben conocernos los algoritmos?

Un algoritmo que me dibuja mal es molesto.

Pero un algoritmo que me dibuja a la perfección es más peligroso.

Porque la perfección es el lugar donde desaparece la distancia.

Y, a veces, la distancia es más segura que el error.