No verifique al Netanyahu de seis dedos con IA

Hay épocas en las que la verdad desaparece. Pero lo que es aún más peligroso son los periodos en los que la verdad se ahoga entre imágenes falsas, vídeos y especulaciones. En tiempos de guerra, bombardeos, ataques con misiles, asesinatos, bloqueos y cierres, esto es exactamente lo que ocurre hoy en las redes sociales. Por un lado, imágenes falsas generadas por IA; por otro, la autoridad algorítmica, el control, la censura y la marginación que invisibilizan ciertas cuentas. Al igual que en la película El proceso (1962), el dominio de los algoritmos invisibles en las redes sociales recuerda a personajes que, en un orden kafkiano, son castigados sin saber cuál es su delito. Las políticas de “contenido sensible” de las plataformas de redes sociales se defienden a menudo bajo argumentos de seguridad y ética. Sin embargo, en la práctica, estos filtros son también una herramienta de regulación algorítmica que limita la circulación de ciertas narrativas políticas. Las cuentas y publicaciones de quienes no se ajustan a la economía política de las empresas tecnológicas, o que se oponen a ella, son invisibilizadas. Bajo la etiqueta de contenido sensible, lo legal y legítimo es marginado. Especialmente en X, muchas cuentas de personas, grupos y partidos antiimperialistas, anticapitalistas y antisionistas intentan existir en la plataforma bajo una niebla algorítmica.

Por otro lado, algunos vídeos que han circulado recientemente en las redes sociales han desencadenado un nuevo debate: las manipulaciones y afirmaciones sobre la supuesta muerte del primer ministro israelí, Benjamin Netanyahu, y si las imágenes compartidas para desmentirlo fueron generadas por IA. Se plantearon acusaciones de manipulación mediante IA basándose en detalles como los seis dedos, el rostro o los gestos de las orejas en las imágenes. Estos vídeos pueden haber sido generados por IA o no. Pero el debate en sí revela un problema distinto y más fundamental: en un entorno de medios digitales donde ya no podemos confiar fácilmente en ninguna imagen, surge la duda sobre qué es la verdad, cómo encontrarla y cómo compartirla. El asunto es, de hecho, más grave en este aspecto: la IA no solo produce imágenes falsas, sino que aumenta la sospecha de que incluso las imágenes reales podrían ser falsas. Así, hasta las imágenes sobre la guerra se convierten en cuestión de minutos en una discusión sobre el análisis de píxeles, y la importancia de la verdad se pierde, trivializándose entre detalles técnicos y memes.

La fragmentación de la realidad es también un debate muy antiguo en el cine. En la obra maestra Rashomon (1952), Akira Kurosawa muestra cómo el mismo suceso es narrado de formas completamente distintas por diferentes personas. Cada testigo construye una realidad diferente según sus propios intereses y puntos de vista. En las redes sociales de hoy existe un efecto Rashomon similar. La misma imagen puede transformarse en decenas de narrativas diferentes en cuestión de horas. En el mundo digital, los verificadores de IA pueden elegir como verdad absoluta solo aquella que es “más adecuada a la estructura de propiedad” y desechar el resto al vertedero de los medios digitales bajo la etiqueta de “contenido sensible” o “desinformación”. Nosotros no vemos la realidad, sino la imagen que el algoritmo nos presenta con una selectividad de clase.

El protagonista de la película El show de Truman (1998) solo comprendió que vivía en un mundo falso cuando chocó contra los límites de ese mundo. Nuestros mecanismos de verificación de la exactitud y la realidad son como los muros del decorado al final de ese mar por el que Truman intentaba escapar. Cuando cuestionamos la agresividad de Israel o la hipocresía de los medios occidentales, las advertencias de “no se pudo verificar” o “sacado de contexto” que aparecen ante nosotros podrían ser, en realidad, ese cielo pintado contra el que chocó el barco de Truman. Herramientas como Groke parecen querer atarnos a un puerto propiedad de las empresas de tecnología digital, diciéndole a nuestro barco que busca la verdad: “quédate en esta simulación de realidad que nosotros aprobamos”.

En la película Wag the Dog (1997), mientras se fabricaba una guerra en un estudio de televisión para distraer a la opinión pública, la pregunta sobre cuál es la diferencia entre el ser humano y su copia, discutida antaño en la ciencia ficción, fue tratada a través de los androides en Blade Runner (1982). Hoy, en cambio, le preguntamos a la IA sobre la distinción entre lo real, lo falso y lo artificial. José Saramago, en su novela Ensayo sobre la ceguera, describe la ceguera de conciencia y la decadencia moral de una sociedad que, teniendo ojos para ver, no quiere ver la realidad. Mientras discutimos si Netanyahu ha muerto o no a través de un vídeo, al igual que los ciegos de Saramago, no podemos ver la destrucción en la guerra ni la muerte de cientos de personas. Nuestra necesidad de validar mediante IA nos convierte en ciegos voluntarios que no confían en sus propios ojos. Mientras el algoritmo nos ahoga en un ruido donde se discuten detalles técnicos, la verdadera tragedia que nuestra conciencia debería ver —el propósito y los objetivos detrás de las guerras— se nos escapa de la vista.

En la película Matrix, Morfeo le dice a Neo: "¿Qué es real? Si te refieres a lo que puedes sentir, oler y ver, entonces lo real son solo señales eléctricas interpretadas por tu cerebro". Hoy, la realidad se convierte en señales algorítmicas que provienen de los propietarios de las plataformas. Por otro lado, Étienne de La Boétie argumentaba en el siglo XVI que el poder de los tiranos se alimenta de los hábitos y la comodidad de las personas. Con su concepto de “servidumbre voluntaria”, señala que las personas se vuelven vulnerables a la manipulación porque evitan la responsabilidad política que conlleva enfrentarse a la verdad. En esta línea, el usuario, en su comodidad cognitiva y pereza de verificación, se conforma primero con contenidos que no incomodan sus propias opiniones. Luego, en lugar de investigar o esperar para saber si un vídeo es real, deja el trabajo de verificación a otra IA, siguiendo la lógica de las redes sociales basada en la interacción y la velocidad. Las IA y los algoritmos de verificación presentan como real lo que pasa por el filtro de “exactitud” permitido por la estructura de propiedad. Así, la responsabilidad de cuestionar la verdad se transfiere de nuevo a la tecnología. En este contexto, la salida a las glorificaciones de los F-35 por parte de la Agencia Anadolu, a la censura centrada en la propiedad de X y al caos visual creado por la IA, requiere una mirada crítico-económica y política que apunte más allá del cielo trazado por el algoritmo.

Aquí es necesario hacer una pregunta sencilla pero importante: si el sistema que produce y hace circular una imagen y el sistema que la verifica son parte del mismo ecosistema tecnológico, ¿qué tan independiente puede ser esa verificación? En resumen, ¿puede la tecnología donde se produce o se puede producir la manipulación ser, al mismo tiempo, la herramienta con la que se verifica la verdad? Porque los dueños de facto de los algoritmos de caja negra que crean los filtros de los procesos de verificación son, al mismo tiempo, las empresas tecnológicas globales, mayoritariamente con sede en EE. UU., que controlan la infraestructura económica y técnica de las plataformas digitales.

Por esta razón, no verifique al “Netanyahu de seis dedos” que se dice fue creado con IA, utilizando la propia IA. Debido a la técnica de aprendizaje profundo basada en redes neuronales artificiales en competencia, la semejanza con la realidad de las imágenes creadas por la IA aumentará día a día. Se producirán nuevas manipulaciones. Se lanzarán nuevas herramientas de verificación. Pero la pregunta seguirá siendo la misma:

¿Estamos realmente buscando la verdad, o preferimos vivir y ver la vida con la versión que nos ofrece el algoritmo?