Expertos preocupados: ¿Se está convirtiendo el deepfake en un arma de engaño masivo?

Aproximadamente una cuarta parte de la población mundial acudirá a las urnas en 2024. Crecen las preocupaciones de que la desinformación y los trucos basados en inteligencia artificial puedan utilizarse para influir en los resultados electorales. Los expertos temen las consecuencias de la proliferación de ejemplos de deepfake. Una empresa de seguridad digital ha puesto el tema sobre la mesa y ha analizado si se trata de un arma de engaño masivo.

No dejes que el algoritmo elija tus noticias, decide tú qué leer. ¡Añade 12punto a tus fuentes preferidas!

Expertos preocupados: ¿Se está convirtiendo el deepfake en un arma de engaño masivo?

Cerca de dos mil millones de votantes acudirán a los centros electorales este año para votar por sus representantes y líderes políticos preferidos. Dado que se celebrarán elecciones importantes en numerosos países, incluidos Estados Unidos, el Reino Unido y la India (así como para el Parlamento Europeo), esto tiene el potencial de cambiar el panorama político y la dirección de la geopolítica en los próximos años y más allá.

A medida que se generalizan las imágenes falsas, el audio y los videoclips de personas reales, la posibilidad de una desinformación impulsada por la inteligencia artificial genera una preocupación creciente.

Las noticias falsas han dominado los titulares relacionados con las elecciones desde que se convirtieron en una gran historia durante la carrera por la Casa Blanca en 2016.

Ocho años después, existe una amenaza indiscutiblemente mayor: una combinación de desinformación y falsificaciones profundas (deepfakes) que pueden engañar incluso a los expertos.

GRABACIÓN DE AUDIO ATRIBUIDA A BIDEN

Es muy probable que los ejemplos recientes de contenido electoral generado por inteligencia artificial, incluida una serie de imágenes y videos que circularon antes de las elecciones en Argentina y una grabación de audio manipulada del presidente de los Estados Unidos, Joe Biden, sean un presagio de lo que podría ocurrir a mayor escala.

EL FORO ECONÓMICO MUNDIAL SUBRAYA EL RIESGO

La información errónea y la desinformación han sido identificadas por el Foro Económico Mundial (WEF) como el riesgo global más importante para el próximo periodo. El problema con los deepfakes se define por el hecho de que la tecnología impulsada por la inteligencia artificial es ahora barata, accesible y lo suficientemente potente como para causar daños a gran escala.

Esto aumenta la capacidad de los ciberdelincuentes, los actores políticos malintencionados y los hacktivistas para lanzar campañas de desinformación convincentes y fraudes más efímeros y puntuales.

Según el informe del WEF, el contenido sintético manipulará a las personas, dañará las economías y fragmentará a las sociedades de diversas maneras en los próximos dos años.

El hecho de que herramientas como ChatGPT y la inteligencia artificial generativa (GenAI) de fácil acceso permitan a una gama más amplia de personas participar en la creación de campañas de desinformación impulsadas por la tecnología deepfake constituye un desafío importante.

PODRÍA SER UNA GANANCIA PARA GRUPOS RIVALES

En un proceso electoral, el deepfake puede utilizarse para socavar la confianza de los votantes en un candidato determinado. Si los partidarios de un partido político o candidato pueden ser dirigidos adecuadamente mediante audios o videos falsos, esto será una ganancia para los grupos rivales.

En la base de este desafío reside una verdad simple: los seres humanos tienden a valorar la cantidad y la facilidad de comprensión al procesar información. Cuanto más contenido veamos que contiene un mensaje similar y cuanto más fácil sea entenderlo, mayor será la probabilidad de que creamos en él.

Si a esto le añadimos el hecho de que cada vez es más difícil distinguir los deepfakes del contenido real, tenemos la receta para un posible desastre democrático.

¿QUÉ ESTÁN HACIENDO LAS EMPRESAS TECNOLÓGICAS AL RESPECTO?

Se dice que tanto YouTube como Facebook han tardado en responder a algunos deepfakes destinados a influir en una elección reciente. Esto ocurrió a pesar de una nueva ley de la UE (Ley de Servicios Digitales) que exige que las empresas de redes sociales impidan los intentos de manipulación electoral.

Por su parte, OpenAI ha anunciado que implementará las credenciales digitales de la Coalition for Content Provenance and Authenticity (C2PA) para las imágenes generadas por DALL-E 3.

La tecnología de marca de agua criptográfica, también probada por Meta y Google, fue diseñada para dificultar la creación de imágenes falsas. Sin embargo, estos siguen siendo pasos de bebé y existen temores justificados de que la intervención tecnológica contra la amenaza sea demasiado poca y demasiado tarde mientras la fiebre electoral se apodera de todo el mundo.

Especialmente cuando se difunden en redes relativamente cerradas, como grupos de WhatsApp o llamadas automáticas (robocalls), será difícil rastrear y refutar rápidamente los audios o videos falsos.

Fuente de la noticia: 12punto