¿Pueden los votantes ser engañados por la inteligencia artificial? ¿Qué están haciendo Meta y otras empresas?

Meta, la empresa propietaria de Facebook e Instagram, ha anunciado la creación de un equipo dedicado a combatir el contenido falso generado por inteligencia artificial (IA) durante las elecciones al Parlamento Europeo que se celebrarán en junio.

La compañía está preocupada por el potencial de la tecnología de IA, capaz de imitar vídeos, fotografías y voces, para engañar a los votantes.

Sin embargo, un experto del sector ha calificado el plan de Meta como "ineficaz". Este año se celebrarán elecciones en más de 60 países, donde reside más de la mitad de la población mundial.

Estados Unidos, Rusia, India, Turquía, Pakistán, Bangladés e Indonesia son solo algunos de ellos. A meses y semanas de las elecciones, los políticos también expresan preocupaciones similares sobre la inteligencia artificial.

El ministro del Interior del Reino Unido, James Cleverly, declaró recientemente al periódico Times que algunas personas utilizarán contenidos falsos generados por IA para intentar influir en las elecciones.

¿QUÉ HARÁ EXACTAMENTE META?

Marco Pancini, jefe de asuntos de la Unión Europea (UE) de Meta, empresa que también posee WhatsApp y Threads, explicó en una entrada de blog que la compañía establecerá un "Centro de Operaciones Electorales específico para la UE", el cual "detectará amenazas potenciales y tomará medidas específicas en tiempo real en todas nuestras aplicaciones y tecnologías".

Pancini afirmó: "Desde 2016, hemos invertido más de 20.000 millones de dólares en el ámbito de la seguridad y hemos cuadruplicado nuestro equipo global que trabaja en esta área, empleando a 40.000 personas".

Pancini señaló que esto incluye a 15.000 personas que revisan contenidos en Facebook, Instagram y Threads en más de 70 idiomas, y destacó que en este proceso se ha reunido a ingenieros, expertos en datos y especialistas legales.

Según Deepak Padmanabhan, de la Queen's University de Belfast y coautor de un artículo sobre elecciones e inteligencia artificial, el plan anunciado por Meta presenta algunas deficiencias.

Padmanabhan afirma: "Podemos decir que la estrategia planificada será ineficaz en puntos clave".

Al cuestionar cómo planea Meta lidiar con las imágenes generadas por IA, Padmanabhan considera que la estrategia podría ser imposible de implementar.

Poniendo como ejemplo una situación en la que imágenes realistas generadas por IA muestren a manifestantes enfrentándose a la policía, Padmanabhan comenta:

"Para demostrar que las imágenes son falsas, tendríamos que estar seguros de que no hubo enfrentamientos. Esto podría no ser posible ni para la tecnología ni para los expertos.

"¿Cómo puede cualquier tecnología calificar esto como real o falso? Por lo tanto, no está nada claro cuán efectiva puede ser la estrategia de Meta. Al menos, tiene limitaciones graves".

Meta trabaja actualmente con 26 organizaciones de verificación de datos en toda la UE y afirma que incorporará a tres socios más con sede en Bulgaria, Francia y Eslovaquia.

El papel de estas organizaciones no es ocuparse de los contenidos destinados a suprimir el voto, ya que este tipo de publicaciones ya están prohibidas.

Más bien, las organizaciones tienen como objetivo detectar contenidos que difundan información errónea, incluidos los elementos generados por inteligencia artificial.

Marco Pancini, jefe de asuntos de la UE de Meta, indica que se añadirán etiquetas de advertencia a este tipo de publicaciones para que no tengan tanta visibilidad.

También se señala que no se permitirá la presencia de publicaciones falsas en los anuncios. Pancini, quien afirma que estos esfuerzos son el resultado de colaboraciones, subraya la necesidad de una mayor coordinación en el futuro:

"Dado que el contenido generado por inteligencia artificial aparece en todo Internet, estamos trabajando con otras empresas de nuestro sector en estándares y directrices comunes. Este trabajo supera a una sola empresa. Requerirá un gran esfuerzo en toda la industria, el gobierno y la sociedad civil".

¿QUÉ CAMINO ESTÁN SIGUIENDO OTRAS EMPRESAS?

Hace dos semanas, un total de 20 empresas tecnológicas, incluidas Meta, OpenAI, Microsoft y Adobe, firmaron un acuerdo para trabajar juntas en la lucha contra el contenido falso de IA antes de las elecciones.

La plataforma de redes sociales TikTok también anunció en las últimas semanas que establecerá "Centros Electorales" en idiomas locales para los 27 países miembros de la UE en su aplicación, donde se podrá encontrar información oficial fiable.

Fuente de la noticia: 12punto