La aterradora realidad detrás de los videos pornográficos deepfake publicados sin consentimiento

Una prueba realizada por NBC News pone de manifiesto lo vulnerables que son los motores de búsqueda ante la pornografía deepfake.

En los detalles compartidos por Chip, se señala que los motores de búsqueda Bing, Google y DuckDuckGo están siendo objeto de intensas críticas por colocar pornografía deepfake no consentida, creada con inteligencia artificial, en la parte superior de ciertos resultados de búsqueda. Estas críticas surgen tras la publicación de un informe de NBC News que destaca preocupaciones sobre la accesibilidad de la pornografía generada por inteligencia artificial.

EL DEEPFAKE SE HA SALIDO DE CONTROL

Los videos pornográficos deepfake se crean utilizando material pornográfico original y sustituyendo el rostro de los actores (generalmente actrices) por el de una persona real específica (por ejemplo, una celebridad). Esta sustitución la realiza automáticamente la inteligencia artificial, y basta con que el usuario que crea las imágenes falsas alimente a la IA con fotografías de la víctima.

Según las pruebas realizadas por NBC News con una muestra de 36 celebridades femeninas, utilizando el nombre de la actriz junto con la palabra "deepfake", Bing y Google mostraron videos e imágenes deepfake en la parte superior de los resultados de búsqueda en casi todos los casos. Google arrojó 34 resultados de este tipo en los primeros puestos, mientras que Bing mostró 35. NBC News señaló que DuckDuckGo también presenta problemas similares, aunque no especificó la magnitud del problema.

Además, NBC News se quejó de que los artículos y noticias sobre el problema de la pornografía deepfake no consentida aparecían en posiciones inferiores a los contenidos inapropiados cuando se buscaba el término "desnudos falsos". No obstante, cabe mencionar que NBC News admitió haber realizado las búsquedas después de desactivar las funciones de seguridad de Bing y Google que impiden al usuario ver contenido obsceno.

A pesar de este pequeño detalle, se puede afirmar con seguridad que la fácil accesibilidad a la pornografía asistida por inteligencia artificial es un problema importante y que cualquiera que busque este tipo de contenido probablemente desactivará las funciones de protección integradas. Los contenidos pornográficos deepfake no consentidos son, por su propia naturaleza, ilegales y, por tanto, se encuentran entre los tipos de contenido que Microsoft, Google y otros deben abordar.

¿QUÉ SE PUEDE HACER CONTRA EL DEEPFAKE?

La forma más fácil, o posiblemente el primer paso temporal, para implementar medidas tecnológicas más avanzadas podría ser eliminar de los resultados de búsqueda o prohibir por completo los sitios web conocidos por publicar este tipo de contenido. Según informa NBC News, dado que más de la mitad de los mejores resultados de sus pruebas consistían en enlaces a un sitio web popular de deepfake o a uno de sus competidores, una medida de este tipo podría reducir significativamente la naturaleza dañina de los resultados de búsqueda actuales.

Microsoft fue la única empresa que no respondió a la solicitud de comentarios de NBC News. Un portavoz de DuckDuckGo afirmó que su fuente principal para enlaces web y resultados de imágenes es Bing. Además, DuckDuckGo ofrece vías para enviar solicitudes relacionadas con la privacidad, como pedir que se elimine un contenido específico de la búsqueda.

Google también ofrece una opción similar para las víctimas de deepfake, pero NBC News, citando a expertos y activistas, sostiene que esto no es suficiente. Además, es posible que las víctimas a las que se les pide que envíen URL con contenido sensible para su revisión sufran más daños durante este proceso.