Se producen contenidos pornográficos falsos de Taylor Swift con deepfake

El congresista Joseph Morelle, quien anteriormente presentó una propuesta para prevenir los deepfakes, señaló que las imágenes y videos "pueden causar daños emocionales, financieros y reputacionales irreversibles".

Llevamos años viendo cómo internet y la tecnología son utilizados para diferentes fines en manos de personas malintencionadas. Sin embargo, con la tecnología deepfake, vemos que muchos artistas famosos, políticos o figuras conocidas aparecen diciendo cosas que nunca dijeron, haciendo cosas que nunca hicieron o vistiendo prendas que nunca usaron. Con esta tecnología, también se preparan contenidos pornográficos falsos, especialmente de mujeres conocidas. La última víctima de esto ha sido Taylor Swift.

LAS IMÁGENES DE TAYLOR SWIFT PODRÍAN HABER SIDO DIFUNDIDAS DESDE UN GRUPO DE TELEGRAM MISÓGINO

El origen de las imágenes falsas de Taylor Swift no se conoce oficialmente, pero recibieron más de 45 millones de visitas. Estas imágenes creadas fueron compartidas en X y la etiqueta Taylor Swift AI se convirtió en tendencia mundial. En algunas regiones, esta búsqueda se volvió tendencia.

Según 404 Media, Swift no dejará pasar este incidente y presentará una demanda al respecto. La plataforma mediática también inició una investigación rastreando las imágenes. Se enteró de que las imágenes falsas publicadas aquí surgieron de una comunidad en Telegram 'dedicada a imágenes obscenas de mujeres'. Informó que en esta comunidad se compartían imágenes obscenas de mujeres producidas por inteligencia artificial con Microsoft Designer.

Mason Allen, responsable de crecimiento de Reality Defender, un grupo de detección de deepfakes, dijo: "Desafortunadamente, se difundieron entre millones de usuarios antes de que algunos fueran eliminados".

LLAMADOS A LA REGULACIÓN LEGAL

Tras el impacto de las imágenes, se empezó a defender la necesidad de implementar regulaciones legales. El congresista Joseph Morelle, quien anteriormente presentó una propuesta para prevenir los deepfakes, considera que las imágenes y videos "pueden causar daños emocionales, financieros y reputacionales irreversibles".

Aún no ha habido una declaración por parte de la famosa artista sobre el tema, pero vemos cómo la tecnología se convierte en algo terrible en las manos equivocadas. Algunas herramientas de inteligencia artificial impiden la creación de contenido +18 y falso, pero otras no. Además, la gran mayoría de estas herramientas se ofrecen de forma gratuita. Por otro lado, estas imágenes, que normalmente van en contra de las políticas de X, permanecieron circulando en la plataforma durante horas. Esto fue visto como un fracaso de X.

Actualización: La secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, declaró que la situación es preocupante y que la administración estadounidense está trabajando para encontrar una solución a través de 'medidas legales'. Jean-Pierre dijo: “Es preocupante que se compartan imágenes falsas de Taylor Swift en las redes sociales. Sabemos que este tipo de incidentes afectan de manera desproporcionada a las mujeres y a las niñas. La administración Biden está comprometida a garantizar que reduzcamos el riesgo de imágenes falsas generadas por inteligencia artificial mediante medidas legales. Los esfuerzos para encontrar soluciones reales continuarán. En este punto, si bien las empresas de redes sociales toman sus propias decisiones independientes sobre la gestión de contenidos, creemos que desempeñarán un papel importante en la aplicación de sus propias reglas para evitar la difusión de información errónea y de imágenes íntimas de personas reales sin su consentimiento”.

Fuente de la noticia: 12punto

Noticias relacionadas

Nueva tecnología de generación de fotogramas que aumenta las tasas de refresco

Avance revolucionario en el tratamiento del cáncer con nanotecnología

Los efectos de la transformación tecnológica iniciada con la pandemia continúan