Microsoft cierra la vulnerabilidad que permitía crear imágenes falsas de Taylor Swift
Microsoft ha implementado las actualizaciones necesarias para evitar el uso indebido de su Azure Face API. El grupo que generaba imágenes desnudas de Taylor Swift y otras celebridades fue descubierto por Microsoft Designer.
12punto
Recientemente, las imágenes creadas mediante deepfake han tenido un gran impacto en el entorno de internet. La tecnología deepfake, utilizada frecuentemente en la producción de contenido pornográfico falso, ha provocado debates últimamente debido a las imágenes de Taylor Swift creadas con este método. Swift anunció que tomará medidas legales al respecto. La vulnerabilidad utilizada por Microsoft para la creación de este tipo de imágenes ha sido cerrada.
El origen del problema salió a la luz en este contexto y Microsoft realizó las actualizaciones necesarias en su Azure Face API.
La vulnerabilidad fue detectada después de que surgiera un grupo donde se compartían imágenes obscenas de mujeres generadas por inteligencia artificial a través de Microsoft Designer. Se cree que personas malintencionadas utilizaron la Azure Face API para crear fotos y videos desnudos de Taylor Swift y otras celebridades.
Las imágenes falsas llegaron a millones de usuarios en poco tiempo y, tras las críticas, la plataforma X bloqueó las búsquedas de Taylor Swift. Las imágenes, que también se compartieron en aplicaciones como Facebook e Instagram, fueron eliminadas de dichas plataformas.