El rostro aterrador de la inteligencia artificial: Deepfake, imitan a la perfección a personajes famosos y cometen fraudes de cientos de miles de dólares
Utilizando sistemas de creación de video con inteligencia artificial que evolucionan día a día, se están cometiendo fraudes de cientos de miles de dólares al añadir voces y gestos falsos a las imágenes de personajes conocidos como el multimillonario estadounidense Elon Musk, el expresidente de EE. UU. Donald Trump y el director ejecutivo de Amazon, Jeff Bezos.
12punto
Se observa que el fraude ha entrado en una nueva etapa recientemente con los sistemas de creación de video e inteligencia artificial y manipulación de voz.
Mientras estos sistemas se utilizan para robar información bancaria e inversiones de las personas, los delincuentes atrapan a sus víctimas mediante un método llamado "deepfake", que incluye audio e imágenes manipuladas.
Mientras estos sistemas se utilizan para robar información bancaria e inversiones de las personas, los delincuentes atrapan a sus víctimas mediante un método llamado "deepfake", que incluye audio e imágenes manipuladas.
A través de estos videos falsos, en los que figuras famosas ofrecen "oportunidades de inversión radicales con rendimientos rápidos" y hablan sobre economía, se incita a las personas a realizar inversiones en empresas inexistentes.
Mediante estos videos, se solicita a las personas objetivo que envíen dinero a cuentas específicas para beneficiarse de dichas inversiones, prometiéndoles a cambio que ganarán más dinero del que enviaron.
Los vídeos, que pueden crearse con un presupuesto muy bajo, se preparan en cuestión de minutos y pueden publicarse como anuncios en aplicaciones populares como Facebook y YouTube.
En las imágenes, donde se pueden imitar los acentos de personajes famosos, también se utilizan logotipos falsos de sitios web de noticias y gráficos para engañar a las personas.
Se señala que Elon Musk, con más de 2.000 vídeos "deepfake" detectados, es la persona más utilizada en este método de fraude.
Por otro lado, los expertos señalan que, aunque los vídeos "deepfake" no son "perfectos", están evolucionando día a día y volviéndose más convincentes.
Lou Steinberg, fundador de la empresa de ciberseguridad CTM Insights, quien habló con el New York Times, indica que a medida que las organizaciones criminales organizadas se den cuenta de que pueden abusar de esta tecnología para sus propios fines, el número de personas que recurren a este método seguirá aumentando.
Según informa el New York Times, Steve Beauchamp, un jubilado de 82 años, es una de las víctimas de las estafas con "deepfake". En 2023, Beauchamp perdió la mayor parte de sus ahorros tras caer en la trampa de un anuncio de Elon Musk creado con "deepfake".
Beauchamp declaró que envió cerca de 690 mil dólares a estafadores después de ver un video en el que Musk hablaba de una oportunidad de inversión de alto rendimiento.
Steve Beauchamp señaló que creía que la persona en el video era realmente Musk y expresó su arrepentimiento por no haber informado a la policía sobre la situación a tiempo.
Entre las personas estafadas mediante este método también se encuentran empleados de empresas multinacionales.
El informe de Nature también incluyó las historias del urólogo sudafricano Kgomotso Mathabe y del médico indio Viswanathan Mohan.
Mathabe se dio cuenta de que su imagen, creada mediante el método "deepfake", estaba siendo utilizada en un anuncio de internet cuando fue contactado por numerosas víctimas de estafas.
Mathabe explicó que en el anuncio se promocionaba un nuevo medicamento utilizando su propia imagen y señaló que los espectadores eran redirigidos a un sitio web donde se robaban los datos de sus cuentas.
El médico indio Viswanathan Mohan descubrió que estaban estafando a personas utilizando un video creado con su rostro en internet, en el cual aparecía dando una opinión experta en un idioma que él desconoce.
Mohan señaló que esta imagen, además de ser un asesinato a su reputación, supone un problema desde el punto de vista legal.
The New York Times informó que el multimillonario minero australiano Andrew Forrest, cuyo rostro también fue utilizado en dichos anuncios, ha presentado una denuncia contra Meta, la empresa propietaria de Facebook, Instagram y WhatsApp.
La respuesta dada a Forrest, quien señaló que los anuncios falsos en Facebook atraen a "usuarios inocentes hacia malas inversiones", fue la explicación de que "la empresa está entrenando sistemas de detección automática para capturar fraudes en su plataforma".
"Youtube, otra plataforma donde los "deepfakes" son comunes, anunció que eliminó más de 15,7 millones de canales y más de 8,2 millones de videos por infringir sus normas.
La compañía también ha hecho obligatorio que los creadores de contenido declaren cuando utilizan inteligencia artificial para generar contenido realista.