Los médicos falsos en TikTok son un peligro: ¡Advertencia sobre doctores deepfake!

La inteligencia artificial generativa, que alguna vez estuvo limitada a los laboratorios de investigación, ahora está al alcance de todos; incluidos aquellos con malas intenciones. Estas personas no utilizan las herramientas de IA para fomentar la creatividad, sino para alimentar el engaño. La tecnología Deepfake, capaz de crear vídeos, imágenes o sonidos extremadamente realistas, se está convirtiendo en un método cada vez más utilizado no solo para imitar a famosos o intentar influir en la opinión pública, sino también para el robo de identidad y todo tipo de fraudes.

UN ENGAÑO EN TIKTOK

En plataformas de redes sociales como TikTok e Instagram, el alcance y el potencial de daño de los deepfakes pueden alcanzar dimensiones especialmente sorprendentes. Los investigadores se encontraron recientemente en América Latina con una campaña en la que avatares creados por inteligencia artificial se hacían pasar por ginecólogos, nutricionistas y otros profesionales de la salud para promocionar suplementos y productos de bienestar. Estos vídeos, a menudo extremadamente llamativos y convincentes, disfrazan los discursos de venta como consejos médicos, induciendo a personas desprevenidas a realizar compras sospechosas y potencialmente riesgosas.

SE ABUSA DE LA CONFIANZA

Cada vídeo sigue un escenario similar: un avatar que habla, generalmente situado en una esquina de la pantalla, ofrece consejos de salud o belleza. Los consejos, dados con un aire de autoridad, dirigen a los espectadores hacia productos específicos para su venta. Estos deepfakes abusan de la confianza bajo la apariencia de asesoramiento experto para aumentar las ventas, y esta táctica puede ser tan efectiva como poco ética. Otros vídeos aumentan aún más los riesgos al promover medicamentos no aprobados o curas falsas para enfermedades graves, e incluso a veces imitan a médicos reales y reconocidos.

LA MENTIRA DE LA "CURACIÓN" CON IA EN TIKTOK

Los vídeos se crean con herramientas legítimas de inteligencia artificial que permiten a cualquiera enviar clips cortos y convertirlos en un avatar llamativo. Si bien esto puede ser una bendición para los influencers que buscan escalar su producción, la misma tecnología puede utilizarse para afirmaciones engañosas y fraude. Algo que podría funcionar como un truco de marketing puede convertirse rápidamente en un mecanismo para difundir información errónea.

COMO SI TUVIERA 13 AÑOS DE EXPERIENCIA...

Los investigadores de ESET detectaron más de 20 cuentas de TikTok e Instagram que utilizaban médicos deepfake para promocionar sus productos. Uno de ellos, que se hacía pasar por un ginecólogo con 13 años de experiencia, fue rastreado directamente hasta la biblioteca de avatares de la aplicación. Este tipo de abusos violan los términos y condiciones de las herramientas de IA comunes, al tiempo que subrayan lo fácil que pueden convertirse en armas.

ES NECESARIO MANTENERSE ALEJADO DE LOS PELIGROS DE TIKTOK

A medida que la inteligencia artificial se vuelve más accesible, detectar estos fraudes se vuelve más difícil, lo que supone un mayor desafío incluso para los expertos en tecnología.

Aquí hay algunas señales que pueden ayudarle a detectar vídeos deepfake:

- Movimientos de labios que no están sincronizados con el audio o expresiones faciales rígidas y poco naturales,

- Fallos visuales como bordes borrosos o cambios repentinos de luz,

- Una voz robótica o excesivamente pulida,

- Además, verifique la cuenta en sí: los perfiles nuevos con pocos seguidores o sin historial generan sospechas,

- Tenga cuidado con afirmaciones exageradas como "curas milagrosas", "resultados garantizados" y "los médicos odian este truco", especialmente si carecen de fuentes confiables,

- Verifique siempre las afirmaciones con fuentes médicas fiables, evite compartir vídeos sospechosos y denuncie el contenido engañoso a la plataforma.