Inteligencia artificial y deepfake: cada vez es más difícil distinguir lo real de lo falso
La inteligencia artificial ya no solo puede imitar la imagen y la voz de una persona, sino también sus latidos y los cambios en el tono de su piel. Este avance hace que sea aún más difícil distinguir los vídeos falsos (deepfake).
12punto
En los últimos años, los vídeos deepfake basados en inteligencia artificial no solo se han limitado a contenidos de entretenimiento, sino que se han convertido en una grave amenaza para la seguridad. Estos avances tecnológicos están provocando que los riesgos que pueden generar los contenidos deepfake se debatan con mayor frecuencia.
La tecnología deepfake ha ido más allá de los filtros de entretenimiento utilizados en las redes sociales. Gracias a los algoritmos de aprendizaje profundo, los gestos, las expresiones faciales y el tono de voz de personas reales pueden copiarse casi a la perfección. Esto convierte a la tecnología en una herramienta extremadamente peligrosa para personas con malas intenciones.
¿CÓMO SE CONVIERTEN LAS APLICACIONES EN UN PELIGRO?
Los usuarios suelen ver las aplicaciones de redes sociales que envejecen sus rostros, los transforman en animales o los modifican con diversos efectos digitales como una herramienta de entretenimiento. Sin embargo, los sistemas de inteligencia artificial que operan en segundo plano en estas aplicaciones aprenden a crear un modelo digital personalizado analizando los rasgos faciales, los gestos y el estilo de habla.
Estos datos individuales pueden combinarse con software avanzado para transformarse en vídeos deepfake extremadamente realistas. Estos contenidos resultantes tienen el potencial de ser utilizados con fines malintencionados, desde el chantaje y el fraude hasta la manipulación política.
'IMITA DE FORMA REALISTA'
Uno de los métodos de defensa desarrollados contra la tecnología deepfake se basaba en la ausencia de latidos en los vídeos falsos. Sin embargo, este enfoque ya ha perdido su validez hoy en día.
El profesor Peter Eisert, de la Universidad Humboldt de Berlín, afirmó en una declaración reciente: 'La nueva generación de vídeos deepfake imita de forma muy realista el ritmo cardíaco y los cambios naturales en el color de la piel. Esto hace que sea aún más difícil detectar los contenidos falsos'.