El lado oscuro de la inteligencia artificial: Corea del Sur luchará contra el problema del 'contenido sexual falso'

En el país asiático de Corea del Sur ha surgido un problema de 'contenido sexual falso'. Las autoridades de seguridad de Corea del Sur han anunciado que se desarrollará un sistema de detección para combatir los 'contenidos sexuales falsos' que han causado el sufrimiento de muchas personas.

En un comunicado emitido por la policía de Corea del Sur, se indicó que se invertirán aproximadamente 6 millones de dólares para establecer un sistema capaz de detectar contenidos deepfake.

Según informa Yonhap, continúan los esfuerzos en Corea del Sur para frenar el aumento de los delitos relacionados con imágenes y audios de contenido sexual generados mediante inteligencia artificial. En la declaración de las autoridades, se expresó que se prevé que el proyecto esté terminado para 2027 y que, gracias al sistema, la detección de vídeos deepfake se acelerará.

En 2024, en Corea del Sur, 573 sospechosos fueron detenidos en relación con 1094 delitos de deepfake.

Se había descubierto que las imágenes 'deepfake' en Corea del Sur se difundían a través de Telegram. Las autoridades habían abierto una investigación sobre la aplicación de mensajería

EL CASO DE DEEPFAKE EN COREA DEL SUR

Se detectó que en algunos grupos de chat vinculados a escuelas y universidades en Corea del Sur se difundían imágenes de 'contenido sexual' que incluían audios e imágenes manipuladas mediante el método 'deepfake' de muchas víctimas, en su mayoría mujeres y niñas.

El jefe de la Oficina Nacional de Investigación, Woo Jong-soo, había señalado que se abrió una investigación preliminar sobre Telegram, plataforma donde se difundían estas imágenes, bajo el cargo de 'complicidad en el delito'.

Los representantes de Telegram, que se reunieron con funcionarios de la Comisión de Estándares de Comunicaciones de Corea (KCSC), declararon ser conscientes de la gravedad del problema y prometieron implementar una 'política de tolerancia cero', que incluye medidas estrictas contra este tipo de material ilegal.

Fuente de la noticia: AA