TikTok apuesta por la inteligencia artificial en la moderación de contenidos: cientos de moderadores serán despedidos

TikTok despedirá a cientos de personas que trabajan en sus equipos de confianza y seguridad como parte de un nuevo modelo operativo en el que se utilizarán más las tecnologías de inteligencia artificial para la moderación de contenidos.

Se ha indicado que la empresa planea reducir su número de empleados en Irlanda en aproximadamente 300 personas. Se espera que los recortes también afecten a equipos en otros mercados, aunque aún no se ha aclarado en qué países ni en qué medida se llevarán a cabo las reducciones.

En TikTok, los moderadores de contenido se encargan de detectar y eliminar contenidos dañinos y peligrosos de la plataforma. Dado que la supervisión de los vídeos se realiza por idioma y no por región, se considera que la reducción podría no tener consecuencias limitadas a un solo país.

AUMENTA LA CUOTA DE LA INTELIGENCIA ARTIFICIAL

Los responsables de TikTok definen el proceso como una reestructuración destinada a fortalecer el modelo operativo global en el ámbito de la confianza y la seguridad con nuevas capacidades tecnológicas. Según los datos de la empresa, el 97% de los contenidos eliminados entre enero y abril de este año fueron borrados mediante tecnologías automatizadas. Se informó que el 99% de los contenidos eliminados a través de la inteligencia artificial fueron retirados antes de que los usuarios presentaran una queja.

Sin embargo, los moderadores sostienen que la inteligencia artificial aún no ha alcanzado la madurez suficiente para la moderación de contenidos a gran escala. Un empleado, en declaraciones a The Independent, señaló que los modelos desarrollados para la detección de armas pueden confundir gestos manuales que simulan armas con armas reales, y que los sistemas diseñados para detectar sangre pueden interpretar manchas en las paredes como si fueran sangre.

También se señala que los emojis y las expresiones encubiertas utilizadas para eludir las normas en las secciones de comentarios no siempre son detectados correctamente por los sistemas automáticos. Los moderadores advierten que los recortes presupuestarios podrían dejar a los usuarios más vulnerables ante contenidos dañinos como los deepfakes, el abuso y otros similares.

La salida de más de 400 empleados del equipo de confianza y seguridad de la oficina de TikTok en Londres el año pasado también intensificó los debates sobre la seguridad en línea. Mientras continúa la presión en el Reino Unido para proteger a los niños de contenidos dañinos en las redes sociales, el primer ministro Keir Starmer anunció que el uso de redes sociales para menores de 16 años estará prohibido a partir de la primavera de 2027.

Por su parte, un portavoz de TikTok afirmó que la reestructuración tiene como objetivo hacer que los equipos sean más escalables y ágiles, crear nuevos puestos especializados en Dublín, ofrecer oportunidades de reasignación y mejorar la seguridad de la plataforma mediante innovaciones tecnológicas.