Centros de Transparencia Algorítmica y el nuevo orden de Europa

El mundo está dividido en tres respecto a los algoritmos y la inteligencia artificial. En el primero, Estados Unidos posee una gran hegemonía gracias a la ventaja de ser pionero. Las grandes empresas tecnológicas de Silicon Valley determinan hacia dónde avanzará la tecnología de inteligencia artificial y qué pueden hacer los algoritmos. En este sentido, mantienen la mentalidad de "hagámoslo primero y luego corregiremos los problemas que surjan". China, por su parte, está avanzando más rápido de lo esperado en el desarrollo de inteligencia artificial y algoritmos, utilizando la enorme cantidad de datos producidos por sus ciudadanos en un sistema digital de circuito cerrado. Su pensamiento es: "localicemos la tecnología y diseñemos algoritmos más avanzados utilizando el big data que tenemos". La Unión Europea, en cambio, sigue una política algo "conservadora" frente al rápido movimiento de ambas partes. Observa que existe un vacío administrativo y de supervisión en cuanto a las tecnologías de inteligencia artificial y los algoritmos. Piensa: "establezcamos primero las reglas y regulaciones, y luego permitamos el uso de sus tecnologías". 

Con este enfoque, la Unión Europea tomó medidas para llenar este gran vacío en el mundo digital y se fundó el Centro Europeo de Transparencia Algorítmica (ECAT, por sus siglas en inglés). Este centro tiene la tarea de auditar los algoritmos invisibles de las plataformas e investigar sus impactos sociales. El objetivo es revelar cómo funcionan estas "cajas negras" que operan en todas partes, desde las redes sociales hasta los motores de búsqueda, y concienciar al público.

Como ha anunciado la Comisión Europea, el ECAT opera especialmente en el marco de la Ley de Servicios Digitales (DSA). Es decir, los sistemas de clasificación de contenido, los algoritmos de recomendación y los sistemas de moderación de contenido de las grandes plataformas en línea podrán ser examinados de forma independiente desde aquí. La transparencia no se limitará solo a informes técnicos; también se pondrá sobre la mesa cómo estos algoritmos desencadenan riesgos sociales como la salud mental de los jóvenes, las tendencias a la radicalización y la desinformación. Como se destaca en el propio sitio web de la Comisión Europea, el centro examinará estos sistemas en términos de "patrones de comportamiento de riesgo para la sociedad".

Como se menciona en una noticia publicada en TechCrunch, con este paso Europa no solo exige una mayor rendición de cuentas a las empresas tecnológicas; también pretende sacar a la luz los procesos de toma de decisiones que afectan directamente la vida de los usuarios. Esto se considera uno de los movimientos más serios de Europa en cuanto al "orden digital".

Por supuesto, también existen debates. Según informó Reuters en los últimos meses, los gigantes tecnológicos podrían querer limitar estas demandas de transparencia bajo el pretexto de "secreto comercial". Además, la cuestión de cómo se reflejará la transparencia en el público es crítica: incluso si se redactan informes técnicos, si no se transmiten en un lenguaje sencillo, estos informes podrían quedar solo como documentos que solo pueden entender académicos y burócratas. Es decir, la transparencia trae consigo la pregunta de "¿para quién?" es la transparencia.

Cuando pensamos en Turquía, el panorama es más complejo. Todavía no tenemos un centro independiente que examine los algoritmos de forma sistemática. Sin embargo, no saber cómo funcionan los sistemas de recomendación en las redes sociales agrava muchos problemas, desde la desinformación hasta el discurso de odio. Este paso dado en Europa me lleva a preguntarme: "¿es posible un mecanismo de transparencia similar para nosotros?".

En conclusión, el ECAT constituye un "modelo pionero" no solo para Europa, sino para todo el mundo. Porque los algoritmos, que son los actores invisibles de nuestras vidas digitales, ya no son solo cajas oscuras de las empresas tecnológicas, sino que se han convertido en un tema de control social. Este camino abierto por Europa debería ser inspirador para regulaciones que prioricen el interés público también en países como Turquía.