Reglas de la Unión Europea para regular la inteligencia artificial

El Consejo de la UE anunció que se ha alcanzado un consenso sobre la "Ley de Inteligencia Artificial", negociada entre los países miembros y el Parlamento Europeo (PE), que introducirá las primeras reglas integrales del mundo dirigidas a la inteligencia artificial. De acuerdo con esto, los sistemas de inteligencia artificial que se utilicen en los países europeos deberán ser seguros y mostrar respeto por los derechos fundamentales y los valores de la Unión.

Los sistemas de inteligencia artificial se regularán mediante un enfoque "basado en el riesgo", según su potencial para causar daño a la sociedad.

Se impondrán reglas más estrictas a los sistemas de inteligencia artificial de alto riesgo. Se establecerán criterios claros para distinguir la inteligencia artificial de los sistemas de software simples.

Se garantizará que la inteligencia artificial no afecte, en ningún caso, las competencias de los países miembros en materia de seguridad nacional ni a ninguna entidad encargada en este ámbito.

La ley de inteligencia artificial no será aplicable a los sistemas utilizados exclusivamente con fines militares o de defensa.

Los sistemas de inteligencia artificial que presenten un riesgo limitado deberán informar claramente que el contenido ha sido generado por inteligencia artificial para que los usuarios puedan tomar decisiones informadas. Estos sistemas estarán sujetos a obligaciones de transparencia leves. Se permitirán diversos sistemas de inteligencia artificial de alto riesgo. Sin embargo, el acceso de los sistemas de inteligencia artificial de alto riesgo al mercado de la UE estará sujeto a una serie de reglas y obligaciones.

TAMBIÉN HABRÁ ALGUNAS PROHIBICIONES PARA LA INTELIGENCIA ARTIFICIAL

El riesgo en algunos usos de la inteligencia artificial se considerará inaceptable y estos sistemas serán prohibidos en la UE.

La manipulación del comportamiento cognitivo, la obtención indiscriminada de imágenes faciales de internet o de sistemas de cámaras cerradas, el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, la puntuación social, y la clasificación biométrica para extraer datos sensibles como la orientación sexual o las creencias religiosas entrarán en el ámbito de la prohibición.

Las fuerzas del orden podrán utilizar la inteligencia artificial en sus actividades. Las fuerzas del orden podrán desplegar una herramienta de inteligencia artificial de alto riesgo que normalmente no superaría el procedimiento de evaluación de conformidad mediante un procedimiento de emergencia.

Las unidades policiales podrán utilizar sistemas de identificación biométrica remota en tiempo real en espacios públicos con autorización en situaciones excepcionales y necesarias.

El uso de este tipo de sistemas de inteligencia artificial se limitará a situaciones como ataques terroristas, la prevención de amenazas existentes o previsibles, y la búsqueda de personas sospechosas de los delitos más graves. No obstante, se pondrá en marcha un mecanismo especial para garantizar la protección adecuada de los derechos fundamentales frente a posibles abusos de los sistemas de inteligencia artificial.

Se introducirán reglas especiales para los grandes sistemas capaces de realizar una amplia variedad de tareas diferentes, como la creación de video, texto, imágenes, traducción de idiomas, cálculos o escritura de código informático. Se garantizará que dichos sistemas de inteligencia artificial de propósito general cumplan con diversas obligaciones de transparencia antes de ser lanzados al mercado.

Dentro de la Comisión Europea, se establecerá una "Oficina de Inteligencia Artificial" encargada de supervisar los modelos avanzados de inteligencia artificial, contribuir al desarrollo de estándares y prácticas de prueba, y aplicar reglas comunes en todos los países miembros.

Un panel científico compuesto por expertos independientes asesorará a la Oficina de Inteligencia Artificial. La Junta de Inteligencia Artificial, que estará formada por representantes de los países miembros, trabajará como una plataforma de coordinación y órgano consultivo para la Comisión. Las multas por infracción de la ley de inteligencia artificial se calcularán basándose en el porcentaje de la facturación anual global de la empresa infractora en el ejercicio fiscal anterior o en cantidades predeterminadas, tomando la cifra más alta.

En caso de infracción de las aplicaciones de inteligencia artificial prohibidas, se impondrá una multa del 7% de la facturación de la empresa o 35 millones de euros; en caso de incumplimiento de las obligaciones, el 3% de la facturación o 15 millones de euros; y en caso de intercambio de datos erróneos, el 1,5% de la facturación o 7,5 millones de euros. Al imponer la sanción, se utilizará el valor que resulte más costoso para la empresa.

SE ESPERA QUE LAS EMPRESAS TECNOLÓGICAS TAMBIÉN CUMPLAN ESTAS REGLAS

La ley, que entrará en vigor tras ser aprobada formalmente por los países de la UE y el PE, comenzará a aplicarse 2 años después de su aprobación oficial. La Comisión Europea preparó y presentó a los países miembros y al PE la primera propuesta de regulación legal que incluía el marco de nuevas reglas sobre inteligencia artificial hace 2 años.

Esta propuesta introducía una serie de limitaciones y reglas de transparencia en el uso de los sistemas de inteligencia artificial. En la propuesta de ley de la Comisión, los sistemas de inteligencia artificial se dividían en 4 grupos principales: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo.

Con la nueva ley, diversas tecnologías de inteligencia artificial, como el modelo de inteligencia artificial Gemini de Google y ChatGPT, deberán cumplir con las nuevas reglas.