Decisión sobre 'inteligencia artificial' de los países de la UE: Acuerdo sobre la nueva ley

El Consejo de la UE ha anunciado que se ha alcanzado un consenso sobre la "Ley de Inteligencia Artificial", negociada entre los Estados miembros y el Parlamento Europeo (PE), que introducirá las primeras normas integrales del mundo en materia de inteligencia artificial. Según este acuerdo, los sistemas de inteligencia artificial que se utilicen en los países europeos deberán ser seguros y respetar los derechos fundamentales y los valores de la Unión.

OBLIGACIONES DE TRANSPARENCIA

Según la información publicada en BirGün; los sistemas de inteligencia artificial se regularán con un enfoque "basado en el riesgo" según su potencial para causar daños a la sociedad. Se impondrán normas más estrictas a los sistemas de inteligencia artificial de alto riesgo. Se establecerán criterios claros para distinguir la inteligencia artificial de los sistemas de software simples. Se garantizará que la inteligencia artificial no afecte, en ningún caso, las competencias de los Estados miembros en materia de seguridad nacional ni a ninguna institución encargada de este ámbito. La ley de inteligencia artificial no se aplicará únicamente a los sistemas utilizados con fines militares o de defensa. Los sistemas de inteligencia artificial que presenten un riesgo limitado deberán informar claramente a los usuarios de que el contenido ha sido generado por inteligencia artificial para que puedan tomar decisiones informadas. Estos sistemas estarán sujetos a obligaciones de transparencia leves.

LIMITACIÓN DE USO

Se permitirán diversos sistemas de inteligencia artificial de alto riesgo. Sin embargo, el acceso de estos sistemas al mercado de la UE estará sujeto a una serie de normas y obligaciones. Algunos usos de la inteligencia artificial se considerarán de riesgo inaceptable y dichos sistemas serán prohibidos en la UE. La manipulación del comportamiento cognitivo, la obtención indiscriminada de imágenes faciales de Internet o de sistemas de cámaras cerradas, el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, la puntuación social y la clasificación biométrica para extraer datos sensibles como la orientación sexual o las creencias religiosas entrarán en el ámbito de la prohibición. Las fuerzas del orden podrán utilizar la inteligencia artificial en sus actividades. Podrán poner en marcha una herramienta de inteligencia artificial de alto riesgo que normalmente no superaría el procedimiento de evaluación de conformidad mediante un procedimiento de emergencia. En casos excepcionales y necesarios, las unidades policiales podrán utilizar sistemas de identificación biométrica remota en tiempo real en espacios públicos previa autorización.

El uso de este tipo de sistemas de inteligencia artificial se limitará a situaciones como ataques terroristas, la prevención de amenazas existentes o previsibles y la búsqueda de personas sospechosas de haber cometido los delitos más graves. Asimismo, se pondrá en marcha un mecanismo especial para garantizar la protección suficiente de los derechos fundamentales frente a posibles abusos de los sistemas de inteligencia artificial. Se introducirán normas especiales para los grandes sistemas capaces de realizar una amplia variedad de tareas diferentes, como la creación de vídeo, texto, imágenes, la traducción a otros idiomas, el cálculo o la escritura de código informático. Se garantizará que dichos sistemas de inteligencia artificial de propósito general cumplan con diversas obligaciones de transparencia antes de ser comercializados.

DECISIÓN SOBRE LA OFICINA DE INTELIGENCIA ARTIFICIAL

Se establecerá una "Oficina de Inteligencia Artificial" dentro de la Comisión Europea, encargada de supervisar los modelos avanzados de inteligencia artificial, contribuir al desarrollo de estándares y prácticas de prueba, y aplicar normas comunes en todos los Estados miembros. Un panel científico compuesto por expertos independientes asesorará a la Oficina de Inteligencia Artificial. La Junta de Inteligencia Artificial, formada por representantes de los Estados miembros, trabajará como plataforma de coordinación y órgano consultivo para la Comisión. Las multas por infracción de la ley de inteligencia artificial se calcularán basándose en el porcentaje de la facturación anual global de la empresa infractora en el ejercicio fiscal anterior o en cantidades predeterminadas, tomando la cifra más alta. En caso de infracción de las aplicaciones de inteligencia artificial prohibidas, se impondrá una multa del 7% de la facturación de la empresa o 35 millones de euros; en caso de incumplimiento de las obligaciones, del 3% de la facturación o 15 millones de euros; y en caso de intercambio de datos erróneos, del 1,5% de la facturación o 7,5 millones de euros. Al imponer la sanción, se utilizará el valor que resulte más costoso para la empresa. La ley entrará en vigor tras su aprobación formal por los países de la UE y el PE, y su aplicación comenzará 2 años después de la aprobación oficial.

Hace 2 años, la Comisión Europea preparó la primera propuesta de regulación legal que incluía el marco de nuevas normas sobre inteligencia artificial y la presentó a los Estados miembros y al PE.

Esta propuesta introducía una serie de limitaciones y normas de transparencia en el uso de los sistemas de inteligencia artificial. En la propuesta de ley de la Comisión, los sistemas de inteligencia artificial se dividían en 4 grupos principales: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo.

Con la nueva ley, diversas tecnologías de inteligencia artificial, como el modelo de inteligencia artificial Gemini de Google y ChatGPT, deberán cumplir con las nuevas normas.