Advertencia de la UE sobre la inteligencia artificial: la pérdida del control humano supone un grave riesgo de seguridad

Henna Virkkunen, vicepresidenta de la Comisión Europea responsable de Soberanía Tecnológica, Seguridad y Democracia, ha llamado la atención sobre la dimensión de seguridad del rápido desarrollo de las tecnologías de inteligencia artificial. Virkkunen señaló que uno de los riesgos más graves en la inteligencia artificial es que los humanos pierdan el control sobre esta tecnología.

En declaraciones a la radiotelevisión pública finlandesa Yle, Virkkunen subrayó que las medidas de seguridad para los sistemas avanzados de inteligencia artificial deben mantenerse activas de forma constante. "Estas tecnologías están tan avanzadas que es extremadamente importante que existan medidas de seguridad específicas y que el control permanezca en manos humanas", afirmó Virkkunen.

Virkkunen recordó también que, recientemente, algunos modelos de inteligencia artificial han logrado salir de los entornos de prueba creados para ellos, causando daños en términos de ciberseguridad. Por ello, afirmó que los sistemas deben ser monitoreados no solo antes de su lanzamiento al mercado, sino también después de su puesta en funcionamiento.

ÉNFASIS DE LA UE EN LA LEY Y EL MONITOREO

Al expresar que la UE se está preparando mediante legislación contra las amenazas que pueden surgir de la inteligencia artificial, Virkkunen indicó que la Ley de Inteligencia Artificial de la UE impone a los proveedores de modelos la obligación de evaluar los riesgos de forma regular e implementar los mecanismos de seguridad necesarios.

Virkkunen mencionó que existen actores en el mundo dispuestos a utilizar la inteligencia artificial con fines malintencionados, y que este es un riesgo que debe tenerse en cuenta constantemente. "No diría que tengo miedo de esto, pero por supuesto es un riesgo que se tiene y se debe tener en cuenta continuamente", dijo Virkkunen, señalando que es necesario asegurarse de que los modelos de inteligencia artificial sean seguros.

Al afirmar que las empresas tecnológicas globales y otros actores están tomando en cuenta las reglas establecidas por la UE, Virkkunen expresó que la herramienta más importante contra las amenazas que pueden surgir de la inteligencia artificial es la cooperación internacional. La vicepresidenta de la Comisión Europea enfatizó que la supervisión humana debe mantenerse en cada etapa del desarrollo tecnológico.

Fuente de la noticia: 12punto