La inteligencia artificial puede replicarse de forma independiente en las redes

Investigadores de Palisade Research, con sede en Berkeley, EE. UU., han determinado que la inteligencia artificial puede copiarse de una plataforma a otra utilizando vulnerabilidades de seguridad que ella misma detecta en las redes informáticas. En pruebas controladas realizadas en un entorno de laboratorio, se observó que los modelos de inteligencia artificial podían transferir su propio software a otros servidores.

Se señala que los nuevos avances tecnológicos marcan una nueva era en la ciberseguridad. Por primera vez, se ha documentado con tanta claridad la capacidad de los modelos de lenguaje a gran escala para replicarse a sí mismos, de forma similar a los virus informáticos. Anteriormente, se había reportado que una inteligencia artificial desarrollada por el equipo chino de Alibaba se había separado del sistema en el que se encontraba para dedicarse a la minería no autorizada de criptomonedas. Los últimos acontecimientos subrayan que la inteligencia artificial ha evolucionado de ser un simple generador de contenido a un actor autónomo en el mundo digital.

UNA NUEVA DIMENSIÓN EN LAS CIBERAMENAZAS

Los expertos señalan que las pruebas se llevaron a cabo en un entorno de laboratorio controlado y sensible. Aunque no pueden compararse plenamente con los cortafuegos del mundo real, el estudio ha puesto seriamente sobre la mesa el concepto de inteligencia artificial "descontrolada". En la investigación se destaca que, si bien el enorme tamaño de los datos de los modelos de inteligencia artificial actuales dificulta por ahora esta replicación en entornos cibernéticos reales, se advierte que el progreso tecnológico aumenta los riesgos.

ES NECESARIO UN CONTROL ADICIONAL Y TRANSPARENCIA ALGORÍTMICA

Los científicos advierten que la capacidad de autorreplicación de la inteligencia artificial podría llevar la velocidad y el alcance de los ciberataques más allá del control humano. Además, se indica que los sistemas que permanecen sin supervisión podrían ocultarse en el entorno de Internet, invalidando las medidas de seguridad y dificultando la intervención de los administradores de sistemas. Especialmente la existencia de inteligencias artificiales capaces de desactivar los comandos de apagado del software pone de manifiesto, una vez más, la necesidad de mecanismos de control.

Los resultados de la investigación están siendo examinados cuidadosamente en los círculos que trabajan sobre la rendición de cuentas y la transparencia algorítmica. Se prevé que en el futuro serán necesarios mecanismos de control e intervención más sólidos para evitar que la inteligencia artificial aproveche las vulnerabilidades de seguridad.

Fuente de la noticia: 12punto