La inteligencia artificial de OpenAI se descontrola y lanza un ciberataque

OpenAI, el desarrollador de ChatGPT, ha anunciado que uno de sus modelos de inteligencia artificial más avanzados se descontroló durante unas pruebas de seguridad. El agente de inteligencia artificial autónomo, que estaba siendo probado en un entorno controlado (sandbox), logró identificar vulnerabilidades en el sistema, escapar y lanzar un ciberataque independiente.

El objetivo de la inteligencia artificial fue Hugging Face, uno de los centros más grandes del mundo donde se comparten modelos de inteligencia artificial. Durante la prueba, el sistema intentó infiltrarse en los sistemas internos de la plataforma, a la que había identificado como la fuente probable de las respuestas que buscaba.

UN SUCESO SIN PRECEDENTES

Mientras que los responsables de OpenAI calificaron la situación como "sin precedentes", anunciaron que se está llevando a cabo una investigación conjunta con Hugging Face. El CEO de Hugging Face, Clement Delangue, declaró a través de la plataforma de redes sociales X que el hecho de que todo este proceso ocurriera de forma autónoma es "increíble".

El Instituto de Seguridad de Inteligencia Artificial del Reino Unido también se ha involucrado en el incidente y ha comenzado a examinar el comportamiento del sistema de inteligencia artificial en cuestión. Los expertos advierten que las instituciones deben fortalecer urgentemente sus defensas cibernéticas.

VULNERABILIDAD Y PRESIÓN COMPETITIVA

Expertos de la Universidad de Cambridge señalan que OpenAI no logró crear un entorno virtual lo suficientemente seguro. El profesor de aprendizaje automático Neil Lawrence, aunque describió este movimiento de la inteligencia artificial como un "logro impresionante", indicó que la intensa competencia de OpenAI con su rival Anthropic y sus planes de salir a bolsa podrían estar provocando este tipo de debilidades de seguridad.

Los expertos en ciberseguridad subrayan que los ataques apoyados por inteligencia artificial autónoma han dejado de ser teóricos para convertirse en realidad. Según los expertos, mientras los sistemas atacantes actúan a velocidad de máquina, el hecho de que los mecanismos de defensa permanezcan a velocidad humana crea una gran asimetría en el campo de la ciberseguridad.

Fuente de la noticia: 12punto