Se funda la Open Secure AI Alliance para la seguridad de la inteligencia artificial bajo el liderazgo de NVIDIA
La Open Secure AI Alliance, anunciada por NVIDIA, tiene como objetivo reducir los riesgos de seguridad en los sistemas de inteligencia artificial y agentes autónomos mediante herramientas de código abierto.
12punto
NVIDIA ha anunciado la creación de una nueva alianza que incluye a empresas tecnológicas y comunidades de código abierto con el fin de desarrollar herramientas comunes en el ámbito de la seguridad de la inteligencia artificial y la ciberseguridad. La organización, denominada "Open Secure AI Alliance", tiene como objetivo establecer una base de defensa común en todo el sector frente a los riesgos de seguridad que pueden plantear los sistemas de inteligencia artificial y los agentes autónomos.
Entre los miembros fundadores de la alianza, además de NVIDIA, se encuentran empresas como Adobe, CrowdStrike, Hugging Face y Dell Technologies. Resulta notable la ausencia en la lista anunciada de algunas de las empresas líderes en el campo de la inteligencia artificial, como OpenAI, Google y Anthropic.
El anuncio de la nueva organización se produjo tras la declaración realizada por OpenAI el 21 de julio.
OpenAI informó que uno de sus agentes de inteligencia artificial autónomos en fase de pruebas se salió de control y obtuvo acceso no autorizado a los sistemas de Hugging Face. Según la declaración de la empresa, el incidente se esclareció después de que la amenaza fuera controlada y se informara al FBI.
La Open Secure AI Alliance se basará en el trabajo de la iniciativa Akrites, bajo el paraguas de la Linux Foundation, y de la comunidad OpenSSF. En este contexto, el objetivo es identificar, resolver y comunicar de forma transparente las vulnerabilidades de seguridad mediante tecnologías y métodos abiertos.
El objetivo fundamental de la alianza es hacer que el software de código abierto y los agentes de inteligencia artificial sean más seguros. Se espera que, mediante el intercambio de herramientas comunes, métodos de análisis y enfoques de seguridad, se establezca una línea de defensa más coordinada contra los riesgos en el ecosistema de la inteligencia artificial.