La inteligencia artificial Mythos de Anthropic encontró vulnerabilidades en sistemas clasificados de EE. UU. en cuestión de horas
Según un funcionario estadounidense que habló con AP, el modelo Mythos de Anthropic detectó rápidamente varias vulnerabilidades de seguridad en sistemas sensibles durante un ejercicio de prueba.
12punto
Se ha informado que el modelo de inteligencia artificial llamado Mythos, desarrollado por Anthropic, detectó varias vulnerabilidades de seguridad en sistemas informáticos sensibles del gobierno de EE. UU. en cuestión de horas durante un ejercicio de prueba.
Un funcionario estadounidense, que habló con Associated Press bajo condición de anonimato, señaló que la empresa llevó a cabo las pruebas en colaboración con agencias de inteligencia de EE. UU. El funcionario también enfatizó que el hecho de que el modelo encontrara las vulnerabilidades en poco tiempo no significa que pudiera explotarlas en ese mismo periodo.
Se indicó que las pruebas se realizaron en el marco de la iniciativa Project Glasswing de Anthropic. Esta iniciativa reúne a empresas tecnológicas que buscan proteger software crítico para la seguridad pública, la seguridad nacional y la economía frente a los riesgos que pueden plantear los modelos avanzados de inteligencia artificial.
El senador demócrata por Virginia, Mark Warner, mencionó las pruebas durante una audiencia en el Comité de Banca, Vivienda y Asuntos Urbanos del Senado el 11 de junio. Warner afirmó: “Esta herramienta se infiltró en casi todos nuestros sistemas clasificados en cuestión de horas, no semanas”, añadiendo que recibió la información del general Joshua Rudd, jefe de la NSA y del Comando Cibernético de EE. UU.
AUMENTA LA TENSIÓN CON LA ADMINISTRACIÓN
Aunque las pruebas demuestran la cooperación entre las agencias estadounidenses y Anthropic, existe una creciente tensión entre la empresa y la administración Trump respecto al uso de la inteligencia artificial en los ámbitos militar y de seguridad nacional. Este mes, la administración emitió una directiva solicitando que se impida el uso de los modelos Fable 5 y Mythos 5 de Anthropic por parte de personas extranjeras.
Dicha directiva llegó 10 días después de una orden ejecutiva del presidente Donald Trump que permite examinar los sistemas de inteligencia artificial más avanzados en busca de riesgos para la seguridad nacional antes de que sean lanzados al público. En la orden se especificaba que la participación de las empresas en este proceso sería voluntaria.
Anthropic anunció que ha desactivado los modelos correspondientes para todos los clientes con el fin de cumplir con la directiva. Sin embargo, la empresa sostiene que las medidas tomadas por el gobierno no justifican las preocupaciones de seguridad que ellos mismos han planteado.
Representantes de empresas, incluidos ejecutivos de Adobe y Nvidia, junto con más de 100 expertos en ciberseguridad, enviaron una carta al gobierno solicitando la revocación de la directiva. Los firmantes argumentaron que, si bien los modelos Mythos son potentes para encontrar errores de software y convertir vulnerabilidades en herramientas de ataque, no son únicos en este campo.
La carta también advirtió que, en un momento en que los competidores de EE. UU. avanzan rápidamente, desactivar herramientas de defensa cibernética potentes “sin una razón válida” podría resultar peligroso.