El CEO de CrowdStrike, Kurtz, se opone a los llamados para frenar la IA: La solución es el control en tiempo de ejecución

El CEO de CrowdStrike, George Kurtz, se ha opuesto al debate sobre la necesidad de reducir la velocidad de desarrollo de los "modelos de frontera" en el campo de la inteligencia artificial. Kurtz afirmó que los modelos avanzados y de pesos abiertos ya son ampliamente accesibles y sostuvo que, a estas alturas, ralentizar las actividades de desarrollo no eliminará los riesgos de ciberseguridad existentes.

En declaraciones a la CNBC tras el llamamiento del CEO de Anthropic, Dario Amodei, a ralentizar los modelos de IA más potentes, Kurtz subrayó que los modelos con capacidades peligrosas ya circulan públicamente. Según Kurtz, quien describió la situación con la frase "el genio salió de la botella", la verdadera necesidad no es intentar detener los modelos, sino establecer sistemas de seguridad capaces de monitorear lo que hacen durante su uso real e intervenir cuando sea necesario.

El enfoque de Kurtz se centra en el debate sobre la seguridad, que se ha vuelto más crítico con la proliferación de agentes autónomos de inteligencia artificial. Si bien el CEO de CrowdStrike reconoce que estos sistemas pueden generar riesgos graves, sostiene que la solución no es una política de ralentización general, sino controles en tiempo de ejecución que limiten los permisos de los agentes, hagan visibles sus operaciones y bloqueen comportamientos maliciosos.

El debate surgió en un momento de gran actividad para las acciones tecnológicas. El hecho de que las acciones de CrowdStrike subieran de 206 dólares a más de 235 dólares el lunes también puso las evaluaciones de la empresa sobre inteligencia artificial y ciberseguridad en el centro del interés del mercado.

DOS ENFOQUES DISTINTOS EN EL DEBATE SOBRE SEGURIDAD

La postura de Kurtz coincide con el aumento de las preocupaciones de seguridad tras los recientes ataques relacionados con Hugging Face y RubyGems. Estos incidentes abrieron el debate no solo sobre el poder de los modelos de IA, sino también sobre qué permisos de acceso y procesamiento deberían otorgarse a los sistemas autónomos. En el mismo proceso, la publicación por parte de Microsoft de actualizaciones para 974 vulnerabilidades de seguridad, incluidas dos de día cero, como parte de su "Patch Tuesday", fue uno de los acontecimientos que demostró la magnitud de la presión en el lado de la defensa.

El CEO de CrowdStrike mantiene una línea similar a la de David Sacks en cuanto a que los agentes autónomos deben ser estrictamente controlados. Sin embargo, se muestra cauteloso ante las intervenciones estatales integrales. Según Kurtz, unas regulaciones demasiado estrictas podrían debilitar la competitividad de Estados Unidos frente a sus rivales globales. Por ello, considera que son más viables los modelos en los que los laboratorios de IA y las empresas de seguridad trabajan juntos, trasladando la supervisión al entorno de producción.

En este contexto, Kurtz puso como ejemplo la iniciativa Project Glasswing de Anthropic. El proyecto tiene como objetivo combinar las protecciones a nivel de laboratorio para el modelo Mythos de Anthropic con herramientas de monitoreo en tiempo de ejecución en el entorno de producción. De este modo, la seguridad no se limita a las restricciones en la fase de desarrollo del modelo; el monitoreo de sus comportamientos mientras el modelo opera en un entorno real también se convierte en parte de la defensa.

El llamamiento de Amodei también generó debate fuera del sector tecnológico. La administración Trump se opuso a reducir la velocidad de desarrollo de la IA, argumentando que esto podría poner a Estados Unidos en desventaja frente a China. Por su parte, China expresó la opinión de que un enfoque basado en el miedo y la competencia feroz dañaría la gobernanza global de la inteligencia artificial.

De este modo, el debate se configura en dos ejes principales: la propuesta de ralentizar el progreso antes de que aparezcan modelos más potentes, y el enfoque de aceptar que los modelos actuales ya son accesibles y orientar las inversiones en seguridad hacia la supervisión en tiempo real, el control de agentes y las herramientas de defensa. Kurtz considera que el segundo camino es más realista y viable.

Fuente de la noticia: 12punto