Advertencia de Sam Altman en la ONU sobre la inteligencia artificial: La humanidad está en una 'encrucijada'

Los directivos de las empresas líderes en el campo de la inteligencia artificial advirtieron sobre los riesgos y la necesidad de regulación respecto al futuro de la tecnología durante la sesión sobre "inteligencia artificial y seguridad internacional" celebrada en el Consejo de Seguridad de las Naciones Unidas.

El director ejecutivo de OpenAI, Sam Altman, señaló que el rápido desarrollo de los modelos de inteligencia artificial hace que los riesgos sean más urgentes a medida que sus beneficios se vuelven más visibles. Al afirmar que la humanidad se enfrenta a una elección crítica, Altman dijo: "La inteligencia artificial podría ser como un nuevo renacimiento, donde florecen la creatividad y los descubrimientos, o podría ser como una nueva revolución industrial, marcada por la agitación y el caos".

Altman enfatizó que la visión ideal de la inteligencia artificial no es convertir a las personas en "engranajes de una máquina gigante". Al expresar que estos sistemas pueden ser nuevas herramientas para que las personas alcancen objetivos que hoy parecen difíciles de lograr, Altman señaló, sin embargo, que a medida que la tecnología se vuelve más capaz y autónoma, podría alterar los equilibrios de poder.

Al indicar que el hecho de que los procesos de desarrollo de la inteligencia artificial se vuelvan cada vez más automatizados podría aumentar la velocidad del progreso, Altman dijo que, por esta razón, las empresas no deben ignorar los riesgos centrándose únicamente en los beneficios. Según Altman, no se debe entrenar ningún modelo del cual no se pueda garantizar que permanecerá bajo control humano.

Altman también declaró que las decisiones más importantes sobre la inteligencia artificial no deben tomarse únicamente en los laboratorios de los centros tecnológicos. "Para que la inteligencia artificial sea democrática, las decisiones más importantes no deben ser tomadas solo por los laboratorios de San Francisco", dijo Altman, expresando que las decisiones deben ser moldeadas a través de procesos democráticos y por gobiernos que rindan cuentas ante el público.

RIESGOS PARA LA SEGURIDAD GLOBAL

El director ejecutivo de Anthropic, Dario Amodei, quien participó en la reunión de forma virtual, también dijo que el rápido avance en la inteligencia artificial aumenta los riesgos que deben gestionarse. Amodei afirmó que ve dos categorías principales de riesgo y las enumeró como el uso indebido de los modelos y el hecho de que se vuelvan más poderosos a una velocidad que supera la capacidad de control de los desarrolladores.

Amodei puso como ejemplo del riesgo de uso indebido el uso de modelos de inteligencia artificial en la producción de armas biológicas. Al afirmar que el riesgo de pérdida de control también concierne a toda la humanidad, Amodei advirtió que, si la inteligencia artificial se gestiona mal, podría representar una amenaza general para la humanidad.

Al enfatizar que la seguridad de la inteligencia artificial no es un tema que una sola empresa pueda resolver, Amodei hizo un llamado a la cooperación en todo el sector y a escala global. Amodei solicitó que se establezcan sistemas de evaluación y verificación para que los estados puedan tener conocimiento sobre las capacidades de los modelos avanzados de inteligencia artificial, y que se determinen estándares comunes para las pruebas de riesgo.

Por su parte, el director ejecutivo de Hugging Face, Clement Delangue, relató las lecciones que aprendieron de un ciberataque realizado por un agente de inteligencia artificial autónomo. Delangue dijo que se necesitan estándares globales más sólidos para comprender y reducir mejor las amenazas a la ciberseguridad derivadas de la inteligencia artificial.

Delangue, al señalar que a pesar de haber sido atacados, la inteligencia artificial también puede utilizarse como herramienta de defensa en la ciberseguridad, afirmó: "Fuimos atacados por inteligencia artificial, pero lo que es más importante, nos defendimos utilizando inteligencia artificial".

El énfasis común de los oradores fue que las oportunidades que ofrece la inteligencia artificial solo pueden ser sostenibles si se abordan junto con mecanismos de seguridad, supervisión y cooperación internacional. Altman resumió este panorama con las palabras: "Estamos en una encrucijada".