Anthropic, Google y OpenAI ante la posibilidad de un organismo de control conjunto para la IA

Mientras continúan los debates en Estados Unidos sobre la velocidad de desarrollo y la supervisión de los modelos de inteligencia artificial, se ha afirmado que ha surgido la opción de un nuevo organismo de estándares entre las empresas líderes del sector.

Según una noticia de CNN basada en fuentes que no fueron identificadas, Anthropic, Google y OpenAI están evaluando la posibilidad de crear un organismo liderado por empresas con el fin de establecer estándares industriales para los modelos de inteligencia artificial.

Las fuentes indicaron que las conversaciones cobraron impulso no tanto por la renuncia del investigador de Anthropic, Jacob Coxon, sino tras el artículo escrito en julio por el cofundador de Google DeepMind, Demis Hassabis, en el que proponía un organismo de estándares de inteligencia artificial bajo liderazgo estadounidense.

El modelo propuesto por Hassabis preveía que el organismo operara bajo supervisión gubernamental y en colaboración entre el sector público y privado, y que los modelos avanzados de inteligencia artificial fueran sometidos a pruebas antes de ser lanzados al mercado.

DEBATE SOBRE SEGURIDAD Y VELOCIDAD

En el centro del debate se encuentra la preocupación de que el desarrollo cada vez más rápido de los sistemas de inteligencia artificial pueda superar la capacidad de las empresas para comprender, controlar y supervisar los riesgos de seguridad de estos sistemas.

El director ejecutivo de Anthropic, Dario Amodei, argumentó en un artículo publicado el 12 de septiembre que la velocidad de desarrollo de la tecnología de inteligencia artificial debería ralentizarse para dar más espacio a la supervisión. Amodei expresó que las empresas deberían unirse para establecer estándares de seguridad y crear ciertas reglas sobre la velocidad de lanzamiento de los modelos al mercado.

La iniciativa de Amodei recibió apoyo del mundo tecnológico. Elon Musk, en una publicación en su cuenta de X, afirmó que "Dario tiene razón". El director ejecutivo de OpenAI, Sam Altman, también señaló que estaba de acuerdo con la propuesta y que daría un paso similar en cuanto a la evaluación independiente.

Las fuentes que hablaron con CNN afirmaron que estas conversaciones continúan y seguirán adelante, independientemente de si la administración del presidente estadounidense Donald Trump participa en el proceso o no. Sin embargo, también se señaló que no todos los líderes del sector tecnológico están de acuerdo sobre cómo debería supervisarse la inteligencia artificial.

Amodei también defendió que la administración estadounidense debería fortalecer las restricciones a la exportación de chips a China y evitar que los laboratorios de inteligencia artificial en China obtengan datos de los modelos de las empresas estadounidenses mediante el método de "destilación". En una entrevista con CBS News, el CEO de Anthropic expresó que el dilema más difícil en su propuesta de ralentizar la inteligencia artificial es la posibilidad de que China y otros países competidores no actúen en la misma dirección.

Fuente de la noticia: 12punto