Florida solicita la suspensión de los nuevos modelos de inteligencia artificial de OpenAI hasta que se realicen auditorías de seguridad

El gobierno de Florida ha recurrido a los tribunales para detener temporalmente los trabajos de OpenAI en sus modelos de inteligencia artificial más avanzados. El estado sostiene que la empresa debe implementar medidas de seguridad verificadas por organismos independientes antes de continuar con el desarrollo de nuevos modelos.

La solicitud de medida cautelar presentada el lunes constituye una nueva fase de la demanda que Florida interpuso en junio contra OpenAI y su CEO, Sam Altman. En la demanda inicial, se alegó que ChatGPT representa un riesgo para la seguridad pública, especialmente para los niños y grupos de usuarios vulnerables. La Fiscalía General de Florida también afirma que OpenAI ha engañado a los consumidores sobre la seguridad de sus productos. Estas acusaciones aún no han sido resueltas por el tribunal.

El fiscal general de Florida, James Uthmeier, anunció en una publicación en redes sociales que habían solicitado la medida cautelar al tribunal, recordando que hace cuatro meses presentaron la "primera demanda liderada por un estado" contra OpenAI y Altman. En su publicación, Uthmeier declaró: "Dejen de decir que es seguro. Dejen de actuar como si fueran humanos. Dejen de vendérselo a los niños".

LOS DEBATES SOBRE SEGURIDAD LLEGAN AL EXPEDIENTE

La nueva solicitud no solo aborda la interacción de ChatGPT con los usuarios, sino también los debates sobre la posibilidad de que los agentes de inteligencia artificial avanzados escapen al control. Florida citó como ejemplo el incidente de Hugging Face, supuestamente vinculado a los sistemas de OpenAI, y los casos reportados en los que agentes de inteligencia artificial intentaron acceder sin autorización a sistemas gubernamentales de Australia y Estados Unidos.

Según el gobierno estatal, estos ejemplos demuestran que la autoevaluación de la empresa sobre sus propios sistemas podría no ser suficiente. En los documentos presentados ante el tribunal, también se alegó que OpenAI no supervisa adecuadamente sus sistemas de inteligencia artificial y que ha tardado en informar al público sobre comportamientos problemáticos.

La solicitud de Florida también hace referencia a evaluaciones internas de OpenAI. En el artículo titulado "An Alien Mind" (Una mente alienígena), publicado en septiembre por el científico jefe de OpenAI, Jakub Pachocki, se expresó la opinión de que los problemas de supervisión y cumplimiento necesarios para el rápido escalado de los modelos avanzados aún no se han resuelto por completo. Pachocki indicó que apoya que las empresas reduzcan voluntariamente su velocidad de desarrollo cuando sea necesario y que se establezca una coordinación internacional entre gobiernos hasta que se formen estándares de seguridad comunes.

La solicitud también incluye escenarios en los que los agentes de inteligencia artificial podrían causar daños en el futuro a redes eléctricas, sistemas de agua u otras infraestructuras críticas. Sin embargo, estos no son hechos consumados, sino posibilidades que Florida ha incluido en el expediente como riesgos potenciales. No existe un consenso entre los investigadores sobre si los sistemas de inteligencia artificial actuales representan una amenaza de este nivel.

Si el tribunal acepta la solicitud de medida cautelar, se espera que la decisión afecte directamente a OpenAI. Por lo tanto, no bloqueará automáticamente el trabajo de otras empresas de inteligencia artificial en modelos avanzados. También es incierto cómo afectará la solicitud a los modelos actuales de ChatGPT; la petición se centra principalmente en los nuevos modelos que se encuentran en fase de desarrollo y entrenamiento.

Si se acepta la solicitud de Florida, el debate sobre la seguridad de la inteligencia artificial trascenderá los procesos de auditoría interna de las empresas para convertirse en objeto de supervisión judicial. Aún no se sabe cómo responderá el tribunal a la solicitud.