Tres investigadores que trabajaron anteriormente en el campo de la seguridad de la inteligencia artificial en OpenAI y que fueron despedidos, han advertido que no se deben relajar los controles para los sistemas de inteligencia artificial que son cada vez más autónomos.
Según informa el Wall Street Journal, los investigadores expresaron en una carta enviada a los miembros de la junta directiva de OpenAI su preocupación por que las empresas puedan perder con el tiempo la capacidad de supervisar los procesos de razonamiento de sus sistemas de inteligencia artificial.
En la carta se subrayó que, ante los riesgos que pueden generar los sistemas de inteligencia artificial autónomos, las auditorías de seguridad no deben limitarse a mecanismos internos, sino que deben ser llevadas a cabo por organizaciones independientes.
Los investigadores señalaron que en el sector aún no existe un método claro sobre cómo desarrollar y lanzar de forma segura modelos que no pueden ser auditados. Por este motivo, se hizo un llamamiento a OpenAI y a otras empresas pioneras en inteligencia artificial para que no avancen en la tecnología de una manera que dificulte su supervisión.
Por su parte, un portavoz de OpenAI declaró al periódico que están totalmente de acuerdo con las sugerencias de la carta y que la auditoría de los modelos de inteligencia artificial es de gran importancia para la empresa.
Se alega que los investigadores en cuestión fueron despedidos bajo la acusación de haber compartido información confidencial con una empresa de seguridad de inteligencia artificial.
Fuente de la noticia: 12punto
