Advertencia de 'superinteligencia' de Paul Christiano, nuevo miembro de la junta de OpenAI: La pérdida de control podría ser fatal

Paul Christiano, conocido por su trabajo en el campo de la seguridad de la inteligencia artificial, ha sido nombrado miembro de la junta directiva de la fundación sin fines de lucro de OpenAI. Mientras asume su cargo en la fundación que supervisa la estructura comercial desarrolladora de ChatGPT, Christiano también continuará desempeñándose como asesor técnico sénior en el Centro de Estándares e Innovación de Inteligencia Artificial (CAISI) del Departamento de Comercio de los Estados Unidos.

Según informa el Financial Times, el nombramiento se considera parte de un esfuerzo por aumentar la experiencia de los laboratorios de inteligencia artificial en temas de seguridad, estándares y regulación. En el sector, la supervisión de modelos especialmente potentes, los riesgos de ciberseguridad y los llamados a la intervención de las autoridades públicas han sido temas de mayor debate recientemente.

En su evaluación sobre su nuevo cargo, Christiano señaló que el desarrollo de sistemas de inteligencia artificial muy potentes sin una coordinación más estricta a nivel nacional e internacional podría generar riesgos graves.

Si desarrollamos una superinteligencia sin una coordinación más fuerte, preveo que perderemos el control sobre ella por completo. Si esto sucede, la mayoría de las personas podrían perder la vida.

Christiano enfatizó que, para mitigar esta amenaza, es necesaria la cooperación tanto a nivel nacional como internacional. Argumentó que, en todo el sector, incluida OpenAI, los esfuerzos actuales no son suficientes para reducir el riesgo de pérdida de control a un nivel aceptable.

Advertencias similares fueron planteadas anteriormente por el premio Nobel Geoffrey Hinton, conocido como el "padrino" de la inteligencia artificial. Hinton había expresado la opinión de que, hoy por hoy, no es posible construir de manera segura, a través de empresas, sistemas que superen claramente la inteligencia humana.

Fuente de la noticia: 12punto