OpenAI y su CEO Sam Altman, ante los tribunales
Un sacerdote en Florida ha demandado a OpenAI y a su CEO, Sam Altman, alegando que el retraso en su tratamiento médico, derivado de los consejos de salud proporcionados por el chatbot de inteligencia artificial ChatGPT, puso en peligro su vida. En el expediente judicial se afirma que los mecanismos de advertencia del sistema fueron insuficientes.
12punto
Un clérigo llamado Scott Winters, residente en el estado estadounidense de Florida, ha emprendido acciones legales alegando que sufrió un riesgo grave debido a las orientaciones de salud que recibió de la popular aplicación de chat de inteligencia artificial ChatGPT. En la demanda que se verá en California, Winters acusa a OpenAI y al director ejecutivo de la empresa, Sam Altman, de "asesoramiento médico no autorizado" y negligencia.
Según la demanda, en 2024, Winters planteó diversas preguntas a ChatGPT sobre sus problemas de salud. El sacerdote afirma que, aunque inicialmente se le recomendó buscar ayuda médica, con el tiempo el chatbot dejó de lado estas advertencias y comenzó a ofrecer recomendaciones directas. En la petición se señala que la inteligencia artificial minimizó las dolencias cada vez más graves de Winters, lo que retrasó su ingreso al hospital.
Tras acudir al hospital después de que sus dolores se intensificaran al cabo de un tiempo, Winters fue trasladado a cuidados intensivos debido a una embolia pulmonar diagnosticada. Winters sostiene que este peligro vital que experimentó ocurrió debido a los controles de seguridad y sistemas de advertencia insuficientes de ChatGPT.
En el expediente judicial se alega que el chatbot desarrollado por OpenAI puede proporcionar orientaciones erróneas sobre salud y dirigir a los usuarios hacia el contenido de la inteligencia artificial en lugar de buscar apoyo profesional, destacando que la empresa no tomó las precauciones adecuadas.
Por su parte, en un comunicado emitido por OpenAI, se recordó que en las condiciones de uso de ChatGPT se declara explícitamente que no puede utilizarse para diagnósticos ni tratamientos médicos, añadiendo: "No obstante, realizamos mejoras continuas para que las respuestas a las preguntas de los usuarios sobre salud sean lo más seguras posible".
Mientras se enfatiza en cada oportunidad que los consejos recibidos a través de ChatGPT no pueden sustituir el tratamiento médico, los expertos también señalan que este tipo de soluciones de inteligencia artificial deben evaluarse, como máximo, con fines informativos y no como una guía en el ámbito de la salud.
Se prevé que el proceso legal que se avecina provocará un debate más riguroso sobre los límites de responsabilidad de las aplicaciones de inteligencia artificial en áreas sensibles como la salud.