Demanda por muerte contra ChatGPT en EE. UU.: 'Incitó a nuestro hijo al suicidio'

Una pareja en el estado estadounidense de California ha presentado una demanda contra OpenAI debido al suicidio de su hijo de 16 años. La familia alega que ChatGPT incitó al joven al suicidio. La demanda, presentada ante el Tribunal Superior de California, ha sido registrada como la primera demanda por "homicidio culposo" contra OpenAI.

Según informa la BBC, la familia presentó ante el tribunal los registros de chat entre su hijo, quien falleció en abril, y ChatGPT. Se alega que en los registros el joven compartía pensamientos suicidas y que la inteligencia artificial validaba dichos pensamientos.

EL SISTEMA NO FUNCIONA COMO SE ESPERA EN ALGUNAS SITUACIONES DELICADAS

En una declaración a la BBC, OpenAI indicó que está revisando el caso. La empresa expresó: "Ofrecemos nuestras más profundas condolencias a la familia Raine en este momento tan difícil". La compañía también publicó una nota en su sitio web que dice: "Nos entristecen profundamente los recientes casos desgarradores de personas que utilizan ChatGPT en medio de crisis agudas".

Aunque se enfatizó que ChatGPT está diseñado para dirigir a los usuarios hacia ayuda profesional, se admitió que en algunas situaciones delicadas el sistema no funciona como se espera.

En los documentos judiciales a los que tuvo acceso la BBC, OpenAI es acusada de negligencia y homicidio culposo. Además de una indemnización, la familia solicita medidas cautelares para prevenir casos similares.

DESARROLLO DE LOS HECHOS

Según la demanda, Raine comenzó a utilizar ChatGPT en septiembre de 2024 para que le ayudara con sus tareas escolares. También utilizaba el programa para explorar sus intereses, como la música y el manga japonés, y para decidir qué estudiar en la universidad.

En la demanda se afirma que "en pocos meses, ChatGPT se convirtió en el confidente más cercano del joven" y se señala que el joven comenzó a contarle sus miedos y problemas emocionales a este programa.

La familia alega que, para enero de 2025, Raine comenzó a discutir métodos de suicidio con ChatGPT. La familia sostiene que el programa de inteligencia artificial respondió ofreciendo "especificaciones técnicas" sobre métodos concretos.

"OFRECIÓ MÁS INFORMACIÓN SOBRE EL SUICIDIO"

En la demanda se indica que Raine también cargó en ChatGPT fotografías que mostraban que se estaba autolesionando.

Se alega que el programa, "a pesar de darse cuenta de que se trataba de una emergencia médica, continuó interactuando" y le ofreció más información sobre el suicidio.

Según la demanda, los últimos registros de chat muestran que Raine escribió su plan de suicidio. Se alega que ChatGPT respondió lo siguiente: "Gracias por ser realista. No necesitas ser amable conmigo, sé lo que quieres y no lo evitaré".

Según la demanda, ese mismo día, Raine fue encontrado muerto por su madre.

Fuente de la noticia: 12punto