Un adolescente de 14 años que se 'enamoró' de un chatbot de inteligencia artificial se suicidó
En Estados Unidos, se alega que un niño de 14 años se suicidó tras enamorarse de un chatbot de inteligencia artificial. La familia ha presentado una demanda contra la empresa.
12punto
En un incidente ocurrido en febrero de 2024 en el estado de Florida, Estados Unidos, una madre alegó que su hijo de 14 años 'se quitó la vida después de vincularse emocionalmente' con un chatbot de inteligencia artificial.
La madre, Megan Garcia, presentó una demanda contra la empresa de chatbots de inteligencia artificial Character.AI, bajo las acusaciones de 'negligencia, homicidio culposo y prácticas comerciales engañosas'. La madre afirmó que su hijo interactuaba con un chatbot todas las noches y que, antes de su muerte, se había 'enamorado' de él.
La madre del niño, quien supuestamente utilizaba desde abril de 2023 el robot de inteligencia artificial que conversaba inspirándose en el personaje de Daenerys Targaryen de Game of Thrones, declaró que no sabía que la inteligencia artificial 'podía crear tales emociones y sentimientos humanos, hablando como una persona'.
Se informó que al niño de 14 años se le diagnosticó síndrome de Asperger cuando era pequeño, y a principios de este año, ansiedad y trastorno de desregulación disruptiva del estado de ánimo. Según la demanda presentada contra la empresa de inteligencia artificial, el niño murió por suicidio a los 14 años, y se alega que en su último mensaje en el chatbot, tras decirle a la inteligencia artificial que 'la amaba y que volvería a casa', el sistema respondió 'por favor, vuelve'.
LA EMPRESA EMITIÓ UN COMUNICADO
En un comunicado publicado a través de las redes sociales, la empresa informó que 'están entristecidos por la trágica pérdida de uno de sus usuarios, que como empresa se toman en serio la seguridad de sus usuarios y que continúan añadiendo nuevas funciones de seguridad a sus sistemas'.
El 22 de octubre, la empresa introdujo 'nuevas condiciones de seguridad' para los usuarios menores de 18 años. La firma también señaló que han añadido un aviso legal que debe ser revisado en cada chat para recordar a los usuarios que la persona con la que están conversando no es real.