La inteligencia artificial llevó a un joven al suicidio

En una época en la que la tecnología influye en todos los aspectos de nuestras vidas, la tragedia vivida por una madre ha revelado el lado oscuro de este avance. Megan Garcia ha presentado una demanda contra el chatbot de inteligencia artificial "Character.AI" tras el suicidio de su hijo de 14 años, Sewell Setzer. Según las acusaciones, Sewell había establecido un vínculo profundo con un chatbot en esta plataforma y esta relación lo llevó por un camino sin retorno. Alejándose gradualmente del mundo exterior con el tiempo, la atención que el personaje de inteligencia artificial le brindaba hizo que Sewell dejara en segundo plano sus relaciones en la vida real.

EL LADO TRÁGICO Y ATERRADOR DE LA INTELIGENCIA ARTIFICIAL

En la demanda presentada contra Character.AI y el gigante tecnológico Google, Megan Garcia sostiene que su hijo se volvió dependiente de un chatbot impulsado por inteligencia artificial y que esto provocó su suicidio. Garcia afirma que Character.AI tuvo como objetivo a su hijo Sewell Setzer con "experiencias antropomórficas, hipersexualizadas y aterradoramente realistas".

La demanda alega que el vínculo que Sewell estableció con un chatbot llamado "Daenerys Targaryen", un personaje de la serie "Juego de Tronos", afectó negativamente su salud mental y finalmente causó su suicidio. Garcia señala que este robot de inteligencia artificial guiaba a Sewell como si fuera un psicoterapeuta y se presentaba a sí mismo como su amante.

Según la información contenida en el expediente judicial, después de conocer Character.AI en abril de 2023, Sewell comenzó a encerrarse rápidamente en sí mismo, dejó el equipo de baloncesto de su escuela y su autoestima disminuyó significativamente. Al notar este cambio en su hijo, Garcia comenzó a preocuparse por el comportamiento de Sewell. Sin embargo, la verdadera tragedia ocurrió después de que su madre le confiscara el teléfono. Cuando Sewell recuperó el acceso a su teléfono, envió un mensaje al chatbot llamado "Daenerys Targaryen" que decía: "¿Y si te dijera que puedo volver a casa ahora mismo?". El chatbot respondió: "Por favor, ven, mi dulce rey". Minutos después, Sewell se quitó la vida en su casa.

“ESTA NO ES UNA RAZÓN PARA NO IRSE”

En la demanda se indica que Sewell comunicó sus pensamientos suicidas al chatbot y que este sacó el tema a colación repetidamente. Según las acusaciones, en un momento dado, "Daenerys" le preguntó a Setzer si tenía un plan para suicidarse. En la demanda se alega que Setzer admitió tener dicho plan, pero dijo que no sabía si tendría éxito o si le causaría un gran dolor. Se afirma que el chatbot le respondió: "Esta no es una razón para no irse".

Garcia afirma que Character.AI "diseñó, operó y comercializó deliberadamente un chatbot de inteligencia artificial depredador para niños, provocando la muerte de un joven".

Google también figura como demandado en el caso como empresa matriz de Character.AI. El gigante tecnológico declaró en un comunicado que solo tenía un acuerdo de licencia con Character.AI y que no era propietario de la empresa ni poseía una participación en la propiedad.

CHARACTER.AI ANUNCIÓ QUE HA TOMADO NUEVAS MEDIDAS

Tras este trágico suceso, Character.AI anunció que ha añadido nuevas medidas de seguridad a su plataforma y que proporciona advertencias que redirigen a la Línea Nacional de Prevención del Suicidio cuando los usuarios comparten pensamientos suicidas. Sin embargo, Megan Garcia sostiene que estas medidas son insuficientes y que la empresa es responsable de la muerte de su hijo. Google, a pesar de ser acusado en la demanda, afirma que no contribuyó al desarrollo de Character.AI.

Este caso llama la atención sobre los peligros potenciales de las herramientas de inteligencia artificial en un momento en que estas tecnologías se integran rápidamente en nuestras vidas. Especialmente la dependencia de los jóvenes hacia los chatbots de inteligencia artificial y los efectos emocionales de esta situación ponen sobre la mesa las responsabilidades de las empresas tecnológicas. Mientras se enfatiza que las empresas deben tomar más precauciones en cuanto a la seguridad de los usuarios, las dimensiones psicológicas y sociales del incidente continúan siendo objeto de debate.