Destacada medida de seguridad de OpenAI: ChatGPT avisará a los allegados en momentos de crisis

Este nuevo paso, desarrollado para que los usuarios puedan encontrar apoyo en el entorno digital, permite que ChatGPT reaccione ante crisis emocionales. La función, conocida como "Persona de confianza", se activa cuando la inteligencia artificial detecta peligros graves en las conversaciones con el usuario, como tendencias autolesivas o pensamientos suicidas. Cuando se detectan tales riesgos, se informa inmediatamente a un allegado designado por el usuario, aumentando rápidamente la conciencia sobre la situación.

La aplicación queda totalmente a elección del usuario. Los mayores de 18 años pueden añadir fácilmente a un familiar o a una persona de apoyo a su agenda desde la configuración de la cuenta de ChatGPT. Para que el sistema funcione, es requisito que la persona añadida confirme la invitación que se le enviará en un plazo de siete días. Los usuarios pueden cambiar a esta persona o desactivar la función en cualquier momento. Del mismo modo, las personas añadidas también pueden darse de baja del sistema cuando lo deseen. Cuando se detecta un riesgo de seguridad, ChatGPT advierte primero al usuario para que se ponga en contacto con la persona que ha designado.

OpenAI subraya la importancia que el sistema otorga a la privacidad. Las notificaciones no incluyen en absoluto el contenido de los chats; solo se envía un mensaje de advertencia breve y básico sobre situaciones de riesgo. Cuando surge una posible señal de peligro, esta situación es examinada cuidadosamente primero por el equipo de seguridad especializado de OpenAI. Una vez que el riesgo detectado por la inteligencia artificial es evaluado manualmente, si es realmente crítico, se envía una notificación al allegado por correo electrónico, SMS o mensaje dentro de la aplicación.

El punto más llamativo de este sistema es que la inteligencia artificial no toma decisiones por sí sola y se introduce una supervisión profesional para evitar falsas alarmas. De este modo, no se producen violaciones de la privacidad y solo se moviliza al entorno cercano de los usuarios en situaciones de emergencia.

Fuente de la noticia: 12punto