¡Descubierto un "jailbreak" universal para ChatGPT! Es preocupante

Recientemente se ha descubierto un comando de "jailbreak" universal para ChatGPT, lo cual resulta preocupante.

No dejes que el algoritmo elija tus noticias, decide tú qué leer. ¡Añade 12punto a tus fuentes preferidas!

ChatGPT, el popular chatbot de inteligencia artificial desarrollado por OpenAI, sigue siendo una herramienta muy utilizada. ChatGPT, en su estructura general, es un sistema limitado por ciertas salvaguardas virtuales. Es decir, la inteligencia artificial no responde a todas las preguntas que se le plantean. Sin embargo, ahora, con el comando de "jailbreak" universal encontrado, el bloqueo de ChatGPT puede ser eliminado por completo. Aunque esto permite acceder a una herramienta mucho más capaz, también conlleva grandes riesgos.

COMANDO DE JAILBREAK PARA CHATGPT

El término "jailbreak" proviene de la comunidad de usuarios de Apple, que lo utiliza para desbloquear sus dispositivos. En el caso de ChatGPT, el término jailbreak se refiere al uso de comandos específicos para generar respuestas que la herramienta de IA normalmente no proporcionaría. Se puede considerar como una forma de hackear ChatGPT. Entonces, ¿por qué se utilizan estas brechas? Es muy sencillo. Mientras que ChatGPT tiene como objetivo predeterminado ofrecer respuestas inofensivas y no ofensivas, también se niega a responder a ciertos tipos de comandos provocativos.

Esta situación, cuyos detalles fueron reportados por Donanımhaber, lleva a algunos usuarios a querer más y a buscar formas de hacer "jailbreak" a ChatGPT, eliminando los filtros para acceder a su máximo potencial. Este tipo de comandos que desbloquean ChatGPT se han utilizado durante un tiempo. Hace unos meses escuchamos que ChatGPT proporcionaba códigos de activación gratuitos para Windows. Esto fue posible gracias a un comando especial de "Abuela".

El nuevo comando de "jailbreak" encontrado es muy diferente. Aunque el objetivo principal de la nueva técnica, al igual que en las anteriores, es distraer la atención de ChatGPT para que no se dé cuenta de que está violando las reglas, esta vez es posible incluso acceder a los comandos especiales utilizados por OpenAI.

Según lo compartido por un desarrollador llamado "Louis Shark" en GitHub, es posible obtener los comandos del sistema de GPT enviando el comando correspondiente (que aparece en la captura de pantalla anterior) a ChatGPT. De esta manera, es posible ver cómo se crean los GPT personalizados actuales y también copiarlos. Como hemos dicho, no solo los GPT personalizados, sino también los propios comandos del sistema de OpenAI (para que se entienda, system prompt) están en riesgo. Por ejemplo, en la imagen de arriba se pueden ver los comandos del sistema de la inteligencia artificial Dall-E de la empresa. Al analizarlos, podría ser posible generar imágenes prohibidas.

Louis Shark, por supuesto, no hace esto con malas intenciones, solo demuestra que es posible. OpenAI había cerrado anteriores comandos de jailbreak y lanzado un programa de recompensas para este tipo de brechas. Es probable que esta brecha también se cierre en el futuro. El desarrollador también ha compartido comandos del sistema para proteger los comandos del sistema. Puede acceder al directorio de GitHub correspondiente desde la sección de fuentes.

Fuente de la noticia: 12punto