OpenAI anuncia el modo Ultrafast para ChatGPT, que promete respuestas hasta 14 veces más rápidas

OpenAI ha anunciado Ultrafast, una nueva capa de servicio que busca reducir los tiempos de respuesta en la experiencia de ChatGPT. El modo, desarrollado por la compañía para GPT-5.6 Sol, tiene como objetivo ofrecer una generación de salida más rápida, especialmente en tareas complejas.

Según el anuncio, el modo Ultrafast puede proporcionar un aumento de velocidad de hasta 14 veces en comparación con los procesos de procesamiento estándar. Con este rendimiento, se indica que el modelo es capaz de generar hasta 750 tokens de salida por segundo. Los tokens representan los fragmentos de texto básicos que utilizan los modelos de inteligencia artificial al generar contenido.

EN FASE DE VISTA PREVIA

OpenAI subraya que la alta velocidad no solo significa tiempos de espera más cortos, sino que también puede permitir un uso más eficiente en flujos de trabajo que requieren interacción en tiempo real. La empresa señala que, hasta la fecha, para objetivos de velocidad similares se solían preferir modelos más pequeños o enfocados en áreas limitadas, mientras que con Ultrafast se centran en la generación rápida de respuestas incluso en modelos más potentes.

La infraestructura del modo Ultrafast cuenta con la colaboración del fabricante de chips Cerebras. El nuevo modo se encuentra actualmente en fase de vista previa y solo está disponible para un grupo limitado de clientes. OpenAI afirma que el acceso se ampliará gradualmente a medida que aumente la capacidad de sus servidores e infraestructura.

Entre las áreas de uso previstas por la empresa se encuentran sectores que requieren una respuesta rápida, como la gestión de crisis e incidentes, el servicio al cliente, los sistemas de soporte, el análisis de mercados financieros y el comercio electrónico. No se ha compartido un calendario claro sobre cuándo estará disponible Ultrafast para el público general.

Fuente de la noticia: 12punto