La empresa OpenAI ha dado a conocer una nueva funcionalidad bautizada como ‘Ultrafast’, un modo especial que permite a su modelo GPT-5.6 Sol operar a una velocidad muy superior a la estándar, habilitando su uso en aplicaciones que exigen respuestas en tiempo real.
Según la información publicada en el sitio oficial del laboratorio de inteligencia artificial, el modo ‘Ultrafast’ ofrece un rendimiento hasta 14 veces más rápido que el procesamiento convencional. En términos concretos, es capaz de generar 750 tokens de salida por segundo, una cifra que marca un hito en la velocidad de inferencia.
GPT-5.6 Sol fue lanzado por OpenAI a principios de julio como su modelo frontera más avanzado. Este nuevo anuncio ocurre apenas tres días después de la presentación de GPT-5.6 Cyber, una versión especializada en ciberseguridad de alto nivel.
Con la llegada de ‘Ultrafast’, la compañía pretende resolver una disyuntiva habitual entre desarrolladores y empresas. “Hasta ahora, acceder a velocidad en tiempo real significaba elegir un modelo más pequeño o más especializado. Ultrafast apunta a un progreso en una nueva dirección: más trabajo útil por segundo”, afirma OpenAI en su blog oficial.
La empresa ha compartido algunos casos de uso que ilustran el potencial de esta tecnología: respuesta a incidentes mediante el análisis instantáneo de registros durante fallos críticos, e investigación financiera con detección de señales de mercado y patrones en tiempo real, entre otros escenarios.
Este salto de velocidad es posible gracias a la alianza con el fabricante de chips Cerebras, cuya tecnología de inferencia de latencia ultrabaja impulsa el modo. Por ahora, ‘Ultrafast’ se encuentra en una fase de vista previa restringida a un grupo selecto de clientes. OpenAI espera ampliar el acceso conforme la capacidad del sistema se incremente.
Fuente: Infobae