OpenAI, la compañía liderada por Sam Altman, completó el entrenamiento del modelo GPT-6 Astra utilizando 100.000 unidades de procesamiento gráfico (GPU) en el centro de datos Stargate, ubicado en Abilene, Texas, Estados Unidos. La operación tuvo un costo operativo estimado entre 500 millones y 1.000 millones de dólares. Según Jensen Huang, director ejecutivo de Nvidia, esta escala se cuadruplicará para la próxima generación de inteligencia artificial.
El proceso de entrenamiento se extendió por un periodo de 90 a 120 días. El cálculo del costo se basa en un valor de 2,50 a 3,50 dólares por hora por cada GPU operando de forma continua durante ese lapso.
La infraestructura futura demandaría aproximadamente 1,2 gigavatios (GW) de potencia eléctrica si se implementa con 400.000 GPU y bastidores GB200 NVL72 de Nvidia. Este cálculo incorpora un factor de eficiencia energética de 1,5, el cual considera la electricidad extra necesaria para refrigeración y demás sistemas del centro de datos.
Diseño del modelo GPT-6 Astra de OpenAI
GPT-6 Astra fue concebido para emplear herramientas externas sin que los desarrolladores tengan que codificar una interfaz de programación de aplicaciones (API) para cada una. El sistema se comporta de forma análoga a un usuario humano que interactúa con programas informáticos.
Sus agentes se mueven a través de navegadores web, hojas de cálculo y aplicaciones de escritorio. Gracias a esta capacidad, pueden redactar documentos completos, crear presentaciones y resolver secuencias de tareas complejas.
La base de razonamiento opera con una arquitectura nativa de múltiples agentes. Cuando se enfrenta a una tarea de gran dificultad, un agente principal formula una hipótesis técnica y coordina a subagentes independientes que ensayan alternativas y verifican resultados en paralelo.
Esta distribución de tareas tiene como objetivo prevenir los denominados «bucles de perdición», situaciones donde un modelo queda atrapado en intentos repetitivos sin lograr solucionar un problema. Esto permite que el modelo depure su propio código y ajuste su estrategia al detectar fallos.
No obstante, la magnitud del despliegue no garantiza un liderazgo absoluto en todas las métricas. El modelo Fable 5.1 de Anthropic supera a Astra en evaluaciones técnicas estandarizadas como SWE-bench Pro, Artificial Analysis Intelligence, Coding Agent y ProofBench v1.1, esta última centrada en problemas matemáticos formales.
Previsión de Nvidia para los próximos modelos
Jensen Huang elogió a OpenAI después de la activación de Astra y anticipó una siguiente fase de entrenamiento con 400.000 GPU funcionando al mismo tiempo. Huang afirmó que la inteligencia artificial general (AGI) ya ha llegado.
Esa cifra cuadruplicaría las más de 100.000 GPU empleadas en Astra y podría utilizar por completo el complejo Stargate en Texas. La proyección no indica una fecha de inicio para el nuevo entrenamiento ni especifica su duración.
El cálculo energético se fundamenta en bastidores NVIDIA GB200 NVL72, con un consumo de aproximadamente 140 kW cada uno. Para albergar 400.000 GPU se requerirían cerca de 5.555,55 bastidores bajo esa configuración.
La multiplicación de esa cantidad de estructuras por su consumo y por el factor de eficiencia energética eleva la demanda a 1,2 GW. Sin embargo, esta cifra es solo una hipótesis sobre la potencia requerida para completar el entrenamiento; no confirma que toda la infraestructura emplee exactamente esos servidores.
Problemas en el lanzamiento de Astra al público
El lanzamiento del modelo GPT-6 Astra de OpenAI presentó fallos de acceso inicial, ya que los usuarios de pago de ChatGPT no pudieron utilizar el sistema poco después de su debut. Sam Altman, director ejecutivo, tuvo que disculparse y calificó el lanzamiento como «un desastre».
«En primer lugar, perdón por el lanzamiento desastroso. En segundo lugar, cuando metemos la pata, intentamos arreglarlo.»
Fuente: Infobae