La multinacional tecnológica Google ha dado a conocer dos innovadores sistemas de su línea de procesadores TPU, diseñados especialmente para potenciar tareas de inteligencia artificial. Se trata del TPU 8tx, que resguarda información sensible mientras la IA la procesa, y el TPU 8i Max, orientado a gestionar enormes volúmenes de datos de forma simultánea.
Con estos lanzamientos, la octava generación de TPU suma cuatro sistemas en un solo año, un hito que la compañía califica como sin precedentes en su historia. Los dos modelos previos —el 8t para entrenar modelos y el 8i para respuestas en tiempo real— ya se habían presentado en abril durante el evento Google Cloud Next.
Amin Vahdat, vicepresidente senior y jefe de tecnología de IA e infraestructura de Google, fue el firmante del anuncio oficial. Según el comunicado, los TPU cuentan actualmente con cerca de 100 clientes, entre los que se incluyen laboratorios de inteligencia artificial, firmas de comercio bursátil, cadenas minoristas y universidades.
El TPU 8tx está dirigido a empresas sujetas a regulaciones y a gobiernos que emplean modelos propios junto con sus datos más críticos. Google explicó que, por lo general, los datos se cifran al almacenarse o transmitirse por una red, pero deben descifrarse en la memoria durante el procesamiento. Justamente ese instante es el que el nuevo sistema busca blindar.
Datos aislados incluso mientras se usan
El 8tx utiliza el mismo chip que el 8t y se combina con procesadores de la quinta generación de AMD EPYC. Según la empresa, la seguridad queda integrada en el hardware y mantiene aislados los datos y los parámetros del modelo durante su uso.
Mark Lohmeyer, vicepresidente de IA e infraestructura de Google Cloud, declaró a Network World que este es el primer TPU de la compañía con computación confidencial, desarrollado en colaboración con AMD. Añadió que el sistema completo se certifica de forma remota para verificar su autenticidad.
“No debería haber que elegir entre seguridad y rendimiento”, afirmó Lohmeyer.
Google aseguró que la red interna del 8tx, la misma que utiliza el 8i, reduce la latencia hasta la mitad en comparación con el 8t, con una pérdida de rendimiento casi nula. Este dato proviene de la compañía y los textos consultados no mencionan mediciones independientes.
Con el 8tx, una organización puede ajustar un modelo con datos privados, reducir uno grande a otro más pequeño y entrenar agentes —asistentes de IA que ejecutan tareas por su cuenta— sin necesidad de trasladar la información entre grupos de servidores distintos.
El 8i Max junta dos chips en un solo paquete
El TPU 8i Max combina dos chips 8i en un mismo paquete. Esto duplica el cómputo, la memoria integrada al procesador y el ancho de banda de memoria del 8i. Según Network World, cuenta con 384 gigabytes de memoria de alta velocidad, un 33% más que el 8i, y un ancho de banda de 17,2 terabytes por segundo.
Google lo propone para escenarios en los que múltiples agentes trabajan simultáneamente sobre todo el código de un programa o sobre horas de video. En estas tareas, la velocidad de acceso a la memoria suele convertirse en un cuello de botella.
Como el 8i Max ocupa el mismo espacio en el bastidor que el 8i, un centro de datos puede instalar el doble de silicio por rack. Lohmeyer lo comparó con agregar carriles a una autopista:
“No hace que cada auto vaya más rápido, sino que permite que circule más tráfico a la vez”.
Google también informó que ha liberado como código abierto TPU Sync, un programa que distribuye la memoria de los chips, los servidores y el almacenamiento, y que según la empresa reduce en más de un 90% la demora hasta la primera respuesta del modelo. El texto oficial no especifica la fecha de disponibilidad del 8tx y 8i Max para los clientes.
Fuente: Infobae