Google ha anunciado la octava generación de sus procesadores especializados en inteligencia artificial, los TPU 8t y TPU 8i. Estos chips, presentados durante el evento Google Cloud Next, están diseñados para competir directamente con las unidades de procesamiento gráfico (GPU) de NVIDIA en el entrenamiento e implementación de modelos de IA.
Desarrollados en colaboración con DeepMind, estos nuevos procesadores responden a la creciente divergencia en las necesidades de entrenamiento e inferencia de los modelos de IA. La compañía anticipó esta necesidad, y con la llegada de los agentes de IA, que operan en bucles continuos de razonamiento y ejecución, se ha vuelto crucial contar con soluciones específicas.
El TPU 8t se presenta como la opción de máxima potencia, capaz de escalar hasta 9.600 unidades y dos petabytes de memoria compartida. Ofrece 121 exaflops de cómputo para el entrenamiento de modelos de IA. Google promete un acceso al almacenamiento diez veces más rápido y una eficiencia de cómputo útil superior al 97%, lo que se traduce en menos interrupciones y tiempos de espera durante el proceso de entrenamiento.
Por su parte, el TPU 8i se enfoca en la reducción de la latencia. Este chip integra 288 GB de memoria HBM y 384 MB de SRAM, triplicando la capacidad de la generación anterior. Además, duplica el ancho de banda de interconexión a 19,2 Tb/s y añade un motor de aceleración que puede reducir la latencia hasta cinco veces.
Ambos chips han sido diseñados teniendo en cuenta los modelos de IA actuales. La topología Boardfly del TPU 8i está optimizada para los requisitos de comunicación de modelos de razonamiento avanzado como Gemini 3.1 Pro o Claude Opus. La red Virgo del TPU 8t, por otro lado, se ha calibrado para satisfacer las necesidades de paralelismo de modelos con billones de parámetros.
Por primera vez, estos chips funcionan sobre CPUs propias de Google basadas en la arquitectura ARM Axion, permitiendo una optimización integral del sistema. En cuanto a software, son compatibles con los frameworks más populares del sector como JAX, PyTorch, SGLang y vLLM, y ofrecen acceso bare metal sin capas de virtualización.
En términos de eficiencia energética, los nuevos chips de Google duplican el rendimiento por vatio en comparación con la generación anterior, Ironwood. Utilizan refrigeración líquida para gestionar las altas densidades de rendimiento.
Aunque Google no ha especificado una fecha de lanzamiento exacta, ha confirmado que los TPU 8t y TPU 8i estarán disponibles este año en su plataforma AI Hypercomputer. Con esta iniciativa, Google no solo busca diversificar su oferta ante la dependencia de NVIDIA, sino también captar una parte significativa del mercado de chips de IA.