Google presenta Ironwood, su procesador para IA más potente

Ironwood, el nombre en clave del nuevo procesador para IA de Google, ha sido la estrella en hardware del evento Next 25 donde Google Cloud ha presentado sus novedades en soluciones de inteligencia artificial para empresas.

Ironwood es la séptima generación de las TPU (unidades de procesamiento tensorial) que Google diseña internamente para acelerar las tareas de aprendizaje automático de sus modelos Gemini más potentes. El más potente de Google hasta la fecha, la compañía afirma que este chip representa un cambio importante que desbloqueará capacidades de IA agencial desconocidas hasta ahora en lo que llama «era de la inferencia».

Siempre que Google habla de las capacidades de una nueva versión de Gemini, señala que éstas están vinculadas no solo al código, sino también a su infraestructura. Su hardware de IA personalizado es un elemento clave para acelerar la inferencia y ampliar las ventanas de contexto.

Con Ironwood, Google dice contar con su TPU más escalable y potente hasta la fecha, los que permitirá a la IA actuar en nombre del usuario para recopilar datos de forma proactiva y generar resultados. A esto se refiere Google cuando habla de IA agente.

El nuevo chip ofrece un mayor rendimiento en comparación con las unidades de procesamiento tensorial anteriores, ya que está diseñado para operar en grupos de hasta 9216 chips, que se comunicarán directamente entre sí a través de una interconexión entre chips (ICI) recientemente renovada y estarán ventilados por un sistema de refrigeración líquida para mantener a raya las temperaturas.

Google asegura que este tipo de diseño será una gran ventaja no solo para alimentar sus grandes modelos de lenguaje Gemini, sino también para los desarrolladores que buscan ejecutar proyectos de IA en la nube. Los desarrolladores podrán aprovechar Ironwood en dos configuraciones diferentes: un servidor de 256 chips o el clúster completo de 9216 chips.

En su versión más grande, los pods Ironwood de Google pueden generar la asombrosa cantidad de 42,5 exaflops de computación de inferencia. Cada chip tiene un rendimiento máximo de 4614 TFLOP, lo que, según Google, supone una mejora sustancial con respecto a los chips anteriores. Google también ha aumentado la memoria de las nuevas TPU, con 192 GB cada una, seis veces más que la TPU Trillium de última generación de Google. El ancho de banda de la memoria también ha aumentado a 7,2 Tbps, con una mejora de 4,5 veces.

No es fácil situar el rendimiento preciso del nuevo chip de Google ya que existen numerosas maneras de medir el rendimiento de los aceleradores de la IA, lo que dificulta la comparación entre ellos. Google utiliza la precisión FP8 como referencia para la nueva TPU, pero la compara con algunos sistemas, como la supercomputadora El Capitan, que no admiten FP8 en hardware. Por lo tanto, conviene tomar con cautela su afirmación de que los módulos Ironwood son «24 veces más rápidos» que segmentos comparables de la supercomputadora más potente del mundo.