Microsoft anuncia su chip para IA Maia 300, destinado a tareas de inferencia

Microsoft ha anunciado novedades en su línea de chips para IA propios Maia. Por un lado, el modelo Maia 200 ya ha entrado en producción y ya ejecuta cargas de trabajo de la compañía, entre las que están las de Copilot. Además, la compañía ha anunciado para 2027 los primeros despliegues en producción de Maia 300, un nuevo chip pensado sobre todo para ocuparse de las tareas de inferencia de IA de Microsoft.

Maia 300 es un sistema inteligente diseñado para los nuevos tipos de cargas de trabajo de IA, que van desde razonamiento con contextos extensos hasta experiencias conversacionales sensibles a la latencia, pasando por las tareas agénticas sostenidas y de varios pasos. Maia 300 se ha diseñado para mejorar la eficiencia de todo el sistema en tareas como las mencionadas, y la compañía espera que ofrezca un 40% más de tokesn por megavatios que los principales sistemas basados en GPU.

Además, según fuentes de Microsoft, en una configuración completa de 96 aceleradores, MAia 300 ofrece un rendimiento de tokens a escala de rack hasta siete veces superior al de Maia 200. Se ha diseñado con una arquitectura pensada sobre todo para inferencia y cargas de trabajo de IA con contextos extensos, uso intensivo de memoria y una carga de decodificación elevada. Para ello, es necesario equilibrar la capacidad de computación, el ancho de banda de memoria, las redes y la eficiencia energética a escala cloud.

La arquitectura de flujo de datos definido por software de Maia 300 trabaja de forma conjunta con la optimización de kernels asistida por IA para maximizar la proximidad de los datos, reducir su movimiento y mejorar el aprovechamiento de los recursos de computación, memoria y red. Al convertir el flujo de datos en un principio de diseño básico, Maia 300 aporta una ventaja en rendimiento por vatio frente a las arquitecturas de GPU tradicionales.

A medida que las cargas de trabajo de IA dependen cada vez más del contexto y la memoria, Maia 300 ofrece un elevado ancho de banda HBM por cada vatio. Ocho pilas HBM4 ofrecen un ancho de banda de memoria de hasta 18 TB/s con un TDP de 950 vatios. De esta forma, los sistemas pueden ejecutar con eficiencia modelos de gran tamaño y cargas de trabajo con contextos extensos. La compatibilidad con kernels especializados usa la SRAM integrada en el chip como memoria temporal gestionada mediante software, lo que rebaja la presión sobre la HBM.

Maia 300 incorpora una nueva arquitectura multichiplet, que separa las funciones de computación, controlador de memoria, y entrada y salida. De esta manera consigue mejorar la eficiencia, escalabilidad y estructura de costes. Los chiplets de computación que lleva se fabrican con el nodo de proceso N2P de TSMC para maximizar su rendimiento por vatio.

Por otro lado, su diseño está preparado para formatos avanzados de baja precisión, entre los que está MXFP4 mejorado. Esto hace que Maia 300 rebaje la necesidad de memoria y ancho de banda tanto para computación como para almacenamiento de la caché KV. Esto lleva a ventanas de contexto más amplias, más rendimiento y más eficiencia del modelo dentro del mismo límite de potencia.

Además, Maia 300 concibe la red como una extensión integrada de su arquitectura de flujo de datos definida por software. En vez de llevar los datos a través de capas de comunicación independientes, las operaciones de flujo de datos cubren los recursos de computaicón, memoria y red, a los que trata como un solo sistema.

Las interconexiones de gran ancho de banda entre los aceleradores Maia están optimizadas para el paralelismo de tensores, y un sistema de transporte de IA personalizado ofrece comunicaciones de escalado vertical fiables y de alto rendimiento entre aceleradores y racks. Este sistema de transporte, optimizado para IA, aprovecha una infraestructura de red con base en Ethernet para habilitar una topología unificada que escala desde un solo rack hasta despliegues a escala de centro de datos.

Los sistemas en rack de Maia 300 suman 96 aceleradores con un consumo de hasta 167 kilovatios, y ofrecen 27,6 TB de capacidad HBM y 1,7 PB/s de ancho de banda HBM agregado en un dominio de escalado de alta velocidad. Esta densidad permite a Microsoft atender más interacciones simultáneas con IA y cargas de trabajo de más tamaño desde cada rack. De esta manera mejora la capacidad de los centros de datos y la rentabilidad de la expansión de los servicios de IA