Intel avanza en infraestructura abierta pensada para la IA agéntica

Intel ha ofrecido en la Cumbre Global del Open Compute Project (OCP) nuevos detalles sobre sus GPUs de Serie D, además de presentar diseños de racks basados en Intel Xeon y sus avances en software abierto y ecosistema. Todo esto señala, en conjunto, su avance en infraestructura abierta hacia una infraestructura de IA heterogénea, que combina computación de uso general, aceleración especializada, software abierto y sistemas basados en estándares, con el fin de optimizar el rendimiento y la eficiencia en todas las cargas de trabajo de IA.

Muchos de los diseños de rack basados en Xeon que ha presentado Intel, desarrollados de manera conjunta con sus partners, sacan partido al estándar Open Rack v3 (ORv3) del Open Compute Project, con el objetivo de simplificar su implementación e integración en una infraestructura de centro de datos abierta.

A medida que los flujos de trabajo de IA agéntica crecen en complejidad, aumenta también la exigencia a la computación de propósito general para orquestar cargas de trabajo, procesar datos y ejecutar tareas. Para abordar esto, determinadas configuraciones de Xeon 6+ superan los 46.000 núcleos por rack, con una potencia total de 133,45 kW, lo que ofrece más densidad de computación de la CPU para soportar a gran escala la IA agéntica.

Novedades de las GPU Intel Serie D

En cuanto a las GPU Serie D de Intel, están diseñadas para mejorar la rentabilidad de la inferencia de IA sostenida y con uso intensivo de memoria. Esta GPU está basada en la última arquitectura Xe3P de Intel, combina hasta 480 GB de memoria LPDDR5X, 1,5 TB/s de ancho de banda de memoria y 1,3 petaflops de computación FP8 en un consumo energético de 350 vatios. Este equilibrio señala el enfoque de Intel en optimizar la infraestructura para cargas de trabajo de inferencia.

La Serie D de GPU de Intel, diseñada para modelos grandes de lenguaje, cargas de trabajo de contexto amplio y servicios de inferencia simultáneos; admite modelos de hasta 300.000 millones de parámetros en una tarjeta y más de un billón de parámetros en un sistema de ocho GPU. Va dirigida a aplicaciones que abarcan desde servicios de IA multitenedor hasta robótica y otras cargas de trabajo relacionadas con la ciencia.

Tiene formato PCIe estándar, diseño refrigerado por aire y base de software Xe común. Esta serie está pensada para simplificar la implementación en entornos de centros de datos existentes, además de admitir la portabilidad de aplicaciones entre las plataformas de GPU de Intel. Esto permite escalar la inferencia sin necesidad de utilizar una infraestructura especializada de racks o refrigeración.

Colaboración con partners de Intel y software abierto

Con el objetivo de llevar las capacidades de la serie D de GPU de Intel a producción, Intel colabora con un ecosistema variado de fabricantes de equipos originales (OEM), fabricantes de diseños originales (ODM), neoclouds, proveedores de software independientes, proveedores de dispositivos y empresas nativas de IA. Estas colaboraciones se centran en el desarrollo de plataformas validadas, integración de software y soluciones listas para implementar que rebajan la complejidad y facilitan el paso de la valoración de modelos a producción.

En cuanto al software abierto para la IA heterogénea, necesario para que su infraestructura funcione a gran escala de cara a la conexión de recursos de computación, simplificación de la implementación y oferta a desarrolladores de la flexibilidad que necesitan para ejecutar cargas de trabajo en la arquitectura adecuada.

La estrategia de software abierto de Intel se centra en la integración nativa en fase inicial con marcos de IA estándar del sector, entornos de ejecución de inferencia y entornos de implementación tanto en CPU como en GPU. Dado que se basa en las herramientas que usan los desarrolladores, Intel facilita la sumplificación del desarrollo, la optimización del rendimiento y la aceleración de la implementación a traves de varias capacidades.

Entre ellas está la implementación simplificada en las GPU de Intel: con base en una base de software Xe común, las GPUs de Serie D de intel admiten la portabilidad del software entre las plataformas de GPU de Intel. Esto ayuda a los desarrolladores a reutilizar aplicaciones existentes y facilita la implementación de cargas de trabajo en hardware nuevo.

Intel es compatible con los marcos abiertos de IA, los motores de servicio y las herramientas de desarrollo que ya se usan en todo el sector, complementados con librerías de rendimiento y capas de software programables para optimizar el rendimiento de la inferencia. estos marcos admiten aplicaciones de inferencia y de agentes que se ejecutan en procesadores Intel Xeon, lo que permite a los desarrolladores trabajar en arquitecturas de CPU y GPU.

A través de la integración de marcos de trabajo de origen y la habilitación de modelos, Intel trabaja en el soporte a nuevos modelos abiertos, a medida que estén disponibles, en las GPU de la Serie D de Intel y en los procesadores Xeon. Entre las iniciativas está la compatibilidad con Muse Glimmer de Meta, por lo que los desarrollares tienen más facilidades para valorar e implementar con más rapidez cargas de trabajo de IA agéntica emergentes.

La pila de software de Intel admite distintas cargas de trabajo, qyue van desde la generación de tokens de alto rendimiento hasta agentes de codificación y flujos de trabajo empresariales complejos. El kit de herramientas Intel AI for Enterprise Agent Toolkit está optimizado y ya se puede implementar en procesadores Xeon, lo que da capacidades de orquestación para aplicaciones de agentes en producción. Su arquitectura basada en proveedores está diseñada para extenderse a las GPU de Intel, lo que ofrece una base flexible para flujos de trabajo multimodales.

Nicolas Dubé, Vicepresidente corporativo del Grupo de Sistemas y Soluciones para Centros de Datos de Intel, ha comentado que «los modelos abiertos están ampliando las opciones de las empresas a la hora de implementar la IA. Para aprovechar todo su potencial, las organizaciones necesitan una infraestructura capaz de asignar a las diferentes cargas de trabajo la inteligencia adecuada, los recursos de computación adecuados y la rentabilidad adecuada. Eso es lo que entendemos por «poner cada comando en su sitio».

Kevork Kechichian, Vicepresidente ejecutivo y Director general del Grupo de Centros de Datos de Intel, ha añadido que «la IA agéntica está cambiando lo que los clientes esperan de sus centros de datos. El éxito no dependerá de un único componente, sino de una infraestructura abierta y heterogénea que aúne procesadores Xeon, aceleración especializada y software interoperable. Intel está ayudando a los clientes a aprovechar sus inversiones existentes, al tiempo que crea una base flexible para escalar de manera eficiente las cargas de trabajo emergentes de IA».