Conecta con nosotros

Noticias

DGX GH200, el nuevo superordenador de Nvidia ideado para el desarrollo de modelos gigantes de IA generativa

Publicado el

En plena vorágine sobre el valor y los riesgos que supone la IA para la sociedad, Nvidia ha anunciado el lanzamiento de una nueva supercomputadora que le permita consolidarse como empresa tecnológica de referencia en el campo de la computación de alto rendimiento (HPC). Todo ello es posible gracias a DGX GH200, con la que se logra desarrollar modelos gigantes capaces de potenciar la IA generativa.

Junto a ésta, DGX GH200 estará enfocada en los sistemas de recomendación, y el procesamiento y análisis de datos, estando disponible a partir de finales de 2023. Estos son los motores digitales de la economía moderna y por ello es tan importante idear una tecnología acorde a ella.

Sus prestaciones técnicas

La DGX GH200, a diferencia del DGX A100 de 2020, emplea superchips Grace Hopper de Nvidia, conectados todos entre sí. En concreto, se constituye de 256 chips de GH200 dando forma a una máquina gigantesca y de elevada potencia y rendimiento. Además combina las tecnologías de interconexión NVLink y NVLink Switch System para funcionar como una única GPU.

Con más de un exaflop de rendimiento (un trillón de operaciones de punto flotante por segundo) y 144 terabytes de memoria, se estima que la DGX GH200 pueda llegar a superar a los juegos de PC más potentes. La memoria que la caracteriza es 500 veces mayor que la generación anterior de DGX A100.

A través de un comunicado, Nvidia ha detallado que DGX GH200 se vale de superchips GH200, que junto a la tecnología NVLink suprime toda necesidad de una conexión tradicional de CPU a GPU. Y es que con el chip Nvidia NVLink-C2C, cada superchip es capaz de combinar una CPU Nvidia Grace, basada en la arquitectura de 32 bits ARM, con una GPU Nvidia H100 Tensor Core.

DGX GH200 es pionero en la combinación de superchips Grace Hopper (GH) y NVLink Switch System, por lo que se logra que todas las GPU de los superchips trabajen al unísono como una única GPU y con un ancho de banda NVLink 48 veces mayor que la generación anterior.

Gracias a la tecnología NVLink se logra multiplicar hasta por siete el ancho de banda entre la GPU y la CPU y reducir hasta por cinco el consumo de energía de interconexión. De este modo, se proporciona un bloque de construcción de GPU de arquitectura Hopper de 600 GB.

Jen-Hsun Huang, máximo responsable de la compañía estadounidense ha presentado todas las novedades relativas a la IA en el evento tecnológico internacional ‘Computex’. Se ha mostrado altamente satisfecho con DGX GH200, pues permite obtener la potencia de una supercomputadora de IA masiva, pero con la simplicidad de programar una única GPU.

Los primeros clientes

Nvidia ha detallado que Microsoft, Meta y Google Cloud serán las primeras tecnológicas en contar con la supercomputadora DGX GH200 para explorar todas sus capacidades y aplicarla a sus cargas de trabajo relacionadas con la IA generativa. En este sentido, el vicepresidente de Cómputo en Google Cloud, Mark Lohmeyer, ha matizado que la nueva escala NVLink y la memoria compartida de los superchips Grace Hopper abordan los grandes problemas presentes en la IA a gran escala.

A su vez, Girish Bablani, vicepresidente corporativo de Azure Infraestructure en Microsoft, ha señalado que el potencial demostrado por DGX GH200, al poder trabajar con conjuntos de datos del tamaño de un terabyte, permitirá a los desarrolladores acometer investigaciones avanzadas a mayor escala y velocidad.

Las previsiones de Nvidia

Es tal la tasa de éxito estimada, que la compañía estadounidense se plantea proporcionar el diseño de DGX GH200 a los proveedores de servicios en la nube y otros hiperescaladores, en base a que pudiesen adaptarlo y personalizarlo a su infraestructura. Su lanzamiento se prevé para finales de 2023, aunque se irán incorporando nuevas novedades para mejorar su eficiencia y rendimiento.

La última novedad de Nvidia

De igual modo, Nvidia ha anunciado que viene trabajando en su propia supercomputadora de IA basada en la tecnología que brinda DGX GH200. Denominada Nvidia Helios, pretende potenciar el trabajo de los investigadores y aumentar el rendimiento de datos, pues cuenta con cuatro sistemas DGX GH200.

Nvidia Helios trabajará conectando cada sistema DGX GH200 con la red Nvidia Quantum-2 InfiniBand, estando dotada de 1024 superchips Grace Hopper. Al igual que sucede con DGX GH200, se espera que Nvidia Helios esté disponible en el mercado a finales del presente año.

Lo más leído