NVIDIA A100 en versión PCIe con 80 GB de HBM2

Hace un par de días os contamos que el gigante verde estaba trabajando en una nueva NVIDIA A100 con formato PCIe que contará con 80 GB de memoria HBM2, el doble de memoria que trae la versión estándar de dicha tarjeta gráfica, y hoy ha sido anunciada de forma oficial.

La nueva NVIDIA A100 con 80 GB de memoria HBM2 mantiene el diseño y todas las claves del modelo de 40 GB, algo totalmente lógico ya que, al final, no deja de ser una revisión que amplía la memoria conservando el núcleo gráfico. Esta aceleradora gráfica dispone, por tanto, de 6.192 shaders, también conocidos como núcleos CUDA, tiene un ancho de banda de 2.039 GB/s, es decir, más de 2 TB/s, lo que significa que supera en 484 GB/s el ancho de banda del modelo de 40 GB.

El bus de memoria se ha mantenido, lo que significa que la NVIDIA A100 tiene un bus de 5.120 bits. Puede que te preguntes cómo ha sido posible, entonces, aumentar el ancho de banda frente al modelo original. La respuesta es muy sencilla, utilizando memoria HBM2 a mayor frecuencia (3.186 MHz).

Sus 80 GB de memoria HBM2, unidos a sus 432 núcleos tensor y a su alta potencia en operaciones con diferentes tipos de precisión, convierten a la NVIDIA A100 en una tarjeta gráfica increíblemente potente para el sector profesional, y para muestra un botón. En FP16, este modelo alcanza los 78 TFLOPs, cifra que se reduce a 19,5 TFLOPs en FP32 y a 9,7 TFLOPs en FP64.

Para acompañar el anuncio de esta nueva aceleradora gráfica, NVIDIA ha presentado GPUDirect Storage, una versión de la solución DirectStorage de Microsoft presente en DirectX 12 Ultimate, que permite utilizar la GPU para las tareas de descompresión de archivos y datos de unidades SSD de alto rendimiento, lo que permite liberar a la CPU de esta carga y mejorar el rendimiento.

Esta tecnología ya se encuentra disponible, y según NVIDIA permite reducir hasta en tres veces el uso de CPU, y mejorar el rendimiento en inferencia hasta en seis veces. En la tabla adjunta podéis encontrar una comparativa entre las diferentes aceleradoras gráficas que ha lanzado NVIDIA durante los últimos años dentro del sector profesional, y que forman parte de una gama que anteriormente conocíamos como Tesla.