HPE amplía su gama de soluciones de Inteligencia Artificial

HPE ha anunciado nuevas actualizaciones para su cartera de soluciones de IA, mejorando su oferta tanto en la implementación de soluciones de IA Generativa, como de machine learning y deep learning. La nueva oferta, presentada durante la conferencia global de inteligencia artificial para desarrolladores NVIDIA GTC, incluye las siguientes mejoras:

• Disponibilidad de dos soluciones GenAI full-stack desarrolladas en colaboración entre HPE y NVIDIA.
• Una versión beta del software HPE Machine Learning Inference.
• Una arquitectura de referencia de generación aumentada de recuperación empresarial (RAG).
• Soporte para el desarrollo de futuros productos basados en la nueva plataforma NVIDIA Blackwell.

“Para cumplir con la promesa de la GenAI y abordar de manera efectiva el ciclo de vida completo de la IA, las soluciones deben ser híbridas por diseño”, ha explicado Antonio Neri, presidente y CEO de HPE en el evento. “Desde el entrenamiento y el ajuste de modelos en las instalaciones, ya sea en una instalación de colocación o en la nube pública, hasta la inferencia en el extremo, la inteligencia artificial es una carga de trabajo de nube híbrida. HPE y NVIDIA tienen una larga historia de innovación colaborativa, y continuaremos ofreciendo soluciones de software y hardware de IA diseñadas conjuntamente para que ayuden a nuestros clientes a acelerar el desarrollo e implementación de la GenAI, desde el concepto hasta la producción”.

Anunciada en SC23, la solución de supercomputación de HPE para IA generativa ya está disponible para las organizaciones que buscan una solución completa preconfigurada y probada previamente para el desarrollo y entrenamiento de grandes modelos de IA. Diseñada específicamente para ayudar a los clientes a acelerar los proyectos de GenAI y Deep Learning, la solución llave en mano cuenta con la tecnología de NVIDIA y puede admitir hasta 168 superchips GH200 Grace Hopper.

Esta solución permite a las grandes empresas, instituciones de investigación y administraciones públicas optimizar el proceso de desarrollo de modelos con una pila de software de IA/ML que ayuda a los clientes a acelerar los proyectos de GenAI y aprendizaje profundo, incluidos los LLM, los sistemas de recomendación y las bases de datos vectoriales.

Por otro lado, también se ha anunciado que la solución de computación empresarial de HPE para IA generativa, presentada en primicia en  Discover Barcelona 2023, está ya disponible directamente o a través de HPE GreenLake con un modelo de pago por uso flexible y escalable. Desarrollada en colaboración con NVIDIA, ofrece ajuste fino e inferencia preconfigurada para reducir tanto el tiempo como los costes de puesta en marcha. Esta solución proporciona, además, servicios integrales de computación, almacenamiento, software, redes y consultoría necesarios para desarrollar aplicaciones de GenAI. Con una arquitectura full-stack nativa de IA, las empresas pueden disfrutar de la velocidad, escala y control necesarios para adaptar modelos base utilizando datos privados e implementar aplicaciones GenAI dentro de un modelo de nube híbrida.

Con un clúster de computación de IA de alto rendimiento y software de HPE y NVIDIA, esta solución es idónea para el ajuste fino de modelos, RAG e inferencia de escalamiento horizontal. El tiempo de ajuste fino de un modelo Llama 2 de 70 mil millones de parámetros que ejecuta esta solución disminuye linealmente con el número de nodos, tardando seis minutos en un sistema de 16 nodos. Esta velocidad y rendimiento permiten a los clientes obtener un retorno de inversión más rápido al aumentar la productividad empresarial con aplicaciones de IA, como asistentes virtuales, chatbots inteligentes y búsqueda empresarial. Además, para abordar la brecha de habilidades asociadas a la inteligencia artificial, los expertos de HPE Services ayudan a las empresas a diseñar, implementar y administrar la solución, lo que incluye la aplicación de técnicas adecuadas de ajuste de modelos.

Equipada con servidores HPE ProLiant DL380a Gen11, la solución está preconfigurada con GPUs de NVIDIA, la plataforma de red NVIDIA Spectrum-X Ethernet y DPUs NVIDIA BlueField-3. Además, se complementa con la plataforma de aprendizaje automático y el software de análisis de HPE, el software NVIDIA AI Enterprise 5.0 con el nuevo microservicio NVIDIA NIM para la inferencia optimizada de modelos generativos de IA, así como NVIDIA NeMo Retriever y otras librerías de ciencia de datos e IA.