NVIDIA NIM, disponibles los microservicios de IA para la plataforma NVIDIA RTX

NVIDIA NIM es una serie de microservicios que ofrece modelos de IA de vanguardia preconfigurados y optimizados para la plataforma NVIDIA RTX, incluyendo las tarjetas gráficas de consumo GeForce RTX Serie 50 y las tarjetas profesionales Blackwell RTX PRO 6000. Los microservicios ya están disponibles y destacan por su sencillez para descarga y ejecución. Abarcan las principales modalidades de desarrollo para PC y son compatibles con las principales aplicaciones y herramientas del ecosistema del gigante verde.

NVIDIA sigue produciendo productos y servicios a buen ritmo. Si la semana pasada vimos una gran cantidad de novedades en su conferencia GTC 2025, la compañía acaba de anunciar el lanzamiento de otras soluciones que se enfocan a lo que se está convirtiendo en su negocio principal, las aplicaciones que dominan la tecnología actual como la IA y el aprendizaje profundo. Una de las novedades ha sido el Project G-Assist un asistente personal inteligente potenciado por un modelo de IA basado en Llama que nos han presentado nuestros compañeros de MC. Otra de las grandes novedades ha sido el lanzamiento de NIM.

Qué es NVIDIA NIM

En un momento crucial para la informática, donde los modelos de IA y una comunidad global de desarrolladores impulsan una explosión de herramientas y flujos de trabajo basados ??en IA, los microservicios NIM quieren ayudar a llevar innovaciones clave a las computadoras personales. Aunque el ritmo de innovación con IA es increíble, aún puede ser difícil para la comunidad de desarrolladores de PC iniciarse en estas tecnologías.

Y es que llevar los modelos de IA de la investigación al PC requiere la selección de variantes del modelo, la adaptación para gestionar todos los datos de entrada y salida, y la cuantificación para optimizar el uso de recursos. Además, los modelos deben convertirse para que funcionen con software de backend de inferencia optimizado y conectarse a nuevas interfaces de programación de aplicaciones. Esto requiere un esfuerzo considerable, lo que puede ralentizar la adopción de la inteligencia artificial.

Los microservicios NVIDIA NIM ayudan a resolver este problema al proporcionar modelos de IA preconfigurados, optimizados y fáciles de descargar que se conectan a las API estándar del sector. Están optimizados para PCs y estaciones de trabajo profesionales con hardware RTX de la compañía e incluyen los mejores modelos de IA de la comunidad, así como modelos desarrollados por NVIDIA.

Los microservicios NIM son compatibles con diversas aplicaciones de IA, como modelos de lenguaje grandes (LLM), modelos de lenguaje de visión, generación de imágenes, procesamiento de voz, búsqueda basada en recuperación-generación aumentada (RAG), extracción de PDF y visión artificial.

Actualmente, hay diez microservicios NVIDIA NIM disponibles para RTX, compatibles con diversas aplicaciones, como generación de lenguaje e imágenes, visión artificial, IA de voz, y en concreto los siguientes:

• Lenguaje y razonamiento: Deepseek-R1-distill-llama-8B, Mistral-nemo-12B-instruct, Llama3.1-8B-instruct
• Generación de imágenes: Flux.dev
• Audio: Riva Parakeet-ctc-0.6B-asr, Maxine Studio Voice
• RAG: Llama-3.2-NV-EmbedQA-1B-v2
• Visión por computadora: NV-CLIP, PaddleOCR, Yolo-X-v1

Los microservicios NIM también están disponibles a través de las principales herramientas y frameworks del ecosistema de IA. Por ejemplo, AnythingLLM y ChatRTX ahora son compatibles con NIM, lo que facilita el chat con LLM y agentes de IA mediante una interfaz sencilla e intuitiva. Con estas herramientas, los usuarios pueden crear asistentes de IA personalizados e integrar sus propios documentos y datos, lo que ayuda a automatizar tareas y mejorar la productividad. También son compatibles el Microsoft VS Code AI Toolkit, CrewAI y Langchain, proporcionando capacidades avanzadas para integrar los microservicios en el código de la aplicación, lo que ayuda a garantizar la integración y optimización.

NVIDIA AI Blueprints

La compañía también ha presentado otra solución que ofrece a los desarrolladores de IA una ventaja en la creación de flujos de trabajo de IA generativos con microservicios NVIDIA NIM. Los Blueprints son muestras de referencia extensibles y listas para usar que incluyen todo lo necesario (código fuente, datos de muestra, documentación y una aplicación de demostración) para crear y personalizar flujos de trabajo de IA avanzados que se ejecutan localmente.

Los desarrolladores pueden modificar y ampliar los planos de IA para ajustar su comportamiento, utilizar modelos diferentes o implementar funcionalidades completamente nuevas.

Más información | NVIDIA Developer