Nvidia mostrará en el GTC 2025 cómo los PCs con GPUs RTX pueden contribuir al avance de la IA

Nvidia celebrará entre los próximos 17 y 21 de marzo en San José (California) su evento sobre desarrollo para IA GTC 2025, en el que mostrará cómo los ordenadores y estaciones de trabajo que integran GPUs RTX pueden contribuir al avance y desarrollo de la Inteligencia Artificial, además de mejorar la productividad de profesionales y empresas.

El evento, que tendrá lugar en el San Jose Convention Center, contará con la presencia de numerosos expertos del ecosistema de IA, que compartirán su visión sobre el desarrollo de la IA a nivel local, así como sobre la optimización de modelos, y sobre la preparación del hardware y el software para mejorar las cargas de trabajo de IA. En total, además de una presentación inicial del CEO de Nvidia, Jensen Huang, Nvidia ofrecerá alrededor de un millar de sesiones, más de 300 exposiciones, formación técnica y eventos de networking, todo ello centrado en la Inteligencia Artificial.

En ellas, entre otras cosas, se mostrarán los avances clave de los PCs y estaciones de trabajo con GPUs RTX preparados para la IA. Las GPUs RTX se han desarrollado con hardware especializado y preparado para la IA, conocido como Tensor Core.

Estos se encargan de proporcionar a los equipos el rendimiento de computación que necesitan para ejecutar los últimos modelos de IA, y también los que necesitan más potencia para su ejecución. Estas GPUs, las RTX, pueden ofrecerles lo que necesitan, y contribuir así al desarrollo de sistemas impulsados por IA, como chatbots, podcasts generados utilizando Inteligencia Artificial e incluso humanos digitales.

En cuanto a los modelos grandes de lenguaje, también se pueden utilizar en multitud de casos de uso, y escalar para abordar tareas complejas, que van desde escribir código o traducir entre idiomas complejos y minoritarios. Eso sí, dado que habitualmente se entrenan con un amplio espectro de conocimiento para utilizarlos con casos de uso generales, puede que no sean los más indicados para realizar tareas muy específicos.

Nvidia GTC: Optimización de sistemas y depuración de conjuntos de datos

Son los modelos de lenguaje pequeños, que combinan las necesidades específicas con un tamaño reducido, los que pueden estar más indicados en estos casos, manteniendo la precisión mientras se ejecutan en más dispositivos a nivel local. En el GTC 2025, Nvidia mostrará diversas técnicas y herramientas que los desarrolladores pueden utilizar para generar, seleccionar y sintetizar un conjunto de datos, para después entrenar un modelo de lenguaje pequeño que pueda realizar las tareas para las que se le diseñó.

La optimización de la inferencia de IA y la ejecución de modelos en estaciones de trabajo con Windows necesita un ajuste estratégico de su hardware y software, debido a que hay distintas configuraciones posibles para ambos.

En GTC 2025 también habrá una sesión que expondrá las mejores prácticas para la optimización de hardware y software para IA, que incluirá la cuantización de modelos, las mejoras que se pueden hacer para los canales de inferencia y los ajustes que se pueden acometer en función del hardware existente. En este último caso se mostrarán las posibles para ONNX Runtime, TensorRT de Nvidia y llama.cpp.

El desarrollo de IA en local también tendrá su hueco

El desarrollo, prueba y despliegue de modelos de IA en infraestructura local asegura su seguridad y rendimiento incluso aunque no haya conexión con los servicios basados en la nube. Según Nvidia, en estos casos, las soluciones A de HP, con GPUs Nvidia RTX, son un ejemplo de las herramientas necesarias para el desarrollo de IA en local al mismo tiempo que se mantiene control sobre los datos con los que se trabaja, así como sobre la propiedad intelectual.

En el evento habrá una sesión para demostrar sus posibilidades de trabajo con IA en local, utilizando modelos del catálogo NGC de Nvidia, así como la tecnología de evaluación Galileo, que se ocupa de ajustar proyectos de IA generativa. En otra charla, los expertos de Nvidia explorarán cómo la combinación entre GenAI Lab y AI Studio, de Z by HP impulsan el desarrollo de modelos grandes de lenguaje, optimizando su ciclo de vida completo, en local, mientras se mantiene la seguridad y el control. Todo mientras integran los modelos del catálogo NGC de Nvidia.

También están pensados para desarrollar Inteligencia Artificial en local los equipos Dell Pro Max, tanto los portátiles como los PCs de escritorio de la gama, con GPUs Nvidia RTX. En la GTC 2025 habrá una sesión en la que se muestre lo que estos equipos pueden hacer para el desarrollo de IA en local.

Por otro lado, quienes deseen iniciarse en el desarrollo de IA con PCs y estaciones de trabajo con GPUs RTX utilizando microservicios NIM de Nvidia pueden descargar su versión de prueba pública inicial, que incluye el modelo grande de lenguaje Llama 3.1, Nvidia Riva Parakeet para reconocimiento automático de voz y YOLOX para visión por computador.