Google libera TorchTPU para romper el monopolio de NVIDIA en desarrollo de aplicaciones de IA

Google ha anunciado la disponibilidad como proyecto de código abierto de TorchTPU, su esperada versión de PyTorch. Con ello, Google se une a Amazon en el intento de romper el monopolio de NVIDIA en la industria de la IA, donde la mayoría de las aplicaciones para inteligencia artificial se desarrollan por defecto para ejecutarse en las aceleradoras y chips de NVIDIA.

PyTorch es un popular conjunto de herramientas de código abierto que los desarrolladores de aplicaciones de IA y las startups utilizan para crear, entrenar y ejecutar modelos de IA. Según algunas estimaciones, lo utiliza el 85 % de las aplicaciones de IA. PyTorch fue desarrollado originalmente por Meta (entonces Facebook) en 2016, mucho antes de que el mundo intuyera que los grandes lenguajes LLM cambiarían el mundo.

En aquel momento, las GPUs de NVIDIA ya eran el hardware estándar para la investigación en IA, por lo que muchas de las características de PyTorch se diseñaron para funcionar específicamente con ellas. En 2022, Meta cedió PyTorch a la Linux Foundation, la organización sin ánimo de lucro que gestiona muchos proyectos importantes de código abierto.

TorchTPU, el PyTorch de Google

TorchTPU permite que las aplicaciones de IA se ejecuten en los chips de IA de Google, llamados Unidades de Procesamiento Tensorial (TPU). Además, facilita la migración de aplicaciones PyTorch existentes a las TPU y, por lo tanto, a Google Cloud. Los desarrolladores pueden hacerlo con un simple cambio de configuración y sin necesidad de reescribir sus aplicaciones.

Señalar que Amazon hizo un anuncio similar esta misma semana, al lanzar su propia versión de PyTorch llamada TorchNeuron. Permite portar aplicaciones de IA al chip de IA desarrollado por Amazon, Trainium, y también a AWS sin necesidad de reescribir el código. Amazon también anunció que irá aún más lejos en su esfuerzo por reducir el control de NVIDIA sobre PyTorch. Está enviando código al proyecto principal de PyTorch que desacopla varias funciones de los chips del gigante verde, lo que lo hace más compatible con cualquier hardware por defecto.

Sin embargo, es posible que Google supere a Amazon en algunos aspectos. Afirma haber trabajado directamente con Meta, Hugging Face, Inferact (creador de vLLM), RadixArk (creador de SGLang) y otros para garantizar que las funciones y las bibliotecas de código de TorchTPU funcionen correctamente con estas populares herramientas de desarrollo de IA, al igual que lo hace el PyTorch original.

Además, el gigante de las búsquedas ha lanzado una herramienta específica, la suite de agentes TPU, para ayudar a los desarrolladores a migrar sus aplicaciones a los chips y la nube de Google y corregir errores durante el proceso. También ha actualizado su popular herramienta LiteRT, que ejecuta IA en teléfonos, portátiles y dispositivos integrados, para que funcione mejor con las aplicaciones de IA de PyTorch.

Los lanzamientos de Google y Amazon no significan que los desarrolladores de aplicaciones de IA vayan a abandonar automáticamente el hardware de NVIDIA porque ahora puedan migrar fácilmente a chips y nubes alternativas. Pero es evidente que Amazon y Google están trabajando para acabar con la gran ventaja que el gigante verde tiene en la industria de la IA y el desarrollo de aplicaciones es clave.