SambaNova desafía a NVIDIA con su nuevo chip y con Intel como aliada

Después de unos meses trepidantes en los que los rumores de que se preparaba su venta a Intel, ahora su aliada, y de cerrar una ronda de financiación en la que han conseguido 350 millones de dólares, SambaNova tiene listo su chip SN50, con el que promete mejoras drásticas en rendimiento de la inferencia de IA y pretende plantar cara a NVIDIA.

En la ronda de financiación que acaba de cerrar, SambaNova ha contado con una fuerte participación de la división de Intel Capital, compañía con la que va a colaborar en el desarrollo de nuevos sistemas de inferencia de IA de alto rendimiento.

Además de Intel, la ronda de financiación que ha cerrado SambaNova ha contado con una nutrida presencia de inversores, lo que pone de manifiesto el interés de sus chips para trabajos con IA. Entre ellos están Assam Ventures, Battery Ventures, Gulf Development Public Company Limited, Mayfield Capital, QIA, Saudi First Data, Seligman Ventures, T. Rowe Price, &E, 8Square, Atlantic Bridge, BlackRock, GV, Nepenthe, Nuri Capital y Redline Capital.

El objetivo de la colaboración entre SambaNova e Intel es ofrecer a las empresas una alternativa a las GPUs, que actualmente se encargan de soportar la mayoría de cargas de trabajo relacionadas con la IA. De hecho, la inversión de Intel se destinará, entre otras cosas, a acelerar el despliegue de una nueva nube de IA, que estará impulsada por Intel y se basará en la plataforma SambaNova Cloud existente. Intel integrará en SambaNova Cloud sus CPUs Xeon, con el objetivo de facilitar a la compañía la creación de una infraestructura más eficiente y optimizada para modelos grandes de lenguaje multimodales.

Uno de los principales elementos diferenciadores de los chips de SambaNova, como el SN50, es su eficiencia energética, ya que al parecer pueden generar más tokens por kilovatio hora que otros procesadores similares de sus rivales.

El SambaNova SN50 está optimizado para procesar con rapidez grandes conjuntos de datos y realizar cálculos complejos. Sus creadores aseguran que su potencia de cálculo es cinco veces superior a la de otros chips, además de contar con un ancho de banda de red que su predecesor, el SN40.

Permitirá conectarle hasta 256 aceleradores a través de una interconexión de alta velocidad de varios terabits por segundo. De esta forma puede trabajar con modelos de IA de mayor tamaño y amplitud de contexto, y hacerlo además con un rendimiento y capacidad de respuesta superiores. Todo sin aumentar sus costes de cálculo, según apuntan desde SambaNova.

Está basado en una arquitectura de tres niveles que puede trabajar con modelos de IA de hasta 10 billones de parámetros y 10 millones de longitudes de contexto. Esto hace que pueda conseguir un razonamiento de mayor profundidad, y que los sistemas que lo integren sean más «inteligentes».

Su memoria multimodelo residente y sus capacidades de almacenamiento en caché agencial optimizan la eficiencia energética, lo que hace que su coste cpor token sea menor. Todo esto hace que esté destinado, entre otras aplicaciones, a asistentes de voz por IA, que requieren una latencia bajísima, con el fin de poder operar en tiempo real. Además, desde SambaNova aseguran que podrá alimentar varios miles de sesiones al mismo tiempo.

Al combinarlo con las CPU Intel Xeon en la nube de SambaNova, las tareas de la plataforma podrán distribuirse de forma más eficiencia, y mejorar la altencia y el rendimiento de las cargas de trabajo de IA. Además, Intel ha comentado que podrá acelerar la expansión de la nube de SambaNova a través de arquitecturas de referencia, entre otras cosas. También por sus relaciones con proveedores de software e integradores de sistemas.

Cuando la nube esté lista, Intel y SambaNova la comercializarán de manera conjunta, para lo que aprovecharán las relaciones empresariales de Intel. Ventajas para ambas partes, por tanto. SambaNova sacaría partido a las relaciones comerciales de Intel, forjadas durante décadas, e Intel a chips para IA de gran potencia, un área en el que no cuenta con demasiada presencia.