A1 Digital trae a España el servicio de IA soberana Dedicated Inference de Exoscale

Tras su desembarco en España a comienzos de verano, A1 Digital ha presentado un servicio de su nube europea Exoscale, al que ha denominado Dedicated Inference y que permite a las empresas usar la IA con autonomía y sin depender de un solo proveedor. Con este servicio, los clientes consiguen acceso a un entonro de IA optimizado y serverless con GPUs de NVIDIA dedicadas y alojadas en centros de datos europeos, sin tener que gestionar la infraestructura subyacente.

Dentro de este entorno, diseñado y desplegado conforme al RGPD, es posible ejecutar el modelo de IA elegido, además de ampliar o reducir la capacidad del servicio en cualquier momento, según las necesidades que tengan los usuarios.

Con Dedicated Inference, Exoscale ofrece la gestión completa de la infraestructura, desde el escalado hasta las acutalizaciones en segundo plano. Además, su API es compatible con OpenAI. El proceso de datos que se lleva a cabo en el servicio está sujeto tanto a las normas del RGPD como a la Ley Federal de Protección de Datos de Suiza (nPLD).

Su facturación no se basa en el consumo de tokens, sino que se calcula al segundo, de forma transparente, en función de los recursos de hardware aprovisionados. Por otro lado, ofrece una disponibilidad garantizada del 99,95%.

Los miembros de departamentos de TI de las empresas clientes del servicio de A1 Digital y Exoscale, así como científicos de datos o responsables de aplicaciones de negocio usuarios de Dedicated Inference pueden elegir un modelo de IA en la plataforma de colaboración de IA Hugging Face y utilizarlo dentro de su entorno de Dedicated Inference en Exoscale.

Para ello solo tienen que hacer referencia al ID del modelo elegido en Hugging Face, ya sea público, privado o de acceso restringido. Una vez hecho esto, Exoscale crea una instancia del modelo cargado en las GPU de NVIDIA dedicadas y lo pone a disposición del cliente a través de una interfaz compatible con OpenAI. Todo de forma segura.

Elisabetta Castiglioni, CEO de A1 Digital, ha comentado sobre este servicio que «Dedicated Inference es ideal para aquellos equipos que desean pasar de la fase de experimentación a la de producción sin tener que construir y operar su propia plataforma de IA. Nos tomamos muy en serio lo de «Dedicada» en Dedicated Inference: los datos y tokens de los clientes no comparten hardware con otros usuarios de la nube. Esto significa que se benefician de un rendimiento constante y una latencia extremadamente baja. El aislamiento se extiende hasta los registros y la memoria de la GPU, garantizando la máxima protección de los datos».