NVIDIA lanza la iniciativa de ciberdefensa, Open Secure AI Alliance

NVIDIA ha reunido a algunas de las mayores empresas tecnológicas del mundo para formar la Open Secure AI Alliance. La iniciativa nace con el objetivo de mejorar la ciberseguridad y además del gigante verde incluye entre sus 27 miembros fundadores a importantes organizaciones como HPE, Red Hat, Microsoft, SpaceX, IBM, Dell o la Fundación Linux.

«La Alianza de IA Segura Abierta, basándose en el liderazgo de la iniciativa Akrites de la Fundación Linux y el trabajo de la comunidad OpenSSF, trabajará para corregir y divulgar vulnerabilidades utilizando tecnologías abiertas», explican desde NVIDIA en el anuncio.

El grupo argumenta que, para defenderse mejor de los ataques en la era de los modelos de IA como el Mythos 5 de Anthropic, los investigadores de seguridad necesitan acceso tanto a modelos de código abierto como a modelos de código cerrado. Como ejemplo clave, NVIDIA citó el reciente ataque malicioso de OpenAI contra Hugging Face. Ésta intentó inicialmente utilizar modelos comerciales de código cerrado para detectar y repeler el ataque, pero sus solicitudes activaron las medidas de seguridad y fueron rechazadas. Posteriormente, recurrió a modelos de código abierto y logró detener el ataque.

«Cuando las herramientas de IA cerradas, incapaces de distinguir entre atacantes y defensores, bloquearon un análisis forense esencial, Hugging Face ejecutó el modelo GLM 5.2 de peso abierto en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión», describe NVIDIA.

Open Secure AI Alliance, la unión y la apertura hacen la fuerza

Los socios fundadores de la alianza están intensificando sus esfuerzos para contribuir con diversas capacidades. NVIDIA anunció que ofrecerá modelos abiertos, ponderaciones de modelos, datos y nuevos arneses de agentes para acelerar el desarrollo de nuevas herramientas y técnicas de ciberseguridad.

HPE aportará estándares y métodos que permitan verificar criptográficamente los agentes y servicios de IA, mientras que Hugging Face contribuirá con un formato seguro para almacenar las ponderaciones de los modelos de IA, denominado Safetensors. Microsoft, SpaceXAI, IBM y Red Hat también aportarán tecnología de IA de código abierto.

El grupo también insta a los gobiernos a colaborar con las empresas en inversiones compartidas en infraestructura de IA abierta. Añadió que los reguladores deberían reconocer los modelos abiertos como «activos defensivos, no pasivos», y afirmó que las restricciones generalizadas a los sistemas de IA de vanguardia abiertos «debilitan la capacidad de defensa y conllevan el riesgo de concentrar el poder» en unos pocos proveedores cerrados. como Anthropic, Google y OpenAI que precisamente se quedaron fuera de la carta abierta en apoyo de los modelos de IA de peso abierto.

Según informes recientes , la administración Trump está considerando una prohibición generalizada de los modelos de IA de código abierto chinos. Estos están ganando popularidad frente a los modelos cerrados de empresas como OpenAI y Anthropic, ya que son más económicos. Estas dos compañías, junto con otras empresas comerciales de IA como Meta y Google, brillan por su ausencia en la nueva iniciativa Open Secure AI Alliance