Primeros resultados del Proyecto Glasswing: asegurar la IA con IA, funciona

Anthropic ha publicado un informe inicial sobre los resultados del Proyecto Glasswing, uno de los mayores esfuerzos coordinados de la industria tecnológica por encontrar y corregir vulnerabilidades de software en la infraestructura más crítica del mundo antes de que los adversarios puedan explotarlas.

Esta iniciativa de ciberseguridad, con base en el modelo de IA de vanguardia Claude Mythos Preview, llamó la atención por su modelo de distribución. Anthropic explicó que el desarrollo era demasiado peligroso para lanzarlo al público y por ello se reservaría para uso por la coalición de grandes empresas que se habían añadido al proyecto.

Resultados del Proyecto Glasswing

Los primeros resultados son prometedores. La compañía dice que su modelo ha ayudado a sus socios a encontrar más de 10.000 vulnerabilidades en el primer mes desde su lanzamiento, entre ellas, centenares de vulnerabilidades críticas o de alta gravedad utilizando este modelo.

La compañía afirmó que la tasa de detección de errores de sus socios se había multiplicado por más de diez. Cloudflare encontró 2000 errores, 400 de los cuales son de gravedad alta o crítica. Mozilla informó previamente que encontró y corrigió 271 vulnerabilidades en Firefox, diez veces más que las encontradas en una versión anterior del navegador que utilizaba otro modelo, mientras que el aumento de actualizaciones de seguridad de Microsoft se debe aparentemente a los errores detectados mediante Mythos Preview.

La misma Anthropic también utilizó el modelo para analizar 1000 proyectos de código abierto en los últimos meses y encontró 6202 vulnerabilidades de gravedad alta y crítica de un total de 23.019 vulnerabilidades. Si bien la empresa no lo incluyó en el informe, una firma de investigación de seguridad afirmó recientemente haber encontrado una forma de vulnerar macOS, un sistema operativo conocido por su estricta seguridad, gracias a las capacidades de detección de errores de Mythos.

La compañía explicó en su informe que aún no ha lanzado Mythos Preview al público, ya que ninguna empresa (incluida ella misma) ha desarrollado medidas de seguridad lo suficientemente sólidas como para evitar el uso malicioso de modelos como este. Y es que esta iniciativa volvió a traer al primer plano de la actualidad uno de los grandes desafíos de la industria tecnológica actual, IA y ciberseguridad, y el papel de la IA en los ciberataques, permitiendo campañas maliciosas cada vez más avanzadas, más baratas y accesibles.

Anthropic tiene previsto lanzar otros modelos de la clase Mythos en el futuro, cuando las correspondientes medidas de seguridad estén disponibles.