IBM presenta herramientas open source para securizar sistemas de Inteligencia Artificial

La seguridad es una de las preocupaciones principales de todos los que apuestan por la Inteligencia Artificial y su adopción en distintos ámbitos. Como resultado, demandan que las tecnológicas y las empresas de seguridad diseñen soluciones pensadas para elevar el nivel de protección de los sistemas que hacen uso de dicha tecnología. Según ZDNet, IBM es una de las que ha recogido el guante, y como muestra, un kit de herramientas open source que acaba de presentar para securizar sistemas de Inteligencia Artificial.

La compañía lo ha anunciado en la conferencia de seguridad RSA que se está celebrando en San Francisco, donde ha presentado este kit para apoyar a los desarrolladores y usuarios de sistemas de Inteligencia Artificial y evitar que puedan ser víctimas de ataques a través de ellos. Se denomina Adversarial Robustness Toolbox.

La finalidad de este kit es detectar hasta los pequeños cambios ocasionados por las debilidades en los sistemas de Inteligencia Artificial que pueden desembocar en ataques y brechas de seguridad. Estos pueden manifestarse incluso hasta con modificaciones en contenidos como imágenes, vídeos o grabaciones de audio. Todos pensados para engañar a dichos sistemas, e incluso para hacer que realicen operaciones maliciosas.

En definitiva, Adversarial Robustness Toolbox intenta combatir lo que se conoce como Inteligencia Artificial Antagonista (Adversarial AI). Para ello se dedica a recopilar datos de amenazas, así como a ofrecer a los desarrolladores ayuda a la hora de crear, probar y desplegar sistemas de defensa práctica para blindar sistemas de Inteligencia Artificial reales. Este kit incluye una biblioteca, interfaces y diversas métricas. Con estas herramientas, los desarrolladores podrán desarrollar soluciones de ciberseguridad para Inteligencia Artificial. Además, al ofrecerla a la comunidad open source, se abre la puerta a que otros desarrolladores puedan ampliar sus componentes.

Según han confirmado desde IBM, este kit  «contiene ataques, defensas y bancos de pruebas para implementar una seguridad avanzada. Los investigadores de IBM se decidieron a desarrollarla cuando descubrieron que las herramientas existentes no proporcionaban las defensas necesarias para proteger a los sistemas de Inteligencia Artificial«. También destacan que «este área de investigación emergente busca las mejores maneras de defender los sistemas de Inteligencia Artificiales en los que confiamos antes de que los ciberdelincuentes puedan atacarlos«.