La AEPD informa del primer ciberataque en España por agentes de IA autónomos

La Agencia Española de Protección de Datos ha informado del primer ciberataque registrado en España por agentes de IA autónomos. Aunque la agencia no ha detallado las consecuencias, señala la gravedad de un caso que recuerda al de Hugging Face y otros sucedidos en Estados Unidos donde los agentes escaparon de todo el control y atacaron organismos y empresas.

La AEPD explica que la información disponible procede de la notificación presentada por la organización afectada (que no se ha precisado) y deberá ser objeto del correspondiente análisis. La agencia establece las cautelas previas, señalando que la utilización de un modelo de IA concreto (tampoco se ha informado cuál se ha utilizado) «no implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas».

Dicho lo anterior, la AEPD señala la gravedad de un tipo de casos que han abierto la caja de Pandora: agentes de IA fuera de control adoptando medidas agresivas sin instrucciones explícitas de humanos. Un salto cualitativo que aumenta la desconfianza y complica el despliegue de unos agentes que se han convertido en la punta de lanza de la IA.

Primer ciberataque en España a manos de agentes de IA autónomos

El caso se conoce en un momento donde las tecnologías de inteligencia artificial se encuentran en una encrucijada. Algunos de los grandes laboratorios han propuesto ralentizar el desarrollo de los modelos de vanguardia para garantizar la seguridad y el control. La opinión es mayoritaria, pero no única, y otras voces apuestan por todo lo contrario, acelerar, pero aumentando los niveles de seguridad ¿Es posible?

La IA es un desafío enorme para la ciberseguridad. A medida que las herramientas de IA generativa se han vuelto más potentes, asequibles y accesibles, los ciberdelincuentes las adoptan cada vez más para respaldar todo tipo de ataques, perfeccionando sus campañas de ransomware, phishing, exploits de día cero o DDoS, ampliando la superficie de ataque. Y eso hasta ahora, porque el uso de agentes de IA autónomos es un salto de nivel cualitativo.

La AEPD informa del caso español como una alerta de situación: «lo relevante desde la perspectiva de la protección de datos es que un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque», señalan. Una señal significativa (por si faltara confirmación) de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales.

El agente de IA atacante inició una búsqueda de vulnerabilidades en archivos genéricos, y realizó un login correcto en un sistema informático de una organización no determinada. Una vez accedió al sistema, comenzó a buscar, de manera autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos y también acceder a facturas.

Modificar el escenario de la gestión de riesgos

La agencia señala que importancia de esta notificación, además de por la tecnología empleada, radica en modificar el escenario de la gestión de riesgos. En primer lugar, confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos. Es decir, no basta con incluir una referencia genérica a malware, phishing o acceso no autorizado, pues esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente.

En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez. En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.

Una señal para actuar

El uso de agentes de IA autónomos de manera ofensiva debe impulsar una «revisión inmediata de los modelos de seguridad y protección de datos», asegura la AEPD. Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor, pero en el que continuarán siendo decisivos los mismos fundamentos: «conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder», explican desde la agencia.