El papel de la IA en los ciberataques es imparable

La inteligencia artificial se ha infiltrado en tantos ámbitos que no debería sorprender que se utilice también para usos perversos. Uno de estos ‘lados oscuros de la IA’ se sitúa en ciberseguridad. Y preocupa especialmente el papel de la IA en los ciberataques que permite campañas maliciosas cada vez más avanzadas y también baratas, extendiéndolas a grupos que hasta ahora no contaban con capacidad técnica.

La última alerta sobre el uso de la IA en ciberataques llega de Microsoft Threat Intelligence, la división de seguridad del gigante del software. Así como la IA se utiliza para acelerar la codificación, la escritura, el diseño y muchas otras tareas, los cibercriminales también recurren a ella para simplificar sus desarrollos y aumentar su alcance y peligrosidad.

IA en los ciberataques, cada vez mayor potencial

Microsoft explica que «los actores de amenazas han incorporado la automatización a sus estrategias, ya que los servicios fiables y rentables basados ??en IA reducen las barreras técnicas e integran capacidades directamente en sus flujos de trabajo. Estas capacidades reducen la fricción en el reconocimiento, la ingeniería social, el desarrollo de malware y la actividad posterior a la vulneración, lo que permite a los ciberdelincuentes actuar con mayor rapidez y perfeccionar sus operaciones».

Se pone el ejemplo de ‘Jasper Sleet’, un desarrollo malicioso que aprovecha la IA durante todo el ciclo de vida del ataque para conseguir personal, mantener su puesto y abusar del acceso a gran escala. El uso de la IA está tan extendido que Microsoft afirma que se observa en todos los niveles de ciberataques:

«A medida que los creadores de malware integran la IA en sus operaciones, no se limitan a usos previstos o que cumplen con las políticas de estos sistemas. Microsoft Threat Intelligence ha observado que los actores de amenazas experimentan activamente con técnicas para eludir o liberar los controles de seguridad de la IA y obtener resultados que, de otro modo, estarían restringidos. Estas estrategias incluyen la reformulación de indicaciones, el encadenamiento de instrucciones en múltiples interacciones y el uso indebido de indicaciones del sistema o de desarrolladores para obligar a los modelos a generar contenido malicioso».

Un ejemplo de ello sería el empleo de técnicas de jailbreak basadas en roles para eludir los controles de seguridad de la IA. En este tipo de escenarios, los desarrolladores podrían incitar a los modelos a asumir roles de confianza o afirmar que el actor de amenazas opera en dicho rol, estableciendo un contexto compartido de legitimidad.

La IA también se utiliza para apoyar la infraestructura de ciberataques, como la generación automática de sitios web y dominios:

«Los ciberdelincuentes han aprovechado técnicas basadas en redes generativas adversarias (GAN) para automatizar la creación de nombres de dominio que se asemejan estrechamente a marcas y servicios legítimos. Al entrenar modelos con grandes conjuntos de datos de dominios reales, el generador aprende patrones estructurales y léxicos comunes, mientras que un discriminador evalúa si los resultados parecen auténticos. Mediante el refinamiento iterativo, este proceso produce dominios de imitación convincentes, cada vez más difíciles de distinguir de la infraestructura legítima mediante métodos de detección estáticos o basados ??en patrones. Esto permite la creación y rotación rápidas de dominios de suplantación de identidad a gran escala, lo que facilita las operaciones de phishing, C2 y recolección de credenciales».

Microsoft también advierte sobre tendencias emergentes como el malware habilitado con IA que “integra o invoca modelos durante la ejecución en lugar de utilizar IA únicamente durante el desarrollo”. La división de Microsoft también emite consejos para mitigar este tipo de ataques. Y hablan de mitigación porque su eliminación se antoja imposible. A medida que la capacidad de la inteligencia artificial (especialmente la generativa) aumenta, también lo hace su potencial para crear y distribuir malware.