Los ataques basados en IA generativa, entre las amenazas para la ciberseguridad en 2024

Los ataques basados, o que utilicen, la IA generativa, figuran entre las principales amenazas para la ciberseguridad en 2024, según TechRepublic. Así queda recogido en un informe sobre previsiones de ciberseguridad a nivel global realizado por expertos de Google Cloud y empresas como Mandiant Intelligence, Mandiant Consulting o VirusTotal.

Eso sí, el informe también señala que al igual que la IA generativa puede servir para realizar ataques, también servirá para defenderse de ellos. Además, el informe pone sobre avisio al personal de seguridad de empresas y entidades sobre los ataques respaldados por países entre otras amenazas.

Los atacantes utilizarán la IA generativa y los modelos grandes de lenguaje para ataques de phishing e intentar engañar mediante ingeniería social a sus víctimas, según las predicciones de Google AI. Esto es posible porque esta Inteligencia Artificial es capaz de generar contenido de aspecto natural, lo que puede llevar a los empleados de las empresas que estén sufriendo un ataque a tener dificultades para identificar emails falsos por fallos gramaticales o de ortografía.

También a recibir llamadas engañosas y de spam que pueden confundir, porque no hay un robot al otro lado. Incluso podrían utilizarla para crear contenido falso o noticias engañosas, que utilizar en contactos de ingeniería social para conseguir información para realizar ataques en otro momento.

Todo esto hará que tanto la IA generativa como los modelos grandes de lenguaje sean cada vez más populares en los ataques, y se ofrezcan cada vez más en los foros y mercados donde se relacionan los ciberdelincuentes como un servicio de pago de ayuda para realizar ataques, como en campañas de phishing. También para expandir desinformación y noticias falsas.

Pero como hemos comentado, ambos sistemas pueden utilizarse también para mejorar la defensa ante los ataques. La IA generativa se puede utilizar en inteligencia para la identificación de amenazas, así como para el análisis de datos. Su uso también podría mejorar la velocidad de reacción ante un ataque, así como aumentar la escala de su defensa. Incluso ante ataques que impliquen grandes cantidades de datos.

Los ataques respaldados por países también pueden ser un peligro en 2024. Especialmente los que se realicen contra el gobierno de Estados Unidos a medida que se acerquen las elecciones presidenciales en el país, previstas para 2024. Pero estos ataques también pueden tener su origen en el hacktivismo, o en atacantes motivados políticamente y que no están asociados ni respaldados por ningún país.

Otro de los peligros que acechan a la ciberseguridad en 2024 es el malware que borra la memoria de un ordenador, que aunque se ha utilizado ya en ataques de grupos rusos, principalmente contra Ucrania, puede crecer y ampliarse su uso. Además, los grupos de atacantes pueden crear en 2024 botnets durmientes, por ejemplo en dispositivos de IoT, para poder escalar ataques a placer activándolas cuando lo necesiten. La activación de estas botnets, además, por su naturaleza temporal, resulta bastante complicada, por lo que los expertos en ciberseguridad tienen que estar muy alerta ante su presencia.

Pero además de estas novedades, Google Cloud avisa también de la vigencia de otros tipos de ataque más tradicionales. Así, las vulnerabilidades de «día cero» pueden seguir aumentando, y los atacantes, especialmente los que tiene países detrás, pueden seguir utilizándolas, debido a que les ofrecen acceso continuo a los sistemas y entornos objetivo.

Los correos de phishing y el malware son relativamente sencillos de identificar en su mayoría para los expertos en seguridad y los equipos de TI de las empresas, pero este tipo de vulnerabilidades mencionado sigue siendo bastante eficaz, y es mucho más complicado de detectar.

En entornos multicloud e híbridos, las empresas tienen que tener cuidado con problemas de identidad y errores en las configuraciones, puesto que podrían permitir a los atacantes moverse por distintos entornos cloud. Además, puede que muchos atacantes utilicen servicios sin servidor en 2024, por los niveles de escalabilidad, flexibilidad y automatización que consiguen con ellos.

Google Cloud está detectando un interés cada vez mayor por los ataques de cadena de suministro a través de gestores de paquetes, como NPM (Node-js), PyPi (Python) y crates.io (Rust). Este tipo de ataque tiene muchas posibilidades de aumentar, por el bajo coste de su despliegue y el gran impacto que puede ocasionar. La compañía cree también que SecOps estará cada vez más consolidado el próximo año.