Cómo proteger los agentes de IA, de actores externos y de ellos mismos

Proteger los agentes de IA será una de las tareas más importantes de la industria de la ciberseguridad. Y es que a medida que las organizaciones adoptan rápidamente agentes de IA para automatizar tareas y potenciar la eficiencia, estas entidades autónomas se están consolidando como una nueva y poderosa clase de identidad y con privilegios tan avanzados como «representar» a los humanos.

Los agentes de IA introducen riesgos nuevos, incluidos alucinaciones del agente, uso indebido y posible control por parte de los ciberdelincuentes. Estos riesgos se intensifican cuando los agentes requieren privilegios elevados. CyberArk, la firma especializada en seguridad de identidades, ha anunciado la disponibilidad general de CyberArk Secure AI Agents, una de las primeras soluciones que incluye controles de privilegios para proteger los agentes de IA.

CyberArk Secure AI Agents aborda los desafíos planteados aplicando el nivel adecuado de controles de privilegios, lo que ayuda a garantizar que los agentes de IA tengan únicamente el acceso necesario, cuando lo necesitan y nada más. Este enfoque reduce el riesgo, ayuda a prevenir accesos no autorizados y permite a las organizaciones escalar con confianza sus iniciativas basadas en IA.

«A medida que las organizaciones adoptan agentes de IA, debemos comprender cómo evolucionan los riesgos centrados en la identidad cuando los agentes requieren privilegios elevados”, explica Matt Cohen, CEO de CyberArk. «Sin un descubrimiento sólido, controles de privilegios robustos y una gestión integral del ciclo de vida, las organizaciones corren el riesgo de perder visibilidad y abrir la puerta a ataques catastróficos de agentes. CyberArk protege de forma única todo el espectro de identidades —humanas, máquinas y agentes de IA—, aplicando el nivel adecuado de controles de privilegios, permitiendo la innovación mientras se mantiene la seguridad y el cumplimiento normativo».

Y parece necesario ya que un estudio de esta compañía sobre CISOs, prevé que la adopción de agentes de IA alcance el 76% de empresas en los próximos tres años. Sin embargo, menos del 10% de las organizaciones cuentan con controles de seguridad y privilegios adecuados.

Proteger los agentes de IA

Los agentes de IA actúan con autonomía, razonamiento y acceso a sistemas sensibles, lo que a menudo requiere permisos privilegiados para ejecutar sus funciones. Sin una supervisión adecuada, estos privilegios pueden ser objeto de abuso o vulneración, provocando graves consecuencias empresariales y regulatorias.

La plataforma de Seguridad de la Identidad de CyberArk ofrece controles de privilegios integrales para todo el espectro de identidades: humanas, de máquinas y de IA. La extensión a agentes de IA autónomos aplicarán los mismos principios de acceso just-in-time, mínimo privilegio y monitorización continua de sesiones.

Este enfoque unificado, basado en privilegios, garantiza que cada identidad sea gobernada, protegida y monitorizada con el mismo rigor, permitiendo la innovación sin comprometer la seguridad ni el cumplimiento normativo, ofreciendo capacidades como:

• Detección integral de agentes: detección automática de agentes de IA en entornos SaaS, en la nube y de desarrollo, con perfiles enriquecidos que incluyen propiedad, roles y derechos de acceso.
• Acceso seguro para agentes: autenticación sólida y acceso con privilegios mínimos, sin privilegios permanentes y auditoría de la actividad del agente.
• Detección de amenazas en tiempo real: monitorización continua de anomalías y accesos no autorizados, activando alertas automatizadas y una respuesta rápida.
• Gestión del ciclo de vida y cumplimiento normativo: gobernanza del agente de IA desde su creación hasta su desactivación, dando soporte a los requisitos normativos en constante evolución y a la preparación para auditorías.