Deloitte: Las empresas están implementando agentes de IA más rápido de lo que los protocolos de seguridad pueden seguir

Las empresas están incrementando el uso de agentes de IA a un ritmo mayor al que construyen las medidas de protección adecuadas, según el último informe State of AI in the Enterprise de Deloitte.

Basado en una encuesta a más de 3.200 líderes empresariales de 24 países, el estudio reveló que el 23% de las empresas utilizan actualmente agentes de IA «al menos moderadamente», pero se prevé que esta cifra aumente al 74% en los próximos dos años. En cambio, se espera que el porcentaje de empresas que afirman no utilizarlos en absoluto, actualmente el 25%, se reduzca a tan solo el 5%.

Sin embargo, el auge de los agentes (herramientas de IA entrenadas para realizar tareas de varios pasos con poca supervisión humana) en el lugar de trabajo no se está complementando con las medidas de seguridad adecuadas. Solo alrededor del 21% de los encuestados indicó a Deloitte que su empresa cuenta actualmente con sólidos mecanismos de seguridad y supervisión para prevenir posibles daños causados ??por los agentes.

«Dada la rápida adopción de la tecnología, esto podría representar una limitación significativa», escribió Deloitte en su informe. «A medida que la IA agencial pasa de las pruebas piloto a las implementaciones de producción, establecer una gobernanza sólida debería ser esencial para generar valor y gestionar el riesgo«.

Agentes de IA, seguridad y supervisión

Empresas como OpenAI, Microsoft, Google, Amazon o Salesforce han comercializado agentes como herramientas que aumentan la productividad, con la idea central de que las empresas pueden delegarles operaciones laborales repetitivas y de bajo riesgo mientras los empleados humanos se concentran en tareas más importantes. La Era de la Inteligencia Artificial aplicada, como puedes ver en nuestro Orbital Vision 2026.

Sin embargo, una mayor autonomía conlleva un mayor riesgo. A diferencia de los chatbots más limitados, que requieren indicaciones cuidadosas y constantes, los agentes pueden interactuar con diversas herramientas digitales para, por ejemplo, firmar documentos o realizar compras en nombre de las organizaciones. Esto deja más margen de error, ya que los agentes pueden comportarse de forma inesperada, a veces con consecuencias desastrosas , y ser vulnerables a ataques de inyección de indicaciones.

El nuevo informe de Deloitte no es el primero en señalar que la adopción de la IA está eclipsando la seguridad. La tecnología siempre evoluciona más rápido que nuestra comprensión de cómo puede fallar y, como resultado, las políticas a todos los niveles tienden a retrasarse con respecto a su implementación. Esto ha sido especialmente cierto con la IA, ya que la cantidad de exageración cultural y presión económica que ha estado impulsando a los desarrolladores de tecnología a lanzar nuevos modelos y a los líderes organizacionales a comenzar a usarlos no tiene precedentes.

Pero los informes, como el nuevo informe de Deloitte «El estado de la IA generativa en la empresa», apuntan a lo que muy bien podría convertirse en una peligrosa división entre implementación y seguridad a medida que las industrias amplían el uso de agentes y otras potentes herramientas de IA.

La consultora explica que la supervisión debería ser la consigna: las empresas deben ser conscientes de los riesgos asociados con el uso interno de agentes y tener políticas y procedimientos establecidos para garantizar que no se desvíen y, si lo hacen, que el daño resultante pueda gestionarse. Las organizaciones necesitan establecer límites claros para la autonomía de los agentes, definiendo qué decisiones pueden tomar de forma independiente y cuáles requieren aprobación humana, recomienda Deloitte en su nuevo informe.