«El reto no es crear agentes IA sino ordenar y gobernar los que están naciendo»

La rápida evolución de la Inteligencia Artificial Generativa y la emergencia de los agentes autónomos están marcando un cambio de paradigma. Ya no hablamos de una IA que asiste de forma reactiva, sino de una IA que actúa y toma la iniciativa. Para profundizar en cómo una consultora tecnológica líder como Ayesa está integrando estas capacidades para transformar procesos de negocio críticos, hablamos con Víctor Fernández, director de DATA&AI and Digital Products de Ayesa, un área que cuenta con más de 600 profesionales. Analizamos los retos del talento, la gestión de riesgos en IA y la visión de futuro en la «Era Agéntica».

[MCPro] Dada la integración de los Datos, IA y Experiencia Digital en su división y su apuesta por los agentes autónomos, más allá de los bots conversacionales, ¿cómo transforma un proceso de negocio crítico (ej. gestión de red de utilities o tramitación de prestaciones sociales) la operación de un ecosistema de agentes de IA colaborativos?

[Víctor Fernández] Con la popularización hace un par de años de la nuevas IAs Generativas y los modelos de lenguaje largo (los LLMs) dimos un importante salto cualitativo, que nos permitió mejorar nuestras soluciones IA para pasar de sistemas más deterministas basados en flujos a sistemas más inteligentes y adaptables, con mayores y mejores capacidades de entendimiento y de respuesta.

Pero creo que el desarrollo de los nuevos ecosistemas de Agentes de IA está trayendo un cambio mucho más profundo para las empresas. Estamos pasando de tener una IA que asiste (como un bot conversacional que responde de manera reactiva) a una IA que actua, que toma la iniciativa. Es la diferencia entre programar una tarea y asignar una misión. Los agentes IA actúan de forma autónoma y proactiva, y son capaces de resolver problemas de negocio complejos antes incluso de que el humano los detecte. Esto va más allá de ser una optimización en los procesos o las soluciones existentes, esto va a implicar un verdadero cambio de paradigma.

Tomemos como ejemplo esa gestión de la red de una compañía energética e imaginemos un fallo en la red de abastecimiento. El modelo tradicional es reactivo: salta una alarma, un humano consulta varios sistemas e inicia un procedimiento, y entre tanto un cliente llama para quejarse. Es un proceso manual, lento y fracturado. Pero nuestro enfoque con Agentes IA colaborativos transforma esto radicalmente. Un Agente Analista predice un fallo en la red antes de que ocurra, un Agente Planificador decide que la mejor acción inmediata es por ejemplo desviar la carga de la red para proteger a un hospital y crear una orden de mantenimiento preventivo y finalmente un Agente de Soporte informa de esta orden de mantenimiento al técnico en su móvil y notifica al hospital que su servicio está garantizado.

Así, movemos al operador humano de «gestionar micro tareas» a «supervisar la misión», haciendo la operación resiliente, proactiva y centrada en prevenir o minimizar el problema, más que en solucionarlo una vez se ha producido. Esto es un ejemplo de la transformación que implicará la adopción de Agentes IA.

[MCPro] La estrategia de agentes de Ayesa se apoya en las plataformas tecnológicas de partners como Google Cloud, Salesforce, Amazon o Azure entre otros. ¿Cómo gestiona Ayesa el riesgo de una dependencia tecnológica y asegura que el valor diferencial (y el margen) residen en la capa de integración y conocimiento del negocio de Ayesa, y no en la plataforma subyacente del partner?

[Víctor Fernández] Vemos a los hiperescalares no como un riesgo, sino como un acelerador estratégico indispensable. El desarrollo de Agentes y de la IA Generativa a escala empresarial exige una capacidad de computación masiva, una latencia de respuesta mínima y mantener unos costes de operación competitivos, algo que solo los hiperescalares pueden proveer. Son los cimientos sobre los que construimos, y nuestra estrecha colaboración con ellos es una fortaleza que nos permite ofrecer soluciones de vanguardia.No obstante, nuestro objetivo siempre es ofrecer un valor a largo plazo y evitar en lo posible el «vendor-locking» a nuestros clientes.

Por eso, nuestro valor diferencial no reside en las tecnologías subyacentes, sino en la capa de orquestación agnóstica que desarrollamos para ellos y, sobre todo, en nuestro acompañamiento y consultoría expertos. Nuestro valor no está en revender el «motor» de la IA, sino en crear el «sistema de navegación» y el «chasis» que lo conectan al negocio real de nuestros clientes.

Al final, la tecnología de IA más avanzada sigue siendo una herramienta; es como un piano en un concierto: El valor real no está en el piano, sino en el talento experto que sabe interpretarlo. Nuestros +600 profesionales son esos intérpretes: moldean, adaptan y gestionan esa tecnología, aportando una experiencia en cada sector (banca y seguros, retail, utilities, sector público, etc) y una capacidad de integración que nuestros clientes no tienen in-house. Nosotros les acompañamos para convertir esa potencia bruta de la IA en resultados de negocio tangibles.

[MCPro] Usted dirige una división de más de 600 profesionales. Escalar las capacidades de IA hoy en día parece un reto, relacionado en gran parte con la escasa oferta de talento cualificado que hay en el mercado laboral. ¿Cuál es su estrategia para atraer y retener a ese talento?

[Víctor Fernández] Este es, sin duda, un de los retos más importante para cualquier directivo del sector tecnológico hoy en día. La escasez de talento con experiencia en el mundo IA es real, y casi lógica por otro lado. Ten en cuenta que gran parte de las tecnologías IA con las que trabajan nuestros equipos llevan en el mercado muy poco tiempo, y que la velocidad de evolución de esta tecnología es exponencial, cada día salen cosas nuevas. Por eso nuestra aproximación es un poco diferente. Nosotros no buscamos simplemente «fichar» talento, hemos creado un ecosistema para atraerlo, formarlo, potenciarlo y fidelizarlo.

Y nuestra principal palanca de atracción y de fidelización no es competir solo en salario, sino ofrecer dos grandes activos: En primer lugar estamos creando una comunidad de excelencia donde fomentamos la convergencia de disciplinas y la formación continua. Un experto en datos se sienta con uno en experiencia digital y otro en IA para diseñar conjuntamente una solución que probablemente nadie había pensado hasta ahora, con tecnologías que de momento muy poca gente está usando. Esta fusión de talentos junto al acceso directo a las últimas tecnologías y a las certificaciones de grandes partners como Google, Microsoft, AWS, etc crea una curva de aprendizaje constante que atrae y fideliza al talento.

Por otro lado nuestros equipos tienen la oportunidad de trabajar mano a mano con los equipos de las empresas más top de las principales industrias del mercado, en soluciones y productos digitales que usan cientos o miles de personas a diario. Proyectos blue-ship es todo lo que puedes entrar en Ayesa AI,Data&Digital Experience. Ver que tu trabajo realmente es importante, que tiene un impacto real en la sociedad, es también un gran aliciente. El verdadero talento busca retos profesionales constantes, y nosotros tenemos la capacidad de ofrecérselos.

[MCPro] En una división como la suya, que se supone punta de lanza en tecnologías IA ¿cómo se aseguran de ‘practicar lo que predican’? ¿De qué manera están sus equipos aplicando esas mismas tecnologías de IA para transformar y optimizar su propio trabajo diario?

[Víctor Fernández] Es una buena pregunta. Te podría decir que para un área como la nuestra, formada por +600 profesionales que son la punta de lanza de la compañía focalizados en construir productos digitales con IA en el core, «practicar lo que predicamos» es una obligación. Pero la respuesta va más allá. No sólo en nuestro área la IA está incorporada al proceso de desarrollo software, lo esta en toda la división de tecnología de Ayesa con más de 10.000 profesionales. Existen numerosos casos de uso relacionados con el ciclo de desarrollo software, oficinas internas de gobernanza de la IA (GenIA), contamos con plataformas propias de automatización del desarrollo (DevAI) y un comité mensual de IA con la alta dirección de la compañía siguiendo este proceso y ayudando con medidas y decisiones a su adopción. Hay una fuerte concienciación en este campo.

Nuestro verdadero reto en el área AI,Data&DX no obstante no es convencer a nuestra gente de que use la IA, eso ya lo tenemos ganado como decía, sino asegurarnos de que la usan de manera cohesionada. El mayor riesgo en un equipo tan experto y motivado es la fragmentación. Por eso, nuestro foco a nivel interno está en dos ejes: por un lado la gobernanza en el uso de la IA y por otro el escalado del conocimiento.

En cualquier caso, en nuestro día a día la IA ya es un colaborador más del equipo. Por supuesto, nuestros desarrolladores usan asistentes de código, pero vamos mucho más allá. Tenemos por ejemplo agentes que procesan la ingente documentación técnica que liberan nuestros partners (Google, AWS, Microsoft, etc.) y generan resúmenes de «lo que es relevante para nosotros y nuestros clientes», agentes que nos ayudan a encontrar fácilmente información muy concreta en nuestras enormes bases de conocimiento, agentes que nos ayudan a generar más rápido los informes de negocio, y así un largo etcétera. Vemos a la IA como una herramienta que nos libera de las tareas más repetitivas y nos acelera el trabajo, y que nos deja así centrarnos en la parte más creativa, donde el talento de nuestros equipos siempre será insustituible.

[MCPro] Ayesa es un socio tecnológico clave de la Administración Pública. El sector público se enfrenta al reto de la Gobernanza de Datos y de ofrecer una experiencia «citizen-centric». En su experiencia, ¿dónde reside el mayor obstáculo para implementar una visión 360 del ciudadano real: en la obsolescencia de los sistemas heredados, en la fragmentación y gobernanza de los datos, o en la cultura organizacional y la aversión al riesgo de la propia administración?

[Víctor Fernández] Bajo mi punto de vista, el principal obstáculo no es la obsolescencia tecnológica de los backoffices, que a menudo se cita. El verdadero reto, el más profundo, es la fragmentación y la falta de una gobernanza del dato unificada. Hoy, en un mismo gobierno, el NIF, el domicilio o los expedientes de un mismo ciudadano están duplicados en multitud de aplicaciones que no se hablan entre sí. El reto es crear un modelo y un repositorio de datos único del ciudadano para todas las administraciones, y un gobierno del dato común para gestionarlo. Iniciativas como la ‘Carpeta Ciudadana’ son un buen primer paso, pero a menudo se quedan en una “capa de apificación” que ataca el síntoma, no la enfermedad: Siguen bebiendo de sistemas fragmentados.

La verdadera transformación pasa por crear una visión 360 del ciudadano, un repositorio único que consolide todas las interacciones y guarde una traza completa. Solo así la administración puede dejar de ser reactiva (esperar a que el ciudadano pida) y convertirse en un agente proactivo (o aplicar agentes que puedan ser proactivos por ella). Un ejemplo claro es la AEAT: no te pide los datos para el borrador, te lo da hecho.

Y esto nos lleva al segundo gran reto, que es más cultural que técnico: la aversión al riesgo. La administración debe superar el miedo a ser proactiva, y a clarificar los trámites al ciudadano. El cambio cultural es imprescindible para que el sistema se dirija al ciudadano y le diga: ‘Hemos detectado que, por tu renta y situación familiar, tienes derecho a esta ayuda. ¿Procedemos a tramitarla?’.

[MCPro] Su división lleva muchos años creando bots conversacionales para múltiples sectores. La experiencia con estos bots no siempre es positiva, y en muchas ocasiones genera frustración y malestar en la persona que se encuentra con ellos. ¿Cuáles son en su opinión las claves técnicas o de diseño para que estos bots no generen rechazo y pasen a verse como un aliado?

[Víctor Fernández] Efectivamente, llevamos muchos años diseñando y creando asistentes conversacionales, tanto de voz como de texto, para optimizar la atención al cliente en grandes empresas, y hemos visto esa frustración de primera mano. El rechazo no lo genera el bot en sí, sino la promesa rota de una conversación que no lleva a ninguna parte.

Desde nuestra experiencia, una de las claves es el diseño de la personalidad y el contexto. El asistente es la cara y la voz visible de la empresa frente a sus clientes. Es vital que tenga una personalidad y un tono acordes a la marca, pero sobre todo, que sepa adaptarse al contexto en el que se encuentra el usuario. No es lo mismo hablar con un asistente para contratar un viaje de placer, que hablar con uno al que le estás solicitando una grúa después de tener un accidente. El primero puede ser más informal; el segundo debe ser empático, directo y resolutivo.

En segundo lugar, y esto es lo más importante, un asistente por encima de todo debe ser útil. La frustración nace de los «bots-FAQ» que simplemente repiten información que se puede encontrar por ejemplo en una web. Un asistente es un aliado cuando resuelve problemas reales. Y para conseguir esto, la clave técnica es la integración profunda con los sistemas de back-office. El asistente debe poder consultar el estado real de un pedido, modificar una cita o iniciar un expediente por ejemplo, no solo informarle al usuario sobre cómo hacerlo.

Aquí es donde separamos los «chatbots de caja», que se despliegan rápido pero ofrecen una experiencia limitada, de los agentes conversacionales que nosotros desarrollamos. Nuestros agentes están adaptados a la empresa y al contexto del usuario, y están enfocados a resolver de manera ágil tareas concretas. Cuando juntas esa utilidad real con una disponibilidad total 24/7, consigues que el usuario realmente agradezca tener esa herramienta delante. Los indicadores de NPS (o de satisfacción global del cliente) que logramos en los agentes que desplegamos lo corroboran.

[MCPro] La IA es clave para conectar lo digital (IT) con lo físico (OT). ¿De qué manera su división usa la IA para lograr una integración efectiva entre la experiencia del cliente (IT) y las operaciones en tiempo real (OT), asegurando que la interacción digital impacte la gestión física del servicio?

[Víctor Fernández] Esa es una perspectiva clave, y es exactamente como lo vemos. La verdadera revolución de la IA no es solo conectar sistemas (IT y OT), sino conectar el mundo digital con el mundo físico y real del cliente. Históricamente, los sistemas digitales y las operaciones físicas (o la realidad del cliente) han vivido de espaldas, con un humano actuando de traductor. La IA es, por primera vez, ese traductor universal instantáneo que disuelve esa barrera.

Cuando un cliente habla con un agente IA por WhatsApp para solicitar una grúa y le envía su ubicación en tiempo real, este agente está realmente conectando la experiencia física real del cliente: “estar con el coche averiado parado en una calle”, con una acción digital: “consultar la flota de coches y enviar la grúa disponible más cercana a esa coordenada”. O cuando un cliente envía una foto de una pared con humedades para dar un parte al seguro, ya no tiene que enviar un archivo adjunto que un humano interpreta días después. Hoy, nuestro agente de IA multimodal ve la foto, entiende el contexto físico del problema y traduce ese evento del mundo real en una acción digital y operativa inmediata como abrir un siniestro en los sistemas internos y agendar un perito.

En eso consiste la verdadera integración. La IA permite que un input desestructurado del mundo físico (una foto, una ubicación, la voz del cliente) se convierta en el disparador directo de un proceso de negocio digital y operativo. Gracias a los agentes IA estamos eliminando las barreras entre la realidad física de los clientes y las operaciones a nivel de sistemas digitales.

[MCPro] Ayesa ha lanzado una división pionera en seguridad y gestión de riesgos de la IA. Desde su perspectiva como responsable de la implementación de modelos, ¿cuáles son los nuevos vectores de ataque (p.ej., envenenamiento de datos, manipulación de prompts, extracción de modelos) que más le preocupa en los sistemas que despliegan para sus clientes en sectores críticos?

[Víctor Fernández] En Ayesa hemos lanzado esta nueva división de seguridad y gestión del riesgo en IA precisamente porque la superficie de ataque ha cambiado radicalmente con la adopción masiva de modelos generativos y sistemas de decisión automatizados. Ya no hablamos solo de ciberseguridad clásica, sino de una nueva capa de riesgos específicos relacionados con el uso de la Inteligencia Artificial. Los riesgos que más nos preocupan son tres principalmente:

El primero de estos riesgos es el envenenamiento de datos, o data poisoning. Es el más insidioso, porque ocurre si la IA aprende de un «libro manipulado», es decir, de datos de entrenamiento que ya vienen con sesgos o trampas. El modelo tomará decisiones erróneas sin que nadie sepa por qué. Nuestra obsesión aquí es garantizar el «linaje del dato»: verificamos la integridad de las fuentes antes de que el modelo aprenda de ellas.

El segundo gran riesgo es la manipulación de prompts, el “prompt injection”. Es probablemente el más mediático, y consiste en intentar engañar a la IA manipulando sus instrucciones para que ignore y se salte ciertas políticas de seguridad o devuelva información confidencial. En sectores críticos (como energía, transporte o defensa) donde desplegamos agentes basados en IA, esto es un riesgo real y muy importante. Para evitarlo, no exponemos el modelo directamente; construimos «barreras» (guardrails), una capa de seguridad semántica que filtra el input del usuario antes de que llegue a la IA.

Finalmente, nos preocupa la extracción y filtrado de modelos. Aquí el reto es doble: proteger la propiedad intelectual del modelo y, al mismo tiempo, evitar fugas de datos sensibles que el modelo pudiera haber aprendido.

Para prevenir estos riesgos, el trabajo mano a mano con nuestra nueva división de cyberseguridad es fundamental; ya no es posible «añadir la seguridad al final». En Ayesa, la ingeniería de IA y la ciberseguridad de IA trabajan juntas desde el primer minuto en el diseño y la gobernanza del ciclo de vida completo de nuestras soluciones de IA.

[MCPro] Mirando en 5 años hacia el futuro y más allá de la IA, ¿cuál es la próxima brecha tecnológica fundamental que los líderes empresariales y del sector público deberían empezar a vigilar hoy para no quedarse atrás mañana?

[Víctor Fernández] Honestamente, creo que la próxima gran brecha tecnológica no será otra tecnología radicalmente nueva. La brecha fundamental está en la profundidad con la que vamos a aplicar la tecnología que acaba de llegar: la IA y, concretamente, los agentes autónomos. Estamos en el amanecer de la «Era Agéntica». Ahora mismo estamos usando esta nueva y potente tecnología para optimizar tareas existentes. Pero en muy poco tiempo, empezaremos a usarla para hacer cosas de manera totalmente distinta, y cosas que ahora mismo ni siquiera imaginamos.

El gran reto que tienen las empresas y entidades del sector público, y donde les estamos ayudando, no es tanto crear nuevos agentes IA, sino ordenar y gobernar los cientos de agentes que están naciendo en sus organizaciones. La próxima revolución será la de los grandes ecosistemas de agentes colaborativos. Hoy, las empresas están inmersas en multitud de pruebas de concepto aisladas. El verdadero poder aparecerá en cuanto empecemos a conectarlos entre ellos, generando una verdadera «economía de agentes» y una monetización a escala. Y en Ayesa, como empresa especializada, estamos muy emocionados con el camino que se nos abre hacia esta nueva era.