Red Hat lanza ‘asago’, una iniciativa global para automatizar la gobernanza de la IA

Red Hat ha anunciado la creación de asago, un proyecto comunitario de código abierto destinado a automatizar la forma en que las políticas de gobernanza de la IA se convierten en sistemas seguros y listos para producción. asago conecta los pasos, herramientas y requisitos fragmentados de los equipos de ingeniería y de cumplimiento normativo, para crear un flujo de trabajo automatizado, auditable y trazable. El objetivo es ayudar a ofrecer sistemas de IA más seguros y listos para producción que impulsen la innovación en días, no en meses o años.

¿Qué es asago?

(AI Safety And Governance Orchestration), traducido como Orquestación de Gobernanza y Seguridad de IA, planea utilizar una plataforma estandarizada de código abierto y un flujo de trabajo automatizado para traducir políticas corporativas y regulatorias complejas de gobernanza de IA en controles operacionales reales. Se basa en el trabajo de Red Hat y NVIDIA como miembros de la Open Secure AI Alliance, y alinea la flexibilidad de los desarrolladores con la gobernanza de los operadores a través de cuatro etapas principales:

1. Mapeo de riesgos: El marco lee e interpreta automáticamente las políticas de gobernanza de IA cargadas, mapeando los requisitos específicos de una organización directamente a marcos, ontologías y estándares de riesgo de IA establecidos, como el NIST AI RMF, OWASP LLM Top 10, y la Ley de IA de la UE a través del IBM AI Risk Atlas, convirtiendo el lenguaje de las políticas en planes de riesgo ejecutables.
2. Evaluación de riesgos: asago genera y ejecuta escenarios específicos de casos de uso para pruebas de seguridad automatizadas adaptadas a los riesgos identificados, buscando comportamientos perjudiciales en lugar de depender únicamente de evaluaciones comparativas genéricas.
3. Mitigación de riesgos: A continuación, el proyecto recomienda mitigaciones, incluyendo barreras de seguridad basadas en pruebas, creando una justificación clara y un historial de auditoría listo para revisión.
4. Despliegue en producción: asago orquesta los controles recomendados en configuraciones listas para el despliegue en distintas plataformas, incluidas la nube híbrida y Kubernetes, eliminando la codificación manual de infraestructura.

Cada uno de estos pasos estará diseñado para producir un historial de auditoría continuo, vinculando las cláusulas individuales de las políticas directamente con las pruebas y los controles en tiempo de ejecución, lo que permite a los revisores ver exactamente qué riesgo aborda cada acción. Esto ayuda a transformar la seguridad de la IA en un servicio empresarial más predecible y gobernado.

¿Por qué es importante asago?

Traducir las directrices de políticas abstractas en configuraciones de software funcionales ralentiza la innovación en IA e introduce riesgos adicionales derivados de errores de comunicación y malentendidos humanos. Los responsables de cumplimiento normativo exigen evaluaciones de riesgo rigurosas y pruebas verificables, mientras que los ingenieros de plataformas necesitan configuraciones estructuradas que puedan mantenerse dentro de los flujos de trabajo estándar de DevOps y GitOps.

A medida que entran en vigor regulaciones de amplio alcance como la Ley de IA de la UE, las organizaciones no pueden correr el riesgo de paralizar la innovación durante meses de revisiones manuales ni de crear despliegues de IA en la sombra (shadow AI) sin supervisión y sin las barreras de seguridad adecuadas.

asago pretende resolver esta fricción proporcionando un estándar único y abierto en el que puedan converger los equipos de cumplimiento normativo, los científicos de datos y los administradores de infraestructura. Al tratar a cada actor como un usuario de primer nivel, la plataforma creará controles de seguridad para agentes autónomos de IA y modelos de lenguaje de gran tamaño (LLM) empresariales, sin introducir las inconsistencias de la traducción manual, como explica Steven Huels, AI Engineering en Red Hat:

«A medida que las organizaciones pasan de pilotos experimentales de IA a agentes autónomos de larga duración, el establecimiento de límites operativos claros se convierte en un requisito crítico de infraestructura».

El proyecto asago se encuentra actualmente en fase de desarrollo. Desarrolladores, investigadores académicos y empresas pioneras pueden consultar el repositorio y participar en la gobernanza del proyecto a través de GitHub. Para obtener más información, puedes visitar asago.ai.