Snowflake Cortex Agents, agentes de IA para gestionar datos empresariales

Snowflake ha lanzado el servicio de agentes de IA Cortex Agents, que permite desarrollar y utilizar agentes de IA de manera completamente gestionada. El servicio simplifica además la integración, recuperación y proceso de datos estructurados y no estructurados, lo que facilita la creación de agentes a gran escala.

Por ahora en fase de prueba pública, Snowflake Cortex Agents se encarga de orquestar fuentes de datos estructuradas y no estructurados para ofrecer información de valor. Desglosa consultas complejas, recupera datos relevantes y genera respuestas precisas. Para ello usa Cortex Search, Cortex Analyst y Cortex LLM.

Estos agentes planifican tareas, usan herramientas para ejecutarlas y reflexionan sobre los resultados para mejorar las respuestas. Están disponibles como una API REST, y pueden integrarse en prácticamente cualquier aplicación.

Cortex Analyst y Cortex Search en Agents

Cortex Analyst puede utilizarse como una herramienta dentro de Cortex Agents. A diferencia de los sistemas text-to-SQL, basados solo en la coincidencia de patrones, emplea un modelo semántico para asignar términos comerciales a los datos subyacentes. Así consigue mejorar la precisión en casos de uso reales que implican a entornos complejos con varias tablas.

Entre sus novedades está la gestión de la mayor complejidad del esquema, ya que ahora cuenta con una nueva validación avanzada de JOIN que soluciona problemas comunes, como las alucinaciones de JOIN y el doble recuento, que suelen aparecer en consultas complejas. Gracias a esto, Cortex Analyst puede ahora funcionar con consultas de varias tablas sin perder precisión.

Otra novedad es la generación y supervisión de modelos semánticos, ya que la nueva interfaz de usuario de administración de Analyst en Snowsight simplifica la creación y perfeccionamiento de este tipo de modelos. Los administradores pueden ahora seleccionar tablas y columnas, y utilizar modelos grandes de lenguaje para generar un archivo yaml de modelo semántico inicial.

La interfaz de administración se encarga también de supervisar la interacción y comentarios de los usuarios. Así, los clientes pueden hacer un seguimiento del uso, y hacer mejoras informadas en los modelos semánticos.

La introducción de Instrucciones personalizadas al público en general permite que los usuarios puedan adaptar Cortex Analyst a sus necesidades comerciales. Lo pueden hacer a través del lenguaje natural en el archivo del modelo semántico. Entre sus casos de uso está la especificación de fechas del inicio del año fiscal, la explicación de las convenciones de nomenclatura internas y la priorización de tables clave en la generación de SQL.

Snowflake Cortex Search y observabilidad de Cortex AI

En cuando al motor de contexto para datos no estructurados Cortex Search, los agentes lo usan para recuperar textos, audio, imágenes o vídeos. Es un buscador híbrido nativo, que combina búsqueda vectorial y léxica por palabra clave. A esto le añade un paso de reordenamiento semántico, para ofrecer recuperación de alta calidad y baja latencia a escala. Ahora ofrece mayor escala y accesibilidad, ya que admite la indexación de cuentos de millones de filas, con una reducción de costes de servicio de un 30% gracias a la optimización de la infraestructura.

Además, cuenta con más capacidad de personalización, ya que ofrece la capacidad de elegir el modelo de incrustación vectorial para la búsqueda semántica. Esto incluye dos modelos multilingües, snowflake-artic-embed-v2.0 y voyage-multilingual-2. También admite filtrado por rango de fechas en las columnas de metadatos.

Cortex Search lleva también, por ahora en pruebas, una interfaz de usuario de administración para la observabilidad y el ajuste de la calidad, así como la potenciación y degradación en señales numéricas y temporales; las puntuaciones de confianza de los resultados; y capacidad de filtrado avanzada. Todo esto hace que Cortex Search ofrezca una base escalable y personalizable para aplicaciones de agentes y de búsqueda basadas en datos de Snowflake.

En cuanto a la observabilidad de Cortex AI en Snowflake, funciona con TruLens, y pronto estará disponible en pruebas. Puede evaluar el rendimiento de los agentes y aplicaciones con técnicas como LLM-as-a-judge. Puede informar de métricas como la relevancia, la fundamentación y la nocividad, lo que permite iterar y refinar rápidamente el agente en el que estén trabajando, de cara a mejorar el rendimiento.

Sus usuarios, además, podrán comparar ejecuciones de evaluación en paralelo, y evaluar la calidad y precisión de las respuestas en distintas configuraciones de LLM. Así podrán identificar la mejor configuración para implementar la producción. Por otra parte, los clientes pueden habilitar el registro para cada paso de las ejecuciones del agente en las indicaciones de entrada, uso de herramientas y generación de respuestas finales. Es decir, realizar un seguimiento completo, para facilitar la depuración y el refinamiento para mejorar en precisión, latencia y costo.

El conector de Snowflake para SharePoint verifica que se respeten los permisos para asegurar los controles de acceso. Y gracias a la compra que hizo de Datavolo, Snowflake ha podido mejorar la capacidad de la plataforma para gestionar la integración de datos multimodales, de cara a una mejora en la gobernanza y el proceso de datos.

En definitiva, Snowflake Cortex Agents, a través de Cortex Analyst y Search, y de la observabilidad de la IA, aportan inteligencia sobre un marco de gobernanza unificado y un motor de proceso eficiente para datos, tanto estructurados como no estructurados.