Red Hat compra Chatterbox Labs para poner límites a sus productos y servicios de IA

Red Hat ha anunciado la compra de la empresa de seguridad de IA Chatterbox Labs, centrada en el establecimiento de límites y barreras a sistemas de IA independientemente de sus modelos, así como a la IA generativa. Con esta operación, Red Hat quiere aumentar sus capacidades de implantación de seguridad a los productos y servicios de Red Hat AI, así como tecnología de relevancia para las operaciones de aprendizaje automático.

La tecnología desarrollada por Chatterbox Labs ofrece pruebas de seguridad y barreras de protección independientes del modelo, como capa crítica de seguridad para la IA. Esto en un marco en el que las empresas están pasando de la experimentación a la producción, momento en el que tienen que implementar modelos potentes, pero también fiables y seguros.

La integración de Chatterbox Labs crea una plataforma unificada en la que la seguridad está integrada, lo que refuerza la capacidad de la compañía para habilitar cargas de trabajo de IA de producción con cualquier modelo y en cualquier acelerador.

Fundada en 2011, Chatterbox Labs cuenta con tecnología y experiencia en seguridad y transparencia de la IA. En concreto, ofrece capacidades automatizadas y personalizadas de pruebas de seguridad y protección de la IA, para lo que aporta las métricas de riesgo objetivas necesarias para aprobar la implementación de la IA en la producción. La tecnología ofrece un enfoque  independiente del modelo para validar datos y modelos a través de AIMI para IA generativa, que proporciona métricas de riesgo cuantitativas independientes para LLMs.

También de AIMI para IA predictiva, que valida cualquier arquitectura de IA en pilares clave, como robustez, equidad y explicabilidad. En cuanto al despliegue de límites y barreras, la tecnología de la compañía identifica y corrige las indicaciones inseguras, tóxicas o sesgadas. Lo hace, además, antes de poner los modelos en producción.

Esta operación, por tanto, está en línea con la visión de Red Hat de ofrecer soporte a varios modelos y objetivos de implementación en la nube híbrida. Además, complementa las capacidades de futuro de Red Hat AI 3, específicamente para la IA agéntica y el Protocolo de Contexto de Modelos (MCP).

Chatterbox Labs, además, ha realizado una investigación en la seguridad holística de los agentes, que incluye la supervisión de las respuestas de agentes y la detección de los desencadenantes de las acciones del servidor MSP.

Esta investigación está alineada con la hoja de ruta de Red Hat para Llama Stack y la compatibilidad con MCP, lo que facilitará a la compañía la protección de la próxima generación de cargas de trabajo inteligentes y automatizadas sobre una base fiable y preparada para la empresa. Al combinar las capacidades de MLOps de Red Hat con las capacidades de protección de Chatterbox Labs, Red Hat permitirá a las empresas poner en práctica sus inversiones en IA con más confianza.

Steve Huels, Vicepresidente de Ingeniería de IA y Estrategia de Producto de Red Hat, ha destacado que «las empresas están trasladando la IA del laboratorio a la producción a gran velocidad, lo que aumenta la urgencia de contar con implementaciones de IA fiables, seguras y transparentes. Las innovadoras pruebas de seguridad y la tecnología de barreras de seguridad independientes del modelo de Chatterbox Labs son la capa crítica de «seguridad para la IA» que necesita el sector. Al integrar Chatterbox Labs en la cartera de IA de Red Hat, reforzamos nuestra promesa a los clientes de proporcionar una plataforma completa y de código abierto que no solo les permita ejecutar cualquier modelo en cualquier lugar, sino hacerlo con la confianza de que la seguridad está integrada desde el principio. Esta adquisición contribuirá a hacer posible una IA verdaderamente responsable y a escala industrial«.

En cuanto a Stuart Battersby, Cofundador y Director de Tecnología de Chatterbox Labs, ha comentado que «a medida que los sistemas de IA proliferan en todos los aspectos de los negocios y la sociedad, no podemos permitir que la seguridad se convierta en una caja negra patentada. Es fundamental que las barreras de seguridad de la IA no se limiten a implementarse, sino que se sometan a pruebas rigurosas y se respalden con métricas demostrables. Chatterbox Labs ha sido pionera en esta disciplina desde los inicios de la IA predictiva hasta los sistemas agenticos del futuro. Al unirnos a Red Hat, podemos aportar estas métricas de seguridad independientes y validadas a la comunidad de código abierto. Esta transparencia permite a las empresas verificar la seguridad sin ataduras, lo que hace posible un futuro en el que todos podamos beneficiarnos de una IA segura, escalable y abierta«.