Anthropic suspende el acceso a sus modelos de IA, Fable 5 y Mythos 5

Anthropic ha suspendido el acceso a sus modelos de IA, Fable 5 y Mythos 5, para todos sus clientes, tras recibir una directiva de control de exportaciones del gobierno estadounidense que citaba «preocupaciones por la soberanía nacional».

La orden del gobierno de Trump exige a la compañía suspender el acceso a Fable 5 y Mythos 5 a cualquier ciudadano extranjero, ya se encontrara dentro o fuera de Estados Unidos. Esta restricción también se aplica a los empleados extranjeros de Anthropic. Por consiguiente, la empresa ha desactivado ambos modelos para todos sus clientes a fin de garantizar el cumplimiento. El acceso a modelos anteriores de Anthropic, como Opus y Sonnet, no se ve afectado por esta orden gubernamental.

Bloqueo a Anthropic

La firma de IA, ha asegurado que las autoridades de EE. UU. no han identificado públicamente preocupaciones específicas sobre sus modelos, pero sospecha que están al tanto de un método para eludir o «desbloquear» Fable 5. Según Anthropic, las vulnerabilidades expuestas son «relativamente simples» y otros modelos disponibles públicamente también pueden descubrirlas sin necesidad de un método alternativo.

La compañía destaca que había desarrollado sólidas medidas de seguridad para reducir la posibilidad de que Fable se utilizara indebidamente en tareas relacionadas con la ciberseguridad. De hecho, muchos desarrolladores se quejan de que las medidas del gobierno son excesivas. Además, la compañía colaboró previamente ??con agencias gubernamentales nacionales y extranjeras, diversas organizaciones privadas y equipos internos, para poner a prueba las medidas de seguridad de Fable durante miles de horas.

Según Anthropic, ningún evaluador ha logrado encontrar una vulnerabilidad universal en Fable 5. Por ello discrepa de que una posible vulnerabilidad limitada deba conllevar la retirada de un modelo comercial utilizado por cientos de millones de personas, advirtiendo que aplicar este criterio a toda la industria de la IA podría paralizar el desarrollo de nuevos modelos de vanguardia.

Anthropic concluyó mencionando que está trabajando para restablecer el acceso a Fable 5 y Mythos 5 lo antes posible y que planea compartir más detalles en los próximos días.

Anthropic sigue en el ojo del huracán

Anthropic ha superado a OpenAI tanto en valoración como en ingresos y su Claude Mythos está considerado como el modelo de inteligencia artificial más avanzado del momento. Tanto, como para que la compañía tuviera que lanzar el Proyecto Glasswing bajo control interno con acceso de solo un puñado de grandes tecnológicas.

Unos meses después, la semana pasada, Anthropic anunció el lanzamiento de Fable 5, una versión para el público general de su potente modelo de IA Mythos, que hasta ahora había estado restringido. La compañía aseguró que era el modelo más potente que jamás había lanzado al mercado y prometió que era «seguro para uso general». 

Ha durado apenas unos días… La suspensión se produce en medio de una disputa en curso entre Anthropic y la administración Trump. El presidente criticó públicamente a la compañía, y el exsecretario de Defensa de Estados Unidos, Pete Hegseth, la incluyó en la lista negra por ser «un riesgo para la cadena de suministro». Esta designación, normalmente reservada para países adversarios, marcó la primera vez que una empresa estadounidense la recibía, lo que indicaba que la herramienta o el servicio no se consideran lo suficientemente seguros para su uso gubernamental.

Anthropic demandó al Pentágono y un juez estadounidense dictaminó que la directiva impuesta no podía aplicarse mientras durase el litigio. En consecuencia, las agencias gubernamentales y las organizaciones que colaboran con el ejército estadounidense han podido seguir utilizando los productos de Anthropic.

De hecho, según informó el Financial Times, Anthropic destinó a media docena de ingenieros en la NSA (la agencia de seguridad nacional de Estados Unidos) como personal desplegado en primera línea de batalla. Su trabajo, al parecer, consiste en guiar el uso de su modelo más avanzado, Claude Mythos, por parte de la agencia y personalizar el modelo para aplicaciones específicas de inteligencia ofensiva. Una persona cercana al proyecto declaró al medio que el modelo sería útil para infiltrarse en redes de países como China e Irán.

Repercusiones

Veremos cómo acaba un caso que tiene grandes repercusiones. Está en juego el margen de control que tienen las grandes empresas sobre las tecnologías de inteligencia artificial que desarrollan. Y el acceso de estas potentes tecnologías al público en general y, en su defecto, su uso por los grandes grupos de ciberdelincuencia.

La directora del FMI ha advertido este fin de semana que los modelos avanzados de IA como Mythos «pueden usarse para destruir el sistema financiero» si caen en las manos equivocadas.

«Lo que reconocemos es que Mythos es solo el principio; habrá más proyectos similares», declaró Georgieva a los periodistas. Las mismas capacidades que permiten a los modelos de vanguardia identificar vulnerabilidades de ciberseguridad con una velocidad y una escala impensables hasta ahora también pueden utilizarse como arma.

Georgieva instó a los países a contar con «todos los elementos de ciberseguridad necesarios» y a fomentar una mayor cooperación entre naciones ricas y pobres, así como entre los sectores público y privado. Señaló que no existe una organización mundial de ciberseguridad y que en el contexto geopolítico actual, es difícil imaginar que podamos tener una.

Las economías avanzadas «tienen que encontrar la manera de ayudar al mundo en desarrollo» a defenderse, afirmó, porque el sistema financiero global está demasiado interconectado como para tolerar puntos débiles: «Si existe una gran vulnerabilidad, se aprovechará». También instó a los países a incluir la ciberseguridad relacionada con la IA en sus presupuestos.