Ultimátum a la IA: el día en que Washington disparó primero

«Klaatu barada nikto»

En el clásico de ciencia ficción Ultimátum a la Tierra de 1951 (de la que se hizo un remake que piadosamente ignoraremos) un extraterrestre llamado Klaatu aterriza en Washington con su platillo volante en son de paz. La recepción es la clásica en estos casos: un batallón de soldados armados, tanques e incluso artillería rodean al visitante desconocido que a pesar del escenario hostil sale de su nave para saludar a los terrícolas. Al sacar un objeto, que luego resulta ser un obsequio para el presidente, uno de los soldados le dispara al considerarlo un acto peligroso. a partir de ahí se desarrolla una trama muy marcada por la guerra fría que en su momento supuso un gran impacto en el imaginario colectivo y en el posterior cine de ciencia ficción.

La respuesta a lo desconocido se vuelve a repetir y esta vez no en la ficción. El martes 9 de junio, Anthropic presentó (en son de paz) Claude Fable 5, la versión con guardarraíles para uso general de su modelo más avanzado, Claude Mythos 5. El viernes 12 de junio y como sucediera en la película al desafortunado alienígena, Washington también disparó antes de preguntar y ambos quedaron fuera de servicio. Entre una fecha y otra, el Departamento de Comercio de Estados Unidos envió a la compañía una directiva que prohibía el acceso de este modelo a cualquier extranjero, tanto dentro como fuera del país. Bang.

Anthropic explicó que carecía de un sistema capaz de verificar la nacionalidad de todos los usuarios y aplicar la restricción sin errores. La compañía optó por suspender el acceso global, incluidos sus clientes estadounidenses. A fecha de publicación, su página oficial sigue indicando que Fable 5 y Mythos 5 no están disponibles. Los hechos principales ya los recogimos en MuyComputerPRO. La parte con mayores consecuencias para la industria está en el alcance de la orden. La restricción afecta a clientes, socios pero también a los propios trabajadores de Anthropic, y abre un frente que las empresas usuarias de inteligencia artificial tendrán que incorporar a sus planes de continuidad.

La restricción también alcanza a los empleados de Anthropic

La directiva incluye expresamente a los empleados de Anthropic que sean nacionales extranjeros, aunque trabajen en California o en cualquier otra oficina de la compañía. En la práctica, el acceso a la tecnología interna más avanzada queda condicionado por la nacionalidad de cada trabajador. Dean W. Ball, analista de políticas de inteligencia artificial y antiguo asesor de la Administración Trump, destacó este aspecto en su análisis publicado en Hyperdimensional. La información disponible apunta a que Anthropic tuvo que interrumpir el uso interno de los modelos ante la imposibilidad de garantizar que ningún empleado extranjero pudiera acceder a ellos.

La cobertura de Time y Bloomberg coincide en el elemento central: la carta, firmada por el secretario de Comercio Howard Lutnick y dirigida al consejero delegado de Anthropic, Dario Amodei, exige restringir los modelos a nacionales estadounidenses. La orden contempla licencias individuales, pero su aplicación inmediata resultaba inviable para un servicio utilizado a través de Internet y distribuido mediante distintas plataformas de nube. Este punto afecta directamente a la organización del trabajo. Los laboratorios de IA reúnen talento internacional y operan con equipos repartidos entre Estados Unidos, Europa y Asia. Una restricción basada en la nacionalidad puede impedir que parte de los investigadores, ingenieros, responsables de seguridad y equipos de soporte trabajen con el producto que desarrollan o mantienen.

La restricción plantea además un problema de talento para el conjunto de la industria estadounidense. Como señala Martin Peers en The Briefing, de The Information, OpenAI recordó a sus empleados que el desarrollo de la inteligencia artificial exige contar con los mejores profesionales de todo el mundo. Buena parte de los investigadores que trabajan en este campo en Estados Unidos han nacido en otros países, por lo que limitar su acceso a los modelos más avanzados puede perjudicar la capacidad de los laboratorios para investigar, evaluar riesgos y competir con empresas extranjeras. La seguridad nacional puede justificar controles específicos, pero una política que dificulte atraer o retener talento internacional acabaría debilitando el liderazgo tecnológico que pretende proteger.

Qué ocurrió con el supuesto jailbreak

La explicación pública del Gobierno estadounidense sobre las razones para ordenar el bloqueo ha sido limitada. Anthropic afirma que la carta citaba motivos de seguridad nacional sin detallar la amenaza. Según la compañía, el origen de la decisión estaría en un método para eludir parcialmente las salvaguardas de Fable 5 y localizar un pequeño número de vulnerabilidades conocidas y de gravedad reducida. Anthropic sostiene que otros modelos disponibles públicamente podían encontrar esas mismas vulnerabilidades sin recurrir al método cuestionado.

La Administración ofrece una lectura distinta. El relato de Axios señala que otra empresa informó al Gobierno de que había conseguido superar las protecciones del modelo y que las autoridades intentaron que Anthropic detuviera el lanzamiento antes de emitir la directiva. Informaciones posteriores relacionan la escalada con dos asuntos: las dudas de la Casa Blanca sobre el acceso concedido a la operadora surcoreana SK Telecom y los resultados de unas pruebas de seguridad realizadas por Amazon.

Con la información pública disponible resulta difícil determinar la gravedad exacta del fallo y si justificaba una retirada mundial. Sí puede afirmarse que Anthropic había sometido a las salvaguardas de Fable 5 a miles de horas de pruebas con organismos públicos, equipos internos y organizaciones privadas. La compañía asegura además que los evaluadores no habían encontrado un jailbreak universal capaz de desactivar de forma amplia sus salvaguardas. Pero es que además según dice en el documento que hizo públic Anthropic estas capacidades «peligrosas» son o serán comunes a todos los modelos y va a ser difícil garantizar por parte de cualquier compañía que los guardarraíles que se instalen sean 100% seguros.

Un uso inédito de los controles de exportación

Ahora la parte peliaguda desde el punto de vista legal y geopolítico. Los controles de exportación se han aplicado tradicionalmente a armamento, semiconductores, equipos industriales, software, código fuente y datos técnicos. El caso de Anthropic amplía su alcance a un servicio remoto en el que el usuario consulta un modelo alojado en la infraestructura del proveedor, sin recibir los pesos, el código fuente ni una copia ejecutable del sistema. La carta exige licencia para la exportación, reexportación o transferencia dentro de Estados Unidos de Fable 5 y Mythos 5. El Gobierno no ha publicado el texto completo ni ha explicado con detalle la base jurídica utilizada. Expertos consultados por distintos medios consideran que se trata de un terreno regulatorio poco definido y, probablemente, del primer uso de los controles de exportación para limitar de esta forma el acceso a un modelo de IA ofrecido como servicio.

La ausencia de un procedimiento público y previsible introduce un riesgo adicional. Las empresas pueden evaluar una norma, adaptar sus sistemas y presupuestar el coste de cumplimiento. Resulta mucho más difícil gestionar una decisión inmediata, con criterios técnicos no divulgados y sin un calendario claro para recuperar el servicio. La analogía con la industria farmacéutica que propone Dean Ball ayuda a explicar el problema institucional, aunque conviene trasladarla con cautela. En sectores regulados existen requisitos previos, documentación técnica, plazos, autoridades competentes y vías de recurso. La IA de frontera todavía carece de un marco equivalente en Estados Unidos. La intervención sobre Anthropic muestra que el Gobierno puede actuar con rapidez cuando considera que existe un riesgo de seguridad nacional, mientras las empresas desconocen qué pruebas, umbrales y medidas correctoras se exigirán en el siguiente caso.

La dependencia de un proveedor ya incluye riesgo político

Para una empresa europea, latinoamericana o asiática, la conclusión operativa es inmediata. Un modelo integrado en procesos críticos puede dejar de estar disponible por una decisión administrativa del país de origen del proveedor. El contrato, el nivel de servicio y la calidad técnica del producto ofrecen una protección limitada cuando interviene una restricción de seguridad nacional. Este episodio obliga a revisar la arquitectura de las plataformas de IA. Una organización que dependa de un único modelo para desarrollar software, analizar documentación, atender clientes o ejecutar agentes debería disponer de una alternativa probada como modelos funcionando en máquinas propias. La sustitución exige mantener una capa de abstracción entre la aplicación y el proveedor, evaluar periódicamente modelos equivalentes y documentar qué funciones se degradan al activar el sistema de respaldo.

También conviene revisar los contratos. Las cláusulas de continuidad, portabilidad, conservación de datos, cambios regulatorios, compensación por interrupciones y asistencia durante una migración adquieren más importancia. La disponibilidad de una API durante los últimos doce meses ofrece información útil, pero ya no basta para estimar el riesgo futuro. El caso conecta directamente con el debate sobre la soberanía tecnológica europea. Europa necesita proveedores propios, como Mistral, capacidad de cómputo, modelos competitivos y opciones de despliegue local. Al mismo tiempo, las empresas europeas pueden reducir su exposición con arquitecturas multiproveedor y modelos de pesos abiertos cuando el caso de uso, la seguridad y el coste lo permitan.

El impacto llega en plena preparación de la salida a bolsa

La retirada se produce en un momento especialmente sensible para Anthropic. La compañía ha superado a OpenAI en valoración y en ingresos anualizados declarados y el 1 de junio presentó de forma confidencial un borrador del formulario S-1 ante la Comisión de Bolsa y Valores de Estados Unidos. Aquí conviene separar dos cifras. Los 965.000 millones de dólares corresponden a la valoración posterior a la última ronda de financiación de Anthropic. El documento presentado para una posible salida a bolsa no fija todavía el número de acciones ni su precio. Análisis como el publicado por TECHi sitúan a la compañía dentro de una oleada de grandes operaciones tecnológicas, pero la capitalización final dependerá de las condiciones del mercado y de la documentación que se publique cuando avance el proceso.

La reciente operación de SpaceX, que ha marcado una referencia para las futuras salidas a bolsa de Anthropic y OpenAI, aumenta la atención sobre este tipo de compañías. En ese contexto, la suspensión de Fable 5 y Mythos 5 incorpora preguntas que los inversores tendrán que valorar: exposición a decisiones gubernamentales, capacidad para operar internacionalmente, concentración de ingresos, continuidad del producto y control real sobre la hoja de ruta. Fortune ya ha señalado que la intervención puede afectar a la percepción de riesgo de la futura oferta pública. La consecuencia financiera dependerá de la duración de la suspensión y de las condiciones que imponga el Gobierno para autorizar el regreso de los modelos.

Seguridad, transparencia y criterios verificables

Dejando a un lado el debate de las formas y las consecuencias de la actuación de Washington, es cierto que las capacidades de Mythos y de modelos con una capacidad similar que se desarrollen en el futuro justifican una supervisión exigente. El modelo fue diseñado para identificar vulnerabilidades de software y apoyar trabajos avanzados de ciberseguridad. La directora gerente del Fondo Monetario Internacional, Kristalina Georgieva, ha advertido de que modelos avanzados como Mythos podrían utilizarse para atacar el sistema financiero y ha reclamado una mayor cooperación internacional, tanto entre países como entre los sectores público y privado, para reforzar la ciberseguridad.

Los controles tendrán credibilidad cuando se apoyen en criterios técnicos verificables, responsabilidades definidas, plazos y procedimientos de revisión. El episodio de Anthropic presenta carencias en esos cuatro puntos. La compañía recibió la directiva a las 17:21, hora de la costa este, y afirma que el documento no detallaba la preocupación concreta de seguridad nacional. El resultado fue la retirada global de dos modelos utilizados por clientes que no participaron en el incidente investigado.

Anthropic advierte de que aplicar el mismo estándar al conjunto de la industria podría bloquear el lanzamiento de nuevos modelos de frontera. La afirmación procede de una parte interesada y debe analizarse como tal, aunque plantea una cuestión válida: los requisitos de seguridad deben ser comparables entre proveedores y capacidades equivalentes. Una política centrada en una sola empresa (que curiosamente tuvo sus más y sus menos con el departamento de defensa) puede desplazar la demanda hacia modelos sujetos a menos controles, incluidos sistemas desarrollados fuera de Estados Unidos. ¿Una oportunidad para modelos chinos y europeos?

Más preguntas para el futuro de la IA

No es raro que un avance tan significativo para la productividad, el desarrollo de software y la automatización de procesos como la Inteligencia Artificial encuentre piedras en el camino. Después de los problemas de sostenibilidad y el cambio de paradigma con abultadas facturas ante el uso masivo de tokens, también tenemos que hacer cuentas con la intervención de los gobiernos cuando perciban que la tecnología que proporcionan puede ser peligrosa para sus intereses. El tema es que si apostamos todo a la competitividad que puede darnos el último modelo de frontera puede que perdamos el tren por una decisión repentina de un gobierno. Ya no solamente tendremos que cuidar la soberanía del dato sino la continuidad de un servicio que se está convirtiendo poco a poco en esencial para las empresas. También podríamos hablar de las repercusiones éticas y sociales a las que el papa apuntaba con sorprendente acierto hace poco, claro está.

El caso es que, volviendo a nuestras empresas, la disponibilidad de un modelo depende de la infraestructura del proveedor, de su situación contractual y de las decisiones regulatorias de su jurisdicción. A partir de este caso, los responsables de tecnología tendrán que incorporar esas tres variables a la evaluación de cualquier plataforma de inteligencia artificial. Antes de asignar un proceso crítico a un modelo, la empresa debería conocer cuánto tardaría en migrarlo, qué alternativa asumiría la carga, qué datos y configuraciones puede trasladar y qué pérdida de calidad aceptaría durante la transición. Esa preparación tiene un coste, pero resulta inferior al de rediseñar un servicio después de que el proveedor haya retirado el modelo principal.

Fable 5 y Mythos 5 volverán probablemente cuando Anthropic y el Gobierno estadounidense acuerden unas condiciones técnicas y legales. El precedente permanecerá. Para las empresas europeas, la cuestión relevante consiste en saber si su arquitectura puede seguir funcionando cuando una orden administrativa deja fuera de servicio el modelo del que depende.

Y por supuesto queda por saber qué ocurrirá con Project Glasswing, la iniciativa con la que Anthropic estaba proporcionando sus capacidades más avanzadas de ciberseguridad a organizaciones responsables de software e infraestructuras críticas. Mythos 5 debía sustituir a Mythos Preview dentro del programa, que acababa de extenderse a cerca de 200 participantes en más de quince países después de localizar más de 10.000 vulnerabilidades graves o críticas. Anthropic no ha aclarado si Glasswing podrá continuar con el modelo anterior, si quedará limitado a entidades y ciudadanos estadounidenses o si tendrá que esperar a que el Gobierno conceda nuevas licencias. Por el momento, la intervención destinada a contener los riesgos cibernéticos de Mythos amenaza con detener también uno de los principales proyectos creados para utilizar esas mismas capacidades en defensa del software crítico.