El Pentágono mantiene a Anthropic en la lista negra, pero la NSA lo utiliza en operaciones cibernéticas ofensivas

Anthropic sigue en el primer plano de la actualidad: tecnológico, mediático y político. Según informa el Financial Times, Anthropic ha destinado a media docena de ingenieros en la NSA (la agencia de seguridad nacional de Estados Unidos) como personal desplegado en primera línea de batalla. Su trabajo, al parecer, consiste en guiar el uso de su modelo más avanzado, Claude Mythos, por parte de la agencia y personalizar el modelo para aplicaciones específicas de inteligencia ofensiva. 

La información contrasta con el hecho de que Anthropic siga en la lista negra del Pentágono, después que el gobierno de Trump la calificase como «un riesgo para la cadena de suministro». Lo que hasta hace poco parecía una relación estable entre empresas de IA y la Administración federal entró en una fase inesperadamente turbulenta que todavía continúa. O no…

Anthropic y su papel en ámbitos sensibles

Anthropic ha superado a OpenAI tanto en valoración como en ingresos y su Claude Mythos está considerado como el modelo de inteligencia artificial más avanzado del momento. Tanto, como para que la compañía haya tenido que lanzar el Proyecto Glasswing como uno de los mayores esfuerzos de la industria en ciberseguridad, pero bajo control interno.

Por la información del Financial Time, no está claro si Anthropic ha firmado un acuerdo global con la NSA. Sin embargo, una persona cercana al proyecto declaró al medio que el modelo sería útil para infiltrarse en redes de países como China e Irán. La lógica es que es probable que los adversarios de Estados Unidos utilicen sus propios sistemas de IA centrados en la ciberseguridad, por lo que una ventaja inicial resulta crucial.

El informe se ajusta a las funciones de la NSA, que incluyen la recopilación de inteligencia de señales mediante escuchas telefónicas, cables submarinos, colaboraciones con empresas y otros métodos clandestinos, así como ciberataques ofensivos contra adversarios extranjeros. La agencia se negó a confirmar o desmentir el informe, mientras que Anthropic no hizo comentarios.

El pasado febrero, el Pentágono amenazó con suspender el suministro a Anthropic a menos que eliminara las restricciones sobre el uso de Claude para la vigilancia masiva interna y el desarrollo de armas totalmente autónomas. La disputa comenzó mientras Anthropic y el Departamento de Defensa negociaban un contrato de 200 millones de dólares, antes de que la administración exigiera un mayor acceso a Claude para «todos los fines legales».

Anthropic se negó, lo que llevó al gobierno a catalogarla como un riesgo para la cadena de suministro, incluyéndola en la misma categoría de sanciones que empresas como Huawei y ZTE. Posteriormente, la compañía anunció que demandaría, argumentando que dicha designación carecía de fundamento legal.

La NSA depende del Departamento de Defensa, el mismo que argumentó ante los tribunales que la tecnología de Anthropic representa un riesgo para la seguridad nacional. Sin embargo, otros analistas aseguraban que la NSA ya utilizaba Mythos a pesar de estar en la lista negra, lo que implica que algunos sectores del Departamento de Defensa podrían considerar el modelo demasiado útil como para ignorarlo.

Es difícil concretar el punto en el que nos encontramos. Está en juego el margen de control que tienen las grandes empresas sobre las tecnologías de inteligencia artificial que desarrollan. También el alcance de las mismas en el ámbito militar y de vigilancia masiva con campañas cibernéticas no siempre legales y que suponen superar los umbrales éticos de las compañías.

Y más preguntas para el debate: ¿Dónde queda la reciente petición de Anthropic de la paralización global del desarrollo de la IA mientras que sus modelos se utilizan en inteligencia ofensiva?