The LLM Mirage: Economic Interests and the Subversion of Weaponization Controls

Resumo Técnico: O Miragem do LLM: Interesses Econômicos e a Subversão dos Controles de Armamentização

Declaração do Problema
O artigo diagnostica uma falha fundamental na política de segurança de IA dos EUA, denominada "Miragem do LLM". Esta dinâmica é a premissa predominante de que os riscos de segurança nacional escalam linearmente com o computo utilizado para treinar Grandes Modelos de Linguagem (LLMs) de fronteira. Os autores argumentam que essa premissa é falha por duas razões primordiais:

1. Descalibragem Estratégica: Adversários podem alcançar capacidades armamentizáveis (ex: mira autônoma, operações cibernéticas, design de CBRN) utilizando sistemas específicos para tarefas, dados especializados e eficiência algorítmica em hardware amplamente disponível e em conformidade com as regras de exportação. Os controles centrados em computo apenas blindam o perímetro em torno de modelos de alto desempenho e uso intensivo de recursos, deixando vetores de baixo computo expostos.
2. Desestabilização Regulatória: Como a "armamentização da IA" carece de uma definição estabelecida, a política baseia-se em limiares de computo como um proxy. Esses limiares são facilmente renegociados conforme as prioridades econômicas e diplomáticas domésticas mudam, transformando a política de segurança em um concurso de proxy para competitividade industrial, em vez de um mecanismo estável de mitigação de ameaças.

Metodologia e Estrutura Analítica
Os autores empregam uma abordagem de análise crítica de políticas, traçando a linhagem histórica e intelectual da governança centrada em computo.

• Análise Histórica: O artigo traça como as leis de escala empíricas (ex: relações de lei de potência entre tamanho do modelo, dados e computo) e a "Lição Amarga" (Bitter Lesson — a eficácia da escala sobre características construídas à mão) transformaram o computo de um insumo de pesquisa em uma alavanca de segurança nacional.
• Crítica de Política: Os autores analisam instrumentos regulatórios específicos, incluindo a Ordem Executiva 14110 do Presidente Biden e os controles de exportação do Departamento de Comércio (2022 e o "Framework for Artificial Intelligence Diffusion" de 2025). Eles demonstram como essas políticas operacionalizam o status de "fronteira" através de métricas de entrada (FLOPs, desempenho de chips) em vez de efeitos de saída.
• Reconstrução Teórica: O artigo propõe um novo framework regulatório fundamentado no Direito Internacional Humanitário (DIH) e na lógica estratégica do conflito moderno (especificamente, as razões de troca de custo de força). Argumenta-se pela mudança da regulação baseada em insumos para uma regulação baseada em efeitos.

Principais Contribuições

1. Diagnóstico de Falha de Governança
O artigo identifica a política centrada em computo como uma "falha de governança baseada em proxy". Ao tratar o computo como o objeto de governança em vez de um indicador parcial, a política cria falsos negativos (sistemas prejudiciais abaixo dos limiares) e falsos positivos (sistemas de alto computo com usos benignos). Essa abordagem concentra o poder de definição de agenda nas mãos dos incumbentes de infraestrutura que controlam os ativos auditáveis, ao mesmo tempo em que obscurece os riscos associados ao "Triade da IA" (dados, algoritmos e computo) quando estes são desvinculados de orçamentos massivos de computo.

2. Proposta de Definição de Armamentização de IA
Os autores propõem uma definição de armamentização de IA baseada em "intenção e capacidade", independente da escala computacional:

• Definição: "O emprego intencional ou a capacidade objetiva imediata de um sistema de inteligência artificial de causar dano físico, digital ou psicológico, de criar uma vantagem assimétrica em conflitos, ou de facilitar materialmente tais efeitos."
• Componentes:
  • Intenção/Capacidade: Captura tanto o uso indevido deliberado quanto sistemas com capacidade objetiva imediata de gerar dano (ex: projetar novos agentes patogênicos), independentemente da intenção do desenvolvedor.
  • Domínios de Dano: Estende-se além da violência cinética para incluir danos digitais (operações cibernéticas) e danos psicológicos (desinformação/deepfakes).
  • Vantagem Assimétrica: Foca em capacidades que alteram os resultados de guerra ou as razões de troca de força, em vez de eficiências comerciais rotineiras.
  • Facilitação Material: Inclui sistemas que reduzem significativamente a habilidade, o tempo ou os recursos necessários para executar um dano, mesmo que não executem o ato diretamente.

3. Operacionalização via Benchmarks em Tempo Real
Para tornar essa definição acionável, o artigo delineia uma infraestrutura de medição baseada em benchmarks adversariais ao vivo através de toda a Triade da IA:

• Design de Benchmark: Movendo-se além de testes de conhecimento estáticos (ex: "o modelo consegue descrever um agente nervoso?") para testes de competência procedimental (ex: "o modelo consegue projetar uma via de síntese?").
• Avaliação da Triade:
  • Hardware: Licenciamento condicionado ao teste de novas arquiteturas para aceleração de alta capacidade de risco.
  • Dados: Exigência de subconjuntos representativos de conjuntos de dados proprietários para benchmarking seguro para avaliar mudanças de risco.
  • Algoritmos: Avaliação contínua de algoritmos de estado da arte desenvolvidos em recursos compartilhados contra benchmarks de tarefas de alto risco.
• Arquitetura Institucional: Um modelo híbrido utilizando o National AI Research Resource (NAIRR) para infraestrutura de avaliação segura e isolada (air-gapped) e o NIST Center for AI Standards and Innovation (CAISI) para o design de benchmarks com validade testada. Esta estrutura visa prevenir a captura regulatória pelos incumbentes da indústria.

Resultos e Evidências
O artigo apresenta evidências de que o perímetro centrado em computo já está sendo contornado:

• Eficiência Algorítmica: Empresas chinesas treinaram modelos de estado da arte (ex: Hunyuan-Large, DeepSeek-R1) usando GPUs em conformidade com as regras de exportação e técnicas otimizadas, demonstrando que limiares estáticos de hardware não delimitam confiavelmente o desenvolvimento de capacidades.
• Armamentização Específica de Tarefas: Exemplos incluem o exército ucraniano implantando modelos pequenos (milhões de parâmetros) em hardware modesto para mira autônoma, e a criação de conjuntos de dados especializados (ex: Zhousidun) para treinar modelos de detecção de objetos para mira em ativos navais. Esses sistemas operam bem abaixo dos limiares de computo de "fronteira", mas possuem utilidade militar direta.
• Volatilidade de Política: A rápida rescisão do Framework de Difusão de 2025 e a subsequente aprovação de exportações de chips de alto desempenho sob arranjos de compartilhamento de receita ilustram como a falta de um alvo de "armamentização" definido permite que a política derive para a barganha industrial.

Significância e Alegações
O artigo afirma que a "Miragem do LLM" tem mantido a formulação de políticas dos EUA refém, substituindo um risco complexo de armamentização por uma métrica administrativa conveniente (computo).

• Significância Estratégica: Ao focar no ápice do ecossistema de IA (LLMs de fronteira), a política atual ignora os sistemas mais propensos a serem armamentizados na prática: sistemas pequenos e especializados que alteram as dinâmicas de troca de força ao reduzir o custo do ataque.
• Significância Regulatória: O framework proposto oferece um caminho para uma política de segurança duradoura, fundamentando a regulação na capacidade demonstrada e em casos de uso do mundo real, em vez de insumos de treinamento. Argumenta que a política de segurança deve alinhar-se com a lógica baseada em efeitos do Direito Internacional Humanitário para permanecer relevante em uma era de assimetria tecnológica.
• Implicações de Equidade: Os autores observam que os controles centrados em computo impõem um modelo de "segurança através da escassez" que sobrecarrega desproporcionalmente o Sul Global, impondo o subdesenvolvimento tecnológico enquanto falham em abordar os riscos imediatos de armamentização específica de tarefas enfrentados por essas populações.

O artigo conclui que escapar da Miragem do LLM requer uma mudança de inferir o risco a partir dos insumos de treinamento para testar o desempenho implantável, apoiado por uma infraestrutura de avaliação adversarial independente.