Geopolitical alignment: Endorsement effects in large language models

Resumo Técnico: Alinhamento Geopolítico e Efeitos de Endosso em Modelos de Linguagem de Grande Escala

Definição do Problema
Os modelos de linguagem de grande escala (LLMs) estão sendo cada vez mais implementados como intermediários no trabalho de políticas públicas, encarregados de resumir briefings, comparar designs e gerar julgamentos que informam decisões humanas. Embora a literatura existente tenha documentado extensivamente vieses relacionados à ideologia doméstica, representação demográfica e preferências de segurança, permanece incerto se os LLMs possuem inclinações geopolíticas implícitas que moldam suas avaliações de conteúdo de políticas. Especificamente, o artigo investiga se a identidade de um endossante estrangeiro (por exemplo, os Estados Unidos, a União Europeia, a China ou a Rússia) altera a avaliação de um LLM sobre uma política, mesmo quando o conteúdo substantivo da política é mantido constante. Esta questão é crítica, pois os governos cada vez mais enquadram a governança de IA em termos de soberania e competição estratégica.

Metodologia
O estudo emprega um experimento de endosso, um design adaptado da psicologia política e da pesquisa de opinião pública, para inferir a valência percebida de atores específicos.

• Design Experimental: O experimento mantém o conteúdo da política fixo enquanto randomiza o ator estrangeiro descrito como apoiador da política. Dois vinhetas de política foram utilizadas: uma econômica (uma plataforma de alfândega digital compartilhada) e uma de segurança (uma plataforma de relato de incidentes cibernéticos compartilhada). Ambas são descritas como moderadas e tecnocráticas.
• Endossantes: Os endossantes randomizados são os Estados Unidos, a União Europeia, a China e a Rússia.
• Modelos Testados: Quatro LLMs foram avaliados: OpenAI GPT-5, Anthropic Claude Sonnet, Google Gemini 2.5 Flash e DeepSeek Chat.
• Condições:
  1. Apenas Numérica: Os modelos fornecem uma pontuação inteira única (0–100) sem explicação.
  2. Justificativa: Os modelos fornecem uma pontuação e uma justificativa curta (máximo de 100 palavras) em formato JSON.
• Coleta de Dados: Dez respostas foram coletadas para cada célula de política-domínio-endossante por modelo, resultando em 80 observações por modelo por condição (320 no total por modelo entre ambas as condições).
• Análise: O estudo utiliza regressão de Mínimos Quadrados Ordinários (OLS) para estimar desvios específicos por país nas pontuações de aprovação, isolando os efeitos do domínio de segurança e do prompt de justificativa das diferenças de base entre os países.

Principais Resultados
Os resultados demonstram claros efeitos de endosso geopolítico, embora a magnitude e a natureza desses efeitos variem significativamente conforme o modelo e a condição.

1. Condição de Base Apenas Numérica:

   • Modelos Ocidentais (GPT-5, Claude Sonnet, Gemini): Estes modelos atribuem pontuações de aprovação substancialmente menores a políticas endossadas pela China e pela Rússia em comparação com políticas idênticas endossadas pelos EUA ou pela UE.
     • GPT-5: Mostra uma penalidade consistente para a China (14 pontos menor) e para a Rússia (17 pontos menor) em relação aos EUA.
     • Claude Sonnet: Exibe uma penalidade moderada no vinheta econômico, mas uma penalidade severa no vinheta de segurança para a China e a Rússia (aproximadamente 19 e 28 pontos menores, respectivamente).
     • Gemini: Exibe as maiores penalidades descritivas, particularmente contra a Rússia (aproximadamente 47 pontos menor que os EUA) e a China (aproximadamente 35 pontos menor), mesmo no domínio econômico.
   • DeepSeek: Como o único modelo não ocidental na amostra, o DeepSeek não mostra diferenciação sistemática estatisticamente significativa entre os endossantes na condição apenas numérica, atuando como uma exceção de base.

2. Efeitos da Condição de Justificativa:

   • GPT-5: O pedido de justificativa aumenta modestamente as pontuações entre os endossantes, mas mantém a lacuna Ocidente/Não-Ocidente.
   • Claude Sonnet: O padrão amplo permanece intacto; o prompt tem pouco efeito nas pontuações dos EUA/UE, mas reduz ligeiramente as pontuações da Rússia.
   • Gemini: O pedido de justificativa atenua as penalidades, aumentando as pontuações para a China e a Rússia em aproximadamente 16–19 pontos, embora permaneçam menores que os endossos ocidentais.
   • DeepSeek: O prompt de justificativa ativa agudamente o raciocínio geopolítico. Enquanto a condição apenas numérica não mostrou viés, a condição de justificativa dispara grandes desvios negativos para a China (-23,3 pontos) e para a Rússia (-33,3 pontos), alinhando o comportamento do DeepSeek mais de perto com os modelos ocidentais.

3. Análise Qualitativa das Justificativas:

   • Endossos Ocidentais: As justificativas para o apoio dos EUA/UE tipicamente enquadram o endosso como uma "pista de credibilidade", sinalizando viabilidade, capacidade institucional e coordenação multilateral. As preocupações são enquadradas como riscos padrão de implementação.
   • Endossos Não Ocidentais: As justificativas para o apoio da China/Rússia frequentemente reestruturam a mesma política através de lentes de segurança de dados, vigilância, dependência estratégica e risco geopolítico. A identidade do endossante atua como uma "pista de alerta", introduzindo riscos políticos latentes que não estão presentes no texto da política em si.

Principais Contribuições

• Substantiva: O artigo estende a literatura sobre viés político em LLMs da ideologia doméstica para a legitimidade internacional. Fornece evidências de que as avaliações dos modelos podem depender da identidade de um endossante estrangeiro mesmo quando o conteúdo da política é fixo, sugerindo que os modelos codificam teorias implícitas de confiança e ameaça.
• Metodológica: Aplica um design padrão de experimento de endosso das ciências sociais ao comportamento do modelo, tratando os LLMs como objetos de medição experimental em vez de meramente como ferramentas de previsão. Demonstra também que pedidos de explicação não são meramente diagnósticos; eles podem alterar a própria avaliação, revelando padrões de raciocínio (ou vieses) que permanecem silenciados em saídas puramente numéricas.

Significância e Alegações
O artigo alega que os efeitos de endosso geopolítico são um potencial fator de confusão na análise de políticas assistida por modelos. Um modelo pode parecer estar avaliando viabilidade ou risco enquanto simultaneamente reage ao patrocinador da proposta. Os autores argumentam que isso não implica necessariamente que os modelos sejam "normativamente errados" em relação à confiança geopolítica, o que pode ser relevante para a implementação no mundo real. No entanto, o problema reside no fato de o modelo importar esses julgamentos silenciosamente, sem divulgar seu peso ou distinguir a substância da política da legitimidade do patrocinador.

O estudo conclui que, para usos de alto risco, tanto os modos numéricos quanto os baseados em justificativa devem ser testados, pois auditorias baseadas apenas em um modo podem perder ou representar erroneamente os vieses subjacentes. Os autores pedem pesquisas futuras para identificar onde esses efeitos entram no pipeline do modelo (pré-treinamento, ajuste fino, prompts de sistema) e para tornar mensurável e contestável o papel do contexto político no julgamento do modelo.