Do Political Opinions Transfer Between Western Languages? An Analysis of Unaligned and Aligned Multilingual LLMs

Resumo Técnico: As opiniões políticas se transferem entre línguas ocidentais?

Definição do Problema
Pesquisas de opinião pública demonstram consistentemente diferenças transculturais nas posições políticas em contextos sociolinguísticos. No entanto, permanece incerto se essas variações de nível humano se traduzem em diferenças translinguais em Modelos de Linguagem Multilíngues (MLLMs). Embora pesquisas anteriores tenham avaliado extensivamente os vieses políticos em LLMs exclusivamente em inglês, o comportamento dos MLLMs em diferentes línguas ocidentais é pouco explorado. A questão central de pesquisa é se os MLLMs refletem opiniões políticas socioculturais distintas para cada língua que suportam, ou se as opiniões políticas são transferidas uniformemente entre as línguas devido à dominância do inglês nos dados de pré-treinamento e alinhamento.

Os autores definem duas hipóteses concorrentes:

• H1 (Transferência de Opinião): As opiniões políticas transferem-se entre as línguas; alinhar um modelo em uma língua afeta todas as outras línguas suportadas de forma uniforme.
• H2 (Opiniões Separadas): Os MLLMs mantêm opiniões políticas distintas para cada língua, permitindo a divergência sociocultural.

Metodologia
O estudo emprega um design experimental de duas fases envolvendo 15 MLLMs não alinhados de vários tamanhos (variando de 1B a 35B de parâmetros) em cinco línguas europeias ocidentais: inglês, alemão, francês, espanhol e italiano.

1. Filtragem de Robustez (RQ1):

   • Dados: Os autores utilizam o ProbVAA, um conjunto de dados de 239 declarações de aplicações de aconselhamento de voto (VAAs) europeias, categorizadas em oito questões políticas (ex: proteção ambiental, lei e ordem) com posições conhecidas de esquerda/direita.
   • Verificação de Robustez: Para garantir a confiabilidade do modelo, os autores aplicam uma estrutura de robustez (adaptada de Ceron et al., 2024) testando a consistência contra variações de prompts, incluindo paráfrase, negação, inversão de resposta e mudanças de redação de templates. Apenas modelos que passaram em pelo menos 50% desses testes foram retidos para análise translingual (seis modelos: Phi3.5-3B, Llama3.1-8B, Aya23-8B, Mixtral8x7B, CommandR-35B, GPT3.5-turbo).
   • Análise: Um modelo de regressão beta quantifica os efeitos da língua e do modelo nas posições políticas, com o inglês como língua de referência. Testes não paramétricos de Kruskal-Wallis avaliam diferenças significativas entre as línguas.

2. Alinhamento Político e Transferência (RQ2):

   • Estratégia de Alinhamento: Dois modelos robustos (Phi3.5-3B e Llama3.1-8B) foram alinhados para exibir visões mais à esquerda ou à direita usando Otimização de Preferência Direta (DPO).
   • Fonte de Dados: Os conjuntos de dados de alinhamento foram construídos a partir do corpus do Manifesto Project (MARPOR), especificamente filtrando manifestos partidários em língua inglesa. Duas abordagens de anotação foram utilizadas:
     • Abordagem RiLe: Usando pontuações existentes de esquerda-direita baseadas em códigos MARPOR.
     • Abordagem de Questão Política: Anotando sentenças de manifestos especificamente para concordância/discordância com as oito questões políticas alvo.
   • Avaliação: Os modelos alinhados foram reavaliados no conjunto de dados ProbVAA em todas as cinco línguas. Além disso, uma tarefa de avaliação de texto aberto foi conduzida, onde os modelos geraram resumos opinativos sobre quatro questões políticas, com as posições detectadas por um LLM separado (Llama-3.1-70B-Instruct).

Principais Resultados

• RQ1: Modelos Não Alinhados:

  • Robustez: A maioria das línguas exibiu níveis de robustez semelhantes, indicando que as opiniões políticas em línguas não inglesas não são meros artefatos de uma geração deficiente, mas são estáveis.
  • Diferenças Translinguais: A análise de regressão revelou nenhuma diferença significativa nas posições políticas gerais entre o inglês e outras línguas ocidentais. Embora diferenças menores e estatisticamente significativas tenham aparecido em questões políticas específicas (ex: alemão, espanhol e italiano mostraram um apoio ligeiramente maior à proteção ambiental do que o inglês), estas não foram sistemáticas de forma abrangente.
  • Variância do Modelo: Diferenças significativas foram encontradas entre modelos (ex: Mixtral8x7B foi o mais inclinado à esquerda), mas não sistematicamente entre línguas dentro do mesmo modelo.

• RQ2: Modelos Alinhados:

  • Mudança Uniforme: Quando os modelos foram alinhados usando dados exclusivamente em inglês, as mudanças políticas resultantes ocorreram quase uniformemente em todas as cinco línguas.
  • Validação de H1: Os modelos alinhados moveram-se consistentemente em direção à ideologia alvo (esquerda ou direita) em alemão, francês, espanhol e italiano, espelhando a mudança ocorrida no inglês. Isso confirma que alinhar um MLLM em inglês transfere efetivamente esse alinhamento para outras línguas ocidentais.
  • Confirmação de Texto Aberto: A avaliação de texto aberto corroborou esses achados, mostrando que a "Pontuação de Esquerda" do texto gerado mudou consistentemente entre as línguas com base na direção do alinhamento.

Principais Contribuições

1. Avaliação Translingual Robusta: O artigo fornece uma avaliação detalhada e consciente da robustez das opiniões políticas em múltiplos MLLMs não alinhados através de cinco línguas ocidentais, filtrando modelos que falham em fornecer posições consistentes.
2. Análise de Transferência de Alinhamento: Oferece uma análise minuciosa de como o alinhamento político em inglês se propaga para outras línguas, demonstrando que o alinhamento de dados centrados no inglês induz mudanças ideológicas uniformes em toda a capacidade multilíngue do modelo.
3. Insight Metodológico: O estudo destaca que alcançar um alinhamento sociolinguístico ou cultural distinto em MLLMs é desafiador porque as representações internas dos modelos parecem ser dominadas pelo inglês, levando a um efeito de "primeira língua", onde o alinhamento em uma língua dita o comportamento em outras.

Significância e Alegações
Os autores concluem que, em contextos de línguas ocidentais, as opiniões políticas transferem-se entre as línguas dentro dos MLLMs. Este achado desafia a suposição de que os MLLMs podem representar facilmente nuances políticas socioculturais distintas para cada língua que suportam.

A significância deste trabalho reside na identificação de uma restrição metodológica fundamental: criar conjuntos de dados de alinhamento para línguas individuais isoladamente é insuficiente porque as línguas são interdependentes dentro dos MLLMs. Consequentemente, alcançar um alinhamento sociolinguístico, cultural e político explícito que respeite as diferenças regionais é inerentemente difícil. O artigo sugere que trabalhos futuros devem considerar esses efeitos de interação translingual ao implantar MLLMs em tarefas políticas em diversos contextos sociolinguísticos. Os autores mantêm-se modestos quanto aos mecanismos causais, observando que, embora a transferência seja evidente, a dinâmica arquitetônica ou de treinamento específica que a impulsiona (ex: dominância do inglês no pré-treinamento vs. pós-treinamento de alinhamento) requer investigação adicional.