Cross-Lingual Consensus: Aligning Multilingual Cultural Knowledge via Multilingual Self-Consistency

Resumo Técnico: Consenso Cross-Lingual

Declaração do Problema
Modelos de Linguagem de Grande Escala (LLMs) exibem disparidades significativas de desempenho entre idiomas, frequentemente alcançando seus melhores resultados quando solicitados em inglês. Esse roteamento centrado no inglês introduz um viés ocidental, dificultando a capacidade dos modelos de refletir com precisão conhecimentos culturais diversos. Embora os LLMs possam possuir rico conhecimento cultural embutido em representações de idiomas locais, eles frequentemente falham em recuperar ou transferir esse conhecimento quando solicitados em inglês. Abordagens existentes para mitigar isso — como injeção baseada em prompts ou treinamento em conjuntos de dados culturais curados — frequentemente sofrem de compreensão superficial, altos custos ou dependência de modelos externos mais fortes para síntese de dados.

Metodologia
Os autores propõem um framework auto-supervisionado que alavanca a autoconsistência multilíngue para alinhar conhecimento cultural entre idiomas sem anotação humana ou modelos professores mais fortes. O pipeline consiste em duas etapas principais:

1. Geração de Perguntas Bilíngues:

   • Declarações assertivas de conjuntos de dados existentes (CANDLE, CultureAtlas) são convertidas em parágrafos de conhecimento.
   • O modelo gera perguntas fundamentadas culturalmente em idiomas locais.
   • Essas perguntas são traduzidas para o inglês (e vice-versa) para formar pares bilíngues, filtrando perguntas não em inglês apoiadas por ferramentas de tradução.

2. Geração Auto-supervisionada de Verdade Terrena:

   • Amostragem de Respostas: Para cada pergunta bilíngue, o modelo gera $N$ respostas independentes tanto em inglês quanto no idioma local.
   • Consistência Intralinguística: O modelo avalia o acordo interno das respostas dentro de cada idioma usando similaridade cosseno pairwise de embeddings (via Qwen3-Embedding-0.6B).
   • Seleção de Idioma: O idioma que produz maior consistência é designado como o idioma "mais forte" ($\lambda^+$), enquanto o outro é o idioma "mais fraco" ($\lambda^-$).
   • Construção de Verdade Terrena: A resposta mais consistente do idioma mais forte é selecionada como a verdade terrena. Esta é traduzida para o idioma mais fraco para servir como alvo para treinamento.
   • Treinamento Aumentado com Crítica: O framework emprega um mecanismo de auto-crítica onde o modelo gera uma crítica de uma resposta amostrada no idioma mais fraco contra a verdade terrena traduzida. Os dados finais de treinamento consistem em tuplas contendo a pergunta, uma resposta amostrada, a crítica e a verdade terrena.
   • Ajuste Fino: O modelo base (Llama 3.1 8B Instruct) é ajustado finamente usando LoRA neste conjunto de dados sintetizado, aumentado com o Conjunto de Dados Aya para prevenir esquecimento catastrófico, mantendo uma proporção de 3:1 de exemplos culturais para gerais.

Principais Contribuições

• Framework Auto-supervisionado: Os autores introduzem um método para gerar sinais de treinamento confiáveis para alinhamento cultural inteiramente a partir das próprias respostas do modelo, eliminando a necessidade de anotações humanas externas.
• Transferência de Conhecimento Cross-Lingual: Um mecanismo é proposto para identificar e transferir conhecimento de representações de idiomas "mais fortes" (mais consistentes) para os "mais fracos", efetivamente trazendo à tona conhecimento cultural latente.
• Integração de Auto-crítica: A abordagem combina autoconsistência com auto-crítica para melhorar a qualidade do alinhamento em geração aberta sem depender de modelos externos mais fortes.

Resultados
A avaliação no benchmark BLEnD (cobrindo 16 regiões e 13 idiomas) demonstra o seguinte:

• Alinhamento Cultural: O método melhora significativamente o desempenho em consultas em inglês em todas as 16 regiões, alcançando um aumento médio de 5,03%.
• Desempenho em Idioma Local: Embora o desempenho em inglês tenha melhorado, o método enfrentou desafios com idiomas de baixos recursos (por exemplo, Hausa, Assamês, Sundanês) devido à escassez severa de dados (<1% dos dados culturais totais), levando ao esquecimento catastrófico nessas regiões específicas.
• Preservação do Raciocínio Geral: As capacidades gerais permaneceram largely intactas, com apenas pequenas diminuições observadas no Multilingual HellaSwag (-0,85%) e Global MMLU (-1,42%).
• Estudos de Ablação: Remover o módulo de autoconsistência (substituindo-o por seleção aleatória) resultou em uma queda substancial de desempenho, confirmando que a seleção baseada em consistência é crítica. No entanto, o formato aumentado com crítica sozinho ainda forneceu ganhos sobre o modelo base não alinhado.

Significado e Alegações
O artigo alega que conhecimento cultural latente existe dentro dos LLMs, mas é frequentemente inacessível quando solicitado em idiomas dominantes. Ao alavancar a autoconsistência multilíngue, os autores demonstram que esse conhecimento pode ser trazido à tona e propagado com sucesso entre idiomas. O trabalho destaca o potencial para alcançar LLMs mais culturalmente equitativos e consistentes por meio de métodos auto-supervisionados. No entanto, os autores modestamente reconhecem que, embora eficaz, a abordagem permanece sensível à disponibilidade e equilíbrio de dados multilíngues, particularmente para idiomas de baixos recursos onde a escassez de dados pode levar à degradação de desempenho.