Regional Bias in Large Language Models

Resumo Técnico: Viés Regional em Grandes Modelos de Linguagem

Definição do Problema
Embora os Grandes Modelos de Linguagem (LLMs) tenham transformado o processamento de informações, eles exibem vieses persistentes que refletem e amplificam preconceitos sociais. Embora os vieses de gênero e raça sejam bem documentados, o viés regional (geográfico) — onde os modelos exibem preferências sistemáticas ou erros baseados na localização de um usuário ou no contexto geográfico de uma consulta — permanece significativamente subestudado. Essa forma de viés pode levar a tratamentos injustos, exclusão sistemática de regiões específicas (particularmente comunidades do Ocidente e do Sul Global) e disparidades no acesso a serviços críticos em domínios como educação, saúde e comércio. As pesquisas existentes carecem de frameworks abrangentes para medir e quantificar sistematicamente esse viés em múltiplos LLMs de última geração.

Metodologia
O estudo introduz o FAZE (Framework for Analysing Zonal Evaluation), um framework de avaliação baseado em prompts projetado para quantificar o viés regional comportamental. A metodologia envolve os seguintes componentes:

• Construção do Dataset: Foi criado um dataset curado de 100 prompts contextualmente neutros. Esses prompts apresentam cenários de decisão de escolha forçada (ex: contratação, triagem de segurança, recomendações de viagem) envolvendo duas regiões. Crucialmente, os cenários são desenhados para serem simétricos, não oferecendo fatores culturais, legais ou contextuais legítimos que justificariam racionalmente a preferência por uma região sobre a outra.
• Seleção de Modelos: Dez LLMs proeminentes foram avaliados, abrangendo diversas arquiteturas e abordagens de treinamento: GPT-3.5, GPT-4o, Gemini 1.5 Flash, Gemini 1.0 Pro, Claude 3 Opus, Claude 3.5 Sonnet, Llama 3, Gemma 7B, Mistral 7B e Vicuna-13B.
• Protocolo de Avaliação: Cada modelo foi testado contra todos os 100 prompts via interfaces de chat direto (ou LMSYS, quando o acesso direto não estava disponível) entre julho e setembro de 2024. A avaliação capturou o comportamento padrão, de execução única, sem modificar os prompts de sistema ou os parâmetros de geração.
• Classificação e Pontuação: As respostas foram categorizadas em dois grupos:
  • Desconhecido (Unknown): O modelo recusou escolher, reconheceu informações insuficientes ou afirmou que as opções eram igualmente válidas.
  • Não-Desconhecido (Non-Unknown): O modelo comprometeu-se com uma região específica ou expressou uma preferência, apesar da neutralidade do prompt.
  • A Pontuação FAZE é calculada em uma escala de 10 pontos usando a fórmula: $FAZE = \frac{N_{total} - N_{unknown}}{N_{total}} \times 10$. Pontuações mais altas indicam uma tendência mais forte de fazer julgamentos específicos de região sem justificativa.

Principais Contribuições

1. Framework FAZE: O artigo apresenta o FAZE, um framework de triagem comportamental leve que captura tendências de comprometimento regional voltadas ao usuário sob condições neutras controladas. Ele fornece uma base reprodutível, interpretável e agnóstica ao modelo para análise comparativa.
2. Avaliação Empírica Sistemática: O estudo fornece a primeira comparação sistemática de viés regional entre dez diversos LLMs de última geração, indo além das discussões teóricas para a medição empírica.
3. Identificação de Variância: A pesquisa demonstra que o viés regional não é uniforme entre os modelos, mas varia significamente com base na arquitetura do modelo, distribuições de dados de treinamento e estratégias de alinhamento.

Resultados
A avaliação de 1.000 respostas revelou uma variação substancial nos níveis de viés:

• Alto Viés: O GPT-3.5 exibiu o maior viés com uma pontuação de 9,5, selecionando regiões específicas em 95 de 100 prompts. O Llama 3 seguiu com uma pontuação de 7,8.
• Médio Viés: Modelos como Gemma 7B (6,9), Vicuna-13B (6,0) e GPT-4o (5,8) mostraram tendências moderadas, ocasionalmente declinando a escolha, mas frequentemente fornecendo respostas específicas de região.
• Baixo Viés: O Claude 3.5 Sonnet alcançou a menor pontuação de 2,5, seguido pelo Mistral 7B (2,6) e Gemini 1.5 Flash (3,1). Esses modelos predominantemente se abstiveram de fazer seleções específicas de região, frequentemente reconhecendo a equivalência das opções ou a falta de informações suficientes.
• Disparidade: Existe uma diferença de quase 3,8 vezes entre o modelo mais enviesado (GPT-3.5) e o menos enviesado (Claude 3.5 Sonnet).

Significância e Alegações
O artigo alega que o viés regional pode prejudicar significativamente a confiabilidade, a justiça e a inclusividade dos outputs de LLMs em aplicações do mundo real e transculturais. Os achados sugerem que:

• O viés geográfico não é uma propriedade inerente à escala do modelo, mas é fortemente moldado pelas distribuições de dados de treinamento, objetivos de alinhamento e estratégias de pós-treinamento.
• Modelos de fronteira recentes (ex: Claude 3.5 Sonnet) mostram progresso na redução do favoritismo regional injustificado, provavelmente devido a estratégias de alinhamento e curadoria cuidadosa de dados.
• No entanto, o viés persistente de médio a alto em sistemas amplamente utilizados (como o GPT-3.5) destaca que a justiça geográfica continua sendo um desafio ativo.

Os autores posicionam este trabalho como um passo para o desenvolvimento de modelos de linguagem que respeitem diversas perspectivas geográficas. Eles enfatizam que o FAZE serve como uma métrica de nível de triagem para destacar tendências sistemáticas, observando que trabalhos futuros devem expandir a diversidade de prompts, incorporar cenários multilíngues e avaliar intervenções de mitigação de viés direcionadas. O estudo reconhece explicitamente limitações, incluindo o conjunto fixo de prompts, a avaliação de execução única e a natureza binária da classificação, enquadrando os resultados como um recorte do comportamento do modelo durante o período de avaliação (julho–setembro de 2024).