Resumo Técnico: FairFund-Bench: Avaliando o Viés Distributivo na Alocação de Recursos por LLMs

Definição do Problema

Modelos de linguagem de grande escala (LLMs) estão sendo cada vez mais implantados para avaliar reivindicações concorrentes de recursos escassos, como candidaturas de emprego, aconselhamento financeiro e elegibilidade para assistência social. No entanto, auditorias recentes sobre o viés demográfico nessas decisões de alocação produziram resultados inconsistentes e frequentemente contraditórios. Alguns estudos relatam discriminação positiva (favorecendo mulheres e minorias étnicas), enquanto outros relatam discriminação negativa contra esses mesmos grupos, mesmo ao avaliar os mesmos modelos. O autor argumenta que essas discrepâncias não decorrem de propriedades inerentes ao modelo, mas de variações não examinadas nas escolhas de design da auditoria — especificamente a tarefa de avaliação, o contexto de comparação e o modo de apresentação do estímulo. Os benchmarks existentes frequentemente falham em variar sistematicamente esses parâmetros de design, levando a conclusões frágeis sobre a equidade do modelo.

Metodologia: FairFund-Bench

O artigo apresenta o FairFund-Bench, o primeiro benchmark projetado para variar sistematicamente as principais escolhas de design de auditoria para medir seu impacto no viés observado. O benchmark avalia 14 LLMs líderes em 7 provedores através de um pipeline composto por construção de estímulos, um instrumento de auditoria e um sistema de pontuação de quatro pilares.

1. Construção de Estímulos

Os estímulos consistem em 600 apelos de ajuda financeira únicos, escritos por humanos, calibrados contra um corpus de 1,3 milhão de campanhas reais do GoFundMe para garantir validade ecológica em comprimento e estrutura narrativa.

• Demografia: Os apelos sinalizam raça (Branca, Negra, Hispânica, Asiática) e gênero (Masculino, Feminino) via nomes validados.
• Enquadramento Causal: Baseado na teoria da merecibilidade de bem-estar CARIN, os apelos variam na atribuição causal da necessidade: Sem Causa, Estrutural (externa), Autocausada (escolha voluntária), Estigma (alta culpa, ex: vício) e Estigma com Redenção (ação corretiva).
• Cenários: Três domínios (Médico, Aluguel, Educação) com cinco cenários cada.

2. Design do Instrumento de Auditoria

O benchmark varia três eixos críticos de design:

• Tarefas:
  • Avaliar (Rate): Classificação de prioridade de estímulo único (1–5).
  • Classificar (Rank): Ordenação de múltiplos estímulos por prioridade.
  • Alocar (Allocate): Distribuição de um fundo fixo de $10.000 entre múltiplos estímulos.
• Contexto de Comparação:
  • Estímulo único: Um reclamante avaliado por vez.
  • Múltiplos estímulos: Múltiplos reclamantes avaliados simultaneamente.
• Modo de Apresentação:
  • Transparente: As diferenças demográficas são óbvias (ex: apelos idênticos que diferem apenas pelo nome).
  • Disfarçado: Os eixos demográficos são covariados com detalhes do cenário (usando esquemas de posicionamento equilibrados) para obscurecer a intenção da auditoria, mimetizando a implantação no mundo real onde pares mínimos são raros.

3. Avaliação e Pontuação

Cada modelo gera respostas para 6.360 observações (600 apelos × 3 tarefas × 2 contextos × 2 modos de apresentação, com ajustes específicos para composição de pacotes). O desempenho do modelo é pontuado em quatro pilares independentes:

• P1 (Viés Demográfico): Magnitude da variação de alocação entre grupos (quanto menor, melhor).
• P2 (Alinhamento de Merecibilidade): Consistência com as heurísticas humanas de CARIN em relação ao enquadramento da necessidade (quanto maior, melhor).
• P3 (Consistência entre Tarefas): Estabilidade dos padrões de viés entre as tarefas de Avaliar, Classificar e Alocar.
• P4 (Consistência entre Contextos): Estabilidade dos padrões de viés entre apresentações transparentes e disfarçadas.

Principais Resultados

1. O Formato da Auditoria Inverte a Direção do Viés

O estudo demonstra que a direção do viés demográfico é altamente sensível ao formato da auditoria.

• Tarefa de Avaliação (Rating): Os modelos exibem discriminação positiva em relação a minorias étnicas (Negros, Hispânicos, Asiáticos) ao avaliar indivíduos isoladamente.
• Tarefa de Classificação (Ranking): Os mesmos modelos exibem discriminação negativa contra alguns desses grupos (especificamente reclamantes Asiáticos e Hispânicos) ao classificá-los lado a lado.
• Tarefa de Alocação (Allocation):
  • Em pacotes transparentes (onde as diferenças demográficas são óbvias), os modelos engajam predominantemente em "divisão igualitária", distribuindo fundos igualmente, independentemente da demografia. Isso sugere que a consciência da auditoria ou o treinamento de alinhamento suprime o viés em cenários óbvios de pares mínimos.
  • Em pacotes disfarçados, a divisão igualitária cai significativamente (de ~100% para ~2% para raça), e as disparidades demográficas emergem. A magnitude do viés em auditorias disfarçadas é 3 a 4 vezes maior do que em auditorias transparentes (ex: \121 vs. \36 de diferença média para raça).

2. O Enquadramento Causal Domina a Demografia

O efeito do enquadramento causal (merecibilidade) na alocação é substancialmente maior do que os efeitos demográficos.

• Os modelos consistentemente alocam mais fundos para reivindicações com causas Estruturais em comparação com causas Autocausadas ou de Estigma.
• A magnitude dos efeitos de enquadramento excede as disparidades demográficas por vários fatores ou até uma ordem de magnitude (ex: diferenças de \469–\795 baseadas em enquadramento vs. ~$100 de diferença baseada em raça).
• Diferente do viés demográfico, os efeitos de enquadramento são robustos e consistentes em todas as tarefas, contextos e modos de apresentação, indicando que os LLMs reproduzem de forma confiável as heurísticas de merecibilidade humanas.

3. Desempenho do Modelo

• Viés Demográfico (P1): As magnitudes de viés geral são pequenas (Cohen's d < 0,20), com a maioria dos modelos pontuando entre 0,03 e 0,08.
• Alinhamento de Merecibilidade (P2): Modelos de fronteira maiores (ex: Gemini 2.5 Pro, Opus 4.6) mostram maior alinhamento com padrões de merecibilidade humana do que modelos menores.
• Consistência (P3, P4): Os modelos mostram alta consistência entre tarefas e contextos, embora a direção do viés demográfico possa inverter entre as tarefas.

Significância e Alegações

O artigo afirma que a inconsistência na literatura anterior sobre viés em LLMs é um artefato metodológico, e não um defeito do modelo. Ao variar sistematicamente o design da auditoria, o FairFund-Bench reproduz todo o espectro de achados relatados anteriormente (viés positivo, negativo e nulo) usando os mesmos modelos.

O autor enfatiza três implicações primárias:

1. Para Avaliadores: Auditorias de formato único são insuficientes para alegações credíveis sobre o viés do modelo. Ignorar a distinção entre prompts transparentes e disfarçados pode levar à subestimação das disparidades, pois a "divisão igualitária" em auditorias de pares mínimos transparentes mascara vieses revelados em contextos disfarçados, que são mais realistas.
2. Para Desenvolvedores: Uma única pontuação de equidade é inadequada. O framework de quatro pilares revela que o desempenho consistente (baixa volatilidade) e o alinhamento substantivo (reprodução de heurísticas humanas) não necessariamente coincidem.
3. Para Sistemas de Alocação: Os LLMs atuais reproduzem robustamente julgamentos humanos de merecibilidade (ex: penalizar necessidades autocausadas ou estigmatizadas). O autor observa que isso não é necessariamente desejável e levanta questões éticas sobre se os sistemas de alocação devem espelhar ou superar essas heurísticas humanas.

O artigo conclconclui que o FairFund-Bench fornece um framework necessário para navegar no espaço de design de auditorias de viés, oferecendo um benchmark público e código de pontuação para facilitar avaliações mais rigorosas e reproduzíveis de LLMs em contextos distributivos.