Resumo Técnico: AgentFairBench

Declaração do Problema

Agentes de Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados para realizar ações consequentes — triagem de candidatos a emprego, recomendação de crédito e triagem de pacientes — contudo, os paradigmas atuais de avaliação de equidade permanecem estagnados no "nível da resposta". Os benchmarks existentes (ex: BBQ, StereoSet) avaliam as saídas textuais dos modelos em resposta a prompts. No entanto, existe uma lacuna estrutural: um modelo pode produzir paridade ao nível de tokens (respondendo a sondagens demográficas de forma equilibrada) enquanto ainda executa ações sistematicamente diferentes quando essas respostas são operacionalizadas em decisões, chamadas de ferramentas e trajetórias de múltiplos passos. Esse "mascaramento" do viés significa que a equidade ao nível da resposta não garante a equidade ao nível da ação. Além disso, os benchmarks de agentes existentes ou focam em domínios únicos, carecem de instrumentação demográfica ou falham em considerar como os scaffolds de agentes (ex: cadeia de pensamento, uso de ferramentas) podem amplificar em vez de atenuar o viés.

Metodologia

O artigo apresenta o AgentFairBench, um benchmark multi-domínio de nível de ação fundamentado no Framework de Condução de Viés (BCF - Bias Conduction Framework). O framework modela um agente como uma tupla de política, tarefa, memória e repertório, propondo que a disparidade pode ser mascarada, preservada, amplificada ou gerada conforme passa por esses componentes.

Elementos Centrais de Design

1. Conjuntos Contrafactuais Pareados: O benchmark utiliza perfis sintéticos, demograficamente neutros, onde a única variável é um sinal de raça $\times$ gênero codificado por nome (seguindo a tradição de Bertrand–Mullathan). Cada conjunto inclui seis variantes (Branco-M, Branco-F, Negro-M, Negro-F, Hispânico-M, Hispânico-F) para isolar o efeito do estímulo demográfico.
2. Três Domínios Regulatórios:
   • Contratação: Ancorado nas diretrizes de impacto adverso da EEOC e na Lei Local 144 de NYC. Saídas: Decisão de progressão (booleano) e pontuação de qualidade (0–100).
   • Empréstimo: Ancorado na ECOA/Regulação B. Saídas: Decisão de aprovação (booleano) e faixa de APR (1–5).
   • Triagem Médica: Ancorado em frameworks de governança de IA para IA de saúde de alto risco. Saídas: Decisão de escalonamento (booleano) e escore de acuidade (1–5).
3. Scaffolds de Agentes (Locais de Entrada do BCF): O benchmark avalia agentes através de quatro níveis de agência crescente para testar a proposição de "Super-aditividade" do BCF:
   • C0: Prompt direto (zero-shot).
   • C2: Cadeia de pensamento (traço de raciocínio).
   • C3: Deliberação multi-agente (agente revisor + agente decisor).
   • C4: Aumentado por ferramentas (coleta de informações antes da decisão).
4. Métricas:
   • Taxa de Inversão Contrafactual (CFR): A fração de conjuntos pareados onde a decisão binária não é unânime entre as seis condições demográficas.
   • Diferença de Pontuação Absoluta Média (MASD): A dispersão média entre a pontuação máxima e mínima atribuída entre as seis condições.
   • Disparidade de Taxa de Ação: Diferenças nas taxas de decisão positiva entre grupos.
   • Disparidade de Invocação de Ferramenta ($\Delta_{tool}$): A dispersão nas taxas de invocação de ferramentas entre grupos (C4 apenas).
5. Rigor Estatístico: O harness de avaliação utiliza intervalos de confiança de bootstrap BCa, testes de McNemar e Wilcoxon pareados, e correção de FDR de Benjamini–Hochberg. Crucialmente, introduz um piso de ruído de aridade correspondente: comparar a dispersão de pontuação de 6 grupos contra um piso de ruído pairwise de 2 execuções mostra que a disparidade é superestimada em $\sim$2,4$\times$. O benchmark corrige isso comparando a dispersão observada contra uma dispersão de ruído de 6 grupos derivada de execuções de teste-reteste.

Implementação

O AgentFairBench é lançado como um pacote Python instalável via pip (agentfairbench) com uma pegada de dependência apenas de NumPy. Inclui um leaderboard ao vivo com uma divisão privada mantida sob custódia e um "canário de contaminação" para evitar manipulação. O custo para rodar uma avaliação completa é estimado em dólares de um dígito por modelo.

Principais Resultados (Estudo Piloto)

Os autores conduziram um piloto no claude-haiku-4-5 (864 decisões através de 36 perfis, 6 condições demográficas e 4 scaffolds, além de uma execução de teste-reteste).

• Achado Metodológico: Uma comparação ingênua da MASD de 6 grupos contra um piso de ruído pairwise de 2 execuções sugeriu um sinal de disparidade aproximadamente 2,4$\times$ o piso de ruído. No entanto, quando corrigido para aridade estatística (comparando a dispersão de 6 grupos contra um piso de ruído de 6 grupos), a disparidade observada foi de 0,83$\times$ o piso de ruído.
• Resultado Nulo: Contra o piso de ruído de aridade correspondente e usando testes omnibus de grupo, zero dos 120 contrastes pareados e zero dos 9 contrastes omnibus sobreviveram à correção de múltiplas comparações. O piloto não encontrou efeito demográfico distinguível do ruído de amostragem para este modelo.
• Validade do Instrumento: Um teste de propriedade de "viés plantado" (injetando uma penalidade de -25 pontos para um grupo específico) confirmou que o harness recupera com sucesso disparidades conhecidas, provando que o resultado nulo não se deve a um instrumento insensível.
• Efeitos de Scaffold: Não foi encontrada evidência de amplificação de scaffold (Proposição P3 do BCF); os aumentos aparentes de disparidade através dos scaffolds estavam dentro do piso de ruído.
• Disparidade de Ferramenta: Embora $\Delta_{tool}$ fosse mensurável, as contagens do piloto eram pequenas demais para tirar conclusões além do ruído de pequena amostra.

Significância e Alegações

O artigo posiciona o AgentFairBench não como uma declaração definitiva sobre a equidade de todos os LLMs, mas como um instrumento sólido, sensível e pronto para adoção para medir a disparidade ao nível da ação.

1. Fechando a Lacuna de Medição: Ele desloca o foco de "o que os modelos dizem" para "o que os modelos fazem", abordando a lacuna estrutural onde a paridade ao nível de token coexiste com a disparidade ao nível da ação.
2. Correção Metodológica: Identifica e corrige um erro estatístico específico na medição de disparidade (desajuste de aridade), demonstrando que comparações ingênuas podem identificar falsamente o ruído como viés.
3. Operacionalização da Teoria: Fornece a primeira instanciação empírica do Framework de Condução de Viés, testando proposições relativas a mascaramento (P2) e super-aditividade (P3) através de múltiplos domínios e profundidades de scaffold.
4. Reprodutibilidade e Anti-Manipulação: Ao fornecer um harness de baixo custo e código aberto com uma divisão de teste privada e canários de contaminação, permite que a comunidade escale estudos confirmatórios através de diversas famílias de modelos, indo além de resultados autorrelatados.

Os autores declaram explicitamente que o resultado nulo do piloto no claude-haiku-4-5 é um achado honesto em uma escala específica ($n=12$ conjuntos pareados por célula) e não se generaliza para todos os agentes. O benchmark é projetado para facilitar estudos multimodelo com poder estatístico necessários para detectar efeitos reais, caso eles existam.