Resumo Técnico: Fiel ou Fabricado? Um Framework Causal para Viés de Racionalização em Juízes LLM

Declaração do Problema

A adoção crescente de Modelos de Linguagem de Grande Escala (LLMs) como juízes automatizados para tarefas como sumarização e avaliação de diálogo trouxe benefícios de escalabilidade, mas levantou preocupações críticas sobre a confiabilidade e a fidelidade de suas decisões. Embora trabalhos anteriores tenham documentado vieses ao nível de resultados (por exemplo, preferências de posição, verbosidade e estilo), esses estudos focam majoritariamente no o que o juiz decide, em vez do porquê. Uma decisão só é confiável se sua explicação refletir as mesmas características evidenciais da entrada que impulsionaram a escolha.

O artigo identifica um modo de falha específico denominado viés de racionalização: a produção sistemática de racionalizações plausíveis, porém infieis, onde juízes LLM alinham seus veredictos e explicações a pistas não evidenciais (como rótulos de metadados, sinais de confiança ou formatação) em vez da evidência textual subjacente. Esse fenômeno compromete a auditabilidade e a equidade, particularmente em aplicações de alto risco como avaliação de benchmarks e monitoramento de conformidade. Os autores enquadram o requisito de confiabilidade como invariância a pistas: um juiz LLM é invariante a pistas se sua classificação e explicação permanecerem estáveis quando pistas não evidenciais são perturbadas, enquanto a evidência textual é mantida constante.

Metodologia

Os autores propõem um framework causal para isolar e quantificar a influência de pistas não evidenciais tanto nas decisões quanto nas explicações.

1. Construção do Conjunto de Dados

O estudo utiliza um novo corpus descontaminado de 1.000 resumos extraídos de domínios diversos (negócios, literatura, ciência, etc.) para evitar vazamento de dados de treinamento. O conjunto de dados inclui comparações entre resumos gerados por modelos extrativos tradicionais (por exemplo, TextRank, LexRank) e LLMs. Crucialmente, os autores constroem subconjuntos controlados onde o conteúdo é mantido fixo enquanto as pistas são manipuladas:

• Subconjunto de pares de conteúdo igual: Duas paráfrases do mesmo conteúdo com rótulos variados.
• Subconjunto de reetiquetamento de resumo único: O mesmo resumo apresentado sob rótulos diferentes.

2. Sondagem Causal Baseada em Pistas

Os autores introduzem um conjunto de cinco condições de sondagem para manipular pistas não evidenciais ($C$) mantendo a evidência textual ($X$) fixa:

• Cego (B): Nenhuma pista fornecida.
• Verdade (T): Rótulos de verdade fundamental fornecidos.
• Inversão (F): Rótulos invertidos (enganosos) fornecidos.
• Placebo (P): Emblemas críveis, mas não informativos, fornecidos.
• Revelar-Após (R): Rótulos de inversão aplicados primeiro, seguidos pela revelação dos rótulos de Verdade.

3. Métricas de Ancoragem

Para quantificar o impacto das pistas, os autores definem métricas conscientes de empates, separando ancoragem de resultado (mudanças nas classificações) de ancoragem de racionalização (mudanças nas explicações):

• Taxa de Detecção de Igualdade (EDR): Mede a capacidade de identificar candidatos equivalentes sob condições Cegas.
• Desvio de Neutralidade (NDB): Mede o desvio de uma divisão 50-50 em decisões Cegas não empatadas.
• Ancoragem por Rótulo em Resultados (LAO): Quantifica a fração do movimento do resultado que se alinha aos rótulos/pistas apresentados.
• Racionalização Alinhada ao Rótulo (LAI): Mede o grau em que as explicações utilizam retórica alinhada ao rótulo apresentado, mesmo quando o veredito permanece inalterado.
• Deriva da Explicação: Mede a distância textual entre explicações sob diferentes condições de pista quando o veredito é fixo.

4. Estratégias de Mitigação

Dois mecanismos de defesa são avaliados:

• Cadeia de Pensamento Estruturada (SCoT): Os juízes são instruídos a raciocinar conforme critérios predefinidos (precisão, completude, concisão, fluência) antes de decidir.
• Prova-Antes-Preferência (PBP): Um protocolo onde o juiz primeiro escreve e "bloqueia" notas por critério com trechos citados da fonte. Essas notas são imutáveis; a pontuação e classificação subsequentes devem derivar estritamente dessa evidência bloqueada, impedindo a racionalização post-hoc.

5. Ataques de Ancoragem

O estudo testa a robustez usando transformações de estilo que preservam o significado:

• Ataque de Verbosidade: Anexar texto redundante, mas que preserva o conteúdo, para sondar o viés de comprimento.
• Ataque de Confiança: Reescrever o tom para ser mais assertivo sem alterar fatos, para sondar o viés de certeza.

Resultados Principais

Os experimentos foram conduzidos em cinco LLMs de pesos abertos (Gemma-2-9B, Llama-3.1-8B, Mistral-7B, Qwen2.5-7B, Zephyr-7B).

1. Vulnerabilidade da Linha de Base: Juízes de Linha de Base padrão (veredito direto com explicação post-hoc) exibem suscetibilidade máxima a pistas. Sob rótulos Verdadeiros, eles mostram ancoragem quase perfeita (LAO $\approx$ 1,00). Eles também mostram forte suscetibilidade a rótulos de Placebo e deriva significativa de explicação, mesmo quando os veredictos não mudam.
2. Limitações do SCoT: A Cadeia de Pensamento Estruturada melhora a Taxa de Detecção de Igualdade, mas falha em prevenir totalmente a ancoragem por rótulo. Em muitos casos, o SCoT exibe altos valores de LAO (até 1,00 sob rótulos Verdadeiros) e permanece suscetível a pistas enganosas, particularmente sob condições de Placebo e Inversão.
3. Eficácia do PBP: O protocolo Prova-Antes-Preferência (PBP) supera significativamente tanto a Linha de Base quanto o SCoT.
   • Invariância de Resultado: O PBP mantém baixos valores de LAO em todas as condições de sondagem (frequentemente próximos de 0,00), indicando movimento mínimo em direção a resultados favorecidos por rótulos.
   • Resistência à Revisão: Quando rótulos são revelados após um julgamento inicial de Inversão, a Linha de Base e o SCoT mostram altas taxas de revisão (75–85%), enquanto o PBP mostra taxas marcadamente menores (5–22%).
   • Fidelidade da Explicação: O PBP reduz significativamente a deriva da explicação e a retórica alinhada ao rótulo em comparação com outros protocolos.
   • Robustez a Ataques: Sob ataques de Verbosidade e Confiança, o PBP mantém baixa ancoragem de resultado e mudanças textuais mínimas nas explicações, enquanto o SCoT frequentemente exibe a maior suscetibilidade.

Significado e Alegações

O artigo alega fornecer um framework causal para caracterizar e quantificar formalmente o viés de racionalização, indo além de observações ao nível de resultados para analisar a estabilidade das explicações. Ao introduzir sondagem de invariância a pistas e métricas de ancoragem, o estudo oferece ferramentas de diagnóstico para detectar quando juízes LLM estão se alinhando a artefatos superficiais em vez de evidências.

A contribuição principal é a demonstração de que Prova-Antes-Preferência (PBP) é uma estratégia de mitigação eficaz. Ao impor um "bloqueio de evidência" antes que a preferência seja declarada, o PBP freia a ancoragem por rótulo e a deriva de explicação, melhorando assim a robustez, a equidade e a auditabilidade dos sistemas de avaliação baseados em LLM. Os autores posicionam este trabalho como um passo necessário para desenvolver sistemas de IA mais transparentes e confiáveis para aplicações de alto risco, onde julgamentos não confiáveis ou sensíveis a pistas poderiam minar a confiança.

Os autores reconhecem modestamente as limitações: a avaliação é restrita a tarefas de sumarização, as métricas ao nível de explicação dependem de avaliadores específicos, e o estudo não relata intervalos de confiança ou variância de múltiplas sementes. Eles enquadram essas questões como adiamentos principistas para isolar um sinal causal limpo, motivando trabalhos futuros sobre generalização entre tarefas e validação humana.