Resumo Técnico: Estabilidade vs. Manipulabilidade em Juízes LLM

Declaração do Problema

O paradigma "LLM-as-judge" (LLM como juiz) é um pilar fundamental das modernas pipelines de benchmarking (ex: MT-Bench, AlpacaEval), onde avaliadores automatizados classificam saídas de modelos com base em entradas fixas. Uma suposição central, muitas vezes implícita nessas pipelines, é que as decisões de avaliação são propriedades estáveis dessas entradas fixas; isto é, dada a mesma instrução (prompt) e respostas candidatas, o juiz deve produzir uma preferência consistente.

Este artigo desafia essa suposição ao introduzir e investigar a manipulabilidade pós-decisão. Os autores postulam que, embora os juízes LLM possam ser estáveis sob reavaliação repetida ou neutra, suas decisões podem carecer de robustez quando submetidas à interação conversacional subsequente. Especificamente, o estudo questiona se as decisões de avaliação, uma vez tomadas, podem ser sistematicamente alteradas através de desafios pós-decisão direcionados (ex: persuasão, dúvida ou enquadramento de autoridade) sem alterar as respostas candidatas subjacentes. Isso identifica um modo de falha distinto onde os resultados de avaliação tornam-se dependentes do histórico de interação em vez de serem propriedades invariantes da entrada.

Metodologia

Design Experimental

Os autores empregam um protocolo dentro da instância controlado para isolar o efeito causal da interação pós-decisão.

1. Entradas Fixas: Cada instância de avaliação consiste em um prompt $x$ e duas respostas candidatas ($y_A, y_B$). Estas permanecem constantes durante todo o experimento.
2. Julgamento de Linha de Base (Baseline): Uma preferência inicial $z^{(0)}$ é gerada.
3. Braços Pós-Decisão: A mesma instância é reavaliada sob três condições distintas:
   • Repetição (Repeat): Prompt idêntico para testar a reprodutibilidade intrínseca.
   • Reconsideração Neutra: Um prompt de acompanhamento não persuasivo para testar o efeito do contexto conversacional por si só.
   • Desafio Persuasivo: Prompts direcionados projetados para induzir uma mudança de julgamento. Três tipos são testados:
     • Dúvida (Doubt): Introdução de incerteza sem novas evidências.
     • Autoridade (Authority): Invocação de discordância de especialistas externos (pressão social).
     • Evidência (Evidence): Fornecimento de raciocínio para uma resposta alvo específica.

Datasets e Modelos

• Datasets: 100 pares de prompt-resposta amostrados do MT-Bench (multi-turno) e AlpacaEval (turno único). Anotações de preferência humana estão disponíveis para 86 pares para medir o alinhamento.
• Modelos Juízes: GPT-4o e GPT-4o-mini, avaliados com decodificação determinística (temperatura=0).
• Protocolos de Intervenção:
  • Desafio Anti-Linha de Base (Anti-Baseline Challenge): O prompt persuasivo visa a resposta oposta à decisão inicial do juiz. Isso testa se uma decisão estável pode ser revertida.
  • Auditoria de Alvo Contrabalançada (Counterbalanced Target Audit): O alvo da resposta é atribuído independentemente do julgamento de linha de base. Isso distingue reversibilidade geral de verdadeira direcionabilidade de alvo (ou seja, se o juiz está simplesmente seguindo a direção de um prompt independentemente do estado inicial).

Métricas

• Taxa de Reversão (Flip Rate - FR): Proporção de decisões que mudam ($z^{(c)} \neq z^{(0)}$).
• Suscetibilidade à Persuasão (Persuasion Susceptibility - PS): Probabilidade de um julgamento mudar sob desafio.
• Direcionabilidade (Directional Steering - DS): Mede se os julgamentos pós-desafio se movem em direção ao alvo nomeado além do que ocorre sob reconsideração neutra.
• Pontuação de Robustez de Avaliação (Evaluation Robustness Score - ERS): Uma métrica composta definida como $ERS = 1 - (\alpha PS + \beta DS)$, quantificando a robustez ao penalizar tanto a reversibilidade quanto a suscetibilidade direcionada ao alvo.
• Alinhamento Humano (Human Alignment - HA): Concordância com rótulos de preferência humana.
• Estabilidade de Ranking: Medida via $\tau$ de Kendall em rankings globais derivados de julgamentos pareados.

Principais Resultados

1. Estabilidade Não Implica Robustez

• Alta Estabilidade: Sob avaliação repetida e re-prompting neutro, as reversões de decisão foram negligenciáveis (1,0% e 0%, respectivamente).
• Alta Manipulabilidade: Sob o protocolo de desafio anti-linha de base, 49% das decisões reverteram. Isso subiu para 74% sob desafios baseados em autoridade.
• Conclusão: Juízes são estáveis isoladamente, mas altamente reversíveis sob desafio conversacional.

2. Reversibilidade vs. Direcionabilidade de Alvo

• O protocolo anti-linha de base mostrou alto alinhamento com o prompt de desafio (49% de reversão), mas isso confundiu reversão com direcionabilidade.
• A auditoria de alvo contrabalançada revelou que, embora a persuasão induza reversibilidade ($PS = 0,194$), não há direcionabilidade líquida de alvo além da reconsideração neutra ($DS_{signed} = -0,018$; $DS_{clipped} = 0$).
• Interpretação: O principal modo de falha é a reversibilidade (o juiz muda de ideia) em vez de direcionabilidade irrestrita (o juuiz segue cegamente a direção de um prompt).

3. Degradação do Alinhamento Humano e dos Rankings

• Alinhamento Humano: A concordância com as preferências humanas caiu de 67% (linha de base/neutro) para 48% sob persuasão baseada em autoridade.
• Prejudicialidade (Harmfulness): 64% das reversões rotuladas foram "prejudiciais", movendo as decisões para longe dos resultados preferidos pelos humanos. Decisões corretas de linha de base inverteram em uma taxa alta (45%), indicando que a persuasão frequentemente introduz erros em vez de corrigi-los.
• Instabilidade de Ranking: Sob o desafio anti-linha de base, os rankings de benchmark mudaram significativamente ($\tau = 0,50$), com 6 de 8 entradas classificadas mudando de posição.

4. Mecanismos de Falha

• Descalibração de Confiança: Os juízes relataram confiança uniformemente alta (70–100%) mesmo para decisões que foram facilmente revertidas. Desafios de autoridade causaram as maiores quedas de confiança, mas ainda assim induziram as maiores taxas de reversão.
• Racionalização Post Hoc: Quando as decisões inverteram, as justificativas tinham baixa sobreposição (0,23) com o raciocínio original, sugerindo que o juiz racionalizou uma nova decisão em vez de corrigir um erro explícito.
• Amplificação de Ambiguidade: A suscetibilidade foi maior em casos onde os juízes discordaram inicialmente (75% de reversão) comparado a casos de concordância inicial (43%).

Significância e Contribuições

O artigo faz as seguintes contribuições específicas para o campo da avaliação de LLMs:

1. Definição de um Novo Modo de Falha: Formaliza a manipulabilidade pós-decisão como um modo de falha de robustez distinto, separando-o da sensibilidade estática ao prompt ou do viés inicial.
2. Inovação de Protocolo: Introduz um protocolo de avaliação baseado em desafios (anti-linha de base e auditoria de alvo contrabalançada) para medir se julgamentos estáveis podem ser revertidos através de interação.
3. Evidência Empírica: Demonstra que juízes LLM são estáveis sob condições neutras, mas reversíveis sob desafio conversacional, particularmente sob enquadramento de autoridade.
4. Quantificação de Impacto: Mostra que essas reversões degradam o alinhamento humano, desestabilizam rankings de benchmark e são frequentemente prejudiciais, ocorrendo apesar da alta confiança autorrelatada.
5. Identificação de Mecanismo: Identifica os principais impulsionadores da manipulabilidade, incluindo descalibração de confiança, racionalização de baixa sobreposição e sensibilidade à autoridade.
6. Nova Métrica: Introduz a Pontuação de Robustez de Avaliação (ERS) para quantificar a robustez interacional, combinando a suscetibilidade à reversão com efeitos direcionais contrabalançados.

Conclusão

Os autores concluem que os resultados de avaliação em sistemas de LLM-as-judge são dependentes da interação e não propriedades fixas das saídas do modelo. A capacidade dos LLMs de revisar saídas (adaptabilidade) cria uma vulnerabilidade quando eles atuam como avaliadores (confiabilidade). O artigo argumenta que as pipelines de avaliação padrão capturam apenas uma visão parcial do desempenho ao ignorar a robustez sob desafio conversacional. Consequentemente, futuros protocolos de avaliação devem medir não apenas o acordo estático ou a repetibilidade, mas também a robustez sob interação pós-decisão, utilizando métricas como o ERS para garantir a integridade do benchmarking automatizado.