Bias in the Loop: Auditing LLM-as-a-Judge for Software Engineering

Título: Viés no Loop: Auditoria de LLMs como Juízes para Engenharia de Software

1. O Problema

O uso de Grandes Modelos de Linguagem (LLMs) como "juízes" para avaliar artefatos de código (como geração de código, reparo e geração de testes) tem crescido rapidamente, especialmente em fluxos de trabalho de engenharia de software autônoma (agentic). No entanto, essa prática carece de uma avaliação rigorosa sobre sua confiabilidade e viés.

O artigo identifica que as decisões dos juízes LLM são extremamente frágeis e sensíveis a cues de prompt (dicas na instrução) que não alteram a semântica do código subjacente. Pequenas edições no prompt, como a ordem de apresentação das opções (A vs. B), o nível de verbosidade, a menção de autoridade ou a inclusão de raciocínio passo a passo (Chain-of-Thought), podem inverter completamente o veredito do modelo. Isso ameaça a validade, reprodutibilidade e equidade da pesquisa em engenharia de software e da comparação de modelos, pois os resultados podem refletir artefatos do prompt em vez da capacidade real de avaliação.

2. Metodologia

Os autores adotam uma abordagem baseada em medição ("measurement-first") para auditar a confiabilidade e o viés de juízes LLM em tarefas de código.

• Tarefas e Dados: O estudo utiliza o benchmark CodeJudgeBench, cobrindo três tarefas principais:

  1. Geração de Código (CodeGen).
  2. Reparo de Código (CodeRepair).
  3. Geração de Testes Unitários (TestGen).
     O conjunto de dados contém 5.352 pares de respostas (uma "boa" e uma "ruim") estratificados por dificuldade (Fácil, Médio, Difícil).

• Modelos Avaliados:

  • Qwen3-4B: Modelo de linguagem geral de código aberto (hospedado localmente).
  • Qwen2.5-Coder-3B: Modelo especializado em código de código aberto.
  • GPT: Modelo proprietário (acessado via API), usado como baseline de estado da arte.

• Design Experimental:

  • RQ1 (Viés): Foram injetados 12 tipos de viés explícito no prompt do juiz, mantendo o código e a rubrica fixos. Os vieses incluem: Posição (ordem A/B), Autoridade, Efeito Manada, Chain-of-Thought (CoT), Distração, Diversidade de Estilo, Apenas Conclusão, Nome do Modelo, Refinamento, Auto-reforço, Sentimento e Verbosidade.
  • RQ2 (Consistência): Mediu-se a taxa de consistência (Consistency Rate - CR) ao executar o mesmo caso duas vezes com o mesmo prompt e rubrica, para verificar a estabilidade da decisão.
  • Métricas: Precisão micro-averaged (acerto na escolha da resposta "gold") e Taxa de Resposta (capacidade de emitir um veredito estruturado A/B).

3. Principais Contribuições

1. Bateria de Testes de Viés: Desenvolvimento de uma suíte de 12 vieses injetados especificamente adaptados para tarefas de engenharia de software, indo além dos vieses de linguagem natural tradicionais.
2. Formalização de Confiabilidade: Estabelecimento de métricas para consistência teste-reteste em julgamentos de código, quantificando a variabilidade inerente dos LLMs.
3. Descoberta de Falhas Críticas: Identificação de que modelos especializados em código podem ter alta precisão, mas baixa taxa de resposta estruturada, enquanto modelos genéricos falham frequentemente em emitir o formato de veredito exigido.

4. Resultados Chave

• Sensibilidade Extrema ao Prompt:

  • As decisões dos juízes mudam drasticamente com base em vieses de apresentação. Por exemplo, o viés de Refinamento ou Sentimento pode aumentar a precisão em até 15-20% quando a resposta correta está na posição favorecida (A), mas causar um colapso na precisão quando a resposta correta está na posição desfavorecida (B).
  • O viés de Verbosidade tende a favorecer consistentemente a segunda opção (B), invertendo a preferência natural do modelo pela primeira opção.

• Interação Posição x Viés:

  • Existe um forte efeito de ordem (Position Bias). Mesmo sem viés injetado, os modelos tendem a preferir a primeira opção (A) ou a segunda (B) dependendo da configuração.
  • Vieses como Chain-of-Thought e Autoridade reforçam a preferência pela posição onde estão aplicados. Se a resposta correta estiver na posição B, esses vieses podem reduzir a precisão para níveis próximos do acaso.

• Diferenças entre Modelos:

  • Qwen2.5-Coder-3B: Apresenta alta precisão quando o viés favorece a resposta correta, mas colapsa totalmente quando o viés a prejudica. Curiosamente, possui uma Taxa de Resposta de ~99%, emitindo vereditos estruturados quase sempre.
  • Qwen3-4B (Geral): Mostra uma taxa de resposta alarmantemente baixa (~44%). Em muitos casos, o modelo gera texto livre até atingir o limite de contexto, falhando em emitir um veredito A/B, o que invalida métricas de precisão que ignoram essas falhas.
  • GPT: Possui alta precisão base, mas ainda sofre quedas significativas sob certos vieses (ex: Distração reduz a precisão em TestGen de 77% para 62%).

• Consistência (Reprodutibilidade):

  • A consistência varia conforme a dificuldade da tarefa. Tarefas mais difíceis (como TestGen) apresentam maior volatilidade.
  • Paradoxalmente, a introdução de vieses fortes (como Sentimento) pode aumentar a consistência (o modelo decide a mesma coisa repetidamente), mas isso cria uma ilusão de confiabilidade: o modelo torna-se consistente em estar errado, ancorando-se no viés em vez de analisar o código.

• Análise de Confiança (Token-level):

  • A análise dos logits de confiança mostra que os vieses alteram a distribuição de probabilidade interna do modelo. Em casos difíceis, um viés pode aumentar a confiança do modelo em uma resposta incorreta de 1% para 85%, forçando uma mudança de decisão.

5. Significado e Implicações

• Validade da Pesquisa em SE: Os resultados indicam que as comparações de modelos baseadas em juízes LLM podem ser inválidas se não controlarem vieses de prompt. Um ranking de modelos pode ser alterado apenas trocando a ordem das opções ou adicionando uma frase de "autoridade".
• Guia para Prática:
  • Relatórios de Viés: Estudos de "LLM-as-a-Judge" devem relatar a sensibilidade ao viés e a consistência, não apenas a precisão.
  • Controles Obrigatórios: É necessário implementar trocas de ordem (A/B swapping) e perturbações controladas de prompt para validar a robustez.
  • Monitoramento de Taxa de Resposta: A taxa de resposta estruturada é tão importante quanto a precisão; modelos que falham em formatar a saída devem ser descartados ou ajustados.
  • Escalonamento: Em fluxos de trabalho autônomos, decisões de alto risco devem ser escalonadas para testes executáveis ou revisão humana quando houver instabilidade detectada (ex: discordância entre repetições ou trocas de ordem).

Em conclusão, o artigo argumenta que o uso de LLMs como juízes para código não é "plug-and-play". A confiabilidade é frágil e depende intrinsecamente da formulação do prompt. Para que essa tecnologia seja útil em engenharia de software, a robustez contra vieses de apresentação deve ser tratada como um requisito experimental de primeira classe.