BenchGuard: Who Guards the Benchmarks? Automated Auditing of LLM Agent Benchmarks

1. Declaração do Problema

À medida que os agentes de Modelos de Linguagem de Grande Escala (LLM) enfrentam tarefas cada vez mais complexas e baseadas em execução (por exemplo, descoberta científica, engenharia de software), os benchmarks utilizados para avaliá-los tornaram-se frágeis. Diferentemente de conjuntos de dados estáticos de múltipla escolha, os benchmarks baseados em execução consistem em uma pilha de artefatos acoplada: instruções em linguagem natural, soluções de referência verdadeiras (programas-ouro), scripts de avaliação e ambientes contêinerizados.

O artigo identifica um modo de falha crítico: defeitos de benchmark frequentemente surgem não da incapacidade do agente de resolver uma tarefa, mas de inconsistências dentro do próprio benchmark. Estes incluem:

• Fixação na Solução e Maldição do Conhecimento: Criadores de benchmarks ancoram-se em sua implementação específica, assumindo que escolhas implícitas são evidentes. Isso leva a instruções subespecificadas ou contraditórias em relação à solução de referência.
• Desalinhamento entre Artefatos Cruzados: Erros onde a instrução aponta para um arquivo que a solução de referência não utiliza, ou o script de avaliação verifica um formato (por exemplo, nomes de medicamentos) que a instrução solicitou explicitamente em um formato diferente (por exemplo, SMILES).
• Limitações da Revisão Humana: Mesmo benchmarks com múltiplas rodadas de validação por especialistas (por exemplo, ScienceAgentBench, SWE-bench Verified) contêm erros residuais que distorcem as medições de capacidade. Revisores humanos frequentemente perdem esses erros porque a falha está distribuída entre artefatos interagentes, em vez de residir em um único rótulo.

2. Metodologia: Framework BENCHGUARD

Os autores propõem o BENCHGUARD, o primeiro framework de auditoria automatizada projetado especificamente para benchmarks de agentes orientados a tarefas e baseados em execução. Ele trata a auditoria de benchmark como um problema de consistência entre artefatos cruzados.

Componentes Principais

1. Artefatos de Entrada: O sistema ingere quatro componentes para cada tarefa:
   • Instrução em Linguagem Natural.
   • Programa Verdadeiro (Solução de Referência).
   • Script de Avaliação (Lógica).
   • Configuração do Ambiente (Dependências, caminhos).
2. Taxonomia de Erros: O BENCHGUARD utiliza uma taxonomia estruturada de 4 categorias e 14 subcategorias para classificar defeitos:
   • GT (Ground Truth/Verdade Terrena): Erros de lógica, tratamento incorreto de dados, incompatibilidades de formato.
   • EVAL (Avaliação): Viés do julgador, incompatibilidades entre especificação e avaliação, cobertura incompleta, tolerâncias incorretas.
   • INST (Instrução): Requisitos subespecificados, contradições internas, tarefas inviáveis.
   • ENV (Ambiente): Dependências ausentes, erros de caminho, restrições de recursos.
3. Protocolos de Auditoria:
   • Auditoria em Nível de Definição: O modo principal. Utiliza uma chamada consolidada de LLM para verificar cruzadamente todos os quatro artefatos simultaneamente. Emprega um processo de raciocínio de seis fases (Compreensão da Tarefa $\to$ Verificação da Verdade Terrena $\to$ Verificação da Lógica de Avaliação $\to$ Verificação da Especificação $\to$ Verificação do Ambiente $\to$ Consolidação). Inclui verificações estáticas determinísticas e lógica de deduplicação (o "teste de uma correção") para garantir achados atômicos.
   • Auditoria em Nível de Execução (Opcional): Quando traços de execução do agente ou programas gerados estão disponíveis, eles são anexados como evidência diagnóstica. Isso ajuda a detectar questões invisíveis à revisão estática, como limites de tolerância estritos que falham apenas quando uma saída válida, mas com ordem diferente, é gerada.
4. Humano no Loop: O BENCHGUARD não atua como um juiz autônomo. Em vez disso, ele destaca achados de alta confiança com evidências de suporte (trechos de código, números de linha) para arbitragem por especialistas.

3. Contribuições Principais

1. Paradigma de Avaliação Assistida por IA: O artigo altera o papel dos LLMs de fronteira de serem meramente os sujeitos da avaliação para serem auditores sistemáticos da própria infraestrutura de avaliação.
2. Taxonomia de Erros: Uma taxonomia validada e empiricamente fundamentada de defeitos de benchmark que leva em conta a natureza acoplada dos benchmarks baseados em execução.
3. O Framework BENCHGUARD: Um pipeline (planejado para ser de código aberto) capaz de auditar tarefas complexas usando modelos de fronteira a um baixo custo (menos de 15 dólares para 50 tarefas).
4. Validação Empírica: Demonstração de que a auditoria automatizada pode descobrir defeitos ignorados por múltiplas rodadas de revisão humana por especialistas.

4. Resultados Experimentais

O framework foi implantado em dois benchmarks científicos proeminentes: ScienceAgentBench (SAB) e BIXBench.

ScienceAgentBench (SAB)

• Configuração: 102 tarefas, originalmente validadas por 9 especialistas em matéria.
• Achados: O BENCHGUARD identificou 12 defeitos confirmados pelos autores.
• Impacto: Estes incluíam erros fatais que tornavam as tarefas insolúveis (por exemplo, arquivo de entrada errado nas instruções versus código de referência) e incompatibilidades de métricas.
• Desempenho: Usando um ensemble de 5 modelos de fronteira (Gemini, GPT-5, Claude), o sistema alcançou 100% de recall nos 12 defeitos confirmados ao combinar os resultados. O custo para auditar 50 tarefas com um ensemble foi de aproximadamente 27,57 dólares.

BIXBench

• Configuração: 50 tarefas do subconjunto "Verified-50" (tarefas previamente revisadas por especialistas independentes).
• Verdade Terrena: 17 revisões de especialistas decompostas em 24 questões atômicas.
• Desempenho:
  • Recall: O ensemble de 5 modelos alcançou 83,3% de alinhamento exato (20/24 questões) e 95,8% incluindo correspondências parciais.
  • Precisão: O sistema sinalizou defeitos de alta confiança que a revisão humana anterior havia ignorado completamente (por exemplo, um programa-ouro descartando silenciosamente amostras não mencionadas na instrução).
  • Custo: Uma auditoria completa de 50 tarefas custou 14,38 dólares.
• Insight: Os resultados destacam que especialistas humanos podem sofrer de "fixação na solução", perdendo inconsistências estruturais que a referência cruzada automatizada detecta. Por outro lado, ferramentas automatizadas podem sinalizar restrições "excessivamente prescritivas" que especialistas consideraram desnecessárias, sugerindo uma relação complementar.

5. Significado e Direções Futuras

• Custo-Efetividade: A auditoria automatizada mostrou-se um complemento prático e de baixo custo à revisão humana, capaz de escalar para grandes conjuntos de benchmarks.
• Integridade do Benchmark: Os achados sugerem que benchmarks "verificados" não são imunes a ruídos. Auditoria contínua e automatizada é necessária para manter a integridade dos pipelines de avaliação à medida que os modelos avançam.
• Mudança no Desenvolvimento: O artigo defende a integração da auditoria no ciclo de vida de construção de benchmarks, em vez de tratá-la como uma etapa de remediação post-hoc. Isso permitiria que modelos de fronteira servissem como portas de qualidade, destacando suposições implícitas antes que os artefatos fossem publicados.
• Impacto na Comunidade: Ao tornar o BENCHGUARD de código aberto, os autores visam permitir que a comunidade escale o desenvolvimento de benchmarks com garantias de integridade embutidas, assegurando que os benchmarks meçam verdadeiramente as capacidades que afirmam rastrear.

Em conclusão, o BENCHGUARD demonstra que a confiabilidade da avaliação de agentes LLM está atualmente comprometida por uma infraestrutura de benchmark frágil. Ao empregar modelos de fronteira como auditores, a comunidade pode identificar e reparar sistematicamente esses defeitos, levando a avaliações mais precisas e confiáveis das capacidades de IA.