Resumo Técnico: Review Arcade

Declaração do Problema

O artigo aborda a crescente dependência de Modelos de Linguagem de Grande Escala (LLMs) no ecossistema de revisão por pares acadêmica. Ele postula um cenário de dupla adoção onde tanto autores utilizam LLMs para revisar manuscritos quanto revisores empregam LLMs para gerar ou auxiliar na escrita de revisões. Essa dinâmica levanta preocupações relacionadas à Lei de Goodhart: se os autores otimizarem artigos especificamente para satisfazer critérios de revisão de LLMs, as pontuações resultantes podem deixar de ser uma medida válida da qualidade do artigo. Os autores investigam três perguntas de pesquisa (RQs) centrais:

1. Validade: Os LLMs podem produzir revisões suficientemente alinhadas com revisões humanas?
2. Estabilidade: As revisões de LLM são consistentes entre diferentes modelos, prompts e execuções repetidas?
3. Jogabilidade: As revisões de LLM podem ser "jogadas" por meio de fluxos de trabalho de edição iterativa automatizada que visam maximizar as pontuações de revisão?

Metodologia

O estudo conduz experimentos empíricos em 984 submissões reais da 2025 ACL Rolling Review (ARR). O conjunto de dados inclui artigos aceitos e rejeitados, com foco específico na pontuação "Geral" como métrica primária.

Configuração Experimental

• Modelos: Os autores avaliaram cinco modelos (três de pesos abertos: Gemma-3-27B, Qwen-3.6-35B, Llama-3.3-70B; e dois de pesos fechados: GPT-5.4-mini, GPT-5.4).
• Prompts: Cinco estratégias distintas de prompting foram testadas, variando de um prompt "simples" mínimo a prompts complexos orientados por persona ("acl_senior") adaptados às diretrizes da ARR.
• Métricas:
  • Alinhamento: Medido via Erro Absoluto Médio (MAE) em relação às pontuações humanas e correlação de Pearson ($r$) com a revisão humana de melhor correspondência.
  • Conteúdo: Sobreposição semântica de pontos fortes e fracos identificados usando um juiz-LLM (métrica baseada em recall).
  • Estabilidade: Variância nas pontuações entre execuções repetidas e diferentes prompts.

Melhoria Iterativa de Submissão (ISI)

Para abordar a RQ3, os autores simularam um fluxo de trabalho adversarial onde um autor edita iterativamente uma submissão com base no feedback do LLM. Este processo foi executado por 10 iterações sob três configurações distintas:

1. Constrita: Apenas edições superficiais e cosméticas (por exemplo, gramática, esclarecimento) são permitidas; nenhum novo experimento ou alteração de conteúdo.
2. Padrão: Uma abordagem intermediária inspirada em trabalhos anteriores, permitindo edições mas proibindo alterações não cosméticas, como fabricação de resultados.
3. Adversarial: O LLM é explicitamente autorizado a "jogar" o sistema, incluindo fabricar evidências, modificar resultados e inventar citações para satisfazer preocupações dos revisores.

Uma taxonomia de edições foi estabelecida, categorizando ações de "Edição de Texto" e "Esclarecimento" até "Aumento Metodológico" e "Evidência Alucinada".

Principais Resultados

1. Validade da Revisão por LLM (RQ1)

• Alinhamento de Pontuação: Os LLMs geralmente falham em corresponder aos julgamentos humanos em termos de MAE. Os modelos de melhor desempenho (variantes do GPT-5.4) alcançaram um MAE de ~0,7, enquanto revisores humanos alcançaram ~0,17. Notavelmente, uma linha de base ingênua (prever a pontuação intermediária de 2,5) superou os melhores LLMs em MAE (0,64 vs. 0,70).
• Correlação: Embora o MAE seja ruim, a correlação de Pearson é mais competitiva. O GPT-5.4 alcançou uma correlação de 0,276 contra revisões humanas. No entanto, isso é comparável à baixa correlação entre humanos observada no conjunto de dados (0,312), sugerindo que os LLMs não são significativamente melhores ou piores que a variação natural entre revisores humanos.
• Disparidade de Divisão: O desempenho variou significativamente entre artigos aceitos e rejeitados. O acordo humano foi muito maior para artigos rejeitados (0,408) do que para aceitos (0,210), e os LLMs espelharam essa tendência, lutando mais para diferenciar artigos de alta qualidade.

2. Estabilidade da Revisão por LLM (RQ2)

• Sensibilidade ao Prompt: As revisões de LLM são altamente instáveis entre diferentes prompts. Por exemplo, o MAE de um modelo poderia variar drasticamente dependendo se um prompt "simples" ou "sênior" foi usado.
• Instabilidade de Execução: Mesmo com o mesmo prompt e modelo, execuções repetidas produziram pontuações inconsistentes. Aproximadamente 36,9% dos artigos receberam pontuações diferentes em três execuções, com 20% mostrando uma diferença maior que 0,5 pontos. Isso indica que as revisões de LLM são atualmente instáveis demais para serem confiáveis como uma métrica autônoma.

3. Jogabilidade da Revisão por LLM (RQ3)

• Configuração Constrita: A edição iterativa com apenas mudanças superficiais levou a um aumento estatisticamente significativo nas pontuações. Aproximadamente 35% dos artigos melhoraram após 10 iterações, enquanto 22% viram uma diminuição. O tamanho do efeito foi pequeno a médio.
• Configuração Adversarial: Surpreendentemente, permitir que o LLM fabricasse evidências ou resultados não produziu os maiores aumentos de pontuação. O tamanho do efeito foi mais fraco do que na configuração constrita. Os autores hipotetizam que os guardrails do modelo previnem alucinações significativas e que inconsistências metodológicas introduzidas por dados falsos podem penalizar o artigo em revisões subsequentes de LLM.
• Tipos de Edição: A estratégia de "jogo" mais bem-sucedida baseou-se em Esclarecimento e Refatoração (reestruturação sem mudar o significado), em vez de fabricação substancial de conteúdo.

Principais Contribuições

1. Avaliação Empírica em Grande Escala: O primeiro estudo extenso avaliando revisões de LLM em submissões reais da ARR, cobrindo múltiplos modelos, prompts e execuções.
2. Simulação de Ataque Adversarial: Uma investigação sobre a edição automatizada de artigos como método para manipular pontuações de revisão de LLM, demonstrando que "jogar" é viável mesmo com edições superficiais.
3. Taxonomia de Edições: Uma taxonomia fundamentada para categorizar edições de artigos, distinguindo entre mudanças cosméticas e modificações substanciais (ou fabricadas).

Significado e Alegações

O artigo conclui que, embora os LLMs possam produzir revisões que correlacionam com julgamentos humanos em cenários específicos de melhor caso, eles não são universalmente confiáveis devido à instabilidade entre prompts e execuções. Os autores argumentam que o estado atual das revisões de LLM é insuficiente para adoção oficial sem salvaguardas rigorosas.

Crucialmente, o estudo destaca uma vulnerabilidade no processo de revisão por pares: revisões de LLM podem ser jogadas. Os autores podem refinar iterativamente artigos usando feedback de LLM para inflar artificialmente as pontuações, particularmente através de esclarecimentos superficiais e reorganização estrutural. Os autores invocam a Lei de Goodhart para alertar que, à medida que os LLMs se tornam um alvo para otimização, sua utilidade como medida da verdadeira qualidade do artigo se degradará. Eles instam a comunidade a exercer extrema cautela quanto a revisões automatizadas, enfatizando que implementações oficiais devem ser projetadas para prevenir jogabilidade e garantir perspectivas diversas, em vez de depender exclusivamente de métricas baseadas em pontuação.