Resumo Técnico: Mitigando o p-Hacking baseado em LLM através da Pré-registro para o Próximo LLM

Definição do Problema

Os Grandes Modelos de Linguagem (LLMs) são cada vez mais utilizados para gerar, classificar e anotar dados que alimentam testes de hipóteses subsequentes. No entanto, essa dependência introduz uma vulnerabilidade severa ao p-hacking. Ao contrário da pesquisa tradicional, onde a coleta de dados é uma fase distinta, a pesquisa baseada em LLM permite que pesquisadores ajustem iterativamente prompts, parâmetros de decodificação (ex: temperatura, top-p) e formatos de saída até que uma significância estatística desejada seja alcançada. Como os LLMs estão sempre acessíveis, os pesquisadores podem inspecionar e revisar análises repetidamente, efetivamente fabricando significância mesmo quando não existe um efeito real.

Este problema é exacerbado pelo surgimento de cientistas de IA autônomos, que podem conduzir pesquisas de ponta a ponta e praticar p-hacking sem direção humana. O pré-registro tradicional, que compromete os pesquisadores com hipóteses e planos de análise antes da coleta de dados, falha neste contexto porque os "dados" (saídas de LLM) podem ser gerados e manipulados imediatamente após o compromisso. O desafio central é que as salvaguardas existentes não se transferem para os LLMs, pois a flexibilidade que torna os LLMs poderosos também os torna facilmente manipuláveis.

Metodologia: O Protocolo Proposto

Os autores propõem um protocolo para mitigar o p-hacking explorando duas observações principais:

1. Não-transferibilidade: Um prompt ou configuração de decodificação que força um LLM a produzir um rótulo desejado frequentemente falha em fazer o mesmo em um modelo diferente.
2. Compromisso Temporal: Pesquisadores podem se comprometer com um plano de análise antes que o modelo confirmatório exista.

O protocolo consiste em quatro etapas:

1. Finalizar Procedimento: O pesquisador realiza experimentos piloto usando modelos atualmente disponíveis para determinar procedimentos experimentais, critérios de avaliação e planos de análise.
2. Pré-registrar Procedimento: O pesquisador pré-registra os procedimentos finalizados e o plano de análise.
3. Pré-registrar Modelos Elegíveis: O pesquisador pré-registra um conjunto amplo de futuros modelos elegíveis (ex: famílias específicas de múltiplos provedores) e define critérios precisos de inclusão/exclusão (ex: preço por token, pontuações de benchmark) para determinar qual lançamento futuro se qualifica.
4. Avaliar no Próximo Modelo Elegível: Assim que o próximo LLM elegível for lançado, o pesquisador realiza a análise confirmatória usando o procedimento pré-registrado neste novo modelo.

Crucialmente, o modelo confirmatório não existe no momento do compromisso, impedindo o pesquisador de realizar o hacking contra ele. O protocolo inclui um modelo detalhado de pré-registro (ex: no AsPredicted) que especifica prompts, parâmetros de decodificação, regras de validade de saída e a lógica de seleção para o modelo confirmatório.

Design de Avaliação

Os autores avaliaram o protocolo em duas tarefas onde o efeito real é conhecido como nulo (por construção), permitindo identificar o p-hacking bem-sucedido:

• Classificação de Avaliações: Estimar a proporção de texto gerado por IA em um corpus de avaliações de pares de 2020 (prevalência real: 0%).
• Comparação Dietética: Estimar se o segundo de dois registros alimentares consecutivos possui menos calorias que o primeiro (taxa real: 50%).

Configuração Experimental:

• Modelos: 20 modelos de quatro provedores (OpenAI, Anthropic, Google, xAI).
• Configurações: 11 configurações distintas variando estrutura de prompt, enquadramento de instrução, processamento em lote (batching) e parâmetros de decodificação.
• Fases:
  • Retrospectiva: Avaliou 14 modelos lançados antes da data de pré-registro (25 de março de 2026).
  • Pré-registro: Os autores pré-registraram o protocolo completo, conjuntos de dados e 11 configurações.
  • Prospectiva: Avaliou o primeiro modelo elegível lançado após o pré-registro (Grok 4.20) e cinco modelos subsequentes.

Métricas:

• Taxa de Mitigação: A fração de casos onde uma configuração conseguiu realizar o p-hacking em um modelo, mas falhou em realizar o p-hacking no próximo modelo lançado sob a mesma configuração.
• Poder de Detecção: A capacidade do protocolo de detectar efeitos reais (testado injetando tamanhos de efeito conhecidos na tarefa dietética) em comparação com uma linha de base de re-medição com o mesmo modelo.

Principais Resultados

• Eficácia da Mitigação:
  • Na tarefa de Classificação de Avaliações, o protocolo teria bloqueado a transferência de p-hacking em 73,9% dos casos (17 de 23 hacks bem-sucedidos).
  • Na tarefa de Comparação Dietética, o protocolo bloqueou a transferência em 72,7% dos casos (32 de 44 hacks bem-sucedidos).
  • No próprio experimento prospectivo dos autores, 6 das 7 configurações que hackearam o modelo pré-pré-registro falharam em hackear o primeiro modelo elegível pós-pré-registro (85,7% de mitigação).
• Robustez à Estratégia:
  • Mesmo quando um adversário seleciona estrategicamente a configuração para pré-registrar (ex: escolhendo a configuração com a maior taxa de rótulo alvo no modelo atual ou aquela mais frequentemente hackeada no passado), a taxa de mitigação permaneceu acima de 60%.
  • Restringir o conjunto elegível a um único provedor (ex: apenas OpenAI ou apenas Anthropic) ainda resultou em uma taxa de mitigação de pelo menos 50%, embora os resultados tenham sido heterogêneos devido aos menores tamanhos de amostra.
• Poder de Detecção: O protocolo retém a capacidade de detectar efeitos genuínos. A taxa de detecção para efeitos verdadeiros usando o próximo modelo foi comparável à re-medição com o mesmo modelo, indicando que não houve perda significativa de poder estatístico.
• Custo de Tempo: O tempo de espera mediana para o lançamento do próximo modelo elegível no estudo foi de aproximadamente 10,3 dias, com uma média de 14,5 dias.

Significância e Alegações

O artigo alega que pré-registrar para o próximo LLM é um mecanismo viável e eficaz para salvaguardar a credibilidade da pesquisa baseada em LLM. Ao comprometer-se com um procedimento e um conjunto de modelos futuros elegíveis antes que o modelo confirmatório seja lançado, os pesquisadores removem a capacidade de buscar iterativamente configurações que produzam resultados desejados.

As principais alegações incluem:

• Viabilidade: O protocolo é prático, exigindo apenas uma curta espera (mediana de ~10 dias) e utilizando plataformas de pré-registro existentes.
• Generalização: A abordagem funciona através de diferentes provedores de modelos e é robusta mesmo se os pesquisadores tentarem manipular o sistema selecionando configurações ou provedores específicos.
• Confiança: O protocolo desloca a pesquisa baseada em LLM de uma busca aberta sobre "caminhos de bifurcação" (forking paths) para um compromisso transparente, fornecendo um sinal verificável de que os resultados não foram buscados.
• IA Autônoma: O protocolo é particularmente relevante para cientistas de IA autônomos, que podem ser integrados a frameworks de pesquisa para se comprometerem automaticamente com procedimentos antes que modelos confirmatórios estejam disponíveis.

Os autores reconhecem limitações, observando que o protocolo reduz, mas não elimina, o p-hacking, pois algumas configurações podem se propagar entre modelos. Além disso, a avaliação focou em tarefas de classificação binária; trabalhos futuros são necessários para avaliar a eficácia em rotulagem de múltiplas classes, geração de texto livre e saídas do tipo regressão. O artigo conclui que, embora a abordagem exija um modesto atraso, ela oferece uma alternativa demonstravelmente confiável para pesquisas que dependem de dados gerados por LLM.