Resumo Técnico: Quantificando o Efeito da Contaminação de Conjuntos de Teste em Avaliações Generativas

Declaração do Problema

A contaminação de conjuntos de teste — a inclusão inadvertida de dados de benchmark nos corpora de pré-treinamento — é uma ameaça crítica à avaliação confiável de sistemas de IA de fronteira. Embora o impacto da contaminação em avaliações discriminativas (ex: questões de múltipla escolha, classificação) seja bem documentado, seus efeitos em avaliações generativas (onde os modelos devem produzir soluções de formato longo) permanecem subexplorados. Tarefas generativas introduzem complexidades únicas, incluindo o comprimento da solução, a temperatura de amostragem e o requisito de cadeias de tokens coerentes, que podem interagir com a memorização de forma diferente de tarefas de escolha curta. Este artigo busca avaliar quantitativamente esses efeitos ao longo do ciclo de vida do modelo de linguagem para determinar se a contaminação em configurações generativas leva a uma generalização robusta ou meramente a uma memorização frágil.

Metodologia

Os autores conduziram um estudo controlado e de larga escala focando no benchmark MATH (Hendrycks et al., 2021b), um conjunto de dados de problemas de matemática de competição que exigem soluções geradas.

1. Configuração de Pré-treinamento:

   • Modelos: Dezenas de modelos de linguagem causais baseados na arquitetura Qwen 3 foram pré-treinados do zero. Os tamanhos dos modelos variaram de 34M a 344M de parâmetros.
   • Protocolo de Contaminação: Os corpora de pré-treinamento foram construídos misturando um web crawl de alta qualidade (FineWeb-Edu-Dedup) com números variados ($R$) de réplicas do conjunto de teste MATH. O número de réplicas variou logaritmicamente de 0 (não contaminado) a 3.162.
   • Controle de Computação: O treinamento foi realizado em escalas computacionalmente ótimas (20 tokens por parâmetro) e estendido para regimes de "sobretreinamento" (até 16x o computacionalmente ótimo) usando dados novos e não repetidos.
   • Ajuste Fino (Fine-tuning): Alguns modelos passaram por Ajuste Fino Supervisionado (SFT) no conjunto de treinamento do MATH para observar interações com a contaminação de pré-treinamento.

2. Métricas de Avaliação:

   • Math Verify: A fração de problemas onde a solução gerada é matematicamente equivalente à resposta de referência (gold answer). Os autores identificaram e corrigiram um erro crítico no EleutherAI LM Evaluation Harness que anteriormente subnotificava essas pontuações (elevando as pontuações de referência de ~70% para 100%).
   • Perda de Entropia Cruzada (Cross-Entropy Loss): A perda nas soluções de referência, usada para analisar leis de escala (scaling laws).
   • Verificações de Robustez: Os modelos foram testados em versões refraseadas (mesma lógica, redação diferente) e perturbadas (mesma redação, números diferentes) do conjunto de teste para distinguir memorização de generalização.

3. Variáveis de Inferência:

   • Os experimentos percorreram diversas temperaturas de amostragem (0 a 1.5) e analisaram o desempenho relativo ao comprimento da solução em tokens.

Principais Contribuições e Resultados

1. Leis de Escala e a Violação do "Erro Irredutível"

O estudo confirma que o desempenho (pontuações de Math Verify) aumenta tanto com o nível de contaminação quanto com o tamanho do modelo. No entanto, uma violação fundamental das leis de escala foi descoberta:

• Efeito de Réplica Única: Incluir até mesmo uma única réplica do conjunto de teste permite que os modelos alcancem uma perda de entropia cruzada inferior ao erro irredutível estimado do treinamento em um corpus não contaminado.
• Implicação Econômica: Sob as suposições padrão de leis de escala, uma única réplica do conjunto de teste simula efetivamente uma quantidade "infinita" de computação de pré-treinamento em relação a um corpus não contaminado, permitindo que os modelos ultrapassem o teto de desempenho teórico dos dados limpos.

2. Memorização vs. Generalização

O desempenho impulsionado pela contaminação não é generalização.

• Memorização Verbatim: Quando testados em problemas refraseados ou perturbados, o desempenho colapsou para níveis basais em todos os tamanhos de modelo e níveis de contaminação.
• Conclusão: Os ganhos dependem quase exclusivamente da memorização verbatim de sequências específicas do teste, e não da aquisição de raciocínio matemático subjacente.

3. Interação com Treinamento Adicional

O artigo identifica um efeito de "dose-resposta" em relação ao treinamento subsequente:

• Sobretreinamento (Overtraining): Treinar em dados novos além do ponto computacionalmente ótimo dilui os efeitos de contamções. Para modelos altamente contaminados, o sobretreinamento na verdade aumenta a perda do conjunto de teste, pois os dados novos reduzem a proporção de tokens contaminados, enfraquecendo o sinal memorizado.
• Ajuste Fino Supervisionado (SFT): O SFT tem efeitos opostos dependendo dos níveis de contaminação:
  • Baixa Contaminação: O SFT melhora o desempenho no teste.
  • Alta Contaminação: O SFT degrada o desempenho no teste. Os autores conjecturam que o SFT força o modelo a generalizar, fazendo-o "esquecer" as amostras de teste memorizadas. Como o sinal memorizado era o principal motor de desempenho em modelos de alta contaminação, esse esquecimento resulta em uma perda líquida.

4. Regimes de Inferência da Memorização

Os autores caracterizam como a temperatura de amostragem e o comprimento da solução modulam a memorização, identificando três regimes distintos:

• Decoerência Exponencialmente Rápida ($E > 0$): Na ausência de contaminação significativa, a probabilidade de gerar uma sequência longa correta decai exponencialmente.
• Memorização Frágil ($E \approx 0, \alpha \le 1$): Em contaminação intermediária, o modelo consegue gerar sequências, mas a probabilidade cumulativa de sucesso eventualmente desaparece conforme o comprimento aumenta.
• Bloqueio Determinístico (Deterministic Lock-In) ($E \approx 0, \alpha > 1$): Em alta contaminação, o modelo entra em um regime onde a certeza do próximo token cresce mais rápido do que o risco se acumula, permitindo a geração determinística de soluções longas.
• O Efeito "Soro da Verdade": A amostragem de alta temperatura ($\tau > 1$) atua como um "soro da verdade", desacoplando os ganhos de contaminação da generalização robusta. Ela pode instantaneamente reverter um modelo de "Bloqueio Determinístico" de volta para "Memorização Frágil", fazendo o desempenho colapsar para os níveis basais.

5. Correção de Implementação

Os autores identificaram um erro crítico no EleutherAI LM Evaluation Harness (antes da v0.4.8) onde a função de pontuação Math Verify removia a notação \boxed{} antes do processamento, levando a uma subnotificação sistemática do desempenho matemático. A correção elevou as pontuações de referência de ~70% para 100%.

Significância e Alegações

O artigo afirma fornecer a primeira quantificação abrangente da mecânica de contaminação no regime generativo. Sua principal significância reside em:

1. Redefinição da Ameaça: Embora a contaminação generativa infle as pontuações de forma semelhante à contaminação discriminativa, o mecanismo subjacente é distinto: ele depende da memorização verbatim frágil de longas cadeias de tokens, em vez de raciocínio robusto.
2. Magnitude Econômica: A descoberta de que uma única réplica do conjunto de teste permite que os modelos ultrapassem a barreira do "erro irredutível" sugere que a contaminação pode simular computação infinita, quebrando fundamentalmente o proxy de benchmarks para capacidade real.
3. Alavancas Práticas: O estudo identifica a temperatura de amostragem e o comprimento da solução como alavancas críticas que diferenciam memorização de generalização. A amostragem de alta temperatura e comprimentos de solução maiores expõem a fragilidade dos modelos contaminados.
4. Dinâmicas de Treinamento Contraintuitivas: A descoberta de que o SFT pode prejudicar o desempenho em modelos altamente contaminados sugere que uma queda na precisão do teste após o treinamento de alinhamento pode ser um sinal positivo de descontaminação (esquecimento do conjunto de teste) em vez de um "imposto de alinhamento" negativo.

Os autores concluem que, embora a contaminação crie uma "ilusão de competência", esta é uma ilusão frágil que pode ser desmantelada através de parâmetros específicos de inferência e treinamento adicional em dados novos.