💬 NLP

Detecting Data Contamination in LLMs via In-Context Learning

O artigo apresenta o CoDeC, um método prático e automatizado que detecta e quantifica a contaminação dos dados de treinamento em modelos de linguagem de grande escala, analisando como a aprendizagem em contexto impacta a confiança do modelo, distinguindo entre dados de treinamento memorizados e distribuições não vistas.

Autores originais: Michał Zawalski, Meriem Boubdir, Klaudia Bałazy, Besmira Nushi, Pablo Ribalta

Publicado 2026-05-13

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Michał Zawalski, Meriem Boubdir, Klaudia Bałazy, Besmira Nushi, Pablo Ribalta

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um professor corrigindo a prova de um aluno. Você quer saber: Esse aluno realmente aprendeu o conteúdo, ou apenas memorizou as respostas de um gabarito vazado?

Durante muito tempo, verificar se Modelos de Linguagem de Grande Escala (LLMs) "trapacearam" memorizando suas questões de teste durante o treinamento foi como tentar achar uma agulha num palheiro. Os métodos tradicionais eram lentos, exigiam acesso aos arquivos secretos de treinamento do modelo ou forneciam resultados confusos.

Este artigo apresenta uma nova ferramenta simples chamada CoDeC (Detecção de Contaminação via Contexto). Pense no CoDeC como um teste de "Prova Surpresa com uma Dica".

A Ideia Central: O Teste da "Dica"

Veja como o CoDeC funciona, usando uma analogia simples:

1. O Cenário "Não Visto" (O Aluno Honesto)
Imagine que você pede a um aluno um problema de matemática que ele nunca viu antes.

Sem uma dica: Ele pode ter um pouco de dificuldade.
Com uma dica: Você mostra a ele um problema semelhante que ele também nunca viu antes. De repente, ele tem um "momento de iluminação". A dica ajuda-o a entender o estilo da questão, e ele responde com mais confiança.
Observação do CoDeC: Quando um modelo vê um conjunto de dados que não memorizou, fornecer-lhe exemplos desse mesmo conjunto de dados atua como uma dica útil. O modelo fica mais inteligente e mais confiante.

2. O Cenário "Memorizado" (O Aluno Trapaceiro)
Agora, imagine que você pede ao aluno um problema que ele já memorizou de um gabarito vazado.

Sem uma dica: Ele recita a resposta perfeitamente porque a sabe de cor.
Com uma dica: Você mostra a ele outro problema do mesmo gabarito vazado. Em vez de ajudar, essa nova informação confunde-o. Por quê? Porque o cérebro dele está preso no "modo de recitação". A nova dica interrompe seu padrão rígido de memória, fazendo-o tropeçar e responder com menos confiança.
Observação do CoDeC: Quando um modelo memorizou os dados, adicionar mais exemplos desses mesmos dados na verdade reduz sua confiança, pois isso quebra seu ritmo de memorização.

Como o CoDeC Mede Isso

O método é surpreendentemente simples e automatizado:

Pegue uma questão de um conjunto de dados que você suspeita que possa estar nos dados de treinamento do modelo.
Peça ao modelo para respondê-la (Meça sua confiança).
Adicione uma "dica": Coloque algumas outras questões aleatórias desse mesmo conjunto de dados logo antes da questão-alvo.
Peça ao modelo novamente: Sua confiança aumentou ou diminuiu?
- A confiança AUMENTOU? O modelo provavelmente está limpo (está aprendendo com o contexto).
- A confiança DIMINUIU? O modelo provavelmente está contaminado (está memorizando, e o contexto extra está atrapalhando-o).

Ao fazer isso para centenas de questões, o CoDeC fornece uma pontuação em porcentagem.

0–20%: O modelo provavelmente é honesto; está raciocinando, não memorizando.
80–100%: O modelo provavelmente memorizou esse conjunto de dados. Está "trapaceando".

Por Que Isso é Importante

Sem Chaves Secretas Necessárias: Você não precisa ver os arquivos de treinamento do modelo (que muitas vezes são secretos). Você só precisa conversar com o modelo.
Funciona em Todo Lugar: Funciona em testes de matemática, desafios de programação e perguntas de conhecimento geral.
Pega a "Trapaceira Suave": Não pega apenas cópias exatas. Pega modelos que viram dados muito semelhantes (como uma versão reescrita de uma questão de teste ou uma versão sintética de um benchmark). Se o modelo memorizou a "vibe" do teste, o CoDeC vai pegá-lo.

O Que os Autores Encontraram

Os pesquisadores testaram o CoDeC em dezenas de modelos, incluindo alguns com dados de treinamento públicos (para que soubessem a verdade) e alguns com dados de treinamento secretos.

Os Resultados: O CoDeC foi incrivelmente preciso (99,9% de precisão em distinguir dados vistos de não vistos).
As Linhas de Base: Métodos mais antigos (como verificar o quão "fácil" o modelo acha a questão) falharam em separar os trapaceiros dos alunos honestos.
Descobertas do Mundo Real: Quando aplicaram o CoDeC a modelos populares e recentes, encontraram vários casos em que modelos obtiveram pontuações muito altas em benchmarks específicos, sugerindo que esses modelos provavelmente viram os dados de teste (ou dados muito semelhantes) durante seu treinamento.

A Conclusão

O CoDeC é como um detector de mentiras para benchmarks de IA. Não pergunta apenas: "Você sabe a resposta?". Pergunta: "Ver mais sobre este tópico ajuda você ou o confunde?". Se o confunde, você provavelmente já sabia a resposta de cor. Isso ajuda a comunidade de IA a confiar mais nas pontuações de benchmarks e garante que os modelos sejam julgados por sua capacidade de aprender, e não apenas por sua capacidade de memorizar.

Resumo Técnico: Detecção de Contaminação via Contexto (CoDeC)

Definição do Problema

A integridade da avaliação de Modelos de Linguagem de Grande Escala (LLMs) está cada vez mais comprometida pela contaminação de dados, onde dados de treinamento se sobrepõem a conjuntos de dados de referência. Isso leva a métricas de desempenho infladas, impulsionadas pela memorização em vez de generalização genuína. Os métodos de detecção existentes enfrentam limitações significativas:

Abordagens baseadas em perda (por exemplo, Vanilla Loss, Min-K%) frequentemente falham em distinguir entre dados contaminados e dados genuinamente fáceis, exigindo ajuste extensivo de parâmetros e referências externas.
Verificações explícitas de sobreposição requerem acesso a corpora de treinamento, que raramente estão disponíveis para modelos de pesos abertos.
Ataques de Inferência de Membro (MIAs) frequentemente lutam com escalabilidade e interpretabilidade, particularmente para modelos grandes treinados em corpora massivos.

Há uma necessidade crítica de um método automatizado, escalável e agnóstico ao modelo para detectar contaminação no nível do conjunto de dados, sem exigir acesso a dados de treinamento ou modelos de referência externos.

Metodologia: Detecção de Contaminação via Contexto (CoDeC)

O CoDeC é um método prático que aproveita a Aprendizagem em Contexto (ICL) para quantificar a contaminação. Ele opera com base na observação de que os LLMs reagem de maneira diferente a exemplos em contexto, dependendo de se o conjunto de dados foi visto durante o treinamento.

Hipótese Central

Conjuntos de Dados Não Vistos: Quando um modelo encontra um conjunto de dados que não viu, adicionar exemplos em contexto desse mesmo conjunto fornece novas informações (estilo, estrutura, vocabulário), tipicamente aumentando a confiança do modelo (log-probabilidades) nos tokens alvo.
Conjuntos de Dados Contaminados (Vistos): Se o modelo memorizou o conjunto de dados, os exemplos em contexto não fornecem novas informações. Além disso, esses exemplos podem perturbar padrões de memorização, levando a uma redução na confiança em comparação com a linha de base (sem contexto).

O Pipeline CoDeC

O método requer apenas acesso de caixa-cinza (probabilidades de tokens) e segue quatro etapas:

Previsão de Linha de Base: Para cada ponto de dados $x$ em um conjunto de dados suspeito $\mathcal{D}$ , calcule a média da verossimilhança do modelo em tokens consecutivos.
Previsão em Contexto: Amostre $n$ exemplos adicionais de $\mathcal{D} \setminus \{x\}$ , anteceda-os a $x$ e calcule a verossimilhança para $x$ neste novo contexto.
Cálculo da Pontuação: Calcule a diferença $\Delta(x) = \text{logprob}_{\text{em contexto}}(x) - \text{logprob}_{\text{linha de base}}(x)$ .
Agregação: A pontuação de contaminação $S_{\text{CoDeC}}(\mathcal{D})$ é a porcentagem de amostras onde $\Delta(x) < 0$ (ou seja, a confiança diminuiu com o contexto).

$S_{\text{CoDeC}}(\mathcal{D}) = \frac{1}{N} \sum_{i=1}^{N} \mathbb{1}[\Delta(x_i) < 0]$

Propriedades Chave

Agnóstico ao Modelo: Funciona com qualquer arquitetura (Transformers, RNNs, Mamba) e não requer re-treinamento.
Sem Parâmetros: Não é necessário ajuste de limiar; a saída é uma porcentagem intuitiva.
Eficiente: Requer apenas duas passagens diretas por amostra.
Robustez: Detecta contaminação não apenas de correspondências exatas, mas também de distribuições relacionadas (por exemplo, dados gerados sinteticamente, paráfrases ou conteúdo aumentado).

Contribuições Principais

Introdução do CoDeC: Um método simples e automatizado para detectar e quantificar a contaminação de dados de treinamento usando dinâmicas de aprendizagem em contexto.
Validação Empírica: Demonstração de que o CoDeC alcança separação quase perfeita (AUC 99,9%) entre conjuntos de dados vistos e não vistos em diversos modelos (Pythia, GPT-Neo, RWKV, OLMo, Nemotron) e arquiteturas, superando as linhas de base mais avançadas (Vanilla Loss, Min-K%, Zlib Ratio).
Análise das Dinâmicas de Contaminação:
- Fase de Treinamento: As pontuações do CoDeC aumentam abruptamente durante os estágios iniciais do treinamento (aproximadamente 2% das etapas de treinamento), indicando memorização rápida de priores distribucionais.
- Ajuste Fino: O ajuste fino em um conjunto de dados consistentemente impulsiona as pontuações do CoDeC acima de 90%, confirmando a sensibilidade do método à exposição recente.
- Transferência de Contaminação: O método detecta transferência de contaminação entre benchmarks relacionados (por exemplo, MMLU para outros conjuntos de dados de QA) e é robusto contra simples aumentos de dados (ruído, alterações de espaços em branco).
Avaliação Abrangente: Aplicação do CoDeC a mais de 40 modelos recentes de pesos abertos em benchmarks amplamente utilizados (AIME, GSM8K, MMLU, etc.), revelando casos de contaminação potencial onde os modelos pontuam perto ou acima do limiar de 80%.

Resultados

Poder de Separação: O CoDeC alcança um AUC no nível do conjunto de dados de 99,9% em todos os modelos avaliados, enquanto as linhas de base mostram sobreposição significativa entre distribuições vistas e não vistas (AUCs variando de 64% a 92%).
Interpretação da Pontuação:
- >80%: Forte evidência de contaminação (treinamento direto ou forte dependência de priores memorizados).
- <20%: Típico para conjuntos de dados não vistos, indicando generalização.
- 20%–60%: Ambíguo; pode indicar contaminação parcial, exposição a dados relacionados ou alta diversidade do conjunto de dados atuando como ruído.
Correlação com Tamanho do Modelo: Modelos maiores (por exemplo, 253B parâmetros) tendem a exibir pontuações de contaminação mais baixas do que contrapartes menores dentro da mesma família, sugerindo que a capacidade aumentada facilita a generalização sobre a memorização.
Descobertas do Mundo Real: A avaliação identificou modelos específicos com altas pontuações de contaminação em benchmarks como AIME 2024 e RewardBench v1, sugerindo vazamento potencial de dados ou treinamento em dados sintéticos estreitamente relacionados.

Significado e Alegações

O artigo posiciona o CoDeC como uma ferramenta vital para restaurar a confiança na avaliação de LLMs. Seu significado reside em:

Praticidade: Diferentemente de métodos anteriores, não requer acesso a corpora de treinamento, modelos de referência externos ou ajuste complexo, tornando-o imediatamente integrável em pipelines de avaliação.
Interpretabilidade: A pontuação baseada em porcentagem fornece uma métrica clara e acionável para pesquisadores e desenvolvedores avaliarem a confiabilidade dos resultados de benchmarks relatados.
Detecção de Contaminação Sutil: Ao capturar a perturbação de padrões de memorização, o CoDeC identifica contaminação decorrente de distribuições relacionadas e dados sintéticos, que verificações de sobreposição tradicionais frequentemente perdem.

Os autores concluem que, embora altas pontuações de CoDeC (>80%) indiquem contaminação provável, pontuações moderadas devem ser interpretadas por meio de comparação entre modelos para distinguir entre efeitos específicos do conjunto de dados e memorização genuína. O método apoia o desenvolvimento de práticas de avaliação mais confiáveis e ajuda a identificar modelos que dependem de generalização em vez de memorização mecânica.