💬 NLP

Detecting Data Contamination in LLMs via In-Context Learning

L'article présente CoDeC, une méthode pratique et automatisée qui détecte et quantifie la contamination des données d'entraînement dans les grands modèles de langage en analysant comment l'apprentissage en contexte affecte la confiance du modèle, distinguant ainsi les données d'entraînement mémorisées des distributions non vues.

Auteurs originaux : Michał Zawalski, Meriem Boubdir, Klaudia Bałazy, Besmira Nushi, Pablo Ribalta

Publié 2026-05-13

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Michał Zawalski, Meriem Boubdir, Klaudia Bałazy, Besmira Nushi, Pablo Ribalta

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un enseignant corrigeant un examen d'élève. Vous voulez savoir : cet élève a-t-il réellement appris le cours, ou a-t-il simplement mémorisé les réponses à partir d'une copie de corrigé fuite ?

Pendant longtemps, vérifier si les grands modèles de langage (LLM) ont « triché » en mémorisant leurs questions d'examen durant l'entraînement a été comparable à chercher une aiguille dans une botte de foin. Les méthodes traditionnelles étaient lentes, nécessitaient l'accès aux fichiers d'entraînement secrets du modèle, ou donnaient des résultats confus.

Ce papier présente un nouvel outil simple appelé CoDeC (Détection de Contamination par le Contexte). Considérez CoDeC comme un test de « Quiz Surprise avec un Indice ».

L'Idée Centrale : Le Test de l'« Indice »

Voici comment fonctionne CoDeC, en utilisant une analogie simple :

1. Le Scénario « Non Vu » (L'Élève Honnête)
Imaginez que vous posez à un élève un problème de mathématiques qu'il n'a jamais vu auparavant.

Sans indice : Il pourrait un peu peiner.
Avec un indice : Vous lui montrez un problème similaire qu'il n'a pas non plus vu auparavant. Soudain, il a un « déclic ». L'indice l'aide à comprendre le style de la question, et il répond avec plus de confiance.
Observation de CoDeC : Lorsqu'un modèle voit un ensemble de données qu'il n'a pas mémorisé, lui fournir des exemples de ce même ensemble de données agit comme un indice utile. Le modèle devient plus intelligent et plus confiant.

2. Le Scénario « Mémorisé » (L'Élève Tricheur)
Maintenant, imaginez que vous posez à l'élève un problème qu'il a déjà mémorisé à partir d'une copie de corrigé fuite.

Sans indice : Il récite la réponse parfaitement car il la connaît par cœur.
Avec un indice : Vous lui montrez un autre problème issu de la même copie fuite. Au lieu d'aider, cette nouvelle information le confond. Pourquoi ? Parce que son cerveau est bloqué en « mode récitation ». Le nouvel indice perturbe son schéma de mémoire rigide, le faisant trébucher et répondre avec moins de confiance.
Observation de CoDeC : Lorsqu'un modèle a mémorisé les données, ajouter davantage d'exemples issus de ces mêmes données réduit en réalité sa confiance car cela brise son rythme de mémorisation.

Comment CoDeC Mesure Cela

La méthode est étonnamment simple et automatisée :

Prenez une question dans un ensemble de données que vous suspectez d'être présent dans les données d'entraînement du modèle.
Demandez au modèle de répondre (Mesurez sa confiance).
Ajoutez un « indice » : Placez quelques autres questions aléatoires de ce même ensemble de données juste avant la question cible.
Demandez au modèle à nouveau : Sa confiance augmente-t-elle ou diminue-t-elle ?
- La confiance AUGMENTE ? Le modèle est probablement propre (il apprend du contexte).
- La confiance DIMINUE ? Le modèle est probablement contaminé (il mémorise, et le contexte supplémentaire le perturbe).

En procédant ainsi pour des centaines de questions, CoDeC vous donne un score en pourcentage.

0–20 % : Le modèle est probablement honnête ; il raisonne, il ne mémorise pas.
80–100 % : Le modèle a probablement mémorisé cet ensemble de données. Il « triche ».

Pourquoi C'est Important

Pas de Clés Secrètes Nécessaires : Vous n'avez pas besoin de voir les fichiers d'entraînement du modèle (qui sont souvent secrets). Vous avez juste besoin de parler au modèle.
Cela Fonctionne Partout : Cela fonctionne sur des tests de mathématiques, des défis de codage et des questions de culture générale.
Cela Attrape la « Triche Douce » : Cela ne se contente pas d'attraper les copies exactes. Cela attrape les modèles qui ont vu des données très similaires (comme une version reformulée d'une question d'examen ou une version synthétique d'une référence). Si le modèle a mémorisé l'« ambiance » du test, CoDeC l'attrapera.

Ce Que les Auteurs Ont Découvert

Les chercheurs ont testé CoDeC sur des dizaines de modèles, y compris certains avec des données d'entraînement publiques (donc ils connaissaient la vérité) et d'autres avec des données d'entraînement secrètes.

Les Résultats : CoDeC était incroyablement précis (99,9 % de précision pour distinguer les données vues des données non vues).
Les Références : Les anciennes méthodes (comme vérifier à quel point le modèle trouve la question « facile ») ont échoué à séparer les tricheurs des élèves honnêtes.
Constats Réels : Lorsqu'ils ont appliqué CoDeC à des modèles populaires et récents, ils ont trouvé plusieurs cas où les modèles obtenaient des scores très élevés sur des références spécifiques, suggérant que ces modèles avaient probablement vu les données de test (ou des données très similaires) durant leur entraînement.

L'Essentiel

CoDeC est comme un détecteur de mensonges pour les références d'IA. Il ne demande pas seulement : « Connaissez-vous la réponse ? ». Il demande : « Voir davantage de ce sujet vous aide-t-il, ou vous confond-il ? ». Si cela vous confond, vous connaissiez probablement déjà la réponse par cœur. Cela aide la communauté de l'IA à faire davantage confiance aux scores des références et garantit que les modèles sont jugés sur leur capacité à apprendre, et non seulement sur leur capacité à mémoriser.

Résumé Technique : Détection de Contamination par le Contexte (CoDeC)

Définition du Problème

L'intégrité de l'évaluation des Grands Modèles de Langage (LLM) est de plus en plus compromise par la contamination des données, où les données d'entraînement chevauchent les ensembles de données de référence. Cela conduit à des métriques de performance gonflées, pilotées par la mémorisation plutôt que par une généralisation authentique. Les méthodes de détection existantes font face à des limitations significatives :

Les approches basées sur la perte (par exemple, Vanilla Loss, Min-K%) échouent souvent à distinguer les données contaminées des données genuinely faciles, nécessitant un réglage extensif des paramètres et des références externes.
Les vérifications explicites de chevauchement requièrent l'accès aux corpus d'entraînement, qui sont rarement disponibles pour les modèles à poids ouverts.
Les attaques d'inférence d'appartenance (MIAs) peinent souvent avec l'évolutivité et l'interprétabilité, en particulier pour les grands modèles entraînés sur des corpus massifs.

Il existe un besoin critique d'une méthode automatisée, évolutive et agnostique au modèle pour détecter la contamination au niveau de l'ensemble de données sans nécessiter l'accès aux données d'entraînement ni à des modèles de référence externes.

Méthodologie : Détection de Contamination par le Contexte (CoDeC)

CoDeC est une méthode pratique qui exploite l'Apprentissage en Contexte (ICL) pour quantifier la contamination. Elle repose sur l'observation que les LLM réagissent différemment aux exemples en contexte selon que l'ensemble de données a été vu ou non pendant l'entraînement.

Hypothèse de Base

Ensembles de Données Inconnus : Lorsqu'un modèle rencontre un ensemble de données qu'il n'a pas vu, l'ajout d'exemples en contexte issus de ce même ensemble fournit de nouvelles informations (style, structure, vocabulaire), augmentant généralement la confiance du modèle (log-probabilités) sur les tokens cibles.
Ensembles de Données Contaminés (Vus) : Si le modèle a mémorisé l'ensemble de données, les exemples en contexte ne fournissent aucune nouvelle information. De plus, ces exemples peuvent perturber les schémas de mémorisation, entraînant une réduction de la confiance par rapport à la ligne de base (sans contexte).

Le Pipeline CoDeC

La méthode nécessite uniquement un accès en boîte grise (probabilités de tokens) et suit quatre étapes :

Prédiction de Ligne de Base : Pour chaque point de données $x$ dans un ensemble de données suspect $\mathcal{D}$ , calculez la log-vraisemblance moyenne du modèle sur les tokens consécutifs.
Prédiction en Contexte : Échantillonnez $n$ exemples supplémentaires depuis $\mathcal{D} \setminus \{x\}$ , préfixez-les à $x$ , et calculez la log-vraisemblance pour $x$ dans ce nouveau contexte.
Calcul du Score : Calculez la différence $\Delta(x) = \text{logprob}_{\text{en contexte}}(x) - \text{logprob}_{\text{base}}(x)$ .
Agrégation : Le score de contamination $S_{\text{CoDeC}}(\mathcal{D})$ est le pourcentage d'échantillons où $\Delta(x) < 0$ (c'est-à-dire que la confiance a diminué avec le contexte).

$S_{\text{CoDeC}}(\mathcal{D}) = \frac{1}{N} \sum_{i=1}^{N} \mathbb{1}[\Delta(x_i) < 0]$

Propriétés Clés

Agnostique au Modèle : Fonctionne avec n'importe quelle architecture (Transformers, RNN, Mamba) et ne nécessite aucun réentraînement.
Sans Paramètres : Aucun réglage de seuil n'est requis ; la sortie est un pourcentage intuitif.
Efficace : Nécessite uniquement deux passages avant par échantillon.
Robustesse : Détecte la contamination non seulement à partir de correspondances exactes, mais aussi à partir de distributions apparentées (par exemple, données générées synthétiquement, paraphrases ou contenu augmenté).

Contributions Clés

Introduction de CoDeC : Une méthode simple et automatisée pour détecter et quantifier la contamination des données d'entraînement en utilisant la dynamique de l'apprentissage en contexte.
Validation Empirique : Démonstration que CoDeC atteint une séparation quasi parfaite (AUC 99,9 %) entre les ensembles de données vus et non vus à travers divers modèles (Pythia, GPT-Neo, RWKV, OLMo, Nemotron) et architectures, surpassant les lignes de base de l'état de l'art (Vanilla Loss, Min-K%, Zlib Ratio).
Analyse de la Dynamique de Contamination :
- Phase d'Entraînement : Les scores CoDeC augmentent brusquement au cours des premières étapes de l'entraînement (environ 2 % des étapes d'entraînement), indiquant une mémorisation rapide des priors distributionnels.
- Affinage (Fine-tuning) : L'affinage sur un ensemble de données entraîne systématiquement les scores CoDeC au-dessus de 90 %, confirmant la sensibilité de la méthode à une exposition récente.
- Transfert de Contamination : La méthode détecte le transfert de contamination entre des benchmarks apparentés (par exemple, de MMLU vers d'autres ensembles de données de questions-réponses) et est robuste face aux augmentations de données simples (bruit, changements d'espaces blancs).
Évaluation Large : Application de CoDeC à plus de 40 modèles récents à poids ouverts sur des benchmarks largement utilisés (AIME, GSM8K, MMLU, etc.), révélant des cas de contamination potentielle où les modèles obtiennent des scores proches ou supérieurs au seuil de 80 %.

Résultats

Pouvoir de Séparation : CoDeC atteint un AUC au niveau de l'ensemble de données de 99,9 % sur tous les modèles évalués, alors que les lignes de base montrent un chevauchement significatif entre les distributions vues et non vues (AUC variant de 64 % à 92 %).
Interprétation du Score :
- >80 % : Preuve forte de contamination (entraînement direct ou forte dépendance aux priors mémorisés).
- <20 % : Typique des ensembles de données non vus, indiquant une généralisation.
- 20 %–60 % : Ambigu ; peut indiquer une contamination partielle, une exposition à des données apparentées, ou une grande diversité de l'ensemble de données agissant comme du bruit.
Corrélation avec la Taille du Modèle : Les modèles plus grands (par exemple, 253 milliards de paramètres) tendent à présenter des scores de contamination plus faibles que leurs homologues plus petits au sein de la même famille, suggérant qu'une capacité accrue facilite la généralisation par rapport à la mémorisation.
Résultats Réels : L'évaluation a identifié des modèles spécifiques avec des scores de contamination élevés sur des benchmarks comme AIME 2024 et RewardBench v1, suggérant une fuite de données potentielle ou un entraînement sur des données synthétiques étroitement apparentées.

Importance et Revendications

L'article positionne CoDeC comme un outil vital pour restaurer la confiance dans le benchmarking des LLM. Son importance réside dans :

Praticité : Contrairement aux méthodes précédentes, il ne nécessite aucun accès aux corpus d'entraînement, à des modèles de référence externes ou à un réglage complexe, le rendant immédiatement intégrable dans les pipelines d'évaluation.
Interprétabilité : Le score basé sur le pourcentage fournit une métrique claire et exploitable pour que les chercheurs et les développeurs évaluent la fiabilité des résultats de benchmark rapportés.
Détection de Contamination Subtile : En capturant la perturbation des schémas de mémorisation, CoDeC identifie la contamination provenant de distributions apparentées et de données synthétiques, que les vérifications de chevauchement traditionnelles manquent souvent.

Les auteurs concluent que si des scores CoDeC élevés (>80 %) indiquent une contamination probable, les scores modérés doivent être interprétés via une comparaison inter-modèles pour distinguer les effets spécifiques à l'ensemble de données de la mémorisation authentique. La méthode soutient le développement de pratiques d'évaluation plus fiables et aide à identifier les modèles qui reposent sur la généralisation plutôt que sur la mémorisation par cœur.