Technische Samenvatting: Kwantificering van het Effect van Testset-contaminatie op Generatieve Evaluaties

Probleemstelling

Testset-contaminatie—de onbedoelde inclusie van benchmarkgegevens in pretraining-corpora—vormt een kritieke bedreiging voor de betrouwbare evaluatie van frontier AI-systemen. Hoewel de impact van contaminatie op discriminatieve evaluaties (bijv. meerkeuzevragen, classificatie) goed gedocumenteerd is, blijven de effecten op generatieve evaluaties (waarbij modellen langvormige oplossingen moeten produceren) onderbelicht. Generatieve taken introduceren unieke complexiteiten, waaronder de lengte van de oplossing, de sampling-temperatuur en de vereiste voor coherente tokenketens, die mogelijk anders met memorisatie interageren dan korte keuzetaken. Dit artikel beoogt deze effecten kwantitatief te beoordelen over de levenscyclus van taalmodellen heen om te bepalen of contaminatie in generatieve settings leidt tot robuuste generalisatie of louter fragiele memorisatie.

Methodologie

De auteurs voerden een gecontroleerde, grootschalige studie uit met de focus op de MATH benchmark (Hendrycks et al., 2021b), een dataset van wiskundige competitieproblemen die gegenereerde oplossingen vereisen.

1. Pretraining Setup:

   • Modellen: Tientallen causale taalmodellen gebaseerd op de Qwen 3 architectuur werden vanaf nul gepretrained. De modelgroottes varieerden van 34M tot 344M parameters.
   • Contaminatie Protocol: Pretraining-corpora werden geconstrueerd door een hoogwaardige web crawl (FineWeb-Edu-Dedup) te mengen met variërende aantallen ($R$) replica's van de MATH testset. Het aantal replica's varieerde logaritmisch van 0 (niet-gecontamineerd) tot 3.162.
   • Compute Controle: Training werd uitgevoerd op compute-optimale schalen (20 tokens per parameter) en uitgebreid naar "overtraining" regimes (tot 16x compute-optimaal) met verse, niet-geherhaalde data.
   • Fine-tuning: Sommige modellen ondergingen Supervised Fine-Tuning (SFT) op de MATH trainingsset om interacties met pretraining-contaminatie te observeren.

2. Evaluatiemetrieken:

   • Math Verify: Het deel van de problemen waarbij de gegenereerde oplossing wiskundig equivalent is aan het gouden antwoord. De auteurs identificeerden en herstelden een kritieke bug in de EleutherAI LM Evaluation Harness die voorheen deze scores onderrapporteerde (waardoor de scores van de gouden referentie stegen van ~70% naar 100%).
   • Cross-Entropy Loss: De loss op de gouden referentie-oplossingen, gebruikt om scaling laws te analyseren.
   • Robuustheidstests: Modellen werden getest op geherformuleerde (dezelfde logica, andere bewoording) en geperturbteerde (dezelfde bewoording, andere getallen) versies van de testset om onderscheid te maken tussen memorisatie en generalisatie.

3. Inference Variabelen:

   • Experimenten scanden over sampling temperatures (0 tot 1.5) en analyseerden prestaties relatief aan de lengte van de oplossing (solution token length).

Belangrijkste Bijdragen en Resultaten

1. Scaling Laws en de "Irreducible Error" Breuk

De studie bevestigt dat prestaties (Math Verify scores) toenemen met zowel het contaminatieniveau als de modelgrootte. Echter, een fundamentele breuk in de scaling laws werd ontdekt:

• Single Replica Effect: Het opnemen van zelfs slechts één replica van de testset stelt modellen in staat om een cross-entropy loss te bereiken die lager is dan de geschatte irreducible error van training op de ongecontamineerde corpus.
• Economische Implicatie: Onder standaard scaling law aannames simuleert een enkele testset-replica effectief een "oneindige" hoeveelheid pretraining compute ten opzichte van een ongecontamineerde corpus, waardoor modellen de theoretische prestatieplafonds van de schone data kunnen omzeilen.

2. Memorisatie vs. Generalisatie

Contaminatie-gedreven prestaties zijn geen generalisatie.

• Verbatim Memorisatie: Wanneer getest op geherformuleerde of geperturbteerde problemen, stort de prestatie in naar baseline-niveaus over alle modelgroottes en contaminatieniveaus heen.
• Conclusie: De winsten berusten bijna uitsluitend op de verbatim memorisatie van specifieke testsequenties, niet op de verwerving van onderliggende wiskundige redenering.

3. Interactie met Verdere Training

Het paper identificeert een "dose-response" effect met betrekking tot daaropvolgende training:

• Overtraining: Training op verse data voorbij het compute-optimale punt verdunt de contaminatie-effecten. Voor sterk gecontamineerde modellen leidt overtraining feitelijk tot een toename van de testset loss, aangezien de verse data de proportie gecontamineerde tokens vermindert, waardoor het gememoriseerde signaal verzwakt.
• Supervised Fine-Tuning (SFT): SFT op de trainingsset heeft tegenovergestelde effecten afhankelijk van de contaminatieniveaus:
  • Lage Contaminatie: SFT verbetert de testprestaties.
  • Hoge Contaminatie: SFT verslechtert de testprestaties. De auteurs vermoeden dat SFT het model dwingt te generaliseren, wat ervoor zorgt dat het de gememoriseerde test-samples "vergeet". Omdat het gememoriseerde signaal de primaire drijfveer was van de prestaties in hoog-gecontamineerde modellen, resulteert dit vergeten in een netto verlies.

4. Inference-Time Regimes van Memorisatie

De auteurs karakteriseren hoe sampling temperatuur en de lengte van de oplossing de memorisatie moduleren, waarbij ze drie verschillende regimes identificeren:

• Exponentieel Snelle Decoherentie ($E > 0$): In de afwezigheid van betekenisvolle contaminatie neemt de waarschijnlijkheid van het genereren van een correcte lange sequentie exponentieel af.
• Breekbare Memorisatie ($E \approx 0, \alpha \le 1$): Bij gemiddelde contaminatie kan het model sequenties genereren, maar de cumulatieve waarschijnlijkheid van succes vervalt uiteindelijk naarmate de lengte toeneemt.
• Deterministische Lock-In ($E \approx 0, \alpha > 1$): Bij hoge contaminatie komt het model in een regime waar de zekerheid van de volgende token sneller groeit dan het risico zich ophoopt, wat de deterministische generatie van lange oplossingen mogelijk maakt.
• Het "Truth Serum" Effect: Hoge-temperatuur sampling ($\tau > 1$) werkt als een "truth serum", waarbij de contaminatie-winsten worden losgekoppeld van robuuste generalisatie. Het kan een model direct terugbrengen van "Deterministic Lock-In" naar "Brittle Memorization", waardoor de prestaties instorten naar baseline-niveaus.

5. Implementatie Correctie

De auteurs identificeerden een kritieke bug in de EleutherAI LM Evaluation Harness (vóór v0.4.8) waarbij de Math Verify scoringfunctie de \boxed{} notatie verwijderde voordat deze werd geparsed, wat leidde tot systematische onderrapportage van wiskundige prestaties. Het herstellen hiervan verhoogde de scores van de gouden referentie van ~70% naar 100%.

Betekenis en Claims

Het paper beweert de eerste uitgebreide kwantificering van contaminatiemechanismen in het generatieve regime te bieden. De primaire betekenis ligt in:

1. Herdefiniëring van de Dreiging: Hoewel generatieve contaminatie scores verhoogt op een vergelijkbare wijze als discriminatieve contaminatie, is het onderliggende mechanisme verschillend: het berust op fragiele, verbatim memorisatie van lange tokenketens in plaats van robuuste redenering.
2. Economische Omvang: De ontdekking dat een enkele testset-replica modellen in staat stelt de "irreducible error" barrière te passeren, suggereert dat contaminatie oneindige compute kan simuleren, wat de proxy van benchmarks voor werkelijke capaciteit fundamenteel verbreekt.
3. Praktische Hefbomen: De studie identificeert sampling temperatuur en oplossingslengte als cruciale hefbomen die memorisatie van generalisatie onderscheiden. Hoge-temperatuur sampling en langere oplossingslengtes leggen de breekbaarheid van gecontamineerde modellen bloot.
4. Contraintuïtieve Trainingsdynamiek: De bevinding dat SFT de prestaties kan verslechteren in hoog-gecontamineerde modellen suggereert dat een daling in testnauwkeurigheid na alignment-training een positief signaal kan zijn van decontaminatie (het vergeten van de testset) in plaats van een negatieve "alignment tax".

De auteurs concluderen dat hoewel contaminatie een "illusie van competentie" creëert, het een breekbare illusie is die kan worden afgebroken door specifieke parameters tijdens de inference en verdere training op verse data.