Robust Reasoning Benchmark

Dit onderzoek introduceert een robuustheidstest voor redeneervermogen van grote taalmodellen, waarbij wordt aangetoond dat open-weight modellen kwetsbaar zijn voor tekstuele perturbaties en dat hun prestaties verslechteren door vervuiling van het werkgeheugen, wat de noodzaak onderstreept van architecturen met expliciete contextuele resets.

De kern

🧠 De "Robuust Redeneren" Test: Waarom slimme AI's soms dom doen

Stel je voor dat je een supersterke rekenmachine hebt die elke wiskundetaak uit een examenboekje perfect kan oplossen. Je bent onder de indruk en denkt: "Wow, deze machine begrijpt wiskunde!"

Maar wat als die machine eigenlijk alleen maar de vorm van de tekst heeft geleerd, en niet de betekenis? Wat als hij alleen maar goed is als de vragen eruitzien zoals in zijn leerboek, maar volledig in de war raakt als je de vraag net iets anders opschrijft?

Dat is precies wat dit onderzoek van Pavel en zijn team ontdekt. Ze hebben een nieuwe test bedacht, de Robust Reasoning Benchmark (RRB), om te kijken of AI echt nadenkt of alleen maar patrones herkent.

🎭 De "Verkleedpartij" van de AI

De onderzoekers hebben 14 manieren bedacht om wiskundevragen te "verstoren", zonder de moeilijkheidsgraad of het antwoord te veranderen. Het is alsof je een verhaal leest, maar dan op een gekke manier:

1. De Spiegel: De hele zin wordt achterstevoren geschreven.
2. De Rups: De tekst wordt in een zigzagpatroon over een raster geschreven (zoals een slang die omhoog en omlaag kruipt).
3. De Dubbelzinnigheid: Woorden worden vervangen door hun tegenovergestelde (bijv. "niet niet" in plaats van "wel"), of er worden vreemde tekens om woorden heen geplakt.
4. De Chaos: Twee verschillende wiskundeproblemen worden letterlijk door elkaar gehaald, woord voor woord of regel voor regel.

Het punt: Voor een mens is dit makkelijk op te lossen. Je zegt gewoon: "Ah, dit is achterstevoren geschreven, ik draai het om en los het op." Maar voor de AI is dit een nachtmerrie.

📉 De Resultaten: Een scheiding tussen de "Top" en de "Rest"

Toen ze deze test toepasten op de slimste AI's ter wereld, zagen ze een groot verschil:

• De "Top" (Betaalde, gesloten modellen zoals GPT-5.4 en Gemini): Deze modellen waren heel sterk. Ze konden de gekke vormen herkennen, de tekst "ontwarren" en het juiste antwoord geven. Ze lijken echt te begrijpen wat er staat.
• De "Open" Modellen (Gratis, open-source modellen): Hier ging het mis. Veel van deze modellen, zelfs de hele grote en dure versies, kregen een catastrofale crash. Hun prestaties daalden soms met wel 55% tot 100%. Ze konden de gekke tekst niet meer lezen en gaven het antwoord op.

De les: Veel open-source AI's hebben de wiskunde niet echt geleerd; ze hebben alleen de look-and-feel van de examenvragen uit hun trainingsdata onthouden. Als je de "kleding" van de vraag verandert, weten ze niet meer wat ze moeten doen.

🧠 De "Geestelijke Vermoeidheid" (Intra-Query Attention Dilution)

Er is nog een tweede, verrassende ontdekking. De onderzoekers vroegen de AI om meerdere moeilijke wiskundeproblemen achter elkaar in één gesprek op te lossen.

Stel je voor dat je een student bent die een examen doet.

1. Hij lost vraag 1 op.
2. Hij lost vraag 2 op.
3. Hij moet vraag 3 oplossen.

Bij de meeste menselijke studenten wordt vraag 3 net zo goed beantwoord als vraag 1. Maar bij de AI's (zowel de kleine als de grote) ging het mis. Hoe meer vragen ze al hadden opgelost, hoe slechter ze werden op de laatste vraag.

Waarom?
Het is alsof het "werkgeheugen" van de AI vervuild raakt. Elke stap die de AI denkt ("Laat me eerst X berekenen..."), laat een spoor achter in zijn hoofd. Deze sporen vervuilen het geheugen voor de volgende vraag. De AI raakt in de war door zijn eigen gedachten.

• De Metafoor: Het is alsof je een bord schrijft met een krijtje. Je schrijft antwoord 1, wist het niet goed, schrijft antwoord 2, wist weer niet goed... Uiteindelijk is het bord zo vol met vage krabbels dat je het nieuwe antwoord niet meer goed kunt zien. De AI heeft geen manier om zijn eigen "krabbels" weg te vissen voordat hij aan de volgende vraag begint.

💡 Wat betekent dit voor de toekomst?

Dit onderzoek zegt ons twee belangrijke dingen:

1. AI's zijn nog niet echt slim: Veel modellen zijn heel goed in het herkennen van patronen, maar ze zijn kwetsbaar. Als je de vorm verandert, breekt hun "redeneren" in elkaar.
2. We moeten de architectuur veranderen: Om echt betrouwbare AI te bouwen, moeten we modellen maken die hun eigen "werkgeheugen" kunnen opschonen. Ze moeten kunnen zeggen: "Oké, vraag 1 is klaar. Ik wis mijn geheugen en begin fris aan vraag 2."

Kortom: De huidige slimme AI's zijn als een briljante acteur die een rol perfect speelt zolang het script hetzelfde blijft. Maar als je het script in een andere taal schrijft of de zinnen door elkaar haalt, vergeet de acteur zijn tekst volledig. De toekomst van AI ligt niet in grotere modellen, maar in modellen die beter kunnen "nadenken" en hun eigen gedachten kunnen ordenen.

Technische samenvatting

Titel: Robust Reasoning Benchmark

Auteurs: Pavel Golikov, Evgenii Opryshko, Gennady Pekhimenko, Mark C. Jeffrey (Universiteit van Toronto & Vector Institute)

---

1. Het Probleem

Hoewel Large Language Models (LLMs) uitstekende prestaties leveren op standaard wiskundige benchmarks (zoals AIME, GSM8K, MATH), is hun onderliggende redeneervermogen blijkbaar kwetsbaar. De auteurs stellen dat deze prestaties vaak het gevolg zijn van overfitting op standaard tekstuele formaten en oppervlakkige patroonherkenning, in plaats van robuust, algoritmisch redeneren.

Bestaande evaluatiemethoden hebben beperkingen:

• Het veranderen van numerieke waarden test vaak rekenvaardigheid in plaats van logica.
• Het toevoegen van irrelevante context introduceert verstorende variabelen.
• Veel benchmarks vertrouwen op LLM's om perturbaties (verstoringen) te genereren, wat niet-deterministische ruis en validiteitsfouten introduceert.

De kernvraag is: Begrijpen LLM's echt wiskundige concepten, of zijn ze slechts afhankelijk van de specifieke tekstuele weergave?

2. Methodologie

De auteurs introduceren een nieuwe evaluatieframework genaamd de Robust Reasoning Benchmark (RRB).

A. De Perturbatie-pijplijn (14 Technieken)
In plaats van de wiskundige inhoud of moeilijkheidsgraad te veranderen, passen ze 14 deterministische, structurele transformaties toe die de tekst visueel of syntactisch veranderen, maar de betekenis behouden. Deze zijn onderverdeeld in vier categorieën:

1. Semantische en Lexicale Substituties:
   • Not-Not: Dubbele ontkenningen invoegen (logisch equivalent).
   • Opposites: Woorden vervangen door antoniemen met een expliciete definitie (bijv. "stop" betekent "gaan").
   • Wrappers: Termen omhullen met willekeurige syntactische wrappers (bijv. 3(morning)).
2. Contextuele Overbelasting (Contextual Overload):
   • Interleaved Contexts: Twee verschillende wiskundeproblemen worden woord-voor-woord, regel-voor-regel of symbool-voor-symbool door elkaar gehaald. Het model moet alleen probleem A oplossen.
   • Context Saturation: Het doelprobleem wordt voorafgegaan door een enorme hoeveelheid synthetische, irrelevante wiskundige redeneringen (tot 75% van het contextvenster).
3. Syntactische Distorsies:
   • Sentence/Word/Symbol Reversal: Het omkeren van de volgorde van zinnen, woorden of individuele symbolen binnen woorden.
4. Visuele en Ruimtelijke Encodering:
   • Rail Fence, Rectangle Perimeter, Snake (Verticaal/Horizontaal): De tekst wordt gemapt op een 2D-rooster in specifieke patronen (zigzag, omtrek, slang). De model moet de tekst eerst decoderen vanuit dit visuele formaat.

B. Experimenteel Ontwerp

• Dataset: AIME 2024 dataset.
• Modellen: 8 state-of-the-art modellen (5 open-source: Qwen3, Nemotron, DSR1, GPT-OSS; 3 gesloten API's: Gemini 3.1 Pro, GPT-5.4, Claude Opus 4.6).
• Protocol: Het model krijgt expliciete instructies om eerst de transformatie te decoderen en vervolgens het probleem op te lossen.
• Intra-Query Attention Dilution: Een specifiek experiment waarbij modellen meerdere problemen achter elkaar in één prompt moeten oplossen. De nauwkeurigheid wordt alleen gemeten op het laatste probleem om te zien of eerdere redeneringsstappen de context "vervuilen".

3. Belangrijkste Resultaten

A. Kwestie van Robuustheid: Frontier vs. Open-Weights

• Gesloten API-modellen (Frontier): Modellen zoals Gemini 3.1 Pro en GPT-5.4 tonen opmerkelijke veerkracht. Ze lijden slechts een gemiddelde prestatiedaling van 7-10% over alle perturbaties.
• Open-Weights Modellen: Deze modellen lijden aan catastrophical collapses. Modellen zoals Nemotron-7B en Qwen3-30B vertonen een gemiddelde daling van 55%, en op specifieke taken (zoals visuele codering of symbool-interleaving) daalt de nauwkeurigheid tot 0%.
• Conclusie: Open-weights modellen zijn extreem overgefit op standaard tekstuele formaten en kunnen geen coherent causaal verband leggen wanneer de token-grenzen of de leesvolgorde worden verstoord.

B. Intra-Query Attention Dilution

• Wanneer modellen meerdere problemen achter elkaar oplossen, neemt de nauwkeurigheid op het laatste probleem af naarmate de contextvenster "vervuild" raakt met de eigen redeneringsstappen van het model.
• Dit effect is schaal-invariant: het treedt op bij modellen van 7B tot 120B parameters en zelfs bij Claude Opus 4.6.
• Dit suggereert dat de standaard "dense attention"-mechanismen geen werkgeheugen-isolatie bieden; eerdere stappen "vergiftigen" de context voor latere stappen binnen dezelfde forward pass.

C. Specifieke Falingspatronen

• Byte-Pair Encoding (BPE) Grenzen: Modellen falen volledig wanneer woorden in geïsoleerde karakters worden opgesplitst (bijv. Rail Fence Cipher), wat aantoont dat hun redenering geblokkeerd wordt door subword-tokens.
• 1D Bias: Modellen presteren goed bij horizontale "snake"-patronen (links-naar-rechts), maar falen bijna volledig bij verticale patronen, wat wijst op een fundamentele bias in het pre-training proces.
• Alignment Issues: Claude Opus 4.6 weigert veel prompts met symboolmanipulatie (veiligheidsfilters), wat een onbedoeld gevolg is van huidige alignementstrategieën die abstracte redenering verwarren met aanvalsprompts.

4. Bijdragen

1. Taxonomie en Pijplijn: Een set van 14 deterministische, tekstuele transformaties die de structuur verstoren zonder de betekenis te veranderen.
2. De Benchmark: Een nieuwe benchmark gebaseerd op AIME 2024 om de robuustheid van LLM-redenering te testen.
3. Uitgebreide Evaluatie: Een analyse van 8 top-modellen die de enorme "robustness gap" blootlegt tussen gesloten en open-weights modellen.
4. Architectonisch Inzicht: Het bewijs dat intermediate reasoning steps de context permanent verontreinigen, wat leidt tot het concept van "Intra-Query Attention Dilution".

5. Betekenis en Conclusie

De paper concludeert dat huidige LLM-architecturen fundamenteel beperkt zijn in hun vermogen tot robuust algoritmisch redeneren vanwege het gebrek aan werkgeheugen-isolatie binnen een enkele contextvenster.

• Fundamentele Beperking: Standaard dense attention-mechanismen kunnen niet effectief "resetten" tussen redeneerstappen.
• Toekomstige Richting: Om betrouwbaar redeneren te bereiken, moeten toekomstige architecturen expliciete contextuele resets integreren binnen de eigen Chain-of-Thought (CoT). Dit zou kunnen betekenen het gebruik van sub-agenten of mechanische "task boundaries" om de "scratchpad" van het model te legen tussen complexe stappen.
• Open Vraag: Wat is de optimale granulariteit van een "atomische" redeneertaak voordat de modelkwaliteit afneemt door aandachtvervaging?

De auteurs waarschuwen dat zonder deze architecturale aanpassingen, LLM's hun redeneervermogen zullen blijven verliezen naarmate taken complexer en contexten langer worden, ondanks toename in parametergrootte.