📊 statistics

An Asymptotic Theory of Chain-of-Thought in In-Context Learning

Dit artikel stelt een theoretisch kader vast met behulp van willekeurige matrixtheorie om een exacte formule af te leiden voor de generalatiefout van Chain-of-Thought-redeneren in lineaire regressie, wat een scherpe faseovergang onthult tussen exponentiële verbetering en overdenken die afhangt van de interactie tussen redeneerdiepte, pretraining-data en contextlengte.

Oorspronkelijke auteurs: Kaito Takanami, Cengiz Pehlevan

Gepubliceerd 2026-06-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kaito Takanami, Cengiz Pehlevan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een moeilijk wiskundig probleem probeert op te lossen. Je hebt een slimme assistent (de AI) die veel over wiskunde weet door jarenlange studie (pretraining). Wanneer je het een nieuw probleem geeft, kan het op twee manieren proberen het op te lossen:

One-shot: De AI kijkt naar het probleem en raadt direct het antwoord.
Chain-of-Thought (CoT): De AI schrijft een reeks tussenstappen op, controleert zijn werk, verfijnt zijn gok en geeft dan het uiteindelijke antwoord.

Dit artikel stelt een eenvoudige maar diepzinnige vraag: Wordt het antwoord altijd beter als de AI meer stappen opschrijft?

De auteurs ontdekten, door geavanceerde wiskunde te gebruiken om te simuleren hoe deze AI-modellen denken, dat het antwoord "het hangt ervan af" is. Soms helpt langer nadenken enorm. Soms helpt het een beetje. En soms maakt te lang nadenken het antwoord zelfs slechter.

Hier leggen ze dit uit aan de hand van drie scenario's, vergelijkbaar met verschillende weerspatronen voor het denkproces van je AI:

1. De "Perfecte Storm" (Exponentiële verbetering)

Wanneer: De AI heeft eerder een enorme variëteit aan problemen bestudeerd (rijke pretraining) EN je geeft het op dit moment veel voorbeelden om naar te kijken (rijke context).
Wat er gebeurt: Elke keer dat de AI een extra stap toevoegt aan zijn redenering, wordt hij aanzienlijk slimmer. De foutmarge daalt als een steen die in een diepe put valt.
De Analogie: Stel je een meesterkok voor die duizenden gerechten heeft gekookt. Als je hem een nieuw recept geeft en een voorraadkast vol ingrediënten, wordt het gerecht bij elke smaaktest en aanpassing van de saus veel beter. Hoe vaker hij proeft, hoe dichter hij bij perfectie komt.

2. De "Kapotte Kompas" (Het overdenkers-regime)

Wanneer: De AI heeft niet genoeg verschillende soorten problemen bestudeerd (arme pretraining), zelfs als je hem op dit moment goede voorbeelden geeft.
Wat er gebeurt: In het begin helpt het toevoegen van een paar stappen. Maar als je de AI dwingt om te blijven nadenken, begint hij zijn eigen fouten te versterken. Hij raakt in de war, draait rondjes en het uiteindelijke antwoord wordt slechter dan wanneer hij gewoon snel een gok had gedaan.
De Analogie: Stel je een wandelaar voor met een licht kapot kompas. Als hij een paar stappen zet, is hij prima. Maar als hij blijft doorlopen en constant probeert zijn koers te "corrigeren" op basis van dat kapotte kompas, zal hij uiteindelijk in cirkels lopen en in een moeras belanden. Hoe meer hij "nadenkt" over zijn richting, hoe meer hij verdwaalt. Dit wordt overthinking genoemd.

3. De "Lege Kamer" (Het verzadigingsregime)

Wamen: De AI is een genie (geweldige pretraining), maar je geeft hem op dit moment heel weinig voorbeelden om naar te kijken (arme context).
Wat er gebeurt: De AI denkt zorgvuldig na en stabiliseert zijn antwoord, maar hij loopt tegen een "glazen plafond" aan. Hoeveel extra stappen hij ook neemt, hij kan niet verder verbeteren omdat de informatie die hij nodig heeft er simpelweg niet is. Hij is door zijn aanwijzingen heen.
De Analogie: Stel je een detective voor die briljant is in het oplossen van misdaden, maar je geeft hem slechts één wazige foto van de verdachte. De detective kan urenlang nadenken, simulaties draaien en lange rapporten schrijven, maar hij zal de crimineel nooit vangen omdat de foto niet genoeg details bevat. Langer nadenken creëert geen nieuwe informatie; het loopt simpelweg tegen een muur op.

De Grote Ontdekking: De "Faseovergang"

De belangrijkste doorbraak van het artikel is het in kaart brengen van precies wanneer je wisselt van het ene naar het andere scenario. Ze vonden een "kantelpunt":

Als de training van je AI te zwak is, is lang redeneren gevaarlijk (Overthinking).
Als de training van je AI goed is maar je huidige aanwijzingen zwak zijn, loopt lang redeneren tegen een muur aan (Saturation).
Alleen wanneer zowel de training als de huidige aanwijzingen sterk zijn, levert lang redeneren enorme verbeteringen op.

Hebben ze dit getest?

Ja. Ze hebben niet alleen op papier met wiskunde gedaan; ze hebben eenvoudige AI-modellen gebouwd en experimenten uitgevoerd. De resultaten kwamen exact overeen met hun theorie:

Toen ze de AI op veel taken trainden, werkte lang nadenken geweldig.
Toen ze de AI op weinig taken trainden, maakte lang nadenken de boel slechter.
Toen ze de AI weinig voorbeelden gaven, hielp lang nadenken na een tijdje niet meer.

De Belangrijkste Les

Je kunt niet simpelweg tegen een AI zeggen om "harder na te denken" en dan een beter resultwoord verwachten.

Als de AI ondergetraind is, is het dwingen om langer na te denken als het draaien van een gebroken wiel — het maakt er alleen maar een puinhoop van.
Als de AI ondergeïnformeerd is (niet genoeg voorbeelden), is langer nadenken als staren naar een lege muur — het zal niet helpen.
Dieper nadenken werkt alleen als de AI goed getraind is EN over genoeg informatie beschikt om mee te werken.

Dit onderzoek biedt een theoretische kaart om precies te weten wanneer je een AI diep laat nadenken en wanneer je ermee moet stoppen voordat hij fouten gaat maken.

Technische Samenvatting: Een Asymptotische Theorie van Chain-of-Thought in In-Context Learning

Probleemstelling
Chain-of-Thought (CoT) redeneren is een standaardmechanisme geworden voor het oproepen van meerstapsredeneren in Large Language Models (LLM's) door tijdens de inferentie tussenstappen te genereren. Hoewel dit empirisch effectief is, blijft het schaalgedrag van generalisatie met betrekking tot de CoT-diepte onvoldoende begrepen. Recente studies wijzen erop dat het vergroten van het aantal redeneerstappen niet leidt tot uniforme winst; afhankelijk van de setting kan diepere redenering de prestaties verbeteren, verzadigen of fouten versterken door "overthinking". Een centrale open vraag is wat deze kwalitatief verschillende regimes aanstuurt en hoe deze afhangen van de eigenschappen van de pretraining-data en de structuur van de context tijdens de testtijd. Bestaande empirische studies kunnen de onderliggende principes niet isoleren, wat de noodzaak creëert voor een theoretisch hanteerbaar model om de dynamiek van redeneren tijdens de testtijd expliciet te analyseren.

Methodologie
De auteurs stellen een theoretisch oplosbaar model van CoT voor binnen een in-context learning (ICL) raamwerk voor lineaire regressie. De taak bestaat uit het voorspellen van het onderliggende regressiegewicht vanuit een sequentie van contextuele voorbeelden.

Modelformulering: Het model behandelt test-tijd CoT als een iteratieve verfijning van de schatting van het gewichtsparameter. Tijdens de pretraining leert het model een update-regel van de contextuele voorbeelden. Tijdens de inferentie wordt CoT gemodelleerd als een sequentie van tussenliggende updates waarbij de geleerde regel herhaaldelijk wordt toegepast om de schatting stapsgewijs te verfijnen.
Architectuur: De studie maakt gebruik van een single-layer lineair self-attention model met een residuele verbinding. Om de berekenbaarheid te waarborgen, gebruiken de auteurs een vereenvoudigde blok-parameterisatie waarbij alleen een specifiek leerbaar blok ( $A$ ) de update van de parameter-schattingstoken regelt, terwijl andere blokken vaststaan op basis van eerdere gradiëntstroom-analyses.
Asymptotisch Regime: De analyse wordt uitgevoerd in het hoog-dimensionale limiet waarbij de inputdimensie ( $D$ ), het aantal pretraining-samples ( $M$ ) en het aantal in-context voorbeelden ( $L$ ) gelijktijdig naar oneindig tenderen, waarbij vaste ratio's $\alpha = L/D$ (contextlengte) en $\tau = M/D$ (taakdiversiteit) behouden blijven.
Analytische Instrumenten: De auteurs maken gebruik van random matrix theory om een exacte formule voor de generalisatiefout af te leiden. Ze introduceren een two-point generating function om de gemengde momenten van de geleerde update-matrix en de inferentie-covariantie-matrix te karakteriseren, waardoor de eindige-diepte foutdynamiek wordt teruggebracht tot de afgeleiden van een deterministische limiterende functie.

Kernbijdragen en Resultaten
Het artikel leidt een exacte asymptotische karakterisering van de generalisatiefout af als functie van de redeneerdiepte ( $t$ ), de hoeveelheid pretraining-data ( $\tau$ ) en de contextlengte ( $\alpha$ ). De primaire bijdrage is de identificatie van een scherpe faseovergang die vier verschillende regimes van test-tijd schaling scheidt:

Exponentiële Verbeteringsregime: Treedt op wanneer de pretraining voldoende divers is ( $\tau > \tau_c$ ) en de context rijk is ( $\alpha > 1$ ). In dit regime neemt de generalisatiefout exponentieel af met de diepte. De snelheid van de afname wordt bepaald door de hoeveelheid in-context voorbeelden; rijkere contexten versnellen de convergentie naar een fout van nul.
Polynomiale Verbeteringsregime: Treedt op bij de kritieke grens van taakdiversiteit ( $\tau = \tau_c$ ). Hier verdwijnt de exponentiële factor en neemt de fout slechts polynomiaal af met de diepte.
Verzadigingsregime: Treedt op wanneer de pretraining voldoende is ( $\tau > \tau_c$ ), maar de in-context informatie beperkt is ( $\alpha < 1$ ). De dynamiek blijft stabiel (de fout wordt niet versterkt), maar de fout convergeert naar een niet-nul limiet ( $E_\infty > 0$ ). Dit vertegenwoordigt een informatiebottleneck waarbij de prompt onvoldoende data bevat om de doelwit te reconstrueren, ongeacht de redeneerdiepte.
Overthinking-regime: Treedt op wanneer de pretraining onvoldoende is ( $\tau < \tau_c$ ). In dit regime bevat de geleerde update-regel systematische fouten. Herhaalde toepassing van deze regel versterkt deze fouten, waardoor de generalisatiefout na een bepaalde diepte toeneemt. Dit regime impliceert een eindige optimale stopdiepte voor redeneren.

De auteurs karakteriseren verder de schaalwetten nabij de fasegrenzen. Zo divergeert in het overthinking-regime de optimale stopdiepte naarmate de pretraining-diversiteit de kritieke drempel nadert, maar de bereikbare fout neemt slechts polynomiaal af.

Experimentele Validatie
De theoretische voorspellingen worden gevalideerd door experimenten op twee expressievere modellen: een volledig geleerd lineair attention model en een softmax attention model.

Fasediagrammen: De experimenten reproduceren de vier kwalitatieve regimes (exponentiële afname, polynomiale afname, verzadiging en overthinking) als functies van de contextlengte ( $L$ ) en het aantal trainingstaken ( $M$ ).
Dynamiek: De geobserveerde foutdynamiek in het softmax attention model komt overeen met de theoretische fasen, hoewel de afname geleidelijker lijkt dan in het lineaire geval, waarschijnlijk door de beperkingen van de softmax-normalisatie op de grootte van de updates.
Consistentie: De resultaten bevestigen dat het vergroten van het aantal pretraining-taken ( $M$ ) het overthinking-regime vermindert, terwijl het vergroten van de contextlengte ( $L$ ) de foutafname versnelt in de verbeteringsregimes.

Betekenis en Claims
Het artikel claimt een verenigde theoretische verklaring te bieden voor hoe de CoT-diepte tijdens de testtijd de generalisatie beïnvloedt. Het stelt vast dat de effectiviteit van dieper redeneren niet wordt beheerst door één universele schaalwet, maar afhankelijk is van de interactie tussen de kwaliteit van de pretraining en de in-context informatie.

Theoretisch Inzicht: Het werk verheldert dat de primaire bottleneck verschuift over de regimes heen: van pretraining-kwaliteit (in het overthinking-regime) naar contextinformatie (in het verzadigingsregime) naar test-tijd rekenkracht (in het exponentiële verbeteringsregime).
Praktische Implicatie: De bevindingen suggereren dat dieper redeneren het meest effectief is wanneer dit wordt ondersteund door voldoende rijke pretraining en in-context informatie. Omgekeerd maakt beperkte pretraining of context langer redeneren gevoelig voor foutversterking of verzadiging.
Reikwijdte: De auteurs geven expliciet aan dat hun analyse beperkt is tot een lineaire in-context leerder waarbij CoT wordt geformaliseerd als iteratieve gewichtsverfijningen. Ze erkennen dat het uitbreiden van deze theorie naar rijkere CoT-structuren en realistische architecturen een noodzakelijke richting is voor toekomstig werk. Het artikel claimt niet de algemene LLM-redenering op te lossen, maar biedt een fundamenteel kader voor het begrijpen van de schaalwetten van test-tijd computation in een gecontroleerde setting.