Technische Samenvatting: Het Blootleggen van de Representatiegeometrie van Minimale Kernen in Overcomplete Redeneringssporen

Probleemstelling

Grote Taalmodellen (LLMs) genereren steeds vaker lange chain-of-thought (CoT)-sporen om complexe redeneringsproblemen op te lossen. Het blijft echter onduidelijk hoeveel van deze gegenereerde redenering strikt noodzakelijk is om de uiteindelijke voorspelling van het model te behouden. Bestaand werk richt zich op het stimuleren van betere redenering of het trainen van modellen om efficiënter te redeneren, maar slechts weinig studies analyseren de functionele toereikendheid van reeds gegenereerde sporen.

Dit artikel veronderstelt dat gegenereerde redeneringssporen vaak overcompleet zijn: ze bevatten een echte deelverzameling van stappen die het voorspellende gedrag van het model behoudt, omringd door "verwijderbare redeneringsmassa" zoals herhalingen, parafrases, stilistische rechtvaardigingen, redundante controles of alternatieve routes die de uiteindelijke output niet beïnvloeden. De centrale vraag is: Hoeveel van een gegenereerd redeneringspoor is eigenlijk nodig?

Methodologie

Definities en Formalisme

De auteurs formaliseren het concept van een Minimale Kern als de kleinste deelverzameling van stappen $S \subseteq [T]$ uit een spoor $z = (r_1, \dots, r_T)$ die het voorspellende gedrag van het model behoudt.

• Antwoordbehoudende Toereikendheid: Een deelverzameling is toereikend als het dezelfde top-1-antwoord oplevert als het volledige spoor.
• Verdelingsbehoudende Toereikendheid: Een strengere voorwaarde waarbij de deelverzameling de voorspellende verdeling behoudt binnen een tolerantie $\epsilon$ (gemeten via divergentie $D$).
• Metingen:
  • Compressieratio (CR): $|S^*|/T$, het fractie van behouden stappen.
  • Redundantie-massa (RM): $1 - CR$, het fractie van verwijderbare stappen.
  • Stapnoodzaak ($\Delta_t$): Gemeten via verandering in verlies bij het weglaten van één stap. Een stap heeft een hoge noodzaak als het verwijderen ervan de taakverlies significant verhoogt (bijvoorbeeld de negatieve log-waarschijnlijkheid van het antwoord).
  • Noodzaakconcentratie: Het fractie van de totale noodzaakmassa dat wordt verklaard door de top-$k$ stappen.

Extractie-algoritmen

Om minimale kernen te identificeren, stelt het artikel het volgende voor:

1. Gierige Achterwaartse Eliminatie: Beginnend met het volledige spoor, verwijdert het algoritme iteratief de stap die de minste "schade" veroorzaakt (gemeten door een verifiërscore, betrouwbaarheid of verliesverhoging) terwijl de toereikendheidsvoorwaarde behouden blijft. Dit stopt wanneer geen enkele stapverwijdering nog toereikendheid behoudt, wat resulteert in een lokaal onherleidbare toereikende deelverzameling.
2. Noodzaak-gestuurde Pruning: Een goedkopere, niet-adaptief alternatief dat stappen rangschikt op noodzaak en eerst stappen met lage noodzaak verwijdert.
3. Willekeurige Verwijdering als Baseline: Gebruikt om vast te stellen dat de structuur van verwijderbare stappen niet louter een functie is van de spoorlengte.

Theoretische Waarborgen

Het artikel stelt verschillende theoretische eigenschappen vast:

• Existentie: Minimale kernen bestaan voor elk eindig toereikend spoor.
• Lokale Onherleidbaarheid: Gierige achterwaartse eliminatie garandeert een lokaal onherleidbare toereikende deelverzameling (geen enkele stap kan worden verwijderd zonder de toereikendheid te schenden).
• Certificaten: Waargenomen toereikende verwijderingen dienen als certificaten van overcompletiteit, en bieden bovengrenzen voor compressieratio's en ondergrenzen voor verwijderbare massa.

Analyse van Representatiegeometrie

De auteurs analyseren de inbeddingsgeometrie van volledige sporen, minimale kernen en verwijderde stappen met behulp van:

• Compactheid: Variantie van inbeddingen.
• Correctheidsscheiding: Het vermogen van lineaire probes en nearest-neighbor-classificatoren om correcte versus incorrecte sporen te onderscheiden.
• Intrinsieke Dimensionaliteit: Geschat via PCA-participatieverhoudingen.
• Transferabiliteit: Prestaties van kernen die uit het ene modelfamilie zijn gehaald en worden gebruikt als context voor een ander.

Experimentele Opstelling

Het kader werd geëvalueerd over zes deliberatieve redeneringsbenchmarks:

• Rekenen: GSM8K
• Competitieve Wiskunde: MATH500, AIME24, AMC23
• Expert Wetenschappelijke Redenering: GPQA-Diamond
• Alledaagse Multi-hop QA: StrategyQA

Geteste modellen omvatten open-gewicht modellen (DeepSeek-R1-Distill-Qwen-7B/32B, Qwen3-32B) en het gesloten-bron GPT-5. Sporen werden gegenereerd met lage-temperatuur CoT-prompting.

Belangrijkste Resultaten

1. Substantiële Overcompletiteit

Over alle datasets en modellen heen verwijderde gierige extractie van minimale kernen een significant deel van het spoor terwijl het originele antwoord behouden bleef:

• Gemiddelde Verwijdering: Ongeveer 46% van de stappen is verwijderbaar.
• Behoud: Het originele antwoord wordt gemiddeld in 86% van de gevallen behouden.
• Variatie: Overcompletiteit is het hoogst bij GSM8K en StrategyQA (waar sporen vaak verklarende slack bevatten) en lager bij AIME24 en GPQA-Diamond (waar afleidingen brozer zijn).

2. Geconcentreerde Voorspellende Ondersteuning

Voorspellende noodzaak is zeer schaars:

• De top 3 stappen verklaren gemiddeld 65% van de gemeten noodzaakmassa.
• De top 5 stappen verklaren 82%.
  Dit suggereert dat redeneringsnut geconcentreerd is in een kleine set van hoge-noodzaak stappen in plaats van gelijkmatig verdeeld.

3. Transferabiliteit en Geometrie

Minimale kernen vertonen een "schonere" representatiegeometrie in vergelijking met volledige sporen:

• Cross-Model Transfer: Minimale kernen worden over modelfamilies heen overgedragen met 85% diagonaal buiten de diagonaal behoud van het antwoord, wat significant beter presteert dan willekeurige deelverzamelingen van dezelfde lengte.
• Correctheidsscheiding: Inbeddingen van minimale kernen verbeteren de scheiding tussen correcte en incorrecte sporen met 11 punten (probe-nauwkeurigheid) in vergelijking met volledige sporen.
• Dimensionaliteit: Minimale kernen verminderen de geschatte intrinsieke dimensionaliteit met 34%, wat aangeeft dat ze een meer compact gebied van de representatieruimte innemen.
• Verwijderde Stappen: Inbeddingen van verwijderde stappen zijn diffuser en minder voorspellend voor correctheid, wat bevestigt dat ze zwakkere taakrelevante signalen dragen.

Betekenis en Beweringen

Het artikel beweert dat volledige redeneringssporen vaak omstandig en overcompleet zijn, met verwijderbaar steigerswerk dat niet bijdraagt aan het voorspellende gedrag van het model. Door minimale kernen te isoleren, tonen de auteurs aan dat:

1. Functionele Toereikendheid: De effectieve ondersteuning voor taalmodelvoorspellingen schaars en geconcentreerd is in een kleine deelverzameling van stappen.
2. Geometrische Zuiverheid: Minimale kernen een schonere, lager dimensionale en meer correctheidsinformatieve geometrie van redenering blootleggen dan volledige sporen.
3. Transferabele Structuur: De kernredeneringsstappen robuust zijn over verschillende modelfamilies, wat suggereert dat ze generaliseerbare redeneringspatronen vangen in plaats van model-specifieke formuleringen.

De auteurs merken expliciet beperkingen op: minimale kernen zijn gedragsmatig en model-relatief, geen volledige causale verklaringen of menselijke rationales. De gierige extractie is lokaal, niet globaal, optimaal. Bovendien vereisen op waarschijnlijkheid gebaseerde metrieken open-gewicht modellen, wat sommige analyses beperkt tot gedragsbeoordelingen voor gesloten-bron modellen.

Concluderend biedt dit werk een kwantitatief kader voor het begrijpen van de "effectieve ondersteuning" die ten grondslag ligt aan LLM-voorspellingen, en suggereert dat hoewel lange sporen helpen bij leesbaarheid en verificatie, de kernvoorspellende machine rust op een aanzienlijk kleinere, geometrisch onderscheiden deelverzameling van redeneringsstappen.