Technische Samenvatting: Een Formele Vergelijking tussen Chain of Thought en Latente Gedachte

Probleemstelling

Grote Taalmodellen (LLMs) hebben verbeterde redeneercapaciteiten aangetoond via Chain of Thought (CoT), waarbij redeneren wordt opgewekt door expliciet tussenliggende tokens te genereren. Daarentegen werken Latente Gedachte-paradigma's (zoals Chain of Continuous Thought/Coconut en Looped Transformers) direct in de continue ruimte van verborgen toestanden, itererend zonder discrete linguïstische tokens te genereren. Hoewel beide benaderingen iteratieve berekening gebruiken om expressiviteit te vergroten, blijft de fundamentele theoretische scheiding tussen hun capaciteiten onderbelicht. Specifiek is het onduidelijk of latente gedachte universeel expressiever is dan CoT, of dat er specifieke computationele regimes bestaan waarin het ene paradigma het andere strikt overtreft.

Methodologie

De auteurs hanteren een formele complexiteitstheoretische analyse om de expressieve kracht van CoT en latente gedachte te vergelijken. De methodologie omvat:

1. Formele Definities: Het artikel definieert CoT, Coconut en Looped Transformers als iteratieve toepassingen van Transformer-blokken. CoT genereert tokens autoregressief, terwijl latente gedachtemodellen (Coconut en Looped TF) verborgen toestanden iteratief bijwerken, hetzij door verborgen toestanden terug te voeren als embeddings (Coconut), hetzij door de volledige sequentie opnieuw te berekenen (Looped TF).
2. Computationele Modellering:
   • Beslissingsproblemen: Redeneren wordt geformaliseerd als de evaluatie van Gerichte Acielische Grafen (DAG's), die Booleaanse schakelingen vertegenwoordigen. De auteurs analyseren hoe het aantal redeneerstappen (voor CoT) of iteraties (voor latente gedachte) schaalt met de invoergrootte $n$ om deze problemen op te lossen.
   • Complexiteitsklassen: De studie koppelt deze modellen aan standaard complexiteitsklassen, specifiek $TC_k$ (drempelschakelingen met polylogaritmische diepte) en klassen gerelateerd aan benaderend tellen ($FPRAS$ versus $FPTAS$).
   • Probabilistische Instellingen: De analyse wordt uitgebreid naar probabilistische modellen waarbij CoT gebruikmaakt van stochastische decoding om tussenliggende tokens te bemonsteren, terwijl latente gedachte wordt geanalyseerd onder deterministische transformaties in de latente ruimte.
3. Theoretische Bewijzen: De auteurs construeren bewijzen die boven- en ondergrenzen aantonen voor elk paradigma. Zij maken gebruik van reducties naar Booleaanse schakelingen en eigenschappen van zelf-reduceerbare relaties om scheidingen vast te stellen.
4. Empirische Validatie: De theoretische claims worden gevalideerd op fundamentele algoritmische redeneertaken (Woordproblemen, Graph Connectivity, Arithmetische Evaluatie, Edit Distance) en taken voor benaderend tellen/bemonsteren (DNF-telling, Graph Coloring).

Belangrijkste Bijdragen

1. Latente Gedachte Maakt Efficiënte Parallelle Redenering Mogelijk

Het artikel stelt vast dat latente gedachte strikt efficiënter is dan CoT voor problemen die parallelle berekening vereisen.

• Parallelisme: Latente gedachtemodellen kunnen de evaluatie van een DAG laag voor laag simuleren. Als een computatiegraaf een diepte $d$ heeft, kan een latente gedachtemodel dit oplossen in $O(d)$ iteraties.
• Sequentiële Beperking van CoT: In tegenstelling hiermee moet CoT de DAG knoop voor knoop simuleren vanwege zijn autoregressieve aard, wat $O(\text{size}(G))$ stappen vereist.
• Formele Scheiding: Onder polylogaritmische iteraties ($O(\log^k n)$) vat latente gedachte (Coconut en Looped TF) exact de kracht van de complexiteitsklasse $TC_k$ samen. CoT met hetzelfde aantal stappen is echter strikt begrensd binnen $TC_{k-1}$. Dit bewijst dat latente gedachte efficiëntere parallelle berekening toestaat dan de inherent sequentiële CoT.

2. CoT Maakt Benaderend Tellen Mogelijk via Stochasticiteit

Het artikel identificeert een regime waarin CoT latente gedachte strikt overtreft: benaderend tellen en bemonsteren.

• Stochastische Decoding: CoT bemonstert expliciet tussenliggende redeneertokens. Deze stochasticiteit stelt CoT in staat om gerandomiseerde algoritmen te emuleren, specifiek Fully Polynomial-Time Randomized Approximation Schemes (FPRAS).
• Deterministische Beperking: Latente gedachte, die deterministisch werkt in de continue ruimte (zonder token-niveau bemonstering tijdens het redeneren), is beperkt tot deterministische benaderingsschema's (FPTAS).
• Formele Scheiding: Onder de aanname dat $FPTAS \subsetneq FPRAS$ voor zelf-reduceerbare relaties (een standaard complexiteitsaanname), bewijzen de auteurs dat CoT benaderingsproblemen voor het tellen kan benaderen en kan bemonsteren uit doelverdelingen die latente gedachte niet kan. Specifiek kan CoT verdelingen genereren die latente gedachte niet kan benaderen, wat de eerste formele scheiding ten gunste van CoT biedt.

3. Empirische Validatie

Experimenten bevestigen de theoretische scheidingen:

• Parallelle Taken: Bij taken zoals Graph Connectivity en Arithmetische Evaluatie bereiken Looped Transformers een hoge nauwkeurigheid met aanzienlijk minder iteraties (logaritmisch in de invoergrootte) in vergelijking met CoT, dat een aantal stappen vereist dat evenredig is met de probleemgrootte.
• Tellen/Bemonsteringstaken: Bij DNF-telling en het bemonsteren van graph coloring toont CoT het vermogen om verdelingen te produceren die dichter bij de uniforme doelverdeling liggen (lagere Totale Variatie-afstand) in vergelijking met Looped Transformers, wat zijn superieure capaciteit in stochastische benadering valideert.

Resultaten

• Expressiviteitscheiding: Er is een strikte scheiding in expressieve kracht. Latente gedachte is superieur voor door diepte gedreven, paralleliseerbare problemen (polylogaritmisch regime), terwijl CoT superieur is voor problemen die stochastische benadering en telling vereisen.
• Iteratie-efficiëntie: Latente gedachte bereikt vergelijkbare prestaties als CoT bij parallelle taken met $O(\log n)$ iteraties, terwijl CoT $O(n)$ of $O(\text{size}(G))$ stappen vereist.
• Bemonsteringscapaciteit: CoT kan verdelingen benaderen die ontoegankelijk zijn voor deterministische latente gedachtemodellen, specifiek in de context van zelf-reduceerbare telproblemen.

Betekenis

Het artikel biedt een rigoureus theoretisch kader voor het kiezen tussen redeneerparadigma's op basis van de aard van de taak:

• Latente Redenering is geschikter voor problemen die efficiënt kunnen worden opgelost via parallelle berekening (bijvoorbeeld grafalgoritmen, arithmetische evaluatie), wat aanzienlijke winst oplevert in iteratie-efficiëntie.
• Chain of Thought blijft effectiever voor complexe problemen die gerandomiseerde benadering, telling of bemonstering vereisen, waarbij de stochasticiteit van token-generatie een computationeel voordeel is in plaats van een nadeel.

De auteurs concluderen dat geen enkel paradigma universeel dominant is; hun sterke punten zijn eerder complementair, bepaald door de afweging tussen paralleliseerbaarheid en stochasticiteit. Dit werk biedt praktische richtlijnen voor modelontwerp en taakselectie, en suggereert dat toekomstige architecturen kunnen profiteren van hybride benaderingen of taakspecifieke selectie van redeneermechanismen.