💬 NLP

Latent Reasoning with Supervised Thinking States

Dit paper introduceert "Thinking States", een methode waarbij een taalmodel tijdens het verwerken van de input interne redeneerstappen genereert en deze als embeddings toevoegt aan de volgende tokens, wat resulteert in efficiëntere en effectievere redenering dan traditionele Chain-of-Thought-methoden.

Oorspronkelijke auteurs: Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Gepubliceerd 2026-02-10

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een ingewikkelde IKEA-kast moet in elkaar zetten. Je hebt twee manieren om dit aan te pakken:

Methode 1: De "Chain-of-Thought" (De uitgebreide handleiding)
Je leest elke stap, schrijft op een groot vel papier wat je net hebt gedaan ("Schroef A in gat B"), en legt dat papier naast je. Naarmate de kast groeit, wordt je stapel papier steeds groter en groter. Het werkt perfect, maar je bureau ligt binnen de kortste keren vol met papier en je bent constant bezig met lezen en schrijven in plaats van met schroeven. Dit is hoe huidige AI (zoals ChatGPT) werkt: hij "denkt hardop" door heel veel tekst te genereren, wat traag en duur is.

Methode 2: De "Thinking States" (De mentale checklist)
In plaats van alles op te schrijven, gebruik je een klein notitieblokje dat je steeds even bijwerkt. Je leest een stukje instructie, maakt een snelle mentale aantekening ("Gat B is nu vast"), en gaat direct door naar de volgende stap. Je bureau blijft leeg, je werkt razendsnel, maar je hebt wel een heel goed geheugen nodig om die kleine aantekeningen correct te verwerken.

Wat is dit onderzoek precies?

De onderzoekers van dit paper hebben een manier gevonden om AI te laten "nadenken" zonder dat hij een enorme berg tekst hoeft te typen. Ze noemen dit "Thinking States".

Hier is hoe het werkt in gewone mensentaal:

Stukjes bij elkaar puzzelen (Chunking): In plaats van de hele tekst in één keer te verwerken, deelt de AI de tekst op in kleine brokjes (chunks).
De "Denk-module" (De korte notitie): Na elk brokje tekst stopt de AI heel even om een korte, interne gedachte te formuleren. Dit is geen lange zin, maar een compacte "samenvatting" van de logica tot dan toe.
De "Compressie" (De mentale opslag): Die gedachte wordt direct omgezet in een soort digitale "geestelijke staat" (een reeks getallen). Dit is als het ware de essentie van de gedachte, zonder de overbodige woorden.
Injectie (Het geheugen bijwerken): Deze essentie wordt direct in het "brein" van de AI gepompt voor het volgende brokje tekst. De AI weet dus precies wat hij in het vorige stapje heeft geleerd, zonder dat hij die woorden opnieuw hoeft te lezen.

Waarom is dit een doorbraak?

Het is supersnel: Omdat de AI niet duizenden woorden hoeft te "typen" om tot een antwoord te komen, is hij veel sneller klaar. Het is alsof je een sprintje trekt in plaats van een wandeling.
Het is slimmer bij lange taken: De onderzoekers lieten zien dat als je de AI een taak geeft die veel langer is dan hij tijdens zijn training heeft gezien (bijvoorbeeld een heel lange reeks getallen veranderen), hij met deze methode veel beter blijft presteren dan de traditionele manier. Hij heeft namelijk geleerd om een proces te volgen, in plaats van alleen maar tekst te kopiëren.
Het is efficiënt: Het kost minder rekenkracht (en dus minder stroom), wat goed is voor het milieu en voor de kosten van AI-bedrijven.

Samengevat

Waar de huidige AI een student is die alles in een dik schrift moet opschrijven om een som op te lossen, is de Thinking States AI de student die de som razendsnel in zijn hoofd oplost met een paar slimme tussenstappen. Het resultaat is hetzelfde (of zelfs beter), maar het gaat veel sneller en met veel minder papierwerk!

Technische Samenvatting: Latent Reasoning met Supervised Thinking States

1. Het Probleem: De Efficiëntie-Nauwkeurigheid Paradox

Chain-of-Thought (CoT) prompting stelt Large Language Models (LLMs) in staat om complexe taken op te lossen door tussenliggende redeneerstappen in natuurlijke taal te genereren. Hoewel dit de nauwkeurigheid verhoogt, brengt het aanzienlijke nadelen met zich mee:

Hoge inferentiekosten: Het genereren van lange rationale-sequenties verhoogt de latentie en de computationele kosten.
Contextverlenging: Elke extra redeneertoken vergroot de contextlengte, wat de efficiëntie van de aandachtmechanismen (attention) negatief beïnvloedt.
Beperkingen van bestaande methoden: Latente redeneermethoden (die redeneren in continue embeddings doen) zijn vaak moeilijk te superviseren en vereisen Backpropagation Through Time (BPTT), wat training traag en schaalbaar onmogelijk maakt.

2. Methodologie: Het "Thinking States" Framework

De auteurs stellen Thinking States voor, een architectuur die redeneren mogelijk maakt tijdens het verwerken van de input, zonder de contextlengte te vergroten.

De architectuur bestaat uit drie kerncomponenten:

Chunk-recurrent proces: De input wordt opgedeeld in niet-overlappende blokken (chunks). Het model verwerkt deze blokken iteratief.
Thinking Block ( $T$ ): Een lichtgewicht Transformer-decoder die op basis van de diepe representaties van een tekstblok een reeks redeneertokens in natuurlijke taal genereert.
Compression Block ( $C$ ): Een Transformer-encoder die de variabele lengte van de gegenereerde gedachten comprimeert tot een vaste, compacte staat (fixed-size state $S$ ).

Het proces:

Injectie: De gecomprimeerde staat ( $S$ ) van de vorige chunk wordt op een ondiepe laag (shallow layer) opgeteld bij de representaties van de huidige chunk. Hierdoor krijgt de toekomstige verwerking "kennis" van het eerdere redeneren.
Recurrentie: In plaats van tokens aan de context toe te voegen, wordt de informatie via de staat $S$ doorgegeven, waardoor de contextlengte constant blijft.

Training via Teacher-Forcing:
In tegenstelling tot methoden die BPTT vereisen, gebruikt dit model Supervised Thinking States. Tijdens de training worden de werkelijke natuurlijke taal-redeneerstappen (uit CoT-data) gebruikt om zowel de Thinking Block te trainen als de staat $S$ te "forceren" (teacher-forcing). Dit maakt volledig parallelle training mogelijk, wat de computationele overhead drastisch vermindert.

3. Belangrijkste Bijdragen

Nieuwe Architectuur: Een recursief mechanisme dat natuurlijke taal-gedachten gebruikt om de interne staat van een model te updaten zonder de context te belasten.
Efficiënte Training: Door gebruik te maken van natuurlijke taal-supervisie en teacher-forcing, wordt de noodzaak voor de kostbare BPTT-methode geëlimineerd.
Snelle Prefill: De introductie van een "Speculative Thinking" algoritme versnelt de verwerking van de input (prefill) door te speculeren dat veel chunks geen complexe redenering nodig hebben.

4. Resultaten

De evaluatie op diverse benchmarks (GSM8K, 2-Hop QA, State-Tracking) toont significante verbeteringen:

Nauwkeurigheid: Op state-tracking taken (zoals het bijhouden van variabelen) presteert Thinking States aanzienlijk beter dan CoT en vertoont het een superieure lengte-generalisatie (het kan taken met veel langere sequenties aan dan tijdens de training gezien).
Efficiëntie: Op de GSM8K-benchmark (wiskunde) benadert het de nauwkeurigheid van CoT, maar met een enorme snelheidswinst (tot wel 2.66x sneller).
Latente Redenering: Het verslaat bestaande latente methoden zoals Coconut en iCoT op zowel nauwkeurigheid als snelheid.
Interpretabiliteit: Omdat de "gedachten" in natuurlijke taal worden gegenereerd, kunnen menselijke gebruikers begrijpen waarom een model een bepaalde staat heeft bereikt.

5. Betekenis en Conclusie

Het onderzoek bewijst dat het is mogelijk om de diepe redeneerkracht van Chain-of-Thought te behouden, terwijl de computationele efficiëntie van latente representaties wordt benaderd.

De implicaties zijn groot:

Schaalbaarheid: Het biedt een pad naar krachtigere redenerende modellen die minder energie en rekenkracht verbruiken.
Robuustheid: De superieure prestaties bij lange sequenties suggereren dat het model een fundamenteel recursief redeneerpatroon heeft geleerd in plaats van simpelweg patronen te memoriseren.
Toekomst: De auteurs suggereren dat dit framework een uitstekende "warm-start" kan zijn voor Reinforcement Learning (RL), waarbij het model leert zijn interne denkprocessen verder te optimaliseren.