💬 NLP

Reasoning Primitives in Hybrid and Non-Hybrid LLMs

Dit onderzoek suggereert dat hoewel reasoning-tokens het effectieve werkgebied van taalmodellen uitbreiden, hybride architecturen die aandacht en recurrente staat-updates combineren, robuuster presteren dan pure attention-modellen bij taken die zowel herinnering als staat-tracking vereisen, vooral naarmate de taakcomplexiteit toeneemt.

Oorspronkelijke auteurs: Shivam Rawat, Lucie Flek, Florian Mai, Nicholas Kluge Corrêa

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shivam Rawat, Lucie Flek, Florian Mai, Nicholas Kluge Corrêa

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Grote Vraag: Kunnen AI's echt "nadenken"?

Stel je voor dat je een zeer slimme robot hebt die alles kan lezen en beantwoorden. Als je hem een lastige vraag stelt, zegt hij soms: "Laat me even nadenken..." en schrijft hij een lang verhaal voordat hij het antwoord geeft. Dit heet "Chain-of-Thought" (een gedachtegang). We weten dat dit werkt, maar waarom werkt het?

De auteurs van dit paper zeggen: "Het is niet zo dat de robot plotseling een menselijk brein krijgt. Het is iets veel simpels." Ze vergelijken het met twee basisvaardigheden die een robot nodig heeft:

Herinneren (Recall): Het vinden van een specifiek feit in een enorme bibliotheek.
Volgen (State-tracking): Het bijhouden van een veranderende situatie, zoals een spelletje waarbij je constant de posities van pionnen moet onthouden terwijl je ze verplaatst.

De Twee Soorten Robots

De onderzoekers vergelijken twee soorten AI-architecturen (de "bouwwijze" van het brein):

De "Alles-Kijker" (Transformer): Dit is de standaard AI. Hij kan alles in één keer overzien en is fantastisch in het vinden van informatie in een grote tekst (zoals een super-snel bladeren in een boek). Maar als je hem een lange reeks instructies geeft waarbij hij constant moet onthouden wat er net is gebeurd, raakt hij de draad kwijt. Het is alsof hij een foto maakt van de hele situatie, maar als de situatie verandert, moet hij de hele foto opnieuw maken.
De "Hybride Robot" (Hybrid): Dit is een nieuwere versie die een beetje anders werkt. Hij combineert de kracht van de "Alles-Kijker" met een systeem dat meer lijkt op een menselijk geheugen dat stap voor stap werkt (zoals een notitieblok waar je dingen opschrijft en bijwerkt). Hij is beter in het bijhouden van een lopende reeks gebeurtenissen.

Het Experiment: De Twee Spelletjes

Om te testen welke robot beter is, hebben de onderzoekers twee spelletjes bedacht die de AI's moesten spelen.

Spel 1: De Sterrenkaart (State-based Astro Recall)

De taak: De AI krijgt een lijst met planeten en hun eigenschappen (zoals omloopperiode). Dan krijgt hij een reeks instructies om variabelen te verwisselen (bijv. "De waarde van A is nu C"). Uiteindelijk moet hij zeggen: "Welke planeet hoort bij de nieuwe waarde van A?"
Het probleem: Hij moet zowel de lijst kunnen opzoeken (herinneren) als de verwisselingen kunnen volgen (volgen).
Het resultaat: Als de AI gewoon direct het antwoord moet geven, doet de Hybride Robot het iets beter. Maar als het spel heel moeilijk wordt, raken beide robots in de war.

Spel 2: De Botsingsimulator (Collision Simulator)

De taak: Stel je een lange rij balletjes voor die tegen elkaar botsen. Als bal A tegen bal B botst, wisselen ze hun snelheid. Dan botst bal B tegen bal C, enzovoort. De AI moet na 64 botsingen precies weten hoe snel bal A nu is.
Het probleem: Dit is puur "volgen". Als je bij de eerste botsing een foutje maakt, is alles daarna fout.
Het resultaat:
- Zonder "nadenken" (direct antwoord): Beide robots doen het slecht. Ze raken de draad kwijt.
- Met "nadenken" (de AI schrijft stap-voor-stap wat er gebeurt): De standaard AI (Transformer) begint goed, maar zodra het spel heel lang wordt, crasht hij. Hij schrijft een onzinverhaal en kan geen antwoord meer geven.
- De Hybride Robot daarentegen blijft kalm. Hij gebruikt zijn "nadenken" om de stappen op te schrijven, en zijn interne geheugen helpt hem om die stappen stabiel te houden. Hij blijft het spel spelen, zelfs als het heel moeilijk wordt.

De Grote Leerervaring: Het Notitieblok en de Scaffolding

De onderzoekers trekken een belangrijke conclusie met een mooie metafoor:

Stel je voor dat je een heel hoge muur moet bouwen.

De "nadenken"-stap (Reasoning tokens) is als het gebruik van een steiger (scaffolding). Het helpt je om hoger te komen dan je normaal zou kunnen. Het stelt je in staat om complexe stappen te zetten door ze op te schrijven.
De architectuur (Hybride vs. Transformer) is de fundering van het gebouw.

Als de muur niet te hoog is, helpt de steiger iedereen om bovenaan te komen, ongeacht of de fundering sterk is of niet. Maar als je een enorme muur moet bouwen (een heel lang en moeilijk probleem), dan is de steiger alleen niet genoeg. Als de fundering (de architectuur) niet sterk genoeg is om het gewicht van de lange steiger te dragen, zakt de hele constructie in.

Kortom:

Het "nadenken" (het uitschrijven van stappen) is enorm belangrijk. Het helpt elke AI om lastigere problemen op te lossen.
Maar als de problemen echt zwaar worden, maakt het uit hoe de AI is gebouwd. De Hybride AI heeft een sterkere fundering voor het bijhouden van lange reeksen gebeurtenissen. De standaard AI kan de lange steiger niet dragen en valt om.

Conclusie voor de Leek

Dit onderzoek zegt niet dat de Hybride AI "slimmer" is in alles. Het zegt wel dat als je een AI vraagt om een lang, complex verhaal te volgen (zoals een lange reeks wiskundige stappen of een simpele fysica-simulatie), de Hybride AI beter bestand is tegen fouten.

Het "nadenken" helpt, maar het is geen wondermiddel. Als de taak te zwaar wordt, heb je een AI nodig die van nature beter is in het bijhouden van de draad. De toekomst van slimme AI's ligt waarschijnlijk in het combineren van het beste van beide werelden: een sterk interne geheugenstructuur én de mogelijkheid om gedachten stap voor stap op te schrijven.

Probleemstelling

Redenering in Large Language Models (LLMs) wordt vaak beschouwd als een monolithische vaardigheid. Echter, recente inzichten suggereren dat de verbeteringen in prestaties voortkomen uit meer fundamentele operationele primitieven: herinnering (recall) en staat-tracking (state-tracking).

Herinnering: Het vermogen om specifieke informatie uit een grote context met hoge precisie op te halen (waar Softmax-attention sterk in is).
Staat-tracking: Het vermogen om een coherentere representatie van veranderende variabelen te onderhouden en bij te werken over een reeks sequentiële transformaties (waar recurrente of state-space modellen sterk in zijn).

De kernvraag is of hybride architecturen (die attention en recurrente mechanismen combineren) beter presteren dan pure attention-only modellen (zoals standaard Transformers) bij taken die beide primitieven tegelijk vereisen, een concept dat de auteurs state-based recall noemen. Hoewel "Chain-of-Thought" (CoT) redenering (het genereren van tussenstappen) bekend staat om het verbeteren van prestaties, is het onduidelijk of dit een universele oplossing is of dat de onderliggende architectuur een beperkende factor blijft bij complexe, langdurige afhankelijkheden.

Methodologie

De auteurs hanteren een gecontroleerde experimentele opzet om architecturale verschillen te isoleren van trainingseffecten.

Modellen:
- Er wordt een directe vergelijking gemaakt tussen Olmo3-7B (pure Transformer) en Olmo3-Hybrid-7B (hybride architectuur).
- Beide modellen delen dezelfde data-mix, optimalisatieschema en training-recipe, wat zorgt voor een eerlijke "ablatie-studie" waarbij verschillen puur op architectuur kunnen worden toegeschreven.
- Er worden twee varianten van elk model getest:
  - Instruct: Directe antwoordgeneratie (korte output).
  - Think: Redenering-augmentatie (lange output met expliciete tussenstappen/tokens).
Taken (Task Design):
De taken zijn procedurally gegenereerd om de complexiteit systematisch te variëren via twee parameters:
- $m$ : Complexiteit van herinnering (grootte van het zoekruimte/arrays).
- $n$ : Complexiteit van staat-tracking (aantal sequentiële updates/swaps).
  De taken vereisen state-based recall: eerst moet de staat worden bijgewerkt via een reeks operaties, en vervolgens moet informatie worden opgehaald op basis van die bijgewerkte staat.
- Taak 1: State-based Astro Recall: Een semantisch geladen taak gebaseerd op exoplanetencatalogi. De model moet planeten-attributes bijhouden na een reeks variabele-swaps en vervolgens de juiste planeet identificeren.
- Taak 2: Collision Simulator: Een fysica-simulatie van deeltjes in 1D die elastisch botsen. Dit vereist het bijhouden van een dynamisch systeem waar elke botsing de condities voor de volgende bepaalt. Deze taak legt zware druk op sequentiële afhankelijkheid.
Evaluatiemetrics:
Naast ruwe nauwkeurigheid wordt een parsed-weighted accuracy gebruikt. Deze metric straft modellen af die geen geldig, parsebaar antwoord genereren (bijv. door in een cirkelredenering te vallen), wat essentieel is om te zien of een model het computationele proces überhaupt kan voltooien.

Belangrijkste Resultaten

Redenering-augmentatie is cruciaal, maar niet allesoplossend:
- Zowel voor Transformer- als hybride modellen zorgt het toevoegen van "Think"-tokens (expliciete redenering) voor een enorme prestatieverbetering, vooral bij hogere complexiteit.
- Zonder redenering (Instruct-varianten) presteren beide architecturen slecht en zakken ze snel af naar willekeurige prestaties zodra de complexiteit toeneemt.
Hybride modellen tonen een voordeel bij hoge complexiteit:
- Bij State-based Astro Recall is het hybride voordeel zichtbaar in matig moeilijke settings, maar beide modellen zakken in bij extreme complexiteit.
- Bij de Collision Simulator (hoge sequentiële afhankelijkheid) is het verschil dramatisch:
  - De Transformer Think-variant degradeert snel en faalt volledig bij hoge complexiteit ( $m=64, n=64$ ), waarbij de nauwkeurigheid daalt tot bijna 0 en het model vaak geen parsebaar antwoord meer produceert.
  - De Hybride Think-variant behoudt een aanzienlijk hogere nauwkeurigheid (0.45 parsed-weighted vs 0.03) en blijft stabielere output genereren, zelfs bij de langste ketens van afhankelijkheden.
Interactie tussen architectuur en redenering:
- Redeneringstokens kunnen de beperkingen van een architectuur maskeren bij lage tot matige complexiteit door een externe "werkruimte" te bieden.
- Echter, zodra de sequentiële afhankelijkheid te diep wordt, is de externe scaffolding (de tekst) niet langer voldoende. Dan wordt de onderliggende architectuur de bepalende factor. Hybride modellen blijken beter in staat om de interne staat stabiel te houden over lange reeksen berekeningen.

Bijdragen en Significantie

Conceptueel Kader: Het paper introduceert een operationeel kader voor redenering door het te ontleden in de primitieven recall en state-tracking. Dit verschuift de focus van abstracte benchmark-scores naar de fundamentele computationele eisen van taken.
Architecturale Validatie: Het biedt empirisch bewijs dat hybride architecturen (zoals Olmo3 Hybrid) een superieure inductieve bias hebben voor taken die zowel precisie in herinnering als stabiliteit in staat-tracking vereisen.
Beperkingen van "Thinking": Het paper weerlegt het idee dat expliciete redeneringstokens alle architecturale tekortkomingen kunnen oplossen. Er is een "kruispunt" waar de externe redenering faalt zonder de ondersteuning van een robuuste interne staat-mechanisme.
Toekomstige Richting: De auteurs concluderen dat evaluatie-benchmarks zorgvuldig moeten worden ontworpen om de interactie tussen externe redenering en interne staatbeheer te testen. Simpele benchmarks zijn vaak te makkelijk om architecturale verschillen bloot te leggen; alleen taken met hoge sequentiële afhankelijkheid kunnen de echte capaciteiten van een architectuur tonen.

Conclusie:
De studie suggereert dat redeneringstokens en architecturale design op verschillende niveaus van het computationele proces opereren. Redenering kan het effectieve werkgebied van een model uitbreiden, maar de mate waarin dit nuttig is, hangt af van hoe goed de onderliggende architectuur (hybride vs. pure transformer) persistente staat-propagatie ondersteunt. Hybride modellen zijn niet per se "beter" in alles, maar zijn structureel geschikter voor taken waar state-tracking en recall gelijktijdig en intensief vereist zijn.