💬 NLP

Belief-reality separation lives in routing over a shared value slot in language models

Dit artikel stelt vast dat taalmodellen overtuiging van de werkelijkheid scheiden via twee afzonderlijke mechanismen: een gedeelde waarde-slot die toegeschreven informatie opslaat en een query-positie router die selecteert of er gelezen wordt uit de overtuiging van het personage of de objectieve werkelijkheid, een capaciteit die ontstaat tussen 3B en 7B parameters over meerdere architecturen heen.

Oorspronkelijke auteurs: Oliver Steele, Jiangtao Wen, Yuxing Han

Gepubliceerd 2026-07-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Oliver Steele, Jiangtao Wen, Yuxing Han

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een superintelligent taalmodel voor als een enorme, bruisende bibliotheek waar verhalen in realtime worden geschreven en gelezen. Lange tijd vroegen we ons af hoe deze bibliotheek de overtuigingen van een personage gescheiden houdt van de werkelijkheid. Als een verhaal zegt: "Anna denkt dat de beker blauw is, maar in werkelijkheid is hij rood," moet het model weten dat het "blauw" moet antwoorden als er wordt gevraagd wat Anna denkt, en "rood" als er wordt gevraagd wat er feitelijk waar is.

Dit artikel luidt het gordijn op om te laten zien hoe het brein van het model dit precies doet. Het blijkt dat het model niet twee verschillende opslagkamers gebruikt voor "waarheid" en "leugens." In plaats daarvan gebruikt het een slim tweeledig systeem: een universele archiefplek en een slimme schakelaar.

De Universele Archiefplek

Eerst is er een specifieke plek in het geheugen van het model die een "waarde-slot" wordt genoemd. Denk aan dit als een enkele, generieke plaknotitie op een bureau. Deze notitie geeft niets om wie er naar kijkt of wat zij geloven; het houdt simpelweg de kleur "blauw" vast.

Het artikel laat zien dat dit slot op twee verschillende manieren wordt ingevuld:

De Directe Schrijfactie: Als de tekst expliciet zegt: "Anna gelooft dat de beker blauw is," schrijft het model "blauw" rechtstreeks op de plaknotitie.
De Detective Blik Terug: Als de tekst zegt: "Anna zag Ben de beker blauw schilderen," moet het model een beetje detectivewerk verrichten. Het kijkt terug in het verhaal om te zien wat Anna daadwerkelijk kon zien, stelt vast dat de kleur blauw is, en schrijft daarna "blauw" op diezelfde plaknotitie.

Hier komt de crux: de plaknotitie zelf heeft geen label met "Dit is de overtuiging van Anna" of "Dit is de waarheid." Het is slechts een neutrale container voor de kleur. Als je de kleur op deze notitie verwisselt, verandert het antwoord voor zowel de vraag over de overtuiging als de vraag over de werkelijkheid in gelijke mate. De notitie is slechts het "wat", niet het "wie" of het "wanneer."

De Slimme Schakelaar (De Router)

Dus, als de notitie neutraal is, hoe weet het model dan welke versie moet lezen? Daar komt een tweede mechanisme om de hoek kijken: een router die direct op het moment dat de vraag wordt gesteld, in werking treedt.

Stel je een verkeersregelaar voor die bij de uitgang van de bibliotheek staat. Wanneer iemand vraagt: "Wat denkt Anna?", draait de regelaar de schakelaar naar de "Overtuigings"-baan. Wanneer iemand vraft: "Wat is er werkelijk waar?", draait de regelaar de schakelaar naar de "Werkelijkheid"-baan.

Het artikel bewijst dat deze twee banen volledig gescheiden zijn. De "Overtuigings"-schakelaar en de "Werkelijkheid"-schakelaar zijn als twee verschillende sleutels die verschillende deuren openen. Ze mengen zich niet. Als je probeert de "Overtuigings"-sleutel op de "Werkelijkheid"-deur te gebruiken, werkt het nauwelijks. Deze scheiding vindt specifiek plaats op het moment dat de vraag wordt gesteld, niet in de opslagruimte waar de kleur wordt bewaard.

Wanneer Verscheen Deze Superkracht?

De onderzoekers testten modellen van verschillende groottes om te zien wanneer dit vermogen tot stand komt.

Kleine modellen (3 miljard parameters): Deze modellen raken in de war. Ze herhalen vaak de laatste kleur die ze hoorden (een truc die "recentie" wordt genoemd), in plaats van bij te houden wie wat zag.
Middelgrote modellen (7 miljard parameters): Plotseling klikt de vaardigheid op zijn plek. Tussen 3B en 7B leert het model om overtuiging en werkelijkheid helder van elkaar te scheiden. Tegen de tijd dat het 7 miljard parameters bereikt, lost het deze puzzels bijna perfect op, ongeacht de volgorde waarin het verhaal wordt verteld.

Wat Dit Niet Is

Het artikel is zeer zorgvuldig in het uitsluiten van enkele veelvoorkomende aannames:

Het is geen "Waarheid" versus "Leugen" label: Het model heeft geen speciale "overtuigings"-stempel die aan de kleur is bevestigd. De kleur "blauw" wordt op dezelfde manier opgeslagen, of het nu een overtuiging of een feit is. Het verschil zit volledig in hoe het model ervoor kiest de waarde te lezen.
Het is niet alleen kopiëren: De tests waren zo ontworpen dat het simpelweg kopiëren van het laatste genoemde woord niet zou werken. Het model moet daadwerkelijk bijhouden wie wat heeft gezien.
Het is niet één grote "overtuigings"-hersenpan: De studie laat zien dat het deel van de hersenen dat de waarde opslaat, anders is dan het deel dat beslist welk perspectief gebruikt moet worden.

De Kern van het Verhaal

Kortom, het model heeft geen "overtuigingsmachine" en een "werkelijkheidsmachine." Het heeft een gedeelde archiefkast voor waarden en een slimme schakelaar die bepaalt welke lade geopend moet worden op basis van de vraag. Dit systeem werkt bij verschillende soorten modellen (zoals Qwen, Mistral en OLMo) en komt scherp naar voren zodra het model groot genoeg is (rond de 7 miljard parameters).

De onderzoekers ontdekten dit door kleine stukjes van de interne code van het model te verwisselen (zoals het verwisselen van de plaknotitie of de schakelaar) en te kijken hoe de antwoorden versprongen. Ze zijn ervan overtuigd dat dit is hoe het model werkt, omdat ze dit op drie verschillende modelarchitecturen hebben getest en telkens hetzelfde patroon vonden. Hoewel ze vermoeden dat ditzelfde "slot-en-schakelaar"-systeem ook voor andere complexe situaties kan werken (zoals tijdreisverhalen of "wat als"-scenario's), richt dit specifieke artikel zich volledig op de splitsing tussen overtuiging en werkelijkheid.

Technische Samenvatting: Scheiding tussen Overtuiging en Realiteit in Taalmodellen

Probleemstelling

Bekwame taalmodellen (LM's) vertonen het vermogen om onderscheid te maken tussen de overtuigingen van een personage en de objectieve realiteit (bijv. "blauw" antwoorden wanneer gevraagd wordt wat Anna gelooft, en "rood" wanneer gevraagd wordt wat waar is, gegeven "Anna gelooft dat de beker blauw is; in werkelijkheid is hij rood"). De mechanistische locatie van deze scheiding binnen de berekening van het model blijft echter onduidelijk. Voorgaand werk heeft vastgesteld dat modellen entiteitstoestanden kunnen bijhouden en Theory-of-Mind (ToM)-taken kunnen uitvoeren, maar het is onbekend of de scheiding tussen overtuiging en realiteit is gecodeerd in de waarde-representatie zelf of in het mechanisme dat selecteert welk frame gelezen moet worden. Bovendien zijn gedragstests voor ToM vaak vatbaar voor "shortcuts" (bijv. recentheidsbias, kopiëren) die de prestaties opblazen zonder echt redeneren. Dit artikel tracht de specifieke computationele mechanismen te lokaliseren die verantwoordelijk zijn voor de scheiding tussen overtuiging en realiteit, en te bepalen of deze verschillen van de mechanismen die de toegeschreven waarde opslaan.

Methodologie

De auteurs maken gebruik van Distributed Alignment Search (DAS) om laag-rangige continue subruimtes te identificeren binnen de residual stream van het model die specifische readouts causaal controleren. De methodologie rust op drie kerncomponenten:

Gedefundeerde Stimuli: Om de veelvoorkomende shortcuts in ToM-benchmarks (Ullman 2023; Shapira et al. 2024) te elimineren, hebben de auteurs minimale paren-templates ontworpen met gerandomiseerde clauselvolgordes en verschillende waardensets.
- Selectieve Zichtbaarheid: Test of het model een overtuiging toeschrijft op basis van wat een personage zag (bijv. Carol ziet Anna blauw schilderen, maar niet Ben rood schilderen).
- Geëxpliciteerd vs. Afgeleid: Contrasteert overtuigingen die expliciet in de tekst worden vermeld ("Anna gelooft...") met die worden afgeleid uit zichtbaarheid ("Anna zag...").
- Overtuiging vs. Realiteit: Presenteert een enkele context met conflicterende waarden voor overtuiging en realiteit om frame-selectie te testen.
- Controles: Bevat "kopieer-proof" ontwerpen waarbij het teruggeven van de laatst genoemde kleur of een enkele genoemde waarde tot onjuiste antwoorden leidt.
Interventieprotocol: De studie gebruikt interchange-interventies. Een laag-rangige slice van de interne staat (subruimte) wordt geïdentificeerd op een specifieke tokenpositie. Deze slice wordt gekopieerd van een "donor"-context (bijv. een rode beker) naar een "ontvanger"-context (bijv. een blauwe beker) op het moment van de query. Als de output van het model verspringt naar de waarde van de donor, controleert de subruimte causaal die readout.
Modelomvang: De analyse richt zich op open-weight modellen, primair Qwen2.5 (3B, 7B, 14B, 32B), Mistral-7B, en OLMo-2-7B. Gedragsmatige schaling wordt beoordeeld over vijf families, waarbij 7B wordt vastgesteld als de minimale schaal waar het mechanisme robuust observeerbaar is.

Belangrijkste Bijdragen

Het artikel identificeert dat de scheiding tussen overtuiging en realiteit geen monolithische representatie is, maar een taakverdeling tussen twee scheidbare mechanismen die op verschillende posities in de berekening liggen:

Een Generieke Waarde-slot: Een laag-rangige subruimte die de toegeschreven waarde vasthoudt (bijv. "blauw"), maar frame-agnostisch is. Het markeert de waarde inherent niet als "overtuiging" of "realiteit".
Een Frame-Specifieke Router: Een aparte laag-rangige subruimte die zich op de query-positie bevindt en selecteert welk frame (overtuiging of realiteit) uit de waarde-slot gelezen moet worden.

Belangrijkste Resultaten

1. Emergentie van Bekwaamheid met Schaal

Het vermogen om overtuigingen toe te schrijven op basis van beschreven zichtbaarheid emergeert scherp tussen 3B en 7B parameters.

3B-modellen falen voor de taak en vertrouwen vaak op recentheid (het herhalen van de laatst genoemde kleur).
7B-modellen (Qwen, Mistral, OLMo) lossen de taak op met hoge nauwkeurigheid en orde-onafhankelijkheid.
Dit vestigt 7B als het substraat voor mechanistische analyse.

2. Twee Routes naar een Enkele Waarde-slot

Het artikel demonstreert dat zowel geëxpliciteerde overtuigingen (expliciet vermeld) als afgeleide overtuigingen (afgeleid uit zichtbaarheid) dezelfde laag-rangige subruimte vullen.

Cross-Transfer: Een subruimte die getraind is om geëxpliciteerde overtuigingen te controleren, kan afgeleide overtuigingen sturen (en vice versa) met hoge efficiëntie (0.74–0.97 op basismodellen).
Asymmetrie: Instructie-tuning verscherpt een asymmetrie waarbij de afgeleide route (die een visibility-gated lookback omvat) dominanter wordt in het sturen van de gedeelde slot, hoewel de slot zelf gedeeld blijft.
Afhankelijkheid van Zichtbaarheid: Afgeleide overtuigingen zijn causaal afhankelijk van de beschreven zichtbaarheid (het wisselen van de zichtbare actor draait de overtuiging in 99% van de gevallen om), terwijl geëxpliciteerde overtuigingen invariant zijn voor zichtbaarheidsclausules. Dit bevestigt twee verschillende inputroutes die convergeren op één representatie.

3. De Waarde-slot is Frame-Agnostisch

Interventies op de waarde-slot onthullen dat deze geen overtuigings- of realiteits-tag draagt.

Cross-Frame Transfer: Een subruimte die getraind is om de "overtuigings"-readout te controleren, verplaatst de "realiteits"-readout met gelijke kracht (89–95% transfer).
Conclusie: De slot bevat de waarde (bijv. "blauw"), ongeacht of het een overtuiging of een feit is. De scheiding vindt hier niet plaats.

4. De Router Selecteert het Frame

De scheiding tussen overtuiging en realiteit wordt geïmplementeerd door een router op de query-positie.

Dissociatie: Overtuigings-routers en realiteits-routers zijn verschillende, bijna orthogonale subruimtes. Het wisselen van een overtuigings-router naar een realiteits-query (of vice versa) slaagt er niet in de correcte output te produceren (cross-leg leakage $\le$ 0.16).
Mechanisme: De router selecteert welke frame-waarde gelezen wordt zonder de specifieke waarde van de donor te injecteren.
On-Distribution Validiteit: Projectie-ablaties bevestigen dat deze routers worden gebruikt tijdens de natuurlijke forward pass van het model, en niet slechts als effectieve interchange-targets.

Betekenis en Claims

Het artikel beweert de "waar" van de overtuiging-realiteit scheiding in taalmodellen te hebben opgelost:

Scheiding is Routing, Geen Codering: Het onderscheid tussen wat een personage gelooft en wat waar is, wordt niet gecodeerd in de waarde-representatie zelf. In plaats daarvan wordt het geïmplementeerd als een routing-mechanisme dat een frame selecteert boven een gedeelde waarde-slot.
Mechanistische Generalisatie: Deze "slot-and-router" architectuur is consistent over drie verschillende modelfamilies (Qwen, Mistral, OLMo) en schalen (7B, 14B).
Weerlegging van Monolithische Overtuigingsrepresentaties: De bevindingen spreken het idee tegen dat een overtuiging een enkele, zelfvoorzienende staat is. In plaats daarvan is een overtuiging een composiet van een waarde-binding (de slot) en een frame-selectie (de router).
Fundament voor Niet-Actuele Contexten: De auteurs merken op dat dit specifieke slot-and-router formaat ook lijkt te worden gedeeld door andere niet-actuele contexten (counterfactuals, fictie, temporeel), een claim die verder wordt uitgewerkt in een begeleidend artikel (Steele 2026).

Het artikel blijft bescheiden over tweede-orde overtuigingen en de effecten van instructie-tuning, waarbij wordt opgemerkt dat dit voorlopige of single-substrate bevindingen zijn, en vermijdt expliciet filosofische claims over de "doxastische status" van deze interne staten, met een focus op strikte causale structuren over de readouts.