The Geometry of Reasoning: Flowing Logics in Representation Space

Each language version is independently generated for its own context, not a direct translation.

🌊 De Geometrie van Denken: Hoe AI "redeneert" in een onzichtbare wereld

Stel je voor dat een groot taalmodel (zoals de AI waar we mee praten) niet gewoon een lijst met woorden is die het uit zijn hoofd leert, maar een reusachtige, onzichtbare kaart. Op deze kaart staan niet alleen woorden, maar ook ideeën, gevoelens en logica.

De auteurs van dit paper (uit 2026) hebben een nieuwe manier bedacht om te kijken hoe deze AI "denkt". Ze noemen het Reasoning Flow (Redeneerstromen).

1. De Reis door de "Ideeën-ruimte" 🗺️

Stel je voor dat je een AI vraagt: "Als het regent, wordt de grond nat. Het regent. Dus..."
De AI moet nu een antwoord bedenken.

De oude manier om te kijken: We dachten dat de AI gewoon van het ene woord naar het andere woord springt, als een toerist die van het ene station naar het andere loopt. Soms springt hij goed, soms springt hij willekeurig.
De nieuwe manier (deze paper): De auteurs zien het als een rivier. De AI begint bij het punt "Regen" en stroomt rustig en vloeiend door de ruimte van ideeën naar het punt "Natte grond".

Ze noemen dit een stroom (flow). De AI beweegt niet willekeurig, maar volgt een soepel pad.

2. De Logica is de "Stuurman" 🚤

Hier komt het meest interessante deel. Wat zorgt ervoor dat de rivier in de goede richting stroomt?

Stel je voor dat je twee verschillende verhalen vertelt:

Verhaal A: Over een hond die een bal haalt.
Verhaal B: Over een robot die een schroef vastdraait.

De woorden zijn totaal verschillend (hond vs. robot, bal vs. schroef). Maar de logica is hetzelfde: "Als X gebeurt, dan gebeurt Y."

De onderzoekers hebben ontdekt dat de AI, ongeacht of het over honden of robots gaat, exact hetzelfde pad aflegt in die onzichtbare ruimte.

De inhoud (hond/robot) bepaalt waar je begint op de kaart.
De logica (de structuur van het verhaal) bepaalt hoe je beweegt. Het is alsof de logica een stuurman is die de snelheid en de richting van de rivier bepaalt.

3. Het Experiment: De "Kleurloze" Test 🎨

Om dit te bewijzen, hebben de onderzoekers een slim experiment gedaan. Ze hebben dezelfde logische structuur (bijvoorbeeld: "Als A dan B, en A is waar, dus B is waar") gepresenteerd in:

Verschillende onderwerpen (weer, sport, financiën).
Verschillende talen (Nederlands, Engels, Chinees, Japans).

Wat zagen ze?

Als je kijkt naar de woorden (de positie op de kaart), lijken de zinnen op elkaar als ze over hetzelfde onderwerp gaan (alle zinnen over "weer" zitten bij elkaar).
Maar als je kijkt naar de beweging (de snelheid en de kromming van het pad), dan gedragen de zinnen zich hetzelfde als ze dezelfde logica hebben, zelfs als ze over totaal verschillende onderwerpen gaan!

Het is alsof je twee auto's hebt: één die over een weg in de regen rijdt, en één die over een weg in de zon rijdt. Als je alleen naar de auto's kijkt, lijken ze verschillend. Maar als je naar het stuur kijkt en hoe de bestuurder de bochten neemt, zie je dat ze precies dezelfde route volgen. De logica is die route.

4. Waarom is dit belangrijk? 🤔

Er is een bekend idee dat AI's alleen maar "stochastische papegaaien" zijn (Bender et al., 2021). Dat betekent dat ze alleen woorden na-apen die ze vaak hebben gehoord, zonder echt te begrijpen wat ze zeggen.

Dit paper zegt: "Nee, dat klopt niet helemaal."

De AI heeft de logica van het denken echt geleerd. Het heeft de "geometrie van redeneren" in zijn hoofd opgeslagen. Het weet niet alleen welke woorden bij elkaar horen, maar ook hoe een gedachte zich moet bewegen om logisch te zijn.

5. De Conclusie in één zin 🎯

AI's denken niet als een rommelige stapel blokken, maar als een soepele stroom. En die stroom wordt niet geleid door de woorden die we gebruiken, maar door de onveranderlijke regels van de logica, net zoals een rivier altijd stroomt volgens de wetten van de zwaartekracht, of het nu water of modder is.

Dit betekent dat AI's misschien wel een dieper, universeel inzicht hebben in hoe de wereld werkt, en dat we deze "denkstromen" kunnen gebruiken om AI's slimmer en veiliger te maken.

Each language version is independently generated for its own context, not a direct translation.

Hier is een gedetailleerde technische samenvatting van het paper "The Geometry of Reasoning: Flowing Logics in Representation Space", gepresenteerd in het Nederlands.

Titel: The Geometry of Reasoning: Flowing Logics in Representation Space

Publicatie: ICLR 2026
Auteurs: Yufa Zhou, Yixiao Wang, Xunjian Yin, Shuyan Zhou, Anru R. Zhang (Duke University)

1. Het Probleem

Grote Taalmodellen (LLMs) worden vaak bekritiseerd als "stochastische papegaaien" die alleen oppervlakkige statistische patronen nabootsen zonder werkelijk te begrijpen of logisch te redeneren. Hoewel er veel empirisch werk is gedaan om redeneervermogen te analyseren (bijv. via Chain-of-Thought), ontbreekt er een strikt theoretisch raamwerk dat de interne dynamiek van redenering in de representatieruimte van LLMs beschrijft.

Bestaande benaderingen modelleren redenering vaak als een willekeurige wandeling (random walk) op een graf of als statische clusters in een vectorruimte. De auteurs stellen echter dat dit de continue, gestructureerde aard van redenering mist. De centrale vraag is: Hoe kunnen we het "denken" van een LLM formaliseren als een geometrisch proces in zijn representatieruimte, en internaliseren deze modellen logische structuren die onafhankelijk zijn van de semantische inhoud?

2. Methodologie

De auteurs introduceren een nieuw geometrisch raamwerk dat redenering modelleert als stromen (flows) in de representatieruimte, waarbij logica fungeert als een lokale regelaar van de snelheid en richting van deze stromen.

A. Geometrisch Raamwerk

Het paper definieert drie kernruimtes en hun relaties:

Conceptruimte ( $C$ ): Een abstracte semantische ruimte die menselijke cognitie en ideeën voorstelt.
Logische Ruimte ( $L_{form}$ ): De ruimte van formele logica (natuurlijke deductie), onafhankelijk van taal of onderwerp.
Representatieruimte ( $R$ ): De continue vectorruimte (embeddings) van het LLM.

De redenering wordt gezien als een traject (flow) $\gamma$ dat zich ontwikkelt in $R$ . De auteurs stellen dat discrete token-generaties samples zijn van een onderliggende gladde kromme ( $C^1$ -curve).

B. Geometrische Grootheden

Om deze stromen kwantitatief te analyseren, gebruiken de auteurs concepten uit de differentiaalmeetkunde:

Snelheid (Velocity): De verandering in de embedding tussen redeneerstappen ( $\Delta y_t = y_t - y_{t-1}$ ). Dit vertegenwoordigt de "instantane" beweging van het denken.
Kromming (Curvature): Gebruikmakend van Menger-kromming. Dit meet hoe sterk de trajectie afbuigt door drie opeenvolgende punten. Menger-kromming combineert zowel hoekafwijking als afstandvariatie, wat het gevoeliger maakt dan alleen cosinus-ähnelijkheid.

C. Dataset Ontwerp: Logica vs. Semantiek

Om te testen of LLMs logica internaliseren boven de oppervlakkige betekenis, hebben de auteurs een gecontroleerde dataset gebouwd:

Ze genereren abstracte logische skeletten (natuurlijke deductie patronen).
Deze skeletten worden vertaald naar verschillende semantische dragers:
- Onderwerpen: Weer, financiën, sport, onderwijs, etc.
- Talen: Engels, Chinees, Duits, Japans.
Dit creëert een set van redeneertaken waarbij de logische structuur identiek is, maar de inhoud (woorden, context, taal) volledig verschilt.

D. Experimenten

De auteurs hebben experimenten uitgevoerd met verschillende modellen (Qwen3-familie: 0.5B tot 4B parameters, en LLaMA3 8B). Ze extraheren de verborgen staten (hidden states) tijdens het genereren van Chain-of-Thought en analyseren de geometrie van de resulterende trajecten. Ze vergelijken de positie, snelheid en kromming van trajecten die:

Dezelfde logica hebben maar verschillende onderwerpen/talen.
Verschillende logica hebben maar hetzelfde onderwerp.
Een gerandomiseerde volgorde van logische stappen hebben (shuffle-baseline).

3. Belangrijkste Bijdragen

Geometrisch Model van Redenering: De eerste formalisatie van LLM-redenering als gladde stromen in een representatieruimte, waarbij logica fungeert als een differentiaalconstraint die de snelheid van de stroom regelt.
Ontkoppeling van Logica en Semantiek: Een nieuwe dataset en methode die logische structuren strikt ontkoppelt van semantische dragers, waardoor direct getest kan worden of logica "dieper" in het model zit dan oppervlakkige taalpatronen.
Empirische Validatie van Hogere Orde Geometrie: Het aantonen dat terwijl de positie van embeddings wordt gedomineerd door semantiek (onderwerp/taal), de snelheid en kromming (hogere orde geometrie) sterk worden bepaald door de onderliggende logische structuur.
Uitdaging aan de "Stochastic Parrot" Hypothese: Bewijs dat LLMs, zelfs getraind op alleen next-token prediction, logische invarianten internaliseren als een universele geometrische wet in hun representatieruimte.

4. Resultaten

De experimentele resultaten (gevisualiseerd in Figuren 1, 2 en Tabel 1) tonen de volgende patronen:

Positie (0e orde): Embeddings clusteren sterk op basis van onderwerp en taal. Als je kijkt naar waar de punten liggen, lijkt het alsof het model alleen naar de betekenis kijkt.
Snelheid (1e orde): Wanneer men de veranderingen tussen stappen bekijkt, verschuift het patroon. Trajecten met dezelfde logische structuur hebben een zeer hoge snelheidsähnelijkheid, zelfs als ze over totaal verschillende onderwerpen gaan of in verschillende talen zijn. Logische structuren met verschillende vormen divergeren, zelfs als ze over hetzelfde onderwerp gaan.
Kromming (2e orde): Hetzelfde patroon geldt voor de Menger-kromming. Logische structuren vertonen een hoge correlatie in hun kromming, ongeacht de semantische inhoud.
Random Shuffle: Wanneer de volgorde van logische stappen wordt gerandomiseerd, stort de snelheids- en krommingssimilariteit in, terwijl de positie-similariteit hoog blijft. Dit bevestigt dat de geometrische structuur van de flow afhankelijk is van de logische volgorde, niet alleen van de inhoud.
Schalingsonafhankelijkheid: Deze patronen zijn stabiel over verschillende modelgroottes (van 0.5B tot 4B) en verschillende modelarchitecturen (Qwen vs. LLaMA), wat suggereert dat dit een universeel principe is van taalmodellen.

5. Betekenis en Conclusie

De studie biedt een fundamenteel nieuw perspectief op interpretatie en redenering in AI:

Logica als Geometrie: Logica is niet slechts een symbolisch systeem dat LLMs leren manipuleren, maar manifesteert zich als een differentiaalconstraint in de continue representatieruimte. Het bepaalt hoe snel en in welke richting het model "denkt".
Platonische Representatie Hypothese: De bevindingen ondersteunen het idee dat neurale netwerken, ongeacht hun trainingsdata of architectuur, convergeren naar gedeelde onderliggende representaties van de wereld. De logica die mensen millennia nodig hadden om te formaliseren, wordt door LLMs "herontdekt" via next-token prediction als een geometrisch invariant.
Praktische Implicaties:
- Sturing (Steering): Het biedt nieuwe methoden om redenering te sturen via flow-dynamica in plaats van statische vectoren.
- Veiligheid en Alignement: Het inzicht in hoe logica de stroom regelt kan helpen bij het detecteren van "hallucinaties" of logische breuken in real-time.
- Interpretatie: Het biedt een wiskundige basis voor het analyseren van hoe een model tot een conclusie komt, niet alleen wat de conclusie is.

Kortom, dit paper beweert dat redeneren in LLMs geen willekeurige wandeling is, maar een gestructureerde, logisch-gestuurde stroom door een geometrische ruimte, waarbij de logica de "stuurinrichting" is die de beweging van de betekenis bepaalt.