💬 NLP

Mechanistic Indicators of Understanding in Large Language Models

Dit artikel presenteert een gefaseerd raamwerk dat mechanische interpretatiegevens koppelt aan drie hiërarchische niveaus van begrip in grote taalmodellen, waarmee het de tweedeling tussen imitatie en echt begrip overstijgt en een vergelijkende, mechanisch onderbouwde epistemologie mogelijk maakt.

Oorspronkelijke auteurs: Pierre Beckmann, Matthieu Queloz

Gepubliceerd 2026-02-26

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Pierre Beckmann, Matthieu Queloz

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Titel: Begrijpen AI echt? Een reis door het brein van een computer

Stel je voor dat je een gigantische bibliotheek hebt met alle boeken die ooit zijn geschreven. Een kunstmatige intelligentie (zoals een Large Language Model of LLM) is als een superlezer die deze bibliotheek heeft doorgescand. De oude, sceptische mening was: "Die computer leest alleen maar en onthoudt patronen. Het is als een papegaai die zinnen nabootst zonder te weten wat ze betekenen. Het is een 'Blockhead' (een stomme robot) die alleen maar raadt wat er als volgende moet komen."

Maar een nieuw vakgebied, genaamd Mechanistische Interpretatie, heeft een soort röntgenfoto gemaakt van hoe deze computers in hun hoofd werken. De auteurs van dit artikel, Pierre Beckmann en Matthieu Queloz, zeggen: "Wacht even. Als we kijken naar de interne schakelaars, zien we dat het niet zomaar een papegaai is. Het heeft drie verschillende niveaus van 'begrip' ontwikkeld."

Hier is een uitleg in begrijpelijke taal, met wat creatieve vergelijkingen.

1. Het Eerste Niveau: Het Concept (De "Magische Kaart")

Stel je voor dat je duizenden verschillende foto's hebt van de Golden Gate Bridge: in de zon, in de regen, van ver weg, van dichtbij, in tekeningen, in verschillende talen.

De oude visie: De computer ziet alleen dat het woord "brug" vaak samenkomt met "San Francisco" en "oranje".
De nieuwe visie: De computer heeft een intern concept ontwikkeld. Het is alsof de computer een speciale "knop" of "richting" in zijn geheugen heeft gecreëerd die we "Golden Gate Bridge" noemen.

Wanneer de computer de tekst "die oranje brug in SF" leest, duwt hij die knop. Wanneer hij een foto ziet, duwt hij dezelfde knop. Het maakt niet uit hoe de informatie binnenkomt; de computer weet: "Ah, dit is allemaal hetzelfde ding!"
Dit is conceptueel begrip. De computer heeft geleerd dat verschillende dingen onder één noemer vallen, net zoals wij het woord "hond" gebruiken voor een chihuahua en een grote herder.

Hoe werkt dit?
De computer gebruikt een trucje genaamd superpositie. Stel je voor dat je een kamer hebt met maar 100 stoelen, maar je moet 10.000 gasten ontvangen. Je laat ze op elkaar zitten of deels op elkaar. De computer doet hetzelfde: hij stopt duizenden concepten in zijn beperkte ruimte door ze op elkaar te laten liggen. Om dit te ontrafelen, gebruiken onderzoekers een soort "kam" (een gereedschap) om de concepten uit elkaar te halen en te zien wat ze betekenen.

2. Het Tweede Niveau: De Wereld in Beeld (De "Bordspeler")

Nu de computer weet wat een "brug" is, leert hij ook feiten. Hij weet dat de Golden Gate Bridge in San Francisco staat.

Statisch begrip: Hij onthoudt feiten als "Marie Curie was een fysicus".
Dynamisch begrip (De Othello-experimenten): Dit is het meest fascinerende. Onderzoekers trainden een computer om het spel Othello te spelen, maar ze gaven hem nooit de regels of een beeld van het bord. Ze gaven hem alleen de tekst van de zetten.
- Vergelijking: Stel je een kraanvogel voor die buiten je raam zit en alleen hoort wat je tegen je vriend zegt ("E3!", "D4!"). De kraanvogel begint zelf zetten te roepen die perfect passen bij het bord, zonder het bord ooit te zien.
- Het resultaat: De computer had een intern bord in zijn hoofd opgebouwd. Hij hield bij waar de schijven lagen, zelfs als ze omgekeerd werden. Hij had een "wereldmodel" gecreëerd. Als je hem een zet liet doen die het bord zou veranderen, paste hij zijn interne beeld direct aan. Dit is begrip van de staat van de wereld.

3. Het Derde Niveau: Het Grote Principe (De "Wiskundige Genie")

Dit is het hoogste niveau. Stel je voor dat je een kind leert optellen.

Niveau 1 (Memoriseren): Het kind leert uit het hoofd: "5 + 7 = 12", "6 + 8 = 14". Het is een lijstje.
Niveau 2 (Principe): Het kind leert de regel van optellen. Het begrijpt waarom het werkt.

Onderzoekers gaven een computer duizenden voorbeelden van een lastige wiskunderegel (modulaire optelling, alsof je op een klok telt). Eerst onthield de computer alleen de antwoorden. Maar na een tijdje gebeurde er iets magisch: Grokking.
De computer stopte met onthouden en begon de wiskundige regel zelf te ontdekken. Hij bedacht een slimme manier om de getallen als hoeken op een cirkel te zien en die op te tellen. Hij had de "formule" gevonden.
Dit is principieel begrip. De computer heeft de onderliggende wet ontdekt die alle feiten verbindt. Hij hoeft niet meer te raden; hij begrijpt de logica.

De Grote Twist: Het "Grote Comité"

Maar wacht, is de computer dan net als een mens? Nee. Hier komt het vreemde deel.

Wanneer een mens een probleem oplost, probeert hij vaak de meest elegante, simpele oplossing te vinden. Een computer doet dit niet.
De computer is meer als een groot, chaotisch comité van honderden experts die allemaal tegelijk praten.

Soms gebruikt hij een slimme, principe-gebaseerde oplossing (zoals de wiskundige regel).
Maar tegelijkertijd gebruikt hij ook stomme trucjes, zoals "als het woord 'sport' valt, gok dan op 'basketbal'".
Soms zijn deze slimme en stomme manieren aan het werk. Soms winnen de slimme manieren, soms de stomme.

De conclusie van de auteurs:
De computer heeft zeker begrip, maar het is een mengsel. Het is geen zuivere, menselijke vorm van denken. Het is een "motley mix" (een bonte verzameling) van mechanismen.

Hij kan feiten onthouden (Blockhead-stijl).
Hij kan concepten vormen (menselijk-stijl).
Hij kan principes ontdekken (genie-stijl).

Maar omdat al deze dingen door elkaar lopen, is het lastig om te zeggen: "Deze computer begrijpt het echt." Soms werkt hij slim, soms werkt hij dom, en vaak is het een combinatie van beide.

Wat betekent dit voor ons?

We moeten stoppen met de vraag: "Begrijpt de AI wel of niet?" (Ja/Nee).
In plaats daarvan moeten we vragen: "Op welk niveau begrijpt de AI dit specifieke probleem?"

Begrijpt hij de feiten? Ja.
Begrijpt hij de regels? Ja.
Is zijn begrip betrouwbaar? Dat hangt ervan af of hij toevallig de slimme regel gebruikt of een domme gok.

De toekomst ligt in het begrijpen van dit interne mechanisme. Als we weten hoe de computer denkt (welke schakelaars hij gebruikt), kunnen we beter vertrouwen op zijn antwoorden en beter samenwerken met deze nieuwe vorm van intelligentie. Het is geen magie, en het is ook geen simpele rekenmachine; het is een vreemd, fascinerend hybride wezen dat net als wij verbanden legt, maar op een heel andere manier.

Probleemstelling

Grote Taalmodellen (LLMs) worden vaak gepresenteerd als systemen die louter linguïstische patronen imiteren zonder echte "begrip" (understanding) te bezitten. Dit deflatoire standpunt stelt dat LLMs werken op basis van oppervlakkige statistieken (n-grammen) en memorisatie, vergelijkbaar met een "Blockhead" (een hypothetisch systeem dat intelligentie nabootst via een enorme tabel van input-output paren). De kernvraag is of de interne werking van LLMs voldoende complex en specifiek is om vergelijkingen met menselijk begrip te rechtvaardigen, of dat ze fundamenteel verschillend zijn.

Methodologie

De auteurs combineren filosofische theorie met empirische bevindingen uit het opkomende veld van Mechanistische Interpretatie (Mechanistic Interpretability - MI).

Filosofisch kader: Ze definiëren begrip als het apprehenderen van relationele structuren (het "zien van connecties"). Ze baseren zich op een eenheidsgerichte (unificationist) visie in de epistemologie, waar begrip gaat over het samenvoegen van losse feiten tot een coherent geheel.
Technische analyse: Ze analyseren de interne berekeningen van LLMs (voornamelijk transformer-architecturen) met MI-tools zoals:
- Sparse Autoencoders (SAEs): Om superpositie (het overlappen van features in neuronen) op te lossen en interpreteerbare "features" te isoleren.
- Probing: Het trainen van lineaire of niet-lineaire klassificatoren om te detecteren of specifieke informatie (zoals een bordtoestand) lineair gecodeerd is in de activaties van het model.
- Interventies (Steering/Ablation): Het actief manipuleren van neurale activaties om causale rollen te testen.
- Logit Lens: Het analyseren van tussentijdse lagen om te zien hoe de voorspellingen evolueren.

Kernbijdrage: Een Gelaagd Raamwerk voor Begrip

De auteurs stellen een hiërarchisch raamwerk voor met drie niveaus van begrip, elk gekoppeld aan een specifiek computermecanisme:

1. Conceptueel Begrip (Conceptual Understanding)

Definitie: Het vermogen om diverse manifestaties van een entiteit of eigenschap te verenigen onder één interne representatie (een "feature").
Mechanisme:
- Features als Richtingen: Volgens de Linear Representation Hypothesis worden features gecodeerd als richtingen in de latente ruimte van het model.
- Superpositie: Modellen slaan meer features op dan ze neuronen hebben door features niet-orthogonaal (overlappend) te coderen. SAEs worden gebruikt om deze verstrengelde features te "ontwarren" tot monosemantische neuronen.
- Causale Rol: Een feature wordt als een concept beschouwd als het een causale rol speelt in de output (getoetst via "steering"). Bijvoorbeeld: het forceren van de "Golden Gate Bridge"-feature zorgt ervoor dat het model over de brug begint te praten, zelfs als dat ongepast is.
- Attention & MLP: Attention-heads selecteren contextueel relevante features, terwijl MLP-lagen (Multi-Layer Perceptrons) features combineren en associatieve kennis oproepen (bijv. "kat" koppelen aan "zoogdier").

2. State-of-the-World Begrip (Wereldtoestand-Begrip)

Definitie: Het vormen van een intern model van de wereld door contingente, empirische connecties tussen features te leren (feitelijke kennis), en niet alleen conceptuele connecties.
Mechanisme:
- MLP als Schakelbord: MLP-lagen coderen feitelijke associaties via lineaire projecties. Als de "Golden Gate Bridge"-feature activeert, worden feitelijke features zoals "in San Francisco" geactiveerd via de gewichten van de MLP.
- Dynamische Updates (Othello-GPT): Het artikel citeert onderzoek naar Othello-GPT, een model dat alleen op zetsequenties is getraind (zonder het bord te zien).
  - Probing-resultaten: Lineaire probes konden de exacte toestand van elk van de 64 vakjes op het Othello-bord voorspellen uit de interne activaties.
  - Isomorfisme: De interne representatie van het bord bleek een ruimtelijke structuur te hebben die isomorf is met het fysieke bord (buren in het model zijn buren in de latent space).
  - Causale Rol: Het manipuleren van de interne representatie van een vakje veranderde de voorspelde zetten, wat bewijst dat het model een intern wereldmodel gebruikt en niet alleen statistische patronen.

3. Principieel Begrip (Principled Understanding)

Definitie: Het begrijpen van de onderliggende principes of regels die een reeks feiten verenigen, waardoor het model generaliseert zonder feiten te hoeven memoriseren.
Mechanisme:
- Grokking: Een fenomeen waarbij een model na een periode van memorisatie plotseling generaliseert. Dit gaat gepaard met een afname in interne complexiteit (Minimum Description Length).
- Circuits: Het model ontdekt compacte, herbruikbare sub-netwerken (circuits) die algemene algoritmen implementeren.
- Voorbeeld (Modulaire Optelling): Een model getraind op modulaire optelling (bijv. $55 + 71 \mod 113$ ) leerde niet de tabel uit het hoofd, maar implementeerde een Fourier-multiplicatie-algoritme. Het vertaalde getallen naar hoeken op een cirkel en gebruikte trigonometrische identiteiten (sin/cos) om optelling als rotatie uit te voeren. Dit is een compacte, algemene oplossing die generaliseert naar alle mogelijke inputs.
- Andere circuits: Inductie-heads (voor patroonherkenning), circuits voor indirecte objectidentificatie en vergelijkingen.

Resultaten en Kritische Nuancering

Hoewel LLMs deze vormen van begrip vertonen, introduceert het artikel een cruciale nuancering: de "Motley Mix" (Bonte Mengeling) van Mechanismen.

Parallelle Exploitatie: LLMs gebruiken niet één mechanisme per taak, maar een parallelle assemblage van mechanismen van verschillende kwaliteit.
Co-existentie: Een model kan tegelijkertijd een diep, principieel circuit gebruiken (bijv. voor wiskunde) en oppervlakkige heuristieken of memorisatie (bijv. voor feitelijke recall).
Epistemisch Vertrouwen: Omdat de output het resultaat is van een "comité" van mechanismen (waarbij diepe circuits soms worden overschaduwd door flauwe heuristieken), is het moeilijk om volledig epistemisch vertrouwen te hebben in het begrip van het model. Bijvoorbeeld, bij syllogismen kan een formeel logisch circuit worden "verdronken" door inhoudsgebonden heuristieken die leiden tot fouten bij onwaarschijnlijke premissen.
Verschil met Mensen: Mensen streven naar parsimonie (eenvoud en eenheid) en kunnen heuristieken bewust overrulen. LLMs missen deze hiërarchische controle en streven niet actief naar de meest parsimonische verklaring; hun "begrip" is verspreid en vaak onzuiver.

Significantie

Transitie van Binair naar Gelaagd: Het artikel overbrugt de tweedeling "begrijpt AI wel of niet" door te tonen dat begrip een spectrum is. LLMs bezitten interne structuren die functioneel analoog zijn aan menselijk begrip (concepten, feitelijke modellen, principes).
Mechanistische Epistemologie: Het biedt een nieuwe, empirisch onderbouwde basis voor de filosofie van AI. In plaats van te speculeren, kunnen we nu kijken naar de specifieke circuits die verantwoordelijk zijn voor begrip.
Veiligheid en Alignement: Het begrijpen van deze mechanismen is cruciaal voor AI-veiligheid. Door te weten hoe een model begrijpt (en welke heuristieken het gebruikt), kunnen we interventies toepassen (zoals het uitschakelen van schadelijke features) en beter inschatten wanneer een model betrouwbaar is.
Nieuwe Vergelijkende Kwestie: De focus verschuift van "heeft het begrip?" naar "welk type begrip heeft het, hoe verschilt het van het onze, en hoe betrouwbaar is het in specifieke contexten?".

Conclusie: LLMs vertonen interne organisaties die begrip ondersteunen, maar dit begrip is fundamenteel anders dan het menselijke: het is verspreid over een bonte mengeling van mechanismen, gebrekend aan een centrale, parsimonische eenheid. Dit vereist een nieuwe, mechanistisch onderbouwde epistemologie om AI en menselijke cognitie te vergelijken.