🤖 AI

The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans

Dit artikel onthult dat grote taalmodellen, hoewel ze bij expliciete vragen grondingsdimensies kunnen identificeren, in vergelijking met mensen een aanzienlijke "grondingskloof" vertonen door zich te sterk te baseren op woordassociaties en het niet op natuurlijke wijze in te schakelen van concepten die betrekking hebben op emoties en interne toestanden tijdens vrije generatie.

Oorspronkelijke auteurs: Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Gepubliceerd 2026-05-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je het concept van "Rechtvaardigheid" probeert uit te leggen aan twee verschillende groepen: een zaal vol mensen en een zaal vol geavanceerde AI-computers.

Hoe Mensen Het Doen:
Wanneer een mens aan "rechtvaardigheid" denkt, roept hun geest niet zomaar een woordenboekdefinitie op. In plaats daarvan activeert het een rijk, rommelig web van ervaringen. Ze kunnen zich het gevoel herinneren van onrechtvaardige behandeling (een interne emotie), het beeld van een rechtszaal (een zintuiglijke detail), of het sociale drama van een familie ruzie over wie de laatste plak pizza krijgt. Hun begrip is "geworteld" in hun lichaam, hun gevoelens en hun leven met andere mensen.

Hoe AI Het Doet:
Wanneer de AI aan "rechtvaardigheid" denkt, gedraagt het zich meer als een supersnelle bibliothecaris die elk ooit geschreven boek heeft gelezen, maar nooit een enkele dag heeft geleefd. Het weet dat "rechtvaardigheid" vaak wordt aangetroffen in de buurt van woorden als "wet", "hof", "rechter" en "eerlijk". Het bouwt zijn begrip bijna volledig op uit woordassociaties. Het kent het gezelschap dat het woord houdt, maar het lijkt de zwaarte van het concept niet te voelen.

De "Grondingskloof"

De onderzoekers in dit artikel besloten om dit verschil te testen. Ze vroegen 21 verschillende AI-modellen (waaronder reuzen zoals GPT-5, Claude en Gemini) om een spelletje te spelen: "Noem de eerste vier dingen die in je opkomen wanneer je dit abstracte woord hoort." Ze deden dit voor woorden als vrijheid, eer en theorie.

Hier is wat ze vonden:

De Mismatch: Toen mensen dit spelletje deden, mengden ze op natuurlijke wijze gevoelens, lichaamsgevoelens en sociale situaties. De AI's daarentegen noemden vooral woordassociaties (andere woorden die met het onderwerp te maken hebben) en negeerden gevoelens en interne staten bijna volledig.
De Score: De onderzoekers maten hoe sterk de antwoorden van de AI overeenkwamen met de antwoorden van mensen. Zelfs de slimste AI scoorde slechts ongeveer 0,37 op 1,0 op overeenkomst. Ter vergelijking: als je twee verschillende mensen vraagt om het spelletje te spelen, komen ze met elkaar overeen op ongeveer 0,97 op 1,0.
- Vergelijking: Het is alsof je een mens en een robot vraagt om de smaak van een appel te beschrijven. De mens zegt: "Zoet, knapperig, sappig, doet me denken aan de herfst." De robot zegt: "Rood, rond, fruit, appel." Ze hebben het over hetzelfde object, maar ze beschrijven het in volledig verschillende talen.
De "Robotclub": Interessant genoeg waren de AI's veel meer op elkaar gelijk dan op mensen. Ze lijken allemaal dezelfde "robotmanier" van denken te delen, wat zeer verschillend is van de menselijke manier.

De Twist: Kunnen Ze Het Als Er Om Gevraagd Wordt?

De onderzoekers vroegen zich af: Begrijpen de AI's deze gevoelens eigenlijk wel, of weten ze gewoon niet hoe ze ze naar boven moeten halen?

Om dit te testen, veranderden ze het spel. In plaats van de AI te vragen om "dingen op te sommen die in je opkomen", stelden ze specifieke vragen zoals: "Op een schaal van 1 tot 7, hoe sterk relateert dit woord aan 'menselijke emotie'?" of "Hoe sterk relateert het aan 'aanraking'?"

Het Resultaat: Plotseling werden de AI's veel beter! Hun antwoorden kwamen veel dichter overeen met die van mensen.

Vergelijking: Het is alsof je een verlegen persoon vraagt om "me een verhaal te vertellen over je kinderjaren" (ze kunnen bevriezen of een generiek antwoord geven). Maar als je ze vraagt: "Voelde je je blij toen je 5 was?" (een specifieke, geleide vraag), kunnen ze perfect antwoorden.

Dit suggereert dat de AI's wel de "ingrediënten" voor menselijk begrip in zich hebben, maar wanneer ze vrij gelaten worden om tekst te genereren, weten ze niet hoe ze die ingrediënten moeten mengen. Ze vallen terug op het recept van "woordassociatie", omdat dat is waarvoor ze getraind zijn.

Naar Binnen in de Machine

Om te zien of dit "verlegen" begrip daadwerkelijk verborgen zat in het brein van de AI, gebruikten de onderzoekers een speciaal hulpmiddel genaamd een Sparse Autoencoder (denk hierbij aan een röntgenmachine voor AI-gedachten).

Ze ontdekten dat de AI specifieke interne "schakelaars" of "kenmerken" heeft die oplichten wanneer het denkt aan emoties, sociale interacties of zintuiglijke details.

Vergelijking: Stel je een piano voor. Wanneer de AI een liedje speelt over "rechtvaardigheid", raakt hij voornamelijk de toetsen voor "wet" en "hof". Maar als je onder de motorkap kijkt, zie je dat de toetsen voor "verdriet" en "aanraking" daadwerkelijk verbonden zijn met draden binnenin de piano. Ze zijn er, maar de AI drukt ze niet in wanneer hij zelfstandig speelt.

Toen de onderzoekers deze "emotie"-schakelaars handmatig aan het aan staan zetten, begon de AI wel meer emotionele beschrijvingen te genereren. Dit bewees dat de capaciteit bestaat, maar dat deze niet op natuurlijke wijze wordt gebruikt.

De Conclusie

Het artikel concludeert dat huidige AI-modellen niet op dezelfde manier in de wereld geworteld zijn als mensen.

Ze zijn uitstekend in het nabootsen van de patronen van menselijke taal.
Ze kunnen concepten zoals "emotie" of "aanraking" begrijpen als je ze er direct op wijst.
Maar wanneer ze vrij gelaten worden om te denken en spreken, vertrouwen ze te sterk op woord-tot-woord connecties en slagen ze er niet in om de gevoelens, lichaamsgevoelens en sociale ervaringen aan te spreken die menselijke betekenis zo rijk maken.

De onderzoekers suggereren dat het simpelweg groter maken van de AI of het trainen ervan op meer tekst dit probleem niet zal oplossen. Om de kloof echt te dichten, moeten we misschien fundamenteel veranderen hoe we deze modellen bouwen en trainen, en hen misschien een manier geven om de wereld te "ervaren" in plaats van er alleen over te lezen.

Technische Samenvatting: De Grounding-Kloof

Probleemstelling

Het artikel onderzoekt of Large Language Models (LLM's) abstracte concepten (bijv. rechtvaardigheid, theorie, beschikbaarheid) op een vergelijkbare manier grondvesten als mensen. Waar de menselijke cognitie ervan uitgaat dat abstracte concepten betekenis ontlenen aan een web van sensorimotorische ervaringen, emoties en sociale contexten (gegronde cognitie), worden LLM's uitsluitend getraind op tekst. De centrale vraag is of LLM's louter vertrouwen op statistische woordassociaties of of ze abstracte concepten intern vertegenwoordigen via dezelfde ervaringsdimensies (sensorimotorisch, interne staat, sociaal) die het menselijk begrip structureren.

Methodologie

De auteurs hanteren een veelzijdige aanpak die gedragsreplicatie, rating-experimenten en mechanistische interpreteerbaarheid combineert:

Replicatie van Eigenschapsgeneratie (Gedragsmatig):
- De auteurs hebben twee gevestigde experimenten uit de cognitiewetenschap (Harpaintner et al., 2018; Kelly et al., 2024) gerepliceerd op 21 frontier- en open-weight LLM's.
- Taak: Modellen kregen de opdracht om vrij eigenschappen, situaties of associaties voor abstracte zelfstandige naamwoorden te genereren.
- Analyse: De gegenereerde output werd gecodeerd in gronddingscategorieën (bijv. Sensorimotorisch, Interne Staat, Sociaal, Verbaal Geassocieerd) en vergeleken met menselijke baselines met behulp van de Pearson-correlatie ( $r$ ).
- Schaal: De experimenten bestreken 293 abstracte zelfstandige naamwoorden (Exp 1) en 236 abstracte zelfstandige naamwoorden, inclusief subsets voor emotie/niet-emotie (Exp 2).
Rating-experiment (Expliciete Bevraging):
- Om onderscheid te maken tussen een gebrek aan kennis van gronddingsdimensies en een falen om ze te rekruteren, hebben de auteurs een rating-studie gerepliceerd (Troche et al., 2017).
- Taak: Modellen beoordeelden woorden expliciet op 14 gronddingsdimensies (bijv. Kleur, Emotie, Sociaal, Tijd) met behulp van een Likert-schaal.
- Doel: Bepalen of modellen deze dimensies kunnen herkennen wanneer ze expliciet worden gevraagd, in tegenstelling tot de spontane eigenschapsgeneratietak.
Mechanistische Interpreteerbaarheid (Sparse Auto-encoders):
- De auteurs gebruikten Sparse Auto-encoders (SAE's) op Gemma 3-modellen (4B en 12B parameters) om interne kenmerken te inspecteren.
- Methode: Ze identificeerden latente kenmerken waarvan de activaties correleerden met gronddingsdimensies (sensorimotorisch, interne staat, sociaal) tijdens de generatie van zelfstandige naamwoorden.
- Validatie: Ze voerden "feature steering" uit (vastzetten van activaties) om te observeren of het kunstmatig versterken van deze kenmerken leidde tot een toename van eigenschappen in de overeenkomstige categorieën.

Belangrijkste Resultaten

1. De Grounding-Kloof in Eigenschapsgeneratie

Lage Alignering: Bij alle 21 modellen is er een consistente en grote kloof tussen menselijke en model-grondvesting. Geen enkel model behaalde een Pearson-correlatie ( $r$ ) met menselijke antwoorden die 0,37 overschreed, terwijl de mens-tot-mens bovengrens 0,9 overschrijdt.
Systematische Bias: Modellen produceren consistent te veel Verbaal Geassocieerde eigenschappen en te weinig eigenschappen voor Interne Staat & Emotie in vergelijking met mensen.
Modelhomogeniteit: Modellen correleren sterker met elkaar dan met mensen, wat wijst op een gedeelde, niet-menselijke modus van abstracte conceptrepresentatie die blijft bestaan over verschillende architecturen en aanbieders heen.
Schaalingslimieten: Het verhogen van het aantal modelparameters (van 4B naar 120B) sluit deze kloof niet significant; het mismatch is geen capaciteitsknelpunt dat alleen door schaling opgelost kan worden.

2. Alignering in Rating-taken

Hoge Expliciete Alignering: In tegenstelling tot eigenschapsgeneratie presteren modellen aanzienlijk beter wanneer ze expliciet worden gevraagd om woorden te beoordelen op gronddingsdimensies. De beste modellen bereiken een gemiddelde $r \approx 0,76$ tegenover een menselijke bovengrens van $\approx 0,89$ .
Implicatie: Dit geeft aan dat LLM's de kennis van gronddingscategorieën bezitten (ze kunnen ze herkennen wanneer ze worden bevraagd), maar falen om ze spontaan te rekruteren tijdens vrije generatie.

3. Mechanistisch Bewijs

Interne Kenmerken: SAE-analyse identificeerde specifieke interne kenmerken in Gemma-modellen die correleren met gronddingsdimensies (bijv. "sensorimotorisch", "sociaal", "interne staat").
Feature Steering: Het sturen van deze kenmerken verhoogde de generatie van eigenschappen in hun doelpakketten (bijv. het sturen van "Interne" kenmerken verhoogde eigenschappen voor Interne Staat met +9,4%).
Beperking: Deze kenmerken zijn niet perfect geïsoleerd; ze vatten bredere semantische patronen samen in plaats van schone, mensachtige gronddingscategorieën.

Belangrijkste Bijdragen

Kwantificering van de Kloof: Het artikel levert empirisch bewijs voor een robuuste "grounding-kloof" waarbij huidige LLM's abstracte concepten niet op een mensachtige manier grondvesten, ongeacht modelgrootte of -familie.
Onderscheid van Capaciteiten: Het toont aan dat de kloof niet te wijten is aan een onvermogen om gronddingsdimensies te herkennen (zoals blijkt uit het rating-experiment), maar eerder aan een falen om deze dimensies spontaan te rekruteren tijdens generatie.
Mechanistische Ontdekking: Het identificeert interne SAE-kenmerken in Gemma-modellen die gronddingsdimensies volgen, wat suggereert dat de structurele informatie binnen het model bestaat, maar niet op een mensachtige manier gedragsmatig tot uiting komt.

Betekenis en Claims

Het artikel concludeert dat de waargenomen grounding-kloof onwaarschijnlijk zal worden opgelost door schaling of verbeterde op tekst gebaseerde training alleen, aangezien de afhankelijkheid van verbaal geassocieerde eigenschappen een natuurlijk gevolg is van autoregressieve training op linguïstische context.

Bescheiden Claim: De auteurs stellen dat huidige LLM's "de basisgronddingscategorieën bijna, maar niet helemaal, even goed begrijpen als mensen", maar dat ze ze "niet op een mensachtige manier rekruteren bij vrije generatie".
Toekomstige Richting: De bevindingen suggereren dat het bereiken van ware cognitieve alignering met mensen fundamentele verschuivingen in trainingstechnieken of architecturen vereist (bijv. belichaamde learning of nieuwe trainingsdoelen) in plaats van incrementele verbeteringen aan huidige paradigma's.
Benchmarking: De auteurs stellen voor dat grounding-alignering een nieuwe grootheid is die momenteel onzichtbaar is voor standaard testbenchmarks en toekomstige aandacht verdient.

Het artikel claimt niet dat LLM's bewustzijn of ware begrip bezitten, maar benadrukt juist een specifieke, systematische divergentie in hoe abstracte concepten worden vertegenwoordigd en gebruikt in vergelijking met menselijke cognitie.