💬 NLP

Is This Just Fantasy? Language Model Representations Reflect Human Judgments of Event Plausibility

Deze studie toont aan dat taalkundige modellen via lineaire representaties betrouwbare modaliteitscategorisaties kunnen uitvoeren die consistent met menselijke oordelen evolueren, waardoor nieuwe inzichten ontstaan in zowel de interne werking van deze modellen als in hoe mensen plausibiliteit beoordelen.

Oorspronkelijke auteurs: Michael A. Lepori, Jennifer Hu, Ishita Dasgupta, Roma Patel, Thomas Serre, Ellie Pavlick

Gepubliceerd 2026-02-27

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Michael A. Lepori, Jennifer Hu, Ishita Dasgupta, Roma Patel, Thomas Serre, Ellie Pavlick

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Titel: Is dit gewoon fantasie? Hoe AI leert het verschil zien tussen "echt" en "onmogelijk"

Stel je voor dat je een heel slimme robot hebt die alles wat op internet staat heeft gelezen. Hij kan prachtige verhalen schrijven, vragen beantwoorden en zelfs gedichten maken. Maar er is een groot probleem: het internet zit vol met onzin, fantasie, leugens en dingen die gewoon niet kunnen bestaan. Denk aan zinnen als "De groene gedachten slapen furieus" of "Iemand koelde een drankje met vuur af".

De vraag die deze onderzoekers zich stellen, is: Kan deze robot echt begrijpen wat er echt kan gebeuren in onze wereld, en wat puur fantasie is? Of ziet hij alleen patronen in woorden zonder de betekenis te snappen?

Hier is wat ze hebben ontdekt, vertaald in simpele taal:

1. De "Magische Kompasnaald" (De Modal Difference Vectors)

Vroeger dachten wetenschappers dat AI's alleen keken naar hoe vaak woorden samen voorkomen. Als een zin vaak voorkomt in boeken, denkt de AI dat hij waar is. Maar dat werkt niet goed voor fantasieverhalen.

De onderzoekers hebben echter iets moois gevonden: een soort onzichtbare kompasnaald in het brein van de AI.

Stel je voor dat het brein van de AI een enorme ruimte is met miljoenen dimensies.
De onderzoekers hebben een specifieke richting in die ruimte gevonden die wijst naar het verschil tussen "waarschijnlijk" en "onmogelijk".
Als ze een zin in deze richting projecteren, kan de AI heel precies zeggen: "Oh, dit is een normaal ding" of "Oh, dit is onmogelijk".
Het verrassende: Deze interne kompasnaald werkt veel beter dan het gewoon tellen van woorden of het berekenen van de kans dat een zin klopt. De AI heeft dus echt een intern begrip van de werkelijkheid, niet alleen een statistisch trucje.

2. Het Groeiproces: Eerst de grote lijnen, dan de details

Hoe leert een AI dit? Net als een kind!

Kleine AI's (of jonge kinderen): Ze leren eerst het grote onderscheid. Ze weten direct dat "een auto die vliegt" onmogelijk is, maar ze hebben moeite met het verschil tussen "een auto die 100 km/u rijdt" (waarschijnlijk) en "een auto die 200 km/u rijdt" (minder waarschijnlijk).
Grotere AI's (of volwassenen): Naarmate de AI groter wordt en meer leert, leert hij de fijne kneepjes. Hij kan pas later het verschil maken tussen iets dat onwaarschijnlijk is en iets dat onmogelijk is.
De volgorde: Eerst leren ze wat "onzin" is (woorden die bij elkaar horen maar geen zin maken, zoals "de laptop kocht de leraar"). Daarna leren ze wat "onmogelijk" is (wetten van de natuur schenden). Tot slot leren ze de subtiele verschillen tussen "waarschijnlijk" en "onwaarschijnlijk".

3. De Menselijke Spiegel

Het mooiste is dat deze interne kompasnaalden van de AI lijken op hoe mensen denken.

De onderzoekers keken naar hoe mensen oordelen over zinnen. Soms zijn mensen het oneens: "Is het onmogelijk om 5 dagen wakker te blijven, of is het gewoon onwaarschijnlijk?"
Ze ontdekten dat de richting in het brein van de AI precies diezelfde twijfel weerspiegelt. Waar mensen het oneens zijn, zit de AI ook in de "moeilijke zone" van zijn kompas.
Dit betekent dat de AI niet alleen statistieken rekent, maar een soort menselijk gevoel voor waarschijnlijkheid heeft ontwikkeld.

4. Wat betekent "Fantasie" voor een AI?

Tot slot keken ze naar wat deze kompasnaalden eigenlijk meten.

De naald die onderscheidt tussen "onmogelijk" en "onzin" (inconceivable) bleek sterk te correleren met iets heel menselijks: de verbeelding.
Als je een zin kunt voorstellen in je hoofd (zelfs als het onmogelijk is, zoals "een vliegende koe"), dan is het voor de AI nog steeds een "onmogelijk" scenario.
Maar als de zin zo raar is dat je het je niet eens kunt voorstellen (zoals "de gisteren drankje koelde"), dan is het voor de AI "onzin".
Conclusie: De AI gebruikt zijn "verbeelding" (het kunnen visualiseren van een scenario) om te beslissen of iets onmogelijk is of gewoon onbegrijpelijk.

Samenvatting

Dit onderzoek toont aan dat moderne AI's niet alleen woorden nabootsen. Ze hebben een intern "wereldmodel" ontwikkeld dat lijkt op dat van mensen. Ze kunnen onderscheid maken tussen:

Echt en waarschijnlijk (Een ijsje eten).
Mogelijk maar onwaarschijnlijk (Een ijsje eten in de sneeuw).
Onmogelijk (Een ijsje eten met vuur).
Onbegrijpelijk (Een ijsje eten met gisteren).

Deze AI's hebben dus een soort "intuïtie" die veel dieper gaat dan alleen het berekenen van kansen. Ze begrijpen de regels van onze wereld, en dat is een enorme stap vooruit in het begrijpen van hoe kunstmatige intelligentie werkt.

Probleemstelling

Taalmodellen (LM's) worden ingezet voor diverse taken, variërend van feitelijke vraagbeantwoording tot het schrijven van fantasieverhalen. Een fundamentele uitdaging is dat LM's moeten kunnen onderscheiden tussen zinnen die de werkelijkheid beschrijven, hypothetische scenario's, en volledig onzinachtige zinnen (modaliteit). Eerdere studies hebben echter betoogd dat LM's moeite hebben met het categoriseren van zinnen op basis van modaliteit, en dat hun waarschijnlijkheidsschattingen (next-token probabilities) een onbetrouwbare indicator zijn voor dit onderscheid. De centrale vraag is of LM's coherente interne representaties van modaliteit hebben, of dat ze zich uitsluitend baseren op oppervlakkige statistische patronen.

Methodologie

De auteurs gebruiken technieken uit de mechanistische interpretbaarheid om lineaire representaties te identificeren die modaliteitscategorieën onderscheiden.

Modal Difference Vectors (MDV's):
- De auteurs gebruiken Contrastive Activation Addition (CAA) om lineaire vectoren te creëren die het verschil in verborgen staten (hidden states) tussen paren van stimuli met verschillende modaliteiten vastleggen.
- Voor een paar stimuli $(x^+, x^-)$ wordt de vector $v = r^+ - r^-$ berekend, waarbij $r$ de representatie van een specifiek token in een bepaalde laag is.
- Deze vectoren worden gemiddeld over vele paren om robuuste "modal difference vectors" te verkrijgen voor categorieparen zoals waarschijnlijk vs. onmogelijk of onmogelijk vs. ondenkbaar.
Datasets:
- Er wordt gebruikgemaakt van meerdere datasets (o.a. Hu et al., 2025b; Goulding et al., 2024) die zinnen bevatten in vier modaliteitscategorieën:
  - Waarschijnlijk (Probable): Alledaagse, mogelijke gebeurtenissen.
  - Onwaarschijnlijk (Improbable): Mogelijk, maar zeldzaam.
  - Onmogelijk (Impossible): Verlet de natuurwetten (bijv. een taart bakken in een vriezer).
  - Ondenkbaar (Inconceivable): Semantisch of conceptueel fout (bijv. "iemand bakte een taart in een zucht").
- De datasets bevatten zowel minimale paren (minimal pairs) als adversarial voorbeelden om generalisatie te testen.
Modellen:
- Een scala aan modellen wordt getest, variërend in grootte en architectuur (GPT-2, Llama-3.2, OLMo-2, Gemma-2), met parametergroottes van 1B tot 13B+.
Analyse-aspecten:
- Klassificatie: MDV's worden vergeleken met baselines zoals log-probabiliteit, hoofdcomponenten (PCA) en willekeurige vectoren.
- Ontwikkeling: Analyse van hoe MDV's ontstaan tijdens trainingstappen, diepere lagen en bij toenemende modelgrootte.
- Menselijk gedrag: Projectie van zinnen op MDV's wordt gebruikt om menselijke categorisatiegedrag te modelleren via logistische regressie.
- Interpreteerbaarheid: Correlatie van projecties op MDV's met menselijke ratings op interpreteerbare dimensies (bijv. "beeldbaarheid", "grammaticaliteit").

Belangrijkste Bijdragen

Aanwijzing van Lineaire Representaties: Het paper toont aan dat LM's lineaire representaties (MDV's) bevatten die modaliteitsverschillen direct coderen, wat betrouwbaarder is dan het gebruik van ruwe output-probabiliteiten.
Ontwikkelingspatroon: Er wordt een consistente volgorde geïdentificeerd waarin modaliteitsonderscheidingen ontstaan: eerst het onderscheid tussen denkbaar en onmogelijk/ondenkbaar, gevolgd door waarschijnlijk vs. onmogelijk, en pas later de fijnmazige onderscheidingen zoals waarschijnlijk vs. onwaarschijnlijk.
Koppeling aan Menselijk Gedrag: MDV's vormen een feature space die menselijke categorisatie beter voorspelt dan probabilistische baselines, inclusief de gradaties en onzekerheid in menselijke oordelen.
Interpreteerbare Features: Specifieke vectoren correleren met menselijk begrijpelijke concepten; bijvoorbeeld, de vector voor onmogelijk vs. ondenkbaar correleert sterk met de "beeldbaarheid" (imageability) van een scenario.

Resultaten

Superieure Classificatie: Voor modellen met $\ge$ 2B parameters presteren MDV's aanzienlijk beter dan probabilistische methoden bij het classificeren van zinnen in modaliteitscategorieën, zelfs op adversarial datasets. Modellen onder de 2B parameters tonen minder consistente resultaten.
Ontwikkelingsvolgorde:
- Grove onderscheidingen (bijv. ondenkbaar vs. alles anders) ontstaan vroeg in training, in lagere lagen en in kleinere modellen.
- Fijnmazige onderscheidingen (bijv. onwaarschijnlijk vs. onmogelijk) vereisen meer training, diepere lagen en grotere modelgroottes.
Menselijke Modellerings: Logistische regressiemodellen die gebruikmaken van projecties op MDV's voorspellen de verdeling van menselijke antwoorden (bijv. het percentage deelnemers dat een scenario als "mogelijk" labelt) significant nauwkeuriger dan modellen gebaseerd op log-probabiliteit of PCA.
Correlatie met Menselijke Intuïtie:
- De vector Waarschijnlijk vs. Onwaarschijnlijk correleert sterk met menselijke inschattingen van "subjectieve gebeurteniskans".
- De vector Onmogelijk vs. Ondenkbaar correleert specifiek met beeldbaarheid (imageability) en de aanwezigheid van fysieke objecten. Dit suggereert dat het vermogen om een scenario voor te stellen cruciaal is voor het onderscheid tussen iets dat fysiek onmogelijk is en iets dat semantisch ondenkbaar is.

Betekenis en Conclusie

De studie weerlegt de opvatting dat LM's geen betrouwbare interne wereldmodellen hebben voor modaliteit. In plaats daarvan leren ze lineaire representaties die de verschillen tussen realiteit, hypothese en fantasie vastleggen. Deze representaties:

Zijn robuuster dan oppervlakkige probabiliteiten.
Ontwikkelen zich op een manier die overeenkomt met menselijke cognitieve ontwikkeling (van grof naar fijn).
Bieden een nieuw venster om menselijke intuïties over modaliteit te begrijpen, met name door te suggereren dat "beeldvorming" (imagination) een sleutelrol speelt bij het onderscheiden van onmogelijke en ondenkbare gebeurtenissen.

Dit werk legt de basis voor toekomstig onderzoek naar hoe LM's causale principes van de wereld coderen en hoe deze interne representaties kunnen worden gebruikt om menselijke cognitie te bestuderen.