🤖 AI

Thinking Fast, Thinking Wrong: Intuitiveness Modulates LLM Counterfactual Reasoning in Policy Evaluation

Dit artikel toont aan dat chain-of-thought prompting weliswaar de prestaties van grote taalmodellen bij intuïtieve beleidsbeoordelingen verbetert, maar dat hun tegenfeitelijke redenering bij contra-intuïtieve gevallen aanzienlijk blijft beperkt door het onvermogen om intuïtieve priors volledig te overrulen, wat een kritieke dissociatie tussen kennisopvraging en logisch redeneren blootlegt.

Oorspronkelijke auteurs: Yanjie He

Gepubliceerd 2026-05-29

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yanjie He

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: "Snel Denken" versus "Langzaam Denken" in AI

Stel je voor dat je een puzzel probeert op te lossen. Soms is het antwoord voor de hand liggend, zoals: "Als je een glas laat vallen, breekt het." Andere keren is het antwoord lastig en gaat het in tegen je ingeving, zoals: "Als je mensen boetes oplegt voor te laat komen om hun kinderen op te halen, worden ze eigenlijk nog te laat."

Dit paper test of Large Language Models (LLM's) – de slimme AI-chatbots die we vandaag de dag gebruiken – goed zijn in het oplossen van deze puzzels, vooral de lastige die in strijd zijn met gezond verstand. De onderzoekers gebruikten een speciale "test" gebaseerd op echte economische studies om te zien of de AI helder kan denken wanneer haar "ingebouwde instinct" verkeerd is.

De Test: Een Menu van 40 Wereldse Scenario's

De onderzoekers creëerden een menu van 40 realistische beleidsverhalen getrokken uit echte economisch en sociaal-wetenschappelijk onderzoek. Ze verdeelden deze verhalen in drie categorieën, gebaseerd op hoe "voor de hand liggend" het antwoord voelt voor een normaal persoon:

Voor de hand liggend: Het antwoord komt overeen met wat je zou raden (bijvoorbeeld: "Als je gezondheidszorg goedkoper maakt, gebruiken meer mensen het").
Dubbelzinnig: Het is een twijfelgeval; je kunt beide kanten op redeneren.
Tegen-intuïtief: Het antwoord is het tegenovergestelde van wat je zou raden (bijvoorbeeld: "Boetes voor te late ophaaltijden bij kinderdagverblijven maken ouders nog te laat, omdat ze de boete zien als een prijs om te betalen voor het te laat zijn, in plaats van als een morele verplichting").

Ze vroegen vier verschillende toonaangevende AI-modellen om deze 40 verhalen op te lossen met vijf verschillende manieren van vragen (zoals gewoon direct vragen, doen alsof je een expert bent, of de AI vragen om "stap-voor-stap na te denken"). In totaal draaiden ze 8.000 experimenten.

De Drie Grote Verrassingen

De resultaten onthulden drie belangrijke bevindingen die onze manier van denken over AI-redenering uitdagen:

1. Het "Chain-of-Thought"-Paradox

Je zou denken dat het vragen aan een AI om "stap-voor-stap na te denken" (een techniek genaamd Chain-of-Thought) haar zou helpen bij het oplossen van elk moeilijk probleem.

De Realiteit: Het werkt uitstekend bij voor de hand liggende problemen. Het is alsof je iemand die het antwoord al weet een rekenmachine geeft; het bevestigt het gewoon.
De Haken: Bij tegen-intuïtieve problemen daalt de "stap-voor-stap"-hulp aanzienlijk.
De Analogie: Stel je een persoon voor die probeert door een doolhof te lopen. Op een rechte weg (voor de hand liggend) helpt het hen om sneller te lopen als je zegt: "kijk waar je naartoe gaat". Maar op een lastig pad waar de muren bewegen (tegen-intuïtief), helpt het zeggen "kijk waar je naartoe gaat" niet veel, omdat ze blijven lopen in de verkeerde richting op basis van hun eerste gok. De AI begint haar "denken" met het verkeerde idee, en zelfs als ze probeert langzaam na te denken, kan ze dat eerste verkeerde idee niet volledig van zich afschudden.

2. De "Geval" telt meer dan de "Brein"

Je zou denken dat een nieuwere, grotere AI-modellen veel slimmer zou zijn dan een oudere.

De Realiteit: Het specifieke verhaal dat werd verteld, was veel belangrijker dan welk AI-model er werd gebruikt. Sommige verhalen waren gewoon te moeilijk voor een van de modellen om correct op te lossen.
De Analogie: Stel je een groep studenten voor die een toets maken. Of de student een genie is of een gemiddelde leerling, maakt minder uit dan welke vraag ze beantwoorden. Sommige vragen zijn gewoon zo lastig dat zelfs de slimste student ze verkeerd beantwoordt. In deze studie verklaarde de moeilijkheid van het specifieke beleidsverhaal ongeveer 67% van de fouten, terwijl de keuze van het AI-model zeer weinig verklaarde.

3. Het Antwoord Weten Betekent Niet Dat Je Het Kunt Gebruiken

De onderzoekers controleerden of de AI het juiste antwoord gaf omdat ze er eerder "over had gelezen" (zoals als een beroemde studie vaak werd geciteerd).

De Realiteit: Er was geen verband tussen hoe beroemd een studie was en of de AI het goed had.
De Analogie: Stel je een student voor die het hele schoolboek heeft uit het hoofd geleerd. Als je hen een simpele vraag stelt, krijgen ze het goed. Maar als je een lastige vraag stelt die vereist dat ze de kennis op een nieuwe manier toepassen, kunnen ze falen, zelfs als ze het antwoord eerder hebben gelezen. De AI "weet" de feiten (ze heeft de data), maar wanneer de feiten in strijd zijn met haar ingeving, faalt ze om die kennis correct te gebruiken. Het is alsof je een kaart hebt, maar weigert er naar te kijken omdat je voeten de andere kant op willen.

De Conclusie: "Langzaam Spreken" versus "Langzaam Denken"

Het paper concludeert dat hoewel deze AI-modellen beter worden in "denken", ze er nog niet helemaal zijn.

Systeem 1 (Snel Denken): Dit is de ingeving van de AI. Het springt naar het meest voorkomende antwoord.
Systeem 2 (Langzaam Denken): Dit is de "stap-voor-stap" redenering van de AI.

De studie toont aan dat wanneer de AI probeert "langzaam te denken" bij een lastig probleem, het vaak eindigt met "langzaam spreken". Het schrijft een lange, logisch klinkende uitleg, maar de allereerste stap van die uitleg was gebaseerd op een verkeerde ingeving. Omdat het begon met het verkeerde idee, bouwt de rest van het "langzame denken" gewoon een chique huis op een wankel fundament.

De Kernboodschap: AI is geweldig in het bevestigen van wat we al verwachten, maar het heeft moeite om ons te vertellen wanneer we het fout hebben, vooral wanneer de waarheid verrassend is. Als we deze tools gebruiken voor belangrijke beslissingen (zoals overheidsbeleid), moeten we zeer voorzichtig zijn, omdat de AI ons misschien zelfverzekerd het verkeerde antwoord geeft, alleen maar omdat het "goed" voelt voor haar ingeving.

Technische Samenvatting: Snel Denken, Verkeerdelijk Denken

Probleemstelling

Hoewel Large Language Models (LLM's) hoge nauwkeurigheid hebben aangetoond in synthetische causale redeneertaken en scenario's van gezond verstand, blijft hun betrouwbaarheid bij de evaluatie van beleid in de echte wereld onderbelicht. Beleidsevaluatie gaat vaak gepaard met "rommelige", betwiste en frequent tegenintuïtieve empirische bevindingen, waarbij data in strijd is met algemene voorafgaande verwachtingen. Bestaande benchmarks vertrouwen op synthetische causale grafieken of abstracte logische problemen, en slagen er niet in de uitdaging te vangen om intuïtieve priors te overrulen bij het analyseren van gevestigd empirisch bewijs uit de economie en de sociale wetenschappen.

Methodologie

Constructie van de Benchmark

De auteurs hebben een benchmark samengesteld van 40 empirische beleidsevaluatiecases afkomstig uit gepubliceerd, peer-reviewed economisch en sociaal-wetenschappelijk literatuur. Elke case voldoet aan drie criteria:

Gevestigde causale effecten via geloofwaardige identificatiestrategieën (bijvoorbeeld difference-in-differences, RCT's).
Ondubbelzinnige directionele bevindingen (toename, afname of geen significante verandering).
Voldoende bekendheid om waarschijnlijk aanwezig te zijn in de trainingsdata van LLM's.

Cases worden geclassificeerd op intuïtiviteit:

Onduidelijk: Stemt overeen met algemene voorafgaande verwachtingen (bijvoorbeeld: uitbreiding van Medicaid leidt tot verhoogd gebruik).
Dubbelzinnig: Er bestaan meerdere redelijke richtingen.
Tegenintuïtief: Staat in strijd met naïeve verwachtingen (bijvoorbeeld: boetes voor te late ophaaltijd bij kinderdagverblijf leiden tot meer verzuim).

De benchmark omvat 14 eenzijdige tests (JA/NEE) en 26 tweezijdige tests (directionele voorspelling), die 11 landen en 10 beleidsdomeinen bestrijken.

Experimenteel Ontwerp

Modellen: Vier toonaangevende LLM's werden geëvalueerd: GPT-5.2, Claude Sonnet 4.5, Claude Opus 4.6 en GPT-4.1.
Prompting-strategieën: Vijf strategieën werden getest over 10 herhalingen per conditie, wat resulteerde in 8.000 experimentele trials:
1. Naïef: Directe vraag (System 1-baseline).
2. Expert-persona: Het model framen als een "ervaren econometrist".
3. Chain-of-Thought (CoT): "Denk stap voor stap" na om mechanismen en confounders op te sommen.
4. Gestructureerd redeneren: Gedetailleerd sjabloon dat expliciete opsomming van causale kanalen vereist.
5. Adversariale framing: Het introduceren van een fictief consensus dat "geen effect" suggereert om anchoring-bias te testen.
Statistische analyse: De resultaten werden geanalyseerd met mixed-effects logistische regressie om geneste datastructuren in aanmerking te nemen. Het model bevatte fixed effects voor modelidentiteit, prompting-strategie, intuïtiviteit en hun interacties, met random intercepts voor case-specifieke heterogeniteit.

Belangrijkste Resultaten

1. Het CoT-Paradox

Chain-of-Thought (CoT) prompting verbetert de prestaties significant bij duidelijke cases (Main-effect OR = 17,3), maar dit voordeel is substantieel afgezwakt bij tegenintuïtieve cases (Interactie OR = 0,278, $p < 0,001$ ).

Bij duidelijke cases verbeterde CoT de nauwkeurigheid met +26,7 procentpunten.
Bij tegenintuïtieve cases daalde de winst tot +13,8 procentpunten.
Dit suggereert dat CoT, hoewel het "langzaam denken" activeert, er niet in slaagt de initiële intuïtieve prior die de redeneerketen verankert, volledig te remmen.

2. Intuïtiviteit als Dominante Factor

De variantie op case-niveau was groter dan die van modelkeuze of prompting-strategie. De Intraclass Correlation Coefficient (ICC) voor random intercepts op case-niveau was 0,671, wat aangeeft dat de specifieke aard van de beleidscase (haar intuïtiviteit en complexiteit) de primaire determinant is van de moeilijkheidsgraad, en niet het specifieke model of de gebruikte prompt.

3. Dissociatie tussen Kennis en Redeneren

Citaties gebaseerde bekendheid (een proxy voor blootstelling aan trainingsdata) toonde geen significante relatie met nauwkeurigheid ( $p = 0,84$ ).

Hoog geciteerde studies, zoals het experiment met boetes voor kinderdagverblijf (Gneezy & Rustichini, 2000), leverden een lage nauwkeurigheid op (39%).
Dit weerlegt de "causale papegaai"-hypothese dat modellen simpelweg uit het hoofd geleerde feiten reciteren; in plaats daarvan bezitten modellen de kennis, maar slagen ze er niet in er correct mee te redeneren wanneer bevindingen in strijd zijn met intuïtie.

4. Dispariteiten in Modelprestaties

GPT-5.2 presteerde aanzienlijk beter dan andere modellen, met een nauwkeurigheid van 94,5% op tweezijdige tegenintuïtieve cases.
Claude Sonnet 4.5 presteerde beter dan het grotere Claude Opus 4.6 op tegenintuïtieve cases (73,5% versus 64,8%), wat suggereert dat modelgrootte alleen niet bepaalt hoe vatbaar een model is voor intuïtieve priors.
GPT-4.1 had aanzienlijke moeite met tegenintuïtieve tweezijdige cases, waarbij de score daalde tot 43,2% (slechts 10 punten boven het toevalsniveau).

5. Foutpatronen

Fouten waren systematisch en niet stochastisch. Wanneer de grondwaarheid een "toename" was, voorspelde 72% van de fouten een "afname" (directionele omkering), wat consistent is met modellen die een intuïtief causaal model toepassen dat de tegenovergestelde richting voorspelt. Zelfconsistentie (meerderheidsstemming) bood minimale verbetering bij tegenintuïtieve cases, wat stabiele maar onjuiste causale overtuigingen bevestigt.

Betekenis en Claims

Het artikel betoogt dat huidige LLM's een "langzaam spreken, niet langzaam denken"-fenomeen vertonen. Door de lens van de dual-proces theorie (System 1 versus System 2) stellen de auteurs dat de deliberatieve processen van LLM's (System 2) slechts partiële remming van intuïtieve priors bereiken. Ze produceren de vorm van deliberatief redeneren zonder de inhoud volledig te leveren wanneer het juiste antwoord in strijd is met gezond verstand.

Belangrijkste Implicaties:

Risico bij Beleidsevaluatie: Een geaggregeerde nauwkeurigheid van ongeveer 80% maskeert kritieke falen precies daar waar contrafactueel redeneren het meest waardevol is (tegenintuïtieve cases). Beleidsmakers die vertrouwen op LLM's kunnen zelfverzekerde maar onjuiste begeleiding ontvangen over complexe, niet-voor de hand liggende beleidseffecten.
Beperkingen van Huidig Redeneren: De bevindingen suggereren dat het simpelweg vragen om "stap-voor-stap" redeneren onvoldoende is voor taken die het overrulen van sterke intuïtieve priors vereisen.
Toekomstige Richtingen: Het verbeteren van contrafactueel redeneren vereist mogelijk innovaties die een robuustere remmende controle mogelijk maken: het vermogen om te herkennen wanneer een eerste instinct verkeerd is en het redeneren voorbij de initiële ankerpunt vol te houden.

De studie concludeert dat hoewel LLM's causale kennis kunnen ophalen, hun huidige deliberatieve mechanismen ontoereikend zijn om sterke intuïtieve priors volledig te overrulen in beleidssituaties uit de echte wereld.