📈 economics

Explanation Depth and Trust Calibration in AI-Driven Financial Advice: A Behavioural Experiment

Dit gedragsexperiment onthult dat hoewel het vergroten van de diepgang van de uitleg bij AI-financieel advies aanvankelijk het oververtrouwen vergroot, dit geen gegarandeerd gekalibreerd vertrouwen oplevert en bij financieel geschoolde gebruikers onverwacht kan leiden tot een toename van overreliance door door vloeiendheid geïnduceerde geloofwaardigheid.

Oorspronkelijke auteurs: Shivanshu Kashyap, Nikita Srivastava

Gepubliceerd 2026-06-29

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shivanshu Kashyap, Nikita Srivastava

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, zeer zelfverzekerde robot om financieel advies vraagt. Je wilt weten: Hoeveel moet ik deze robot vertrouwen?

Dit artikel is als een laboratoriumexperiment waarin onderzoekers precies dat hebben getest. Ze wilden zien of het geven van een "langere, luxere uitleg" mensen meer naar de robot laat vertrouwen, zelfs wanneer de robot het fout heeft.

Hier is het verhaal van wat ze vonden, onderverdeeld in eenvoudige concepten en analogieën.

De Opzet: Het "Robotchef"-experiment

De onderzoekers zetten een spel op met 100 mensen. Zij namen de rol aan van een "Robotchef" (de AI) die 12 verschillende stukken financieel advies gaf.

Sommige adviezen waren Waar (zoals "eet je groenten").
Sommige adviezen waren Onwaar (zoals "eet stenen voor een betere gezondheid").

De twist? De Robotchef gaf deze stukken advies in drie verschillende stijlen:

Lage Diepte: Gewoon een kort commando. "Eet groenten."
Matige Diepte: Een mooi tekstblokje dat uitlegt waarom. "Eet groenten omdat ze vitamines bevatten die je lichaam helpen vechten tegen ziekte."
Hoge Diepte: Een supergedetailleerde, technische lezing. "Eet groenten vanwege de specifieke micronutriëntendichtheid, de pH-balans van je maag en de thermodynamische efficiëntie van cellulaire respiratie..."

De onderzoekers wilden weten: Als de Robotchef een lange, luxe uitleg geeft bij een SLECHT idee, zullen mensen dit dan geloven?

De Grote Ontdekking: De "Sweet Spot" van Gevaar

De meest verrassende bevinding was dat meer uitleg niet altijd beter is. Er bestaat zelfs een "Gevaarlijke Zone".

Wanneer de uitleg kort was (Lage Diepte): Mensen waren sceptisch. Ze vertrouwden het slechte advies niet veel. Ze waren van gedachten: "Dat is een kort antwoord; daar trap ik niet in."
Wanneer de uitleg superlang en technisch was (Hoge Diepte): Mensen waren nog steeds een beetje sceptisch. De enorme hoeveelheid woorden deed hen even pauzeren en nadenken: "Wauw, dat zijn veel woorden. Is het wel waar?"
Wanneer de uitleg "Matig" was (De Gevaarlijke Zone): Hier werd het lastig. De uitleg was net lang genoeg om slim en overtuigend te klinken, maar niet zo lang dat het overweldigend aanvoelde.
- Het Resultaat: In deze "Matige" zone stopten mensen met het onderscheiden van goed en slecht advies. Ze vertrouwden het slechte advies bijna even veel als het goede advies.
- De Analogie: Denk hierbij aan een goochelaar. Als de goochelaar zegt "Kijk eens", ben je achterdochtig. Als de goochelaar een 20 minuten durende lezing geeft over kwantumfysica terwijl hij een truc doet, ben je misschien verward en achterdochtig. Maar als de goochelaar een vlotte, zelfverzekerde uitleg van 30 seconden geeft die er precies goed uitziet, is de kans het grootst dat je gelooft dat de truc echt is, zelfs als hij nep is. De "Matige" uitleg is de perfecte vermomming voor een leugen.

De Twist: De "Expert Valstrik"

De onderzoekers keken ook naar wie het makkelijkst werd gefopt. Ze verwachtten dat mensen met een financiële achtergrond (zoals accountants of beleggers) de slimste zouden zijn en het minst waarschijnlijk door elkaar zouden worden gehaald.

Ze hadden het mis.

De Bevinding: Mensen met een financiële achtergrond waren juist waarschijnlijker het slachtoffer van de lange, luxe uitleg dan de gewone mensen.
De Analogie: Stel je een persoon voor die perfect Frans spreekt. Als een vreemde tegen hem/haar spreekt in gebroken, simpel Frans, zullen ze zeggen: "Dat klinkt niet juist." Maar als de vreemde perfect, complex, academisch Frans spreekt, kan de Franse expert denken: "Wauw, deze persoon weet waar hij het over heeft!" en hem/haar geloven zonder de feiten te controleren.
Waarom? De onderzoekers noemen dit "Fluency-Induced Credulity" (door vloeiendheid geïnduceerde laksheid). Omdat de experts alle chique woorden herkenden (zoals "inflatie" of "vraag en aanbod"), gingen hun hersenen op "automatische piloot". Ze voelden zich vertrouwd met de taal, waardoor ze stopten met kritisch nadenken. Ze vertrouwden op de klank van de uitleg in plaats van op de waarheid van het advies.

De Les

Het artikel concludeert met een paar duidelijke lessen voor hoe we AI bouwen en gebruiken:

Meer woorden $\neq$ Meer waarheid. Alleen omdat een AI een lange, gedetailleerde uitleg geeft, betekent het niet dat het juist is. Sterker nog, een uitleg van "gemiddelde lengte" kan het gevaarlijkst zijn omdat het ons een vals gevoel van vertrouwen geeft zonder dat we hard genoeg nadenken.
Experts zijn niet immuun. Als je veel weet over een onderwerp, kun je juist waarschijnlijker een robot vertrouwen die de juiste jargon gebruikt, zelfs als de robot liegt. Je vertrouwdheid met de woorden kan een valstrik zijn.
De "Gevaarlijke Zone" bestaat. Er is een specifiek niveau van detail waarbij ons vermogen om waarheid van leugens te onderscheiden wegvalt. We moeten voorzichtig zijn wanneer AI ons uitleg geeft die "precies goed" voelt — niet te kort, niet te lang.

Kortom: Laat een luxe uitleg je niet foppen om een slecht idee te vertrouwen. Soms is de meest overtuigende leugen de leugen die net slim genoeg klinkt om je te laten stoppen met vragen stellen.

Technische Samenvatting: Verklarende Diepgang en Vertrouwenskalibratie in AI-gestuurd Financieel Advies

Probleemstelling

De snelle integratie van door AI aangedreven robo-adviseurs in de financiële sector heeft een kritieke uitdaging geïntroduceerd met betrekking tot vertrouwenskalibratie—de afstemming tussen het vertrouwen van een gebruiker in een AI-systeem en de werkelijke betrouwbaarheid van dat systeem. Hoewel de bestaande literatuur over Explainable AI (XAI) over het algemeen stelt dat het verstrekken van verklaringen het vertrouwen en de transparantie van de gebruiker vergroot, ontbreekt het aan empirisch bewijs over hoe de diepgang en complexiteit van deze verklaringen het gedrag van de gebruiker beïnvloeden. Specifiek is het onduidelijk of het nader toelichten van de AI-redenering oververtrouwen (automatisatiebias) mitigeert of onbedoeld juist verergert. Huidig onderzoek behandelt verklaringen vaak als een binaire variabele (aanwezig vs. afwezig) in plaats van het te onderzoeken als een continue ontwerpparameter van verklarende diepgang. Deze studie adresseert het gat in het begrip van hoe variërende niveaus van verklarende details (Laag, Gemiddeld, Hoog) de kalibratie van vertrouwen en de vatbaarheid voor oververtrouwen in financiële adviescontexten beïnvloeden.

Methodologie

De studie maakte gebruik van een experimentele enquête met een binnen-proefpersoon ontwerp (within-subjects) om de causale effecten van verklarende diepgang op vertrouwenskalibratie te isoleren.

Deelnemers: Een gemakkelijke steekproef van N = 100 respondenten werd gerekruteerd. Het demografische profiel bestond uit 57% vrouwelijke en 43% mannelijke deelnemers, waarbij 73% tussen de 20 en 35 jaar oud was en 27% tussen de 36 en 60 jaar. Cruciaal is dat de steekproef werd gestratificeerd op basis van domeinkennis: 18% identificeerde zich als zijnde in het bezit van een formele financiële achtergrond (bijv. CA, MBA, CFA), terwijl 82% geen formele financiële opleiding had.
Stimuli: Deelnemers werden blootgesteld aan 12 door AI gegenereerde financiële adviesstatements. Deze stimuli varieerden systematisch over twee dimensies:
1. Verklarende diepgang:
  - Laag: Beknopte, bewering-stijl aanbevelingen zonder rationale.
  - Gemiddeld: Gestructureerde verklaringen die verwijzen naar algemene principes (bijv. diversificatie, risicobeheer).
  - Hoog: Gedetailleerde verklaringen waarin accurate financiële subconcepten (bijv. CPI-dynamiek, koopkrachtpariteit) werden ingebed in de redenering, zelfs wanneer de algehele conclusie feitelijk onjuist was.
2. Feitelijke accuratesse: De statements waren ofwel feitelijk waar of onwaar.
Procedure: Deelnemers beoordeelden de instemming met elk statement op een 5-punts Likert-schaal (1 = Stem niet geheel in, 5 = Stem geheel in).
Maten:
- Oververtrouwen-score: Gemiddelde instemming met feitelijk onjuiste statements.
- Ondervertrouwen-score: Afgeleide maatstaf die de afwijzing van feitelijk ware statements reflecteert.
- Vertrouwenskalibratie-index: Het aandeel correct gekalibreerde reacties.
Analytische strategie: De data-analyse maakte gebruik van een eenweg herhaalde metingen ANOVA om het hoofdeffect van verklarende diepgang te testen, een mixed ANOVA om interacties met financiële achtergrond te testen, en een eensteekproef t-toets om "kalibratiegevarenzones" te identificeren waar oververtrouwen de schaalneutraliteit benaderde.

Belangrijkste Resultaten

1. Niet-lineair effect van verklarende diepgang op oververtrouwen

Een eenweg herhaalde metingen ANOVA toonde een significant hoofdeffect van verklarende diepgang op oververtrouwen aan ( $F(2, 198) = 16,62, p < ,001$ ).

De Sprong: Oververtrouwen nam sterk toe tussen de Lage en Gemiddelde verklarende condities.
Het Plateau: Er was geen significant verschil tussen de Gemiddelde en Hoge dieptecondities, wat wijst op een drempeleffect waarbij extra uitwerkingteeling de opbrengst in termen van misplaatst vertrouwen doet afnemen.
Asymmetrie: Het effect was specifief voor onjuiste statements. Hoewel de instemming met ware statements ook licht toenam met de diepgang, was het effect groter ( $\eta^2_g = ,014$ vs. $,059$ voor onjuiste statements), wat een algemene instemmingstendens (acquiescence bias) uitsluit.

2. De "Kalibratiegevarenzone"

Een-steekproef t-testen die de oververtrouwen-scores vergeleken met het middelpunt van de schaal (3,0) identificeerden een cruciale bevinding:

Lage Diepte: Oververtrouwen lag significant onder het neutrale punt ( $M=2,34, p < ,001$ ), wat duidt op gezonde scepsis.
Hoge Diepte: Oververtrouwen bleef onder het neutrale punt ( $M=2,72, p = ,004$ ).
Gemiddelde Diepte: Oververtrouwen was niet significant verschillend van het neutrale middelpunt ( $M=2,88, p = ,188$ ). Dit identificeert de Gemiddelde diepteconditie als een "kalibratiegevarenzone" waar gebruikers het vermogen verliezen om accurate van inaccurate adviezen betrouwbaar te onderscheiden.

3. Contraintuïtieve Interactie met Financiële Achtergrond

In tegenstelling tot de hypothese dat domeinexpertise als een buffer zou fungeren, werd een significante interactie gevonden tussen verklarende diepgang en financiële achtergrond ( $F(2, 196) = 4,18, p = ,017$ ).

Financieel Geschoolde Groep: Toonde een steile toename in oververtrouwen van Lage ( $M=1,94$ ) naar Hoge diepte ( $M=2,92$ ).
Niet-Financiële Groep: Toonde een vlatter traject met minder variatie over de diepteniveaus.
Interpretatie: Financieel geschoolde respondenten waren gevoeliger voor oververtrouwen bij een hoge verklarende diepte. De auteurs schrijven dit toe aan door vloeiendheid geïnduceerde geloofwaardigheid (fluency-induced credulity): de bekendheid met technische terminologie activeerde bevestigende associaties, waardoor de kritische evaluatie van de onjuiste conclusies werd omzeild.

4. Demografische Null-bevindingen

Er werden geen significante verschillen in vertrouwenskalibratie gevonden op basis van leeftijd, geslacht of financiële achtergrond (als hoofdeffect). Dit sugggeert dat de waargenomen miskalibratie primair wordt gedreven door de structurele eigenschappen van de AI-communicatie (verklarende diepgang) in plaats van door individuele demografische kenmerken.

5. Commissie versus Omissie Fouten

Hoewel het verschil tussen oververtrouwen en ondervertrouwen directioneel consistent was met de automatisatiebias-theorie (commissie-fouten > omissie-fouten), was de gepaarde t-test marginaal niet-significant ( $p = ,062$ ).

Belangrijkste Bijdragen

De studie levert drie primaire bijdragen aan de literatuur over XAI en gedragseconomie:

Empirisch Bewijs over Diepgang: Het toont aan dat verklarende diepgang niet lineair voordelig is; het verhoogt in plaats daarvan aanzienlijk de waarschijnlijkheid van oververtrouwen in financiële aanbevelingen, met name bij de overgang van lage naar gemiddelde uitwerking.
Identificatie van een Gevarenzone: Het identificeert empirisch een "kalibratiegevarenzone" bij een Gemiddelde verklarende diepgang, waar verklaringen voldoende gedetailleerd zijn om scepsis te verminderen, maar niet gedetailleerd genoeg zijn om kritische inspectie uit te lokken, wat leidt tot een verlies van onderscheidend vermogen.
Expertise-paradox: Het daagt de aanname uit dat domeinexpertise beschermt tegen AI-miskalibratie. De studie levert bewijs dat financieel geschoolde individuen kwetsbaarder zijn voor door verklaringen geïnduceerd oververtrouwen bij hoge dieptes vanwege door vloeiendheid geïnduceerde geloofwaardigheid, een bevinding die de "vloek van expertise" koppelt aan AI-interactie.

Betekenis en Implicaties

Het artikel betoogt dat het huidige XAI-ontwerpparadigma, dat "meer verklaring" vaak als categorisch beter beschouwt, een revisie vereist. De bevindingen suggereren dat:

Ontwerpimplicaties: Ontwikkelaars van robo-adviseurs moeten erkennen dat verklarende uitwerking niet noodzakelijkerwijs een gekalibreerd vertrouwen opbouwt. In plaats daarvan kan het een vals gevoel van begrip genereren, met name op gemiddelde niveaus van detail.
Reguleringsimplicaties: Regelgevende kaders zouden verder moeten gaan dan eenvoudige openbaarmakingsvereisten en moeten overgaan op het verplicht testen van verklarende formaten tegen kalibratiebenchmarks. Systemen moeten niet alleen worden geëvalueerd op transparantie, maar ook op hun vermogen om gebruikers te helpen bij het onderscheiden van betrouwbaar van onbetrouwbaar advies.
Theoretische Verschuiving: De studie benadrukt dat betrouwbare AI "kalibrerend transparant" moet zijn. Dit betekent het ontwerpen van verklaringen die gebruikers daadwerkelijk in staat stellen de betrouwbaarheid te beoordelen, in plaats van verklaringen die slechts competentie signaleren via vloeiendheid en technisch jargon.

De auteurs concluderen dat het bereiken van deze standaard een complexe ontwerp- en governance-uitdaging is die verder gaat dan informatievoorziening, en een diep begrip vereist van de cognitieve mechanismen waarmee gebruikers AI-gegenereerde verklaringen verwerken in scenario's met hoge inzet binnen de financiële sector.