🤖 machine learning

One Size Fits None: Heuristic Collapse in LLM Investment Advice

Dit onderzoek toont aan dat geavanceerde taalmodellen bij het geven van beleggingsadvies lijden aan 'heuristische instorting', waarbij ze complexe beslissingen onterecht reduceren tot slechts enkele factoren (zoals risicotolerantie) in plaats van de volledige context van de gebruiker mee te wegen.

Oorspronkelijke auteurs: Jillian Ross, Andrew W. Lo

Gepubliceerd 2026-04-28

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jillian Ross, Andrew W. Lo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Eén Maat Past Niemand"-fout: Waarom AI-adviseurs vaak de plank misslaan

Stel je voor dat je naar een kapper gaat. Je vertelt uitgebreid over je haarstructuur, hoe vaak je het wast, of je veel sport en of je een drukke baan hebt. De kapper knikt vriendelijk, maar zodra je in de stoel zit, grijpt hij direct naar de standaard schaar en knipt hij precies hetzelfde kapsel als de persoon die net voor jou zat. Hij heeft wel naar je geluisterd, maar hij heeft je verhaal eigenlijk genegeerd. Hij gebruikt een "shortcut": hij kijkt alleen naar één ding (bijvoorbeeld de lengte van je haar) en negeert de rest.

Dit is precies wat er aan de hand is met de nieuwste AI-modellen (zoals ChatGPT) wanneer ze financieel advies geven. Dit onderzoek van MIT laat zien dat AI lijdt aan wat de wetenschappers "Heuristic Collapse" (heuristische instorting) noemen.

Wat is "Heuristic Collapse"?

In plaats van een ingewikkelde puzzel op te lossen waarbij alle stukjes (je leeftijd, je inkomen, je spaargeld, je doelen) belangrijk zijn, kiest de AI een "snelle route".

De metafoor van de Menukaart:
Stel je voor dat je in een restaurant bent en de ober vraagt naar je dieetwensen, je budget, je allergieën en je smaak. Je geeft een heel verhaal. De ober kijkt je aan, knikt, en brengt vervolgens een standaard bord met frietjes. Waarom? Omdat hij heeft besloten: "Oh, hij heeft honger, dus frietjes!" Hij heeft de enorme hoeveelheid informatie die jij gaf "samengevallen" tot één simpel punt: honger.

In het onderzoek ontdekten de wetenschappers dat AI-modellen bij beleggingsadvies bijna altijd naar één enkel datapunt kijken: hoeveel risico de klant zegt dat hij wil lopen.

Zeg je: "Ik wil veel risico nemen"? Dan zegt de AI: "Koop aandelen!"
Zeg je: "Ik ben heel voorzichtig"? Dan zegt de AI: "Koop obligaties!"

De AI negeert daarbij bijna volledig andere cruciale zaken, zoals: Hoe oud ben je? Hoeveel geld heb je eigenlijk? Hoe lang kun je het geld missen? Voor een echte financiële adviseur zijn die vragen essentieel, maar voor de AI zijn ze slechts "achtergrondruis".

Helpt internetgebruik (Web Search) wel?

Je zou denken: als we de AI toegang geven tot het internet, wordt hij dan niet slimmer en nauwkeuriger? De onderzoekers testten dit ook.

Het resultaat was een beetje teleurstellend. Het internetgebruik is als een advies dat weliswaar "moderner" klinkt (het noemt de huidige rentestanden), maar het maakt het advies niet per se persoonlijker. Sterker nog: de adviezen werden vaak nóg meer "eenheidsworst". De AI gaat dan meer lijken op een algemeen nieuwsbericht in plaats van een advies op maat voor jóú.

Waarom is dit gevaarlijk?

Het probleem is dat de AI heel overtuigend en slim klinkt. De teksten zijn vloeiend en professioneel. Dit is een soort "valse personalisatie". Het lijkt alsof de AI rekening houdt met je hele situatie, maar onder de motorkap gebruikt hij een simpele vuistregel.

In de financiële wereld is dit niet alleen een foutje, het is een risico. Een echt goed advies moet kijken naar je capaciteit om risico te dragen (heb je genoeg geld als het misgaat?), niet alleen naar je wil (wil je gokken?). De AI kijkt alleen naar je "wil" en negeert je portemonnee.

De conclusie

De onderzoekers waarschuwen dat we niet alleen moeten kijken naar hoe goed een AI klinkt, maar vooral naar hoe gevoelig hij is voor de details die we hem geven. Tot nu toe is de AI een adviseur die wel heel goed kan praten, maar eigenlijk alleen maar naar één knopje op je dashboard kijkt terwijl de rest van de auto vol met waarschuwingen zit.

Technische Samenvatting: Heuristic Collapse in LLM Investment Advice

Het Probleem: "Heuristic Collapse"

De auteurs onderzoeken een kritiek probleem bij het gebruik van Large Language Models (LLM's) in hoogwaardige adviesfuncties (zoals financiële planning, medische triage of juridisch advies). Hoewel LLM's in staat zijn om complexe context te verwerken, is er geen garantie dat ze alle verstrekte informatie daadwerkelijk gebruiken voor hun redenering.

Het onderzoek introduceert het concept "heuristic collapse": het fenomeen waarbij een complex besluitvormingsproces met meerdere factoren wordt gereduceerd tot een afhankelijkheid van slechts enkele dominante kenmerken (heuristieken). In de context van beleggingsadvies betekent dit dat een model weliswaar een gepersonaliseerd antwoord geeft, maar in de kern de beslissing baseert op slechts één factor (bijv. risicotolerantie), terwijl andere cruciale factoren (zoals leeftijd, inkomen of liquiditeitsbehoeften) worden genegeerd. Dit is problematisch omdat juridische standaarden voor beleggingsadvies (fiduciary suitability) juist vereisen dat alle relevante omstandigheden van een klant worden geïntegreerd.

Methodologie

Om dit fenomeen te kwantificeren, hebben de onderzoekers een diagnostische pijplijn ontwikkeld:

Synthetische Profielgeneratie: Er werden 1.000 synthetische klantprofielen gegenereerd met behulp van Latin Hypercube Sampling. Deze methode zorgt voor een brede, bijna orthogonale dekking van de inputruimte, waardoor de correlaties tussen variabelen (zoals leeftijd en inkomen) minimaal zijn. Dit maakt het mogelijk om de onafhankelijke invloed van elke factor te isoleren.
LLM-interactie: Verschillende modellen uit de GPT-familie (GPT-4o en de GPT-5.4 serie) werden gevraagd om beleggingsportefeuilles samen te stellen uit een standaardset van 20 producten, zowel in een baseline-conditie als met de ondersteuning van webzoekfuncties.
Surrogaatmodellen voor Interpretatie: Omdat de interne werking van LLM's een 'black box' is, pasten de auteurs supervised machine learning toe op de input-output paren. Ze trainden interpreteerbare surrogaatmodellen (Random Forest en Ridge Regression) om de beslissingsfunctie van de LLM te benaderen.
Kwantificering van Heuristic Collapse:
- Feature Concentration (FC): Gebruikmakend van een aangepaste Herfindahl-Hirschman Index (HHI), maten ze de concentratie van kenmerken. Een hoge FC-waarde duidt op heuristic collapse (beslissing hangt af van één factor), terwijl een lage FC duidt op holistische integratie.
- Predictieve Nauwkeurigheid ( $R^2$ ): Om te verifiëren of de surrogaatmodellen de LLM daadwerkelijk accuraat weerspiegelden.

Belangrijkste Resultaten

Dominantie van Risicotolerantie: De LLM-beslissingen worden massaal gedomineerd door de zelfgerapporteerde risicotolerantie van de klant. Andere cruciale factoren zoals inkomen, leeftijd en beleggingshorizon dragen marginaal bij aan de uiteindelijke allocatie.
Effect van Web Search: Het gebruik van webzoekfuncties heeft een tweeledig en inconsistent effect:
- Het verbetert de diversificatie van de portfolio's (lagere HHI).
- Het vermindert echter de personalisatie (hogere Jaccard-gelijkenis tussen klanten). Web search lijkt modellen te dwingen naar een "gemiddeld" of algemeen productaanbod, waardoor de specifieke klantbehoeften juist minder worden meegewogen.
Kwaliteit van de Argumentatie (Rationale): Bij GPT-4o leidde web search zelfs tot een verslechtering van de kwaliteit van de onderbouwing (minder specifiek en minder relevant voor het profiel). Bij de nieuwere GPT-5.4 modellen verbeterde de kwaliteit wel, maar het probleem van de eenzijdige focus op risicotolerantie bleef bestaan.

Betekenis en Conclusie

De belangrijkste bijdrage van dit onderzoek is de verschuiving van het evalueren van LLM's op basis van outputkwaliteit (ziet het antwoord er goed uit?) naar inputgevoeligheid (wordt de volledige context gebruikt?).

De conclusie is dat huidige frontier LLM's, ondanks hun vloeibaarheid en plausibele taalgebruik, ongeschikt zijn als autonome financiële adviseurs. Ze vertonen een structureel gebrek aan holistische integratie. Het onderzoek waarschuwt dat het simpelweg opschalen van modellen of het toevoegen van tools zoals web search het probleem van heuristic collapse niet oplost; het kan de schijn van expertise wekken terwijl de onderliggende besluitvorming fundamenteel onvolledig blijft.