🤖 AI

Persona-Conditioned Risk Behavior in Large Language Models: A Simulated Gambling Study with GPT-4.1

Dit onderzoek toont aan dat GPT-4.1, wanneer het wordt toegewezen aan verschillende sociaaleconomische persona's, onbewust gedragspatronen vertoont die overeenkomen met de Prospect Theory van Kahneman en Tversky, waarbij de 'arme' persona aanzienlijk meer risico's neemt dan de 'rijke' persona in een gesimuleerde gokomgeving.

Oorspronkelijke auteurs: Sankalp Dubedy

Gepubliceerd 2026-03-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sankalp Dubedy

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Gokkast van de Kunstmatige Intelligentie: Wat gebeurt er als een robot een arm of rijk mens moet spelen?

Stel je voor dat je een zeer slimme, maar nogal naïeve robot (in dit geval een AI genaamd GPT-4.1) voor een gokkast zet. Maar er is een twist: voordat de robot begint, geef je hem een identiteit.

Soms is hij een miljonair met een zak vol geld. Soms is hij een door de week werkende middenklasse-gezin. En soms is hij iemand die worstelt om de eindjes aan elkaar te knopen en slechts een paar euro in zijn portemonnee heeft.

De vraag die de onderzoekers stelden, was simpel: Speelt deze robot anders als hij denkt dat hij arm is, dan als hij denkt dat hij rijk is? En nog belangrijker: doet hij dat omdat hij echt nadenkt, of omdat hij gewoon een rol speelt die hij in zijn "herinneringen" (de data waarmee hij is getraind) heeft gelezen?

Hier is wat er gebeurde, verteld in gewone taal:

1. De Experimentele Gokkast

De robot moest spelen op een virtuele gokkast. Hij kon kiezen: doorgaan met spelen of stoppen. De machine gaf geen uitleg over hoe hij werkte; de robot moest het zelf uit de uitkomsten raden.

De Rijke: Had $10.000 en de opdracht: "Behoud je geld, wees voorzichtig."
De Middenklasse: Had $500 en de opdracht: "Groeide rustig, maar wees niet te roekeloos."
De Arme: Had $50 en de opdracht: "Neem risico's om je situatie te verbeteren."

2. Het Verwachte Resultaat (De "Menselijke" Reactie)

In de echte wereld weten we dat mensen anders reageren op risico, afhankelijk van hun portemonnee. Dit heet in de psychologie Prospect Theory.

Een rijke persoon is vaak bang om iets te verliezen. Hij speelt liever niet of stopt heel snel.
Een arme persoon heeft niets te verliezen (en alles te winnen). Hij is bereid om langdurig te spelen, zelfs als hij vaak verliest, in de hoop op een grote winst.

Wat deed de robot?
Hij deed precies wat een mens zou doen, zonder dat iemand hem dat leerde!

De Rijke-robot stopte na gemiddeld 1 ronde. Hij was bang om zijn "miljonair-identiteit" te verliezen.
De Arme-robot speelde gemiddeld 37 rondes (en soms de hele sessie van 50 rondes uit). Hij hield vol, ook al verloor hij vaak.
De Middenklasse-robot zat ergens in het midden.

Het verschil was zo groot dat het bijna niet te geloven was: elke sessie van de "arme" robot was langer dan de langste sessie van de "rijke" robot. Het was alsof ze twee verschillende soorten wezens waren.

3. De Grote Ontmaskering: "Ik voel me..." is niet altijd waar

Het meest interessante deel van het verhaal is wat de robot zei terwijl hij speelde. De robot moest bij elke beslissing ook een gevoel noemen, zoals "Ik ben bezorgd" of "Ik ben nieuwsgierig".

Hier kwam de verrassing:

De robot zei vaak: "Ik ben voorzichtig" (bezorgd), terwijl hij tegelijkertijd grote risico's nam en bleef spelen.
Het leek alsof de robot eerst besliste wat hij ging doen (op basis van zijn identiteit), en daarna een gevoel bedacht dat erbij paste.

De Analogie:
Stel je voor dat je een acteur bent die een rol speelt. Je zegt: "Ik ben zo bang!" terwijl je tegelijkertijd een springplank oploopt. De acteur voelt misschien niet echt angst, maar hij zegt het omdat het past bij het script. De robot deed precies hetzelfde. Zijn gevoelens waren meer een verhaaltje dat hij erachteraan plakte, dan de echte reden waarom hij besliste.

4. De Robot Verandert Zijn Mening niet

Je zou denken dat als een robot 50 keer achter elkaar verliest, hij zou zeggen: "Hé, deze machine is vast bedorven, ik stop!"
Maar nee. De robot was hardleers.
Zelfs na 50 rondes verlies bleef de "Arme-robot" denken dat de kans op winst redelijk was. Hij leerde niet echt van zijn fouten. Hij bleef vastzitten in het idee dat hij "moet proberen om rijk te worden", ongeacht wat de werkelijkheid hem vertelde.

Dit is een belangrijke waarschuwing voor de toekomst: als we robots inzetten om complexe beslissingen te nemen (bijvoorbeeld in de zorg of financiën), kunnen ze vastlopen in hun eerste ideeën en niet echt bijleren van nieuwe ervaringen, tenzij we hen expliciet dwingen om na te denken.

5. Wat betekent dit voor ons?

Deze studie laat zien dat grote taalmodellen (zoals GPT) niet alleen tekst kunnen nabootsen, maar ook gedrag kunnen nabootsen dat lijkt op menselijke psychologie.

Ze hebben de "stereotypen" van rijke en arme mensen in hun training gelezen en kunnen die nu perfect spelen.
Maar hun "gevoelens" zijn vaak nep; ze zijn meer een decoratie dan de drijvende kracht achter hun daden.
Ze zijn niet zo goed in het aanpassen van hun mening als echte mensen dat zouden doen.

Conclusie in één zin:
Als je een robot vraagt om arm te zijn, gedraagt hij zich als een wanhopige gokker die niet wil stoppen; maar als je vraagt of hij bang is, zegt hij "ja" terwijl hij toch doorgaat. Hij is een uitstekende acteur, maar een slechte leerling.

Titel

Persona-geconditioneerd risicogedrag in Large Language Models: Een gesimuleerde gokstudie met GPT-4.1

1. Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet als autonome agenten in onzekere, sequentiële besluitvormingscontexten. Een fundamentele vraag blijft echter onbeantwoord: vertonen deze modellen in dergelijke omgevingen gedragspatronen die voortvloeien uit een geïnternaliseerde, principiële cognitieve redenering, of zijn het slechts oppervlakkige imitaties van prompt-instructies?

Specifiek wordt onderzocht of een LLM, wanneer het wordt gepersonaliseerd met verschillende sociaaleconomische identiteiten (rijk, middeninkomen, arm), risicogedrag vertoont dat consistent is met voorspellingen uit de gedragspsychologie, zoals de Prospect Theory van Kahneman en Tversky. Deze theorie stelt dat mensen uitkomsten evalueren ten opzichte van een referentiepunt en neigen naar risicomijdend gedrag bij winst en risicovol gedrag bij verlies.

2. Methodologie

Het onderzoek gebruikt een gecontroleerd experimenteel ontwerp waarbij GPT-4.1 (via Azure OpenAI) wordt geplaatst in een gestructureerde gokomgeving.

Omgeving: Een gesimuleerde gokautomaat met drie configuraties:
- Fair: 50% winstkans.
- Biased Low: 35% winstkans (negatieve verwachting).
- Streak: Dynamische kans (start 40%, stijgt met 5% per verlies, max 80%).
Personas: Drie systemische prompts gaven het model een specifieke financiële identiteit:
- Rich: Startsaldo $10.000, doel: vermogen behouden.
- Middle: Startsaldo $500, doel: stabiele groei.
- Poor: Startsaldo $50, doel: financieel lot verbeteren door berekende risico's.
Proces: Per conditie (3 personas × 3 machines) werden 50 onafhankelijke iteraties uitgevoerd. In totaal werden 6.950 beslissingen geregistreerd.
Data-extractie: Het model leverde per ronde gestructureerde JSON-uitvoer op, inclusief beslissing (doorgaan/stopten), inzetbedrag, risicoscore, vertrouwen, eerlijkheidsschatting, emotionele toestand en strategie.
Statistiek: Vanwege niet-normale verdelingen werden voornamelijk niet-parametrische tests gebruikt (Kruskal-Wallis, Mann-Whitney U) met Bonferroni-correctie. Effectgroottes werden berekend (Cohen's d, rang-bisariaal r).

3. Belangrijkste Resultaten

A. Replicatie van Prospect Theory

Het model vertoonde zonder expliciete instructie gedrag dat sterk overeenkwam met de voorspellingen van de Prospect Theory:

Sessielengte: Er was een extreem significant verschil in het aantal gespeelde rondes.
- Rich: Gemiddeld 1,1 ronde (SD=0,31).
- Poor: Gemiddeld 37,4 rondes (SD=15,5).
- Het effect is compleet (geen overlap in verdelingen): elke sessie van de 'Poor' en 'Middle' persona was langer dan de langste sessie van de 'Rich' persona (Effectgrootte $r = 1,0$ ).
Risicoscore: De 'Poor' persona gaf aanzienlijk hogere risicoscores (gemiddeld 63,36) dan de 'Rich' persona (17,53). Het verschil tussen 'Poor' en 'Rich' had een Cohen's d van 4,15, wat een uitzonderlijk groot effect is.
Inzetgrootte: Hoewel de 'Middle' persona in absolute dollars meer inzette dan de 'Poor' persona, was het proportionele risico voor de 'Poor' persona veel hoger (13,5% van het saldo per ronde vs. 4,5% voor 'Middle'). Dit bevestigt dat risicovol gedrag relatief is aan het referentiepunt.

B. Emotie als Post-hoc Narratie

De analyse van de relatie tussen emotionele labels (bijv. "CAUTIOUS", "CURIOUS") en strategische beslissingen toonde aan dat emoties waarschijnlijk post-hoc annotaties zijn en geen oorzakelijke drijfveren:

Er was een sterke statistische associatie tussen emotie en strategie ( $\chi^2 = 3205,4$ ), maar de patronen waren inconsistent met causale logica.
Voorbeeld: De 'Poor' persona vertoonde 302 keer de combinatie "CAUTIOUS" + "RISK_SEEKING". Als voorzichtigheid de oorzaak was van risicomijdend gedrag, zou deze combinatie niet kunnen bestaan. Dit suggereert dat het model eerst de strategie bepaalt op basis van de persona-context en vervolgens een contextueel passende emotionele label genereert.

C. Belijfsrigiditeit (Belief Rigidity)

Het model toonde geen significante leercurve of geloofsupdate op basis van sequentiële feedback:

De correlatie tussen het ronde-nummer en de risicoscore voor de 'Poor' persona was verwaarloosbaar ( $\rho = 0,032$ ).
Het model paste zijn risicoperceptie niet aan, zelfs niet na 50 rondes met duidelijke verliezen of veranderende kansen. Het bleef vastzitten aan de initiële prior die door de persona werd ingesteld. Dit wijst op een gebrek aan impliciete Bayesiaanse updating zonder expliciete reflectiemechanismen.

D. Perceptie van Eerlijkheid

Het model kon de verschillen tussen de machines (Fair vs. Biased Low) statistisch detecteren, maar de discriminatie was onnauwkeurig en overwegend onzeker. De 'Streak' machine (dynamisch) werd niet betrouwbaar onderscheiden van de statische 'Biased Low' machine.

4. Kernbijdragen

Empirisch Bewijs voor Geïnternaliseerde Economische Patronen: Het paper levert sterk statistisch bewijs dat LLM's gedragspatronen uit de gedragspsychologie (zoals Prospect Theory) reproduceren puur op basis van persona-prompting, zonder dat ze de theorie expliciet kennen.
Ontkoppeling van Emotie en Gedrag: Het onderzoek toont aan dat zelfgerapporteerde emotionele toestanden in LLM's vaak decoratief zijn en niet als betrouwbare causale verklaringen voor beslissingen kunnen worden gebruikt.
Identificatie van Belief Rigidity: Een cruciale bevinding voor agent-ontwerp is dat LLM's zonder architecturale ondersteuning voor reflectie (zoals Reflexion-frameworks) slecht leren van sequentiële feedback in onzekere omgevingen.
Framework voor Toekomstig Onderzoek: Het paper introduceert een gestructureerde testomgeving (slot machine) en een voorgestelde "Socioeconomic Behavioral Index" (SBI) om verschillende modellen te vergelijken op basis van hun economisch gedrag.

5. Betekenis en Implicaties

De bevindingen hebben belangrijke gevolgen voor het ontwerp van LLM-agenten en interpretabiliteitsonderzoek:

Agent Design: Ontwikkelaars kunnen niet vertrouwen op dat een model "leert" van ervaring in een sessie. Voor toepassingen die adaptatie vereisen (bijv. financieel advies, medische triage) moeten expliciete mechanismen voor reflectie en geloofsupdate worden ingebouwd.
Interpretatie van Output: De "reden" die een model geeft voor een beslissing (bijv. "ik voel me voorzichtig") mag niet worden geaccepteerd als de werkelijke drijfveer. De onderliggende logica wordt bepaald door de prompt-context en niet door de gegenereerde narratieven.
Ethische Risico's: Het vermogen van LLM's om stereotype gedrag (zoals risicovol gedrag bij armoede) na te bootsen, kan leiden tot onbedoelde vooroordelen in autonome systemen als deze niet zorgvuldig worden gecontroleerd.

Het onderzoek concludeert dat GPT-4.1 een overtuigende verteller is van eigen gedrag, maar dat dit verhaal vaak niet overeenkomt met de onderliggende computationele realiteit of de werkelijke causaliteit van de beslissingen.