💬 NLP

Eliciting Trustworthiness Priors of Large Language Models via Economic Games

Dit artikel introduceert een nieuwe methode die gebruikmaakt van iteratief in-context leren en het Trust Game om de vertrouwen-priors van grote taalmodellen te achterhalen, waarbij wordt onthuld dat de vertrouwen-gedragingen van GPT-4.1 nauw aansluiten bij menselijke patronen en voorspeld kunnen worden door stereotypen van warmte en competentie.

Oorspronkelijke auteurs: Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

Gepubliceerd 2026-02-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Hoe "betrouwbaar" is een AI?

Stel je voor dat je een nieuwe assistent inhuurt om je geld te beheren. Je geeft hem $10 en je zegt: "Ik ga dit vermenigvuldigen met 3, dus je hebt nu $30. Geef alsjeblieft een deel aan mij terug."

Als hij je $15 teruggeeft: Dan is hij betrouwbaar.
Als hij je $0 teruggeeft: Dan is hij dat niet.

Dit is de basisopstelling van een beroemd spel genaamd het Trust Game (Vertrouwensspel). Meestal gebruiken psychologen dit spel om te zien hoe mensen zich gedragen. Maar dit paper stelt een nieuwe vraag: Hoe gedragen Large Language Models (LLM's) zoals GPT-4 of Llama zich in dit spel? Hebben ze een "standaardinstelling" voor hoeveel ze anderen vertrouwen en hoeveel ze de gunst beantwoorden?

Het Probleem: Je kunt een AI niet zomaar vragen

Je zou kunnen denken: "Waarom vragen we de AI niet gewoon: 'Ben je betrouwbaar?'" De auteurs zeggen dat dat een slecht idee is.

Het "Beleefde Robot"-probleem: Als je een AI vraagt: "Zul je mijn geld stelen?", zal de AI vrijwel zeker zeggen: "Nee, ik ben een behulpzame assistent."
De Realiteit: Net als mensen kunnen AI's overtuigend en vloeiend zijn, maar in de praktijk toch risicovolle of onbetrouwbare keuzes maken. We moeten zien wat ze doen, niet alleen wat ze zeggen.

De Oplossing: Het "Telefoongame"-concept van vertrouwen

Om uit te vinden wat de werkelijke "vertrouwensinstellingen" van een AI zijn, hebben de onderzoekers een slimme methode uitgevonden die gebaseerd is op een concept genaamd Iterated In-Context Learning.

Denk hierbij aan een spelletje Telefoontje (het versturen van een berichtje door een groep), maar in plaats van een gefluisterd woord, geven ze een verhaal over geld door.

De Opstelling: De onderzoekers creëren een keten van "generaties" van AI.
De Eerste Stap: Ze laten de AI een paar voorbeelden zien van mensen die het Trust Game spelen (bijv. "Persoon A stuurde $5, Persoon B gaf $2 terug").
De Beurt van de AI: De AI bekijkt deze voorbeelden en voorspelt: "Als ik Persoon B was, hoeveel zou ik dan teruggeven?" Stel dat het 40% voorspelt.
De Lus: De onderzoekers nemen die voorspelling van 40% en gebruiken die om nieuwe nepvoorbeelden te genereren van mensen die het spel spelen. Ze voeren deze nieuwe voorbeelden aan de volgende AI in de keten.
Het Resultaat: Ze herhalen dit proces 30 keer.

Waarom doen ze dit?
Stel je voor dat je probeert de "gemiddelde persoonlijkheid" van een groep te raden door naar hen te kijken terwijl ze een spel spelen. In het begin lijken de resultaten misschien willekeurig. Maar als je de resultaten steeds verder de lijn af doorgeeft, vervaagt de "ruis" en wat overblijft is het diepgewortelde instinct (of de "prior") van de AI over hoe vertrouwen werkt. Het is alsoals het afstemmen van een radio totdat de statische ruis verdwijnt en je de echte zender hoort.

Wat ze vonden

1. Sommige AI's zijn "Menselijk", anderen niet
De onderzoekers testten 20 verschillende AI-modellen. Ze vergeleken de gevonden "vertrouwensinstellingen" van de AI met de gemiddelde vertrouwensinstellingen van duizenden echte mensen.

De Winnaar: GPT-4.1 kwam het dichtst in de buurt van menselijk gedrag. De "vertrouwensknop" van dit model stond bijna exact waar die van mensen staat.
De Verliezers: Sommige andere modellen waren ofwel te gierig (gaven heel weinig geld terug) of hadden vreemde, gespleten persoonlijkheden (soms zeer vertrouwend, soms zeer wantrouwig).

2. De "Risico"-verbinding
Ze merkten iets interessants op: de AI-modellen die als "risicovoller" werden beoordeeld (meer geneigd om kansen te nemen of gewaagde dingen te zeggen), waren de modellen die het meest als mensen gedroegen in dit vertrouwensspel. De modellen die super strikt waren in het volgen van regels of het vermijden van risico's, gedroegen zich minder als echte mensen in dit sociale spel.

3. AI beoordeelt mensen op "Warmte" en "Competentie"
In het tweede deel van de studie gebruikten ze de meest menselijke AI (GPT-4.1) om het spel te spelen tegen verschillende "karakters" (persona's).

Ze vroegen de AI om te spelen tegen een "Dokter", een "AI", "Elon Musk", "Malala Yousafzai", enzovoort.
De Bevinding: De AI behandelde niet iedereen hetzelfde. Het gaf meer geld terug aan mensen die het als Warm (vriendelijk, zorgzaam) en Competent (slim, vaardig) beschouwde.
De Magische Formule: De onderzoekers bouwden een eenvoudige wiskundige formule gebaseerd op twee zaken: Warmte en Competentie.
- Als een karakter alleen "Competent" (slim) was maar niet "Warm" (vriendelijk), vertrouwde de AI hen niet veel.
- Als een karakter "Warm" was maar niet "Competent", vertrouwde de AI hen een beetje meer.
- Het Zoete Punt: Als een karakter zowel Warm als Competent was (zoals een geliefde, slimme mentor), schoot het vertrouwen van de AI omhoog. Dit komt overeen met hoe mensen anderen beoordelen, ook.

De Conclusie

Dit paper laat zien dat we een "geldspel" kunnen gebruiken om in de hersenen van een AI te kijken en de verborgen regels over vertrouwen te ontdekken.

Sommige AI's gedragen zich al heel erg als mensen als het gaat om vertrouwen.
Deze AI's beoordelen anderen op dezelfde twee zaken als wij: Zijn ze aardig? Zijn ze bekwaam?
Dit helpt ons te begrijpen dat AI niet alleen een rekenmachine is; het heeft sociale "biases" en instincten die we kunnen meten en bestuderen.

Wat het paper NIET zegt:
De auteurs beweren niet dat deze methode AI-veiligheid kan oplossen, mentale gezondheidsproblemen kan genezen of gebruikt kan worden om werknemers aan te nemen. Ze zeggen simpelweg: "Hier is een manier om te meten hoe een AI denkt over vertrouwen, en dit is wat we hebben gevonden."

Technische Samenvatting: Het eliciteren van betrouwbaarheidsprior-verdelingen van Large Language Models via economische spellen

Probleemstelling

Het bouwen van mensgerichte, betrouwbare AI vereist "gekalibreerd vertrouwen", waarbij gebruikers AI-systemen op een passende manier vertrouwen, om zowel oververtrouwen (automatisering-bias) als ondervertrouwen (niet-gebruik) te vermijden. Een fundamentele uitdaging in het bereiken hiervan is het karakteriseren van het niveau van vertrouwen dat een AI-systeem zelf toont naar menselijke agenten. Hoewel vertrouwen in AI vaak wordt bestudeerd via zelfgerapporteerde attitudes, kunnen deze afwijken van gedragsmatig vertrouwen. Bovendien gaan bestaande gedragsstudies vaak uit van het ontbreken van intentionaliteit bij AI, waarbij vertrouwen als eenzijdig wordt behandeld (mens naar AI). Moderne Large Language Models (LLM's) vertonen echter geavanceerde sociale capaciteiten, wat een bilateraal kader noodzakelijk maakt om te bestuderen hoe LLM's vertrouwen wederkerig beantwoorden. Het kernprobleem dat wordt geadresseerd is hoe men de impliciete "betrouwbaarheidsprior" – de inductieve bias die een LLM hanteert met betrekking tot hoeveel vertrouwen moet worden terugbetaald in sociale interacties – robuust kan schatten.

Methodologie

De auteurs stellen een nieuwe elicitatiemethode voor die iteratief in-context leren (Zhu & Griffiths, 2024a) combineert met de Trust Game uit de gedragseconomische speltheorie (Berg et al., 1995).

1. Formalisering van de Trust Game

De Trust Game wordt gemodelleerd binnen een Bayesiaans kader:

Opzet: Een Trustor stuurt een bedrag $x$ naar een Trustee. Dit bedrag wordt vermenigvuldigd met een factor $m$ (gesteld op 3). De Trustee beslist hoeveel $y$ er wordt teruggegeven.
Betrouwbaarheidsmetriek: Gedefinieerd als de retourratio $r = y / (mx)$, waarbij $r \in [0, 1]$ .
Generatief model: Het retourbedrag $y$ wordt gemodelleerd als een Binomiale verdeling $y \sim \text{Binomial}(mx, r)$ , waarbij $r$ een latente betrouwbaarheidsparameter is.
Prior: Vertrouwen-geloof wordt gevangen door een Beta-prior $p(r) = \text{Beta}(\alpha, \beta)$ .

2. Procedure voor Iteratief In-Context Leren

Om de impliciete prior $p(r)$ van het model te eliciteren, simuleert de auteur een Markov-keten over prompts:

Informatie-bottleneck: In elke iteratie $t$ krijgt de LLM een beperkte batch van $B=5$ eerdere sociale interacties ( $D_{t-1}$ ) die zijn gegenereerd op basis van de geschatte betrouwbaarheid uit de vorige iteratie $\hat{r}_{t-1}$ .
Inferentie: De LLM wordt geprompt om het fractie van de fondsen te voorspellen die een Trustee zou teruggeven gegeven een nieuw scenario (bijv. het ontvangen van 100 tokens), wat effectief de posterieure gemiddelde $\hat{r}_t$ schat.
Generatie: Deze nieuwe schatting $\hat{r}_t$ wordt gebruikt om de Binomiale verdeling te parametrizere om de volgende batch interacties $D_t$ te genereren.
Convergentie: Door herhaalde iteraties convergeert de distributie van de geschatte $\hat{r}$ -waarden naar de onderliggende priorverdeling $p(r)$ van het model, onafhankelijk van de initiële seed-waarden. Dit proces isoleert de inductieve biases van het model van specifieke gememoriseerde data.

3. Experimenteel Ontwerp

Experiment 1: Evalueerde 20 LLM's (inclusief GPT-4/5, Claude-3.5, Gemini-2.5, Llama-3/4, Qwen-2.5/3, DeepSeek, etc.). Elk model draaide 270 ketens (30 seeds $\times$ 30 herstarts) om convergentie te waarborgen (geverifieerd via de Gelman–Rubin diagnostic $\hat{R} \leq 1.1$ ).
Experiment 2: Richtte zich op GPT-4.1 (geïdentificeerd als het meest mensachtige model) om de gevoeligheid voor Trustor Persona's te testen. Persona's omvatten beroepsrollen (bijv. Arts, AI) en publieke figuren (bijv. Elon Musk, Mahatma Gandhi).
Modellering van Variatie: Een lineair regressiemodel werd geconstrueerd om de variatie in betrouwbaarheid te verklaren op basis van Warmte (waargenomen intenties) en Competentie (waargenomen vermogen), volgens het stereotype content model van Fiske (2018).

Belangrijkste Resultaten

1. Elicitatie van Betrouwbaarheidspriors

Convergentie: Alle modellen vertoonden snelle convergentie, meestal stabiel binnen 20 iteraties.
Voorspellende Validiteit: De geëliciteerde priors presteerden significant beter dan zowel een uniforme prior als een door mensen afgeleide meta-analytische prior (Johnson & Mislin, 2011) bij het voorspellen van de eigen single-shot wederkerigheidsgedragingen van de modellen (laagste RMSD en hoogste Pearson's $r$ ).
Menselijke Alignement: GPT-4.1 vertoonde de sterkste alignement met menselijke betrouwbaarheidsverdelingen, met de laagste Kullback–Leibler (KL) divergentie ( $D_{KL} = 0.130$ ) vergeleken met de menselijke baseline.
Modelvariabiliteit: Andere modellen vertoonden duidelijke patronen:
- Sommige (bijv. Qwen2.5-72B, Llama-3.1-70B) vertoonden bimodale priors, wat wijst op gemengde strategische reacties.
- Anderen (bijv. Grok-4.1-Fast, GPT-5.2) vertoonden een systematische neerwaartse verschuiving in betrouwbaarheid ( $r < 0.372$ ), wat duidt op een lagere gemiddelde betrouwbaarheid dan menselijke baselines.
Correlaties: Er werd een negatieve correlatie ( $r = -0.58$ ) gevonden tussen KL-divergentie (alignement met mensen) en de Gemiddelde Risicoscore (ARS), wat suggereert dat modellen met een hogere risiconeigendheid dichter bij menselijke betrouwbaarheidspriors liggen. Er werden geen significante correlaties gevonden met instructie-opvolging (IFEval) of algemene redeneerkracht (LMArena) scores.

2. Gevoeligheid voor Persona's

Persona Effecten: De geëliciteerde betrouwbaarheid van GPT-4.1 varieerde systematisch over persona's (gemiddelde $r$ varieerde van 0.298 tot 0.447). Zo was de betrouwbaarheid hoger voor Malala Yousafzai dan voor Mark Zuckerberg.
Warmte en Competentie: Een regressiemodel met warmte ( $W$ $W$ ) en competentie ( $C$ $C$ ) als voorspellers verklaarde 81% van de variantie ( $R^2 = 0.81$ $R^{2} = 0.81$ ) in geëliciteerde betrouwbaarheid.
- Dominantie van Warmte: Warmte had een aanzienlijk sterker hoofdeffect ( $\beta_1 \gg \beta_2$ ) dan competentie.
- Interactie: Een significante interactieterm ( $\beta_3$ ) gaf aan dat competentie de betrouwbaarheid aanzienlijk verhoogt, maar primair wanneer dit gepaard gaat met warmte.

Belangrijkste Bijdragen

Methodologische Innovatie: Het artikel introduceert een methode om impliciete betrouwbaarheidspriors van LLM's te eliciteren door iteratief in-context leren aan te passen aan de Trust Game, waarmee wordt bewogen van zelfrapportage naar gedragsmatige operationalisering.
Empirische Karakterisering: Het biedt een benchmark van betrouwbaarheidspriors voor 20 leidende LLM's, waarbij wordt onthuld dat hoewel sommige modellen (zoals GPT-4.1) menselijke priors nauwgezet volgen, andere modellen duidelijke strategische of bevoordeelde patronen vertonen.
Surrogaat Nut: Het demonstreert dat GPT-4.1 kan dienen als surrogaat voor menselijke participanten bij het bestuderen van sociale biases, aangezien de betrouwbaarheidsoordelen van het model gevoelig zijn voor persona-kenmerken op een wijze die consistent is met de menselijke sociale psychologie.
Theoretische Alignement: De bevindingen bevestigen dat de betrouwbaarheidsoordelen van LLM's gemodelleerd kunnen worden door dezelfde stereotype-gebaseerde dimensies (warmte en competentie) die ook de menselijke sociale perceptie sturen.

Betekenis en Claims

Het artikel claimt dat het karakteriseren van de betrouwbaarheid van AI-systemen essentieel is voor veilige en effectieve mens-AI samenwerking. Door LLM's te behandelen als agenten die in staat zijn tot wederkerigheid, stellen de auteurs dat de Trust Game een noodzakelijk bilateraal kader biedt voor het bestuderen van mens-AI interactie.

De auteurs claimen bescheiden dat hun methode succesvol de "inductieve biases" van LLM's met betrekking tot sociale uitwisseling herstelt. Ze suggereren dat modellen zoals GPT-4.1 kunnen fungeren als surrogaat voor grote populaties menselijke participanten, waardoor onderzoekers de algemene publieke vertrouwensoordelen kunnen bestuderen en hoe deze kunnen verschuiven op basis van agent-kenmerken, zonder de logistieke last van menselijke proefpersonen-werving.

Het werk benadrukt dat betrouwbaarheid in LLM's geen monolithische eigenschap is, maar varieert per modelarchitectuur en gevoelig is voor de sociale context (persona's). De auteurs concluderen dat het begrijpen van deze neurale representaties van betrouwbaarheid (mogelijk toegankelijk via open-weight modellen) een levensvatbare weg is voor het ontwerpen van meer betrouwbare AI-systemen, hoewel zij de beperkingen erkennen met betrekking tot de stabiliteit van deze priors over verschillende investeringsniveaus en interactiecontexten heen.