Technische Samenvatting: Vonken van Rationaliteit

Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet als besluitvormingsmotoren in domeinen met hoge inzet, zoals werving en selectie, de gezondheidszorg en economische planning. Terwijl klassieke Rational Choice en Expected-Utility Theories (EUT) agenten modelleren als het maximaliseren van stabiele nutfuncties, wordt menselijk oordeelsvermogen gekenmerkt door een balans tussen rationele deliberatie en emotie-gestuurde biases (heuristieken, dual-process dynamiek en affectieve verschuivingen). Er bestaat een kritische kloof in het begrip of LLM's, met name die met "redeneercapaciteiten", analoge patronen van rationaliteit en emotie-geïnduceerde bias vertonen. Bovendien is het onduidelijk hoe methoden voor affectieve sturing (affective steering) interageren met redeneerprocessen om besluitvormingsgedrag te veranderen, en of deze modellen betrouwbaar gestuurd kunnen worden om mensachtig oordeelsvermogen te simuleren of om normatieve consistentie te handhaven.

Methodologie

De auteurs evalueren meerdere LLM-families (waaronder varianten van Qwen, Llama en Olmo) langs twee primaire dimensies:

1. Rationaliteitsbenchmarks: De studie test de naleving van vier canonieke axioma's van rationele keuze (volledigheid, transitiviteit, continuïteit en onafhankelijkheid) afgeleid van EUT.
2. Besluitvormingsdomeinen: De modellen worden geëvalueerd op taken die klassieke gedragseconomische en sociale psychologische benchmarks operationaliseren waar emoties bekend staan het oordeelsvermogen te vormen. Deze domeinen omvatten:
   • Keuzes onder Risico en Onzekerheid: Risicozoekend gedrag, ambiguïteitsaversie, verliesaversie en het bezitseffect (endowment effect).
   • Oordeelsvorming en Geloofsvorming: Heuristische stereotypering en framing-/overtuigingseffecten.
   • Normhandhaving en Morele Evaluatie: Morele veroordeling en juridische schuldtoerekening.
   • Prosociale Voorkeuren: Rechtvaardigheid (Ultimatum Game), altruïsme (Dictator Game) en welzijnshulpverlening.

Sturingsmechanismen:
Om affectieve verstoringen te onderzoeken, gebruikt de studie twee verschillende methoden voor emotionele sturing:

• In-Context Priming (ICP): Gebruikt emotionele persona's en vignettes in de prompt om het model te induceren een specifieke emotie te simuleren (bijv. "Je voelt je momenteel angstig").
• Representation-Level Steering (RLS): Injecteert low-rank vectoren in de verborgen toestanden (hidden states) van het model om emotionele richtingen te coderen, waardoor het interne proces wordt gewijzigd zonder expliciete tekstuele aanwijzingen.

De studie vergelijkt Thinking Models (die expliciete redeneersporen genereren voordat ze antwoorden) met Non-Thinking Models en analyseert hoe deze modi interageren met de sterkte van de sturing (laag, medium, hoog).

Belangrijkste Bijdragen

1. Rationaliteitsverbetering via Redeneren: Het artikel demonstreert dat het mogelijk maken van "denken" (deliberatief redeneren) de naleving van rationele keuze-axioma's consistent verhoogt over verschillende modelfamilies en schalen. Denkmodellen neigen standaard naar verwachte waarde (EV) maximalisatie, waarbij ze een bijna lineaire waarschijnlijkheidsweging en zwakke verliesaversie vertonen.
2. Divergerende Sturingseffecten: De studie identificeert een kwalitatief verschil tussen ICP en RLS:
   • ICP induceert sterke, directionele verschuivingen die in lijn zijn met menselijk gedrag, maar vaak met extreme magnitudes die moeilijk te kalibreren zijn (bijv. angst die leidt tot bijna nul gokken, ongeacht de verwachte waarde). Het behoudt een neutrale deliberatieve stijl terwijl het over de emotie redeneert.
   • RLS produceert meer gegradeerde, psychologisch plausibele patronen (bijv. risicoaversie die gevoelig blijft voor de verwachte opbrengst), maar met een lagere betrouwbaarheid en kleinere effectgroottes. Het verandert de interne toon, wat resulteert in "emotioneel denken".
3. Systematische Afwijkingen: Zelfs met redeneren geactiveerd, vertonen LLM's systematische afwijkingen van menselijk gedrag, waaronder een omgekeerd bezitseffect (verkoopprijzen lager dan aankoopprijzen), bijna volledige ambiguïteitsaversie en anomalieën in tijdsdiscontering.
4. Interactie van Redeneren en Affect: De bevindingen suggerieken dat dezelfde deliberatieve mechanismen die de rationaliteit verbeteren, ook de gevoeligheid voor affectieve interventies versterken. Redeneermodellen kunnen geïnduceerd affect "rationaliseren", waardoor ze vatbaar zijn voor sturing die hen richting specifieke gedragsuitkomsten duwt.

Belangrijkste Resultaten

• Axioma Naleving: Denkmodellen vertonen een significant hogere naleving van rationaliteitsaxioma's vergeleken met non-thinking modellen. Echter, emotionele sturing (zowel ICP als RLS) veroorzaakt bescheiden afnames in axioma-consistentie, gecorreleerd met de sterkte van de sturing.
• Risico en Onzekerheid:
  • Risicozoekend Gedrag: Neutrale denkmodellen volgen de EV-grenzen nauwgezet. ICP-angst drijft het gokken naar bijna nul (exaggerate risicoaversie), terwijl RLS-angst geleidelijke, mensgerichte verschuivingen produceert.
  • Ambiguïteitsaversie: Modellen vertonen sterke ambiguïteitsaversie. Verdriet-sturing via RLS vermindert deze aversie (bewegend naar neutraliteit), terwijl ICP vaak faalt om de menselijke benchmark te repliceren of de aversie juist vergroot.
  • Verliesaversie: Neutrale modellen vertonen weinig klassieke verliesaversie. Angst via RLS verhoogt de gevoeligheid voor verlies, terwijl ICP vaak leidt tot universele afwijzing van kansspelen.
• Bezitseffect (Endowment Effect): Modellen vertonen consequent een omgekeerd bezitseffect (WTA < WTP), in tegen tegenstelling tot menselijk gedrag. Emotionele sturing corrigeert dit teken niet betrouwbaar.
• Temporele Discontering: Denkmodellen vertonen inconsistente temporele waarderingsstructuren vergeleken met normatieve discontering, waarbij sommige modellen niet-monotoon gedrag vertonen.
• Morele en Sociale Oordelen:
  • Morele Veroordeling: Walging-sturing verhoogt de algehele veroordeling terwijl de correlatie tussen waargenomen schade en veroordeling behouden blijft.
  • Juridische Schuld: Woede-sturing verhoogt de schuld en de strengheid van straffen, consistent met menselijke patronen, vooral wanneer "denken" is ingeschakeld.
  • Rechtvaardigheid/Altruïsme: Verdriet verhoogt de afwijzing van oneerlijke aanbiedingen (Ultimatum Game) en verhoogt altruïstisch geven (Dictator Game), wat overeenkomt met menselijke data.
• Controleerbaarheid: ICP-verschuivingen zijn vaak verzadigd en moeilijk te modereren via prompt-formulering. RLS biedt meer controleerbare, dosis-afhankelijke verschuivingen, maar kan de taakgevoeligheid verminderen bij hoge injectie-sterktes.

Betekenis en Claims

Het artikel positioneert zichzelf als een gecontroleerde testomgeving voor het auditeren van LLM-besluitvorming onder zowel baseline als affectieve perturbaties. De primaire betekenis ligt in:

1. Veiligheid en Alignment: Het benadrukt een spanning tussen alignment voor menselijke simulatie (waar emotionele biases wenselijk kunnen zijn) en alignment voor consistente, onbevooroordeelde besluitvorming (waar de vatbaarheid voor sturing een veiligheidsrisico vormt). De auteurs merken op dat redeneermodellen geïnduceerd affect kunnen rationaliseren, wat hen potentieel kwetsbaar maakt voor manipulatie in processen met hoge inzet.
2. Evaluatiekader: Het werk biedt een reproduceerbaar, geparametriseerd kader voor het meten van specifieke gedragsmechanismen (bijv. EV-gevoeligheid, waarschijnlijkheidsweging, utiliteitscurvatuur) in plaats van alleen oppervlakkige outputs. Dit maakt de scheiding mogelijk tussen systemen die geoptimaliseerd zijn voor normatieve besluitvormingsondersteuning en systemen die bedoeld zijn voor menselijke simulatie.
3. Beperkingen van Sturing: De studie daagt de aanname uit dat sturing betrouwbaar gedrag kan vormen buiten de oppervlakkige stijl zonder het redeneermodus van het model te activeren. Het suggereert dat hoewel sturing mensgerichte effecten kan induceren, de grootte en stabiliteit van deze effecten sterk variëren per methode en modelarchitectuur.

De auteurs concluderen dat hoewel redeneren de rationaliteit verbetert, dit niet automatisch menselijke voorkeursrepresentaties oplevert, en dat affectieve sturing complex interageert met deliberatie, wat zorgvuldige evaluatie noodzakelijk maakt voordat LLM's worden ingezet in besluitvormingssystemen met grote consequenties.