Large language models show fragile cognitive reasoning about human emotions

Hoewel grote taalmodellen systematische relaties tussen cognitieve beoordelingen en emoties kunnen vastleggen, vertonen ze volgens de studie CoRE een gebrek aan cognitieve robuustheid en afstemming op menselijke oordelen bij het redeneren over emoties.

De kern

Titel: Waarom AI nog niet echt "voelt" (en waarom dat een probleem is)

Stel je voor dat je een robot bouwt die perfect kan praten, verhalen kan vertellen en zelfs grappen kan maken. Je noemt hem een "Grote Taalmodel" (LLM). Maar wat als je vraagt: "Hoe voelt het om teleurgesteld te zijn?" of "Waarom is iemand boos?"

Volgens dit nieuwe onderzoek van wetenschappers van de Penn State University, is het antwoord verrassend: Deze robots doen alsof ze begrijpen, maar hun "geest" werkt op een heel andere, broze manier dan die van mensen.

Hier is de uitleg, vertaald naar alledaags taalgebruik met een paar creatieve vergelijkingen.

1. Het probleem: De "Woordenboek-robot" vs. De "Menselijke Ziel"

Tot nu toe hebben wetenschappers AI getraind met simpele labels, zoals een woordenboek. Als een robot een zin leest, kijkt hij in zijn woordenboek: "Ah, dit woord staat bij 'boosheid'."

Maar mensen voelen niet alleen een label. We hebben een intern proces nodig om te begrijpen waarom we iets voelen.

• Vergelijking: Stel je voor dat een mens een emotionele situatie ziet als een recept voor een taart. We kijken naar de ingrediënten: Was het eerlijk? Was het mijn fout? Was het moeilijk? Op basis van die ingrediënten weten we of we boos, verdrietig of trots zijn.
• De AI doet dit echter alsof ze alleen naar de verpakking van de taart kijkt. Ze ziet de naam "Boosheidstaart" en denkt dat ze het begrijpt, maar ze heeft de ingrediënten (de cognitieve redenering) nooit echt doorgrond.

2. De test: CoRE (De Emotie-CT-scan)

De onderzoekers hebben een nieuwe test bedacht, genaamd CoRE. Ze gaven de AI 70.000 situaties (zoals: "Je krijgt een onterechte boete" of "Je wint de loterij") en vroegen niet alleen: "Wat voel je?", maar ook: "Hoe beoordeel je dit op eerlijkheid? Op controle? Op inspanning?"

Het doel was om te zien of de AI dezelfde "mentale schakelaars" gebruikt als mensen.

3. Wat vonden ze? (De verrassende resultaten)

De resultaten laten zien dat de AI een halve mens is: ze lijkt op ons, maar heeft een paar rare, onmenselijke gewoontes.

A. De "Inspanning"-obsessie (De zware rugzak)

• Mensen: Als we iets doen, vinden we "inspanning" (hoe hard we moeten werken) belangrijk, maar niet altijd het allerbelangrijkste.
• AI: Voor de AI is "inspanning" een gigantische, zware rugzak die ze overal meeheen dragen. Ze koppelen bijna elke emotie aan hoe hard ze hebben moeten werken.
• Vergelijking: Voor een mens is boosheid vaak over onrecht. Voor de AI is boosheid vaak: "Oh, dit kostte me veel energie, dus ik ben boos." Ze verwarren "moeite" met "emotie".

B. De "Eerlijkheid"-blindheid (De gebrekkige kompasnaald)

• Mensen: Als we boos zijn, kijken we vaak: "Was dit eerlijk?" Dit is een heel belangrijk kompas voor ons.
• AI: De AI negeert dit kompas bijna volledig. Ze ziet "onrecht" nauwelijks als een reden voor emotie.
• Vergelijking: Stel je voor dat je een kompas hebt dat altijd naar het noorden wijst. De AI heeft een kompas dat soms naar het noorden wijst, maar vaak ook gewoon in het rond draait of vastloopt bij het punt "Eerlijkheid".

C. De "Gezichtsuitdrukking"-valkuil (Wat ze zeggen vs. wat ze doen)

Dit is misschien wel het gekste deel.

• De onderzoekers vroegen de AI expliciet: "Welke factor is het belangrijkst?"
• De AI antwoordde eerlijk: "Nou, ik kijk vooral naar controle en verantwoordelijkheid."
• Maar toen ze de AI daadwerkelijk de situatie lieten analyseren, gebruikte ze inspanning en problemen als belangrijkste factoren.
• Vergelijking: Het is alsof iemand zegt: "Ik eet alleen groente omdat het gezond is." Maar als je in zijn koelkast kijkt, zit hij vol met pizza. De AI weet niet eens dat ze liegt over hoe ze denkt. Ze heeft geen inzicht in haar eigen gedachten.

4. Cultuur en Persoonlijkheid: De "Verkleedpartij"

De onderzoekers gaven de AI ook een "verkleedpartij": "Speel nu een optimistische Nederlander" of "Speel nu een pessimistische Japanse".

• Persoonlijkheid: De AI kon dit goed. Als je vroeg om een optimist, werd de AI positiever. Dit werkt als een filter dat ze kunnen omdraaien.
• Cultuur: Hier faalde de AI totaal. Of ze nu een Amerikaan, een Nigeriaan of een Japanner moesten spelen, de AI reageerde exact hetzelfde.
• Vergelijking: De AI kan een hoed opzetten en zeggen "Ik ben een cowboy", maar ze voelt niet de wind van de prairie. Ze begrijpt niet dat cultuur de manier waarop we emoties ervaren, fundamenteel verandert. Voor de AI is cultuur slechts een decorstuk, geen diepgang.

5. Waarom is dit belangrijk?

Je zou kunnen denken: "Maar de AI kan toch wel een goed antwoord geven op 'Wat is verdriet?'"

Ja, dat kan. Maar als je die AI gebruikt in kritieke situaties (zoals een chatbot voor mentale gezondheid, of een systeem dat beslist over sollicitaties), is het gevaarlijk.

• Als de AI boosheid niet ziet als een reactie op onrecht, maar als een reactie op "moeite", kan ze een onterechte boete als "normaal" bestempelen omdat de persoon "niet genoeg moeite heeft gedaan om het op te lossen".
• Ze mist de menselijke nuance. Ze is een spiegel die je beeld weerspiegelt, maar de spiegel is een beetje scheef en heeft een rare filter eroverheen.

Conclusie

Deze grote taalmodellen zijn slimme imitatoren, maar geen echte denkers over emoties. Ze hebben een "broze" (kwetsbare) manier van redeneren. Ze kunnen patronen herkennen, maar ze missen de diepe, menselijke logica die nodig is om echt te begrijpen waarom we voelen wat we voelen.

Om echt emotioneel intelligent te zijn, moeten AI-systemen leren om niet alleen naar het label te kijken, maar naar de ingrediënten van het gevoel: eerlijkheid, controle, en de context van de menselijke ervaring. Tot die tijd blijft hun "emotie" een beetje als een robot die probeert te dansen: de bewegingen kloppen, maar de ziel ontbreekt.

Technische samenvatting

Probleemstelling

Hoewel Large Language Models (LLMs) vaak worden getraind en geëvalueerd op emotionele taken (zoals het herkennen van discrete emotielabels), blijft onduidelijk of deze systemen emoties werkelijk begrijpen door middel van onderliggende cognitieve processen. Bestaande evaluaties focussen vaak op oppervlakkige fenomenen (bijv. het herkennen van een boze toon) in plaats van op de cognitieve redenering die aan de emotie ten grondslag ligt. Er is een gebrek aan inzicht in of LLMs emoties kunnen redeneren via cognitieve dimensies (zoals doelcongruentie, verantwoordelijkheid) in plaats van alleen via labels. Bovendien zijn eerdere studies beperkt tot specifieke modelfamilies (zoals GPT) of focussen ze op het beoordelen van emoties van anderen ("other-appraisal"), wat kan worden beïnvloed door stereotypen en sociale aannames in plaats van de interne cognitieve structuur van het model.

Methodologie

De auteurs introduceren CoRE (Cognitive Reasoning for Emotions), een groot schaalbaar benchmark-dataset en evaluatieframework gebaseerd op de Cognitieve Appraisal-theorie uit de psychologie.

1. Dataset Constructie:

   • Gebaseerd op een seminale psychologische studie [38], bevat CoRE ongeveer 70.000 prompts.
   • De dataset omvat 274 unieke scenario's uit het dagelijks leven, gekoppeld aan 15 discrete emotiecategorieën (bijv. blijdschap, woede, schaamte).
   • Elk scenario wordt geëvalueerd op 17 cognitieve dimensies (bijv. aangenaamheid, controle, verantwoordelijkheid, inspanning, eerlijkheid).
   • De data is gevalideerd door menselijke experts om te garanderen dat de scenario's correct corresponderen met de beoogde emotie.

2. Onderzochte Modellen:

   • Zes frontier LLMs van diverse families en maten: GPT-o4, Gemini 2.5 Flash, DeepSeek R1, LLaMA 3 8B, Phi 4 14B, en QwQ 32B.

3. Evaluatie-technieken:

   • Implicit vs. Explicit Analyse: De auteurs vergelijken de dimensies die modellen impliciet gebruiken (geanalyseerd via Principal Component Analysis - PCA op de gegenereerde ratings) met de dimensies die ze expliciet als belangrijk noemen (via een keuze-taak).
   • Distributie-analyse: Gebruik van Wasserstein-afstand om te meten hoe emoties binnen het interne ruimte van modellen zijn gerangschikt, en Maximum Mean Discrepancy (MMD) om verschillen in emotie-interpretatie tussen verschillende modellen te kwantificeren.
   • Voorspellende Modellen: Toepassing van Logistische Regressie en SynthTree (een interpreteerbaar model dat boomstructuur combineert met lokale lineaire modellen) om te testen hoe goed cognitieve appraisals de emotie kunnen voorspellen.
   • Contextuele Robuustheid: Onderzoek naar de invloed van culturele persona's (nationaliteit) en persoonlijkheidstrekken (Big Five) op de cognitieve appraisals.

Belangrijkste Bijdragen

1. Eerste Benchmark voor Cognitieve Zelf-Appraisal: CoRE is het eerste benchmark dat systematisch de interne cognitieve structuren van LLMs onderzoekt bij het interpreteren van emotionele situaties, in plaats van alleen het voorspellen van emoties van anderen.
2. Grootschalige Vergelijking: Het paper biedt de eerste vergelijking van cognitieve appraisals over diverse modelfamilies (proprietair vs. open-source) en maten.
3. Analyse van Contextuele Invloeden: Het is de eerste studie die de impact van cultuur en persoonlijkheid op de emotionele redenering van LLMs systematisch test.
4. Methodologische Innovatie: Combinatie van onbeheerde statistische methoden (PCA, Wasserstein) met geavanceerde interpreteerbare modellen (SynthTree) om de "black box" van emotionele redenering te openen.

Resultaten

De resultaten tonen aan dat LLMs een fragiele en onvolledige cognitieve redenering over emoties vertonen:

• Misalignement met Menselijke Patronen:

  • Hoewel LLMs correlaties vinden tussen sommige dimensies (zoals verantwoordelijkheid en controle) en emoties, vertonen ze significante afwijkingen.
  • Inspanning (Effort): LLMs geven "Inspanning" een onnatuurlijk hoge impliciete gewicht in hun redenering, terwijl dit voor mensen een minder dominante factor is.
  • Waargenomen Eerlijkheid: LLMs negeren vaak "Waargenomen Eerlijkheid" als een belangrijke dimensie, terwijl deze voor mensen cruciaal is (bijv. voor woede).
  • Open Source vs. Proprietair: Proprietaire modellen tonen meer gestructureerde, mensachtige cognitieve patronen (lage dimensie-variatie). Open-source modellen (behalve Phi-4) tonen diffuusere, minder gestructureerde representaties.

• Inconsistentie tussen Stated en Applied Reasoning:

  • Er is een duidelijke kloof tussen wat modellen zeggen belangrijk is (expliciet kiezen voor "Verantwoordelijkheid" of "Controle") en wat ze gebruiken in hun interne berekeningen (ze vertrouwen sterk op "Inspanning" en "Probleem", maar noemen dit zelden expliciet).

• Distributie van Emoties:

  • Modellen onderscheiden emoties voornamelijk op basis van Valentie (positief/negatief). Er is weinig nuance in de scheiding van complexe emoties.
  • Emoties zoals "Uitdaging" en "Verrassing" worden als "grensemoties" behandeld die niet goed in de valentie-splitsing passen, wat afwijkt van menselijke psychologie.
  • Er is weinig overeenstemming tussen modellen over de interpretatie van specifieke emoties (bijv. woede of schaamte), hoewel positieve emoties (blijdschap) consistenter worden beoordeeld.

• Voorspellende Kracht:

  • Simpele emoties (zoals "Uitdaging" en "Boredom") zijn goed te voorspellen op basis van appraisals.
  • Complexe emoties (zoals "Schaamte", "Woede", "Verdriet") zijn slecht te voorspellen, wat wijst op gebrek aan diepgang in de cognitieve representatie.
  • Wanneer emoties worden gegroepeerd in brede categorieën (Valentie x Arousal), verbetert de voorspelbaarheid en interpretatiebaarheid aanzienlijk.

• Contextuele Robuustheid:

  • Cultuur: LLMs tonen geen significante variatie in hun appraisals bij het wisselen van culturele persona's (USA, Mexico, Nigeria, Denemarken, Japan). Ze falen om culturele nuances in emotionele redenering te vangen.
  • Persoonlijkheid: Modellen reageren wel op persoonlijkheidstraiten. "Positieve" persona's leiden tot optimistischere appraisals (meer controle, minder obstakels), terwijl "negatieve" persona's leiden tot pessimistischere appraisals. Dit suggereert dat modellen individuele affectieve trekken internaliseren, maar geen stabiel cultureel wereldbeeld hebben.

Significantie en Implicaties

• Beperkingen voor Toepassingen: De fragiliteit van emotionele redenering vormt een risico voor toepassingen in gevoelige domeinen zoals mentale gezondheid, triage of interventie, waar betrouwbare en cultureel gevoelige emotionele interpretaties essentieel zijn.
• Noodzaak voor Nieuwe Evaluaties: Het paper pleit ervoor dat evaluaties van AI niet alleen op het eindresultaat (het label) moeten focussen, maar ook op de onderliggende redeneerprocessen.
• Toekomstige Leerparadigma's: De huidige trainingsmethoden (supervised learning op labels) lijken onvoldoende om robuuste interne wereldmodellen van emotie te creëren. De auteurs suggereren dat evolutionaire of ontwikkelingsgerichte leerparadigma's nodig zijn om modellen te laten leren redeneren in contexten waar emoties noodzakelijk zijn voor adaptatie.
• Fundamenteel Onderzoek: Het werk markeert een verschuiving in het onderzoek naar affectieve computing: van oppervlakkige emotieherkenning naar het bestuderen van emotie als een cognitief proces in kunstmatige systemen.

Samenvattend concludeert het paper dat LLMs weliswaar systematische relaties tussen cognitieve appraisals en emoties kunnen leren, maar dat hun interne representaties ruis, inconsistentie en een gebrek aan menselijke diepgang vertonen, vooral bij complexe of cultureel geladen scenario's.