TEMPER: Testing Emotional Perturbation in Quantitative Reasoning

Probleemstelling

Grote Taalmodellen (LLMs) worden doorgaans getraind en geëvalueerd op kwantitatieve redeneertaken die zijn geschreven in een schoon, emotioneel neutraal taalgebruik (zoals in benchmarks als GSM8K of MultiArith). In de echte wereld worden vragen echter vaak gesteld met een emotionele lading, zoals frustratie, urgentie of enthousiasme.

De kernvraag van dit onderzoek is: Verslechtert puur de emotionele framing van een vraag de redeneerprestaties van een LLM, zelfs als alle numerieke inhoud en logische relaties volledig behouden blijven? Bestaande studies veranderen vaak zowel de toon als de inhoud tegelijkertijd, waardoor het onduidelijk blijft of de afname in prestaties komt door de emotie zelf of door veranderingen in de inhoud.

Methodologie

Om dit probleem te isoleren, hebben de auteurs een gecontroleerd raamwerk ontwikkeld dat wiskundige problemen herschrijft naar emotionele varianten zonder de numerieke waarden te wijzigen.

1. Teacher-Student Framework voor Emotie-vertaling:

   • Student: Een taalmodel (Llama 3.1-8B met LoRA) dat wordt getraind om neutrale tekst om te zetten in emotionele tekst.
   • Teacher: Een bevroren emotie-classificator (DistilRoBERTa, getraind op GoEmotions) die als supervisie fungeert. Deze classifier levert twee signalen: een 7-klassen kansverdeling (voor de specifieke emotie) en een 100-dimensionale latente representatie (voor intensiteit en stijl).
   • Trainingsdoel: De student wordt getraind met een gecombineerde loss-functie: $L = L_{CE} + \lambda \cdot L_{aux}$. Hierbij is $L_{CE}$ de cross-entropy voor vloeiende generatie en $L_{aux}$ een hulpverlies dat de interne representaties van de student aligneert met die van de teacher. De hyperparameter $\lambda$ regelt de afweging tussen emotionele intensiteit en de behoud van wiskundige nauwkeurigheid.

2. Benchmarks en Validatie:

   • TEMPER-5400: Een nieuwe benchmark bestaande uit 5.400 semantisch geverifieerde paren (neutraal vs. emotioneel) over drie datasets: GSM8K, MultiArith en ARC-Challenge.
   • Controles: Er zijn ook niet-emotionele parafrases gegenereerd (met dezelfde lengte en complexiteit maar zonder emotie) om te controleren of de afname in prestaties komt door herschrijving in het algemeen of specifiek door emotie.
   • Neutralisatie: Dezelfde framework wordt gebruikt om emotionele teksten terug te vertalen naar een neutrale toon, om te testen of de oorspronkelijke prestaties kunnen worden hersteld.

3. Evaluatie:

   • Er zijn 18 modellen getest, variërend van 1B parameters tot frontier-modellen (zoals GPT-4o, GPT-5, DeepSeek-V3).
   • Evaluatie vond plaats onder twee strategieën: directe antwoorden (Base) en Zero-Shot Chain-of-Thought (CoT).

Belangrijkste Resultaten

1. Emotionele Framing Verslechtert Redenering:

   • Zelfs wanneer alle numerieke gegevens identiek blijven, leidt emotionele framing tot een daling van de nauwkeurigheid van 2% tot 10%.
   • Dit effect is consistent over alle 18 modellen en drie datasets.
   • De daling is groter bij "Base" prompting (zonder CoT) dan bij CoT, wat suggereert dat emotionele input de initiële aandacht van het model verstoort.
   • Disgust (Ekel) en Fear (Angst) zijn de meest destructieve emoties (respectievelijk ~5,9% en ~4,3% gemiddelde daling), terwijl Joy (Vreugde) en Surprise (Verrassing) de minste schade toebrengen.

2. Neutralisatie Herstelt Prestaties:

   • Wanneer emotionele varianten worden "geneutraliseerd" (terugvertaald naar een neutrale toon), wordt ongeveer 70% van de verloren prestatie hersteld.
   • Dit bewijst dat de degradatie te wijten is aan de emotionele stijl en niet aan corruptie van de inhoud. Het suggereert ook dat neutralisatie kan dienen als een lichtgewicht mitigatiestrategie tijdens inferentie.

3. Niet-Emotionele Parafrases Hebben Geen Effect:

   • Wanneer problemen worden herschreven met dezelfde lengte en complexiteit maar zonder emotionele inhoud, treedt er geen systematische daling in nauwkeurigheid op. Dit bevestigt dat het specifiek de emotionele component is die de redenering verstoort.

4. Representatieve Bewijzen (Hidden States):

   • Analyse van de interne representaties (hidden states) toont aan dat emotionele teksten de final-layer representaties 3 tot 4 keer verder verschuiven van de originele representatie (gemeten in cosinus-afstand) dan neutrale of parafrase-versies.
   • Lineaire probes tonen aan dat emotionele teksten perfect lineair scheidbaar zijn van neutrale teksten in de representatieruimte, wat wijst op een structurele interferentie in het denkproces van het model.

5. Foutpatronen:

   • Emotionele fouten vertonen specifieke patronen die bij neutrale fouten niet voorkomen:
     • Constraint degradatie: Emotionele taal verzacht of interpreteert wiskundige beperkingen verkeerd.
     • Aandachtsconcurrentie: Emotionele taal leidt af van cruciale numerieke elementen.
     • Vroegtijdige voltooiing: Het model stopt te vroeg met redeneren omdat de emotionele framing de focus te vroeg op het antwoord legt.

Bijdragen

1. Framework: Een nieuwe teacher-student architectuur voor gecontroleerde, intensiteit-regelbare emotie-vertaling in wiskundige teksten.
2. Dataset: TEMPER-5400, een robuuste benchmark van 5.400 gecontroleerde paren voor het evalueren van emotionele robuustheid.
3. Empirisch Bewijs: Evidentie dat emotionele framing de kwantitatieve redenering significant verstoort (2-10% daling) en dat dit effect niet wordt veroorzaakt door oppervlakkige herschrijving.
4. Mitigatie: Het aantonen dat neutralisatie een effectieve, lichtgewicht remedie is om verloren prestaties te herstellen.
5. Representatief Inzicht: Bewijs dat emotie de interne representaties van LLMs structureel verschuift, wat leidt tot een verlies van redeneercapaciteit.

Betekenis en Conclusie

Dit paper toont aan dat bestaande benchmarks (zoals GSM8K) de robuustheid van LLMs in de echte wereld overschatten, omdat ze emotionele input negeren. Emotionele framing is een nieuwe, kwantificeerbare dimensie van kwetsbaarheid voor AI-systemen. De bevindingen suggereren dat voor praktische toepassingen (zoals educatieve tools of klantenservice) het noodzakelijk is om emotionele input te detecteren en te neutraliseren voordat deze wordt verwerkt door een redeneermodel, of dat modellen specifiek getraind moeten worden om robuust te zijn tegen dergelijke emotionele verstoringen. De gebruikte methodologie biedt bovendien een algemeen raamwerk voor het testen van andere stijlvariabelen (zoals formaliteit of sarcasme) op hun impact op redeneertaken.