Technische Samenvatting: Negatief voor Positief: Asymmetrische Valentieverwerking in Grootte Taalmodellen

Probleemstelling

Hoewel mechanische interpretabiliteit succesvol heeft in kaart gebracht hoe Grootte Taalmodellen (LLM's) feitelijke associaties en abstracte concepten coderen als lineaire richtingen, blijft de interne verwerking van emotionele valentie slecht begrepen. Eerdere studies hebben grotendeels vertrouwd op correlatieve probing of gedragsanalyse, waardoor kritische vragen openbleven:

1. Bezitten LLM's toewijde interne structuren voor valentie, of vertrouwen ze op oppervlakkige tokenmatching?
2. Zijn emotionele representaties gelokaliseerd tot specifieke verwerkingsstadia of diffuus verspreid?
3. Refleceren waargenomen signalen echte valentievolging of slechts topicdetectie (bijvoorbeeld het herkennen van het woord "afgekeurd" zonder het negatieve sentiment te begrijpen)?

Bestaand werk (bijvoorbeeld Sofroniew et al., 2026) heeft functionele emoties geïdentificeerd in gesloten modellen, maar miste causale lokalisatie en rigoureuze controles voor topicverwarringen. Dit artikel adresseert deze hiaten door te onderzoeken of valentie wordt verwerkt via een causaal, laag-specifiek mechanisme in open-source LLM's.

Methodologie

De auteurs passen activatiepatching en stuurvectoren toe op drie instructie-getrainde open-source modellen: Llama-3.2-1B, Qwen2.5-1.5B en Qwen2.5-3B. Deze modellen bestrijken twee architectonische families (Multi-head Attention versus Grouped-Query Attention) en twee schalen.

Experimenteel Ontwerp

1. Ontwerp van Promptparen: De studie construeert 100 schone/gestoorde promptparen per conditie.

   • Goed Nieuws-conditie: Schone prompt beschrijft een positief resultaat; gestoorde prompt beschrijft dezelfde situatie neutraal.
   • Negatieve Controleconditie: Schone prompt beschrijft een negatief resultaat; gestoorde prompt is identiek aan de "Goed Nieuws" gestoorde baseline.
   • Gedeelde Gestoorde Baseline: Dit ontwerp zorgt ervoor dat elk verschil in patch-effecten uitsluitend aan valentie kan worden toegeschreven, niet aan topic of formulering.
   • Domeinen: Prompts bestrijken academische wereld, carrière en persoonlijk leven om te waarborgen dat bevindingen niet domeinspecifiek zijn.

2. Activatiepatching:

   • Het model draait op gestoorde invoer terwijl residual stream-activaties op specifieke lagen worden vervangen door gecachte activaties van schone runs.
   • Meting: Een logit-gapscore wordt berekend op basis van de waarschijnlijkheidsmassa van vooraf gedefinieerde positieve versus negatieve anker-tokens in de next-token-verdeling.
   • Doel: De "top causale laag" identificeren waar patching het schone outputgedrag herstelt, wat aangeeft waar het valentiesignaal wordt berekend.

3. Valentie-Flip Test:

   • Om topicdetectie uit te sluiten, controleert de studie of de scoregaps van teken verandert wanneer de valentie flipst (Goed versus Negatief) terwijl het topic constant blijft. Een echte valentierepresentatie zou teken-omgekeerde effecten moeten produceren (anti-gecorreleerde gaps), terwijl topicdetectie zou leiden tot gecorreleerde gaps.

4. Causaal Sturen:

   • Een valentierichtingsvector wordt geëxtraheerd uit de residual stream op de geïdentificeerde top causale laag (gemiddeld verschil tussen schone en gestoorde activaties).
   • Deze vector wordt toegevoegd aan of afgetrokken van emotioneel neutrale prompts om te testen of dit de output van het model causaal verschuift naar positieve of negatieve valentie.

Belangrijkste Resultaten

1. Richtinggebonden Valentievolging

Alle drie de modellen toonden het vermogen om emotionele inhoud in hun outputverdelingen te onderscheiden, met tekennauwkeurigheid variërend van 79% tot 95% over condities heen. De Qwen-familie vertoonde scherpere scoregaps dan Llama-1B.

2. Uitsluiten van Topicdetectie

De Valentie-Flip Test leverde flippercentages op van 69% (Llama-1B), 80% (Qwen-1.5B) en 85% (Qwen-3B). Deze percentages liggen significant boven de 50% kans-baseline, wat bevestigt dat de modellen valentie volgen als een scheidbare interne variabele in plaats van simpelweg trefwoorden van het topic te herkennen.

3. Asymmetrische Dieptelokalisatie (Kernbevinding)

De studie onthult een duidelijke dieptewijze dissociatie in valentieverwerking:

• Negatieve Valentie: Lokaliseert causaal tot vroege lagen (piekend op 14–27% van de modeldiepte). Patching op deze lagen herstelt sterk negatieve outputs.
• Positieve Valentie: Piekt in middelste tot late lagen (piekend op 53–66% van de modeldiepte).
• Statistische Significantie: Mann-Whitney U-toetsen bevestigen dat deze dissociatie zeer significant is over alle modellen heen ($p < 10^{-10}$).
• Interpretatie: Negatieve uitkomsten lijken te worden verwerkt door een "snelle ondiepe detector" die vertrouwt op lexicaal onderscheidende woorden (bijvoorbeeld "afgekeurd"), terwijl positieve uitkomsten diepere contextuele integratie vereisen om een rijkere representatie samen te stellen.

4. Asymmetrische Causale Structuur

• Negatieve Controle: Toont strakke causale lokalisatie. Er is een sterke negatieve correlatie ($\rho \approx -0,5$ tot $-0,68$) tussen patchgrootte en responssterkte, wat aangeeft dat een enkele dominante laag de negatieve respons drijft.
• Goed Nieuws: Toont diffuse verwerking. De correlatie tussen patchgrootte en responssterkte is zwak of niet-significant ($\rho \approx 0,1$ tot $0,37$), wat suggereert dat positieve valentie over het netwerk is verspreid in plaats van via een enkele laag te worden gerouteerd.

5. Stuurbaarheid

Sturexperimenten bevestigden dat de geïdentificeerde lagen valentie coderen als een manipuleerbare lineaire richting.

• Het toevoegen van de "goed-nieuws"-richting aan neutrale prompts verschuifde 92–100% van de outputs naar positieve valentie.
• Het aftrekken van de richting verschuifde outputs naar negatieve valentie.
• De relatie tussen stuurkracht ($\alpha$) en verandering in valentiescore ($\Delta$) was monotoon toenemend, wat bevestigt dat de geëxtraheerde vector een echte lineaire feature is.

Betekenis en Beweringen

Het artikel beweert dat emotionele valentie in LLM's geen monolithische interne staat is, maar een asymmetrische berekening met onderscheiden causale paden voor positieve en negatieve invoer.

• Mechanistisch Inzicht: De bevindingen suggereren dat negatieve en positieve valentie niet louter tegenovergestelde uiteinden van een enkele as zijn, maar worden verwerkt via onderscheiden computationele mechanismen (vroege, gelokaliseerde detectie versus late, gedistribueerde integratie).
• Potentieel voor Toezicht: Omdat negatieve valentie is gelokaliseerd tot vroege lagen en voorspelbaar stuurbaar is, vertegenwoordigt het een concreet doel voor interpretabiliteitsgebaseerd toezicht. Het monitoren van deze vroege lagen zou interventie mogelijk maken voordat het model een volledige respons samenstelt.
• Generaliseerbaarheid: De asymmetrie geldt over verschillende modelschalen en attention-architecturen (MHA versus GQA), wat suggereert dat het een fundamentele eigenschap is van transformer-gebaseerde valentieverwerking in plaats van een artefact van een specifiek modelontwerp.

De auteurs concluderen dat het begrijpen waarom deze polariteiten verschillende computationele dieptes vereisen, fundamentele aspecten kan onthullen van hoe transformers semantische en emotionele inhoud coderen. Zij stellen expliciet dat zij geen directe negatieve maatschappelijke impact van dit onderzoek voorzien, maar het zien als een stap naar veiligere en meer interpreteerbare modelimplementaties.