💬 NLP

Psychological Steering of Large Language Models

Deze studie introduceert een psychologisch stuurkader dat, door gebruik te maken van semantisch gekalibreerde residual-stream injecties, de persoonlijkheidssturing van grote taalmodellen (LLMs) effectiever maakt dan bestaande prompt-methoden en een hybride aanpak als meest succesvol identificeert.

Oorspronkelijke auteurs: Leonardo Blas, Robin Jia, Emilio Ferrara

Gepubliceerd 2026-04-17

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Leonardo Blas, Robin Jia, Emilio Ferrara

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat een groot taalmodel (zoals een slimme chatbot) een enorme, complexe machine is die vol zit met duizenden kleine schakelaars. Deze schakelaars bepalen hoe de machine denkt en praat. Tot nu toe was het heel moeilijk om deze schakelaars precies zo te zetten dat de machine een bepaald persoonlijkheidstrekje krijgt, zoals "vriendelijk" of "avontuurlijk".

Deze paper introduceert een nieuwe manier om die schakelaars te bedienen, en noemen het Psychologisch Sturen.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het oude probleem: De ongemeten liniaal

Vroeger probeerden mensen de persoonlijkheid van een chatbot te veranderen door twee dingen te doen:

De Prompt (De vraag): Je vraagt de bot: "Wees nu een vriendelijke persoon." Dit werkt soms, maar het is alsof je iemand probeert te overtuigen door alleen te praten. Het is niet altijd sterk genoeg.
De Injectie (De schakelaar): Je probeert de interne schakelaars van de computer direct aan te raken. Maar hier zat een groot probleem: de onderzoekers gebruikten een liniaal zonder maatstreepjes. Ze wisten niet precies hoeveel ze moesten draaien. Als ze te hard draaiden, ging de machine "dwaas" praten (het verloor zijn vloeiheid). Als ze te zacht draaiden, gebeurde er niets. Ze zaten vast in een klein bereik van opties.

2. De nieuwe oplossing: De gekalibreerde stuurknop

De auteurs van dit paper hebben een nieuwe methode bedacht die we MDS-injectie noemen.

De Analogie van de Psycholoog: In plaats van willekeurig te gissen, gebruiken ze een echte psychologische test (de IPIP-NEO-120, die de beroemde OCEAN-persoonlijkheidstrekjes meet: Openheid, Consciëntieusheid, Extraversie, Vriendelijkheid en Neuroticiteit).
De "Middelpunt"-methode: Ze laten de computer duizenden zinnen lezen over iemand die heel "open-minded" is, en duizenden zinnen over iemand die heel "gesloten" is. Ze berekenen dan het exacte middenpunt (het zwaartepunt) van deze twee groepen in de hersenen van de computer.
De Kalibratie: Dit is de magische stap. Ze gebruiken die middelpunten als een kalibratie. Het is alsof ze nu een liniaal hebben met echte centimeters. Ze weten precies hoeveel ze moeten draaien om van "heel gesloten" naar "heel open" te gaan, zonder dat de machine de controle verliest.

3. Wat ontdekten ze?

Ze hebben dit getest op 14 verschillende grote AI-modellen (zoals Llama en Qwen).

De winnaar: Hun nieuwe methode (MDS) werkt veel beter dan het oude "vriendelijk vragen" (Prompting). In 11 van de 14 gevallen was de AI veel meer in staat om de gewenste persoonlijkheid te tonen, terwijl het nog steeds natuurlijk en vloeiend bleef klinken.
De Superkracht: Het beste resultaat kregen ze door een hybride aanpak: ze combineerden de oude vraag ("Wees vriendelijk") met hun nieuwe schakelaars. Dit is alsof je iemand niet alleen vraagt om vriendelijk te zijn, maar ook even een "vriendelijkheids-pil" geeft. Dit werkte in 13 van de 14 gevallen het beste.
De Vloeiheid: Een groot probleem bij het veranderen van AI-persoonlijkheid is dat de tekst vaak onzin gaat worden. Met hun nieuwe, kalibratie-methode blijft de tekst echter vloeiend en logisch, zelfs bij sterke veranderingen.

4. Een interessante kanttekening: De AI is niet precies menselijk

Hoewel ze de AI heel goed kunnen sturen, ontdekten ze iets vreemds.
In de echte menselijke psychologie zijn bepaalde eigenschappen met elkaar verbonden (bijvoorbeeld: als iemand erg extravert is, is hij vaak ook minder neurotic). De AI volgde dit patroon deels, maar niet helemaal. Het leek alsof de "hersenen" van de AI een andere kaart hebben dan die van de mens. Het is alsof je een robot bouwt die heel goed kan doen alsof hij mens is, maar zijn interne logica nog steeds een beetje "robotachtig" blijft.

Samenvatting in één zin

De onderzoekers hebben een manier gevonden om de interne schakelaars van een AI zo precies te kalibreren met psychologische tests, dat we de persoonlijkheid van de robot kunnen sturen als een radio die je van station verandert, zonder dat het geluid ruisig wordt.

Dit opent de deur naar AI's die niet alleen slim zijn, maar ook echt kunnen "voelen" en gedragen zoals een mens met een specifieke persoonlijkheid, wat heel handig is voor dingen zoals sociale robots of persoonlijke assistenten.

Titel: Psychological Steering of Large Language Models

Auteurs: Leonardo Blas, Robin Jia, Emilio Ferrara (University of Southern California)

1. Het Probleem

Grote Taalmodellen (LLM's) vertonen consistent menselijk gedrag dat wordt beïnvloed door hun trainingsdata. Onderzoekers proberen dit gedrag te sturen ("steering") om specifieke persoonlijkheidstrekken (zoals de OCEAN-factoren: Openheid, Gewetensvolheid, Extraversie, Vriendelijkheid, Neuroticisme) te simuleren.

Bestaande methoden voor Representation Engineering (RepE), zoals het injecteren van vectoren in de residual stream van een model, hebben echter twee belangrijke beperkingen:

Ongeschaalde eenheden: Injecties worden vaak uitgevoerd in willekeurige eenheden van de activatieruimte (bijv. unit vectors). Dit maakt het onmogelijk om optimale sterktes te vinden als deze ver buiten het bereik liggen (bijv. 10.000 eenheden).
Beperkte zoekruimte: Bestaande studies beperken de zoektocht naar een paar vaste sterkte-waarden (bijv. [0.4, 0.5, ..., 1.5]), waardoor optimale instellingen vaak gemist worden.
Resultaat: Eerdere studies (zoals Banayeeanzade et al., 2025) concludeerden dat prompt-based methoden (zoals Personality Prompting of P2) RepE-methoden overtroffen in psychologische sturing. De auteurs van dit paper betogen dat dit een artefact is van de methodologische tekortkomingen hierboven.

2. Methodologie

De auteurs introduceren een nieuw framework voor psychologische sturing dat drie kerninnovaties combineert:

A. Calibratie en Onbeperkte Zoektocht

Semantisch gekalibreerde eenheden: In plaats van willekeurige eenheden, definiëren de auteurs injectie-sterktes in "centroid-eenheden". De grootte van een vector wordt bepaald door de afstand tussen het gemiddelde (centroid) van de activaties die een construct uitdrukken en het gemiddelde van de tegenhanger.
Onbeperkte sweeps: Ze voeren onbeperkte zoektochten uit naar de optimale injectie-sterkte ( $\alpha$ ).
Vloeiheidsbeperking (Fluency Constraints): Om te voorkomen dat het model onzin produceert, stoppen ze de zoektocht vroeg als de gegenereerde tekst niet vloeiend is. Ze gebruiken hiervoor een lichtgewicht classifier (RoBERTa) in plaats van dure API-aanroepen bij frontier-modellen.

B. Afleiding van Injectie-Vectoren

Ze gebruiken 1.000 korte, eerste-persoons uitspraken (500 voor het construct, 500 voor het tegenovergestelde) om vectoren af te leiden. Er worden zes soorten vectoren getest:

L1/L2LI & L1/L2ZI: Vectoren loodrecht op de beslisgrens van een logistische regressie (met of zonder intercept, met L1/L2 regularisatie).
MDB (Mean-Difference Base): Het verschil tussen de centroids van de twee groepen, genormaliseerd.
MDS (Mean-Difference Semantic): Het verschil tussen de centroids van de completie-activaties (waarbij de zin zelf als prompt wordt gebruikt: "Vertel me over jezelf: [Zin]").

C. Evaluatie

Instrumenten: Ze gebruiken de IPIP-NEO-120 (een gestandaardiseerde persoonlijkheidstest) en synthetische Situational Judgment Tests (SJTs) die zijn gegenereerd met behulp van LLM's.
Modellen: De methode is getest op 14 verschillende LLM's (variërend van 1B tot 32B parameters), waaronder Llama-3, Gemma-3, Qwen3 en Olmo.

3. Belangrijkste Bijdragen

Methodologische Correctie: Het paper toont aan dat eerdere conclusies dat prompting beter werkt dan RepE, het gevolg waren van een slecht gedefinieerde zoekruimte en ongeschaalde eenheden.
MDS Injecties: Ze identificeren MDS (Mean-Difference Semantic) injecties als de superieure methode. Deze methoden presteren beter dan prompt-based baselines in open-ended generatie.
Hybride Aanpak (PM): Ze introduceren een hybride methode (PM) die Prompting (P2) combineert met MDS-injecties, wat resulteert in de beste prestaties.
Lineariteit en Covariantie: Ze tonen aan dat de sturing lineair verloopt (ondersteunend de Linear Representation Hypothesis) maar ook patronen van covariantie introduceert die afwijken van het menselijke "Big Two"-psychologische model.

4. Resultaten

Superioriteit van MDS: MDS-injecties overtroffen de gevestigde baseline Personality Prompting (P2) in 11 van de 14 geteste LLM's bij open-ended generatie (SJTs). De verbetering varieerde van 3,6% tot 16,4%.
Hybride Methode (PM): De combinatie van P2 en MDS (PM) was de beste methode, presterend in 13 van de 14 modellen.
- T.o.v. P2: verbetering van 5,6% tot 21,9%.
- T.o.v. MDS alleen: verbetering van 3,3% tot 26,7%.
Lineaire Controle: De relatie tussen de injectie-sterkte ( $\alpha$ ) en het gegenereerde gedrag is bijna lineair ( $R^2 \geq 0,75$ voor 96% van de trends). Dit betekent dat onderzoekers de persoonlijkheid van het model nauwkeurig kunnen "draaien" van neutraal naar extreem zonder de vloeiheid van de tekst te schaden.
Covariantie: Hoewel de methoden de OCEAN-trekken effectief sturen, vertonen ze correlaties die niet volledig overeenkomen met het menselijke "Big Two"-model (Stabiliteit vs. Plasticiteit). Dit suggereert een kloof tussen de interne representaties van LLM's en de menselijke psychologie.
Kwalitatief Voorbeeld: Figuur 1 in het paper toont hoe een model naadloos kan schakelen tussen verschillende persoonlijkheidsmodi (bijv. van "conformiteit aan vrouwelijke normen" naar "sadisme" en terug) binnen één antwoord, een capaciteit die puur op prompting gebaseerde methoden niet hebben.

5. Betekenis en Conclusie

Dit paper positioneert Representation Engineering als een nieuwe grens in het open-ended sturen van de psychologie van LLM's.

Technische Impact: Het bewijst dat activatie-injecties, wanneer correct geschaald en geoptimaliseerd, krachtiger zijn dan prompting voor het simuleren van complexe menselijke trekken.
Toepassingen: De methode is waardevol voor het creëren van consistente persona's in sociale robots, aanbevelingssystemen en kunstmatige samenlevingen.
Filosofische Inzicht: Het feit dat LLM's lineaire richtingen hebben voor persoonlijkheid, maar dat de onderliggende covariantiepatronen afwijken van de menselijke psychologie, biedt nieuwe inzichten in hoe LLM's concepten internaliseren versus hoe mensen deze ervaren.

Kortom, de auteurs hebben een robuust framework ontwikkeld dat de kloof tussen eerdere mislukte pogingen tot RepE en succesvolle prompting overbrugt, waardoor fijnmazige, betrouwbare en vloeiende psychologische controle over LLM's mogelijk wordt.