💻 computer science

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

Dit artikel stelt een mechanistische interpreteerbaarheid-benadering voor die gebruikmaakt van sparse autoencoders en contrastieve activatie-analyse om latente feature-richtingen te identificeren die overeenkomen met de OCEAN-persoonlijkheidskenmerken, wat het gecontroleerd sturen van deze kenmerken in Large Language Models mogelijk maakt via additieve activatieverschuivingen terwijl de algehele taalmodelleringprestaties behouden blijven.

Oorspronkelijke auteurs: David Courtis, Ting Hu

Gepubliceerd 2026-06-30

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: David Courtis, Ting Hu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een Large Language Model (LLM) voor als een enorm, ongelooflijk complex orkest. Meestal, wanneer je het vraagt om iets te schrijven, speelt het een standaard melodie op basis van zijn training. Als je wilt dat het "blij" of "griezelig" klinkt, moet je meestal de dirigent specifieke instructies toeroepen (prompt engineering) of een hele nieuwe band inhuren die een specifieke stijl vanaf nul leert (fine-tuning). Beide methoden zijn lomp, inconsistent of kosten een eeuwigheid.

Dit artikel introduceert een nieuwe manier om het orkest te dirigeren: Mechanistische Persoonlijkheidssturing. In plaats van instructies te schreeuwen, grijpen de auteurs direct in in de interne bedrading van het orkest en passen ze specifieke instrumenten aan om de stemming te veranderen.

Zo hebben ze het gedaan, onderverdeeld in eenvoudige stappen:

1. Het vinden van de "Persoonlijkheidsschakelaars" (De SAE)

De onderzoekers gebruikten een hulpmiddel genaamd een Sparse Autoencoder (SAE). Denk aan de interne hersenen van het LLM als een enorme kamer vol met duizenden lichtknopjes. De meeste tijd staan deze schakelaars uit. De SAE is als een detective die precies uitzoekt welke specifieke schakelaars overeenkomen met specifie kleine ideeën.

De Ontdekking: Ze ontdekten dat bepaalde groepen schakelaars oplichten wanneer het model denkt over "georganiseerd zijn" (Conscientiousness) of "emotioneel zijn" (Neuroticism).
De Methode: Ze vroegen het model om berichten te schrijven die zeer hoog scoorden op een specifiek kenmerk (zoals "Ik hou van feestjes!") en berichten die zeer laag scoorden op dat kenmerk (zoals "Ik haat drukte"). Door de "lichtpatronen" van deze twee groepen te vergelijken, identificeerden ze de exacte schakelaars die het persoonlijkheidskenmerk aan- of uitzetten.

2. De Schakelaars Omzetten (De Sturing)

Zodra ze wisten welke schakelaars een kenmerk regelden, vroegen ze het model niet simpelweg om "aardig te zijn". In plaats daarvan gaven ze een kleine elektrische boost aan die specifieke schakelaars terwijl het model aan het schrijven was.

De Analogie: Stel je voor dat je een auto bestuurt. In plaats van de bestuurder te vertellen: "Rijd sneller", duw je het gaspedaal een paar millimeter naar beneden. De auto versnelt, maar de motor draait nog steeds op dezelfde manier.
Het Resultaat: Door deze interne "persoonlijkheidsschakelaars" een klein zetje te geven, begon het model teksten te schrijven die meer klonken als een extravert, een neurotisch persoon of een gedisciplineerd persoon, zonder de eigenlijke code van het model te veranderen of het opnieuw te trainen.

3. Het "Zoete Punt" Vinden (Grid Search)

Het lastige deel is dat als je het gaspedaal te hard indrukt, de auto crasht. Vergelijkbaar daarmee: als ze de persoonlijkheidsschakelaars te veel boostten, begon het model onzin te schrijven of verloor het het vermogen om vragen correct te beantwoorden.

Het Experiment: Ze voerden een enorme "grid search" uit, wat lijkt op een chef die een soep proeft en er in kleine stapjes zout aan toevoegt. Ze probeerden verschillende hoeveelheden "druk" op de schakelaars om de perfecte balans te vinden.
Het Doel: Ze wilden dat de persoonlijkheid sterk genoeg was om opgemerkt te worden, maar niet zo sterk dat het model vergat hoe het Engels moest spreken.

4. Wat Ze Vonden

Het experiment werkte, maar niet voor iedereen gelijk:

De Makkelijke Successen: Het was erg eenvoudig om het model Conscientious (georganiseerd, detailgericht) of Neurotic (angstig, emotioneel) te laten klinken. Deze eigenschappen leken zeer duidelijke, onderscheidende "schakelaars" in de hersenen van het model te hebben.
De Moeilijke Modus: Het model Open (nieuwsgierig, creatief) te laten klinken was verrassend moeilijk. De onderzoekers vermoeden dat dit komt omdat het model van zichzelf al heel "open" is qua ontwerp, waardoor het moeilijk is om het méér open te maken zonder de logica te breken.
De Trade-off: Er is een duidelijke limiet. Als je de persoonlijkheid te hard pusht, wordt de tekst onbegrijpelijk. Het model kan beginnen met zichzelf te herhalen of het overzicht over zijn gedachtenlijn te verliezen.

5. Waarom Dit Belangrijk Is (Volgens het Papier)

De auteurs stellen dat deze methode beter is dan de oude manieren omdat:

Het is Instant: Je hoeft het model niet opnieuw te trainen; je zet gewoon de schakelaars aan de hand aan.
Het is Transparant: Je weet precies welke interne kenmerken je verandert, in tegenstelling tot prompt engineering waarbij je er alleen maar op hoopt dat de instructies werken.
Het is Controleerbaar: Je kunt de persoonlijkheid op een specifiek niveau omhoog of omlaag draaien, in plaats van alleen een "aan" of "uit" te hebben.

Samenvattend:
Het papier laat zien dat we de persoonlijkheid van een AI niet kunnen behandelen als een magische, onveranderlijke eigenschap, maar als een set aanpasbare draaiknoppen binnen de code. Door de juiste draaiknoppen te vinden en ze net genoeg te draaien, kunnen we een AI laten klinken als een specifiek type persoon, zolang we de knoppen niet zo ver draaien dat de machine kapot gaat.

Technische Samenvatting: Mechanistische Persoonlijkheidsanalyse van LLM's

Probleemstelling
Large Language Models (LLM's) simuleren inherent menselijke persoonlijkheidskenmerken (specifiek de Big Five/OCEAN-traits) vanwege hun training op enorme hoeveelheden door mensen gegenereerde data. Hoewel eerdere methoden hebben geprobeerd deze persoonlijkheden te vormen via prompt engineering of fine-tuning, lijden deze benaderingen aan aanzienlijke nadelen: inconsistentie in de output, hoge resource-intensiteit en het risico op degradatie van de prestaties bij kern-taakuitvoering. Bovendien blijft het gelijktijdig vormgeven van meerdere gecorreleerde eigenschappen een uitdaging, wat vaak capaciteiten vereist die kleinere of minder geoptimaliseerde modellen missen. Er is behoefte aan een methode die persoonlijkheidskenmerken controleerbaar kan sturen op mechanistisch niveau zonder de fundamentele taalmodelleringseigenschappen van het model in gevaar te brengen.

Methodologie
De auteurs stellen een mechanistisch interpreteerbaar framework voor dat direct ingrijpt op de latente kenmerken van het model om de persoonlijkheid te moduleren. De pijplijn bestaat uit vier hoofdcomponenten:

Datageneratie en Datasetcreatie:
Met behulp van het PsyBORGS-framework genereren de auteurs 12.000 Facebook-stijl statusupdates met variërende niveaus van Big Five-trait expressie. In tegenstelling tot eerder werk dat neutrale baselines gebruikte, creëert deze methode onderscheidende "Positieve" (hoge expressie, scores 7–9) en "Negatieve" (lage expressie, scores 1–3) sets voor elk kenmerk om zowel kenmerkversterkende als kenmerkonderdrukkende features te identificeren.
Feature Extractie via Sparse Autoencoders (SAEs):
De auteurs maken gebruik van een vooraf getrainde Sparse Autoencoder (SAE) die is gekoppeld aan laag 19 van het DeepSeek-R1-Distill-Llama-8B model. Deze laag werd gekozen omdat deze een "sweet spot" vertegenwoordigt (63% diepte) waar features semantisch rijk zijn maar nog upstream van de uiteindelijke logits liggen.
- Contrastieve Analyse: Gemiddelde activaties worden berekend voor de positieve ( $\mu_P$ ) en negatieve ( $\mu_N$ ) sets. De verschilvector $\Delta h = \mu_P - \mu_N$ wordt gedecodeerd met de SAE-encoder om latente verschillen $\Delta z$ te verkrijgen.
- Feature Ranking: Latente componenten worden gerangschikt op basis van het absolute verschil $|\Delta z_i|$ . De top- $k$ features die het kenmerk drijven (positieve richting) en onderdrukken (negatieve richting) worden geïdentificeerd. Deze worden via de SAE-decoder omgezet in eenheid-featurevectoren ( $u_{ij}$ ).
Optimalisatie via Grid Search:
Om de optimale interventie te bepalen, gebruiken de auteurs een bidirectionele lineaire wegingmethode. Een stuurvector wordt geconstrueerd door een gewogen combinatie van positieve en negatieve featurevectoren toe te voegen aan de verborgen toestanden ( $h'$ ) van het model:
$h' = h + \sum \delta^{pos} u_{ij} + \sum \delta^{neg} u_{jl}$
De coëfficiënten worden afgestemd via een grid search over vier parameters: de magnitude van positieve verschuivingen ( $\alpha_{pos}$ ), het aantal positieve features ( $k_{pos}$ ), de magnitude van negatieve verschuivingen ( $\alpha_{neg}$ ), en het aantal negatieve features ( $k_{neg}$ ).
De optimalisatie maximaliseert een objectieve functie $O$ die de expressie van het kenmerk ( $S_{trait}$ ) balanceert tegen een straf voor prestatiedegradatie ( $C$ ), gemeten als de relatieve daling in MMLU-accuratesse:
$O = S_{trait} - \lambda \cdot C$
waarbij $\lambda$ vastgesteld is op 0.5.
Evaluatieframework:
De effectiviteit van de sturing wordt gemeten met behulp van een veelzijdige aanpak:
- Embedding Gelijkenis: Cosine-gelijkenis tussen gegenereerde tekst en referentie-exemplaren van het kenmerk.
- LLM-gebaseerde Classificatie: State-of-the-art LLM's (Claude 3.7, GPT-4o) beoordelen welke van twee teksten een bepaald kenmerk beter vertoont.
- Menselijke Evaluatie: Parallelle menselijke beoordeling van dezelfde paren.
- Prestatie-metrieken: MMLU-accuratesse en coherentiechecks om te waarborgen dat de taalvaardigheden behouden blijven.

Belangrijkste Bijdragen

Methodologie voor Feature Extractie: Een nieuwe aanpak voor het extraheren van persoonlijkheidsrelevante features via contrastieve analyse tussen positieve en negatieve prompt-condities, waarbij SAE's worden gebruikt om monosemantische latente features te isoleren.
Veelzijdige Evaluatie: De vestiging van een robuust evaluatieframework dat embedding-gebaseerde gelijkenis, LLM-classificatie en menselijke evaluatie combineert om persoonlijkheidsexpressie te meten.
Verfijnde Sturingsstrategieën: De ontwikkeling van een bidirectionele lineaire wegingmethode met grid search-optimalisatie om optimale additieve verschuivingen in de latente ruimte te berekenen, waarbij een balans wordt gevonden tussen de expressie van het kenmerk en de taakprestaties.

Resultaten

Detectiegraad: De interventie werd betrouwbaar gedetecteerd door zowel LLM's als mensen voor de meeste kenmerken. Conscientiousness (consciëntieusheid) en Neuroticism (neuroticisme) vertoonden de hoogste detectiegraad (>90% voor zowel LLM als menselijke beoordelaars). Extraversion (extraversie) en Agreeableness (agreeableness) vertoonden gematigde percentages, terwijl Openness (openheid) uitdagend bleek (50% LLM, 30% mens), waarschijnlijk omdat LLM's inherent "open" zijn door ontwerp of omdat het kenmerk zich in subtiele patronen manifesteert.
Kenmerk-specifieke Optimalisatie: Grid search toonde aan dat verschillende kenmerken verschillende interventieprofielen vereisen.
- Extraversion vereiste de minste features (9 positief, 4 negatief), wat wijst op een geconcentreerde latente representatie.
- Openness vereiste de meeste features (25 positief) en een hoge magnitude, wat duidt op een gedistribueerde codering.
- Conscientiousness vereiste een gebalanceerde mix van positieve en negatieve features.
Prestatie-afruil: Alle kenmerken vertoonden een "piek" in de objectieve functie, gevolgd door een scherpe daling in prestaties (coherentie en MMLU-accuratesse) naarmate de interventie-magnitude toenam. Dit benadrukt een kritieke drempel waarbij excessieve feature-manipulatie de taalgenererende vermogens van het model degradeert.
Negatieve Verschuivingen: Hoewel positieve verschuivingen over het algemeen de gelijkenis met het kenmerk vergrootten, leverden negatieve verschuivingen gemengde resultaten op; voor Openness resulteerden negatieve verschuivingen soms in een hogere gelijkenis met de kenmerk-referentie dan positieve verschuivingen, wat wijst op complexe relaties tussen feature-activatie en de expressie van het kenmerk.

Betekenis en Claims
Het artikel claimt een interpreteerbare en fijnmazige methode te bieden voor persoonlijkheidssturing die de brug slaat tussen hoogwaardige psychometrische observaties en laag-niveau neurale mechanismen. De betekenis ligt in:

Mechanistische Controle: Het aantonen dat persoonlijkheid gemoduleerd kan worden door direct in te grijpen op specifieke latente features zonder het model opnieuw te trainen, wat on-demand modulatie mogelijk maakt.
Interpreteerbaarheid: Het gebruik van SAE's maakt het mogelijk om specifieke richtingen in de residual stream te identificeren die overeenkomen met psychologische kenmerken, waardoor de abstracte concepten die in het model ontstaan, worden gedemystificeerd.
Verantwoordelijke AI: De aanpak biedt een instrument voor het controleren van ongewenste persoonlijkheidsmanifestaties in AI-agenten, wat potentieel de veiligheid, eerlijkheid en effectiviteit in communicatie kan verbeteren.
Computationeel Perspectief op Psychologie: De bevindingen suggereren dat de complexiteit van menselijke persoonlijkheidskenmerken (bijv. de gedistribueerde aard van Openness versus de geconcentreerde aard van Extraversion) mogelijk gespiegeld wordt in de latente featurestructuur van LLM's.

De auteurs blijven bescheiden over de implicaties en merken op dat hoewel het model gedragingen vertoont die geassocieerd worden met specifieke kenmerken, dit niet gelijkstaat aan het bezitten van menselijke psychologische toestanden. Ze erkennen ook beperkingen met betrekking tot computationele overhead, de moeilijkheid om coherentie te behouden bij hoge interventie-magnitudes, en de uitdaging om cross-trait afhankelijkheden te ontwarren vanwege de polysemantische aard van de SAE-features.