💻 computer science

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

Dieses Paper schlägt einen Ansatz der mechanistischen Interpretierbarkeit vor, der Sparse Autoencoder und kontrastive Aktivierungsanalysen verwendet, um latente Merkmalsrichtungen zu identifizieren, die den OCEAN-Persönlichkeitsmerkmalen entsprechen, was eine kontrollierbare Steuerung dieser Merkmale in Large Language Models mittels additiver Aktivierungsverschiebungen ermöglicht, während die allgemeine Sprachmodellierungsleistung erhalten bleibt.

Ursprüngliche Autoren: David Courtis, Ting Hu

Veröffentlicht 2026-06-30

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: David Courtis, Ting Hu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein Large Language Model (LLM) wie ein riesiges, unglaublich komplexes Orchester vor. Normalerweise spielt es eine Standardmelodie basierend auf seinem Training, wenn Sie es bitten, etwas zu schreiben. Wenn Sie möchten, dass es „glücklich“ oder „griesgrämig“ klingt, müssen Sie normalerweise entweder dem Dirigenten spezifische Anweisungen zurufen (Prompt Engineering) oder eine ganze neue Band engagieren, die einen bestimmten Stil von Grund auf lernt (Fine-Tuning). Beide Methoden sind klobig, inkonsistent oder dauern ewig.

Dieses Paper stellt eine neue Art vor, das Orchester zu dirigieren: Mechanistic Personality Steering. Anstatt Anweisungen zu rufen, greifen die Autoren direkt in die interne Verdrahtung des Orchesters ein und verändern spezifische Instrumente, um die Stimmung zu ändern.

So haben sie es gemacht, aufgeschlüsselt in einfache Schritte:

1. Das Finden der „Persönlichkeits-Schalter“ (Der SAE)

Die Forscher verwendeten ein Werkzeug namens Sparse Autoencoder (SAE). Stellen Sie sich das interne Gehirn des LLM wie ein riesiges Zimmer voller tausender Lichtschalter vor. Die meisten dieser Schalter sind die meiste Zeit ausgeschaltet. Der SAE ist wie ein Detektiv, der genau herausfindet, welche spezifischen Schalter zu bestimmten Ideen gehören.

Die Entdeckung: Sie fanden heraus, dass bestimmte Gruppen von Schaltern aufleuchten, wenn das Modell über „Organisiertsein“ (Gewissenhaftigkeit) oder „Emotionalität“ (Neurotizismus) nachdenkt.
Die Methode: Sie baten das Modell, Beiträge zu schreiben, die sehr hoch in einem bestimmten Merkmal waren (wie „Ich liebe Partys!“) und Beiträge, die sehr niedrig in diesem Merkmal waren (wie „Ich hasse Menschenmengen“). Durch den Vergleich der „Lichtmuster“ dieser beiden Gruppen identifizierten sie die exakten Schalter, die das Persönlichkeitsmerkmal an- oder ausschalten.

2. Das Umlegen der Schalter (Das Steering)

Sobald sie wussten, welche Schalter ein Merkmal steuern, gaben sie dem Modell nicht einfach nur den Befehl, „nett zu sein“. Stattdessen gaben sie diesen spezifischen Schaltern während des Schreibvorgangs des Modells einen winzigen elektrischen Impuls.

Die Analogie: Stellen Sie sich vor, Sie fahren ein Auto. Anstatt dem Fahrer zu sagen: „Fahr schneller“, drücken Sie das Gaspedal sanft um ein paar Millimeter nach unten. Das Auto wird schneller, aber der Motor läuft weiterhin auf die gleiche Weise.
Das Ergebnis: Indem sie diese internen „Persönlichkeits-Schalter“ leicht nach oben drückten, begann das Modell Texte zu schreiben, die eher wie ein Extrovertierter, eine neurotische Person oder eine disziplinierte Person klangen, ohne den eigentlichen Code des Modells zu ändern oder es neu zu trainieren.

3. Den „Sweet Spot“ finden (Grid Search)

Der schwierige Teil ist: Wenn man das Gaspedal zu stark durchdrückt, kracht das Auto. Ähnlich verhält es sich: Wenn sie die Persönlichkeits-Schalter zu stark verstärkten, schrieb das Modell Unsinn oder verlor die Fähigkeit, Fragen korrekt zu beantworten.

Das Experiment: Sie führten eine massive „Grid Search“ durch, was vergleichbar ist mit einem Koch, der eine Suppe probiert und Salz in winzigen Mengen hinzufügt. Sie probierten verschiedene Mengen an „Druck“ auf die Schalter aus, um das perfekte Gleichgewicht zu finden.
Das Ziel: Sie wollten, dass die Persönlichkeit stark genug ist, um bemerkt zu werden, aber nicht so stark, dass das Modell vergisste, Englisch zu sprechen.

4. Was sie herausfanden

Das Experiment funktionierte, aber nicht für alle gleichermaßen:

Die leichten Siege: Es war sehr einfach, das Modell gewissenhaft (organisiert, detailorientiert) oder neurotisch (ängstlich, emotional) klingen zu lassen. Diese Merkmale schienen sehr klare, distinkte „Schalter“ im Gehirn des Modells zu haben.
Der Schwierigkeitsgrad: Das Modell offen (neugierig, kreativ) klingen zu lassen, war überraschend schwierig. Die Forscher vermuten, dass dies daran liegt, dass das Modell bereits von Natur aus sehr „offen“ konzipiert ist, sodass es schwer ist, es noch offener zu machen, ohne die Logik zu beschädign.
Der Trade-off: Es gibt eine klare Grenze. Wenn man die Persönlichkeit zu stark pusht, wird der Text inkohärent. Das Modell beginnt vielleicht, sich zu wiederholen oder verliert den roten Faden.

5. Warum das wichtig ist (Laut dem Paper)

Die Autoren argumentieren, dass diese Methode besser als die alten Wege ist, weil:

Sie ist instantan: Man muss das Modell nicht neu trainieren; man dreht die Schalter einfach während des Betriebs um.
Sie ist transparent: Man weiß genau, welche internen Merkmale man verändert, im Gegensatz zum Prompt Engineering, wo man nur hofft, dass die Anweisungen funktionieren.
Sie ist kontrollierbar: Man kann die Persönlichkeit auf ein bestimmtes Niveau hoch- oder runterregeln, anstatt nur ein „An“ oder „Aus“ zu haben.

Zusammenfassend:
Das Paper zeigt, dass wir die Persönlichkeit einer KI nicht als magisches, unveränderliches Merkmal behandeln können, sondern als eine Reihe von einstellbaren Reglern innerhalb ihres Codes. Indem wir die richtigen Regler finden und sie gerade so weit drehen, können wir eine KI wie einen bestimmten Typ Mensch klingen lassen – solange wir die Regler nicht so weit drehen, dass die Maschine kaputtgeht.

Technisches Resümee: Mechanistische Persönlichkeitsanalyse von LLMs

Problemstellung
Große Sprachmodelle (LLMs) simulieren aufgrund ihres Trainings auf riesigen Mengen menschlich generierter Daten inhärent menschenähnliche Persönlichkeitsmerkmale (speziell die Big-Five/OCEAN-Merkmale). Während bisherige Methoden versuchten, diese Persönlichkeiten mittels Prompt Engineering oder Fine-Tuning zu formen, leiden diese Ansätze unter erheblichen Nachteilen: Inkonsistenz in den Ausgaben, hoher Ressourcenaufwand und das Risiko einer Verschlechterung der Leistung bei Kernaufgaben der Sprachverarbeitung. Darüber hinaus bleibt die gleichzeitige Formung mehrerer korrelierter Merkmale eine Herausforderung, die oft Kapazitäten erfordert, die kleinere oder weniger optimierte Modelle nicht besitzen. Es besteht ein Bedarf an einer Methode, die Persönlichkeitsmerkmale kontrollierbar auf mechanistischer Ebene steuern kann, ohne die grundlegenden Sprachfähigkeiten des Modells zu beeinträchtigen.

Methodik
Die Autoren schlagen ein mechanistisches Interpretierbarkeits-Framework vor, das direkt in die latenten Merkmale des Modells interveniert, um die Persönlichkeit zu modulieren. Die Pipeline besteht aus vier Hauptkomponenten:

Datengenerierung und Datensatz-Erstellung:
Unter Verwendung des PsyBORGS-Frameworks generieren die Autoren 12.000 Facebook-Stil Status-Updates mit variierenden Ausprägungen der Big-Five-Merkmale. Im Gegensatz zu vorangegangenen Arbeiten, die neutrale Baselines verwendeten, erstellt diese Methode distinkte „Positive“ (hohe Ausprägung, Scores 7–9) und „Negative“ (niedrige Ausprägung, Scores 1–3) Sets für jedes Merkmal, um sowohl merkmalsverstärkende als auch merkmalsunterdrückende Features zu identifizieren.
Merkmalsextraktion via Sparse Autoencoder (SAEs):
Die Autoren nutzen einen vortrainierten Sparse Autoencoder (SAE), der an Schicht 19 des DeepSeek-R1-Distill-Llama-8B-Modells angehängt ist. Diese Schicht wurde ausgewählt, da sie einen „Sweet Spot“ (63 % Tiefe) darstellt, in dem die Features semantisch reichhaltig, aber noch oberhalb der finalen Logits liegen.

Kontrastive Analyse: Mittlere Aktivierungen werden für die positiven ( $\mu_P$ ) und negativen ( $\mu_N$ ) Sets berechnet. Der Differenzvektor $\Delta h = \mu_P - \mu_N$ wird mittels des SAE-Encoders dekomponiert, um latente Differenzen $\Delta z$ zu erhalten.
Feature-Ranking: Die latenten Komponenten werden nach der absoluten Differenz $|\Delta z_i|$ geordnet. Die Top- $k$ -Features, die das Merkmal antreiben (positive Richtung) und unterdrücken (negative Richtung), werden identifiziert. Diese werden mittels des SAE-Decoders in Einheits-Feature-Vektoren ( $u_{ij}$ ) umgewandelt.

Optimierung via Grid Search:
Um die optimale Intervention zu bestimmen, verwenden die Autoren einen bidirektionalen linearen Gewichtungsansatz. Ein Steuerungsvektor wird konstruiert, indem eine gewichtete Kombination aus positiven und negativen Feature-Vektoren zu den Hidden States ( $h'$ ) des Modells addiert wird:
$h' = h + \sum \delta^{pos} u_{ij} + \sum \delta^{neg} u_{jl}$
Die Koeffizienten werden über eine Grid Search über vier Parameter abgestimmt: die Magnitude der positiven Verschiebungen ( $\alpha_{pos}$ ), die Anzahl der positiven Features ( $k_{pos}$ ), die Magnitude der negativen Verschiebungen ( $\alpha_{neg}$ ) und die Anzahl der negativen Features ( $k_{neg}$ ).
Die Optimierung maximiert eine Zielfunktion $O$ , die die Merkmalsausprägung ( $S_{trait}$ ) gegen eine Straffunktion für Leistungsabfall ( $C$ ) abwägt, gemessen am relativen Abfall der MMLU-Genauigkeit:
$O = S_{trait} - \lambda \cdot C$
wobei $\lambda$ fest auf 0,5 gesetzt ist.
Evaluations-Framework:
Die Wirksamkeit der Steuerung wird durch einen mehrdimensionalen Ansatz gemessen:

Embedding-Ähnlichkeit: Kosinus-Ähnlichkeit zwischen generiertem Text und Referenz-Exemplaren des Merkmals.
LLM-basierte Klassifizierung: State-of-the-Art LLMs (Claude 3.7, GPT-4o) beurteilen, welcher von zwei Texten das Zielmerkmal besser verkörpert.
Human Evaluation: Parallele menschliche Bewertung derselben Paare.
Leistungsmetriken: MMLU-Genauigkeit und Kohärenzprüfungen, um sicherzustellen, dass die Sprachfähigkeiten erhalten bleiben.

Wesentliche Beiträge

Methodik zur Merkmalsextraktion: Ein neuartiger Ansatz zur Extraktion persönlichkeitsrelevanter Merkmale durch kontrastive Analyse zwischen positiven und negativen Prompt-Bedingungen unter Nutzung von SAEs, um monosemantische latente Merkmale zu isolieren.
Mehrdimensionale Evaluation: Etablierung eines robusten Evaluations-Frameworks, das Embedding-basierte Ähnlichkeit, LLM-Klassifizierung und menschliche Evaluation kombiniert, um die Merkmalsausprägung zu messen.
Verfeinerte Steuerungsstrategien: Entwicklung eines bidirektionalen linearen Gewichtungsansatzes mit Grid-Search-Optimierung zur Berechnung optimaler additiver Verschiebungen im latenten Raum, um die Balance zwischen Merkmalsausprägung und Aufgabenleistung zu halten.

Ergebnisse

Detektionsraten: Die Intervention wurde von sowohl LLMs als auch Menschen für die meisten Merkmale zuverlässig erkannt. Gewissenhaftigkeit (Conscientiousness) und Neurotizismus (Neuroticism) zeigten die höchsten Detektionsraten (>90 % für sowohl LLM- als auch menschliche Evaluatoren). Extraversion und Verträglichkeit (Agreeableness) zeigten moderate Raten, während Offenheit (Openness) eine Herausforderung darstellte (50 % LLM, 30 % Mensch), was wahrscheinlich darauf zurückzuführen ist, dass LLMs von Natur aus „offen“ konzipiert sind oder das Merkmal sich in subtilen Mustern manifestiert.
Merkmals-spezifische Optimierung: Die Grid Search ergab, dass unterschiedliche Merkmale unterschiedliche Interventionsprofile erfordern.
- Extraversion benötigte die wenigsten Features (9 positiv, 4 negativ), was auf eine konzentrierte latente Repräsentation hindeutet.
- Offenheit benötigte die meisten Features (25 positiv) und eine hohe Magnitude, was auf eine verteilte Kodierung hindeutet.
- Gewissenhaftigkeit erforderte eine ausgewogene Mischung aus positiven und negativen Features.
Leistungs-Trade-offs: Alle Merkmale zeigten ein „Maximum“ in der Zielfunktion, gefolgt von einem scharfen Abfall der Leistung (Kohärenz und MMLU-Genauigkeit), wenn die Interventionsmagnitude zunahm. Dies verdeutlicht eine kritische Schwelle, an der übermäßige Feature-Manipulation die Sprachgenerierungsfähigkeiten des Modells verschlechtert.
Negative Verschiebungen: Während positive Verschiebungen generell die Ähnlichkeit zum Merkmal erhöhten, lieferten negative Verschiebungen gemischte Ergebnisse; für Offenheit führten negative Verschiebungen manchmal zu einer höheren Ähnlichkeit zum Referenzmerkmal als positive Verschiebungen, was auf komplexe Beziehungen zwischen Feature-Aktivierung und Merkmalsausprägung hindeutet.

Bedeutung und Ansprüche
Das Paper beansprucht, eine interpretierbare und feingliedrige Methode zur Steuerung der Persönlichkeit bereitzustellen, die hochgradig psychometrische Beobachtungen mit niederschwelligen neuronalen Mechanismen verbindet. Die Bedeutung liegt in:

Mechanistischer Kontrolle: Demonstration, dass die Persönlichkeit durch direkte Intervention in spezifische latente Merkmale moduliert werden kann, ohne das Modell neu zu trainieren, was eine Modulation auf Abruf ermöglicht.
Interpretierbarkeit: Die Nutzung von SAEs erlaubt die Identifizierung spezifischer Richtungen im Residual Stream, die psychologischen Merkmalen entsprechen, und entmystifiziert, wie diese abstrakten Konzepte im Modell entstehen.
Verantwortungsbewusste KI (Responsible AI): Der Ansatz bietet ein Werkzeug zur Kontrolle unerwünschter Persönlichkeitsmanifestationen in KI-Agenten, was potenziell die Sicherheit, Fairness und Effektivität in der Kommunikation verbessert.
Computationaler Perspektive auf Psychologie: Die Ergebnisse legen nahe, dass die Komplexität menschlicher Persönlichkeitsmerkmale (z. B. die verteilte Natur von Offenheit vs. die konzentrierte Natur von Extraversion) in der latenten Feature-Struktur von LLMs gespiegelt sein könnte.

Die Autoren bleiben bescheiden hinsichtlich der Implikationen und merken an, dass das Modell zwar Verhaltensweisen zeigt, die mit spezifischen Merkmalen assoziiert sind, dies jedoch nicht bedeutet, dass das Modell über menschenähnliche psychologische Zustände verfügt. Sie räumen zudem Einschränkungen hinsichtlich des Rechenaufwands, der Schwierigkeit, die Kohärenz bei hohen Interventionsmagnituden aufrechtzuerhalten, sowie der Herausforderung einräumen, Abhängigkeiten zwischen den Merkmalen aufgrund der Polysemantizität der SAE-Features zu entwirren.