💻 computer science

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

Questo articolo propone un approccio di interpretabilità meccanicistica che utilizza autoencoder sparsi e l'analisi contrastiva delle attivazioni per identificare le direzioni delle caratteristiche latenti corrispondenti ai tratti della personalità OCEAN, consentendo il controllo guidato di tali tratti nei modelli linguistici di grandi dimensioni tramite spostamenti additivi delle attivazioni pur preservando le prestazioni complessive di modellazione del linguaggio.

Autori originali: David Courtis, Ting Hu

Pubblicato 2026-06-30

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: David Courtis, Ting Hu

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina un Modello di Linguaggio di Grandi Dimensioni (LLM) come una orchestra enorme e incredibilmente complessa. Di solito, quando gli chiedi di scrivere qualcosa, suona un brano standard basato sul suo addestramento. Se vuoi che suoni "felice" o "irritato", di solito devi urlare istruzioni specifiche al direttore d'orchestra (prompt engineering) o assumere una banda intera che impari uno stile specifico da zero (fine-tuning). Entrambi i metodi sono goffi, incoerenti o richiedono troppo tempo.

Questo articolo introduce un nuovo modo per dirigere l'orchestra: la Steerabilità Meccanicistica della Personalità (Mechanistic Personality Steering). Invece di urlare istruzioni, gli autori arrivano direttamente al cablaggio interno dell'orchestra e regolano strumenti specifici per cambiare l'umore.

Ecco come l'hanno fatto, suddiviso in semplici passaggi:

1. Trovare gli "Interruttori della Personalità" (L'SAE)

I ricercatori hanno utilizzato uno strumento chiamato Sparse Autoencoder (SAE). Pensa al cervello interno dell'LLM come a una stanza gigante piena di migliaia di interruttori della luce. La maggior parte del tempo, questi interruttori sono spenti. L'SAE è come un detective che capisce esattamente quali interruttori specifici corrispondono a idee specifiche.

La Scoperta: Hanno scoperto che certi gruppi di interruttori si accendono quando il modello sta pensando a "essere organizzato" (Coscienziosità) o a "essere emotivo" (Nevroticismo).
Il Metodo: Hanno chiesto al modello di scrivere post che fossero molto alti in un tratto specifico (come "Amo le feste!") e post che fossero molto bassi in quel tratto (come "Odio la folla"). Confrontando i "modelli di luce" di questi due gruppi, hanno identificato gli interruttivi esatti che accendono o spengono il tratto della personalità.

2. Azionare gli Interruttori (Lo Steering)

Una volta saputo quali interruttori controllavano un tratto, non si sono limitati a chiedere al modello di "essere gentile". Invece, hanno fisicamente aggiunto una piccola spinta elettrica a quegli interruttori specifici mentre il modello scriveva.

L'Analogia: Immagina di guidare un'auto. Invece di dire all'autista "Guida più veloce", premi delicatamente l'acceleratore di pochi millimetri. L'auto accelera, ma il motore continua a funzionare nello stesso modo.
Il Risultato: Nudgiando (spingendo leggermente) questi "interruttori della personalità" interni, il modello ha iniziato a scrivere testi che suonavano più come un estroverso, una persona nevrotica o una persona disciplinata, senza cambiare il codice effettivo del modello o riaddestrarlo.

3. Trovare il "Punto Ottimale" (Grid Search)

La parte complicata è che se spingi troppo l'acceleratore, l'auto si schianta. Allo stesso modo, se hanno potenziato troppo gli interruttori della personalità, il modello ha iniziato a scrivere frasi senza senso o a perdere la capacità di rispondere alle domande.

L'Esperimento: Hanno eseguito una massiccia "ricerca a griglia" (grid search), che è come uno chef che assaggia una zuppa e aggiunge sale in piccoli incrementi. Hanno provato diverse quantità di "spinta" sugli interruttori per trovare l'equilibrio perfetto.
L'Obiettivo: Volevano che la personalità fosse abbastanza forte da essere notata, ma non così forte da far dimenticare al modello come si parla l'inglese.

4. Cosa hanno scoperto

L'esperimento ha funzionato, ma non allo stesso modo per tutti:

Le Vittorie Facili: È stato molto facile far suonare il modello Coscienzioso (organizzato, orientato ai dettagli) o Nevrotico (ansioso, emotivo). Questi tratti sembravano avere "interruttori" molto chiari e distinti nel cervello del modello.
La Modalità Difficile: Far sembrare il modello Aperto (curioso, creativo) è stato sorprendentemente difficile. I ricercatori sospettano che ciò sia dovuto al fatto che il modello è già naturalmente molto "aperto" per progettazione, quindi è difficile renderlo più aperto senza rompere la logica.
Il Compromesso: Esiste un limite chiaro. Se spingi troppo la personalità, il testo diventa incoerente. Il modello potrebbe iniziare a ripetersi o a perdere il filo del discorso.

5. Perché questo è importante (secondo l'articolo)

Gli autori sostengono che questo metodo è migliore dei vecchi modi perché:

È Istantaneo: Non è necessario riaddestrare il modello; basta azionare gli interruttori al volo.
È Trasparente: Sai esattamente quali caratteristiche interne stai cambiando, a differenza del prompt engineering dove speri solo che le istruzioni funzionino.
È Controllabile: Puoi regolare la personalità su o giù fino a un livello specifico, invece di avere solo un comando "on" o "off".

In sintesi:
L'articolo dimostra che possiamo trattare la personalità di un'IA non come un tratto magico e immutabile, ma come un insieme di manopole regolabili all'interno del suo codice. Trovando le manopole giuste e ruotandole quanto basta, possiamo far sì che un'IA suoni come un tipo specifico di persona, a patie che non si ruotino le manopole così tanto da rompere la macchina.

Sintesi Tecnica: Analisi Meccanicistica della Personalità degli LLM

Problema
I Large Language Models (LLM) simulano intrinsecamente tratti della personalità simili a quelli umani (specificamente i tratti Big Five/OCEAN) a causa del loro addestramento su vasti dati generati dall'uomo. Sebbene metodi precedenti abbiano tentato di plasmare queste personalità tramite il prompt engineering o il fine-tuning, tali approcci soffrono di significativi svantaggi: inconsistenza nell'output, alta intensità di risorse e il rischio di degradare le prestazioni sui compiti linguistici fondamentali. Inoltre, plasmare più tratti correlati simultaneamente rimane una sfida, richiedendo spesso capacità che modelli più piccoli o meno ottimizzati non possiedono. È necessario un metodo che possa guidare controllabilmente i tratti della personalità a livello meccanicistico senza compromettere le capacità fondamentali di modellazione del linguaggio del modello.

Metodologia
Gli autori propongono un framework di interpretabilità meccanicistica che interviene direttamente sulle caratteristiche latenti del modello per modulare la personalità. La pipeline consiste in quattro componenti principali:

Generazione dei Dati e Creazione del Dataset:
Utilizzando il framework PsyBORGS, gli autori generano 12.000 aggiornamenti di stato in stile Facebook con livelli variabili di espressione dei tratti Big Five. A differenza del lavoro precedente che utilizzava baseline neutrali, questo metodo crea set distinti "Positivi" (alta espressione, punteggio 7–9) e "Negativi" (bassa espressione, punteggio 1–3) per ogni tratto, al fine di identificare sia le caratteristiche di potenziamento che quelle di soppressione del tratto.
Estrazione delle Caratteristiche tramite Sparse Autoencoders (SAE):
Gli autori utilizzano un Sparse Autoencoder (SAE) pre-addestrato e collegato al layer 19 del modello DeepSeek-R1-Distill-Llama-8B. Questo layer è stato selezionato in quanto rappresenta un "punto ottimale" (63% di profondità) dove le caratteristiche sono semanticamente ricche ma a monte dei logit finali.

Analisi Contrastiva: Vengono calcolate le attivazioni medie per i set positivi ( $\mu_P$ ) e negativi ( $\mu_N$ ). Il vettore di differenza $\Delta h = \mu_P - \mu_N$ viene decomposto utilizzando l'encoder SAE per ottenere le differenze latenti $\Delta z$ .
Classifica delle Caratteristiche: I componenti latenti sono classificati in base alla differenza assoluta $|\Delta z_i|$ . Vengono identificati i primi- $k$ elementi che guidano il tratto (direzione positiva) e che lo sopprimono (direzione negativa). Questi vengono convertiti in vettori di caratteristiche unitari ( $u_{ij}$ ) tramite il decoder SAE.

Ottimizzazione tramite Grid Search:
Per determinare l'intervento ottimale, gli autori impiegano un approccio di pesatura lineare bidirezionale. Un vettore di guida (steering vector) viene costruito aggiungendo una combinazione pesata di vettori di caratteristiche positivi e negativi agli stati nascosti del modello ( $h'$ ):
$h' = h + \sum \delta^{pos} u_{ij} + \sum \delta^{neg} u_{jl}$
I coefficienti sono calibrati tramite una grid search su quattro parametri: l'entità degli spostamenti positivi ( $\alpha_{pos}$ ), il numero di caratteristiche positive ( $k_{pos}$ ), l'entità degli spostamenti negativi ( $\alpha_{neg}$ ) e il numero di caratteristiche negative ( $k_{neg}$ ).
L'ottimizzazione massimizza una funzione obiettivo $O$ che bilancia l'espressione del tratto ( $S_{trait}$ ) rispetto a una penalità per la degradazione delle prestazioni ( $C$ ), misurata come il calo relativo dell'accuratezza MMLU:
$O = S_{trait} - \lambda \cdot C$
dove $\lambda$ è fissato a 0.5.
Framework di Valutazione:
L'efficacia della guida è misurata attraverso un approccio multifacettato:

Similarità di Embedding: Similarità del coseno tra il testo generato e gli esempi di riferimento del tratto.
Classificazione basata su LLM: LLM all'avanguardia (Claude 3.7, GPT-4o) giudicano quale di due testi esprima meglio un determinato tratto.
Valutazione Umana: Valutazione umana parallela della stessa coppia di testi.
Metriche di Prestazione: Accuratezza MMLU e controlli di coerenza per garantire la preservazione delle capacità linguistiche.

Contributi Chiave

Metodologia per l'Estrazione delle Caratteristiche: Un approccio innovativo per estrarre caratteristiche rilevanti per la personalità tramite analisi contrastiva tra condizioni di prompt positive e negative, utilizzando SAE per isolare caratteristiche latenti monosemantiche.
Valutazione Multifacettata: L'istituzione di un robusto framework di valutazione che combina la similarità basata su embedding, la classificazione tramite LLM e la valutazione umana per misurare l'espressione della personalità.
Strategie di Guida Raffinate: Lo sviluppo di un approccio di pesatura lineare bidirezionale con ottimizzazione tramite grid search per calcolare gli spostamenti additivi ottimali nello spazio latente, bilanciando l'espressione del tratto con la performance del task.

Risultati

Tassi di Rilevamento: L'intervento è stato rilevato in modo affidabile sia dagli LLM che dagli esseri umani per la maggior parte dei tratti. Coscienziosità e Nevroticismo hanno mostrato i tassi di rilevamento più elevati (>90% sia per gli valutatori LLM che umani). Estroversione e Gradevolezza hanno mostrato tassi moderati, mentre l'Apertura si è rivelata problematica (50% LLM, 30% umano), probabilmente perché gli LLM sono intrinsecamente "aperti" per design o perché il tratto si manifesta in pattern sottili.
Ottimizzazione Specifica per Tratto: La grid search ha rivelato che diversi tratti richiedono diversi profili di intervento.
- L'Estroversione richiedeva il minor numero di caratteristiche (9 positive, 4 negative), suggerendo una rappresentazione latente concentrata.
- L'Apertura richiedeva il maggior numero di caratteristiche (25 positive) e un'alta entità, indicando una codifica distribuita.
- La Coscienziosità richiedeva un mix bilanciato di caratteristiche positive e negative.
Compromessi sulle Prestazioni: Tutti i tratti hanno esibito un "picco" nella funzione obiettivo seguito da un rapido declino delle prestazioni (coerenza e accuratezza MMLU) all'aumentare dell'entità dell'intervento. Ciò evidenzia una soglia critica in cui la manipolazione eccessiva delle caratteristiche degrada le capacità di generazione del linguaggio del modello.
Spostamenti Negativi: Mentre gli spostamenti positivi aumentavano generalmente la similarità con il tratto, gli spostamenti negativi hanno prodotto risultati misti; per l'Apertura, gli spostamenti negativi hanno talvolta prodotto una maggiore similarità con il riferimento del tratto rispetto agli spostamenti positivi, suggerendo relazioni complesse tra l'attivazione delle caratteristiche e l'espressione del tratto.

Significatività e Rivendicazioni
Il paper sostiene di fornire un metodo interpretabile e granulare per la guida della personalità che colma il divario tra osservazioni psicometriche di alto livello e meccanismi neurali di basso livello. La significatività risiede in:

Controllo Meccanicistico: Dimostrare che la personalità può essere modulata intervenendo direttamente su specifiche caratteristiche latenti senza riaddestrare il modello, offrendo una modulazione on-demand.
Interpretabilità: L'uso di SAE consente di identificare direzioni specifiche nel flusso residuo corrispondenti a tratti psicologici, demistificando come questi concetti astratti emergano nel modello.
AI Responsabile: L'approccio offre uno strumento per controllare manifestazioni della personalità indesiderate negli agenti AI, migliorando potenzialmente sicurezza, equità ed efficacia nella comunicazione.
Prospettiva Computazionale sulla Psicologia: Le scoperte suggeriscono che la complessità dei tratti della personalità umana (ad esempio, la natura distribuita dell'Apertura rispetto alla natura concentrata dell'Estroversione) possa essere riflessa nella struttura delle caratteristiche latenti degli LLM.

Gli autori rimangono modesti riguardo alle implicazioni, notando che sebbene il modello esibisca comportamenti associati a specifici tratti, ciò non equivale al possesso di stati psicologici simili a quelli umani. Riconoscono inoltre i limiti riguardanti l'overhead computazionale, la difficoltà di mantenere la coerenza ad alte entità di intervento e la sfida di scindere le dipendenze tra i tratti a causa della polisemanticità delle caratteristiche SAE.