💬 NLP

CoSToM:Causal-oriented Steering for Intrinsic Theory-of-Mind Alignment in Large Language Models

Il paper introduce CoSToM, un framework che allinea i modelli linguistici di grandi dimensioni alla teoria della mente intrinseca mediante l'identificazione causale dei livelli neurali critici e il successivo orientamento delle attivazioni, migliorando significativamente il ragionamento sociale e la qualità del dialogo.

Autori originali: Mengfan Li, Xuanhua Shi, Yang Deng

Pubblicato 2026-04-14

📖 3 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Mengfan Li, Xuanhua Shi, Yang Deng

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina che un'intelligenza artificiale (come un chatbot avanzato) sia come un attore di teatro molto intelligente, ma un po' "distaccato".

Il Problema: L'Attore che recita la parte, ma non la vive

Finora, questi attori (i modelli linguistici) sono bravissimi a rispondere a domande specifiche. Se gli chiedi: "Secondo te, cosa pensa il personaggio X?", loro rispondono perfettamente. Hanno studiato il copione.

Tuttavia, c'è un grosso problema: non lo fanno davvero quando stanno recitando la scena.
Se gli chiedi di negoziare un accordo o convincere qualcuno, spesso dimenticano quello che hanno appena "capito" e rispondono in modo strano o sgarbato, come se avessero perso la memoria. È come se un attore sapesse a memoria la psicologia del suo personaggio, ma quando deve parlare con l'altro attore, improvvisamente dimentichi tutto e inizi a parlare di meteo.

Gli scienziati hanno notato che questi modelli hanno bisogno di istruzioni continue (come un regista che urla "Ricordati di essere gentile!") per comportarsi bene. Senza quelle istruzioni, il loro comportamento "umano" svanisce.

La Soluzione: COSTOM (Il "Trucco" per l'Anima)

I ricercatori hanno creato COSTOM. Non è un nuovo attore, ma un metodo per "sintonizzare" l'anima di quello che già esiste.

Ecco come funziona, passo dopo passo, con delle metafore:

1. La Radiografia (Causal Tracing)

Immagina che il cervello del modello sia una grande torre piena di stanze (strati). Gli scienziati hanno fatto una "radiografia" per capire dove risiede la capacità di capire gli altri (l'empatia, la teoria della mente).

La scoperta: Hanno scoperto che l'empatia non vive nelle stanze più alte e complesse della torre (dove si fa il ragionamento logico), ma è nascosta nelle stanze al piano terra, quelle iniziali dove il modello riceve le informazioni. È lì che il modello "sente" cosa pensano gli altri.

2. Il Dirigibile (Activation Steering)

Una volta trovato il "piano dell'empatia", invece di riaddestrare tutto il modello (che sarebbe come ricostruire l'intera torre), COSTOM usa un dirigibile.

Immagina di avere un timone che puoi muovere leggermente mentre il modello pensa. COSTOM inserisce un piccolo "spintarello" matematico proprio nelle stanze del piano terra.
Questo spintarello dice al modello: "Ehi, mentre elabori questa frase, ricordati sempre di tenere a mente i desideri e le intenzioni dell'altro!".
È un intervento leggero e preciso: non cambia tutto il modello, ma "allinea" solo le parti giuste.

3. Il Risultato: Un Attore che "Vive" la Parte

Grazie a questo intervento, il modello non ha più bisogno che il regista gli urli cosa fare.

Prima: L'attore capiva la psicologia del personaggio solo se glielo scrivevi nel copione.
Dopo (con COSTOM): L'attore ha internalizzato quella comprensione. Quando parla, lo fa naturalmente, con empatia e strategia, perché la sua "mente interna" è stata allineata per farlo.

Perché è importante?

Prima, per avere un'IA che negozia o persuade bene, dovevamo scrivere istruzioni lunghissime e complesse. Con COSTOM:

È più intelligente: Capisce davvero le emozioni e le intenzioni, non le indovina a caso.
È più stabile: Non sbaglia più quando le istruzioni diventano generiche.
È economico: Non serve un supercomputer per addestrarlo di nuovo; basta un piccolo "aggiustamento" chirurgico.

In sintesi

COSTOM è come se dessimo a un robot un cuore umano (o meglio, un "sistema di empatia" interno) invece di dargli solo un manuale di istruzioni. Trasforma un modello che simula di capire le persone in un modello che agisce davvero come se le capisse, rendendo le conversazioni molto più naturali, coerenti e umane.

1. Il Problema: Il Divario tra Cognizione Intrinseca e Comportamento Esterno

Il paper affronta una limitazione fondamentale dei Large Language Models (LLM) attuali: la mancanza di un'allineamento stabile e intrinseco della Teoria della Mente (ToM).

Contesto: Sebbene gli LLM mostrino prestazioni promettenti su benchmark standardizzati di ToM (capacità di attribuire stati mentali come credenze, desideri e intenzioni), spesso falliscono nel generalizzare a scenari complessi e specifici per il compito (es. negoziazioni o persuasione).
Il Fenomeno: Gli autori osservano un "disallineamento critico". Gli modelli possono inferire correttamente gli stati mentali se esplicitamente istruiti (tramite prompting), ma falliscono nell'applicare queste inferenze per generare comportamenti sociali coerenti quando l'istruzione esplicita viene rimossa o sostituita da comandi generici.
Ipotesi: I comportamenti simili alla ToM osservati sono spesso simulazioni ad hoc innescate dal prompt, piuttosto che cognizione intrinseca stabile. Il modello possiede la conoscenza interna, ma non sa come "esternalizzarla" in modo affidabile durante la generazione del testo.

2. Metodologia: Il Framework COSTOM

Per colmare questo divario, gli autori introducono COSTOM (Causal-oriented Steering for ToM alignment), un framework che passa dall'interpretazione meccanicistica all'intervento attivo. Il processo si articola in tre fasi principali:

A. Interpretazione della ToM (Causal Tracing)

L'obiettivo è mappare dove risiedono le caratteristiche della ToM all'interno della rete neurale.

Approccio: Viene utilizzata la tracciatura causale (causal tracing). Vengono create due copie del modello: un encoder di contesto e un decoder di sonda (probe).
Procedura: L'encoder elabora la storia del dialogo. Le attivazioni nascoste ( $h_\ell$ ) di uno specifico strato $\ell$ vengono "iniettate" (patched) nel decoder, che deve rispondere a domande focalizzate sulla ToM (es. "Qual è il desiderio dell'agente?").
Risultato dell'analisi: Questo permette di identificare quali strati contengono l'informazione necessaria per ricostruire gli stati mentali (BDI: Belief, Desire, Intention).

B. Allineamento tramite Intervento (Activation Steering)

Una volta identificati gli strati critici, il framework passa all'intervento attivo per migliorare la capacità di ragionamento sociale.

Obiettivo di Steering: Si formula un obiettivo di supervisione che allinea le attivazioni interne con gli stati mentali reali (ground-truth).
Meccanismo del "Gradient Bridge":
- Il decoder di sonda (fissato) agisce come un verificatore differenziabile.
- Viene calolata una perdita (loss) confrontando l'output del decoder con le etichette BDI reali.
- I gradienti vengono retropropagati attraverso il decoder, attraversano l'interfaccia delle attivazioni patchate e fluiscono a ritroso nell'encoder.
- Cruciale: Poiché le attivazioni sono intercettate a uno strato specifico, i gradienti aggiornano solo gli strati precedenti a quello strato (strati "shallow").
Efficienza: Vengono aggiornati solo un sottoinsieme sparso di parametri (tramite LoRA) negli strati critici identificati, rendendo il metodo leggero e scalabile.

C. Sfruttamento per la Generazione del Dialogo

Nella fase di inferenza, l'encoder ottimizzato (che ora genera rappresentazioni interne ricche di ToM) viene utilizzato per guidare un decoder standard nella generazione della risposta.

Il decoder riceve le attivazioni "arricchite" dall'encoder e le istruzioni del compito (es. "negozia per ottenere legna").
Questo permette al modello di tradurre il ragionamento sociale interno in azioni dialogiche coerenti senza bisogno di prompting esplicito sulla ToM.

3. Contributi Chiave

Interpretazione della ToM: Dimostrazione sistematica che le informazioni relative alla ToM non risiedono negli strati profondi (come spesso si ipotizza per il ragionamento complesso), ma sono predominantemente codificate negli strati iniziali (early layers) degli LLM.
Intervento Efficiente e Leggero: Proposta di COSTOM, un framework di allineamento che induce un ragionamento sociale stabile e umano-like tramite lo steering delle attivazioni, richiedendo aggiornamenti di parametri minimi (solo LoRA su pochi strati).
Miglioramento nei Compiti di Dialogo: Validazione che l'allineamento interno si traduce direttamente in una qualità superiore delle risposte in compiti complessi come negoziazione e persuasione, agendo come un modulo plug-and-play.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su modelli come Llama-3-8B e Qwen2.5-7B utilizzando i dataset NEGOTIATIONTOM e PERSUASIVETOM.

RQ1 (Localizzazione): L'analisi di tracciatura causale ha rivelato che la decodificabilità degli stati mentali (credenza, desiderio, intenzione) è massima negli strati bassi (es. Layer 0-3). L'intenzione è più complessa e appare leggermente più in profondità rispetto alla credenza, ma comunque negli strati iniziali.
RQ2 (Efficacia dello Steering):
- Stabilità: COSTOM previene il "collasso della rappresentazione" (vanishing ToM) che si verifica negli strati profondi dei modelli base. Le informazioni sulla ToM rimangono robuste lungo tutta la profondità del modello.
- Magnitudine: Il metodo recupera segnali che nei modelli base erano quasi nulli (es. l'accuratezza del "desiderio" è passata dal 2.39% al 51.48% in alcuni casi) e amplifica quelli esistenti.
RQ3 (Generazione del Dialogo):
- Prestazioni: COSTOM ha superato significativamente tutti i baselines (inclusi prompting zero-shot, MindDial, e Full-Layer LoRA).
- Metriche: Su NEGOTIATIONTOM, COSTOM ha ottenuto un punteggio di ragionamento ToM di 0.499 contro lo 0.081 del modello base (un miglioramento di ~6x).
- Confronto: L'intervento mirato su pochi strati (COSTOM) ha superato di gran lunga l'ottimizzazione globale (Full-Layer LoRA), suggerendo che il ragionamento sociale è una funzione cognitiva localizzata e che l'aggiornamento indiscriminato di tutti gli strati introduce rumore o sovrascrive caratteristiche pre-addestrate.

5. Significato e Implicazioni

Cognizione Intrinseca: Il lavoro fornisce prove empiriche che gli LLM possiedono una cognizione sociale intrinseca, ma questa è spesso inaccessibile o instabile senza un intervento meccanistico mirato.
Nuovo Paradigma di Allineamento: COSTOM sposta il focus dal "prompt engineering" (che è fragile e ad-hoc) all'"activation steering" (che modifica la dinamica interna del modello per un comportamento stabile).
Efficienza: Dimostra che è possibile ottenere miglioramenti significativi nelle capacità sociali senza il costo computazionale del fine-tuning completo, intervenendo solo su una frazione minima dei parametri.
Limiti: Il metodo richiede l'accesso ai pesi open-source e alle attivazioni interne del modello, limitandone l'applicazione immediata ai modelli proprietari chiusi. Inoltre, la generalizzazione a contesti sociali molto ampi oltre negoziazione e persuasione necessita di ulteriore esplorazione.

In sintesi, COSTOM rappresenta un passo avanti fondamentale verso l'interpretazione e il controllo della "mente" delle macchine, trasformando la ToM da una capacità superficiale dipendente dal prompt a una competenza interna stabile e affidabile.