Riepilogo Tecnico: Il Legame Causale della Lingua

Enunciato del Problema

Il documento affronta un disallineamento critico tra le capacità di ragionamento causale interno dei Modelli Linguistici di Grandi Dimensioni (LLM) e le loro espressioni testuali esplicite. Mentre i benchmark standard valutano il ragionamento causale basandosi sull'accuratezza delle risposte "Sì/No" di un modello, questo lavoro indaga se gli LLM possiedano la direzione causale corretta nei loro stati nascosti anche quando la loro output verbale non riesce a esprimerla. Nello specifico, gli autori si concentrano su query causali anti-senso comune (ad esempio, prompt che stabiliscono che "il fumo previene il cancro ai polmoni"), dove i modelli spesso ricadono su prior del senso comune nella loro output, nonostante le evidenze nel prompt suggeriscano il contrario.

Il problema centrale è che una singola metrica di accuratezza sui benchmark basati solo sull'output confonde due modalità di fallimento distinte:

1. Pappagalli Causali: Il modello manca completamente del segnale causale interno e si affida a euristiche superficiali.
2. Legame Causale della Lingua: Il modello codifica internamente la direzione causale supportata dalle evidenze, ma non riesce a verbalizzarla nel formato di output standard.

Metodologia

Gli autori propongono un protocollo di misurazione che confronta due canali di lettura dallo stesso singolo passaggio in avanti di un decoder transformer congelato e istruito:

1. Lettura Interna (Sonda): Una sonda lineare (regressione logistica congelata) o una direzione di sottospazio controfattuale ($V_{cs}$) derivata dalle attivazioni degli stati nascosti ($h^{(\ell)}$) all'ultimo token del prompt.
2. Output Esterno: Le probabilità del prossimo token del modello stesso ($lm\_head$) per la risposta standard "Sì/No".

Configurazione Sperimentale

• Dataset: Lo studio utilizza CLADDER (Jin et al., 2023) e CounterBench (Chen et al., 2025), concentrandosi su elementi anti-senso comune (anti-CS) in cui l'evidenza del prompt contraddice i prior del mondo reale.
• Coppie Minime Controfattuali: Per ogni prompt $x_i$, viene generata una coppia controfattuale $x_i^{cf}$ scambiando le parole causali (ad esempio, "causa" vs "previene") per invertire la risposta corretta mantenendo invariata la forma superficiale. La differenza negli stati nascosti ($\Delta h$) definisce il segnale della direzione causale.
• Modelli: Il protocollo è applicato su otto modelli istruiti, inclusi Qwen2.5 (da 0.5B a 72B), Mistral-7B e DeepSeek-7B.
• Controlli: Lo studio impiega controlli rigorosi per escludere la memorizzazione di parole superficiali, tra cui:
  • Sottospazi Finti: Sonde addestrate su prompt con entità nonsenso.
  • Controlli di Direzione Casuale: Vettori casuali di Haar dello stesso rango.
  • Variazione delle Parole Causali: Rimozione o alterazione del vocabolario causale mantenendo la struttura.
  • Variazioni dell'Interfaccia: Test di diversi formati di risposta (Sì/No, scelta forzata A/B, Vero/Falso, Cinese, ecc.).

Contributi Chiave

Il documento introduce il concetto di Legame Causale della Lingua, definito come il fenomeno empirico in cui:
$$\Delta = Acc_{probe} - Acc_{out} \approx +0.5$$
Sugli elementi anti-senso comune, la sonda lineare recupera la risposta supportata dalle evidenze con alta accuratezza ($\approx 0.97$), mentre l'output verbale Sì/No ricade sul prior del senso comune ($\approx 0.5$).

Gli autori formalizzano un quadro 2×2 per i fallimenti dei benchmark causali:

• (a) Allineato Corretto: Sia la sonda che l'output sono corretti.
• (b) Legame Causale della Lingua (Questo Lavoro): La sonda è corretta; l'output è sbagliato (focus del documento).
• (c) Pappagallo Causale: La sonda non trova nulla; l'output è corretto per euristiche superficiali.
• (d) Fallimento Autentico: Entrambi sono sbagliati.

Risultati Empirici

1. Scalabilità del Divario: Il divario ($\Delta \approx +0.5$) persiste attraverso le dimensioni dei modelli da 0.5B a 72B parametri. All'aumentare delle dimensioni del modello, l'accuratezza della sonda interna aumenta (raggiungendo 1.0 su 72B), mentre l'accuratezza dell'output rimane stagnante vicino al caso (0.35–0.53).
2. Validità del Segnale Interno:
   • La direzione della sonda non è casuale; traccia l'evidenza causale, non solo le parole superficiali.
   • Lesionamento: Proiettare la direzione causale ($V_{cs}$) fuori dallo stato nascosto collassa la capacità interna del modello di distinguere le coppie controfattuali (caduta KL del -96.3%), confermando che la direzione è funzionalmente utilizzata per il confronto interno.
   • Patching delle Attivazioni: Sostituire lo stato nascosto di un elemento anti-CS sbagliato con quello di un elemento di senso comune abbinato inverte l'accuratezza dell'output da 0 a 0.57, dimostrando che lo stato interno contiene informazioni sufficienti per correggere l'output, sebbene un semplice scambio scalare del vettore di direzione sia insufficiente.
3. Dipendenza dall'Interfaccia: Il fallimento è localizzato all'interfaccia di risposta verbale.
   • Quando il formato di output viene modificato in una scelta forzata strutturata A/B (ad esempio, "Quale è più plausibile: A. c causa e, o B. c non causa?"), l'accuratezza salta a quasi perfetta (1.0), mentre il formato standard Sì/No rimane al caso.
   • Il divario persiste attraverso diverse forme superficiali (Sì/No, Vero/Falso, Cinese "Shi/Fou"), indicando che il problema non è specifico dei token "Sì/No" ma piuttosto del passo di impegno nell'interfaccia verbale.
4. Analisi dell'Entropia: Il modello mostra bassa entropia (alta confidenza) sulla risposta sbagliata nel formato Sì/No, indicando un "impegno sbagliato sicuro" guidato dai prior del senso comune, mentre il formato A/B permette al segnale interno di esprimersi con entropia vicina allo zero.

Significato e Affermazioni

Il documento afferma che conclusioni generali su se gli LLM possano eseguire ragionamenti causali basati su un singolo numero di accuratezza dell'output sono errate.

• Rivalutazione dei Benchmark: Un verdetto "sbagliato" di un benchmark non significa necessariamente che il modello manchi di conoscenza causale; potrebbe semplicemente significare che il modello non può esprimere quella conoscenza attraverso l'interfaccia verbale specifica utilizzata. Viceversa, un verdetto "corretto" non garantisce che il modello abbia compreso il meccanismo causale (potrebbe essere un Pappagallo Causale).
• Natura del Fallimento: Gli autori caratterizzano il Legame Causale della Lingua come un fallimento dell'interfaccia verbale, non come una mancanza di rappresentazione interna. Il modello "sa" la risposta nei suoi stati nascosti ma è "legato" nella sua capacità di dirlo quando costretto a impegnarsi in un formato verbale distorto dal senso comune.
• Limitazioni: Gli autori dichiarano esplicitamente che "codifica" in questo contesto si riferisce alla recuperabilità di una direzione lineare nello stato nascosto, non a una comprensione simile a quella umana o a un circuito causale completo. La direzione interna è causalmente sufficiente per correggere l'output in oltre il 50% dei casi ma non in tutti, e la direzione recuperata è sensibile alla formulazione del template.

In sintesi, il documento sostiene una valutazione a doppio canale degli LLM (stato interno + output esterno) per distinguere tra fallimenti di ragionamento autentici e limitazioni espressive, invitando alla cautela nell'interpretare i benchmark causali basati solo sull'output.