Riepilogo Tecnico: Credenza o Circuiti? Evidenza Causale per l'Apprendimento di Grafi in Contesto

1. Enunciato del Problema

Il documento affronta un dibattito fondamentale nell'interpretabilità meccanica riguardo a come i Modelli Linguistici di Grandi Dimensioni (LLM) eseguano l'apprendimento in contesto (ICL). Nello specifico, indaga se gli LLM inferiscano relazioni strutturali latenti (un meccanismo di "credenza" analogo all'inferenza bayesiana su modelli del mondo) o semplicemente copino transizioni locali recenti tramite circuiti di induzione (un meccanismo di "circuiti").

Mentre lavori recenti (Park et al., 2025) hanno suggerito che gli LLM mantengono modelli probabilistici impliciti del mondo su strutture a grafo, contro-argomentazioni (Arditi, 2026; Ransome, 2026) sostengono che i comportamenti osservati possano essere spiegati interamente da teste di induzione locali che accumulano statistiche di transizione senza inferenza di struttura globale. Gli autori mirano a triangolare questo dibattito utilizzando un compito giocattolo controllato che coinvolge camminate casuali su strutture a grafo concorrenti.

2. Metodologia

Lo studio impiega un approccio multifacciale che combina modellazione comportamentale, analisi rappresentazionale e interventi causali sul modello Llama-3.1-8B.

2.1. Progettazione del Compito

Gli autori utilizzano un compito di camminata casuale su grafo in cui il modello prevede il nodo successivo in una sequenza generata da un grafo sconosciuto. Vengono testate due ipotesi concorrenti:

• $H_{grid}$: Un grafo a griglia $4\times4$ (16 nodi, 24 archi, grado variabile).
• $H_{ring}$: Un grafo ad anello a 16 nodi (16 archi, grado uniforme).

Per creare una vera competizione, gli autori intercalano camminate casuali da entrambi i grafo a rapporti di miscelazione controllati ($\rho$), dove $\rho$ rappresenta la probabilità che un segmento sia estratto dall'anello.

2.2. Modellazione Comportamentale (Esperimento 1)

Gli autori adattano un modello di dinamiche di credenza alle curve di accuratezza osservate. A differenza dei precedenti approcci con log-priori piatti, introducono un prior pesato per la complessità:
$$b_k = b_0 - \lambda \cdot C(H_k)$$
Dove $C(H_k)$ è la complessità della Lunghezza Minima di Descrizione (MDL) dell'ipotesi di grafo (basata sulla codifica della lista degli archi).

• Ipotesi: Se il modello esegue inferenza strutturale, dovrebbe richiedere più evidenze per impegnarsi con il grafo più complesso ($H_{grid}$), risultando in $\hat{\lambda} > 0$.
• Contrasto: I circuiti di induzione puri dovrebbero accumulare statistiche di transizione uniformemente indipendentemente dalla topologia globale, prevedendo $\hat{\lambda} \approx 0$.

2.3. Analisi Rappresentazionale (Esperimento 2)

Gli autori analizzano le attivazioni del flusso residuo (specificamente il livello 26) utilizzando l'Analisi delle Componenti Principali (PCA).

• Metrica: Misurano l'energia di Dirichlet normalizzata per grado ($E_{norm}$) per quantificare quanto bene la geometria a bassa dimensionalità delle rappresentazioni dei token-nodo si allinei con la vera struttura di adiacenza del grafo.
• Obiettivo: Determinare se entrambe le topologie di grafo sono simultaneamente recuperabili in sottospazi ortogonali a rapporti di miscelazione intermedi, una firma incompatibile con una singola rappresentazione mescolata derivante dalla copia locale.

2.4. Interventi Causali (Esperimento 3)

Per stabilire la causalità tra rappresentazioni interne e previsioni, gli autori eseguono due interventi:

1. Patching delle Attivazioni: Sostituendo le attivazioni del flusso residuo da un prompt "corrotto" (misto) con quelle da un prompt "pulito" (singolo grafo) a livelli specifici. Misurano il recupero della preferenza per il grafo pulito utilizzando un punteggio di contrasto dei logit.
2. Steering delle Attivazioni: Aggiungendo un "vettore di differenza del grafo" appreso (derivato da contesti puliti vs anello) al flusso residuo per spostare le previsioni verso una specifica famiglia di grafi.

3. Risultati Chiave

3.1. Evidenza Comportamentale

• Sensibilità alla Complessità: Il modello adattato mostra $\hat{\lambda} > 0$ e $\hat{b}_{grid} < \hat{b}_{ring}$. Il modello richiede un contesto sproporzionatamente più ampio per impegnarsi con la topologia a griglia più densa rispetto all'anello.
• Transizione di Fase: Il punto di flesso per la griglia si sposta monotonicamente in avanti all'aumentare dell'evidenza dell'anello.
• Selezione del Modello: Una parametrizzazione per-grafo (che permette dinamiche distinte per ciascun grafo) supera significativamente un'ablazione del bias di miscela (che aggiusta solo il prior) sui metrici AIC e BIC. Ciò suggerisce che il modello elabora le evidenze strutturali in modo diverso per ciascuna topologia, non solo tramite un prior statico.

3.2. Evidenza Rappresentazionale

• Sottospazi Ortogonali: A rapporti di miscelazione intermedi ($\rho = 0.5$), la PCA rivela che entrambe le topologie a griglia e ad anello sono codificate simultaneamente in sottospazi principali ortogonali.
• Implicazione: Un meccanismo di induzione puramente locale produrrebbe una singola rappresentazione mescolata delle statistiche di co-occorrenza. L'esistenza di due strutture globali separabili contraddice l'ipotesi "solo copia".
• Allineamento Geometrico: Man mano che la lunghezza del contesto supera il punto di flesso, la geometria interna rispecchia progressivamente la vera topologia, con $E_{norm}$ che si sposta da 0,785 a 0,828.

3.3. Evidenza Causale

• Trasferimento del Patch: Il patching degli strati tardivi (intorno ai livelli 26–30) trasferisce quasi completamente la preferenza per il grafo pulito al prompt corrotto. Crucialmente, questo effetto si estende agli archi tenuti fuori (vicini mai visti nel contesto corrotto), indicando che il modello non sta semplicemente riproducendo transizioni osservate ma sta utilizzando una rappresentazione strutturale.
• Steering: Lo steering lineare utilizzando il vettore di differenza del grafo sposta con successo le previsioni nella direzione intesa. Questo effetto è robusto rispetto a vettori casuali abbinati per norma e controlli con etichette mescolate, confermando che la direzionalità è specifica per il segnale della famiglia di grafi.

4. Contributi

1. Prior Pesato per la Complessità: Sostituzione dei prior piatti con una misura di complessità ispirata alla MDL, recuperando una firma quantitativa di bias strutturale sensibile alla topologia ($\hat{\lambda} > 0$).
2. Competizione Intercalata: Dimostrazione che l'accumulo di evidenze con bias topologico resiste alla previsione del circuito di induzione di un comportamento simmetrico in un regime di ipotesi miste.
3. Codifica Simultanea: Fornitura di prove PCA che distinte topologie globali di grafo sono recuperabili in sottospazi ortogonali simultaneamente, un pattern difficile da conciliare con la copia di transizioni locali.
4. Legame Causale: Stabilimento, tramite patching e steering, che queste strutture rappresentazionali controllano causalmente le previsioni del prossimo token, incluse per transizioni non viste.

5. Significato e Conclusione

Il documento conclude che la dicotomia tra "credenza" (inferenza di struttura globale) e "circuiti" (induzione locale) è probabilmente una falsa dicotomia. Le evidenze supportano un conto a doppio meccanismo:

• Cache simili all'induzione rimangono importanti, come dimostrato dagli effetti ritardati sugli archi tenuti fuori e dal recupero incompleto sotto steering.
• Rappresentazioni di struttura latente operano in parallelo, integrando evidenze prima della previsione finale.

Gli autori affermano che l'architettura di questa coesistenza, dove l'inferenza di struttura genuina e i circuiti di induzione operano simultaneamente, è la sfida principale per l'interpretabilità meccanica in avanti. Non sostengono che gli LLM possiedano un ragionamento completo simile a quello umano, ma piuttosto che mantengano modelli probabilistici del mondo impliciti e manipolabili accanto a meccanismi di corrispondenza di pattern locali.