Sintesi Tecnica: Logica Deduttiva nei Modelli di Linguaggio: Ragionamento Orizzontale vs. Verticale

Definizione del Problema

I recenti Large Language Models (LLM) dimostrano significative capacità di ragionamento logico, eppure i meccanismi computazionali di basso livello che supportano l'inferenza deduttiva rimangono scarsamente compresi. Mentre la letteratura esistente si concentra sulle prestazioni nei benchmark o su descrizioni di alto livello dei circuiti nei modelli pre-addestrati, esiste una lacuna nella comprensione di come i transformer implementino il ragionamento deduttivo multi-step partendo da primi principi. Nello specifico, il documento investiga la distinzione tra due paradigmi di ragionamento:

1. Ragionamento Orizzontale: Un processo autoregressivo in cui gli step intermedi vengono generati token per token, sfruttando i token precedentemente generati per i passaggi successivi (tipicamente elicitato tramite Chain-of-Thought, o CoT).
2. Ragionamento Verticale: Un processo implicito in cui l'inferenza si dispiega attraverso la gerarchia dei layer prima che venga prodotto il primo token di output. Questo è necessario quando il primo token richiede la risoluzione di una parte non banale del problema (ad esempio, determinare un percorso radice-foglia in un albero binario) senza l'ausilio di step intermedi autoregressivi.

Lo studio indaga se piccoli transformer non pre-addestrati possano apprendere regole logiche esplicite piuttosto che scorciatoie statistiche, e come la supervisione CoT influenzi questi distinti modi di ragionamento.

Metodologia

Gli autori utilizzano un approccio di interpretabilità meccanicistica impiegando piccoli modelli transformer decoder-only addestrati da zero su due compiti sintetici progettati per eliminare l'ambiguità del linguaggio naturale e la dipendenza dalle conoscenze di pre-training.

Compiti

1. Task 1 (Conseguenza Logica): Un compito di inferenza logica proposizionale che coinvolge catene di implicazioni (clausole di Horn). Il modello deve decidere se una query ($q_0 \to q_1$) è una conseguenza logica di cinque regole date.
   • Setting CoT: Il modello genera la catena intermedia di implicazioni che conduce alla conclusione prima di emettere un token di decisione finale (1 o 0).
   • Setting Non-CoT: Il modello emette solo il token di decisione finale.
2. Task 2 (Navigazione Radice-Foglia): Un compito che richiede al modello di navigare in un albero binario dalla radice a un nodo foglia specificato, data una lista non ordinata di coppie genitore-figlio.
   • Setting CoT: Il modello genera la sequenza completa dei nodi nel percorso.
   • Setting Non-CoT: Il modello emette un token binario che indica la raggiungibilità.

Architettura del Modello e Addestramento

• Architettura: Modelli "NanoGPT" stile GPT-2 (decoder-only) addestrati da zero. Gli esperimenti hanno utilizzato configurazioni semplificate (ad esempio, 2 layer, 1 testa) per l'interpretabilità e configurazioni standard (6 layer, 8 teste) per le prestazioni.
• Addestramento: I modelli sono stati addestrati su dataset sintetici (da 4K a 150K esempi) con e senza supervisione CoT.
• Strumenti di Interpretabilità:
  • LogitLens: Decodifica del contenuto dello stream residuo nello spazio del vocabolario ai livelli intermedi.
  • Visualizzazione dell'Attenzione: Analisi dei pattern di attenzione e filtraggio per intensità.
  • Pseudo-inversa Truncata: Una nuova tecnica introdotta per decodificare le informazioni trasportate dai vettori Query, Key e Value, disaccoppiando l'informazione specifica estratta dalle teste di attenzione.
  • Mediazione: Calcolo della forza media dell'attenzione attraverso i dataset per isolare i collegamenti di attenzione indipendenti dalla posizione (posizionali).

Contributi Chiave

1. Account Meccanicistico del Ragionamento Orizzontale: Il documento fornisce una spiegazione a basso livello di come un modello superficiale (2 layer) addestrato con CoT risolva il Task 1. Identifica circuiti specifici e interpretabili:
   • Completamento della Regola: Meccanismi simili alle "induction heads" che cercano l'antecedente di una regola corrispondente al token corrente e recuperano il conseguente.
   • Concatenazione delle Regole: Meccanismi che collegano la coda di una regola alla testa della successiva.
   • Processo Decisionale: Circuiti che verificano la catena finale rispetto alla query.
2. Analisi del Ragionamento Verticale: Lo studio dimostizza che il Task 2 (navigazione radice-foglia) richiede un ragionamento verticale. Il modello impara a calcolare l'intero percorso a ritroso (foglia verso radice) internamente attraverso i layer prima di generare il percorso in avanti. Questo comporta l'uso di "token registro" nel prompt come memoria di lavoro.
3. Il Ruolo di CoT come Apprendimento Curricolare: Il documento rivela che nel ragionamento verticale, il CoT non fornisce semplicemente una guida passo dopo passo (come nel ragionamento orizzontale), ma agisce come una forma di Apprendimento Curricolare (Curriculum Learning). Permette al modello di padroneggiare prima problemi sub-problem più semplici (ad esempio, percorsi più brevi o nodi più vicini al target) e generalizzare progressivamente a casi complessi.
4. Nuova Tecnica di Interpretabilità: L'introduzione di un metodo di pseudo-inversa troncata per decodificare i vettori Query, Key e Value, offrendo un nuovo strumento per ispezionare il flusso di informazioni nei meccanismi di attenzione.
5. Modalità di Fallimento senza CoT: Lo studio mostra che senza CoT, i modelli falliscono nell'apprendere gli algoritmi logici intesi per compiti complessi, ricorrendo invece alla memorizzazione o allo sfruttamento di bias del dataset (ad esempio, il conteggio dei letterali distinti) quando tali bias sono presenti.

Risultati

• Ragionamento Orizzontale (Task 1): Un semplice modello a 2 layer addestrato con CoT raggiunge circa il 100% di accuratezza e generalizza perfettamente. L'analisi meccanicistica conferma l'emergere di induction heads che eseguono operazioni di "copia-ricerca-recupero" per concatenare le regole. Senza CoT, il modello non riesce a convergere verso una soluzione generalizzabile, spesso memorizzando il set di addestramento o sfruttando scorciatoie statistiche (come il conteggio dei letterali) se sono presenti bias nel dataset.
• Ragionamento Verticale (Task 2): Un modello a 6 layer addestrato con CoT risolve con successo il compito di navigazione radice-foglia. Il modello impara implicitamente a attraversare l'albero all'indietro (foglia verso radice) all'interno dello stream residuo dell'ultimo token del prompt, memorizzando i nodi intermedi in posizioni "registro", e poi genera il percorso in avanti.
  • Senza CoT, il modello non impara la logica di navigazione a meno che non sia presente un bias di generazione specifico (una caratteristica statistica sfruttabile). Una volta rimosso il bias, le prestazioni scendono quasi a livelli casuali.
  • Il CoT facilita questo apprendimento abilitando un effetto curricolare: il modello impara prima a predire i token più vicini al target foglia, per poi estendere questa competenza alla radice.
• Induction Heads: Le induction heads sono identificate come componenti centrali in entrambi i modi di ragionamento, facilitando il matching degli antecedenti delle regole e il recupero dei conseguenti nel ragionamento orizzontale, e abilitando il backtracking nel ragionamento verticale.

Significato e Rivendicazioni

Il documento sostiene di fornire un account a basso livello di come i transformer implementano il ragionamento deduttivo, contrapponendosi ai lavori precedenti che offrono descrizioni di alto livello o si concentrano su scorciatoie statistiche.

• Distinzione tra Modi di Ragionamento: Il lavoro chiarisce che il CoT serve funzioni diverse a seconda del paradigma di ragionamento: abilita la decomposizione esplicita passo dopo passo nel ragionamento orizzontale, mentre agisce come uno scaffold curricolare per il calcolo implicito, layer-wise, nel ragionamento verticale.
• Necessità della Supervisione: I risultati suggeriscono che per compiti deduttivi complessi, la supervisione intermedia esplicita (CoT) è cruciale per l'apprendimento degli algoritmi logici sottostanti. Senza di essa, i modelli tendono a memorizzare o sfruttare i bias piuttosto che apprendere regole di ragionamento generalizzabili.
• Generalizzabilità dei Meccanismi: I risultati supportano la visione secondo cui i modelli di linguaggio possono fare affidamento su strategie computazionali differenti (simbolico-regole vs sub-simbolico-numerico) a seconda della natura del compito. Lo studio evidenzia come le induction heads, precedentemente associate principalmente all'apprendimento in-context, siano fondamentali per implementare circuiti di inferenza logica.
• Limitazioni: Gli autori notano con modestia che la loro analisi a basso livello si basa su architetture semplificate (modelli superficiali, embedding condivisi) e sintassi simbolica. Sebbene i meccanismi siano chiari in questo contesto, potrebbero non trasferirsi direttamente a modelli più grandi e pre-addestrati o a contesti naturalistici. Inoltre, i meccanismi specifici per la fusione di percorsi parziali nel ragionamento verticale, quando la lunghezza del percorso supera la profondità del modello, rimangono parzialmente inesplicati.

In sintesi, il paper sostiene che comprendere i circuiti computazionali specifici (come le induction heads) e il ruolo della supervisione (CoT) è essenziale per progettare modelli robusti capaci di un vero ragionamento deduttivo, piuttosto che di una mera approssimazione statistica.