Riepilogo Tecnico: Ragionamento Relazionale e Induzione Induttiva nei Transformer e nei Modelli Linguistici di Grande Dimensione

Enunciato del Problema

I modelli basati su transformer hanno dimostrato capacità di ragionamento notevoli, eppure i meccanismi alla base del ragionamento relazionale—in particolare la capacità di inferire relazioni tra elementi indirettamente correlati—rimangono scarsamente compresi. Esiste un divario critico nel distinguere come i modelli eseguono l'inferenza transitiva (ad esempio, se $A > B$ e $B > C$, allora $A > C$) in due regimi di apprendimento distinti:

1. Apprendimento nei Pesi (IWL): Le informazioni sono memorizzate nei parametri del modello durante l'addestramento.
2. Apprendimento in Contesto (ICL): Le informazioni sono fornite dinamicamente all'interno della sequenza di input al momento dell'inferenza.

Sebbene l'ICL sia stato studiato nella classificazione e nella regressione, il suo comportamento nei compiti di ragionamento relazionale non è chiaro. È difficile determinare se i modelli linguistici di grandi dimensioni (LLM) facciano affidamento su conoscenze pregresse codificate nei pesi o stiano eseguendo una vera inferenza in contesto, in gran parte a causa del controllo limitato sui dati di addestramento nei modelli pre-addestrati. Questo articolo indaga come queste modalità di apprendimento differiscano nei loro pregiudizi induttivi e nei pattern di generalizzazione, utilizzando l'inferenza transitiva come compito prototipico.

Metodologia

Gli autori hanno adottato un approccio multifacciale che combina esperimenti controllati su piccoli transformer addestrati da zero con esperimenti di sondaggio (probing) su modelli linguistici di grandi dimensioni (LLM).

1. Configurazione del Compito di Inferenza Transitiva

Il compito centrale coinvolge una gerarchia di elementi (ad esempio, $A > B > C > \dots > G$).

• Input: Coppie di elementi (token) con etichette che indicano il loro ordine relativo (+1 se il primo > secondo, -1 altrimenti).
• Dati di Addestramento: I modelli sono addestrati esclusivamente su coppie adiacenti (distanza simbolica = 1, ad esempio $A>B$, $B>C$).
• Valutazione: I modelli sono testati su coppie non adiacenti (distanza simbolica > 1, ad esempio $A>C$) per misurare la generalizzazione transitiva.
• Architettura: Un transformer a due livelli, solo attenzione (omettendo gli MLP per l'interpretabilità), che utilizza embedding ResNet18 di immagini Omniglot come caratteristiche di input.

2. Condizioni Sperimentali

Lo studio confronta tre regimi di addestramento specifici:

• IWL (Gerarchia Fissa): La gerarchia è fissa in tutte le sequenze di addestramento. Gli esempi di contesto sono casuali e irrilevanti, costringendo il modello a imparare la struttura di classificazione nei suoi pesi.
• ICL Standard (Gerarchia Dinamica): Una nuova gerarchia casuale viene assegnata per ogni sequenza di addestramento. Il contesto contiene tutte le coppie adiacenti per quella specifica sequenza. Il modello deve inferire la classificazione dal contesto, impedendo la memorizzazione nei pesi di gerarchie specifiche.
• ICL con Pre-addestramento a Regressione Lineare: I modelli vengono prima pre-addestrati su un compito di regressione lineare in contesto (prevedere $y = Wx$) in cui i pesi $W$ cambiano per ogni sequenza. Questo costringe il modello a imparare una rappresentazione lineare latente tramite ICL prima di essere valutato sul compito di inferenza transitiva.

3. Analisi Meccanicistica

Per comprendere come i modelli risolvono il compito, gli autori hanno utilizzato:

• Analisi delle Componenti Principali (PCA): Per visualizzare la geometria delle rappresentazioni degli strati nascosti.
• Analisi dei Pattern di Attenzione: Per identificare meccanismi circuitali specifici, come le "teste di induzione" (attenzione al token precedente + teste di induzione).
• Studi di Ablazione: Rimozione sistematica delle teste di attenzione per testare l'importanza causale.

4. Sondaggio su Modelli Linguistici di Grande Dimensione (LLM)

Per testare la generalizzabilità, gli autori hanno utilizzato il dataset ReCogLab con LLM pre-addestrati (famiglie Gemini e Gemma). Hanno impiegato un paradigma di congruenza:

• Congruente: Le relazioni sono allineate con la conoscenza del mondo reale (ad esempio, Balena > Delfino).
• Incongruente: Le relazioni contraddicono la conoscenza del mondo reale (ad esempio, Pesce Rosso > Delfino).
• Impalcatura Geometrica: I prompt sono stati arricchiti con istruzioni per immaginare gli elementi su una retta numerica lineare (supporta la transitività) rispetto a un cerchio (viola la transitività a causa del riavvolgimento).

Risultati Chiave

1. Comportamenti Divergenti in IWL vs. ICL Standard

• Modelli IWL: Esibiscono naturalmente l'inferenza transitiva nonostante siano addestrati solo su coppie adiacenti. Mostrano effetti comportamentali simili a quelli umani:
  • Effetto della Distanza Simbolica: L'accuratezza aumenta all'aumentare della distanza tra gli elementi nella gerarchia.
  • Effetto degli Elementi Terminali: Prestazioni superiori sugli elementi alle estremità della gerarchia.
  • Rappresentazioni: La PCA rivela un embedding continuo e lineare in cui gli elementi sono disposti in base alla distanza simbolica con segno.
• Modelli ICL Standard: Non riescono a generalizzare in modo transitivo quando addestrati solo su coppie adiacenti.
  • Raggiungono un'alta accuratezza sulle coppie adiacenti (memorizzazione) e sugli elementi terminali, ma performano a caso sulle coppie interne non adiacenti.
  • Meccanismo: Si affidano a un circuito di induzione (strategia di corrispondenza e copia) piuttosto che imparare strutture relazionali. La PCA non mostra rappresentazioni basate sulla distanza; il modello semplicemente copia l'etichetta dal contesto se la coppia è presente.
  • Nota: Se i modelli ICL sono esplicitamente addestrati su coppie non adiacenti, possono imparare la transitività, ma non esibiscono l'effetto della distanza simbolica osservato nell'IWL.

2. Il Ruolo del Pre-addestramento Lineare

• Il pre-addestramento dei modelli ICL su regressione lineare in contesto altera fondamentalmente il loro comportamento.
• Questi modelli esibiscono inferenza transitiva, effetti della distanza simbolica ed effetti degli elementi terminali sul successivo compito TI.
• Meccanismo: Il circuito di induzione scompare. Invece, il modello sviluppa rappresentazioni distribuite che catturano le relazioni gerarchiche, simili ai modelli IWL. Il compito di regressione lineare induce una struttura rappresentazionale additiva (ranghi scalari) in cui la transitività emerge matematicamente ($rank(A) > rank(B) \land rank(B) > rank(C) \implies rank(A) > rank(C)$).

3. Risultati nei Modelli Linguistici di Grande Dimensione

• Congruenza: Gli LLM performano meglio su sonde di ragionamento relazionale congruenti (sfruttando conoscenze memorizzate simili all'IWL) rispetto a quelle incongruenti (che richiedono puro ICL).
• Impalcatura Geometrica: Quando stimolati con compiti incongruenti, i prompt di geometria lineare ("Immagina una retta numerica") migliorano significativamente l'inferenza transitiva rispetto ai prompt circolari ("Immagina un cerchio").
• Questo effetto è più pronunciato nelle condizioni incongruenti e scala con la dimensione del modello (nei modelli Gemma), suggerendo che gli LLM possiedono rappresentazioni lineari latenti che possono essere attivate da un adeguato inquadramento geometrico.

Contributi Chiave

1. Caratterizzazione dei Pregiudizi Induttivi: Il documento dimostra che IWL e ICL portano a strategie computazionali qualitativamente diverse. L'IWL induce naturalmente un pregiudizio lineare e transitivo, mentre l'ICL standard ricade su una strategia di corrispondenza e copia a meno che i dati di addestramento o il pre-addestramento non richiedano esplicitamente una generalizzazione relazionale.
2. Spiegazione Meccanicistica: Gli autori identificano che la mancanza di generalizzazione transitiva nell'ICL standard è dovuta alla formazione di circuiti di induzione (corrispondenza di pattern) piuttosto che all'apprendimento di strutture relazionali. Al contrario, il pre-addestramento a regressione lineare sopprime questi circuiti a favore di rappresentazioni lineari distribuite.
3. Collegamento tra Modelli Piccoli e LLM: Utilizzando il prompting geometrico, lo studio dimostra che i risultati degli esperimenti controllati su piccola scala si generalizzano ai moderni LLM. Fornisce prove che la capacità degli LLM di eseguire ragionamento transitivo dipende dall'accesso a rappresentazioni opportunamente strutturate, sia memorizzate nei pesi che attivate tramite contesto.

Significato e Affermazioni

Il documento afferma che la capacità di inferenza transitiva nei transformer non è una capacità fissa, ma è criticamente determinata da:

1. Il Regime di Addestramento: Se le informazioni sono apprese nei pesi o in contesto.
2. La Struttura Geometrica delle Rappresentazioni: Se le rappresentazioni indotte sono lineari (che supportano la transitività) o si basano sulla corrispondenza di pattern.

Gli autori concludono che, sebbene i transformer possano eseguire inferenza transitiva, l'ICL standard su coppie adiacenti non produce automaticamente questa capacità. Piuttosto, richiede un pre-addestramento specifico che induca rappresentazioni lineari (come la regressione lineare) o l'attivazione di strutture lineari latenti attraverso il prompting geometrico negli LLM. Questo lavoro evidenzia che il "ragionamento" negli LLM è spesso una riflessione della struttura geometrica delle rappresentazioni che sono costretti a usare o accedere, piuttosto che un meccanismo intrinseco di deduzione logica.