Context Structure Reshapes the Representational Geometry of Language Models

Sintesi Tecnica: La struttura del contesto rimodella la geometria rappresentativa dei modelli linguistici

Problema
I Large Language Models (LLM) dimostrano la capacità di adattarsi a nuovi compiti e di apprendere strutture all'interno della finestra di contesto (In-Context Learning, o ICL). Sebbene ricerche precedenti abbiano stabilito che gli LLM organizzano le sequenze di input in traiettorie neurali più "diritte" negli strati profondi per facilitare la predizione del token successivo tramite estrapolazione lineare, rimane poco chiaro se questo raddrizzamento rappresentativo sia un meccanismo universale per tutte le forme di ICL. Nello specifico, il rapporto tra la struttura del contesto e il modo in cui gli LLM rimodellano le loro rappresentazioni interne per adattare il comportamento non è ancora pienamente compreso. Questo studio indaga se il raddrizzamento rappresentativo avvenga in modo coerente attraverso diverse tipologie di compiti di in-context learning o se sia contingente a specifiche strutture del compito.

Metodologia
Gli autori hanno analato il modello Gemma-2-27B (versione base/pre-trained) attraverso tre distinte classi di compiti progettati per sondare diversi esigenze cognitive e strutture di dati:

1. Dipendenze a lungo raggio nel linguaggio naturale: Utilizzando il dataset LAMBADA, lo studio ha esaminato come i modelli integrino contesti più ampi per predire l'ultima parola di un passaggio, confrontandolo con un controllo di "testo casuale" dove la struttura semantica è stata distrutta.
2. Compiti Grid World: Compiti sintetici che richiedono al modello di inferire strutture di grafi latenti da sequenze lineari di token. Questi includevano:
   • Mappatura Diretta: Cammini casuali su un reticolo 6x6 di parole uniche.
   • Mappatura Gerarchica: Inferenza di un grafo latente nascosto 4x4 da osservazioni rumorose di token "figli" associati a nodi latenti.
   • Transizioni 0-shot: Test della capacità del modello di inferire transizioni tra nodi latenti che non sono mai stati esplicitamente osservati nel contesto.
3. Compiti di Predizione Strutturata:
   • Apprendimento Few-Shot: Standard benchmark (es. Country-Capital, ragionamento algoritmico) formattati come coppie alternate "Q: [Input]" e "A: [Output]".
   • Indovinelli (Riddles): Un compito di disambiguazione semantica dal dataset BIG-bench, confrontando le prestazioni 0-shot e 8-shot.

Metriche Geometriche e Comportamentali
Per quantificare la geometria rappresentativa, gli autori hanno impiegato quattro metriche complementari attraverso gli strati del transformer:

• Raddrizzamento (Straightening): Misurato come la riduzione della curvatura locale (angolo tra vettori di transizione consecutivi) dallo strato primo agli strati successivi.
• Raddrizzamento di Menger: Una misura di curvatura complementare basata sul raggio del cerchio circoscritto di tre punti consecutivi.
• Dimensionalità Effettiva: Stimata tramite il Participation Ratio degli autovalori della PCA per misurare il volume dello spazio di rappresentazione.
• Allungamento (Elongation): Misurato tramite l'anisotropia della traiettoria (varianza lungo il primo rispetto al secondo componente principale).

Le prestazioni comportamentali sono state valutate tramite differenze di logit (per i grid worlds) e accuratezza di corrispondenza esatta (per i compiti few-shot).

Risultati Chiave
Lo studio rivela una dicotomia fondamentale nel modo in cui le rappresentazioni degli LLM cambiano durante l'ICL, dipendente dalla struttura del compito:

1. Compiti di Predizione Continua (Linguaggio Naturale e Grid Worlds):

   • Nei compiti che richiedono l'integrazione di dipendenze a lungo raggio o l'inferenza di strutture di grafi latenti, l'aumento della lunghezza del contesto porta a un aumento costante del raddrizzamento rappresentativo, particolarmente negli strati intermedi (Layer 15–25).
   • Questo raddrizzamento correla fortemente con il miglioramento comportamentale (es. maggiore separazione dei logit tra vicini validi e non vicini).
   • Nei mondi grid gerarchici, il raddrizzamento persiste anche nelle condizioni di transizione 0-shot, suggerendo che il modello apprenda il grafo latente sottostante piuttosto che memorizzare semplicemente coppie di token.
   • Geometricamente, questi compiti mostrano una contrazione della rappresentazione su un manifold a dimensionalità inferiore e più anisotropo (allungato).

2. Compiti di Predizione Strutturata (Few-Shot e Indovinelli):

   • Nei compiti che richiedono la mappatura di esempi discreti verso output (es. Country-Capital, Indovinelli), il raddrizzamento rappresentativo è incoerente e si dissocia dal nucleo computazionale del compito.
   • Dissociazione di Fase: Decomponendo gli esempi few-shot in fasi di Domanda, Transizione (formattazione) e Risposta:
     • La fase di Transizione (es. "\n A:") mostra un raddrizzamento progressivo con l'aggiunta di più esempi, comportandosi come una continuazione prevedibile.
     • La fase di Domanda mostra spesso un calo nel raddrizzamento dopo il primo esempio.
     • Crucialmente, la fase di Risposta (dove viene generata la soluzione effettiva) non mostra un raddrizzamento progressivo e, in alcuni casi (come negli indovinelli), mostra una significativa diminuzione del raddrizzamento con l'aumentare del contesto.
   • Ciò indica che il meccanismo che risolve la logica centrale del compito (mappatura input-output) non si affida alla linearizzazione delle traiettorie neurali osservata nella predizione continua.

Significatività e Rivendicazioni
Il documento sostiene che l'In-Context Learning non è un processo monolitico guidato da un singolo meccanismo geometrico. Inveove, gli autori propongono che gli LLM funzionino come un "coltellino svizzero", selezionando dinamicamente strategie computazionali basate sulla specifica struttura del compito.

• Per i compiti di predizione continua, il modello utilizza una strategia di raddrizzamento rappresentativo per linearizzare il manifold e facilitare l'estrapolazione.
• Per i compiti di mappatura strutturata, il modello impiega meccanismi distinti che non si manifestano necessariamente come raddrizzamento della traiettoria.

Gli autori concludono che, sebbene il raddrizzamento rappresentativo sia una firma robusta dell'apprendimento nei contesti di predizione continua, non è un indicatore universale della capacità di ICL. Questa scoperta offre una prospettiva cautelativa per l'interpretabilità meccanicistica: affidarsi a una singola firma geometrica (come il raddrizzamento) può fallire nel catturare l'intero spettro di come i modelli si adattano a contesti diversi. Lo studio enfatizza la necessità di testare le ipotesi di interpretabilità attraverso un set diversificato di strutture di compito, piuttosto che assumere una struttura rappresentativa generalizzata che sottenda tutti i comportamenti di ICL.