Riepilogo Tecnico: La Geometria dei Vettori di Task Sottende i Due Modelli di Inferenza di Task nei Transformer

Enunciato del Problema

I Modelli Linguistici di Grandi Dimensioni (LLM) dimostrano due modalità distinte di inferenza di task: recupero bayesiano di task (riconoscimento e recupero di task osservati durante l'addestramento) e apprendimento estrapolativo di task (adattamento a task nuovi, fuori distribuzione o OOD). Sebbene recenti studi sull'interpretabilità abbiano identificato i "vettori di task" — direzioni nello spazio degli stati nascosti che guidano il comportamento del modello — mancano fondamenti teorici che colleghino rigorosamente queste rappresentazioni interne ai comportamenti di generalizzazione esterni. Nello specifico, il lavoro esistente non riesce a spiegare rigorosamente:

1. Come la geometria dei vettori di task sia plasmata dalla distribuzione dei dati di addestramento.
2. Quali strutture geometriche specifiche consentano la generalizzazione OOD.
3. Come le rappresentazioni interne medino il legame tra struttura statistica e comportamento del modello senza fare affidamento su metodi di estrazione euristici e specifici per il modello.

Metodologia

Gli autori colmano queste lacune addestrando transformer piccoli, solo decoder, da zero su distribuzioni sintetiche controllate di sequenze di task latenti. Questo approccio "scatola grigia" permette una caratterizzazione matematica rigorosa degli stati nascosti, libera dai fattori di confusione derivanti dall'addestramento preesistente su linguaggio naturale.

Impostazione Sperimentale

Vengono utilizzati tre esperimenti sintetici (E1–E3), in cui le sequenze sono generate da variabili latenti non osservate $z$ (task):

• E1 (Dado Biasato): Le latenti sono vettori di probabilità campionati da una prior Dirichlet; i token sono campionati i.i.d.
• E2 (Regressione Lineare in Contesto): Le latenti sono vettori di peso campionati da una prior Gaussiana; le sequenze consistono in coppie input-output.
• E3 (Miscela di Catene di Markov): Le latenti sono matrici di transizione campionate da una prior Dirichlet; le sequenze sono catene di Markov.

Un quarto esperimento (E4, Lingua Dyck Inserita) funge da controesempio non markoviano per testare i limiti del framework proposto.

Framework Teorico

Il paper definisce i vettori di task $\theta_k$ come la differenza limite tra lo stato nascosto per un task specifico e la media globale. Stabilisce quattro proprietà geometriche (P0–P3) che caratterizzano il recupero di task riuscito:

• P0 (Stabilità): Gli stati nascosti diventano funzioni deterministiche del task latente e del token corrente.
• P1 (Disaccoppiamento): Gli stati nascosti si decompongono additivamente in vettori di task e codifiche dei token (Ipotesi di Rappresentazione Lineare).
• P2 (Interpolazione): A contesto finito, gli stati nascosti sono combinazioni convesse di vettori di task.
• P3 (Allineamento): I coefficienti di queste combinazioni convesse approssimano la posterior bayesiana sui task.

Gli autori contrappongono ciò all'Apprendimento Estrapolativo di Task (M2), ipotizzando che l'inferenza OOD richieda rappresentazioni che giacciono al di fuori dello spazio dei vettori di task.

Contributi e Risultati Chiave

1. Unificazione della Geometria delle Rappresentazioni e della Generalizzazione

Il paper fornisce un framework matematico rigoroso che dimostra come il recupero bayesiano di task sia implementato internamente tramite combinazioni convesse di vettori di task appresi.

• Evidenza: Negli esperimenti E1–E3, gli stati nascosti del modello soddisfano le proprietà P0–P3. I coefficienti della miscela di vettori di task ($\beta_{t,k}$) tracciano da vicino la posterior bayesiana reale ($\alpha_{t,k}$) man mano che il contesto si accumula.
• Validazione Causale: Intervenendo sullo spazio dei vettori di task (guidando lo stato nascosto verso un punto specifico nel simplex dei task) si guida con successo l'output del modello a corrispondere alla previsione della miscela corrispondente, confermando che i vettori di task controllano causalmente l'inferenza per task in distribuzione (ID).

2. Scoperta di Due Modalità di Inferenza tramite Sottospazi Quasi Ortogonali

Il paper dimostra che l'apprendimento estrapolativo di task (M2) per task OOD opera in un sottospazio quasi ortogonale al sottospazio dei vettori di task ID.

• Meccanismo: Man mano che la diversità dei task aumenta (addestrando su una miscela di pochi task "maggiori" e molti task "minori"), il modello passa dal fare affidamento esclusivamente sul recupero dei vettori di task all'utilizzo di un percorso computazionale separato.
• Evidenza Geometrica: Quando la diversità dei task è bassa, gli stati nascosti OOD si proiettano fortemente sul sottospazio dei task ID. Man mano che la diversità aumenta, le rappresentazioni OOD tendono verso l'ortogonalità (proiezione $R^2 \to 0$).
• Validazione Causale: Le intervengono confermano una "doppia dissociazione":
  • Sopprimere il sottospazio dei vettori di task devasta le prestazioni ID ma lascia le prestazioni OOD sostanzialmente intatte.
  • Sopprimere il sottospazio ortogonale (identificato tramite ottimizzazione sui task minori) distrugge le prestazioni OOD lasciando le prestazioni ID vicino alla linea di base.
• Base Teorica: Il Teorema 2 fornisce un limite inferiore alla distanza delle rappresentazioni OOD dallo spazio dei task, mostrando che se la dimensione intrinseca della mappa di previsione OOD supera la dimensione dello spazio dei vettori di task, il modello deve utilizzare rappresentazioni al di fuori di tale spazio per generalizzare accuratamente.

3. Limiti del Framework (Caso Non Markoviano)

Nell'esperimento sulla lingua Dyck Inserita (E4), dove i dati mancano della proprietà markoviana del primo ordine richiesta per una sintesi compatta, il modello non riesce a soddisfare la Proprietà P0. Invece di comprimere il contesto in una sintesi a bassa dimensionalità, il modello mantiene l'intera storia del prefisso nei suoi stati nascosti. Ciò evidenzia che il framework geometrico proposto è contingente al processo generatore dei dati che permetta statistiche sufficienti.

Significato e Affermazioni

Il paper afferma di fornire la prima caratterizzazione rigorosa e fondata matematicamente di come i Transformer implementino due modalità di inferenza:

• Inferenza ID: Governata dal recupero bayesiano di task all'interno di un sottospazio di vettori di task, dove il modello interpola tra task memorizzati.
• Inferenza OOD: Governata dall'apprendimento estrapolativo di task in un sottospazio quasi ortogonale, che codifica le statistiche del contesto (ad es. unigrammi empirici, soluzioni di ridge, bigrammi) piuttosto che identità specifiche dei task.

Gli autori sostengono che geometria dei vettori di task, distribuzioni di addestramento e comportamenti di generalizzazione siano strettamente correlati. Nello specifico, l'aumento della diversità dei task costringe il modello a sviluppare sottospazi ortogonali per gestire la generalizzazione, spiegando la coesistenza di modalità di recupero e di apprendimento. Il lavoro suggerisce che l'"ipotesi di rappresentazione lineare" vale per i task ID ma richiede un'estensione (tramite sottospazi ortogonali) per spiegare la generalizzazione OOD.

Il paper mantiene un tono modesto, notando che la sua analisi si basa su dati sintetici con proprietà markoviane specifiche e che una spiegazione meccanicistica completa della generalizzazione OOD nel linguaggio naturale rimane una sfida aperta. Si posiziona come un passo fondamentale verso il colmare il divario tra la geometria delle rappresentazioni interne e le capacità di generalizzazione esterne.