Riepilogo Tecnico: La Scala Determina se i Modelli Linguistici Organizzano la Geometria delle Rappresentazioni per la Previsione

Enunciato del Problema

Nei modelli linguistici (LM), il contenuto semantico di una rappresentazione è determinato dalla geometria del suo spazio di rappresentazione—specificamente, le distanze tra i punti piuttosto che le loro attivazioni assolute. Mentre gli strumenti esistenti caratterizzano la forma di questa geometria (ad esempio, rango, decadimento spettrale, convergenza tra modelli), non affrontano la domanda funzionale: per cosa è organizzata questa geometria?

I quadri teorici suggeriscono che le rappresentazioni dovrebbero organizzarsi attorno al compito predittivo del modello, specificamente la matrice di unembedding $W_U$ che mappa gli stati nascosti alla distribuzione del token successivo. Tuttavia, rimane una questione empirica se gli strati intermedi allineino le loro strutture di distanza a questo sottospazio di lettura. Le metriche attuali, come la Logit Lens (che testa la decodificabilità di singoli punti) o le metriche spettrali (che descrivono la forma del manifold), non catturano se la disposizione geometrica delle distanze sia funzionalmente orientata verso la previsione. Inoltre, è sconosciuto se questa organizzazione sia mantenuta uniformemente attraverso tutti gli strati e le scale dei modelli.

Metodologia: Subspace PGA

Gli autori introducono l'Allineamento Geometrico-Predittivo nel Sottospazio (Subspace PGA), una metrica progettata per quantificare il grado in cui la struttura di distanza di uno strato si allinea con la lettura predittiva del modello.

1. Definizione del Sottospazio di Lettura: La matrice di unembedding $W_U$ viene decomposta tramite Scomposizione ai Valori Singoli (SVD). I primi $k$ vettori singolari destri definiscono il sottospazio di lettura ($V_k$), rappresentante le direzioni nello spazio nascosto che $W_U$ amplifica maggiormente per produrre previsioni.
2. Conservazione della Distanza: Per un dato strato $\ell$, gli autori calcolano le distanze coseno a coppie tra gli stati nascosti nello spazio completo $d$-dimensionale ($d_{full}$) e nel sottospazio di lettura proiettato ($d_{proj}$).
3. Distribuzione Nulla: Per isolare il contributo specifico della lettura, gli autori confrontano la correlazione di Spearman tra $d_{full}$ e $d_{proj}$ rispetto a una distribuzione nulla. Questa nulla è generata proiettando gli stessi stati nascosti su 100 sottospazi $k$-dimensionali casuali campionati uniformemente dalla Grassmanniana.
4. Calcolo del Punteggio Z: Il Subspace PGA è definito come il punteggio z:
   $$PGA(\ell) = \frac{\rho_{readout} - \mu_{null}}{\sigma_{null}}$$
   Un alto $z$ positivo indica che la geometria è organizzata per la previsione (la lettura preserva più struttura rispetto ai sottospazi casuali). Un $z \approx 0$ implica nessun allineamento speciale, e $z < 0$ implica che la lettura è meno allineata con la struttura di distanza rispetto ai sottospazi casuali.
5. Correzione per l'Anisotropia: Per impedire che la direzione di varianza dominante (che gonfia la similarità coseno) confonda la metrica, gli autori applicano la centratura sulla media seguita da CCR-1 (rimozione della componente principale principale) prima di calcolare le distanze.

Risultati Chiave

Lo studio valuta sette modelli Pythia (da 70M a 6,9B parametri) e tre modelli cross-famiglia (OLMo, Phi, Gemma).

1. Organizzazione Dipendente dalla Scala

• Modelli Grandi ($d \ge 2048$): Questi modelli mantengono una forte organizzazione predittiva attraverso tutti gli strati intermedi. I punteggi $z$ rimangono significativamente positivi (raggiungendo un picco a $z=9–24$ negli strati centrali), indicando che la struttura di distanza è coerentemente allineata con il sottospazio di lettura.
• Modelli Piccoli ($d \le 1024$): Questi modelli esibiscono un regime di "deviazione". Sebbene stabiliscano un'organizzazione predittiva all'inizio dell'addestramento e negli strati iniziali, perdono progressivamente questo allineamento negli strati tardivi ma non finali (ad esempio, strati 20–23 in Pythia-410M). In queste "zone di collasso", i punteggi $z$ crollano significativamente (ad esempio, a $-32$), indicando che la struttura di distanza diventa disallineata rispetto alla lettura, anche mentre la perdita di validazione del modello continua a migliorare.
• Recupero: Nei modelli piccoli, lo strato finale recupera l'allineamento, proiettando la geometria nuovamente nel sottospazio di lettura prima dell'output.

2. Meccanismo: Trade-off di Capacità e Mascheramento

La perdita di organizzazione nei modelli piccoli non è una distruzione di informazioni predittive ma un effetto di mascheramento causato da vincoli di capacità.

• Migrazione della Direzione Dominante: Negli strati tardivi dei modelli piccoli, la direzione di massima varianza nel flusso residuo (PC1) ruota lontano dal sottospazio di lettura verso direzioni "scure" (ortogonali a $W_U$).
• Mascheramento: Poiché la direzione di varianza dominante trasporta la maggior parte della struttura di distanza, i sottospazi casuali (che catturano una frazione di questa varianza) finiscono per preservare la struttura di distanza tanto quanto, o meglio del, sottospazio di lettura. Questo causa il calo del punteggio $z$.
• Ripristino: Rimuovendo le prime componenti principali (CCR-5 o CCR-10) si ripristinano punteggi $z$ positivi in tutti gli strati dei modelli con $d \ge 768$. Ciò conferma che la struttura predittiva era intatta ma oscurata da poche direzioni dominanti irrilevanti per la previsione.

3. Indipendenza dalle Metriche Spettrali e dalla Loss

• Cecità Spettrale: Le metriche spettrali standard (RankMe, $\alpha$-ReQ, isotropia, numero di condizione) non riescono a rilevare questa distinzione. Nelle zone di collasso dei modelli piccoli, le metriche spettrali rimangono stabili o piatte mentre il Subspace PGA oscilla di oltre 40 deviazioni standard.
• Insensibilità alla Loss: Le curve di perdita di validazione sono quasi identiche tra modelli piccoli e grandi, non riuscendo a catturare la riorganizzazione geometrica che avviene negli strati intermedi.

4. Convergenza Cross-Architettura

Il sottospazio di lettura concentra la struttura convergente cross-architettura. Confrontando modelli diversi (ad esempio, Pythia vs OLMo), la correlazione di Spearman delle distanze a coppie è più alta nel sottospazio di lettura a 100 dimensioni rispetto allo spazio completo o ai sottospazi casuali. Ciò suggerisce che ciò su cui i modelli addestrati indipendentemente concordano geometricamente è specificamente legato alla funzione predittiva.

5. Utilità a valle

Nei modelli grandi, gli strati con alti punteggi $z$ di Subspace PGA producono anche una maggiore accuratezza per sonde lineari su compiti a valle (AG News). Nei modelli piccoli, l'accuratezza della sonda rimane alta anche nella "zona di collasso" dove $z$ è negativo, dimostrando ulteriormente che le caratteristiche sottostanti sono preservate ma semplicemente disallineate rispetto all'interfaccia di lettura.

Significato e Affermazioni

Il documento afferma che la scala determina non solo quanto bene un modello prevede, ma come la sua geometria di rappresentazione è organizzata per farlo.

• Due Regimi Geometrici: Gli autori identificano un regime "diretto" (modelli grandi) in cui la geometria rimane allineata alla previsione, e un regime di "deviazione" (modelli piccoli) in cui gli strati tardivi instradano temporaneamente il calcolo attraverso direzioni irrilevanti per la previsione prima di correggere all'output.
• Orientamento Funzionale: Lo studio sposta il focus dalla caratterizzazione della forma della geometria di rappresentazione alla comprensione della sua orientazione funzionale. Dimostra che la geometria può essere altamente strutturata e tuttavia funzionalmente disallineata rispetto all'obiettivo del modello.
• Limiti delle Metriche Attuali: Il lavoro evidenzia che le curve di perdita e le metriche spettrali sono insufficienti per diagnosticare l'organizzazione funzionale delle rappresentazioni intermedie. Il Subspace PGA fornisce una metrica priva di task e abbinata alla dimensionalità per rilevare questi fenomeni.
• Capacità vs Architettura: Il fenomeno è attribuito alla capacità rappresentativa (larghezza) piuttosto che a specifiche architetturali, poiché viene osservato attraverso diverse famiglie di modelli quando le dimensioni sono piccole.

Gli autori concludono che la "deviazione" nei modelli piccoli è un effetto collaterale della capacità limitata che forza una collisione tra le direzioni di calcolo intermedio e le direzioni allineate alla lettura, piuttosto che una strategia di instradamento appresa esplicitamente. Questa distinzione è invisibile ai segnali di addestramento standard ma critica per comprendere i meccanismi interni dei modelli linguistici.