Riepilogo Tecnico: Quanti Output Diversi Può Generare un Trasformatore?

Enunciato del Problema

Nonostante il successo empirico dei Trasformatori nell'elaborazione del linguaggio naturale e nella visione artificiale, questi modelli mostrano fallimenti fondamentali su compiti algoritmici semplici, come la copia o la ripetizione di sequenze, una volta che la lunghezza dell'input supera una certa soglia. Mentre lavori precedenti hanno attribuito questi fallimenti a dati di addestramento o problemi di ottimizzazione, questo articolo sostiene che essi derivino da vincoli architettonici intrinseci. Nello specifico, gli autori investigano l'accessibilità delle sequenze di output: l'insieme di tutte le sequenze di token che un Trasformatore può generare data qualsiasi possibile prompt (inclusi prompt soft ottimizzati) e una lunghezza di contesto arbitraria. La domanda centrale è: Quante sequenze distinte può effettivamente produrre un Trasformatore e come scala questa capacità con la lunghezza del prompt e l'architettura del modello?

Metodologia

Gli autori affrontano il problema analizzando i vincoli geometrici imposti dalla precisione numerica finita e dalla natura limitata delle rappresentazioni interne all'interno dell'architettura del Trasformatore.

1. Formulazione Mean-Field: Per gestire lunghezze di prompt arbitrarie, gli autori interpretano i Trasformatori come applicazioni tra misure di probabilità (estensione mean-field) piuttosto che come sequenze finite. Questo sfrutta l'equivarianza permutazionale dei livelli di attenzione.
2. Partizionamento dello Spazio di Embedding: Lo spazio di embedding è partizionato in regioni ($E_t$) corrispondenti al token successivo più probabile (o sequenza di token) basato sulla proiezione di output del decoder.
3. Analisi dei Numeri di Impaccamento: Gli autori utilizzano il concetto di numeri di impaccamento (il numero massimo di sfere disgiunte di un dato raggio che possono essere inserite in uno spazio) per quantificare il numero di input distinti che un Trasformatore può distinguere.
   • Assunzione di Precisione Finita: Si assume che il Trasformatore abbia una precisione finita $\epsilon$, il che significa che non può distinguere tra input più vicini di $\epsilon$ (modellati come cubi allineati agli assi o sfere).
   • Supporto Limitato: Si assume che il supporto dell'embedding sia contenuto in una regione limitata (ad esempio, una sfera di raggio $r$).
4. Derivazione Teorica: Vincolando il numero di impaccamento dello spazio di input rispetto al volume del supporto di embedding, derivano limiti superiori sul numero di sequenze accessibili.
5. Validazione Empirica: Le previsioni teoriche sono testate utilizzando il compito "Cramming" (Kuratov et al., 2025), in cui un Trasformatore congelato è condizionato su prompt soft ottimizzati per generare specifiche sequenze target. Valutano inoltre i compiti di copia per osservare i fallimenti di generalizzazione dipendenti dalla lunghezza.

Contributi Chiave

1. Accessibilità Finita delle Sequenze

L'articolo dimostra che un Trasformatore può produrre solo un insieme finito di sequenze distinte, indipendentemente dalla lunghezza del prompt o dalla strategia di inferenza.

• Teorema 4.5: Per un Trasformatore con precisione $\epsilon$, raggio di embedding $r$ e lunghezza del prompt $m$, il numero di sequenze accessibili distinte è limitato superiormente da $(1 + 2r/\epsilon)^{dm}$.
• Implicazione: La maggior parte delle sequenze è fondamentalmente inaccessibile; nessuna scelta di prompt può indurre il modello a generarle.

2. Scalabilità Lineare e Decadimento Esponenziale

Gli autori stabiliscono una relazione precisa tra la lunghezza del prompt e la lunghezza massima delle sequenze accessibili:

• Crescita Lineare: La lunghezza massima $n$ delle sequenze accessibili cresce linearmente con la lunghezza del prompt $m$ ($n \propto m$).
• Decadimento Esponenziale: Oltre una soglia critica $N$, la proporzione di sequenze accessibili di lunghezza $n$ decade esponenzialmente con $n$.
• Soglia Teorica: Derivano una formula esplicita per questa soglia: $n^* \approx C \cdot m$, dove $C$ dipende dalla dimensione dell'embedding $d$, dalla dimensione del vocabolario $|V|$, dalla precisione $\epsilon$ e dal raggio del supporto $r$.

3. Spiegazione dei Fallimenti Empirici

L'analisi fornisce una spiegazione teorica per il "fallimento brusco" osservato nella pratica (ad esempio, copia perfetta fino alla lunghezza $L$, poi fallimento totale). L'articolo sostiene che questo non sia un degrado graduale, ma una conseguenza del decadimento esponenziale delle sequenze accessibili oltre la soglia critica.

4. Limiti Raffinati tramite Geometria

Gli autori affinano i loro limiti superiori teorici rilassando l'assunzione di un supporto di embedding uniforme a forma di sfera. Propongono:

• Supporti Anisotropi: Modellare il supporto come coni o ellissoidi per catturare meglio la distribuzione effettiva degli embedding.
• Volumi di Cella Non Uniformi: Tenere conto del fatto che i token comuni occupano regioni più ampie nello spazio di embedding rispetto ai token rari.
  Questi raffinamenti riducono il divario tra i limiti superiori teorici e le osservazioni empiriche (da un fattore di ~10 a ~5–6).

Risultati

Previsioni Teoriche

• Corollario 4.6: Per un budget di prompt fisso $m$, l'accessibilità rimane elevata fino a una lunghezza $n^*(m)$ e poi crolla esponenzialmente. La pendenza di questa relazione lineare è limitata da $C \leq \frac{d \ln(1 + 2r/\epsilon)}{\ln(|V|)}$.
• Corollario 4.10: Anche con contesto e calcolo illimitati, esiste una soglia $N$ oltre la quale quasi tutte le sequenze sono inaccessibili.

Validazione Empirica

• Compito Cramming: Gli esperimenti su modelli (Pythia, Qwen-2.5, Llama-3.2, Gemma-3) mostrano che la lunghezza $n_{50}$ (dove l'accessibilità scende al 50%) scala linearmente con il numero di vettori di memoria addestrabili $m$ ($R^2 > 0.99$).
• Confronto delle Pendenze: Le pendenze osservate empiricamente sono costantemente inferiori ai limiti superiori teorici, con un rapporto tra teoria e esperimento che varia da 4.5 a 20.4 a seconda del modello e delle assunzioni geometriche utilizzate.
• Compito di Copia: I modelli addestrati a copiare sequenze fino alla lunghezza 50 falliscono bruscamente quando testati su sequenze più lunghe, confermando l'esistenza di una soglia di accessibilità netta indipendente dalla lunghezza del prompt.
• Distribuzione del Volume delle Celle: L'analisi rivela che i volumi delle celle del decoder sono altamente asimmetrici; un piccolo insieme di token frequenti (ad esempio, spazi bianchi, punteggiatura) occupa una frazione sproporzionata dello spazio di embedding, il che restringe i limiti di accessibilità rispetto alle assunzioni uniformi.

Significato e Affermazioni

L'articolo afferma di fornire la prima spiegazione teorica rigorosa dei limiti intrinseci dei Trasformatori sui compiti di generazione di sequenze. La sua rilevanza risiede in:

1. Limiti Architettonici: Dimostrare che l'incapacità di copiare sequenze lunghe è una proprietà fondamentale della precisione finita e delle rappresentazioni limitate dell'architettura, non meramente un artefatto dell'addestramento.
2. Potere Predittivo: Offrire una formula per prevedere i limiti di performance di un Trasformatore basandosi esclusivamente sulla geometria del suo spazio di embedding (dimensione, dimensione del vocabolario, precisione e forma del supporto), senza necessità di ispezionare l'intero insieme dei parametri.
3. Generalizzabilità: I risultati si estendono oltre i Trasformatori a qualsiasi architettura con rappresentazioni interne limitate e precisione finita (ad esempio, Modelli a Spazio di Stato come Mamba, sebbene stati nascosti divergenti presentino sfide).

Gli autori concludono che lo spazio di embedding, nonostante rappresenti solo una frazione dei parametri del modello, porti informazioni significative sulle capacità e sui limiti fondamentali del modello.