Riepilogo Tecnico: Il Divario Predittivo-Causale

Enunciato del Problema

Il documento affronta una modalità di fallimento fondamentale nell'apprendimento di rappresentazioni predittive, un paradigma dominante in ambiti che vanno dai modelli del mondo e dai modelli a spazio di stato neurale fino ai grandi modelli linguistici (LLM) addestrati tramite previsione del token successivo. La premessa prevalente è che la minimizzazione dell'errore di previsione sulle osservazioni porti naturalmente la rappresentazione appresa a catturare la struttura causale del sistema sottostante.

Gli autori sfidano questa premessa definendo un "sistema" ($s$) come i gradi di libertà di cui il modellatore si cura, e un "ambiente" ($e$) come tutte le altre variabili. Dimostrano che quando le modalità ambientali sono più lente o meno rumorose delle modalità del sistema, la rappresentazione predittiva ottimale non traccia il sistema. Invece, traccia l'ambiente. Questo fenomeno è denominato divario predittivo-causale: il degrado nella fedeltà causale (la frazione di sensibilità dell'encoder allocata ai gradi di libertà del sistema) che si verifica quando si ottimizza un obiettivo predittivo anziché uno causale.

Metodologia

Gli autori adottano un approccio analitico su tre livelli per caratterizzare questo divario:

1. Dimostrazione Teorica (Teorema di Impossibilità):

   • Gli autori dimostrano il Teorema 1, stabilendo che per qualsiasi classe di modelli contenente tutti gli encoder lineari, esistono dinamiche lineari-Gaussiane stabili in cui ogni minimizzatore del rischio predittivo di popolazione è strettamente disallineato rispetto al sottospazio del sistema.
   • Dimostrano che l'insieme delle dinamiche che esibiscono questa proprietà è aperto e di misura positiva nello spazio dei parametri, il che significa che non si tratta di un caso limite raro ma di una proprietà generica.
   • Il Corollario 2 dimostra che aumentare la capacità del modello (ampliando la classe di modelli) non può risolvere questo problema; può solo abbassare ulteriormente il rischio, rafforzando così l'adesione all'encoder non causale (dominato dall'ambiente).

2. Esperimenti su Larga Scala con Dinamiche Lineari-Gaussiane:

   • È stata condotta una scansione parametrica su 539 configurazioni di dinamiche lineari-Gaussiane, risultando in 2.695 esecuzioni di addestramento indipendenti utilizzando encoder MLP a due livelli.
   • Gli esperimenti hanno misurato la fedeltà causale ($|\partial \phi / \partial s| / (|\partial \phi / \partial s| + |\partial \phi / \partial e|)$) e l'errore di previsione.
   • Sono state analizzate estensioni ad alta dimensionalità ($N=10, 50, 100$ modalità ambientali) per testare gli effetti di scalabilità.

3. Validazione con Dinamiche Non Lineari:

   • Predittori GRU a singolo strato sono stati addestrati su un oscillatore di Duffing accoppiato a un ambiente nascosto di Ornstein–Uhlenbeck.
   • Sono state confrontate due condizioni di addestramento: non vincolata (previsione dello stato completo) e fondazione operativa (restringimento della perdita alle sole osservabili del sistema).
   • La robustezza è stata testata tramite valutazione fuori distribuzione (OOD) sotto spostamenti della distribuzione ambientale.

Risultati Chiave

1. Fallimento Sistematico nei Sistemi Lineari

• In una scansione di 160 configurazioni lineari deterministiche, l'encoder ottimale si è allineato con il sistema (encoder Nuova Zelanda/NZ) solo nel 25% dei casi (i casi diagonali, disaccoppiati).
• Nel 75% dei casi (qualsiasi accoppiamento fuori diagonale non nullo), l'encoder ottimale si è discostato dall'asse del sistema.
• La regolarizzazione del collo di bottiglia dell'informazione (IB) è stata testata ma ha fallito; la direzione ottimale per la compressione si è allineata con la direzione ottimale per la previsione, rafforzando il pregiudizio ambientale invece di correggerlo.

2. Evidenza dalle Reti Neurali

• Su 2.695 esecuzioni di addestramento, la fedeltà causale media dell'encoder ottimale della rete neurale è stata 0,49, con solo il 2,5% delle configurazioni che superava 0,70.
• La rete neurale ha raggiunto un errore di previsione inferiore del 99,3% rispetto all'encoder lineare ottimale, eppure questo miglioramento delle prestazioni predittive corrispondeva a una rappresentazione più lontana dalla codifica causale.
• Collasso ad Alta Dimensionalità: All'aumentare del numero di dimensioni ambientali ($N$) fino a 100, la fedeltà causale è collassata a $\sim 10^{-8}$ (effettivamente zero), mentre il divario dell'errore di previsione è cresciuto fino al 92%. L'encoder ottimale è diventato "causalmente cieco".

3. Conferma Non Lineare e Fondazione Operativa

• Nei compiti non lineari Duffing–GRU, i predittori non vincolati hanno appreso rappresentazioni dominate dall'ambiente nel 55% dei compiti, rispetto al 24% sotto fondazione operativa.
• Robustezza OOD: Sotto spostamenti della distribuzione ambientale, i modelli non vincolati hanno subito un'inflazione mediana dell'Errore Quadratico Medio (MSE) di 1,82$\times$, mentre i modelli fondati sono rimasti stabili a 1,00$\times$.
• Il documento nota che la fondazione operativa (restringimento della perdita alle osservabili del sistema) sopprime parzialmente il divario ma non può recuperare completamente la fedeltà causale senza un confine esplicito sistema-ambiente nell'architettura.

Significato e Affermazioni

Il documento afferma di identificare il divario predittivo-causale come un limite strutturale dell'apprendimento, non un artefatto di ottimizzazione, un problema di dati finiti o un problema risolvibile tramite scalabilità.

• Leggi di Scalabilità: Gli autori sostengono che le leggi di scalabilità empiriche (decadimento regolare della perdita secondo una legge di potenza con parametri/dati) quantificano la "quantità sbagliata". Misurano la riduzione del rischio predittivo, che può accompagnare uno spostamento lontano dalla struttura causale. La scalabilità "affina la risposta alla domanda sbagliata".
• Obiettivi Auto-supervisionati: Il fallimento è intrinseco a qualsiasi obiettivo che calcola la perdita su uno spazio di osservazioni non partizionato. Sia che si utilizzi il masked autoencoding, architetture predittive di embedding congiunto (JEPA) o apprendimento contrastivo, l'assenza di una distinzione esplicita sistema-ambiente nella funzione di perdita permette minimizzatori dominati dall'ambiente.
• Interfaccia Operativa: Il documento ipotizza che il recupero della struttura causale richieda un'"interfaccia operativa"—una specifica di quali gradi di libertà appartengono al sistema e sono permessi come input dell'encoder. Tecniche come RLHF, addestramento con istruzioni e post-addestramento con ricompense verificabili sono inquadrati non come sovrapposizioni di allineamento, ma come le necessarie interfacce operative che convertono problemi predittivi mal posti in problemi di identificazione ben posti.

In conclusione, il documento afferma che un modello addestrato a prevedere il passo successivo in un sistema composito imparerà a tracciare ciò che è più facile da prevedere (spesso l'ambiente), non ciò che è causalmente rilevante. Questo è descritto come "la risposta giusta al problema sbagliato".