Riepilogo Tecnico: Quando le Leggi di Conservazione Sopravvivono alle Rappresentazioni Apprese?

Definizione del Problema

I moderni modelli del mondo (world models) raggiungono la scalabilità apprendendo rappresentazioni latenti e procedendo in avanti nello spazio latente piuttosto che in quello delle osservazioni. Tuttavia, questo passaggio complica la certificazione dell'affidabilità fisica. Poiché le leggi di conservazione (ad esempio, la conservazione dell'energia) forniscono una valuta naturale per la fiducia nei sistemi fisici, un modello latente sostituisce le coordinate fisiche con coordinate apprese. Di conseguenza, un modello potrebbe conservare perfettamente un valore scalare interno appreso (un Hamiltoniano o un testimone latente), mentre l'energia fisica reale devia significativamente.

La domanda centrale affrontata è: Quando una legge di conservazione rimane certificabile dopo che un modello ha appreso una rappresentazione latente? Nello specifico, il documento cerca di circoscrivere in anticipo, e partendo da difetti misurabili del modello, quanti passi un roll-out rimanga provabilmente su un livello di invarianza fisica. La sfida critica è definire cosa viene certificato: non le quantità latenti apprese, ma l'invariante fisico decodificato.

Metodologia

L'Oggetto Certificato

Il documento fissa l'oggetto certificato come l'invariante fisico decodificato, denotato come $\Psi(z) = H^*(\Pi D_\psi z)$.

• $z$: Stato latente.
• $D_\psi$: Mappatura del decoder da latente a osservazione.
• $\Pi$: Mappatura di readout da osservazione a coordinate fisiche $(q, p)$.
• $H^*$: L'invariante fisico noto (es. l'energia meccanica vera).

Fondamentalmente, il documento non certifica direttamente l'Hamiltoniano latente appreso $H_\theta$ o un testimone scalare appreso $C_\omega$. Questi sono trattati come "testimoni" o proxy. Un modello può conservare queste quantità interne pur fallendo nella stabilità dell'invariante fisico decodificato. La certificazione è valida solo dove la pipeline dello stato e la pipeline dell'invariante fisico decodificato convergono su $H^*$.

Framework di Certificazione

Gli autori derivano "certificati a orizzonte di guscio" (shell-horizon certificates) che limitano il numero di passi $T$ in cui un roll-out rimane entro una tolleranza $\epsilon$ del guscio energetico. Il budget per questo orizzonte si decompone in tre distinte fonti di difetto:

1. Difetto di Rappresentazione ($\epsilon_0$): Errore di inizializzazione nell'embedding/codifica.
2. Difetto di Readout ($\epsilon_{\Pi, \text{num}}$): Errore introdotto dalla mappatura del decoder e del readout (dominante nelle osservazioni di pixel).
3. Difetto della Dinamica Latente ($\delta_{\text{tube}}^{\text{phys}}$): Deriva per passo dell'invariante fisico nella dinamica latente.

L'orizzonte è calcolato come:
$$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{difetti di inizializzazione}}{\text{deriva per passo}} \right\rfloor$$
dove $m_{c,\rho}$ è la sensibilità del guscio (norma minima del gradiente).

Ponte di Allineamento (Testimoni Soft)

Per utilizzare un "testimone soft" appreso (uno scalare $C_\omega$ addestrato per essere conservato nello spazio latente), il documento introduce un ponte di allineamento controllato-Lipschitz.

• Un testimone soft non è intrinsecamente l'energia fisica. Deve essere allineato tramite una funzione di calibrazione $g_C$.
• La condizione per un certificato valido è la calibrazione bi-Lipschitziana ($0 < \kappa \le g'_C \le L_g$).
• Questo ponte trasforma il testimone soft in un collegamento strutturato verso l'invariante fisico. Il documento dimostra che la semplice monotonicità non è sufficiente; una monotonicità incontrollata (ad esempio, la regressione isotonica) può avere costanti Lipschitz infinite, facendo collassare l'orizzonte certificato a zero.

Setup Sperimentale

Il framework è testato su tre sistemi conservativi: il pendolo semplice, l'oscillatore armonico e il problema di Kepler a due corpi (un sistema singolare).

• Rappresentazioni: Lo studio varia la rappresentazione di input mantenendo fisso l'oggetto certificato:
  1. Stato: Coordinate canoniche $(q, p)$ in input; il readout è l'identità.
  2. Lift: Osservazioni a bassa dimensionalità codificate in una carta latente appresa; il readout è pulito.
  3. Pixel: Immagini ad alta dimensionalità in input; un decoder/readout appreso introduce un errore significativo.
• Varianti del Modello:
  • Plain: Mappa latente residua non vincolata.
  • Hard Symplectic: Integratori latenti vincolati a essere simpatici (Störmer–Verlet, SympNet).
  • Soft (B-self): Testimone scalare/vettoriale auto-supervisionato addestrato per essere invariante, allineato tramite il ponte.

Risultati Chiave

1. Spazio di Stato (Coordinate Canoniche)

Nelle coordinate di fase note, la struttura simpatica "hard" è la vincitrice assoluta.

• Sul sistema di Kepler, i modelli simpatici "hard" hanno ottenuto certificati di invarianza congiunta non vacui in 3/3 dei seed, mentre i modelli "plain" hanno ottenuto 0/3.
• La deriva dell'invariante per passo era $\sim 7.6\times$ minore per i modelli simpatici.
• Conclusione: I priori "hard" funzionano efficacemente quando la carta è nota e corrisponde alla forma simpatica fisica.

2. Learned Lift (Coordinate Latenti)

Quando il modello apprende una carta da osservazioni a bassa dimensionalità, i priori simpatici "hard" collassano, mentre gli invarianti "soft" sopravvivono.

• I modelli simpatici "hard" (Verlet, SympNet) sono diventati statisticamente indistinguibili dai baseline "plain". Il vincolo simpatico preserva la forma del flusso ma non l'identità dello scalare conservato rispetto all'energia fisica sotto una carta appresa arbitraria.
• Il testimone "soft" B-self ha attraversato con successo la carta appresa, ottenendo un rapporto di guadagno strutturale di $\approx 1.30$ e un tasso di vittoria $P(\text{soft} > \text{plain}) = 0.88$ su 8 seed.
• Conclusione: I priori geometrici "hard" sono sensibili alle coordinate e non sopravvivono automaticamente all'apprendimento della rappresentazione; gli invarianti "soft", allineati tramite un ponte bi-Lipschitziano, sono più robusti.

3. Osservazioni di Pixel

La certificazione sotto input di pixel è possibile ma limitata a un sotto-tubo stabile del readout.

• Il termine del decoder/readout spesso domina il budget dell'errore.
• Applicando una "regola di stabilità del readout congelata" (escludendo i punti in cui il punteggio Lipschitz del readout è troppo alto), il testimone "soft" stabilizzato ha recuperato certificati non vacui.
• Risultati: 9/10 dei seed erano non vacui (rispetto a 4/10 per il modello "plain"), con una frazione esclusa $\le 2.3\%$.
• Conclusione: La certificazione dei pixel è un problema percettivo; richiede di stabilizzare il readout per trovare un sotto-tubo in cui l'invariante decodificato sia fedele.

4. Il Confine Geometrico di Kepler

Il "lift" di Kepler ha rivelato un limite geometrico intrinseco.

• Nonostante la variazione della capacità latente e l'applicazione di ricaricature metriche legali, il certificato dell'invariante congiunto decodificato è fallito ($T=0$) vicino al periapside.
• Questo fallimento è attribuito alla rigidità (stiffness) vicino al periapside del potenziale dell'inverso del quadrato, che amplifica piccoli errori in $(q, p)$.
• Conclusione: Questo è un confine geometrico specifico del sistema, non un fallimento della metodologia di certificazione della conservazione stessa.

Significato e Rivendicazioni

Il contributo principale del documento è una cornice di robustezza della rappresentazione per i certificati di conservazione. Esso sostiene che:

1. L'Oggetto Certificato è Fondamentale: I certificati devono essere attaccati all'invariante fisico decodificato, non all'Hamiltoniano latente o al testimone non allineato. Un modello può conservare il suo proxy interno pur fallendo fisicamente.
2. Priori Hard vs. Soft: La struttura canonica simpatica "hard" è sensibile alle coordinate. Produce gli orizzonti più lunghi nelle coordinate di fase note, ma fallisce nel superare le carte apprese. Al contrario, un invariante "soft", addestrato per essere conservato nello spazio latente e allineato tramite un ponte controllato-Lipschitziano, sopravvive ai cambiamenti di rappresentazione.
3. La Monotonicità è Insufficiente: Allineare un testimone "soft" all'energia fisica richiede una calibrazione bi-Lipschitziana. La semplice monotonicità è troppo debole e porta a certificati vacui.
4. Limiti Geometrici: I certificati allineati alla conservazione possono fallire a causa di singolarità geometriche intrinseche (es. periapside di Kepler) che nessuna quantità di apprendimento della rappresentazione o scalabilità della capacità può superare.

Gli autori pongono questo lavoro non come un benchmark per modelli del mondo visivi a lungo orizzonte, ma come uno studio metodologico su cosa può essere certificato quando gli invarianti fisici vengono valutati attraverso rappresentazioni apprese. Le conclusioni suggeriscono che, per i modelli del mondo appresi, si deve o certificare in coordinate in cui la forma simpatica è fisica, o accoppiare i priori strutturali con l'allineamento esplicito dello scalare conservato.