Technisch Overzicht: Wanneer overleven behoudswetten geleerde representaties?

Probleemstelling

Moderne wereldmodellen bereiken schaalbaarheid door latente representaties te leren en vooruit te rollen in die latente ruimte in plaats van in de observatieruimte. Deze verschuiving compliceert echter de certificering van fysiek vertrouwen. Hoewel behoudswetten (bijv. behoud van energie) een natuurlijke valuta bieden voor vertrouwen in fysieke systemen, vervangt een latent model fysieke coördinaten door geleerde coördinaten. Bijgevolg kan een model een geleerde interne scalaire (een latente Hamiltoniaan of getuige) perfect behouden, terwijl de werkelijke fysieke energie significant afwijkt.

De centrale vraag die wordt behandeld is: Wanneer blijft een behoudswet certificeerbaar nadat een model een latente representatie heeft geleerd? Specifiek zoekt het artikel naar een methode om vooraf en op basis van meetbare modeldefecten te begrenzen hoeveel stappen een rollout bewezen binnen de niveauset van een fysieke invariant blijft. De cruciale uitdaging is het definiëren van wat er gecertificeerd wordt: niet de geleerde latente grootheden, maar de gedecodeerde fysieke invariant.

Methodologie

Het te certificeren object

Het artikel stelt het te certificeren object vast als de gedecodeerde fysieke invariant, aangeduid als $\Psi(z) = H^*(\Pi D_\psi z)$.

• $z$: Latente staat.
• $D_\psi$: Decoder-mapping van latent naar observatie.
• $\Pi$: Readout-mapping van observatie naar fysieke coördinaten $(q, p)$.
• $H^*$: De bekende fysieke invariant (bijv. ware mechanische energie).

Cruciaal is dat het artikel niet de geleerde latente Hamiltoniaan $H_\theta$ of een geleerde scalaire getuige $C_\omega$ direct certificeert. Deze worden behandeld als "getuigen" of proxies. Een model kan deze interne grootheden behouden terwijl de gedecodeerde fysieke invariant afwijkt. Certificering is alleen geldig waar de staatspijplijn en de latent-gedecodeerde pijplijn convergeren op $H^*$.

Certificaat-framework

De auteurs leiden "shell-horizon certificaten" af die begrenzen hoeveel stappen $T$ een rollout binnen een tolerantie $\epsilon$ van de energieschil blijft. Het budget voor deze horizon is verdeeld over drie afzonderlijke bronnen van defecten:

1. Representatie-defect ($\epsilon_0$): Initialisatiefout in de embedding/encoding.
2. Readout-defect ($\epsilon_{\Pi, \text{num}}$): Fout geïntroduceerd door de decoder en de readout-mapping (dominant bij pixel-observaties).
3. Latent-dynamiek-defect ($\delta_{\text{tube}}^{\text{phys}}$): Per stap optredende drift van de gedecodeerde invariant in de latente dynamiek.

De horizon wordt berekend als:
$$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{initialisatie-defecten}}{\text{drift per stap}} \right\rfloor$$
waarbij $m_{c,\rho}$ de gevoeligheid van de schil is (minimale gradiëntnorm).

Alignment Bridge (Zachte Getuigen)

Om een geleerde "zachte" invariant (een scalaire getuige $C_\omega$ die getraind is om behouden te blijven in de latente ruimte) te gebruiken, introduceert het artikel een gecontroleerde-Lipschitz alignment bridge.

• Een zachte getuige is niet inherent de fysieke energie. Deze moet worden uitgelijnd via een kalibratiefunctie $g_C$.
• De voorwaarde voor een geldig certificaat is bi-Lipschitz kalibratie ($0 < \kappa \le g'_C \le L_g$).
• Deze brug transformeert de zachte getuige naar een theoretisch onderbouwde link naar de gedecodeerde invariant. Het artikel toont aan dat eenvoudige monotoniciteit onvoldoende is; ongecontroleerde monotoniciteit (bijv. isotonische regressie) kan oneindige Lipschitz-constanten hebben, waardoor de gecertificeerde horizon naar nul instort.

Experimentele Opzet

Het framework wordt getest op drie conservatieve systemen: de eenvoudige pendel, de harmonische oscillator en het Kepler-tweelichamenprobleem (een singulier systeem).

• Representaties: De studie varieert de inputrepresentatie terwijl het te certificeren object vast blijft staan:
  1. Toestand (State): Canonieke coördinaten $(q, p)$ zijn de input; de readout is identiteit.
  2. Lift: Laagdimensionale observaties worden gecodeerd in een geleerd latent chart; de readout is "clean".
  3. Pixel: Hoogdimensionale afbeeldingen zijn de input; een geleerde decoder/readout introduceert significante fouten.
• Modelvarianten:
  • Plain: Onbeperkte residuele latente kaart.
  • Hard Symplectic: Latente integratoren die beperkt zijn om symplectisch te zijn (Störmer–Verlet, SympNet).
  • Soft (B-self): Zelfgesuperviseerde scalaire/vectoriële getuige getraind om invariant te zijn, uitgelijnd via de bridge.

Belangrijkste Resultaten

1. Toerustruimte (Canonieke Coördinaten)

In bekende fasecoördinaten is de harde symplectische structuur de duidelijke winnaar.

• Op het Kepler-systeem bereikten harde symplectische modellen in 3/3 seeds niet-vacueuze gezamenlijke-invariant certificaten, terwijl plain modellen 0/3 bereikten.
• De drift van de invariant per stap was $\sim 7,6\times$ kleiner voor de symplectische modellen.
• Conclusie: Harde priors werken effectief wanneer de chart bekend is en overeenkomt met de fysieke symplectische vorm.

2. Geleerde Lift (Latente Coördinaten)

Wanneer het model een chart leert van laagdimensionale observaties, storten harde symplectische priors in, terwijl zachte invarianten overleven.

• Harde symplectische modellen (Verlet, SympNet) werden statistisch ononderscheidbaar van de plain baselines. De symplectische beperking behoudt de vorm van de flow, maar niet de identiteit van de geconserveerde scalaire ten opzichte van de fysieke energie onder een willekeurige geleerde chart.
• De zachte B-self invariant slaagde erin de geleerde chart te overbruggen, waarbij een structurele winstratio van $\approx 1,30$ werd behaald en een winrate van $P(\text{soft} > \text{plain}) = 0,88$ over 8 seeds.
• Conclusie: Harde geometrische priors zijn coördinaatgevoelig en overleven de representatie-lering niet automatisch; zachte invarianten, uitgelijnd via een bi-Lipschitz brug, zijn robuuster.

3. Pixel Observaties

Certificering onder pixel-inputs is mogelijk, maar beperkt tot een readout-stabiele sub-tube.

• De decoder/readout term domineert vaak de foutenbudget.
• Door een "bevroren readout-stabiele regel" toe te passen (het uitsluiten van punten waar de Lipschitz-score van de readout te hoog is), kon de gestabiliseerde zachte getuige niet-vacueuze certificaten terugwinnen.
• Resultaten: 9/10 seeds waren niet-vacueus (tegenover 4/10 voor plain), met een uitgesloten fractie van $\le 2,3\%$.
• Conclusie: Pixel-certificering is een perceptueel probleem; het vereist het stabiliseren van de readout om een sub-tube te vinden waarin de gedecodeerde invariant getrouw is.

4. De Kepler Geometrische Grens

De Kepler-lift onthulde een intrinsieke geometrische limiet.

• Ondanks het variëren van de latente capaciteit en het toepassen van legale metriek-re-charting, faalde het gedecodeerde gezamenlijke-invariant certificaat ($T=0$) nabij het periapsis.
• Dit falen wordt toegeschreven aan de nabij-periapsis stijfheid van de inverse-kwadraat potentiaal, die kleine $(q, p)$ fouten versterkt.
• Conclusie: Dit is een systeemspecifieke geometrische grens, geen falen van de methodologie voor het certificeren van behoud zelf.

Betekenis en Claims

De primaire bijdrage van het artikel is een representatie-robuustheids-kader voor behoudscertificaten. Het stelt:

1. Het te certificeren object doet ertoe: Certificaten moeten worden gekoppeld aan de gedecodeerde fysieke invariant, niet aan de latente Hamiltoniaan of de niet-uitgelijnde getuige. Een model kan zijn interne proxy behouden terwijl het fysiek faalt.
2. Hard vs. Soft Priors: Harde canonieke symplectische structuur is coördinaatgevoelig. Het levert de langste horizonten op in bekende fasecoördinaten, maar faalt bij het oversteken van geleerde charts. Daarentegen overleeft een zachte invariant, getraind om in de latente ruimte behouden te blijven en uitgelijnd via een gecontroleerde-Lipschitz brug, de verandering van representatie.
3. Monotoniciteit is onvoldoende: Het uitlijnen van een zachte getuige met fysieke energie vereist een bi-Lipschitz kalibratie. Loutere monotoniciteit is te los en leidt tot vacuëze certificaten.
4. Geometrische Limieten: Behoud-uitgelijnde certificaten kunnen falen door intrinsieke geometrische singulariteiten (bijv. Kepler periapsis) die geen enkele schaling van representatie of capaciteit kunnen overwinnen.

De auteurs positioneren dit werk niet als een benchmark voor langetermijn visie-wereldmodellen, maar als een methodologische studie over wat gecertificeerd kan worden wanneer fysieke invarianten worden geëvalueerd via geleerde representaties. De bevindingen suggereren dat men voor geleerde wereldmodellen ofwel moet certificeren in coördinaten waar de symplectische vorm fysiek is, ofwel structurele priors moet combineren met expliciete uitlijning van de geconserveerde scalaire.