🤖 machine learning

When Do Conservation Laws Survive Learned Representations? Certified Horizons for Latent World Models

Diese Arbeit etabliert einen Rahmen zur Zertifizierung, wie viele Schritte ein gelernter latenter Weltmodell auf der Levelmenge einer physikalischen Invariante verbleibt, indem sie den „zertifizierten Horizont“ durch die Zerlegung von Repräsentations-, Readout- und Dynamikdefekten begrenzt, wobei sie demonstriert, dass während harte geometrische Priors wie symplektische Strukturen möglicherweise nicht über gelernte Charts hinweg generalisieren, weiche, Lipschitz-angepasste Invarianten Erhaltungssätze im dekodierten physikalischen Raum robust bewahren können.

Ursprüngliche Autoren: Hongbo Wang

Veröffentlicht 2026-06-25

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Hongbo Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bringen einem Roboter bei, wie sich ein schwingendes Pendel bewegt. Anstatt dem Roboter die tatsächliche Physik (Winkel und Geschwindigkeiten) zu zeigen, lassen Sie ihn seine eigene geheime, interne Sprache (eine „latente Repräsentation“) lernen, um die Welt zu verstehen. Der Roboter wird sehr gut darin, den nächsten Schritt in seiner eigenen geheimen Sprache vorherzusagen.

Aber hier liegt das Problem: Wie können Sie dem Roboter vertrauen?

In der realen physischen Welt gibt es Dinge, die sich niemals ändern, wie etwa die Gesamtenergie eines schwingenden Pendels. Wenn der Roboter vorhersagt, dass das Pendel aus dem Nichts plötzlich unendliche Energie gewinnen wird, wissen wir, dass er defekt ist. Diese Arbeit stellt die Frage: Können wir beweisen, dass unser Roboter immer noch die unveränderlichen Gesetze respektiert, obwohl er in seiner eigenen geheimen Sprache denkt?

Die Autoren sagen: „Ja, aber nur, wenn wir das Richtige prüfen.“

Die Kernidee: Die „dekodierte“ Wahrheit

Die Arbeit argumentt, dass man dem internen Score des Roboters für Energie nicht vertrauen kann. Der Roboter mag perfekt darin sein, seine eigene geheime „Energie“ konstant zu halten, aber diese geheime Energie hat vielleicht nichts mit der realen Energie zu tun.

Stattdessen müssen Sie den Roboter dazu zwingen, seine geheimen Gedanken zurück in reale Weltkoordinaten (Winkel und Geschwindigkeiten) zu übersetzen und dann zu prüfen, ob die reale Energie konstant bleibt.

Der falsche Weg: Prüfen, ob die interne Mathematik des Roboters konstant bleibt. (Das ist so, als würde man prüfen, ob der Geheimcode eines Spions konsistent bleibt, selbst wenn der Spion über die Mission lügt).
Der richtige Weg: Prüfen, ob die dekodierte Nachricht (die reale Physik) konstant bleibt. (Das ist die Prüfung, ob der eigentliche Bericht des Spions an das Hauptquartier korrekt ist).

Die drei „Ebenen“ des Vertrauens

Die Autoren testeten diese Idee in drei verschiedenen Szenarien, wie das Erklimmen einer Leiter der Schwierigkeit:

1. Die einfache Ebene (Bekannte Koordinaten):
Dem Roboter werden die reale Physik (Winkel und Geschwindigkeiten) direkt gegeben.

Ergebnis: Wenn man den Roboter zwingt, „harte“ mathematische Regeln (symplektische Struktur) anzuwenden, die die reale Physik nachahmen, funktioniert es perfekt. Er bleibt über eine lange Zeit auf dem korrekten Energiepfad.
Analogie: Es ist, als würde man einem Fahrer eine Karte geben, die bereits perfekt auf die Straße abgestimmt ist. Wenn er den Regeln der Karte folgt, bleibt er auf der Straße.

2. Die mittlere Ebene (Gelernte Koordinaten):
Der Roboter muss seine eigene geheime Sprache aus einfachen Daten selbst erschließen.

Ergebnis: Die „harten“ Regeln aus der einfachen Ebene versagen. Der Robot lernt eine geheime Sprache, in der die „Energie“ zwar konstant ist, aber es ist die falsche Energie. Er driftet von der Realität ab.
Die Lösung: Die Autoren verwendeten einen „weichen“ Ansatz. Sie brachten den Roboter bei, ein Muster zu finden, das konstant bleibt, und bauten dann eine Brücke (eine mathematische Kalibrierung), um dieses Muster mit der realen Energie zu verbinden.
Analogie: Der Fahrer erstellt nun seine eigene Karte. Die „harten Regeln“ der alten Karte funktionieren nicht mehr. Aber wenn man eine Übersetzer-Brücke baut, die sagt: „Wenn der Fahrer ‚Blau‘ sagt, meint er ‚Norden‘“, kann man ihm trotzdem vertrauen. Das „weiche“ Muster überlebte die Übersetzung; die „harten“ Regeln taten es nicht.

3. Die harte Ebene (Pixelbilder):
Der Roboter sieht nur Bilder (Pixel) des Pendels, keine Zahlen. Er muss die Physik aus dem Bild erraten.

Ergebnis: Dies ist sehr verrauscht. Der „Decoder“ des Roboters (das Zurückverwandeln von Pixeln in Zahlen) macht Fehler.
Die Lösung: Sie fanden eine „sichere Zone“. Wenn sie dem Roboter nur vertrauten, wenn er das Pendel auf eine stabile, klare Weise betrachtete (indem er verschwommene oder seltsame Winkel ignorierte), funktionierte der „weiche“ Ansatz mit der Brücke wieder.
Analogie: Der Fahrer schaut nun durch ein beschlagenes Fenster auf die Straße. Er kann nicht überall vertraut werden. Aber wenn man ihm sagt: „Fahre nur, wenn der Nebel dünn ist“, kann er trotzdem auf der Straße bleiben.

Die große Entdeckung: Die „Kepler“-Wand

Sie testeten auch ein sehr schwieriges System (zwei Planeten, die einander umkreisen). Selbst mit all ihren Tricks scheiterte der Roboter, wenn die Planeten sich sehr nahe kamen.

Warum? Es lag nicht daran, dass der Roboter „dumm“ war oder die Mathematik falsch war. Es war ein geometrisches Limit. Wenn die Planeten sich zu nahe kommen, wird die Physik unendlich scharf (wie eine Klippe). Keine Menge an besserem Lernen oder besseren Karten kann eine Klippe reparieren, die zu steil ist, um sie zu erklimmen.
Analogie: Selbst der beste Fahrer mit dem besten Übersetzer kann kein Auto eine vertikale Wand hochfahren. Die Wand ist einfach zu steil.

Zusammenfassung

Vertrauen Sie nicht den internen Gefühlen des Roboters: Nur weil der Roboter denkt, dass er das Richtige tut, heißt das nicht, dass er es auch tut.
Vertrauen Sie der Übersetzung: Sie müssen den Output des Roboters prüfen, nachdem er seine geheimen Gedanken zurück in die reale Physik übersetzt hat.
Harte Regeln brechen, wenn sich die Karte ändert: Starre physikalische Regeln funktionieren nur, wenn man die Karte im Voraus kennt. Wenn der Roboter seine eigene Karte lernt, benötigen Sie eine flexible „Brücke“, um seine Ideen mit der Realität zu verbinden.
Einige Wände sind unüberwindbar: Manchmal ist die Physik selbst zu extrem (wie kollidierende Planeten), und kein Maß an besserer KI kann die Sicherheit dort garantieren.

Die Arbeit beweist, dass wir „Zertifikate“ (Garantien) für KI-Weltmodelle erstellen können, aber nur, wenn wir ehrlich darüber sind, was wir messen und wie wir die Gedanken der KI zurück in die Realität übersetzen.

Technisches Resümee: Wann überleben Erhaltungssätze gelernte Repräsentationen?

Problemstellung

Moderne Weltmodelle erreichen Skalierbarkeit, indem sie latente Repräsentationen lernen und in diesem latenten Raum vorwärts propagieren, anstatt im Beobachtungsraum. Dieser Übergang erschwert jedoch die Zertifizierung des physikalischen Vertrauens. Während Erhaltungssätze (z. B. Energieerhaltung) eine natürliche Währung für das Vertrauen in physikalische Systeme darstellen, ersetzt ein latentes Modell physikalische Koordinaten durch gelernte. Infolgedessen kann ein Modell ein gelerntes internes Skalarmaß (einen latenten Hamilton oder Zeugen) perfekt konservieren, während die wahre physikalische Energie signifikant driftet.

Die zentrale Frage, die hier adressiert wird, lautet: Wann bleibt ein Erhaltungssatz nach dem Lernen einer latenten Repräsentation durch ein Modell zertifizierbar? Speziell versucht das Paper, im Voraus und basierend auf messbaren Modelldefekten zu begrenzen, wie viele Schritte eine Rollout-Sequenz nachweislich auf dem Niveau eines physikalischen Invarianten bleibt. Die kritische Herausforderung besteht darin, zu definieren, was zertifiziert wird: nicht die gelernte latente Größe, sondern die dekodierte physikalische Invariante.

Methodik

Das zertifizierte Objekt

Das Paper fixiert das zertifizierte Objekt auf die dekodierte physikalische Invariante, bezeichnet als $\Psi(z) = H^*(\Pi D_\psi z)$ .

$z$ : Latenter Zustand.
$D_\psi$ : Decoder-Abbildung vom Latenten zur Beobachtung.
$\Pi$ : Readout-Abbildung von der Beobachtung zu den physikalischen Koordinaten $(q, p)$ .
$H^*$ : Die bekannte physikalische Invariante (z. B. wahre mechanische Energie).

Entscheidend ist, dass das Paper nicht den gelernten latenten Hamilton $H_\theta$ oder ein gelerntes skalares Zeugnis $C_\omega$ direkt zertifiziert. Diese werden als „Zeugen“ oder Proxys behandelt. Ein Modell kann diese internen Größen konservieren, während die dekodierte physikalische Invariante driftet. Eine Zertifizierung ist nur dort gültig, wo die Zustands-Pipeline und die latent-dekodierte Pipeline auf $H^*$ konvergieren.

Zertifikats-Framework

Die Autoren leiten „Shell-Horizon-Zertifikate“ her, die begrenzen, wie viele Schritte $T$ eine Rollout-Sequenz innerhalb einer Toleranz $\epsilon$ der Energieschale bleibt. Das Budget für diesen Horizont setzt sich aus drei verschiedenen Defektquellen zusammen:

Repräsentations-Defekt ( $\epsilon_0$ ): Initialisierungsfehler in der Einbettung/Kodierung.
Readout-Defekt ( $\epsilon_{\Pi, \text{num}}$ ): Fehler, die durch die Decoder- und Readout-Abbildung eingeführt werden (dominant bei Pixel-Beobachtungen).
Latent-Dynamik-Defekt ( $\delta_{\text{tube}}^{\text{phys}}$ ): Per-Schritt-Drift der dekodierten Invariante in der latenten Dynamik.

Der Horizont wird berechnet als:
$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{initialization defects}}{\text{per-step drift}} \right\rfloor$
wobei $m_{c,\rho}$ die Sensitivität der Schale (minimale Gradientennorm) ist.

Alignment-Brücke (Soft Witnesses)

Um ein gelerntes „weiches“ Invariante (ein skalares Zeugnis $C_\omega$ , das darauf trainiert wurde, im latenten Raum konserviert zu werden) zu nutzen, führt das Paper eine kontrollierte-Lipschitz-Alignment-Brücke ein.

Ein weiches Zeugnis ist nicht inhärent die physikalische Energie. Es muss über eine Kalibrierungsfunktion $g_C$ ausgerichtet werden.
Die Bedingung für eine gültige Zertifizierung ist die bi-Lipschitz-Kalibrierung ( $0 < \kappa \le g'_C \le L_g$ ).
Diese Brücke transformiert das weiche Zeugnis in eine theorem-konforme Verbindung zur dekodierten Invariante. Das Paper zeigt, dass einfache Monotonie nicht ausreicht; unkontrollierte Monotonie (z. B. isotonische Regression) kann unendliche Lipschitz-Konstanten aufweisen, wodurch der zertifizierte Horizont auf Null kollabiert.

Experimenteller Aufbau

Das Framework wird an drei konservativen Systemen getestet: dem einfachen Pendel, dem harmonischen Oszillator und dem Kepler-Zwei-Körper-Problem (ein singuläres System).

Repräsentationen: Das Studium variiert die Eingangsrepräsentation, während das zertifizierte Objekt fixiert bleibt:
1. State: Kanonische Koordinaten $(q, p)$ sind Input; der Readout ist die Identität.
2. Lift: Niedrigdimensionale Beobachtungen werden in eine gelernte latente Chart kodiert; der Readout ist sauber.
3. Pixel: Hochdimensionale Bilder sind Input; ein gelernter Decoder/Readout führt signifikante Fehler ein.
Modell-Varianten:
- Plain: Unbeschränkte residue latente Map.
- Hard Symplectic: Latente Integratoren, die beschränkt sind, zu symplektisch zu sein (Störmer–Verlet, SympNet).
- Soft (B-self): Selbstüberwachtes skalares/ vektorielles Zeugnis, das invariant trainiert wurde, ausgerichtet über die Brücke.

Kernergebnisse

1. Zustandsraum (Kanonische Koordinaten)

In bekannten Phasenkoordinaten ist die harte symplektische Struktur der klare Gewinner.

Beim Kepler-System erreichten harte symplektische Modelle in 3/3 Seeds nicht-vakue Zertifikate für gemeinsame Invarianten, während Plain-Modelle 0/3 erreichten.
Der Drift der Invariante pro Schritt war $\sim 7,6\times$ kleiner für symplektische Modelle.
Fazit: Harte Priors funktionieren effektiv, wenn die Chart bekannt ist und mit der physikalischen symplektischen Form übereinstimmt.

2. Gelernter Lift (Latente Koordinaten)

Wenn das Modell eine Chart aus niedrigdimensionalen Beobachtungen lernt, kollabieren harte symplektische Priors, während weiche Invarianten überleben.

Harte symplektische Modelle (Verlet, SympNet) wurden statistisch ununterscheidbar von Plain-Baselines. Die symplektische Beschränkung bewahrt die Form des Flusses, aber nicht die Identität der konservierten Skalargröße relativ zur physikalischen Energie unter einer beliebigen gelernten Chart.
Das weiche B-self Invariante überquerte die gelernte Chart erfolgreich und erreichte ein Struktur-Gewinn-Verhältnis von $\approx 1,30$ und eine Gewinnrate von $P(\text{soft} > \text{plain}) = 0,88$ über 8 Seeds.
Fazit: Harte geometrische Priors sind koordinatensensitiv und überleben die Repräsentationslernprozesse nicht automatisch; weiche Invarianten, die über eine bi-Lipschitz-Brücke ausgerichtet sind, sind robuster.

3. Pixel-Beobachtungen

Zertifizierung unter Pixel-Inputs ist möglich, aber auf einen readout-stabilen Sub-Tube beschränkt.

Der Decoder/Readout-Term dominiert oft das Fehlerbudget.
Durch Anwendung einer „eingefrorenen readout-stabilen Regel“ (Ausschluss von Punkten, in denen der Lipschitz-Score des Readouts zu hoch ist), konnte das stabilisierte weiche Zeugnis nicht-vakue Zertifikate wiederherstellen.
Ergebnisse: 9/10 Seeds waren nicht-vakue (vs. 4/10 für Plain), wobei der ausgeschlossene Anteil $\le 2,3 \%$ betrug.
Fazit: Pixel-Zertifizierung ist ein perzeptuelles Problem; sie erfordert die Stabilisierung des Readouts, um einen Sub-Tube zu finden, in dem die dekodierte Invariante treu bleibt.

4. Die Kepler-Geometrische Grenze

Der Kepler-Lift offenbarte eine intrinsische geometrische Grenze.

Trotz Variation der latenten Kapazität und Anwendung legaler metrischer Re-Chartings versagte das dekodierte gemeinsame-Invariante-Zertifikat nahe dem Periapsis.
Dieses Versagen wird der Nahe-Periapsis-Steifigkeit des Potenzials mit dem inversen Quadratgesetz zugeschrieben, welches kleine $(q, p)$ -Fehler verstärkt.
Fazit: Dies ist eine systemspezifische geometrische Grenze und kein Versagen der Zertifizierungsmethodik selbst.

Bedeutung und Behauptungen

Der primäre Beitrag des Papers ist eine Repräsentations-Robustheits-Einordnung für Erhaltungszertifikate. Es argumentiert:

Das zertifizierte Objekt zählt: Zertifikate müssen an die dekodierte physikalische Invariante gebunden sein, nicht an den latenten Hamilton oder ein ungerichtetes Zeugnis. Ein Modell kann seine interne Proxy konservieren und dennoch physikalisch versagen.
Harte vs. weiche Priors: Harte kanonische symplektische Strukturen sind koordinatensensitiv. Sie liefern die längsten Horizonte in bekannten Phasenkoordinaten, scheitern aber beim Überqueren gelernter Charts. Im Gegensatz dazu überleben weiche Invarianten, die im latenten Raum als konserviert trainiert und über eine kontrolliert-Lipschitz-Brücke ausgerichtet wurden, den Wechsel der Repräsentation.
Monotonie ist unzureichend: Die Ausrichtung eines weichen Zeugnisses auf die physikalische Energie erfordert eine bi-Lipschitz-Kalibrierung. Bloße Monotonie ist zu lose und führt zu vakuen Zertifikaten.
Geometrische Grenzen: Konservierungs-ausgerichtete Zertifikate können aufgrund intrinsischer geometrischer Singularitäten (z. B. Kepler-Periapsis) scheitern, die durch keine Menge an Repräsentationslernen oder Kapazitätssteigerung überwunden werden können.

Die Autoren positionieren diese Arbeit nicht als Benchmark für Langzeit-Vision-Weltmodelle, sondern als eine methodische Studie darüber, was zertifizierbar ist, wenn physikalische Invarianten durch gelernte Repräsentationen evaluiert werden. Die Ergebnisse legen nahe, dass man für gelernte Weltmodelle entweder in Koordinaten zertifizieren muss, in denen die symplektische Form physikalisch ist, oder strukturelle Priors mit einem expliziten Alignment der konservierten Skalargröße kombinieren muss.