🤖 machine learning

Latent Lie-Poisson Neural Networks (LLPNNs): Discovering the motion of Lie-Poisson systems through observable data and latent dynamics

Dieses Paper führt Latent Lie-Poisson Neural Networks (LLPNNs) ein, ein strukturserhaltendes Framework, das Lie-Poisson-Dynamiken direkt aus beobachtbaren Daten lernt, indem es geometrische Bestandteile wie Hamiltonian-Decoder, Noether-Invarianten und Lie-Gruppen-Updates nutzt, um präzise Langzeitprognosen selbst für entartete Systeme zu erzielen, bei denen die latenten Variablen nicht beobachtbar sind.

Ursprüngliche Autoren: Vakhtang Putkaradze

Veröffentlicht 2026-08-03

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Vakhtang Putkaradze

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Computer beizubringen, wie sich ein Kreisel, ein Schwimmroboter oder ein Schwarm von Drohnen in der Zukunft bewegen wird. Sie haben ein Video von ihrer Bewegung, das ihre Positionen und Geschwindigkeiten zeigt, aber Sie haben keinen direkten Einblick in die „unsichtbaren Zahnräder“ in ihrem Inneren – die verborgenen Kräfte und Impulse, die die Bewegung tatsächlich antreiben. Dies ist die Herausforderung des physik-informierten maschinellen Lernens: einer KI beizubringen, die Gesetze der Natur zu verstehen, indem sie einfach nur beobachtet, wie Dinge geschehen.

Normalerweise versuchen wir, Bewegungen vorherzusagen, indem wir auf das Sichtbare schauen (wo es ist und wie schnell es sich bewegt) und den nächsten Schritt erraten. Aber für viele komplexe Systeme, wie einen im Raum rotierenden starren Körper oder ein Fahrzeug, das durch ein Fluid navigiert, reicht die sichtbare Geschwindigkeit nicht aus, um die ganze Geschichte zu erzählen. Der wahre „Motor“ des Systems lebt in einem verborgenen, mathematischen Raum, der Impuls genannt wird. Denken Sie an den Impuls wie an die unsichtbare Spannung in einem Gummiband; man kann die Spannung selbst nicht sehen, nur die Bewegung, die sie verursacht. Wenn man versucht, die Zukunft vorherzusagen, indem man nur die Bewegung betrachtet, übersieht man vielleicht die verborgene Spannung, und die Vorhersage wird schließlich in den Unsinn abdriften.

Darüber hinaus sind einige dieser Systeme „degeneriert“, was bedeutet, dass die Regeln etwas gebrochen oder unvollständig sind. In diesen Fällen hat die sichtbare Geschwindigkeit nicht einmal ein eigenes Regelwerk, dem sie folgen kann; sie ist vollständig von dieser verborgenen Spannung abhängig. Die Zukunft vorherzusagen, ohne diese verborgene Spannung zu kennen, ist so, als würde man versuchen, den nächsten Zug in einem Schachspiel zu erraten, wenn man nur die Figuren auf dem Brett sieht, aber nicht die Regeln, nach denen sie sich bewegen. Diese Arbeit befasst sich genau mit diesem Problem: wie man einem Computer beibringt, die verborgenen Regeln und die unsichtbaren Kräfte zu erlernen, indem er nur den sichtbaren Tanz beobachtet.

Der Geheimcode für verborgene Bewegung

Der Autor dieser Arbeit, Vakhtang Putkaradze, hat eine neue Art von KI erfunden, die Latent Lie-Poisson Neural Networks (LLPNNs). Betrachten Sie dies als einen „Geheimcode“, der es einem Computer ermöglicht, die unsichtbaren, verborgenen Kräfte zu entschlümern, die ein System antreiben, selbst wenn er nur die sichtbaren Ergebnisse sehen kann.

Die meisten KI-Modelle, die versuchen, Bewegung vorherzusagen, agieren wie ein Schüler, der nur den Lösungsschlüssel auswendig lernt. Sie schauen darauf, wo sich ein Objekt jetzt befindet und wo es vor einer Sekunde war, und raten dann, wo es als Nächstes sein wird. Das funktioniert ganz gut für einfache Dinge, aber für komplexe Systeme wie rotierende Satelliten oder Unterwasserfahrzeuge werden diese Modelle schließlich verwirrt. Sie vergessen die „Erhaltungssätze“ – die fundamentalen Regeln, die die Natur niemals bricht, wie die Tatsache, dass ein Kreisel seinen Gesamtdrehimpuls beibehalten muss, sofern ihn nichts anstößt. Weil sie diese Regeln vergessen, driften ihre Vorhersagen langsam von der Realität ab, wie eine Landkarte, die jeden Tag ein kleines bisschen falsch ist, bis man am Ende im Ozean statt in der Stadt landet.

Das Problem wird noch komplizierter, wenn das System „degeneriert“ ist. In diesen Fällen ist die sichtbare Geschwindigkeit (wie etwa, wie schnell ein Auto vorwärts fährt) konstant oder fixiert, aber der verborgene Impuls (die unsichtbare Kraft, die es zum Drehen bringt) ändert sich wild. Es ist, als würde man beobachten, wie ein Auto mit exakt 60 mph auf einer geraden Straße fährt. Für einen normalen Beobachter wirkt das Auto langweilig und unveränderlich. Aber wenn dieses Auto tatsächlich auf einem riesigen, unsichtbaren Karussell fährt, dreht sich der verborgene Impuls wild, obwohl die Geschwindigkeit gleich aussieht. Standard-KI-Modelle bleiben hier stecken, weil sie das Karussell nicht sehen können; sie sehen nur die stetige Geschwindigkeit. Sie versuchen, eine Regel für die Geschwindigkeit zu erfinden, aber eine solche Regel existiert nicht, weil die Geschwindigkeit nur ein Schatten des verborgenen Drehimpulses ist.

Wie die neue KI das Rätsel löst

Die LLPNNs lösen dies, indem sie erkennen, dass wir den verborgenen Impuls, auch wenn wir ihn nicht sehen können, mithilfe eines „magischen Tricks“ aus der Physik namens Noether-Theorem ableiten können. Dieses Theorem besagt, dass ein System, wenn es eine bestimmte Symmetrie besitzt (wie zum Beispiel gleich bleibt, egal wie man es rotiert), eine verborgene Größe hat, die sich niemals ändert.

Die Methode des Autors funktioniert wie folgt:

Die verborgene Konstante: Die KI nimmt an, dass es einen verborgenen, unveränderlichen „räumlichen Impulsvektor“ gibt (nennen wir ihn $p_0$ ), der für immer gleich bleibt, selbst während das Objekt rotiert und sich bewegt.
Die Rekonstruktion: Mithilfe des sichtbaren Pfades des Objekts (seine Position und Orientierung) nutzt die KI eine mathematische Brücke namens Coadjoint-Aktion, um zu rekonstruieren, welcher verborgene Impuls in jedem Moment vorhanden sein muss, um dieses konstante $p_0$ aufrechtzuerhalten. Es ist, als würde man beobachten, wie ein Schatten über eine Wand wandert, und feststellen: „Ah, das Objekt, das den Schatten wirft, muss sich so drehen, um die Lichtquelle stabil zu halten.“
Das Erlernen der Regeln: Sob sobald die KI den verborgenen Impuls rekonstruiert hat, lernt sie die tatsächlichen Regeln (den Hamiltonian), die bestimmen, wie sich dieser Impuls verändert. Dies geschieht über zwei verschiedene „Ansätze“:
- Der Decoder-Ansatz: Er lernt eine Funktion, die den verborgenen Impuls in die sichtbare Geschwindigkeit übersetzt.
- Der Encoder-Ansatz: Er lernt eine Funktion, die die sichtbare Geschwindigkeit zurück in den verborgenen Impuls übersetzt (aber nur für die Teile des Systems, die sich verändern dürfen).

Was sie herausgefunden haben

Der Autor testete diese neue KI in drei sehr unterschiedlichen, anspruchsvollen Szenarien:

Ein rotierender starrer Körper: Eine verallgemeinerte Version eines Kreisels auf einer 3D-Kugel (SO(3)).
Ein Unterwasserfahrzeug: Ein komplexer Roboter, der sich durch Wasser bewegt und sowohl Rotation als auch Translation bewältigt (SE(3)).
Ein Drohnenschwarm: Mehrere autonome Fahrzeuge auf einer 2D-Ebene, bei denen einige der Bewegungsregeln „degeneriert“ sind (die Vorwärtsgeschwindigkeit ist fix, aber die Drehung wird durch verborgene Kräfte gesteuert).

In allen drei Fällen waren die LLPNNs in der Lage, die verborgene Dynamik zu erlernen und die Zukunft mit exzellenter Langzeitgenauigkeit vorherzusagen.

Die „Magie“ der Erhaltung: Das beeindruckendste Ergebnis ist, dass die KI die „Casimir-Invarianten“ (die verborgenen erhaltenen Größen) mit Maschinengenauigkeit bewahrte. Das bedeutet, die KI hat nicht nur die richtigen Zahlen erraten; sie hat mathematisch garantiert, dass die verborgenen Regeln des Universums niemals gebrochen wurden.
Den Wettbewerb schlagen: Im Vergleich zu anderen populären KI-Methoden wie Neural ODEs und DeepONets (die nur auf sichtbare Daten schauen), blieben die LLPNNs lange auf Kurs. Die anderen Methoden funktionierten ganz gut für einfache Systeme, versagten aber kläglich, wenn das System „degeneriert“ war (wie beim Drohnenschwarm). In diesen Fällen driften die anderen KI-Modelle schnell ab und sagten unmögliche Pfade voraus, weil sie die verborgenen Kräfte nicht sehen konnten.
Robustheit: Die Methode funktionierte auch gut, wenn die Daten verrauscht waren (was reale Sensorenfehler simuliert).

Die Grenzen und die Zukunft

Der Artikel weist vorsichtig darauf hin, dass diese Methode kein magischer Zauberstab für alles ist. Sie beruht darauf, die Symmetriegruppe des Systems im Voraus zu kennen. Man muss der KI sagen: „Dies ist ein Kreisel“ oder „Dies ist eine Drohne auf einer flachen Ebene“. Wenn ein System seine eigene Symmetrie bricht (wie eine Drohne, die versucht, ein Ziel zu finden, das die Rotationsregeln bricht), könnte die Methode Schwierigkeiten bekommen. Zudem ist die Methode speziell für Systeme konzipiert, die Lie-Poisson-Dynamiken folgen; sie kann nicht direkt auf jedes beliebige physikalische System angewendet werden, das nicht über diese spezifische geometrische Struktur verfügt.

Doch für die Systeme, die sie abdeckt, sind die Ergebnisse ein bedeutender Fortschritt. Der Autor zeigt, dass wir, indem wir die tiefe geometrische Struktur der Physik direkt in das neuronale Netz einbetten, KIs bauen können, die nicht nur Daten auswendig lernen, sondern tatsächlich die unsichtbaren Zahnräder des Universums verstehen. Er hat dies mit Simulationen von starren Körpern, Unterwasserfahrzeugen und Drohnenschwärmen demonstriert und damit bewiesen, dass selbst wenn die sichtbaren Daten unvollständig oder die Regeln degeneriert sind, die verborgene Wahrheit rekonstruiert und mit hoher Präzision vorhergesagt werden kann.

Kurz gesagt: Diese Arbeit liefert uns einen neuen Weg, Computern beizubringen, das Unsichtbare zu sehen, und sicherzustellen, dass ihre Vorhersagen der Zukunft die unumstößlichen Gesetze der Physik respektieren.

Technisches Resümee: Latent Lie-Poisson Neural Networks (LLPNNs)

1. Problemstellung

Die Arbeit adressiert eine fundamentale Herausforderung bei der datengesteuerten Modellierung von Hamilton-Systemen: das Erlernen der Dynamik von Lie-Poisson-Systemen, wenn lediglich beobachtbare Daten (Konfigurationen $g(t)$ und Geschwindigkeiten $\xi(t)$ ) vorliegen, während die zugrunde liegende Dynamik in latenten Impulsvariablen ( $\mu$ ) abläuft, die nicht beobachtbar sind.

Dieses Problem ist besonders akut in zwei Kontexten:

Symmetriereduktion: Viele mechanische Systeme (starre Körper, Fluide, Unterwasserfahrzeuge) erlauben eine Symmetriereduktion auf Lie-Poisson-Systeme, bei denen der Zustandsraum der Dualraum einer Lie-Algebra ( $\mathfrak{g}^*$ ) ist, die Daten jedoch im Konfigurations-/Geschwindigkeitsraum ( $G$ und $\mathfrak{g}$ ) erhoben werden.
Degenerierte Hamilton-Funktionen in der optimalen Steuerung: In Problemen der optimalen Steuerung (z. B. interagierende Fahrzeuge) ist die reduzierte Hamilton-Funktion oft degeneriert (linear in bestimmten Impulskomponenten). Diese Degenerierung verhindert die Existenz einer entsprechenden Lagrange-Formulierung in den beobachtbaren Variablen. Folglich bilden die beobachtbaren Variablen kein geschlossenes autonomes dynamisches System; die Entwicklung der beobachtbaren Geschwindigkeiten kann nicht als $\dot{\xi} = f(\xi)$ ausgedrückt werden, da unterschiedliche latente Impulszustände identische beobachtbare Geschwindigkeiten, aber unterschiedliche zeitliche Ableitungen hervorrufen können.

Bestehende strukturerhaltende Methoden (z. B. Hamiltonian Neural Networks, Symplectic RNNs) setzen typischerweise den Zugriff auf den vollen Phasenraum oder eine nicht-degenerierte Legendre-Transformation voraus, was sie für diese spezifischen Fälle unanwendbar oder ungenau macht.

2. Methodik: Latent Lie-Poisson Neural Networks (LLPNNs)

Der Autor schlägt LLPNNs vor, ein Framework, das Lie-Poisson-Dynamiken direkt aus beobachtbaren Daten lernt und dabei die verborgenen Impulstrajektorien rekonstruiert. Die Methode stützt sich auf drei geometrische Komponenten:

A. Geometrische Grundlagen

Noether-Theorem & Coadjointe Rekonstruktion: Für Systeme mit Lie-Gruppen-Symmetrie $G$ ist der räumliche Impuls $p_0 \in \mathfrak{g}^*$ erhalten. Der latente Körpersimpuls $\mu(t)$ steht in Beziehung zum konstanten räumlichen Impuls über die coadjointe Wirkung: $\mu(t) = \text{Ad}^*_{g(t)} p_0$ . Dies liefert eine exakte Brücke zwischen der beobachtbaren Konfiguration $g(t)$ und dem latenten Impuls $\mu(t)$ .
Umgang mit Degenerierung: Das Framework unterscheidet explizit zwischen aktiven Variablen (wo die Hamilton-Funktion nicht-linear und invertierbar ist) und passiven Variablen (wo Geschwindigkeiten konstant oder Null sind). Es erfordert keine globale Legendre-Transformation, wodurch es auch dann funktionieren kann, wenn eine Lagrange-Formulierung nicht existiert.

B. Zwei Lernansätze

Die Arbeit präsentiert zwei unterschiedliche Architekturen zum Lernen des Systems:

Hamilton-Ansatz (Decoder):
- Ziel: Die Hamilton-Funktion $h(\mu)$ direkt zu lernen.
- Mechanismus: Das Netzwerk parametrisiert $h(\mu)$ als Summe linearer Terme für passive Variablen und eines neuronalen Netzwerk-Residuums für aktive Variablen.
- Training: Für jede Trajektorie wird ein konstanter räumlicher Impulsvektor $p_0$ parallel zu den Netzwerkgewichten optimiert. Der Verlust minimiert die Differenz zwischen beobachteten Geschwindigkeiten und dem Gradienten der gelernten Hamilton-Funktion, projiziert auf aktive Komponenten: $\xi_{pred} = \nabla_\mu h(\text{Ad}^*_g p_0)$ .
- Rekonstruktion: Verwendet eine Magnus-Expansion kombiniert mit der gelernten $h(\mu)$ und dem erhaltenen $p_0$ , um Gruppen-Elemente und Impulse schrittweise zu aktualisieren.
Lagrange-Ansatz (Encoder / Pseudo-Lagrange):
- Ziel: Eine „Pseudo-Lagrange-Funktion“ $\ell(\xi_{act})$ zu lernen, die aktive Geschwindigkeiten auf aktive Impulse abbildet.
- Mechanismus: Nimmt an, dass die Abbildung zwischen aktiven Geschwindigkeiten und aktiven Impulsen lokal invertierbar ist. Das Netzwerk lernt $\ell(\xi_{act})$ so, dass $\mu_{act} = \nabla_{\xi_{act}} \ell(\xi_{act})$ .
- Training: Der räumliche Impuls $p_0$ tritt linear im Verlustterm auf (außerhalb der Netzwerkauswertung), was es ermöglicht, ihn für einen gegebenen Netzwerkzustand mittels linearer Kleinste-Quadrate-Schätzung zu lösen. Der Verlust minimiert die Diskrepanz zwischen den vorhergesagten aktiven Impulsen und der coadjointe Projektion von $p_0$ .
- Rekonstruktion: Löst eine implizite Gleichung (via Root-Finding), um den nächsten Geschwindigkeitsschritt zu finden, der die aus der Pseudo-Lagrange-Funktion abgeleitete Impuls-Update-Regel erfüllt.

C. Trainingsstrategie

Warm Start: Um lokale Minima zu vermeiden, initialisiert der Autor die Netzwerke mit einer quadratischen Approximation (quadratische Hamilton-Funktion/Lagrange-Funktion) und löst für die Metrikmatrizen und $p_0$ ein beschränktes lineares System (KKT-Bedingungen), bevor die Gewichte des neuronalen Netzwerks für das volle Training freigegeben werden.
Strukturerhaltung: Der Rekonstruktionsalgorithmus verwendet Lie-Gruppen-Updates (Magnus-Expansion) und coadjointe Wirkungen, wodurch sichergestellt wird, dass Casimir-Invarianten unabhängig von der Lernqualität bis zur Maschinengenauigkeit erhalten bleiben.

3. Zentrale Beiträge

Lernen nur aus Beobachtbaren: Das erste Framework, das in der Lage ist, Lie-Poisson-Dynamiken direkt aus beobachtbaren Konfigurations- und Geschwindigkeitsdaten zu lernen, ohne latente Impulsmessungen zu benötigen.
Umgang mit degenerierten Hamilton-Funktionen: Die Methode funktioniert sowohl für reguläre als auch für degenerierte Hamilton-Systeme. Sie adressiert erfolgreich Probleme der optimalen Steuerung, bei denen die beobachtbaren Variablen keine geschlossene autonome Evolutionsgleichung besitzen, ein Szenario, in dem Standard-Neural-ODEs und DeepONets versagen.
Erhaltung bis zur Maschinengenauigkeit: Die Architektur garantiert die exakte Erhaltung der Casimir-Invarianten (bis zur Maschinengenauigkeit) durch Konstruktion, unabhängig von den Trainingsdaten oder der Optimierungsqualität.
Duale Formulierungen: Bietet sowohl Hamiltonian- als auch Lagrangian-Ansätze (Decoder/Encoder), was Flexibilität bietet, je nachdem, ob die aktive Geschwindigkeits-Impuls-Abbildung invertierbar ist.

4. Experimentelle Ergebnisse

Die Methode wurde an drei Benchmark-Systemen mit nicht-quadratischen Hamilton-Funktionen validiert:

Generalisierter starrer Körper (SO(3)):
- Demonstrierte nahezu perfekte langfristige Trajektorienverfolgung sowohl für beobachtbare Geschwindigkeiten als auch für latente Impulse.
- Erhielt Casimir-Invarianten ( $\|\mu\|^2$ ) und Energie mit Maschinengenauigkeit.
- Übertraf nicht-strukturerhaltende Baselines (Neural ODE, DeepONet), die schnell divergierten.
Kirchhoffs Unterwasserfahrzeug (SE(3)):
- Getestet an einem System mit gekoppelten Rotations- und Translationsmoden.
- Sowohl die Hamiltonian- als auch die Lagrangian-LLPNNs hielten die Phasenakkuranz aufrecht und bewahrten die zwei Casimir-Invarianten ( $\|P\|^2$ und $J \cdot P$ ).
- Zeigte eine überlegene Robustheit gegenüber Rauschen im Vergleich zu den Baselines.
Multi-Vehicle Optimale Steuerung (SE(2) $^N$ ):
- Entscheidender Test: Ein System mit einer degenerierten Hamilton-Funktion (linear in den Translationsimpulsen, nur nicht-linear im Drehimpuls).
- Ergebnis: Standardmäßige Neural ODEs und DeepONets versagten sofort, da kein autonomes Vektorfeld für die beobachtbaren Geschwindigkeiten existiert. Die LLPNNs rekonstruierten erfolgreich die latenten Dynamiken und sagten langfristige Trajektorien voraus.
- Der Lagrange-Ansatz zeigte in diesem spezifischen degenerierten Fall eine etwas bessere Phasenanpassung der Winkelgeschwindigkeiten, während der Hamiltonian-Ansatz das geringste Gesamtwachstum des Fehlers erreichte.
- Die Casimir-Invarianten für die einzelnen Fahrzeuge wurden bis zur Maschinengenauigkeit bewahrt.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass LLPNNs einen bedeutenden Fortschritt im Geometric Deep Learning darstellen, indem sie die Lücke zwischen beobachtbaren Daten und latenten geometrischen Strukturen schließen.

Bedeutung: Das Framework löst das „Hidden State“-Problem in symmetriereduzierten Systemen. Es beweist, dass selbst wenn beobachtbare Variablen aufgrund von Degenerierung kein geschlossenes System bilden, die zugrunde liegende Lie-Poisson-Struktur die exakte Rekonstruktion der vollen Dynamik unter Verwendung der beobachtbaren Daten und der bekannten Lie-Gruppe ermöglicht.
Robustheit: Die Methode ist robust gegenüber Rauschen und benötigt nur moderate Datensätze sowie leichtgewichtige neuronale Netzwerkarchitekturen.
Einschränkungen: Der Autor merkt an, dass die Methode voraussetzt, dass die Lie-Gruppe $G$ a priori bekannt ist. Sie behandelt derzeit keine Symmetriebrechenden Kostenfunktionen (bei denen die Reduktion unvollständig ist) oder allgemeine Poisson-Mannigfaltigkeiten, denen die spezifische coadjointe Rekonstruktionsformel fehlt.

Zusammenfassend lässt sich sagen, dass das Paper etabliert, dass durch die direkte Einbettung der geometrischen Zwänge von Lie-Poisson-Systemen (insbesondere Noether-Invarianten und coadjointe Wirkungen) in die Lernarchitektur eine präzise, langfristige Vorhersage komplexer dynamischer Systeme möglich ist, die für Standard-datengesteuerte Methoden unzugänglich sind.