💻 computer science

Model discovery for dynamical systems with complex-valued product units

Dieser Beitrag stellt eine datengesteuerte Methode zur Entdeckung von Modellen vor, die komplexe Produkt-Einheiten-Netzwerke verwendet, um Steuerungsgleichungen direkt aus Daten zu erlernen, ohne auf vordefinierte Funktionsbibliotheken zurückzugreifen, und die sowohl die exakte Dynamik chaotischer Systeme erfolgreich wiederherstellt als auch stabile Vorhersagen für reale menschliche Gangsignale erzeugt.

Ursprüngliche Autoren: Martin Brückmann, Babette Dellen, Uwe Jaekel

Veröffentlicht 2026-05-27

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Martin Brückmann, Babette Dellen, Uwe Jaekel

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, das geheime Rezept für einen köstlichen, chaotischen Eintopf herauszufinden. Sie können weder den Koch noch die Zutatenliste sehen, aber Sie können den Topf beobachtend aufkochen und die Suppe zu verschiedenen Zeitpunkten probieren. Ihr Ziel ist es nicht nur, zu erraten, wie die Suppe als Nächstes schmecken wird; Sie wollen die exakte mathematische Formel entdecken, die erklärt, warum sie auf die Weise aufkocht, wie sie es tut.

Diese Arbeit stellt ein neues „Detektivwerkzeug" vor, das Complex-Valued Product-Unit Network (Netzwerk mit komplexwertigen Produkt-Einheiten) genannt wird. Hier ist die Funktionsweise, aufgeschlüsselt in einfache Konzepte:

1. Der alte Weg vs. der neue Weg

Der alte Weg (SINDy & Symbolische Regression): Stellen Sie sich vor, Sie versuchen, das Rezept zu finden, indem Sie jede mögliche Kombination von Zutaten aus einem riesigen, vorab geschriebenen Kochbuch testen. Sie probieren vielleicht „Salz + Pfeffer", dann „Salz + Pfeffer + Zucker", dann „Salz + Pfeffer + Zucker + Mehl". Wenn das echte Rezept eine seltsame Zutat wie „0,5 Teelöffel Sternanis" (ein gebrochener Exponent) oder „negatives Salz" (negative Exponenten) verwendet, enthält Ihr Kochbuch diese Optionen möglicherweise gar nicht. Sie sind durch das, was Sie bereits kennen, begrenzt.
Der neue Weg (Diese Arbeit): Anstatt ein Kochbuch zu verwenden, ist dieses neue Werkzeug wie ein gestaltwandelnder Koch. Er braucht keine Zutatenliste. Er betrachtet die aufkochende Suppe und lernt, seine eigenen Zutaten im laufenden Betrieb zu kreieren. Er kann Begriffe wie $x^{0,5}$ (Quadratwurzel) oder $x^{-2}$ (Inverses) erfinden, einfach indem er die Daten beobachtet. Er baut die Formel von Grund auf neu auf und entdeckt die „Monome" (die Bausteine der Mathematik) direkt aus den Beobachtungen.

2. Wie der „gestaltwandelnde Koch" funktioniert

Das Modell verwendet spezielle „Einheiten", die wie magische Multiplikatoren wirken.

Die Produkt-Einheit: Stellen Sie sich einen Standardrechner vor, der nur Zahlen addiert. Dieses Modell verwendet einen speziellen Rechner, der Zahlen miteinander multipliziert, aber sie auch auf jede beliebige Potenz heben kann – sogar auf seltsame, gebrochene oder negative Potenzen.
Der komplexe Bereich: Damit diese Mathematik reibungslos funktioniert (besonders beim Umgang mit negativen Zahlen oder Wurzeln), operiert das Modell in der Welt der „komplexen Zahlen". Stellen Sie sich eine Karte vor, auf der Sie nicht nur Nord/Süd (reelle Zahlen), sondern auch Ost/West (imaginäre Zahlen) haben. Das Modell nutzt diese zusätzliche Dimension, um schwieriges mathematisches Gelände zu navigieren, das Standardrechner ins Stolpern bringen würde.
Das Ergebnis: Das Modell spuckt eine Liste von Termen aus (wie $5x^2y$ oder $-4z^{0,1}$ ) und addiert sie auf, um das Verhalten des Systems nachzubilden.

3. Die Testküche: Benchmark-Systeme

Die Autoren testeten ihr Detektivwerkzeug an vier berühmten „chaotischen" Systemen (mathematische Rezepte, die als sehr unberechenbar bekannt sind):

Lorenz63: Das klassische Wettermodell.
Lorenz84: Ein komplexeres Wettermodell.
Four-Wing Attractor (Vierflügel-Attraktor): Ein System, das wie ein Schmetterling mit vier Flügeln aussieht.
Lorenz_Fract: Eine modifizierte Version des ersten, die eine „gebrochene" Zutat (eine Quadratwurzel) enthält.

Die Ergebnisse:

Wenn sie dem Modell genügend Daten zuführten (mindestens 3.000 Punkte), entdeckte es die exakten Originalrezepte in 90 % der Fälle für die Standard-Systeme erfolgreich wieder.
Selbst für das knifflige „gebrochene" System lag die Trefferquote bei 70–90 %.
Der „Glaskugel"-Test: Sobald das Modell das Rezept gefunden hatte, ließen sie es die Zukunft vorhersagen. Wenn das Rezept perfekt war, blieb die Vorhersage für immer auf Kurs. Wenn das Rezept leicht falsch war, geriet die Vorhersage schließlich außer Kontrolle. Das Modell war so genau, dass seine Vorhersagen sehr lange stabil blieben.

4. Die reale Herausforderung: Menschliches Gehen

Schließlich testeten sie das Werkzeug an etwas Unordentlichem und Realem: Beschleunigungsdaten eines gehenden Menschen.

Das Problem: Im Gegensatz zu den sauberen mathematischen Problemen oben ist Gehen verrauscht und hochdimensional (viele Variablen). Es gibt kein bekanntes „Rezept" für menschliches Gehen, das man vergleichen könnte.
Der Ansatz: Anstatt eine Differentialgleichung (ein Rezept für Veränderung) zu finden, lernte das Modell, den nächsten Schritt des Gehens basierend auf den vorherigen 50 Schritten vorherzusagen.
Das Ergebnis: Das Modell lernte ein stabiles Muster. Selbst wenn es gebeten wurde, das Gehen für 30 Sekunden vorherzusagen (dreimal länger als die Zeit, für die es trainiert wurde), geriet es nicht außer Kontrolle. Der Fehler blieb klein und begrenzt, etwa 12–14 % des gesamten Bewegungsbereichs. Es erfasste erfolgreich den Rhythmus des Gehens, ohne die Physik im Voraus kennen zu müssen.

5. Der Haken (Einschränkungen)

Die Arbeit räumt mit einigen Dingen ein, die noch nicht perfekt sind:

Die Größe raten: Sie müssen dem Modell grob mitteilen, wie viele „Zutaten" (Terme) es suchen soll. Wenn Sie zu niedrig raten, kann es das Rezept nicht finden. Wenn Sie zu hoch raten, wird es unübersichtlich.
Komplexität: Wenn es auf die Gehdaten angewendet wurde, wurde das Modell riesig (Tausende von Parametern). Obwohl es funktionierte, war das resultierende „Rezept" zu kompliziert, als dass ein Mensch es leicht lesen und verstehen könnte. In diesem hochdimensionalen Fall ist es eine „Black Box", im Gegensatz zu den einfachen, lesbaren Formeln, die es für die mathematischen Benchmarks fand.
Rauschen: Die Gehdaten mussten bereinigt (gefiltert) werden, bevor das Modell daraus lernen konnte. Es wurde noch nicht umfassend an sehr verrauschten Daten getestet.

Zusammenfassung

Diese Arbeit stellt ein intelligentes, flexibles Werkzeug vor, das die Gesetze der Natur (oder zumindest komplexe Systeme) direkt aus Daten zurückentwickeln kann, ohne eine vorgefertigte Liste möglicher Formeln zu benötigen. Es funktioniert brillant bei mathematischen Rätseln und zeigt vielversprechende Ergebnisse für reale, unordentliche Daten wie menschliche Bewegung, vorausgesetzt, Sie haben genügend Daten, um es zu füttern.

Technisches Fazit: Modellentdeckung für dynamische Systeme mit komplexwertigen Produkt-Einheiten

Problemstellung
Die Rekonstruktion von zugrundeliegenden Gleichungen aus beobachteten Trajektorien bietet tiefere strukturelle Einblicke in dynamische Systeme als eine reine Zustandsvorhersage. Die Identifizierung relevanter Monome – insbesondere solcher mit gebrochenen oder negativen Exponenten – in hochdimensionalen Systemen ist jedoch aufgrund der potenziell unendlichen Anzahl an Kandidatentermen schwierig. Etablierte Methoden wie SINDy (Sparse Identification of Nonlinear Dynamics) und symbolische Regression beruhen auf vordefinierten Bibliotheken von Kandidatenfunktionen. Diese Einschränkung begrenzt die Darstellung nichtlinearer Funktionsklassen und macht eine erschöpfende Suche bei steigender Eingabedimensionalität undurchführbar, da die Anzahl der Kandidatenterme exponentiell wächst.

Methodik
Die Autoren schlagen einen datengesteuerten Ansatz unter Verwendung von komplexwertigen Produkt-Einheiten-Netzwerken vor, um zugrundeliegende Gleichungen ohne eine vordefinierte Kandidatenbibliothek zu entdecken.

Architektur: Das Modell nutzt Produkt-Einheiten, wobei jede Einheit ein Produkt von Eingaben berechnet, die auf komplexwertige Potenzen erhoben werden ( $x_i^{w_i}$ ). Diese werden durch Verkettung von Summationseinheiten mit logarithmischen und exponentiellen Aktivierungsfunktionen implementiert, die im komplexen Bereich definiert sind: $\prod x_i^{w_i} = \exp(\sum w_i \log x_i)$ .
Formulierung: Der Netzwerkausgang stellt die rechte Seite (RHS) gewöhnlicher Differentialgleichungen (ODEs) als eine sparse lineare Kombination dieser komplexen Monome dar:
$\hat{f}(x_1, \dots, x_n) = \sum_{k=1}^m c_k \prod_{i=1}^n x_i^{w_{k,i}}$
wobei $c_k$ und $w_{k,i}$ komplexe Koeffizienten und Exponenten sind, die direkt aus den Daten gelernt werden.
Training: Das Netzwerk wird mittels Gradientenabstieg (Adam-Optimierer) unter Verwendung eines komplexwertigen mittleren quadratischen Fehlerverlusts trainiert. Für Benchmark-Systeme lernt das Modell, Zeitableitungen ( $\dot{x}$ ) gegeben die Zustandsvariablen vorherzusagen. Für reale Gangdaten, bei denen Ableitungen nicht verfügbar sind, verwendet das Modell Time-Delay-Embedding, um den nächsten Zustand direkt aus einer Sequenz vergangener Beobachtungen vorherzusagen.
Nachbearbeitung: Um numerisches Rauschen zu behandeln und Stabilität sicherzustellen, werden Terme mit absoluten Koeffizienten unter $10^{-3}$ ausgeschlossen. Ähnliche Terme (bei denen sich die Exponenten um $\le 0,1$ unterscheiden) werden durch Mittelung der Exponenten und Summierung der Koeffizienten zusammengeführt.

Hauptbeiträge

Bibliotheksfreie Entdeckung: Im Gegensatz zu SINDy oder symbolischer Regression erfordert dieser Ansatz keinen vorab festgelegten Satz von Kandidatenfunktionen. Er lernt relevante Monome, einschließlich solcher mit gebrochenen oder negativen Exponenten, direkt aus den Daten.
Komplexwertiger Bereich: Durch den vollständigen Betrieb im komplexen Bereich (Eingaben, Gewichte und Ausgaben) verarbeitet das Modell natürliche negative Eingaben und gebrochene Potenzen, die für standardmäßige reellwertige Produkt-Einheiten problematisch sind.
Sparse Darstellung: Die Methode zielt darauf ab, sparse algebraische Strukturen wiederherzustellen, die die Dynamik antreiben, und fördert damit die Interpretierbarkeit.

Ergebnisse
Die Methode wurde an vier chaotischen Benchmark-Systemen und realen Beschleunigungsdaten menschlichen Gangs evaluiert.

Benchmark-Systeme (Lorenz63, Lorenz84, Four-Wing, Lorenz_Fract):
- Unter Verwendung von mindestens 3.000 Trainingspunkten rekonstruierte das Modell die exakten zugrundeliegenden Gleichungen in 90 % der Versuche für Systeme mit ganzzahligen Exponenten (Lorenz63, Lorenz84, Four-Wing).
- Für die Variante mit gebrochenen Exponenten (Lorenz_Fract, enthaltend einen $z^{0,5}$ -Term) wurde eine exakte Rekonstruktion in 70–90 % der Versuche mit 3.000–5.000 Punkten erreicht.
- Wenn alle führenden Terme korrekt identifiziert wurden, war die Effektive Vorhersagezeit (EPT) effektiv unendlich (unterscheidbar vom wahren System). Wenn Terme übersehen wurden, sank die EPT signifikant (unter eine Lyapunov-Zeit).
- Die Studie stellte fest, dass spurartige imaginäre Komponenten im Ausgang oft als frühe Indikatoren für Trajektorien-Divergenz (Vorhersageunsicherheit) dienten.
Anwendung in der realen Welt (Menschlicher Gang):
- Angewendet auf 150-dimensionale Gangsignale (3 Achsen $\times$ 50 Zeitverzögerungen), wurde das Modell trainiert, zukünftige Zustände aus vergangenen Beobachtungen vorherzusagen.
- Das Modell erzeugte stabile Trajektorien über einen Testhorizont, der dreimal so lang wie das Trainingsintervall war.
- Vorhersagefehler blieben begrenzt, mit einem Root Mean Square Error (RMSE) von ungefähr 12–14 % des Signalamplitudenbereichs.
- Das Modell erfasste erfolgreich die quasi-periodische Natur des Gangs, ohne substantialen Drift zu akkumulieren.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass komplexwertige Produkt-Einheiten-Netzwerke eine viable Alternative zu bibliotheksbasierten Methoden zur Entdeckung dynamischer Systeme bieten, insbesondere wenn die Funktionsform unbekannt ist oder nicht-ganzzahlige Potenzen beinhaltet. Der Ansatz zeigt, dass:

Exakte zugrundeliegende Gleichungen aus Daten ohne vorheriges Wissen über den Satz der Kandidatenfunktionen rekonstruiert werden können.
Die Methode sich natürlich auf gebrochene Potenzgesetze erstreckt, die mit standardmäßigen sparse-Regression-Bibliotheken schwer zu handhaben sind.
Das Modell stabile, begrenzte Vorhersagen für hochdimensionale, verrauschte reale Systeme (wie menschlichen Gang) generieren kann, selbst wenn analytische Gleichungen nicht verfügbar sind.

Einschränkungen und zukünftige Arbeiten
Die Autoren erkennen mehrere Einschränkungen an:

Hyperparameter-Empfindlichkeit: Die Anzahl der Produkt-Einheiten muss im Voraus spezifiziert werden und muss mindestens der Anzahl der dominanten Terme entsprechen; während der Trainingsverlust auf die Angemessenheit des Modells hinweisen kann, bleibt die automatische Bestimmung eine offene Herausforderung.
Interpretierbarkeit vs. Dimensionalität: In hochdimensionalen Anwendungen (z. B. Ganganalyse mit ca. 46.000 Parametern) verschlechtert sich die sparse, für Menschen lesbare Natur der Lösung.
Rauschrobustheit: Die Methode erforderte für Gangdaten einen Tiefpassfilter, und eine systematische Evaluierung der Robustheit gegenüber Messrauschen ist erforderlich.

Von den Autoren vorgeschlagene zukünftige Arbeiten umfassen die Entwicklung adaptiver Methoden zur automatischen Bestimmung der Anzahl der Produkt-Einheiten, die Erweiterung des Rahmens auf partielle Differentialgleichungen sowie die Durchführung systematischer Evaluierungen für biomedizinische Anwendungen wie Sturzerkennung oder die Identifizierung von Ganganomalien.