💻 computer science

A Data-Free Symbolic Regression Approach for Solving Equations

Das Papier stellt den Symbolic Equation Solver (SES) vor, ein datenfreies Framework, das das Lösen von Gleichungen als Optimierungsproblem über differenzierbare symbolische Modelle formuliert, um explizite analytische Lösungen direkt aus den zugrunde liegenden Gleichungen und Randbedingungen ohne die Notwendigkeit von Trainingsdaten zu gewinnen.

Ursprüngliche Autoren: Sergei Garmaev, Vinay Sharma, Olga Fink

Veröffentlicht 2026-06-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Sergei Garmaev, Vinay Sharma, Olga Fink

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen. Normalerweise benötigt man zur Lösung eines Rätsels eine Liste von Hinweisen: „Der Verdächtige wurde hier um 17 Uhr gesehen“, „Der Verdächtige hinterließ dort einen Fußabdruck“ und so weiter. In der Welt der Mathematik ist das wie das Besitzen einer Menge von Input-Output-Daten (z. B. „Wenn ich 2 hineingebe, erhalte ich 4; wenn ich 3 hineingebe, erhalte ich 9“). Traditionelle Methoden zur Findung von Formeln verlassen sich auf solche Hinweise.

Aber was, wenn Sie keine Hinweise haben? Was, wenn Sie nur das Regelbuch des Universums besitzen? Zum Beispiel wissen Sie die Regel: „Die Schwerkraft zieht Dinge nach unten“, aber Sie haben keine Liste spezifischer fallender Objekte, die Sie untersuchen könnten. Sie haben nur die Regel selbst.

Dies ist das Problem, das die Arbeit behandelt. Viele wissenschaftliche Gleichungen sind genau so wie dieses Regelbuch: Wir kennen die Gesetze (die Gleichung), aber wir können die exakte Antwort nicht ohne Weiteres in einer einfachen Formel niederschreiben. Normallich müssen Wissenschaftler brutale Computerzahlen verwenden, um eine Annäherung zu erhalten, was so ist, als würde man ein unscharfes Foto des Verdächtigen erhalten. Es funktioniert, aber man kann die Details nicht erkennen.

Der neue Detektiv: Der „Symbolic Equation Solver“ (SES)

Die Autoren schlagen ein neues Werkzeug namens SES vor. Stellen Sie sich SES als einen Detektiv vor, der keine Liste von Hinweisen (Daten) benötigt. Stattdessen nimmt SES das Regelbuch (die Gleichung) und den Tatort (die Ausgangsbedingungen, wie z. B. „Der Ball startete oben auf dem Hügel“) und versucht, die perfekte, klare Beschreibung der Lösung von Grund auf neu aufzubauen.

So funktioniert es, unter Verwendung einer einfachen Analogie:

1. Der „Lego“-Bauer

Stellen Sie sich vor, Sie haben eine Kiste mit Lego-Steinen. Diese Steine repräsentieren mathematische Werkzeuge wie „Addieren“, „Multiplizieren“, „Quadrieren“, „Exponentialfunktion“ und „tanh“ (eine spezifische Kurvenform).

Traditionelle Methoden versuchen meist, die Form eines Gebäudes zu erraten, indem sie Fotos von anderen Gebäuden betrachten (Daten).
SES bekommt den Bauplan (die Gleichung) gegeben und wird angewiesen: „Baue eine Struktur, die diesem Bauplan perfekt entspricht.“

2. Das „Versuch und Irrtum“-Spiel

SES beginnt damit, Lego-Steine zufällig zusammenzustecken, um eine Vermutung anzustellen. Es ist ein bisschen so, als würde ein Kind einen Turm ohne Plan bauen.

Es prüft seinen Turm gegen den Bauplan. Passt er zur Regel „Die Schwerkraft zieht nach unten“? Passt er zur Regel „Starte oben“?
Wenn der Turm wackelt oder nicht zu den Regeln passt, weiß SES, dass es einen Fehler gemacht hat. Es verwendet ein intelligentes „Gummiband“ (mathematische Optimierung), um die falschen Steine auseinanderzuziehen und neue Steine passgenau zusammenzuschnappen.
Dies geschieht Millionen von Malen, wobei es immer näher an eine perfekte Passform herankommt.

3. Die „Magische Enthüllung“

Sobiel der Turm gebaut ist und perfekt zu den Regeln passt, lässt SES ihn nicht einfach als Steinhaufen zurück. Es betrachtet die fertige Struktur und sagt: „Ah! Ich sehe, was das ist.“ Es übersetzt die komplexe Anordnung der Steine in einen einfachen, lesbaren Satz, wie zum Beispiel:

„Die Antwort ist einfach: x Quadrat plus y.“

Dies ist der „symbolische“ Teil. Anstatt Ihnen einen Computercode zu geben, den nur eine Maschine lesen kann, liefert es Ihnen eine für Menschen lesbare Formel.

Was haben sie getestet?

Die Autoren haben diesen Detektiv an vier Arten von Rätseln getestet:

Einfache Algebra: Das Lösen nach zwei Zahlen, die sich zu 7 addieren und deren Differenz 1 ergibt. (SES fand die Zahlen 2 und 1).
Tricky „transzendente“ Gleichungen: Dies sind mathematische Probleme, die normalerweise nicht mit Standardtricks lösbar sind. SES fand dennoch die exakte Antwort.
Bewegende Objekte (Differentialgleichungen): Die Vorhersage, wie sich eine Welle über die Zeit bewegt. SES fand die exakte Formel für die Form der Welle.
Komplexe Oberflächen (Partielle Differentialgleichungen): Die Berechnung, wie sich Wärme über eine flache quadratische Platte mit spezifischen Kanten ausbreitet. SES rekonstruierte die exakte mathematische Karte der Hitze.

Warum ist das cool?

In der Vergangenheit mussten Sie, wenn Sie eine einfache Formel wollten, Daten besitzen. Wenn Sie keine Daten hatten, mussten Sie sich mit einer „Black Box“ aus Computernummern begnügen, die zwar genau, aber schwer zu verstehen war.

SES schließt diese Lücke. Es sagt: „Wir brauchen keine Daten. Wir brauchen nur die Regeln.“

Es nimmt die chaotischen, schwer lösbaren Regeln der Wissenschaft und verwandelt sie in saubere, einfache, für Menschen lesbare Formeln. Es ist, als würde man ein unscharfes, verpixeltes Foto eines Verdächtigen nehmen und es in eine hochauflösende Skizze verwandeln, die man tatsächlich erkennen kann.

Das Fazit

Die Arbeit behauptet, dass SES ein neuer Weg ist, um mathematische Probleme zu lösen, bei denen man die Regeln, aber keine Beispiele hat. Es baut eine Lösung auf, indem es versucht, die Regeln perfekt zu erfüllen, und schreibt dann die Antwort in einer einfachen, eleganten Formel nieder. Dies hilft Wissenschaftlern zu verstehen, warum Dinge passieren, und nicht nur, was die Zahlen sind.

Technisches Resümee: Ein datenfreier symbolischer Regressionsansatz zur Lösung von Gleichungen

Problemstellung

Viele Gleichungen in Wissenschaft und Technik, insbesondere solche mit transzendenten Termen oder komplexen Differentialoperatoren, können mit bestehenden analytischen Techniken nicht gelöst werden. Folglich werden sie typischerweise mit numerischen Methoden adressiert, die Näherungslösungen liefern, jedoch ohne explizite symbolische Ausdrücke. Während numerische Lösungen quantitativ genau sind, verschleiern sie oft die zugrunde liegenden funktionalen Abhängigkeiten, Symmetrien und das qualitative Verhalten des Systems.

Bestehende Ansätze zur Rückgewinnung expliziter Lösungen stehen vor einem Zielkonflikt:

Analytische Solver: Können exakte symbolische Lösungen ableiten, sind jedoch auf spezifische Gleichungsstrukturen beschränkt (z. B. polynomielle Systeme oder eingeschränkte Klassen von ODEs).
Symbolische Regression: Kann interpretierbare Ausdrücke entdecken, beruht jedoch fundamental auf überwachten, paarweisen Input-Output-Daten, die oft nicht verfügbar sind, wenn lediglich die zugrunde liegende Gleichung und die Randbedingungen bekannt sind.
Residuenbasierte neuronale Methoden (z. B. PINNs): Operieren direkt aus den zugrunde liegenden Gleichungen und Nebenbedingungen ohne die Notwendigkeit gelabelter Daten. Sie erzeugen jedoch Lösungen, die in den Parametern eines neuronalen Netzes kodiert sind (numerische Approximationen), was die weitere analytische Nutzbarkeit einschränkt.

Es besteht eine Lücke in der Literatur für eine Methode, die direkt von den zugrunde liegenden Gleichungen und Hilfsbedingungen operiert, keine überwachten Input-Output-Daten benötigt und die Lösung in einer expliziten symbolischen Form zurückgewinnt.

Methodik: Symbolic Equation Solver (SES)

Die Autoren schlagen den Symbolic Equation Solver (SES) vor, ein Framework, das das Lösen von Gleichungen als Optimierungsproblem über differenzierbare symbolische Modelle formuliert. Im Gegensatz zur traditionellen symbolischen Regression passt SES kein Modell an Daten an; stattdessen optimiert es einen symbolischen Ausdruck, um die zugrunde liegende Gleichung und deren Bedingungen zu erfüllen.

Kernarchitektur

Symbolische Modellklasse: SES nutzt ein differenzierbares symbolisches Netzwerk basierend auf der Equation Learner (EQL)-Formulierung. In dieser Architektur werden konventionelle Aktivierungsfunktionen durch eine Bibliothek symbolischer Operatoren ersetzt (z. B. Identität, Konstanten, Quadrieren, Exponentialfunktion, Hyperbeltangent, Multiplikation).
Differenzierbarkeit: Das Netzwerk ist voll differenzierbar, was es ermöglicht, Gradienten durch die symbolischen Operatoren zu propagieren. Dies ermöglicht die Verwendung von Standard-Optimierungsmethoden erster Ordnung (Adam), um die Gewichte des Netzwerks zu optimieren, welche den Koeffizienten des symbolischen Ausdrucks entsprechen.
Zielfunktion: Das Trainingssignal wird vollständig aus den Gleichungsresiduen abgeleitet. Gegeben sei eine zugrunde liegende Gleichung $F_k(x, u, \nabla u, \dots) = 0$ und Hilfsbedingungen $B_j(x, u, \nabla u, \dots) = 0$ , minimiert SES eine Verlustfunktion, die aus den quadrierten Residuen an stichprobenartigen Kollokationspunkten besteht:
$L(\theta) = \frac{1}{N_F}\sum |F_k|^2 + \frac{1}{N_B}\sum |B_j|^2$
Für nicht-differentialartige Gleichungen wird eine Hilfsvariable eingeführt, um Kollokationspunkte zu generieren, wobei die Lösung als konstante Funktion dieser Variablen behandelt wird.

Optimierungsstrategie

Der Trainingsprozess umfasst drei distinkte Phasen, um zur Konvergenz einer spärlichen (sparse), interpretierbaren Lösung zu führen:

Residuenminimierung: Das Modell wird für 50.000 Epochen unter Verwendung nur der Residuen-Zielfunktion trainiert, um die Gleichung zu erfüllen.
Sparsity-Induktion: Das Training wird für 200.000 Epochen mit einem hinzugefügten $\ell_1$ -Penalty auf die internen Gewichte fortgesetzt. Während dieser Phase entfernt ein Pruning-Mechanismus periodisch die 25 % der Gewichte mit dem geringsten Beitrag zum Verlust, was eine kompakte symbolische Struktur fördert.
Feinabstimmung: Der $\ell_1$ -Penalty wird entfernt, und die verbleibenden Gewichte werden für 20.000 Epochen unter Verwendung nur der Residuen-Zielfunktion feinabgestimmt.
Extraktion: Der endgültige symbolische Ausdruck wird durch Traversierung des geprunten Rechengraphen extrahiert, wobei die gelernten Gewichte auf fünf Dezimalstellen gerundet werden.

Zentrale Beiträge

Datenfreier symbolischer Recovery: SES demonstriert, dass explizite symbolische Lösungen ohne paarweise Input-Output-Trainingsdaten zurückgewonnen werden können, indem ausschließlich die mathematische Struktur der zugrunde liegenden Gleichungen und Bedingungen genutzt wird.
Vereinigtes Framework: Der Ansatz vereint das gleichungsorientierte Optimierungsprinzip residuenbasierter neuronaler Solver (wie PINNs) mit der Interpretierbarkeit der symbolischen Regression. Er ist sowohl auf algebraische als auch auf differentialartige Gleichungen innerhalb einer einzigen Formulierung anwendbar.
Gemeinsame Optimierung für Systeme: Das Framework lässt sich natürlich auf Systeme mit mehreren unbekannten Größen erweitern, indem diese unter einer gemeinsamen Zielfunktion gemeinsam optimiert werden.

Experimentelle Ergebnisse

Die Autoren evaluierten SES an einer vielfältigen Menge von Problemen und verglichen die zurückgewonnenen symbolischen Ausdrücke mit bekannten analytischen Lösungen:

Lineare Systeme: Erfolgreiche Rückgewinnung exakter konstanter Lösungen ( $x=2, y=1$ ) für ein System linearer Gleichungen.
Transzendente Gleichungen: Rückgewinnung der Lösung $x=1$ für die Gleichung $e^x + x^3 = e + 1$ , ein Problem, das typischerweise numerische Methoden erfordert, da eine standardmäßige symbolische Isolation unmöglich ist.
Gewöhnliche Differentialgleichungen (ODEs):
- Rückgewinnung von $y(t) = \tanh(t)$ für die nichtlineare ODE $dy/dt = 1 - y^2$ .
- Rückgewinnung der quadratischen Transportlösung $u(x,t) = (x-t)^2$ für eine lineare Transportgleichung, wobei die korrekte funktionale Form trotz approximierter Koeffizientenwerte bewahrt wurde.
Partielle Differentialgleichungen (PDEs):
- Erfolgreiche Lösung einer 2D-Poisson-Gleichung mit gemischten Randbedingungen, wobei die exakte polynomielle Struktur $u(x,y) = x^2 + y^2 + xy^2$ zurückgewonnen wurde.
- Rückgewinnung der Lösung für einen zweiten Satz von Randbedingungen für dieselbe PDE, was die Robustheit gegenüber unterschiedlichen Konfigurationen der Nebenbedingungen demonstriert.

In allen Fällen produzierte SES kompakte symbolische Ausdrücke, die den analytischen Lösungen entsprachen und oft die korrekten funktionalen Abhängigkeiten und Symmetrien offenlegten.

Bedeutung und Ansprüche

Das Paper postuliert, dass das Lösen von Gleichungen nicht bloß als analytische Ableitung oder numerische Approximation, sondern als Optimierung im symbolischen Funktionsraum neu gefasst werden kann. Die Bedeutung von SES liegt in der Fähigkeit, die Lücke zwischen gleichungsorientierten Formulierungen und symbolischer Rückgewinnung zu schließen.

Interpretierbarkeit und Entdeckung: Durch die Rückgewinnung von Lösungen in expliziter symbolischer Form legt SES strukturelle Abhängigkeiten und funktionale Beziehungen offen, die aus rein numerischen Approximationen schwer abzuleiten sind. Die Autoren legen nahe, dass diese Fähigkeit als Mechanismus für die wissenschaftliche Hypothesengenerierung und -entdeckung dienen kann, indem sie Kandidaten für analytische Formen und Invarianzen liefert.
Scientific Machine Learning: SES stellt einen Schritt dar, um symbolisches Denken direkter in das Scientific Machine Learning zu integrieren und einen Weg zu Modellen zu eröffnen, die sowohl prädiktiv als auch strukturell fundiert sind.
Limitierungen und zukünftige Arbeit: Die Autoren merken bescheiden an, dass die aktuellen Ergebnisse Proof-of-Concept-Ergebnisse für Probleme mit bekannten analytischen Lösungen und relativ kompakten Strukturen sind. Sie räumen ein, dass die Erweiterung des Frameworks auf anspruchsvollere PDEs, hochdimensionale Systeme und chaotische Dynamiken ausdruckkräftigere Architekturen, reichere Operator-Bibliotheken und robustere Optimierungsstrategien erfordern wird.