🤖 machine learning

Enhancing Symbolic Regression and Universal Physics-Informed Neural Networks with Dimensional Analysis

Dieses Paper schlägt ein Framework vor, das die Dimensionsanalyse (speziell das Buckingham- $\Pi$ -Theorem und Ipsens Methode) mit symbolischer Regression und Universal Physics-Informed Neural Networks integriert, um die Rechenkosten zu senken, Overfitting zu minimieren und die Genauigkeit bei der Entdeckung von grundlegenden Gleichungen aus begrenzten oder verrauschten Daten signifikant zu verbessern.

Ursprüngliche Autoren: Lena Podina, Diba Darooneh, Joshveer Grewal, Mohammad Kohandel

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Lena Podina, Diba Darooneh, Joshveer Grewal, Mohammad Kohandel

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das Geheimrezept für einen köstlichen Kuchen zu entschlüsseln, aber Sie haben nur eine Liste der Zutaten und den fertigen Geschmack, nicht aber die Anweisungen. Sie möchten die exakte mathematische Formel aufschreiben, die aus diesen Zutaten diesen Geschmack macht. Das ist das, was Wissenschaftler als Symbolische Regression bezeichnen: Computer nutzen, um die verborgenen mathematischen Gleichungen zu entdecken, die erklären, wie die Welt funktioniert.

Diese Aufgabe ist jedoch wie der Versuch, eine bestimmte Nadel in einem Heuhaufen zu finden, der so groß ist wie ein Berg. Der Computer muss Milliarden möglicher Formeln erraten, was viel Zeit in Anspruch nimmt und oft zu falschen Antworten führt (Overfitting).

Dieses Paper stellt einen cleveren Trick vor, um diese Suche einfacher und genauer zu machen: Dimensionsanalyse. Betrachten Sie dies als einen „Einheiten-Übersetzer“, der die verwirrenden Bezeichnungen (wie Meter, Sekunden oder Kilogramm) entfernt und sich nur auf die reinen Beziehungen zwischen den Zahlen konzentriert.

So haben die Autoren es gemacht, unter Verwendung einfacher Analogien:

1. Das Problem: Zu viele Variablen

Stellen Sie sich vor, Sie versuchen vorherzusagen, wie schnell ein Auto fahren wird. Sie schauen sich vielleicht die Motorengröße, das Gewicht des Autos, die Windgeschwindigkeit, den Reifendruck und die Stimmung des Fahrers an. Das sind fünf verschiedene Dinge, die man gleichzeitig jonglieren muss. Wenn Sie versuchen, eine Formel zu finden, die alle fünf verbindet, wird es ein Chaos.

2. Die Lösung: Die „Buckingham $\Pi$ “- und „Ipsen“-Filter

Die Autoren verwendeten zwei spezifische Methoden (benannt nach ihren Erfindern, Buckingham und Ipsen), um das Problem zu vereinfachen.

Die Analogie: Stellen Sie sich vor, Sie backen einen Kuchen. Anstatt sich um das exakte Gewicht des Mehls in Gramm oder die exakte Temperatur in Celsius zu sorgen, erkennen Sie, dass das, was zählt, das Verhältnis von Mehl zu Zucker und das Verhältnis von Hitze zu Zeit ist.
Was das Paper tat: Sie nahmen ihre komplexen Daten und konvertierten sie in diese „dimensionslosen Gruppen“ (diese sogenannten Verhältnisse). Plötzlich musste der Computer nicht mehr fünf Variablen jonglieren, sondern nur noch zwei oder drei. Es ist, als würde man diesen massiven Heuhaufen zu einem kleinen Haufen Heu schrumpfen.

3. Das Experiment: Algebraische Gleichungen (Der „Rezept“-Test)

Zuerst testete das Team dies an einfachen mathematischen Formeln (wie der Gravitation oder wie ein Ball fällt).

Das Ergebnis: Als sie die „rohen“ Daten (mit Einheiten) in den Computer einspeisten, rät dieser oft falsch oder braucht lange. Aber als sie ihm die „Verhältnis“-Daten (dimensionslos) einspeisten, fand der Computer fast jedes Mal die exakt korrekte Formel und tat dies viel schneller. Es war, als würde man dem Computer eine Karte geben anstatt einer Augenbinde.

4. Der fortgeschrittene Test: Das „teilweise bekannte“ Mysterium (UPINNs)

Als Nächstes widmeten sie sich einer schwierigeren Herausforderung: Differentialgleichungen. Dies sind Gleichungen, die beschreiben, wie sich Dinge im Laufe der Zeit verändern, wie etwa eine Kaninchenpopulation, die wächst, oder eine Perle, die auf einem Ring rotiert.

Das Szenario: Stellen Sie sich vor, Sie kennen die halbe Rezeptur (z. B. wissen Sie, wie die Kaninchenpopulation natürlich wächst), aber Sie kennen den zweiten Teil nicht (z. B. wie viele Kaninchen von Füchsen gefressen werden).
Das Werkzeug: Sie verwendeten eine spezielle KI namens UPINN (Universal Physics-Informed Neural Network). Betrachten Sie den UPINN als einen „intelligenten Ratenden“, der den fehlenden Teil des Rezepts basierend auf den Daten lernt.
Der Clou: Sie wandten ihren „Verhältnis-Filter“ (Dimensionsanalyse) an, bevor der intelligente Ratende auf die Daten blickte.
Das Ergebnis:
- Ohne den Filter: Der intelligente Ratende hatte Schwierigkeiten, besonders wenn die Daten verrauscht waren (wie ein Rezept mit ein paar verbrannten Krümeln). Er konnte den fehlenden Teil nicht klar identifizieren.
- Mit dem Filter: Der intelligente Ratende fand den fehlenden Teil viel genauer. Da die Daten in reine Verhältnisse vereinfacht wurden, ließ sich der Computer nicht durch das Rauschen oder die Einheiten verwirren.

5. Der große Sieg: Das „Lotka-Volterra“-Beispiel

In ihrem komplexesten Test (einem Räuber-Beute-Modell) zeigten sie, dass sie durch ihre Methode den unbekannten Teil der Gleichung auf null zusätzliche Variablen reduzieren konnten.

Die Analogie: Normalerweise könnten Sie denken, dass das fehlende Rezept von der Temperatur, der Luftfeuchtigkeit und der Tageszeit abhängt. Aber ihre Methode zeigte, dass der fehlende Teil tatsächlich nur vom Verhältnis von Räubern zu Beute abhängt. Sie entfernte den gesamten unnötigen Ballast und hinterließ eine kristallklare, einfache Formel.

Zusammenfassung

Das Paper behauptet, dass man durch das Übersetzen von realen Daten in „reine Verhältnisse“ (dimensionslose Zahlen), bevor man einen Computer bittet, die mathematische Formel zu finden, Folgendes erreicht:

Man findet häufiger die richtige Antwort.
Man erledigt es schneller, weil es weniger Möglichkeiten zu prüfen gibt.
Man kann besser mit verrauschten Daten umgehen (wie einem Rezept mit ein paar Fehlern).
Man kann selbst dann arbeiten, wenn man nur einen Teil der Physik kennt, indem man der KI hilft, die fehlenden Teile zu finden.

Im Wesentlichen haben sie keinen neuen Typ von Computer erfunden; sie haben dem Computer lediglich beigebracht, das Problem auf eine einfachere, „physikfreundlichere“ Weise zu betrachten, was die Aufgabe, die Geheimnisse der Natur zu entdecken, wesentlich erleichtert.

Technisches Resümee: Verbesserung der symbolischen Regression und UPINNs durch Dimensionsanalyse

Problemstellung
In der Ingenieurwissenschaft und der angewandten Mathematik ist die Ableitung präziser, interpretierbarer mathematischer Modelle aus experimentellen Daten entscheidend für die Steuerung und Optimierung. Die symbolische Regression (SR) hat sich als ein leistungsfähiges Werkzeug zur Entdeckung geschlossener Gleichungen direkt aus Daten erwiesen, ohne dass vordefinierte Annahmen erforderlich sind. SR steht jedoch vor erheblichen Herausforderungen: Sie ist ein NP-hartes Problem, das durch einen erschöpfenden Suchraum gekennzeichnet ist, was zu hohen Rechenkosten, langsamer Konvergenz und einem hohen Risiko des Overfittings führt, insbesondere wenn Datensätze begrenzt oder verrauscht sind. Darüber hinaus haben Standard-SR-Algorithmen oft Schwierigkeiten, die physikalische Konsistenz (dimensionslose Homogenität) in den entdeckten Gleichungen zu erzwingen. Während frühere Arbeiten die Dimensionsanalyse in die SR integriert haben, waren sie weitgehend auf vollständig bekannte Gleichungen beschränkt oder haben den Nutzen der Nondimensionalisierung nicht systematisch in Szenarien mit „partiellem Wissen“ demonstriert, in denen einige Terme einer Differentialgleichung bekannt sind und andere gelernt werden müssen.

Methodik
Die Autoren schlagen ein Framework vor, das die Dimensionsanalyse – insbesondere das Buckingham- $\Pi$ -Theorem und die Methode von Ipsen – mit symbolischer Regression und Universal Physics-Informed Neural Networks (UPINNs) kombiniert. Die Methodik unterteilt sich in zwei primäre Arbeitsabläufe:

Vollständige Entdeckung algebraischer Gleichungen:
Die Autoren kombinieren das Buckingham- $\Pi$ -Theorem mit dem PySR-Algorithmus der symbolischen Regression. Sie zeigen, dass die Transformation von dimensionalen Rohdaten in dimensionslose $\pi$ -Terme vor der Regression die Anzahl der Eingabevariablen reduziert. Dieser Prozess vereinfacht den Suchraum, indem sichergestellt wird, dass Kandidatenausdrücke aus dimensionslosen Gruppen anstelle der ursprünglichen Variablen konstruiert werden, wodurch dimensionsinkonsistente Ausdrücke automatisch eliminiert werden.
Entdeckung von partiellem Wissen in Differentialgleichungen (der Hauptbeitrag):
Für Szenarien, in denen eine Differentialgleichung teilweise bekannt ist (z. B. $du/dt = P(u,t) + Q(u,t)$, wobei $P$ bekannt und $Q$ unbekannt ist), führen die Autoren eine neuartige Pipeline ein:

Nondimensionalisierung via Ipsens Methode: Im Gegensatz zum Buckingham- $\Pi$ -Theorem, das die Gesamtzahl der $\pi$ -Terme minimiert, ermöglicht die Methode von Ipsen die spezifische Auswahl dimensionsloser Konstanten, um die Anzahl der im unbekannten Term $Q$ erscheinenden Eingabevariablen zu minimieren. Dies wird durch die iterative Eliminierung von Dimensionen aus der unbekannten Komponente erreicht.
UPINN-Approximation: Ein Universal Physics-Informed Neural Network wird trainiert, um den verborgenen Term $Q$ unter Verwendung der nondimensionalisierten Daten wiederherzustellen. Das UPINN lernt $Q$ als Funktion nur der relevanten dimensionslosen Gruppen, was die Komplexität der Funktionsapproximation erheblich reduziert.
Symbolische Regression: Der Output des UPINN (der approximierte verborgene Term) wird anschließend in einen Algorithmus der symbolischen Regression (PySR) eingespeist, um einen geschlossenen Ausdruck für den dimensionslosen unbekannten Term zu finden.
Rekonstruktion: Die endgültige dimensionslose Gleichung kann zurück auf die ursprünglichen dimensionalen Variablen abgebildet werden, um die zugrunde liegende Differentialgleichung wiederherzustellen.

Das Framework wurde an drei unterschiedlichen Fällen getestet: einem erweiterten logistischen Wachstumsmodell (Differentialgleichung 1. Ordnung), einem rotierenden Bead-Modell (Differentialgleichung 2. Ordnung) und einem erweiterten Lotka-Volterra-System (gekoppelte Differentialgleichungen). Die Experimente wurden sowohl unter rauschfreien als auch unter verrauschten Bedingungen durchgeführt.

Wesentliche Beiträge

Integration von Buckingham $\Pi$ mit SR: Die Arbeit zeigt, dass die Kombination des Buckingham- $\Pi$ -Theorems mit PySR die Genauigkeit der Rekonstruktion algebraischer Gleichungen signifikant verbessert und oft eine exakte Rekonstruktion erreicht, wo die ursprüngliche Formulierung versagt.
Neuartige Partial-Knowledge-Pipeline: Die Autoren führen eine Pipeline ein, die die Methode von Ipsen, UPINNs und SR integriert. Dieser Ansatz zielt spezifisch auf die Rekonstruktion unbekannter Terme in Differentialgleichungen ab, indem er die Dimensionalität der Eingabe der unbekannten Komponente vor dem Lernen reduziert.
Systematische Validierung: Die Studie bietet einen systematischen Vergleich der SR-Leistung auf ursprünglichen gegenüber nondimensionalisierten Daten über mehrere Typen von Differentialgleichungen hinweg und zeigt konsistente Verbesserungen bei Fehlermetriken und Gleichungsrekonstruktionsraten.

Ergebnisse

Algebraische Gleichungen: Bei der Anwendung auf sieben algebraische Gleichungen ermöglichte die Nondimensionalisierung es PySR, die wahren zugrunde liegenden Gleichungen fast in allen Fällen exakt zu rekonstruieren (mit vernachlässigbarem MSE), während die ursprüngliche Formulierung häufig scheiterte, nicht generalisierte oder falsche Ausdrücke lieferte. Beispielsweise reduzierte die Nondimensionalisierung im Fall des Coulomb-Gesetzes das Problem auf einen einzigen $\pi$ -Term, was eine exakte Rekonstruktion ermöglichte.
Differentialgleichungen (Logistisches Wachstum): Für das erweiterte logistische Wachstumsmodell konnte das UPINN den verborgenen Term sowohl in dimensionaler als auch in dimensionsloser Form erfolgreich rekonstruieren. Die symbolische Regression auf den dimensionslosen Daten rekonstruierte jedoch den wahren Ausdruck ( $\alpha^2/(\alpha^2+1)$ ) mit hoher Genauigkeit, während die SR auf den ursprünglichen Daten selbst bei erhöhtem Datenvolumen nicht in der Lage war, die korrekte Form zu finden. Dieser Vorteil blieb auch unter verrauschten Bedingungen ( $\epsilon=0.05$ und $\epsilon=0.1$ ) bestehen, bei denen der dimensionslose Ansatz signifikant niedrigere MSE-Werte lieferte.
Differentialgleichungen (Rotierender Bead): Ähnliche Ergebnisse wurden für das Modell des rotierenden Beads beobachtet. Der dimensionslose Ansatz ermöglichte es PySR, die wahre Gleichung ( $-\epsilon \sin \theta + \sin \theta \cos \theta$ ) zu rekonstruieren, während die ursprüngliche Formulierung zu hohem MSE und falschen Ausdrücken führte.
Differentialgleichungen (Lotka-Volterra): Im erweiterten Lotka-Volterra-System wurde der unbekannte Term auf eine parameterfreie Funktion von zwei dimensionslosen Variablen ( $x, y$ ) reduziert. Während das UPINN den verborgenen Term in beiden Fällen präzise lernte, hatte PySR Schwierigkeiten, die exakte rationale Funktion in einer der beiden Formulierungen zu rekonstruieren, obwohl der dimensionslose Ansatz dennoch niedrigere Verlustwerte lieferte. Die Autoren merken an, dass der Datensatz möglicherweise nicht über genügend Informationen verfügte, um die Grundwahrheit von ähnlichen Ausdrücken zu unterscheiden.

Bedeutung und Ansprüche
Das Paper behauptet, dass die Integration der Dimensionsanalyse mit der symbolischen Regression ein robustes Framework für die automatisierte Entdeckung von Steuerungsgesetzen bietet, insbesondere wenn Daten begrenzt oder verrauscht sind. Durch die Reduzierung des Suchraums auf dimensionslose Gruppen senkt die Methode die Rechenkosten, mildert Overfitting ab und gewährleistet die physikalische Interpretierbarkeit. Die Autoren betonen, dass die Methode im Gegensatz zu statistischen Kompressionsmethoden (z. B. PCA) die invarianten Beziehungen zwischen den Größen bewahrt.

Die Autoren positionieren diese Arbeit bescheiden als einen Proof-of-Concept. Sie räumen ein, dass die Methode auf Annahmen wie vollständig bekannten Eingabevariablen und dimensionalen Matrizen beruht und dass die reale Anwendung die Handhabung verborgener oder nicht beobachteter Variablen erfordern kann. Sie merken zudem an, dass die Pipeline zwar die Leistung verbessert, aber keine Garantie für die Entdeckung der wahren Gleichung in jedem komplexen Szenario bietet (wie bei den Lotka-Volterra-Ergebnissen ersichtlich). Zukünftige Arbeiten sollen die Lockerung dieser Annahmen, die Erstellung von Benchmarks mit realen Daten sowie die Untersuchung der spezifischen Auswirkungen verschiedener Nondimensionalisierungsstrategien auf die Algorithmenleistung umfassen.