Discovering Symbolic Differential Equations with Symmetry Invariants

Dit artikel introduceert een nieuwe methode voor het ontdekken van symbolische differentiaalvergelijkingen uit data door het gebruik van symmetrie-invarianten als atomaire eenheden, wat ervoor zorgt dat de gevonden vergelijkingen fysische wetten eerbiedigen en de zoekruimte efficiënter wordt.

De kern

De Symmetrie-Detective: Hoe AI de Geheime Wetten van het Universum Ontdekt

Stel je voor dat je een enorme stapel oude, krullende kaarten hebt. Op deze kaarten staan getekende lijnen die de beweging van water, de verspreiding van ziektes of de stroming van lucht beschrijven. Maar er staat geen tekst bij. Je weet alleen: "Er moet een regel zijn die dit alles beschrijft."

Vroeger moesten wetenschappers urenlang zitten, met potlood en papier, om die regels (die we differentiaalvergelijkingen noemen) uit te rekenen. Vandaag de dag proberen computers dat voor ons te doen. Ze kijken naar de data en proberen de formule te raden.

Maar hier is het probleem: Computers zijn vaak te creatief. Ze proberen alles te raden. Het is alsof je een detective bent die elke mogelijke verdachte in de stad ondervraagt, inclusief de buren die niets te maken hebben met de zaak. De computer probeert duizenden onzinformules, raakt in de war, en vindt soms een formule die weliswaar de data goed beschrijft, maar die in de echte wereld onmogelijk is (bijvoorbeeld een formule die zegt dat water omhoog stroomt als je erop duwt).

De Oplossing: De "Symmetrie-Invarianten"

Dit nieuwe onderzoek van Yang en zijn team introduceert een slimme truc: Symmetrie.

Stel je voor dat je een bolle deegbal hebt. Als je die draait (rotatie), ziet hij er nog steeds precies hetzelfde uit. Dat is symmetrie. Veel natuurwetten werken zo: ze veranderen niet als je het systeem draait, verschuift of vergroot.

De auteurs zeggen: "Waarom proberen we elke mogelijke formule te raden? Laten we de computer dwingen om alleen formules te bedenken die deze symmetrie respecteren."

Om dit te doen, gebruiken ze iets genaamd symmetrie-invarianten.

De Creatieve Analogie: De Magische Spiegel

Stel je voor dat je een kamer vol met spiegels hebt.

• De oude methode (zonder symmetrie): De computer probeert elke mogelijke tekening die hij kan bedenken in de kamer te maken. Hij tekent een auto, een boom, een kip. Maar als je de kamer draait, ziet de kip er raar uit. De tekening is niet "symmetrisch".
• De nieuwe methode (met invarianten): De auteurs zeggen: "Laten we de computer niet laten tekenen in de gewone kamer. Laten we hem in een magische spiegelkamer zetten."

In deze magische spiegelkamer zijn alleen de dingen die er hetzelfde uitzien, ongeacht hoe je de kamer draait, toegestaan.

• Als je een cirkel tekent, ziet die er in de spiegel nog steeds als een cirkel uit.
• Als je een lijn tekent die door het midden gaat, blijft die lijn bestaan.
• Maar als je een kip tekent, verdwijnt die in de spiegel omdat een kip niet symmetrisch is.

De computer werkt nu niet meer met de "ruwe" variabelen (zoals $x$ en $y$), maar met de invarianten. Dit zijn de "essentiële kenmerken" die overblijven na het spiegelen. Voor een draaiende stroming is de "invariant" bijvoorbeeld de afstand tot het centrum, niet de specifieke $x$- of $y$-coördinaat.

Waarom is dit zo geweldig?

1. Minder rommel: In plaats van dat de computer 10.000 onzinformules probeert, probeert hij er nu maar 100 die logisch zijn. Het is alsof je in plaats van een hele bibliotheek te doorzoeken, alleen de juiste kast openhoudt.
2. Betere resultaten: Omdat de computer niet wordt afgeleid door onmogelijke formules, vindt hij de echte natuurwet sneller en nauwkeuriger.
3. Robuustheid: Zelfs als de data een beetje ruis heeft (zoals een korreltje stof op de camera), blijft de symmetrie-gedreven methode stabiel. De "magische spiegel" filtert de ruis eruit.

Voorbeelden uit de echte wereld

De auteurs hebben hun methode getest op verschillende problemen:

• Watergolven (Boussinesq-vergelijking): Ze vonden de juiste formule voor golven in ondiep water, terwijl andere methoden faalden omdat ze niet wisten hoe ze met de symmetrie van de golven moesten omgaan.
• Grondwaterstroming (Darcy-flow): Ze ontdekten hoe water door zand stroomt, zelfs als de viscositeit (dikte) van het water verandert. De symmetrie hielp hen de complexe wiskunde te vereenvoudigen.
• Chemische reacties: Ze ontdekten hoe chemicaliën zich mengen en verspreiden, waarbij de rotatie-symmetrie van de reactie cruciaal was.

Conclusie

Kortom: Dit onderzoek geeft de computers een "fysica-gevoel". In plaats van blindelings te gokken, leren ze de fundamentele regels van het universum (symmetrie) te respecteren voordat ze zelfs maar beginnen met rekenen. Het is alsof je een detective niet alleen de foto van de dader geeft, maar ook vertelt: "De dader is altijd links van de deur." Dat maakt het oplossen van de zaak een stuk makkelijker, sneller en betrouwbaarder.

Dit is een grote stap naar AI die niet alleen data kan voorspellen, maar ook de waarheid achter de data kan begrijpen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Discovering Symbolic Differential Equations with Symmetry Invariants", geschreven in het Nederlands.

Titel: Het Ontdekken van Symbolische Differentiaalvergelijkingen met Symmetrie-invarianten

Publicatie: Transactions on Machine Learning Research (03/2026)
Auteurs: Jianke Yang, Manu Bhat, Bryan Hu, Yadi Cao, Nima Dehmamy, Robin Walters, Rose Yu.

---

1. Het Probleem

Het vinden van de onderliggende wiskundige wetten (governing equations) die complexe systemen beschrijven, is een fundamentele uitdaging in de wetenschap. Traditionele methoden voor Symbolische Regressie (SR) proberen deze vergelijkingen te ontdekken door data te fiten met symbolische expressies. Echter, bestaande methoden kampen met twee grote problemen:

1. Enorme Zoekruimte: De ruimte van mogelijke vergelijkingen is astronomisch groot, wat leidt tot inefficiëntie en het missen van de juiste oplossing.
2. Fysiek Onjuiste Resultaten: Gevonden vergelijkingen kunnen vaak fundamentele natuurwetten schenden, zoals behoudswetten of symmetrieën (bijv. rotatie- of translatie-invariantie), omdat de algoritmen geen inductieve bias hebben die deze fysieke principes respecteert.

Bestaande pogingen om symmetrie in te bouwen, zijn vaak beperkt tot specifieke soorten vergelijkingen (zoals alleen ODE's) of specifieke algoritmen (zoals alleen SINDy), en zijn niet algemeen toepasbaar.

2. Methodologie

De kern van dit werk is het introduceren van symmetrie-invarianten als de fundamentele bouwstenen voor het ontdekken van differentiaalvergelijkingen.

Theoretische Basis:

• Volgens de theorie van Lie-groepen kan elke differentiaalvergelijking die een bepaalde symmetriegroep toestaat, worden uitgedrukt uitsluitend in termen van differentiaal-invarianten van die groep.
• Een differentiaal-invariant is een functie van de variabelen en hun afgeleiden die onveranderlijk blijft onder de transformaties van de symmetriegroep (bijv. rotatie, schaling).
• In plaats van te zoeken in de ruimte van de oorspronkelijke variabelen $(x, u, u_x, \dots)$, construeert de auteurs een nieuwe zoekruimte gebaseerd op een complete set van deze invarianten $(\eta_1, \eta_2, \dots)$.

Algoritmische Implementatie:
De auteurs tonen aan dat deze aanpak naadloos kan worden geïntegreerd met bestaande SR-algoritmen:

1. Genetische Programmering (GP): De variabele set wordt gedefinieerd als de verzameling van invarianten in plaats van de ruwe variabelen. Dit garandeert dat elke gegenereerde boomstructuur per definitie de symmetrie respecteert.
2. Sparse Regression (SINDy):
   • Directe aanpak: De bibliotheek van functies wordt opgebouwd uit invarianten in plaats van monomials van de oorspronkelijke variabelen.
   • Lineaire Constraints: Een geavanceerdere methode waarbij de symmetrie wordt omgezet in lineaire constraints op de coëfficiëntenmatrix $W$ van SINDy. Dit wordt gedaan door een basis te vinden voor de deelruimte van parameters die de symmetrie behoudt. Dit maakt het mogelijk om varianten zoals Weak SINDy (voor ruisige data) te gebruiken terwijl de symmetrie behouden blijft.
3. Onvolmaakte Symmetrie: Voor systemen met imperfecte symmetrie (bijv. door externe krachten), wordt een "relaxed" aanpak voorgesteld. Hierbij worden symmetriebrekkende termen toegestaan, maar met een zwaardere regularisatie, zodat het model de neiging behoudt om symmetrische vergelijkingen te vinden tenzij de data dwingt anders.

3. Belangrijkste Bijdragen

• Algemeen Kader: Een algemeen raamwerk dat symmetrie-invarianten gebruikt om inductieve bias in te voeren bij het ontdekken van PDE's, met minimale restricties op het type vergelijking of het gebruikte SR-algoritme.
• Integratie met Bestaande Methodes: Het bewijs dat deze methode de nauwkeurigheid en efficiëntie verbetert van populaire methoden zoals SINDy, Genetische Programmering en Symbolische Transformers.
• Robuustheid: Demonstratie dat de methode robuust is in uitdagende scenario's, zoals data met ruis en systemen met imperfecte symmetrie.
• Interpreteerbaarheid: Het garanderen dat de gevonden vergelijkingen fysiek geldig zijn en de wetten van de natuurkunde respecteren.

4. Resultaten

De methode werd getest op drie verschillende fysische systemen:

1. Boussinesq-vergelijking: Een vergelijking voor solitaire golven in ondiep water (schalings- en translatiesymmetrie).
   • Resultaat: Bestaande SINDy-methoden faalden omdat de bibliotheek de term $u_x^2$ miste. De symmetrie-invariant methode (SI) vond de vergelijking met 100% succeskans.
2. Darcy-stroming: Een vergelijking voor vloeistofstroming met variërende viscositeit (rotatiesymmetrie SO(2)).
   • Resultaat: SI verbeterde de succeskans aanzienlijk ten opzichte van basismethoden en leverde vergelijkingen op met lagere voorspellingsfouten.
3. Reactie-Diffusie: Een systeem van gekoppelde vergelijkingen (rotatiesymmetrie in de fase-ruimte).
   • Resultaat: SI presteerde beter dan baselines, zelfs bij ruisige data. Bij imperfecte symmetrie (ongelijke diffusiecoëfficiënten) bleek de "relaxed" versie van de methode superieur aan standaard SINDy.

Kernbevindingen uit de experimenten:

• Efficiëntie: Het gebruik van invarianten verkleint de zoekruimte aanzienlijk, wat leidt tot snellere convergentie (minder iteraties nodig bij GP).
• Nauwkeurigheid: De succeskans (Success Probability) om de juiste vergelijking te vinden is consistent hoger dan bij baselines.
• Complexiteit: De gevonden vergelijkingen zijn vaak "parsimonious" (eenvoudig en zonder overbodige termen).

5. Betekenis en Impact

Dit werk vormt een belangrijke stap voorwaarts in Scientific Machine Learning (SciML). Door symmetrie niet als een zachte regularisatie maar als een harde structurele beperking (via invarianten) te implementeren, lost het de problemen van overfitting en fysieke onzin op die vaak voorkomen bij data-gedreven modellering.

• Wetenschappelijke Validatie: Het biedt een manier om data-gedreven ontdekking te koppelen aan fundamentele fysieke principes, waardoor de resultaten betrouwbaarder en interpreteerbaar zijn.
• Toepasbaarheid: De methode is breed toepasbaar op verschillende domeinen, van vloeistofdynamica tot chemische reacties, en werkt met een breed scala aan bestaande algoritmen.
• Toekomstperspectief: Hoewel de methode uitgaat van een bekende symmetriegroep, legt het de basis voor toekomstig werk waarbij symmetrieën automatisch kunnen worden ontdekt en vervolgens gebruikt om de vergelijkingen te construeren.

Kortom, dit paper bewijst dat het gebruik van differentiaal-invarianten een krachtige en universele strategie is om de zoekruimte voor symbolische regressie te beperken tot fysiek betekenisvolle oplossingen, waardoor de ontdekking van wetten uit data zowel efficiënter als betrouwbaarder wordt.