🔢 mathematics

KANDy: Kolmogorov-Arnold Networks and Dynamical System Discovery

Dit paper introduceert KANDy, een interpreteerbare neurale architectuur die Kolmogorov-Arnold-netwerken combineert met sparse regressie om de bestuurende vergelijkingen van complexe en chaotische dynamische systemen effectief te ontdekken.

Oorspronkelijke auteurs: Kevin Slote, Jeremie Fish, Erik Bollt

Gepubliceerd 2026-03-26

📖 4 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kevin Slote, Jeremie Fish, Erik Bollt

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

KANDy: De "Slimme Architect" die de Geheimen van het Chaos Ontdekt

Stel je voor dat je een enorme, chaotische danszaal binnenstapt. Er zijn duizenden mensen die wild rondspringen, botsen en hun paden kruisen. Het lijkt volledig willekeurig. Toch, als je goed kijkt, volgt iedereen een onzichtbare choreografie. Er zijn regels die bepalen hoe ze bewegen, maar die regels zijn zo complex dat ze onleesbaar lijken.

Dit is precies het probleem waar wetenschappers mee worstelen bij het bestuderen van chaotische systemen (zoals weer, stromend water of de beweging van planeten). Ze hebben data (de dansers), maar ze kunnen de onderliggende regels (de choreografie) niet vinden.

Hier komt KANDy (Kolmogorov-Arnold Network for Dynamics) om de hoek kijken. Het is een nieuwe, slimme computerprogrammatuur die deze regels kan ontdekken. Laten we het uitleggen met een paar simpele metaforen.

1. Het oude probleem: De "Lijst met Woorden"

Vroeger probeerden wetenschappers de regels te vinden door een enorme lijst met mogelijke wiskundige woorden te maken (zoals $x$ , $x^2$ , $\sin(x)$ , $x \cdot y$ ). Ze hoopten dat het juiste antwoord een simpele combinatie was van een paar woorden uit die lijst.

Dit werkte goed voor simpele dansers. Maar bij complexe chaos (zoals een storm of een optische laser) faalde deze methode. Waarom? Omdat de dansers soms bewegingen maken die niet in die simpele lijst stonden. Het was alsof je probeert een symfonie te beschrijven met alleen maar de woorden "klap" en "stamp". Het werkt niet.

2. De nieuwe oplossing: KANDy als "Meester-Vertaler"

KANDy is anders. In plaats van te hopen dat het antwoord op een lijst staat, leert KANDy de taal zelf.

De "Lift" (Verheffing): Stel je voor dat je een platte tekening van een berg ziet. Je kunt de hellingen niet goed begrijpen. KANDy "tilt" die tekening op naar een 3D-berg. Plotseling zie je de echte vorm. KANDy neemt de ruwe data en verandert deze in een hoger, complexer niveau waar de regels makkelijker te zien zijn.
De "Breedte" in plaats van "Diepte": Normale AI-modellen zijn als een toren van blokken (diep). KANDy is als een enorm breed, plat tapijt. Het heeft geen toren, maar wel heel veel breedte. Dit maakt het veel beter in het zien van patronen zonder in de war te raken.

3. Hoe werkt het in de praktijk?

KANDy doet drie dingen die het zo speciaal maken:

Het ziet de "Dans" in plaats van alleen de "Stap":
Veel modellen kijken alleen naar de volgende stap in de tijd. KANDy kijkt naar de hele dans. Het leert niet alleen waar de danser naartoe gaat, maar hoe de danser beweegt. Hierdoor blijft het model stabiel, zelfs als de danser plotseling van richting verandert (wat in chaos vaak gebeurt).
Het ontdekt de "Topologie" (De Vorm):
Soms is de vorm van de chaos belangrijker dan de exacte getallen. Denk aan een donut en een mok. Wiskundig zijn ze hetzelfde (beide hebben één gat). KANDy kan zien dat een systeem een "donut-vorm" heeft, zelfs als de data er rommelig uitziet. Het begrijpt de structuur van het universum, niet alleen de getallen.
Het schrijft de regels op in mensentaal:
Dit is het coolste deel. Veel AI-modellen zijn "zwarte dozen": je stopt data erin en krijgt een antwoord, maar je weet niet waarom. KANDy is transparant. Na het leren van de dans, kan het de regels terugvertalen naar een simpele wiskundige formule die een mens kan lezen. Het zegt: "Aha! De beweging wordt bepaald door $x$ maal $y$ minus een beetje wrijving."

4. Waarom is dit belangrijk?

Vroeger konden we de toekomst van chaotische systemen (zoals het weer) maar heel kort voorspellen voordat het fout ging. KANDy helpt ons om:

Betere voorspellingen te doen: Zelfs als de chaos groot is, blijft het model de "vorm" van het systeem vasthouden.
Nieuwe wetten te vinden: Het kan systemen ontdekken waar we dachten dat er geen simpele wetten voor bestonden (zoals bepaalde biologische systemen of licht in een holte).
Veiligheid: Door de onderliggende regels te begrijpen, kunnen we beter inschatten wanneer een systeem (zoals een elektriciteitsnet of een ecosysteem) in gevaar komt.

Samenvattend

KANDy is als een detective die niet alleen naar de vingerafdrukken kijkt, maar ook naar de manier waarop de dader loopt. Het gebruikt een slimme truc om de data te "verheffen" naar een niveau waar de regels zichtbaar worden, en schrijft die regels vervolgens op in een taal die we allemaal kunnen begrijpen. Het is een grote stap voorwaarts in het ontrafelen van de geheimen van ons complexe universum.

Titel: KANDy: Kolmogorov-Arnold Networks voor Dynamische Systeemontdekking

Auteurs: Kevin Slote, Jeremie Fish, en Erik Bollt (Clarkson University).

1. Het Probleem

Het ontdekken van de onderliggende bestuurende vergelijkingen (governing equations) van chaotische en complexe dynamische systemen op basis van data is een fundamentele uitdaging in de wetenschap. Bestaande methoden stuiten op ernstige beperkingen:

Spreidingsprobleem (Sparsity Constraint): Traditionele methoden zoals SINDy (Sparse Identification of Nonlinear Dynamics) vertrouwen op de aanname dat de bestuurende vergelijkingen "spars" zijn (d.w.z. samengesteld uit een klein aantal elementaire wiskundige termen). Dit faalt bij systemen met complexe, niet-spars structuren, zoals de Ikeda-map (optische resonatoren), Holling-type ecologische modellen, en bepaalde PDE's (zoals de Kuramoto-Sivashinsky vergelijking).
Chaotische Onvoorspelbaarheid: In chaotische systemen (bijv. Lorenz-attractor) divergeren trajecten exponentieel. Zelfs geavanceerde modellen (zoals Reservoir Computing of Neural ODEs) verliezen hun voorspellende vermogen binnen één of twee Lyapunov-tijden, hoewel ze vaak de korte-termijn dynamiek goed kunnen nabootsen.
Interpreteerbaarheid: Diepe neurale netwerken (MLP's) zijn vaak "black boxes" en leveren geen expliciete symbolische vergelijkingen op.
Topologische Complexiteit: Systemen met niet-triviale topologieën (zoals de Hopf-fibratie) of symmetrieën zijn moeilijk te modelleren zonder de onderliggende invariante structuur te behouden.

2. Methodologie: Het KANDy Framework

De auteurs introduceren KANDy (Kolmogorov-Arnold Network for Dynamics), een hybride architectuur die de kracht van Kolmogorov-Arnold Netwerken (KANs) combineert met concepten uit Koopman-operator theorie en sparse regression.

Kerncomponenten:

Zero-Depth Architectuur: In tegenstelling tot traditionele KANs die diepe netwerken gebruiken, gebruikt KANDy een "zero-depth" (breed) netwerk. Dit is wiskundig equivalent aan een regressieprobleem, maar geïmplementeerd met KAN-blokken. Dit voorkomt dat diepte de interpretatie van de vergelijkingen verduistert.
Lifting (Verheffing): De toestand van het systeem $x$ wordt gemapt naar een verheven ruimte $\Theta = \Phi(x)$ door fysiek geïnformeerde of niet-lineaire functies toe te voegen (bijv. producten van variabelen zoals $xy$, $xz$). Dit maakt de dynamica in deze verheven ruimte lineair of eenvoudiger te benaderen, in lijn met Koopman-theorie.
Trainingsdoel (Loss Function): Het model wordt getraind met een gecombineerde loss-functie:
1. Afgeleide Supervisie: Minimaliseer de fout tussen de voorspelde en werkelijke tijdsafgeleiden ( $\dot{x}$ ).
2. Rollout Supervisie: Minimaliseer de cumulatieve fout over lange trajecten door het model iteratief te integreren (autoregressief). Dit zorgt voor stabiliteit en behoud van de attractor-geometrie.
Symbolische Extractie: Na training worden de geleerde spline-activaties op de randen van het netwerk geanalyseerd en gefit met een bibliotheek van symbolische functies (polynomen, trigonometrische functies, etc.). Een "greedy-edge-wise" selectieprocedure met complexiteitsstraf zorgt ervoor dat alleen de meest relevante termen behouden blijven, wat leidt tot een mens-leesbare vergelijking.

3. Belangrijkste Bijdragen

Overcoming Sparsity Limits: KANDy lost het probleem op waarbij sparse regression faalt bij systemen zonder spars structuur. Door de "lifting" en de flexibiliteit van KANs kan het complexe, niet-spars termen (zoals $1/(1+x^2)$ in de Ikeda-map) nauwkeurig modelleren.
Topologische Invariantie: Het model slaagt erin om invariante structuren te ontdekken, zoals aangetoond bij de Hopf-fibratie. Waar standaard KANs de vezels (fibers) van de fibratie instorten, leert KANDy de quotiënt-structuur correct en behoudt de topologische eigenschappen.
Theoretische Beperkingen van Diepte: De auteurs bewijzen (via stellingen in het paper) dat diepe KANs met smalle lagen (bijv. breedte 1 of 3) fundamenteel onvoldoende zijn om bepaalde bilineaire termen (zoals $xy$ en $xz$ tegelijkertijd in het Lorenz-systeem) te representeren zonder extra "lifting". Dit onderstreept de noodzaak van de breedte en de lift-mechanisme in KANDy.
Interpreteerbaarheid: In plaats van alleen voorspellingen te doen, levert KANDy expliciete, symbolische bestuurende vergelijkingen op die de fysica van het systeem weergeven.

4. Resultaten

Het model werd getest op een breed scala aan benchmarks:

Hopf-Fibratie (Topologisch): KANDy herstelde de quotiënt-structuur ( $S^3 \to S^2$ ) met extreem hoge nauwkeurigheid (fouten in de orde van $10^{-7}$ ), terwijl een standaard diepe KAN faalde en de vezels instortte.
Discrete Systemen (Henon & Ikeda):
- Voor de Henon-map werd de exacte vergelijking met 100% fideliteit hersteld.
- Voor de Ikeda-optische holte (een bekend geval waar SINDy faalt vanwege de niet-spars structuur), slaagde KANDy erin de vergelijking nauwkeurig te ontdekken, inclusief de complexe trigonometrische termen.
Continue Systemen (Lorenz):
- KANDy herstelde de Lorenz-vergelijkingen met een hoge nauwkeurigheid voor de parameters $\rho$ en $\beta$ en de niet-lineaire koppelingen ($xy, xz$).
- De rollout-stabiliteit bleef behouden gedurende 5 Lyapunov-tijden, waarbij de trajecten coherent bleven met de attractor, hoewel de fase-afwijking (zoals verwacht bij chaos) optreedt na de Lyapunov-tijd.
Gedeeltelijke Differentiaalvergelijkingen (PDEs):
- Kuramoto-Sivashinsky (KS): Het model ontdekte de correcte structuur van de vergelijking (niet-lineaire convectie, tweede en vierde orde dissipatie), hoewel de coëfficiënten afhankelijk waren van de schaling van de data.
- Inviscid Burgers: KANDy slaagde erin de vorming van schokgolven (shocks) en discontinuïteiten nauwkeurig te modelleren, terwijl traditionele methoden zoals PDE-Find en LASSO faalden of onnauwkeurige resultaten gaven door de aanwezigheid van schokken. KANDy behaalde een NRMSE van 0.049 tegenover 0.150 voor de beste baseline-methoden.

5. Betekenis en Conclusie

KANDy vertegenwoordigt een paradigmaverschuiving in data-gedreven modellering van dynamische systemen:

Van Diepte naar Expressiviteit: Het paper toont aan dat voor veel dynamische systemen diepte niet de sleutel is, maar wel de juiste representatie (lifting) en de expressiviteit van de basisfuncties.
Robuustheid: Het is robuust tegen chaos, schokgolven en complexe topologieën waar andere methoden falen.
Toekomstperspectief: KANDy biedt een brug tussen pure data-driven learning en fysiek geïnformeerde modellering. Het stelt onderzoekers in staat om niet alleen voorspellingen te doen, maar ook de onderliggende wiskundige wetten en symmetrieën van complexe systemen te ontdekken, zelfs wanneer deze niet vooraf bekend zijn of niet voldoen aan strikte spars-aannames.

De auteurs concluderen dat KANDy een interpreteerbaar en effectief alternatief is voor het modelleren van niet-lineaire dynamische systemen, met name in scenario's waar traditionele sparse regression en diepe neurale netwerken tekortschieten.