🤖 AI

KANO: Kolmogorov-Arnold Neural Operator

Deze paper introduceert KANO, een nieuw neurale operator die door zijn dubbel-domein parametrisering en symbolische interpretatie de beperkingen van de Fourier Neural Operator overwint en superieure prestaties levert bij het leren van positie-afhankelijke dynamica en kwantum-Hamiltonianen.

Oorspronkelijke auteurs: Jin Lee, Ziming Liu, Xinling Yu, Yixuan Wang, Haewon Jeong, Murphy Yuezhen Niu, Zheng Zhang

Gepubliceerd 2026-02-26

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jin Lee, Ziming Liu, Xinling Yu, Yixuan Wang, Haewon Jeong, Murphy Yuezhen Niu, Zheng Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Grote Droom: De "Wiskundige Vertaler"

Stel je voor dat je een super-intelligente robot wilt bouwen die de wetten van de natuurkunde kan leren. Of het nu gaat om hoe water stroomt door een pijp met variërende dikte, of hoe een elektron zich beweegt in een atoom. Deze robot moet niet alleen voorspellingen doen, maar ook begrijpen waarom het zo gebeurt, zodat we de formule eruit kunnen halen en kunnen gebruiken voor andere dingen.

Vroeger hadden we een robot genaamd FNO (Fourier Neural Operator). Deze was heel slim, maar had een groot gebrek: hij zag de wereld alleen maar als een muziekpartituur. Hij kon alleen goed werken als de muziek (de natuurwetten) simpel was en uit een paar duidelijke noten bestond.

Maar wat als de muziek complex is? Wat als de noten veranderen afhankelijk van waar je in het orkest zit? Dan raakt FNO in de war. Hij probeert alles te vertalen naar noten, maar dat werkt niet goed voor complexe, veranderende situaties. Het is alsof je probeert een schilderij van een storm te beschrijven door alleen maar de kleur van de lucht te noemen; je mist de wind, de regen en de bomen.

De Oplossing: KANO (De Twee-Weg Vertaler)

De auteurs van dit paper hebben een nieuwe robot bedacht: KANO (Kolmogorov-Arnold Neural Operator).

KANO is slimmer omdat hij twee manieren van kijken combineert:

De Muziekmanier (Frequentie): Hij kijkt naar de trillingen en golven (zoals FNO).
De Locatie-manier (Ruimte): Hij kijkt ook naar wat er precies gebeurt op een specifieke plek.

De Gouden Vergelijking:
Stel je voor dat je een recept voor een soep moet leren.

FNO kijkt alleen naar de ingrediëntenlijst (de totale samenstelling). Als je de soep in een andere pan doet (een andere locatie), weet FNO niet hoe het smaken moet veranderen. Hij denkt: "Oh, dit is soep, dus het blijft soep."
KANO kijkt naar de ingrediëntenlijst én naar de kookpot. Hij ziet: "Ah, hier aan de bodem is het heter, dus de wortels verbranden sneller. Daarboven is het koeler, dus de kruiden blijven vers."

KANO leert dus niet alleen wat er gebeurt, maar ook waar en hoe het gebeurt. Hierdoor kan hij complexe situaties (zoals variërende wind of veranderende temperaturen) veel beter begrijpen dan FNO.

Waarom is dit zo speciaal? (De "Magische Formule")

Het coolste aan KANO is dat hij niet alleen een "zwarte doos" is die een antwoord geeft. Hij is interpreteerbaar.

FNO is als een zwarte doos. Je stopt data erin, en er komt een antwoord uit. Je weet niet hoe hij erbij kwam.
KANO is als een open boek. Omdat hij gebruikmaakt van een speciale wiskundige structuur (genaamd KAN), kan hij de formule die hij heeft geleerd, letterlijk uitschrijven.

Het Experiment:
De auteurs testten KANO op een heel moeilijk probleem: het leren van de beweging van quantum-deeltjes (atomen).

Ze gaven KANO alleen de "schaduwen" van de deeltjes (metingen) en niet de volledige, perfecte data.
FNO faalde. Hij kon de formule niet vinden en gaf verkeerde voorspellingen.
KANO slaagde. Hij schreef de exacte wiskundige formule op die de natuurkunde beschrijft, tot op vier decimalen nauwkeurig.

Het was alsof je iemand een paar flarden van een liedje gaf, en die persoon schreef het hele liedje, inclusief de noten en de tekst, perfect op.

Waarom is dit belangrijk voor de toekomst?

Efficiëntie: KANO is veel kleiner en sneller dan FNO voor deze complexe taken. Hij gebruikt minder dan 0,03% van de rekenkracht die FNO nodig zou hebben voor hetzelfde resultaat.
Betrouwbaarheid: Omdat KANO de formule letterlijk kan uitschrijven, kunnen wetenschappers controleren of het klopt. Het is geen "gok" van een computer, maar een bewezen wetenschappelijke wet.
Toekomst: Dit helpt ons om nieuwe materialen te ontwerpen, betere medicijnen te vinden of klimaatmodellen te verbeteren, omdat we de onderliggende wetten van de natuur eindelijk kunnen "lezen" in plaats van alleen maar te raden.

Samenvatting in één zin

KANO is een nieuwe, slimme AI die de natuurkunde niet alleen voorspelt, maar de onderliggende formules letterlijk uitschrijft door te kijken naar zowel de trillingen als de locatie, waardoor hij veel beter werkt dan de oude methoden die alleen naar trillingen keken.

Titel: KANO: Kolmogorov–Arnold Neural Operator

Conferentie: ICLR 2026
Auteurs: Jin Lee, Ziming Liu, Xinling Yu, et al. (UCSB, MIT, Caltech)

1. Het Probleem: De Pure-Spectrale Bottleneck van FNO

Het paper adresseert een fundamentele beperking in het bestaande veld van operator learning, specifiek gericht op Fourier Neural Operators (FNO).

Context: FNO's zijn zeer succesvol in het benaderen van operators die gedefinieerd zijn door partiële differentiaalvergelijkingen (PDE's), maar ze zijn gebaseerd op een "hard-coded" pseudo-spectrale projectie (Fourier-transformatie).
De Bottleneck: FNO's veronderstellen dat de operators spectraal schaars zijn. Dit werkt goed voor lineaire operators met constante coëfficiënten. Echter, voor positie-afhankelijke dynamica (variabele coëfficiënt PDE's, zoals een Schrödinger-vergelijking met een potentiaal die afhangt van de positie), wordt de operator spectraal dicht (d.w.z. de spectrale matrix is vol, niet diagonaal).
Gevolg: Wanneer een FNO probeert een dergelijke operator te leren, moet het de "spectrale staart" van de input uitbreiden om de complexe interacties te modelleren. Het paper bewijst theoretisch dat dit leidt tot een super-exponentiële schaling van het benodigde modelgrootte om een bepaalde nauwkeurigheid te bereiken. FNO's kunnen wel in-sample (op trainingsdata) convergeren, maar falen bij generalisatie naar buiten de trainingsverdeling (out-of-distribution) omdat de geleerde spectrale off-diagonals gekoppeld zijn aan de specifieke inputverdeling.

2. Methodologie: De KANO Architectuur

Om deze bottleneck op te lossen, stellen de auteurs KANO (Kolmogorov–Arnold Neural Operator) voor. Dit is een dubbel-domein (dual-domain) neurale operator die zowel ruimtelijke als spectrale bases gebruikt.

Dual-Domain Representatie: In plaats van alleen te vertrouwen op Fourier-modes, parameteriseert KANO de operator in het domein waar elke term het meest schaars is:
- Differentiatie-termen worden spectraal behandeld (diagonaal in Fourier).
- Locale vermenigvuldigings-termen (zoals $x^2 \cdot a(x)$ ) worden ruimtelijk behandeld.
Pseudo-differentiële Operator Framework: KANO gebruikt een Kohn-Nirenberg kwantisatie. De kern van de operator wordt niet berekend via een diagonale vermenigvuldiging in het Fourier-domein, maar via een convolutie in het ruimtelijke domein, gedefinieerd door een leerbaar symbool $p(x, \xi)$ .
Integratie van KANs: De architectuur maakt gebruik van Kolmogorov-Arnold Networks (KANs) in plaats van traditionele MLP's.
- KANs hebben trainbare univariate functies op de randen (edges) in plaats van vaste activeringsfuncties op de knopen.
- Dit maakt de operator inherent symbolisch interpreteerbaar. De geleerde functies kunnen worden gevisualiseerd en teruggevoerd naar gesloten-formule wiskundige uitdrukkingen.
Architectuur: KANO elimineert de brede "lift-up" en "projection" netwerken die gebruikelijk zijn in FNO/DeepONet, omdat brede KANs kwetsbaar zijn voor symbolische recovery. De operator wordt direct geleerd via iteratieve KANO-lagen.

3. Belangrijkste Bijdragen

Theoretische Analyse van FNO: Het paper levert een rigoureuze theoretische analyse die aantoont dat FNO's lijden aan de "vloek van de dimensie" bij positie-afhankelijke dynamica. Het bewijst dat de spectrale off-diagonals van een FNO noodzakelijk gekoppeld zijn aan de inputverdeling, wat leidt tot fragiele generalisatie.
KANO Framework: Introductie van een nieuw, interpreteerbaar framework dat dual-domein expressiviteit combineert met KANs. Het paper toont aan dat KANO kan convergeren naar een nauwkeurige oplossing voor generieke positie-afhankelijke dynamica met een polynomiale schaling van het modelgrootte (in tegenstelling tot de super-exponentiële schaling van FNO).
Empirische Validatie & Symbolische Recovery:
- KANO herstelt gesloten-formule formules van operators met een nauwkeurigheid tot op de vierde decimaal.
- Het presteert aanzienlijk beter dan FNO op out-of-distribution data.
- Het gebruikt minder dan 0,03% van de parameters van een vergelijkbare FNO, maar bereikt een verlies dat een orde van grootte lager is.

4. Resultaten

De auteurs testen KANO op synthetische operators en een kwantum-simulatie benchmark.

Synthetische Operators (G1, G2, G3):
- Op datasets met verschillende functiefamilies (trainen op "Group A", testen op onzichtbare "Group B") behoudt KANO een lage fout, terwijl FNO's en varianten (U-FNO, AM-FNO) grote fouten vertonen.
- Symbolische Recovery: Na training kon KANO de exacte wiskundige formule van de operator reconstrueren (bijv. $x^2 \cdot f - \partial_{xx}f$ ) met coefficients nauwkeurig tot 0.0001.
Kwantum Hamiltonian Learning Benchmark:
- Taak: Het leren van de Hamiltonian van een kwantum systeem (Dubbelput-potentiaal en niet-lineaire Schrödinger-vergelijking) op basis van projectieve meetdata (positie en impuls waarschijnlijkheidsdichtheden).
- Resultaat: KANO bereikte een state infidelity van $\approx 6 \times 10^{-6}$ , terwijl een FNO getraind met ideale volledige golf-functie data een infidelity van $\approx 1.5 \times 10^{-2}$ had. KANO presteerde dus vier ordes van grootte beter dan de FNO-baseline, zelfs met beperktere trainingsdata (alleen PMF's in plaats van volledige golf-functies).
- Symbolische Structuur: De geleerde symbolen van KANO kwamen overeen met de grond-waarheid Hamiltonian, inclusief de complexe niet-lineaire termen.

5. Betekenis en Impact

Paradigmaverschuiving: KANO verschuift het paradigma van operator learning van "blinde universele benadering" (waarbij modellen alleen als zwarte dozen fungeren) naar interpreteerbare, data-gedreven wetenschappelijke modellering.
Efficiëntie: Het demonstreert dat het combineren van de juiste inductieve bias (dual-domein representatie) met moderne architecturen (KANs) leidt tot modellen die niet alleen nauwkeuriger zijn, maar ook veel kleiner en wiskundig doorgrondbaar.
Toepassingsgebied: Dit is cruciaal voor wetenschappelijke AI waar het begrijpen van de onderliggende fysica (symbolische wetten) net zo belangrijk is als de voorspellende nauwkeurigheid, vooral in complexe systemen met variabele coëfficiënten.

Conclusie: KANO overwint de fundamentele beperkingen van Fourier-gebaseerde operators voor complexe, positie-afhankelijke systemen door het gebruik van een hybride ruimtelijk-spectrale aanpak en KANs, wat resulteert in superieure generalisatie, extreme parameter-efficiëntie en de mogelijkheid om de onderliggende wiskundige wetten direct te extraheren.