⚡ electrical engineering

Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

Dit paper introduceert een volledig Bayesiaanse methode op basis van Hamiltoniaanse Gaussian Processes die dynamische systemen leert uitsluitend uit invoer-uitvoergegevens, zonder afhankelijkheid van snelheids- of impulsmetingen, en hiermee zowel energiebehoud als energieuitwisseling met de omgeving kan modelleren.

Oorspronkelijke auteurs: Jan-Hendrik Ewering, Robin E. Herrmann, Niklas Wahlström, Thomas B. Schön, Thomas Seel

Gepubliceerd 2026-04-16

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jan-Hendrik Ewering, Robin E. Herrmann, Niklas Wahlström, Thomas B. Schön, Thomas Seel

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert te begrijpen hoe een ingewikkeld speeltje werkt, zoals een zwaaiende schommel of een trillende veer, maar je hebt maar één ding: je kunt alleen kijken hoe ver de schommel gaat (de positie) en welke duw je erop geeft (de kracht). Je kunt niet zien hoe snel hij beweegt of hoeveel energie hij precies heeft.

Meestal is dat een probleem. Als je een computer wilt leren hoe zo'n systeem werkt, wil je normaal gesproken ook de snelheid zien. Maar in de echte wereld is dat vaak niet mogelijk of te duur om te meten.

Dit artikel beschrijft een slimme nieuwe manier om dit probleem op te lossen. Hier is de uitleg in simpele taal:

1. Het Probleem: De "Blindeman" in de Machine

Stel je voor dat je een machine wilt bouwen die het gedrag van een systeem voorspelt. De auteurs noemen dit "Hamiltoniaanse Gaussian Processes". Klinkt eng, maar het is eigenlijk gewoon een heel slimme manier om de wetten van de natuurkunde (zoals energiebehoud) in te bouwen in een computermodel.

Het probleem met eerdere methoden was dat ze "blind" waren zonder snelheidsmetingen. Het was alsof je probeert te raden hoe een auto rijdt, maar je mag alleen kijken naar de kilometerstand, niet naar de snelheidsmeter. Als je de snelheid probeert te berekenen door alleen naar de kilometerstand te kijken, krijg je veel ruis en fouten.

2. De Oplossing: Een "Geestelijke" Schatting

De auteurs hebben een nieuwe methode bedacht die werkt alsof de computer een fantasie-geest heeft.

De Geest: De computer weet dat er een onzichtbare "energiekaart" bestaat (de Hamiltoniaan). Hij weet ook dat er wrijving is (demping) en dat er externe krachten werken.
De Gok: Omdat hij de snelheid niet ziet, maakt hij een slimme gok over wat er gebeurt. Hij gebruikt een wiskundig trucje (een "reduced-rank" model) om de energiekaart te tekenen zonder dat hij duizenden meetpunten nodig heeft.
De Leerkracht: Het model leert door te kijken naar de input (de duw) en de output (de positie). Het zegt: "Oké, ik heb deze duw gegeven en dit was het resultaat. Mijn gok over de energiekaart was niet helemaal goed, dus ik pas hem een beetje aan."

3. De Creatieve Analogie: De Dansende Schommel

Stel je een dansende schommel voor in een donkere kamer.

De oude methode: Je had een camera nodig die de schommel in slow-motion filmt, zodat je precies ziet hoe snel hij beweegt. Zonder die camera kon je niets doen.
De nieuwe methode: Je hebt alleen een sensor die voelt waar de schommel is. De computer is nu een dansmeester die de beweging van de schommel kan voorspellen door alleen naar de positie te kijken. Hij "voelt" de wrijving en de energie die erin zit, zelfs als hij die niet direct ziet.

4. Waarom is dit zo speciaal?

Het is eerlijk (Bayesiaans): De computer is niet arrogant. Hij geeft niet één antwoord, maar zegt: "Ik denk dat de schommel hierheen gaat, maar ik heb een 80% kans dat hij daarheen gaat." Hij houdt rekening met onzekerheid. Dit is cruciaal voor veiligheidskritische systemen (zoals zelfrijdende auto's of robots).
Het is snel: De nieuwe wiskundige truc maakt het model veel sneller dan eerdere versies. Het is alsof je van een zware vrachtwagen bent veranderd in een sportieve auto die nog steeds dezelfde weg kan rijden.
Het werkt zonder snelheid: Dit is de grootste doorbraak. Je hebt geen dure sensoren meer nodig om snelheid te meten. Alleen input en output zijn genoeg.

5. Het Resultaat

In hun proef (een simulatie van een niet-lineaire oscillator, een soort gekke veer), hebben ze getoond dat hun model net zo goed werkt als de oude methoden die wel snelheidsmetingen hadden. Zelfs als ze alleen "ruis" (onzuivere data) kregen, leerde het model de onderliggende natuurwetten correct.

Kortom:
De auteurs hebben een slimme manier bedacht om computers te leren hoe de natuur werkt, zelfs als we maar een klein deel van de informatie hebben. Het is alsof je een meesterkok bent die een gerecht kan nabootsen door alleen naar de geur te kijken, zonder dat je de ingrediënten of het kookproces hoeft te zien. Dit opent de deur voor betere robots, auto's en machines die veiliger en slimmer kunnen leren van beperkte data.

Titel: Leren van dynamica uit input-output data met Hamiltoniaanse Gaussian Processes

Auteurs: Jan-Hendrik Ewering, Robin E. Herrmann, Niklas Wahlström, Thomas B. Schöön, Thomas Seel.
Publicatie: Proceedings of Machine Learning Research, 8th Annual Conference on Learning for Dynamics and Control (2026).

1. Probleemstelling

Het leren van systeemdynamica uit beperkte data is cruciaal voor modelgebaseerde besturing en systeeminzicht. Bestaande "physics-informed" machine learning-methoden, zoals het integreren van Hamiltoniaanse dynamica in Gaussian Processes (GP's), garanderen fysiek consistente voorspellingen (bijv. energiebehoud).

Echter, een groot nadeel van bestaande Hamiltoniaanse GP-methoden is dat ze afhankelijk zijn van metingen van het volledige systeemtoestand, wat betekent dat naast positiemetingen ook snelheid- of impulsdata (momenta) nodig zijn voor training. In veel praktische toepassingen zijn deze snelheids- of impulsgegevens niet direct beschikbaar of zeer ruisgevoelig (bijv. door numerieke differentiatie).

Het doel van dit artikel is om een methode te ontwikkelen voor het leren van niet-conservatieve dynamica (waarbij energie-uitwisseling met de omgeving, zoals dissipatie of externe krachten, plaatsvindt) uitsluitend op basis van input-output data (bijv. ingangssignalen en positie-metingen), zonder toegang tot directe snelheids- of impulsmetingen.

2. Methodologie

De auteurs stellen een nieuw raamwerk voor dat drie kerncomponenten combineert:

A. Hamiltoniaanse Gaussian Processen (GP)

In plaats van de Hamilton-functie $H(x)$ zelf te modelleren, modelleren ze de gradiënt van de Hamilton-functie ( $\nabla_x H(x)$ ), aangezien deze nodig is voor de bewegingsvergelijkingen.

Ze gebruiken een verminderde-rang (reduced-rank) GP benadering. In plaats van een standaard GP die schaalt met het aantal datapunten ( $O(T^3)$ ), benadert deze methode de covariantiefunctie met een eindige dimensie-eigenfunctie-expansie.
Dit resulteert in een model dat lineair is in de parameters, gesloten-vorm gradienten heeft en een rekencomplexiteit heeft die onafhankelijk is van de trainingsdatadimensie ( $O(M)$ , waarbij $M$ het aantal basisfuncties is).

B. Niet-conservatieve Formulering

Het model beschrijft de dynamica via:
$\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$
Waarbij:

$J(x)$ : De schuif-symmetrische interconnectiematrix (behoud van energie).
$R(x)$ : De dissipatiematrix (energieverlies, bijv. demping).
$G(x)$ : De inputmatrix voor externe krachten $u$ .
$H(x)$ : De onbekende Hamilton-functie (modellerd door de GP).
$w$ : Procesruis.

Dit stelt het model in staat om energie-uitwisseling met de omgeving te modelleren, in tegenstelling tot eerdere conservatieve modellen.

C. Volledig Bayesiaans Inference-schema

Omdat de Hamilton-gradiënt niet direct gemeten wordt, gebruiken ze een Particle Markov Chain Monte Carlo (PMCMC) aanpak, specifiek een Particle Gibbs schema, om de gezamenlijke verdeling van verborgen toestanden en parameters te schatten. Het proces omvat twee stappen:

State Inference (Cond. SMC): Schatting van de verborgen toestanden (positie en impuls) en de Hamilton-gradiënt gegeven de metingen en huidige parameters.
Parameter Learning:
- Modelparameters ( $\theta$ ): Worden in gesloten vorm geschat dankzij de conjugatie van de prior (Normal-Inverse Gamma) en de lineariteit van het model.
- Hyperparameters ( $\vartheta$ ): Dit omvat zowel de GP-kernhyperparameters (zoals lengteschaal) als structurele hyperparameters (zoals dempingscoëfficiënten). Deze worden geschat met Metropolis-Hastings stappen binnen het Gibbs-scheme.

3. Belangrijkste Bijdragen

Input-Output Leren: De eerste Hamiltoniaanse GP-methode die dynamica leert zonder snelheids- of impulsmetingen, uitsluitend gebruikmakend van input-output data.
Volledig Bayesiaans Schatting: Een schema dat niet alleen de toestand schat, maar ook de onzekerheid kwantificeert over de modelparameters, GP-hyperparameters en structurele parameters (zoals demping).
Rekenefficiëntie: Door het gebruik van verminderde-rang GP's wordt de schaalbaarheid verbeterd ten opzichte van exacte GP's, wat praktische toepassing mogelijk maakt.
Niet-Conservatief Model: Het vermogen om dissipatie en externe krachten expliciet te modelleren binnen het Hamiltoniaanse raamwerk.

4. Resultaten

De methode werd geëvalueerd in een niet-harmonische oscillator-simulatie:

Vergelijking: De prestaties werden vergeleken met een exacte Hamiltoniaanse GP (die volledige toestandsdata nodig heeft) en een frequentistische benadering.
Nauwkeurigheid: Ondanks dat de voorgestelde methode alleen ruisbeïnvloede positie-metingen (input-output) gebruikte, behaalde het een nauwkeurigheid in het leren van de stroomkaarten (flow maps) die vergelijkbaar was met methoden die volledige toestandsdata hadden.
Onzekerheidskwantificatie: De methode leverde nauwkeurige Bayesiaanse schattingen op voor de verborgen impulsen, de dempingscoëfficiënt en de Hamilton-functie.
Fysieke consistentie: De gegenereerde modellen respecteerden de energiebehoudswetten en de dissipatiestructuur, zelfs bij het simuleren van toekomstige trajecten.

Opmerking: Voor het input-output geval was een symmetriebeperking nodig om identificeerbaarheid te waarborgen, wat wijst op een uitdaging bij het leren van complexe Hamilton-functies zonder extra kennis.

5. Betekenis en Conclusie

Dit artikel vormt een belangrijke brug tussen physics-informed learning en Bayesiaanse systeemidentificatie.

Het maakt het mogelijk om complexe, niet-lineaire systemen te modelleren met onzekerheidskwantificering, zelfs wanneer alleen beperkte sensorgegevens (zoals positie) beschikbaar zijn.
Dit opent de deur voor robuustere modelgebaseerde besturingssystemen in toepassingen waar snelheidsmetingen onpraktisch of te duur zijn.
De auteurs erkennen dat de rekencomplexiteit nog steeds toeneemt met de systeemdimensie en dat toekomstig werk zich moet richten op identificeerbaarheidsanalyse en de vermindering van de noodzaak voor a priori kennis (zoals symmetriebeperkingen).

Kortom, de paper presenteert een krachtige, fysiek onderbouwde leerstrategie die de afhankelijkheid van dure of onbeschikbare snelheidsmetingen doorbreekt, terwijl het de fysieke consistentie en onzekerheidskwantificering behoudt.