📊 statistics

Learning Ergodic Dynamical Systems from a Finite Trajectory

Dit artikel presenteert een statistisch leerkader voor het schatten van optimale predictiefuncties en Koopman-operatoren vanuit een enkele eindige traject van een ergodisch stochastisch dynamisch systeem, waarbij hoog-waarschijnlijkheidsgaranties worden geboden door instrumenten uit de statistische leertheorie te combineren met concentratie-ongelijkheden voor geometrisch ergodische Markovketens.

Oorspronkelijke auteurs: Oleksii Kachaiev, Silvia Villa, Lorenzo Rosasco

Gepubliceerd 2026-07-27

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Oleksii Kachaiev, Silvia Villa, Lorenzo Rosasco

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de toekomst van een chaotisch systeem probeert te voorspellen, zoals het weer, de aandelenmarkt of zelfs het volgende woord in een tekstbericht. In de wereld van de wetenschap wordt dit "het leren van een dynamisch systeem" genoemd. Meestal, wanneer wetenschappers proberen deze patronen te leren, vertrouwen ze op een gouden regel van de statistiek: de datapunten moeten onafhankelijk zijn. Denk aan het werpen van een munt; als je kop gooit, verandert dat de kans niet dat de volgende worp munt is. Elke worp is een nieuw begin. Maar de echte wereld werkt zelden zo. In een dynamisch systeem hangt de volgende staat volledig af van de huidige staat. Als het vandaag regent, is de kans groter dat het morgen ook regent. De data is een keten van gebeurtenissen, één enkele, ononderbroken draad waarbij elke knoop verbonden is met de vorige.

Dit is de lastige puzzel waar dit artikel een oplossing voor biedt: Hoe leer je de regels van een systeem wanneer je slechts één lange, continue geschiedenis hebt om te lezen, en elke zin afhangt van de vorige? De auteurs richten zich op "ergodische" systemen. In gewone mensentaal is een ergodisch systeem een systeem dat, als je het maar lang genoeg observeert, uiteindelijk elke mogelijke staat bezoekt waarin het kan zijn, en de tijd die het in elke staat doorbrengt, komt overeen met de langetermijnkans om daar te zijn. Het is als een dronkaard die rondwandelt in een park; als je hem maar lang genoeg observeert, zal hij uiteindelijk op elk stukje gras stappen, en de tijd die hij op een specifieke plek doorbrengt, zal je vertellen hoeveel hij van die plek houdt. De vraag die het artikel stelt is: Kunnen we een betrouwbare kristallen bol bouwen voor een dergelijk systeem met behulp van slechts één van deze lange, dwalende wandelingen?

Het artikel, getiteld "Learning ergodic dynamical systems from a finite trajectory", duikt in dit probleem door het systeem te behandelen als een "Markov-proces". Denk aan een Markov-proces als een spelletje "volg de leider" waarbij de volgende zet van de leider alleen afhangt van waar hij nú staat, en niet van waar hij vijf minuten geleden stond. De auteurs stellen een methode voor genaamd "nonlinear least squares" om de regels van dit spel te raden. Stel je voor dat je probeert de volgende beweging van een danser te raden. Je kijkt een tijdje naar hen, legt hun bewegingen vast en probeert dan een lijn (of een curve) te tekenen die het beste voorspelt waar ze hun volgende stap zullen zetten. De auteurs laten zien dat, hoewel de data "plakkerig" is (afhankelijk van het verleden) en je slechts één lange opname hebt, je nog steeds zeer goede voorspellingen kunt doen. Ze bewijzen wiskundig dat hun methode werkt, mits het systeem "ergodisch" is en goed mengt (wat betekent dat het niet voor eeuwig in een hoekje blijft steken). Ze laten ook zien hoe deze methode kan worden geüpgraded om complexere situaties aan te kunnen, zoals het tegelijkertijd voorspellen van meerdere getallen, systemen die de laatste paar stappen onthouden, en zelfs de "Koopman-operator", een chique wiskundig hulpmiddel dat beschrijft hoe het hele systeem in de loop van de tijd evolueert. Het resultaat is een reeks garanties die ons vertellen hoe nauwkeurig onze voorspellingen zullen zijn, afhankelijk van hoe lang onze enkele opname was en hoe "chaotisch" of "plakkerig" het gedrag van het systeem is.

Het verhaal van de enkele trajectorie

De auteurs beginnen door de basis te leggen met een simpel maar krachtig idee: in plaats van te proberen duizenden aparte, onafhankelijke snapshots van een systeem te verzamelen (wat vaak onmogelijk is), richten zij zich op het leren van een enkele, continue film van het leven van een systeem. Ze noemen dit een "finite trajectory" (een eindige trajectorie). In de echte wereld hebben we vaak slechts één geschiedenis om te bestuderen — zoals één enkele beurscrash of één seizoen van een sportteam. Het artikel betoogt dat we de regels van het spel kunnen leren uit deze enkele geschiedenis, maar dat we voorzichtig moeten zijn omdat de data niet onafhankelijk is.

Om dit werkend te krijgen, vertrouwen de auteurs op een concept genaamd "uniform geometric ergodicity". Dit is een mondvol, maar denk eraan als een maatstaf voor hoe snel een systeem zijn verleden vergeet. Als een systeem "uniform geometrisch ergodisch" is, betekent dit dat het, ongeacht waar je het systeem start, snel een stabiel patroon van gedrag zal aannemen. Het is als een tol die ronddraait; hoe je hem ook een tik geeft, hij komt uiteindelijk in een stabiele wiebel terecht. De auteurs bewijzen dat als het systeem zich zo gedraagt, het "geheugen" van het startpunt snel genoeg vervaagt zodat we de langetermijngemiddelde van de data kunnen gebruiken als een betrouwbare gids voor de ware aard van het systeem.

De kern van hun werk is een methode genaamd "nonlinear least squares". Stel je voor dat je een robot probeert te leren de volgende stap van een dans te voorspellen. Je laat de robot een video van de dans zien (de trajectorie). De robot probeert de volgende beweging te raden op basis van de huidige houding. Het "least squares"-gedeelte betekent dat de robot probeert de totale fout tussen zijn voorspellingen en de werkelijke bewegingen die hij ziet, te minimaliseren. De auteurs laten zien dat, ook al leert de robot van één enkele, verbonden video waarin elk frame met het volgende verbonden is, de robot de dans nog steeds perfect kan leren als de video lang genoeg is en de dans ergodisch is.

Ze leiden "high-probability guarantees" af. Dit betekent dat ze niet alleen zeggen "het werkt"; ze berekenen precies hoe waarschijnlijk het is dat het werkt en hoe dicht de voorspelling bij de waarheid zal liggen. Ze vinden dat de nauwkeurigheid afhangt van twee hoofdzaken: hoe lang de trajectorie is (meer data is beter) en hoe "plakkerig" het systeem is (hoe snel het zijn verleden vergeet). Als het systeem zijn verleden snel vergeet (hoge ergodiciteit), is het leren snel. Als het zijn verleden lang vasthoudt (lage ergodiciteit), heb je een veel langere video nodig om dezelfde mate van nauwkeurigheid te krijgen.

Verder gaan dan de basis

Het artikel stopt niet bij eenvoudige voorspellingen van één getal. De auteurs laten zien dat hun methode flexibel genoeg is om complexere scenario's aan te kunnen:

Vector-waardige toestanden: In plaats van alleen één getal te voorspellen (zoals temperatuur), moet het systeem misschien een heel vector van getallen voorspellen (zoals temperatuur, luchtvochtigheid en windsnelheid tegelijkertijd). De auteurs laten zien dat hun wiskunde net zo goed werkt voor deze meerdimensionale voorspellingen, waarbij de hele vector als één enkel object in een hoogdimensionale ruimte wordt behandeld.
Systemen van hogere orde: Soms hangt de volgende stap niet alleen af van de huidige stap, maar ook van de laatste paar stappen. Denk aan een auto: de volgende positie hangt af van waar hij is én hoe snel hij een moment geleden reed. De auteurs laten zien hoe je deze systemen van hogere orde kunt "liften" naar een nieuw formaat waar ze lijken op eenvoudige systemen van de eerste orde, waardoor hun methode ook op hen kan werken.
Toestandsruimtes met een eindig aantal elementen: Wat als het systeem slechts in een paar specifieke toestanden kan zijn, zoals een bordspel waarbij je alleen op vakjes 1 tot en met 100 kunt staan? De auteurs passen hun methode aan voor deze setting en laten zien dat dit mooi aansluit bij problemen zoals het voorspellen van het volgende woord in een zin (waarbij de "toestanden" woorden zijn). Ze gebruiken een slimme truc genaamd een "surrogate least squares approach", die het probleem van het voorspellen van een specifieke staat omzet in een probleem van het voorspellen van een vector van waarschijnlijkheden, wat het makkelijker maakt om op te lossen.
Koopman-operatoren: Tot slot pakken de auteurs de "Koopman-operator" aan. Als de vorige methoden gingen over het voorspellen van de volgende stap, dan gaat de Koopman-operator over het voorspellen van de volledige toekomstige evolutie van elke observeerbare eigenschap van het systeem. Het is alsoat je een meester sleutel hebt die de toekomstige evolutie van elk aspect van het systeem kan ontgrendelen, niet alleen de positie. Ze laten zien dat hun "least squares"-methode eigenlijk een manier is om deze meester sleutel te leren, waarbij ze garanties geven over hoe goed de sleutel in het slot past.

De essentie

Het artikel concludeert dat leren van een enkele, eindige trajectorie niet alleen mogelijk is, maar ook kan worden gedaan met strikte wiskundige garanties, mits het systeem ergodisch is. De auteurs bieden een toolkit hiervoor, compleet met formules die je vertellen hoeveel data je nodig hebt en hoe nauwkeurig je voorspellingen zullen zijn. Ze benadrukken dat hoewel de data afhankelijk is (niet onafhankelijk), de "vergetende" natuur van ergodische systemen ons in staat stelt dit probleem te overwinnen. De resultaten zijn wiskundig bewezen, niet alleen geraden of gesimuleerd, wat ons een solide fundament geeft voor het begrijpen en voorspellen van complexe, echte systemen vanuit een enkele geschiedenis. Het artikel laat de deur open voor toekomstig werk en suggereert dat, hoewel zij zich op specifieke normen en settings hebben gericht, de kernideeën zelfs naar nog complexere scenario's kunnen worden uitgebreid, maar voor nu hebben zij stevig vastgesteld dat een enkel verhaal genoeg is om de regels van het spel te leren.

Technische Samenvatting: Leren van Ergodische Dynamische Systemen uit een Eindige Trajectorie

Probleemstelling
Dit artikel behandelt het probleem van het leren van stochastische dynamische systemen uit een enkele, eindige trajectorie. In tegenstelling tot de klassieke statistische leertheorie, die uitgaat van onafhankelijke en identiek verdeelde (i.i.d.) gegevens, zijn de gegevens in deze setting gegenereerd door een tijd-homogeen Markovproces. De auteurs richten zich op discrete-tijd autonome stochastische systemen waarbij de observaties temporele afhankelijkheid vertonen en niet noodzakelijkerwijs geïnitialiseerd zijn bij de stationaire verdeling. Het primaire doel is het schatten van de optimale één-stap voorspellingsfunctie (de voorwaardelijke verwachting van de volgende staat gegeven de huidige staat) en, vervolgens, de Koopman-operator, terwijl niet-asymptotische leergaranties worden geboden met betrekking tot de invariante maat van het proces.

Methodologie
Het voorgestelde kader combineert instrumenten uit de statistische leertheorie (specifiek kernelmethoden en geregulariseerde kleinste kwadraten) met kwantitatieve ergodische theorie voor Markovketens.

Ergodische Aanname: De analyse steunt op de aanname van Uniforme Geometrische Ergodiciteit (UGE). Deze conditie waarborgt het bestaan van een unieke invariante maat $\pi$ en garandeert dat de distributie van het proces convergeert naar $\pi$ met een geometrische snelheid, ongeacht de initiële distributie. Dit stelt de auteurs in staat om de populatierisico te definiëren met betrekking tot $\pi$ en de afwijking tussen empirische gemiddelden langs de trajectorie en de ware verwachtingen te kwantificeren.
Schattingaanpak:
- Scalaire en Vector-waardige Staten: De auteurs formuleren de leeropgave als een geregulariseerd niet-lineair kleinste kwadratenprobleem. Ze beschouwen schatters die lineair geparametriseerd zijn in een scheidbare Hilbertruimte (potentieel oneindig-dimensionaal), zoals die gedefinieerd door Reproducing Kernel Hilbert Spaces (RKHS). De schatter minimaliseert de empirische risico plus een regularisatieterm.
- Hogere-orde Systemen: Voor systemen waarbij de volgende staat afhangt van de voorgaande $p$ staten (orde- $p$ Markovprocessen), reduceren de auteurs het probleem tot een eerste-orde Markovproces op de ruimte van staat-tuples (gelift proces).
- Eindige Toestandsruimtes: Voor eindige toestandsruimtes hanteren de auteurs een surrogaat kleinste kwadratenbenadering. Ze coderen staten in een vectorruimte (bijv. one-hot codering) en leren een regressiefunctie in deze ruimte. De uiteindelijke voorspelling wordt verkregen door de regressie-output te decoderen. Dit verbindt het probleem met multi-categorie classificatie en gestructureerde predictie.
- Koopman-operators: Het kader wordt uitgebreid naar het leren van de Koopman-operator, die de evolutie van observabelen beschrijft. De auteurs tonen aan dat het leren van de Koopman-operator equivalent is aan kernel Koopman-regressie, waarbij garanties in de operatormetriek worden afgeleid.
Concentratieanalyse: Een centrale technische bijdrage is de afleiding van concentratie-ongelijkheden voor Hilbert-ruimte-waardige additieve functionaliteiten van uniform geometrisch ergodische Markovketens. De bewijstrategie omvat:
- Het decomponeren van de fout in benaderings- en schattingscomponenten.
- Het gebruik van de Poisson-vergelijking om de additieve functionaliteit te decomponeren in een martingaaldeel en een randterm.
- Het toepassen van Pinelis-Bernstein-ongelijkheden voor Hilbert-ruimte-waardige martingalen om het martingaaldeel te begrenzen.
- Het expliciet rekening houden met de "burn-in" periode en de transiënte fase vóór convergentie naar stationariteit.

Belangrijkste Bijdragen

Niet-Asymptotische Leergaranties: De auteurs leiden hoge-waarschijnlijkheid eindige-stele grenzen af voor de voorspellingsfout. Deze grenzen gelden voor een enkele trajectorie beginnend vanuit een willekeurige initiële distributie, zonder aan te nemen dat het proces geïnitialiseerd is bij stationariteit.
Expliciete Afhankelijkheid van Ergodiciteit: De afgeleide grenzen bevatten expliciet een multiplicatieve constante factor van de vorm $(C / (1-\rho))^2$ , waarbij $\rho$ de geometrische convergentiesnelheid is en $C$ een constante is uit de UGE-aanname. Dit benadrukt hoe de mengtijd van het systeem de steekproefcomplexiteit beïnvloedt.
Generalisatie naar Diverse Settings: De methodologie laat zien dat deze zich natuurlijk uitbreidt naar:
- Vector-waardige en oneindig-dimensionale toestandsruimtes.
- Hogere-orde Markovprocessen (via state lifting).
- Eindige toestandsruimtes (via surrogaat verliesfuncties).
- Het leren van de Koopman-operator in de operatormetriek.
Concentratie-ongelijkheden: De auteurs bieden een nieuwe concentratie-ongelijkheid voor Hilbert-ruimte-waardige observabelen van uniform ergodische Markovketens, waarbij gebruik wordt gemaakt van martingaal-decomposities en oplossingen van de Poisson-vergelijking.

Resultaten

Universele Consistentie: Onder de aanname van universele modellen (bijv. het gebruik van universele kernels), wordt aangetoond dat de kleinste kwadraten-schatter universeel consistent is; de voorspellingsfout convergeert bijna zeker naar nul wanneer de trajectorie-lengte $T \to \infty$ .
Convergentiesnelheden: Voor goed gespecificeerde modellen (waar de ware functie binnen de hypotheseklasse valt), stellen de auteurs convergentiesnelheden vast van de orde $O(T^{-1/2})$ (tot logaritmische factoren). Dit komt overeen met de optimale snelheden bekend voor i.i.d.-gegevens onder vergelijkbare aannames.
Foutdecompositie: De foutanalyse onthult twee verschillende bronnen van afwijking van de i.i.d.-casus:
1. Een multiplicatieve constante afhankelijk van de mengeigenschappen van de keten ( $C/(1-\rho)$ ).
2. Een randterm van de orde $O(1/(\lambda T^2))$ voortvloeiend uit de afkap van de martingaal-decompositie, die sneller afneemt dan de leidende schattingsfoutterm.
Specifieke Aspecten van Eindige Toestanden: In de eindige toestandssetting zijn de foutgrenzen afhankelijk van de marge-conditie (het gat tussen de hoogste en de tweede hoogste transitiekansen) en de norm van de transitiematrix, maar zij zijn opmerkelijk genoeg niet afhankelijk van de minimale invariante waarschijnlijkheid of de cover-tijd van de trajectorie.

Betekenis en Claims
De auteurs positioneren dit werk als een brug tussen de statistische leertheorie en de analyse van dynamische systemen. Zij beweren dat door expliciet rekening te houden met de niet-i.i.d.-aard van trajectorie-gegevens via de lens van uniforme geometrische ergodiciteit, men rigoureuze leergaranties kan afleiden die vergelijkbaar zijn met die in de i.i.d.-setting, ondanks de aanwezigheid van temporele afhankelijkheid.

Het artikel benadrukt dat de benadering geen behoefte heeft aan expliciete parametrische modellering van de transitie-regel, maar het probleem behandelt als een niet-parametrische regressie-opgave. De afleiding van leergaranties voor de Koopman-operator vanuit een enkele trajectorie wordt gepresenteerd als een natuurlijke uitbreiding van het één-stap voorspellingskader, wat een vereenvoudigde afleiding biedt op basis van feature maps in plaats van volledige RKHS-machinerie.

De auteurs merken bescheiden op dat hoewel zij zich richten op operator-metriek schattingen en specifieke concentratietechnieken, andere metrieken en ontwikkelingen (zoals benign overfitting-regimes of complexere afhankelijkheidsstructuren) aan toekomstig onderzoek worden overgelaten. De primaire bijdrage is de vestiging van een theoretische fundering voor het leren van uit enkele trajectorieën in ergodische systemen, waarbij de specifieke rol van de mengtijd bij het bepalen van de steekproefcomplexiteit wordt belicht.

Het verhaal van de enkele trajectorie

Verder gaan dan de basis

De essentie

Meer zoals dit