⚡ electrical engineering

Statistical Efficiency of Single- and Multi-step Models for Forecasting and Control

Dit artikel biedt de eerste kwantitatieve analyse van de afweging tussen enkel- en meerstapsmodellen voor voorspelling en controle, en toont aan dat enkelstapsmodellen superieur zijn bij goed gespecificeerde systemen, terwijl meerstapsmodellen de voorkeur hebben bij misspecificatie door partiële waarneembaarheid.

Oorspronkelijke auteurs: Anne Somalwar, Bruce D. Lee, George J. Pappas, Nikolai Matni

Gepubliceerd 2026-03-25

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Anne Somalwar, Bruce D. Lee, George J. Pappas, Nikolai Matni

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een voorspelling moet doen over hoe het weer zal zijn, maar dan niet alleen voor morgen, maar voor de komende week. Of misschien moet je een zelfrijdende auto leren navigeren door een drukke stad. In beide gevallen moet je een model maken dat de toekomst voorspelt op basis van het verleden.

Deze paper onderzoekt een fundamenteel dilemma: Hoe leer je het beste zo'n model? Moet je het stap voor stap doen, of in één grote sprong?

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen.

De Drie Manieren om te Voorspellen

De auteurs vergelijken drie methoden om een model te trainen:

De "Stap-voor-Stap" Methode (Single-step):
- Hoe het werkt: Je leert het model alleen om de volgende stap te voorspellen (bijvoorbeeld: "Als het nu regent, is het morgen ook regen?"). Vervolgens gebruik je dat antwoord om de dag daarna te voorspellen, en zo verder.
- Het probleem: Dit is als een spelletje "Stille Post". Als je bij de eerste stap een klein foutje maakt, wordt dat foutje bij de volgende stap weer gebruikt als basis. Die fouten stapelen zich op en worden steeds groter. Na 10 stappen kan je voorspelling totaal onzin zijn. Dit noemen ze compounding error (opstapeling van fouten).
De "Grote Sprong" Methode (Multi-step):
- Hoe het werkt: Je leert het model direct om de hele week in één keer te voorspellen. Je zegt: "Hier is de data van vandaag, geef me direct de voorspelling voor dag 1 tot en met 7."
- Het voordeel: Er is geen "Stille Post". Het model leert direct de relatie tussen vandaag en de verre toekomst, dus fouten stapelen zich niet op.
- Het nadeel: Het model moet veel meer informatie tegelijk onthouden en verwerken. Het is alsof je iemand vraagt om een heel boek uit het hoofd te leren in plaats van één zin. Het heeft veel meer data nodig om dit goed te doen.
De "Hybride" Methode (Single-step met een meervoudige straf):
- Hoe het werkt: Je leert het model nog steeds om de volgende stap te voorspellen, maar je straft het ook als de voorspelling voor de dag daarna niet klopt. Je probeert dus de voordelen van beide werelden te combineren.

Het Grote Geheim: Wanneer werkt wat?

De auteurs ontdekten dat er geen "beste" methode is die altijd werkt. Het hangt af van hoe goed je de wereld begrijpt (of in technische termen: of je model "goed gespecificeerd" is).

Situatie 1: Alles is duidelijk (De "Well-Specified" Wereld)

Stel je voor dat je een perfecte kaart hebt van de stad en je auto heeft perfecte camera's. Je ziet alles.

De winnaar: De Stap-voor-Stap methode.
Waarom? Omdat je de wereld perfect begrijpt, is het slim om de simpele regels te volgen. De "Stille Post" fouten zijn hier zo klein dat ze verwaarloosbaar zijn. De "Grote Sprong" methode is hier juist te complex; het model probeert te veel te onthouden en maakt daardoor juist meer fouten door gebrek aan data.
Analogie: Als je een simpele route kent, is het slimmer om gewoon elke hoek om te kijken dan om een compleet 3D-landschap in je hoofd te bouwen.

Situatie 2: Alles is vaag (De "Misspecified" Wereld)

Stel je voor dat je auto een slechte camera heeft, of dat er mist hangt. Je ziet niet de volledige staat van de wereld, maar alleen een deel (bijvoorbeeld: je ziet de weg, maar niet of er een kind op de stoep staat).

De winnaar: De Grote Sprong methode.
Waarom? Omdat je niet alles ziet, is de wereld niet "Markoviaans" (de toekomst hangt niet alleen af van het nu, maar ook van het verleden dat je niet ziet). De "Stap-voor-Stap" methode faalt hier omdat hij probeert de toekomst te voorspellen op basis van onvolledige informatie, wat leidt tot enorme fouten. De "Grote Sprong" methode kan echter patronen zien in de hele reeks data die de simpele methode mist.
Analogie: Als je door een mistig bos loopt, helpt het niet om alleen naar de grond voor je voeten te kijken (stap-voor-stap). Je moet proberen een groter beeld te schetsen van waar het pad naartoe leidt, zelfs als je niet alles ziet. De "Grote Sprong" methode is beter in het "raadsel" oplossen van de mist.

Wat betekent dit voor de praktijk?

De auteurs laten zien dat dit niet alleen theoretisch is, maar ook werkt in echte controle-systemen (zoals robots of drones).

Als je systeem goed begrepen is: Gebruik de simpele, stap-voor-stap methode. Het is efficiënter en heeft minder data nodig.
Als je systeem complex of onduidelijk is (bijvoorbeeld door ruis of onzichtbare variabelen): Gebruik de "Grote Sprong" methode. Het kost meer rekenkracht en data, maar het voorkomt dat je model in de war raakt door de onzekerheid.

Samenvattend in één zin:

Als je de wereld perfect ziet, is het slimmer om stap voor stap te lopen; maar als de wereld in de mist ligt, is het beter om een grote sprong te maken om de weg te vinden.

Deze studie geeft engineers en data-wetenschappers dus een duidelijke vuistregel: kijk eerst of je model de werkelijkheid goed kan vangen. Zo ja, houd het simpel. Zo nee, ga dan voor de complexere, directe voorspelling.

Titel: Statistische Efficiëntie van Single- en Multi-step Modellen voor Voorspelling en Regeling

Auteurs: Anne Somalwar, Bruce D. Lee, George J. Pappas, Nikolai Matni.

1. Probleemstelling

In leer-gedreven besturing (learning-based control) en tijdreeksvoorspelling is opkomende fouten (compounding error) een fundamenteel probleem. Wanneer men een model gebruikt dat slechts één tijdstap vooruit voorspelt (single-step) en dit model recursief toepast om een langere horizon te voorspellen, stapelen kleine voorspelfouten zich op. Dit leidt tot slechte prestaties op de lange termijn.

Een veelgebruikte oplossing is het direct trainen van multi-step modellen die de hele voorspellinghorizon in één keer voorspellen. Dit vermindert de accumulatie van fouten tijdens het trainen. Echter, directe multi-step modellen hebben meer parameters (die schalen met de horizon $H$ ) en vereisen dus meer data om dezelfde nauwkeurigheid te bereiken.

De centrale vraag die dit paper beantwoordt is: Wanneer wegen de voordelen van directe multi-step voorspelling op tegen de kosten van het leren van een complexer model? Er ontbreekt tot nu toe een kwantitatieve, theoretische richtlijn voor dit afwegingsprobleem, vooral voor lineaire dynamische systemen.

2. Methodologie

De auteurs analyseren drie klassen van voorspellers binnen het kader van lineaire tijd-invariante systemen (LTI):

Single-step modellen (SS): Een model dat $y_{t+1}$ voorspelt op basis van $y_t$ en $u_t$ . Voor voorspellingen over horizon $H$ wordt dit model recursief (autoregressief) toegepast.
Directe Multi-step modellen (MS): Een model dat direct de hele reeks $y_{t+1:t+H}$ voorspelt op basis van $y_t$ en $u_{t:t+H-1}$ . Dit minimaliseert direct de fout over de hele horizon.
Intermediate modellen (I): Een single-step model dat wordt getraind met een multi-step loss functie. Het model heeft dezelfde structuur als SS (autoregressief), maar de trainingsdoelfunctie straalt de fouten over de hele horizon uit.

De analyse wordt uitgevoerd in twee scenario's:

Wel-gespecificeerd (Well-specified): Het systeem is volledig waarneembaar (de toestand $x_t$ is gelijk aan de observatie $y_t$ ). De Markov-aanname is correct.
Fout gespecificeerd (Misspecified): Het systeem is gedeeltelijk waarneembaar (observaties $y_t$ zijn een ruisige projectie van $x_t$ ). De Markov-aanname is onjuist, wat leidt tot een modelbias.

De auteurs gebruiken asymptotische analyse (voor $N \to \infty$ , waarbij $N$ de datasetgrootte is) om de voorspellingsfouten en de kosten in een gesloten-lus regeling (closed-loop control) te vergelijken.

3. Belangrijkste Bijdragen

Eerste kwantitatieve vergelijking: Het paper biedt de eerste strikte theoretische analyse van de trade-off tussen single- en multi-step modellen voor lineaire systemen.
Inclusie van een derde klasse: Het introduceert en analyseert de "intermediate" aanpak (single-step structuur met multi-step loss), die vaak wordt gebruikt in de praktijk maar theoretisch minder begrepen was.
Gesloten-lus analyse: De resultaten worden uitgebreid naar regelingstaken (MPC/LQR), niet alleen naar open-lus voorspelling.
Empirische validatie: De theorie wordt ondersteund door numerieke experimenten voor zowel lineaire als niet-lineaire systemen.

4. Kernresultaten

A. Wel-gespecificeerde Setting (Volledige Waarneming)

Wanneer het model de werkelijkheid perfect kan beschrijven (geen bias):

Single-step (SS) is statistisch het meest efficiënt. De asymptotische voorspellingsfout neemt het snelst af met toenemende data ( $1/N$ ).
De volgorde van efficiëntie is: Single-step < Intermediate < Direct Multi-step.
Reden: Single-step modellen profiteren van de inherente Markov-structuur van het systeem en vermijden het accumuleren van procesruis in de trainingsdoelfunctie. Directe multi-step modellen introduceren onnodige variabiliteit door de grote parameterruimte die schalen met de horizon $H$ .
Conclusie: Voor goed-gespecificeerde systemen is het recursief toepassen van een single-step model superieur in termen van data-efficiëntie.

B. Fout-gespecificeerde Setting (Gedeeltelijke Waarneming)

Wanneer het model de werkelijkheid niet perfect kan beschrijven (bijv. door onzichtbare toestanden of sensorruis):

Directe Multi-step (MS) presteert het beste. Het heeft de laagste bias (onvermijdbare fout).
De volgorde van bias is: Direct Multi-step < Intermediate < Single-step.
Reden: Bij gedeeltelijke waarneming is de Markov-aanname onjuist. Single-step modellen accumuleren hierdoor grote fouten omdat ze proberen een niet-Markoviaans proces te modelleren als Markoviaans. Directe multi-step modellen kunnen deze bias "omzeilen" door direct de lange-termijn dynamiek te leren, wat leidt tot een significant lagere asymptotische fout.
Conclusie: Bij modelmisspecificatie wegen de voordelen van lagere bias op tegen de hogere data-eisen; directe multi-step modellen zijn dan superieur.

C. Regeling in Gesloten Lus (Control Performance)

Wel-gespecificeerd: Controllers gebaseerd op single-step modellen leiden tot lagere regelingkosten (LQR cost) dan die gebaseerd op multi-step modellen, omdat de voorspellingnauwkeurigheid sneller convergeert.
Fout-gespecificeerd: Hier is het cruciaal of de controller het systeem stabiliseert.
- Single-step modellen kunnen falen in het stabiliseren van het systeem als de bias te groot is (de gesloten-lus spectrale radius wordt $>1$ ).
- Directe multi-step modellen, door hun lagere bias, hebben een hogere kans om een stabiliserende controller te genereren, zelfs bij beperkte data.
- Dit suggereert dat multi-step modellen essentieel zijn voor stabiliteit in onzekere omgevingen.

D. Niet-lineaire Systemen

Experimenten met een niet-lineair systeem (dat via Koopman-operatoren lineair gemaakt kan worden) tonen aan dat de kwalitatieve bevindingen uit de lineaire theorie ook hier gelden:

In goed-gespecificeerde gevallen wint single-step.
In fout-gespecificeerde gevallen wint multi-step.

5. Betekenis en Toekomstperspectief

Dit werk biedt praktische richtlijnen voor ingenieurs en onderzoekers die data-gedreven modellen ontwerpen:

Gebruik Single-step als het systeem goed begrepen is, volledig waarneembaar is, en er voldoende data beschikbaar is om de parameters nauwkeurig te schatten. Dit is de meest data-efficiënte route.
Gebruik Directe Multi-step als het systeem gedeeltelijk waarneembaar is, complexe dynamieken heeft die moeilijk te modelleren zijn (misspecificatie), of als stabiliteit van de regeling de hoogste prioriteit heeft. Hoewel dit meer data vereist, voorkomt het het catastrofale falen door opkomende fouten.

De studie benadrukt dat er geen "one-size-fits-all" oplossing is; de keuze hangt af van de mate van modelonwetendheid en de beschikbaarheid van data. Toekomstig werk richt zich op het uitbreiden van deze theorie naar volledig niet-lineaire systemen en complexere regeling frameworks zoals Model Predictive Control (MPC) en Reinforcement Learning.