📊 statistics

Human in the Loop Adaptive Optimization for Improved Time Series Forecasting

Dit artikel introduceert een nieuw, model-agnostisch post-training framework dat de nauwkeurigheid van tijdreeksvoorspellingen verhoogt door automatisch expressieve transformaties toe te passen via reinforcement learning en genetische algoritmen, terwijl het optioneel menselijke deskundige begeleiding via natuurlijke taal incorporeert om systematische fouten te corrigeren zonder hertraining.

Oorspronkelijke auteurs: Malik Tiomoko, Hamza Cherkaoui, Giuseppe Paolo, Zhang Yili, Yu Meng, Zhang Keli, Hafiz Tiomoko Ali

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Malik Tiomoko, Hamza Cherkaoui, Giuseppe Paolo, Zhang Yili, Yu Meng, Zhang Keli, Hafiz Tiomoko Ali

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een briljante, hoogopgeleide chef-kok hebt ingehuurd om een complex gerecht te bereiden voor een groot diner. Deze chef heeft wekenlang recepten bestudeerd, ingrediënten geproefd en zijn techniek geperfectioneerd. Nu is hij klaar om te serveren.

Echter, vlak voordat de gasten arriveren, merk je dat de soep een beetje te zout is, of dat het braadstuk net iets te weinig gekruid is. In de oude dagen had je de chef misschien helemaal terug naar de keuken moeten sturen om het hele kookproces opnieuw vanaf nul te beginnen — een verspilling van tijd en energie.

Dit artikel introduceert een nieuwe manier om die situatie aan te pakken. In plaats van de chef terug naar school te sturen, stellen de auteurs een "Post-Training Correction" (Correctie na de Training) systeem voor. Denk aan een team van deskundige proefpersonen die klaarstaan bij het voltooide gerecht. Zij koken het eten niet; ze passen simpelweg een paar precieze, berekende aanpassingen toe op het bord vlak voordat het naar tafel gaat.

Hier is hoe het artikel dit idee in eenvoudige termen uiteenzet:

1. Het Probleem: Het "Bevroren" Model

In de wereld van computervoorspellingen (het voorspellen van zaken zoals aandelenkoersen, energieverbruik of het weer), trainen we meestal een computermodel één keer. We laten het een lange tijd leren, en daarna "bevriezen" we het. Zodra het bevroren is, stoppen we met het onderwijzen ervan.

Het Probleem: Soms maakt zelfs het beste bevroren model kleine, systematische fouten. Misschien voorspelt het consequent een temperatuur die 2 graden te hoog is, of mist het een plotselinge piek in het energieverbruik.
De Oude Oplossing: Om dit te herstellen, moet je meestal het hele model opnieuw trainen, wat is alsof je de chef opnieuw de hele maaltijd laat kooken vanaf nul. Dat is duur en traag.

2. De Oplossing: Het "Proeverij"-Team

De auteurs stellen voor om het hoofdmodel bevroren te houden en er een lichtgewicht "correctielaag" bovenop te plaatsen.

De Analogie: Stel je voor dat het hoofdmodel een radio is die een liedje afspeelt. Het liedje is grotendeels geweldig, maar de bas is een beetje modderig. In plaats van het hele album opnieuw op te nemen, draai je gewoon aan een knop op de equalizer om de bas iets te versterken.
Hoe het werkt: Het systeem heeft een gereedschapskist met eenvoudige "knoppen" (wiskundige aanpassingen). Deze knoppen kunnen:
- Schalen (Scale): De voorspellingen iets groter of kleiner maken (zoals het volume harder zetten).
- Verschuiven (Shift): Een klein beetje bij elke voorspelling optellen (zoals een snufje zout toevoegen).
- Trend: Aanpassen voor een langzame drift over de tijd (zoals een klok corrigeren die 5 minuten voorloopt).

3. De Juiste Knoppen Vinden: De "Game Show"-Strategie

Het systeem raadt niet gewoon welke knoppen gedraaid moeten worden. Het gebruikt een slimme strategie genaamd Bandit Optimization (denk aan een spelshow waarbij je een beperkt aantal pogingen hebt om de winnende deur te vinden).

Het systeem probeert verschillende combinaties van deze eenvoudige aanpassingen uit tijdens een "testronde" (validatiegegevens).
Het elimineert snel de slechte aanpassingen en focust op de aanpassingen die de voorspellingen nauwkeuriger maken.
Het Resultaat: Het vindt de perfecte combinatie van kleine aanpassingen om de fouten van het model te herstellen, zonder ooit het originele "brein" van het model aan te raken.

4. De "Human-in-the-Loop"-Feature

Soms weet een menselijke expert iets wat de computer niet weet. Misschien zegt een energie-expert: "Hé, het model vergeet altijd dat fabrieken op zondagen sluiten."

De Magie: De auteurs hebben een functie gebouwd waarbij je deze feedback in gewone taal kunt invoeren (bijv. "Verlaag de voorspellingen voor zondagen").
De Vertaler: Een Large Language Model (een AI die tekst begrijpt) vertaalt jouw zin onmiddellijk naar een wiskundige "knop" die het systeem kan gebruiken.
De Controle: Het systeem test vervolgens dit menselijke idee. Als het de voorspelling daadwerkelijk verbetert, behoudt het de aanpassing. Als dat niet zo is, wordt het weggegooid. Dit zorgt ervoor dat menselijke intuïtie helpt, maar het systeem niet kapot maakt.

5. Wat de Resultaten Laten Zien

De auteurs hebben dit getest op veel verschillende real-world datasets (zoals elektriciteitsverbruik en beurskoersen) met diverse soorten voorspellingsmodellen.

De Winst: Ze ontdekten dat deze methode de nauwkeurigheid in sommige gevallen met wel 30% kan verbeteren.
De Kosten: Het is computationeel gezien extreem goedkoop. Het is alsof je een garnering aan een gerecht toevoegt; het kost seconden, geen uren.
Het Nadeel: De verbeteringen zijn het meest spectaculair voor eenvoudigere modellen. Als een model al extreem complex en perfect is, is er minder ruimte voor verbetering. Ook voor zeer kleine modellen die in seconden getraind zijn, kan de tijd die nodig is om de "knoppen" te vinden langer duren dan de training zelf.

Samenvatting

Dit artikel betoogt dat je niet altijd een enorme AI opnieuw hoeft te trainen om deze beter te maken. Soms heb je alleen een slim, lichtgewicht systeem nodig om een paar laatste, precieze aanpassingen toe te passen. Het is het verschil tussen een taart opnieuw bakken omdat hij een beetje droog is, versus het simpelweg aanbrengen van een glazuurlaagje om hem perfect te maken.

Technische Samenvatting: Post-Training Correcties voor Verbeterde Tijdreeksvoorspelling

Probleemstelling

Tijdreeksvoorspelling is cruciaal in domeinen zoals de financiële sector en de gezondheidszorg, maar het bereiken van een consequent hoge nauwkeurigheid blijft uitdagend, vooral bij complexe, niet-stationaire real-world data. Huidige state-of-the-art modellen (bijv. Informer, Autoformer) worden doorgaans in één enkele, resource-intensieve run getraind en daarna "bevroren" zodra de training is voltooid, waarbij vaak wordt vertrouwd op early stopping op basis van validatieprestaties. Er bestaat een aanzienlijke kloof in de mogelijkheid om de prestaties van een model verder te verbeteren nadat de training is gestopt, zonder de hoge kosten van hertraining of volledige re-optimalisatie te dragen. Hoewel strategieën zoals ensembling, snapshotting en boosting bestaan, vereisen deze vaak extra trainingsepochs, checkpoints of volledige hertraining, wat computationeel prohibitief kan zijn voor grote modellen.

Methodologie

Het artikel introduceert Post-Training Correcties, een lichtgewicht, model-agnostisch framework dat is ontworpen om een bevroren voorspeller te verbeteren door sequentieel een geselecteerde set correctiefuncties toe te passen op de outputs ervan. Deze benadering is geïnspireerd op boosting-principes, maar werkt zonder de basismodellen opnieuw te trainen.

Kerncomponenten

Correctiesets: De methode definieert een pool van potentiële correctiefuncties $\{g_k\}$ die worden toegepast op de voorspellingen $f(X)$ van de basisvoorspeller. Het artikel onderzoekt twee complementaire strategieën voor het definiëren van deze correcties:
- Eenvoudige Transformaties: Een veelzijdige toolkit van eendimensionale transformaties, inclusief amplitude-schaling, piecewise schaling (het herschalen van specifieke kwantielbereiken) en lineaire trendaanpassingen (het toevoegen van hellingen/intercepts).
- Human-in-the-Loop (HITL): Een optioneel mechanisme waarbij expertfeedback in natuurlijke taal (bijv. "Verhoog de waarden boven het 80e percentiel") door een Large Language Model (LLM) wordt vertaald naar een veilige, uitvoerbare correctiefunctie. Deze door mensen voorgestelde correcties worden behandeld als kandidaat-acties en gevalideerd naast automatische correcties.
Selectiealgoritme: Het framework formuleert het verfijningsproces als een gezamenlijk optimalisatieprobleem waarbij discrete correctietypes en hun continue parameters betrokken zijn.
- Bandit Selectie: Een Best-Arm Identification (BAI) bandit-algoritme (specifiek Successive Halving, hoewel LUCB, Successive Rejection en Uniform baselines ook zijn getest) wordt gebruikt om de meest effectieve correctietypes uit de pool te selecteren.
- Hyperparameter Optimalisatie (HPO): Voor elk geselecteerd correctietype voert een hyperparameter optimalisatie-routine (Random Search of Bayesian Optimization) de tuning uit van de continue parameters om de validatiefout te minimaliseren.
- Pipeline: Het proces selecteert iteratief $M$ correcties en componeert deze sequentieel met de basisvoorspeller ( $h = g_{k_M} \circ \dots \circ g_{k_1} \circ f$ ).

Theoretische Fundamenten

Het artikel biedt theoretische garanties voor de aanpak, beginnend bij de affine correctiegevallen ( $Y_{corr} = aZ + b$ ). Het bewijst dat de optimale affine correctie leidt tot een niet-toenemende Mean Squared Error (MSE). Verder analyseren de auteurs het bandit-gebaseerde selectieproces en leiden zij bovengrenzen af voor het gecorrigeerde voorspellingsrisico. De analyse toont aan dat het Successive Halving-algoritme exponentieel snel convergeert naar de optimale correctie, mits het gat tussen de beste en de suboptimale correcties duidelijk aanwezig is, binnen een redelijk validatiebudget.

Belangrijkste Bijdragen

Adaptieve Correcties: Een methode om automatisch een sequentie van correcties te selecteren en toe te passen om de voorspellingsnauwkeurigheid te verbeteren zonder het basismodel opnieuw te trainen.
Human-in-the-Loop Integratie: Een framework dat optioneel expertfeedback via natuurlijke taal integreert, waarbij dit via een LLM automatisch wordt vertaald naar actiegerichte correctiefuncties.
Bewijsbaar Veilige Selectie: Theoretische en empirische garanties dat de aanpak de generalisatie verbeteren ten opzijde van de trainingsprestaties, wat zorgt voor betrouwbare voorspellingen.
Schaalbaarheid en Model-Agnosticisme: De methode is ontworpen om compatibel te zijn met elke forecasting-architectuur (van eenvoudige lineaire modellen tot complexe Transformers) en vereist minimale computationele overhead.

Experimentele Resultaten

Het framework werd geëvalueerd over diverse benchmarks (ETT energie datasets, OpenTS, Exchange Rate, Pedestrian Counts) en meerdere modellen (Autoformer, Crossformer, DLinear, PatchTST, SegRNN).

Prestatiewinsten: De methode verbeterde de voorspellingsnauwkeurigheid consistent. De meest significante winsten werden waargenomen bij Autoformer, met een gemiddelde verbetering van 16,64% (tot 34,88% op de ETTh1 dataset). Andere modellen vertoonden meer bescheiden maar consistente winsten (bijv. PatchTST ~4,25%, DLinear ~0,73%).
Algoritmische Robuustheid: Hoewel Successive Halving (SH) de standaard was, toonden vergelijkingen met LUCB, Successive Rejection (SR) en Uniform selectie aan dat het post-training correctiemechanisme robuust is tegen de specifieke bandit-strategie, waarbij alle methoden positieve verbeteringen opleverden.
Consistentie van Metrieken: Optimalisatie gericht op MSE leidde tot consistente verbeteringen in MSE-gebaseerde metrieken (RMSE, NRMSE). Het artikel merkt echter op dat absolute foutmetrieken (MAE, MAPE, SMAPE) soms een lichte verslechtering vertoonden, wat het belang benadrukt van het afstemmen van de optimalisatiemetriek op de doelstellingen van de implementatie.
Computationele Overhead: Het post-training proces is lichtgewicht in verhouding tot complexe modellen, maar kan een grotere relatieve overhead vertegenwoordigen voor zeer kleine, snel te trainen modellen (bijv. DLinear), hoewel de absolute tijd klein blijft.

Betekenis en Claims

Het artikel stelt dat post-training correcties een praktisch, schaalbaar en efficiënt alternatief bieden voor hertraining om tijdreeksvoorspellingen te verbeteren. Door de prestatieverbetering los te koppelen van de dure trainingsfase, maakt de methode het volgende mogelijk:

Continue Verbetering: Modellen kunnen worden verfijnd naarmate nieuwe data of expertinzichten beschikbaar komen, zonder hertraining.
Interpreteerbaarheid en Controleerbaarheid: Correcties zijn expliciete functies (of code gegenereerd uit natuurlijke taal), wat het aanpassingsproces transparant maakt.
Veiligheid: Het selectieproces garandeert dat alleen correcties die de validatieprestaties verbeteren, worden toegepast.

De auteurs positioneren dit werk als een complementaire laag voor bestaande forecasting-architecturen, die bijzonder waardevol is in scenario's waarin hertraining duur, risicovol of computationeel onhaalbaar is. Zij erkennen dat de voordelen het grootst zijn voor eenvoudigere of minder geoptimaliseerde voorspellers, terwijl zeer expressieve modellen beperktere winsten kunnen zien. Toekomstig werk wordt voorgesteld om het framework uit te breiden naar streaming-omgevingen, multimodale data en potentieel beeldgeneratieve modellen.