Regime-aware financial volatility forecasting via in-context learning

Dit paper introduceert een regimewaakzaam in-context leerframework dat voorgeprogrammeerde grote taalmodellen gebruikt om financiële volatiliteit te voorspellen door historische patronen te redeneren en voorspellingen dynamisch aan te passen aan veranderende marktomstandigheden zonder parameterfine-tuning.

De kern

Stel je voor dat je een voorspeller bent die probeert te raden hoe onrustig de beurs morgen zal zijn. Soms is het rustig, alsof je op een kalme meer vaart. Soms is het een orkaan, met enorme golven die alles omverblazen.

Deze paper beschrijft een slimme manier om een kunstmatige intelligentie (een "grote taalcomputer") te helpen om deze onrustige golven beter te voorspellen, zonder dat we de computer eerst jarenlang moeten laten studeren (zoals we dat normaal doen bij AI).

Hier is de uitleg, vertaald naar alledaagse taal:

1. Het Probleem: De "Eén Groot Pak" aanpak faalt

Normaal gesproken proberen computers de beurs te voorspellen door naar het verleden te kijken. Ze denken: "Gisteren was het rustig, dus morgen is het ook rustig."
Maar de beurs is niet zo simpel. Soms verandert de sfeer plotseling (een "regime shift"). Als er een oorlog uitbreekt of een bank faalt, wordt het plotseling een storm.

• De oude manier: Een computer die alleen naar het verleden kijkt, blijft rustig zeggen: "Het is een kalme dag," terwijl er buiten een orkaan woedt. Dat is gevaarlijk.
• De nieuwe AI: We hebben een zeer slimme AI (een Large Language Model of LLM) die al veel weet. Maar als je hem gewoon vraagt: "Wat wordt de volatiliteit?" zonder extra hulp, raakt hij in de war bij grote schommelingen.

2. De Oplossing: "Leren door te kijken" (In-Context Learning)

In plaats van de AI opnieuw te leren (wat duur en traag is), geven we de AI een voorbeeldboekje mee. Dit noemen ze In-Context Learning.
Stel je voor dat je een chef-kok bent die een nieuw gerecht moet maken. In plaats van een nieuw kookboek te schrijven, geef je hem een boekje met recepten die hij al kent.

• De truc: We geven de AI niet alle recepten, maar alleen de recepten die passen bij de situatie.
  • Is het een rustige dag? Geef hem recepten voor "kalme soep".
  • Is het een stormachtige dag? Geef hem recepten voor "zware soep".

3. Hoe werkt hun slimme systeem? (De Drie Stappen)

De auteurs hebben een slimme methode bedacht om dit boekje te maken en te gebruiken:

Stap 1: De "Orakel" (De Meesterkok)
Eerst laten ze de AI een eerste gok doen. Vervolgens kijken ze naar het echte antwoord (het "Orakel").

• Voorbeeld: De AI zegt: "Morgen is het rustig." Het Orakel zegt: "Nee, morgen is er een storm, de golven zijn 10 meter hoog!"
  De AI krijgt dan een correctie: "Je dacht aan een kalme dag, maar kijk eens naar die enorme golven. Probeer het nog eens."
  Dit doen ze een paar keer totdat de AI een heel goed voorbeeld heeft gemaakt. Dit noemen ze de "Oracle-guided refinement".

Stap 2: Het Sorteren (Het Regime-Label)
Nu hebben ze een stapel met perfecte voorbeelden. Maar ze sorteren deze stapel in twee bakken:

• Bak A (Rustig): Voorbeelden van dagen met kleine golven.
• Bak B (Storm): Voorbeelden van dagen met enorme schommelingen.
  Elk voorbeeld krijgt een label: "Rustig" of "Storm".

Stap 3: De Slimme Keuze (De Regime-Aware Sampling)
Als de AI morgen een voorspelling moet doen, kijkt hij eerst even naar de huidige sfeer.

• Ziet hij dat de laatste dagen al wat onrustig waren? Dan pakt hij alleen voorbeelden uit Bak B (Storm) en geeft die aan de AI als voorbeeld.
• Is het rustig? Dan pakt hij voorbeelden uit Bak A.

De AI denkt dan: "Ah, ik zie dat we in een stormperiode zitten. Laten we kijken hoe we dat in het verleden hebben aangepakt." Hierdoor past de AI zich direct aan aan de situatie, zonder dat hij zelf iets moet veranderen.

4. Wat was het resultaat?

Ze hebben dit getest op echte markten (zoals de S&P500 in de VS en de Euro/Dollar).

• Oude methoden (zoals GARCH, een klassiek wiskundig model) doen het goed in rustige tijden, maar falen vaak tijdens crises.
• De "Dumme" AI (zonder voorbeelden) doet het ook niet goed tijdens crises.
• Hun nieuwe methode: Doet het veel beter tijdens de stormachtige tijden! Ze konden de fouten met ongeveer 27% verkleinen ten opzichte van de beste oude methoden.

Samenvattend in één zin:

In plaats van de AI te dwingen om alles uit zijn hoofd te leren, geven ze hem een slim gekozen boekje met voorbeelden dat precies past bij het weer (rustig of storm), waardoor hij veel slimmer voorspellingen maakt over de onrustige beurs.

Het is alsof je een navigator hebt die niet alleen naar de kaart kijkt, maar ook weet: "Oh, we zijn in een stormgebied, laten we de route voor stormen gebruiken in plaats van de route voor kalme dagen."

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Regime-Aware Financial Volatility Forecasting via In-Context Learning", vertaald en samengevat in het Nederlands.

Titel: Regime-bewuste Financiële Volatiliteitsvoorspelling via In-Context Learning

Auteurs: Saba Asaad, Shayan Mohajer Hamidi, Ali Bereyhi (Universiteit van Toronto & Stanford University)
Publicatie: Workshop paper geaccepteerd bij ICLR 2026

---

1. Probleemstelling

Het voorspellen van de volatiliteit van financiële markten is cruciaal voor risicomanagement, derivatenprijzen en portefeuilleallocatie. Traditionele econometrische modellen (zoals GARCH) en machine learning-methoden hebben echter moeite om zich aan te passen aan de niet-stationaire aard van financiële markten.

• De uitdaging: Financiële markten kennen abrupte regime-schiften (bijv. van rustige naar turbulente periodes) en zware staarten in rendementverdelingen. Bestaande modellen presteren vaak goed in stabiele omstandigheden, maar falen tijdens periodes van hoge volatiliteit en onzekerheid omdat ze niet snel genoeg kunnen reageren op structurele veranderingen zonder hertraining.
• De vraag: Kunnen Large Language Models (LLMs), die bekend staan om hun vermogen tot redeneren in context, worden ingezet als effectieve "in-context learners" om deze dynamiek te vangen zonder parameter-finetuning?

2. Methodologie

Het paper introduceert een regime-bewust in-context learning framework dat gebruikmaakt van een vaste, vooraf getrainde LLM (zonder gradiëntupdates of finetuning). De aanpak bestaat uit vier hoofdfasen:

A. Initieel Voorspellen en Oracle-gestuurde Verfijning

1. Prompting: Numerieke tijdreeksen (log-rendementen en gerealiseerde variantie) worden omgezet in gestructureerde tekstprompts. De LLM geeft een initiële voorspelling (ν̂(0)).
2. Oracle-gestuurde Refinement Loop (alleen tijdens training): Om de kwaliteit van de voorbeelden te verbeteren, wordt een iteratief proces gebruikt waarbij de LLM feedback krijgt van een "oracle" (de ware waarde).
   • De oracle levert: de ware gerealiseerde variantie, de initiële voorspelling, de voorspellingsfout en een heuristische correctie.
   • De LLM gebruikt deze feedback om de voorspelling te verfijnen over meerdere rondes.
   • Belangrijk: Deze oracle-toegang is niet beschikbaar tijdens de testfase (inferentie).

B. Constructie van een Regime-bewuste Demonstratiepool

Na de verfijning worden de trainingsdata omgezet in een pool van demonstraties (D). Elke demonstratie is een tuple bestaande uit:

• De promptgeschiedenis.
• De verfijnde voorspelling.
• Een regime-label (Rt): bepaald door een drempelwaarde (τ) op de gerealiseerde variantie.
  • high: Hoge volatiliteit.
  • low: Lage volatiliteit.
    Dit resulteert in twee gescheiden sub-pools: D_high en D_low.

C. In-Context Learning met Conditionele Sampling

Tijdens de inferentie (voorspelling van de volgende dag) selecteert het systeem demonstraties uit de pool om de LLM te "prompten". Er worden twee strategieën voorgesteld om de context te kiezen op basis van het geschatte huidige marktregime:

1. Proposal I (Vaste Prior): Sampling gebeurt op basis van een vaste verdeling tussen hoge en lage regimes, ongeacht de huidige marktconditie.
2. Proposal II (Geschatte Label): De huidige regime-label (R̂t) wordt geschat op basis van recente historische data (gemiddelde van de laatste m dagen). De demonstraties worden vervolgens conditioneel geselecteerd uit de pool die overeenkomt met dit geschatte regime. Dit stelt de LLM in staat om zich dynamisch aan te passen aan de huidige markttoestand.

D. Voorspelling

De LLM genereert een "one-shot" voorspelling voor de volgende dag op basis van de input-reeks en de geselecteerde, regime-gespecificeerde demonstraties.

3. Belangrijkste Bijdragen

1. Oracle-gestuurde verfijning: Een methode om een hoogwaardige pool van voorbeelden te construeren zonder de LLM-parameters te wijzigen, waarbij gebruik wordt gemaakt van ground-truth feedback tijdens de trainingsfase.
2. Regime-bewuste conditionele sampling: Twee strategieën (met name Proposal II) die demonstraties selecteren op basis van een geschatte marktregime-label, waardoor de LLM kan redeneren binnen het juiste contextuele kader.
3. Empirische validatie: Uitgebreide evaluatie op meerdere datasets (S&P500, NASDAQ, EUR/USD) die aantoont dat deze aanpak superieur is aan klassieke modellen, vooral tijdens turbulente markten.

4. Resultaten

De experimenten werden uitgevoerd op dagelijkse data van de S&P500, NASDAQ en EUR/USD, vergeleken met baselines zoals Rolling Mean, HAR, GARCH(1,1), GJR-GARCH en een "one-shot" LLM-aanpak.

• Algemene prestaties: Het regime-bewuste framework (Proposal II) behaalde de laagste fouten (RMSE en MAE) op alle datasets.
  • Op de S&P500-dataset werd de totale voorspellingsfout met ongeveer 27% verlaagd ten opzichte van de beste klassieke baseline (GJR-GARCH).
• Regime-specifieke prestaties:
  • Hoge Volatiliteit: De grootste winst werd geboekt tijdens periodes van hoge volatiliteit. Proposal II verlaagde de fout (MAE_high) aanzienlijk ten opzichte van klassieke modellen die vaak onderreageren op plotselinge schokken.
  • Lage Volatiliteit: Er is een bekende trade-off: de aanpak levert iets hogere fouten op in rustige periodes vergeleken met modellen zoals HAR die specifiek zijn ontworpen voor lange-termijn geheugen in stabiele markten. Echter, het totale netto-effect is positief.
• Vergelijking met baselines:
  • One-shot learning (zonder demonstraties) presteerde slecht, vooral bij hoge volatiliteit.
  • Random sampling van demonstraties verbeterde de prestaties aanzienlijk, maar regime-bewuste sampling (Proposal II) was nog effectiever.

5. Significantie en Conclusie

Dit paper toont aan dat Large Language Models, wanneer ze worden gebruikt als in-context learners met een slimme selectie van voorbeelden, zeer effectief kunnen zijn in het voorspellen van financiële volatiliteit in niet-stationaire omgevingen.

• Innovatie: Het combineert de flexibiliteit van foundation models met een expliciete mechanisme voor het detecteren en aanpassen aan marktregimes, zonder de noodzaak van kostbare hertraining of finetuning.
• Praktische toepassing: De methode biedt een robuust alternatief voor traditionele econometrische modellen, vooral voor risicomanagement tijdens marktcycli met hoge onzekerheid.
• Toekomstperspectief: De auteurs suggereren dat het verder onderzoeken van retrieval-gebaseerde selectie voor contextextractie een interessante richting is voor toekomstig werk.

Kortom, het paper bewijst dat "regime-awareness" in de context van in-context learning de sleutel is tot het overbruggen van de kloof tussen statische historische patronen en dynamische, turbulente marktomstandigheden.