Technische Samenvatting: Voorspelling van de Opbrengstcurve met Machine Learning en Econometrie

Probleemstelling

Het artikel behandelt het aanhoudende debat over de effectiviteit van machine learning (ML) en deep learning (DL) methoden in vergelijking met traditionele econometrische en tijdreeksbenaderingen voor het voorspellen van financiële tijdreeksen. De auteurs richten zich specifiek op de Amerikaanse Treasury-opbrengstcurve, een kritieke indicator voor obligatiemarkten (die groter zijn dan aandelenmarkten) en een voorspeller van economische recessies. Hoewel ML velden zoals NLP en computer vision heeft gerevolutioneerd, blijft de dominantie ervan in tijdreeksvoorspelling betwist. Eerdere literatuur, zoals de M4-competitie, heeft aangetoond dat pure ML-modellen vaak onderpresteren ten opzichte van statistische hybriden of naïeve methoden. Bovendien ontbreekt er uitgebreide literatuur die deze methoden vergelijkt op dagelijkse opbrengstcurvedata, met name wat betreft de behandeling van niet-stationaire invoer en de prestaties van moderne foundation-modellen en transformers.

Methodologie

De studie maakt gebruik van dagelijkse Amerikaanse Treasury-opbrengsten met constante looptijden voor zes looptijden (1, 2, 5, 7, 10 en 30 jaar) uit de FRED-database, over een periode van 47 jaar (1977–2024). Deze dataset omvat zes verschillende recessieperiodes.

Experimentele Opzet:

• Voorspellingshorizons: De modellen worden geëvalueerd op voorspellingshorizons van 15, 20 en 60 werkdagen.
• Validatiestrategieën: Er worden twee cross-validatie (CV)-opstellingen toegepast om datalekken te voorkomen:
  1. Schuivend Venster: Een vast venster van 1.044 werkdagen (ongeveer 4 jaar) schuift 5 dagen vooruit.
  2. Uitdijend Venster: Het initiële venster is 1.044 dagen en breidt zich met 5 dagen uit voor elke volgende iteratie.
• Hyperparameter-tijdblokken: Om rekening te houden met structurele economische verschuivingen, wordt de data verdeeld in aaneengesloten tijdblokken (bijv. Blok 0: 1977–1986), waarbij hyperparameters één keer per blok worden geselecteerd en op alle vensters binnen dat blok worden toegepast.
• Stationariteit: De studie test expliciet zowel stationaire (gedifferentieerde) als niet-stationaire (ruwe) invoergegevens om te bepalen welke geschikter is voor DL-algoritmen.
• Metingen: Prestaties worden gemeten met behulp van de Root Mean Squared Error (RMSE) en de Mean Absolute Percentage Error (MAPE).

Geëvalueerde Modellen:

• Naïeve Referenties: Gemiddelde Voorspelling, Naïeve Voorspelling (Random Walk) en Naïeve Seizoensvoorspelling.
• Traditionele Econometrie: ARIMA (met automatische selectie), DHR-ARIMA (ARIMA met Fourier-termen), VAR, VECM en diff+VAR.
• Klassieke Machine Learning: Random Forests, XGBoost en LightGBM (LGBM).
• Deep Learning:
  • Recurrente Neuronale Netwerken (RNN's)
  • Transformers: Vanilla Transformer, Informer, PatchTST, Temporal Fusion Transformer (TFT).
  • Foundation-modellen: TimeGPT (voorgetraind, zero-shot), NBEATS, NHITS, DeepAR.

Belangrijkste Bijdragen

Het artikel onderscheidt zich door vier primaire bijdragen:

1. Uitgebreide Vergelijking: Het evalueert een breed spectrum aan modellen, waaronder recente foundation-modellen (TimeGPT) en diverse transformer-architecturen, tegenover traditionele econometrische methoden op opbrengstcurvedata.
2. Datafrequentie: In tegenstelling tot veel bestaande literatuur die zich baseert op maanddata, maakt deze studie gebruik van hoogfrequente dagelijkse data.
3. Stationariteitsanalyse: Het onderzoekt systematisch of deep learning-modellen beter presteren met stationaire of niet-stationaire invoer, een onderwerp waarover eerder onderzoek beperkt is.
4. Temporele Robuustheid: De studie analyseert prestaties over meerdere voorspellingshorizons en verschillende economische tijdblokken om de stabiliteit van modellen in de tijd te beoordelen.

Resultaten

De empirische analyse levert de volgende bevindingen op:

• Dominantie van Traditionele Methoden: Over het algemeen presteren de Naïeve Voorspelling en ARIMA-modellen (zowel schuivende als uitdijende vensterconfiguraties) beter dan alle andere methoden over de volledige 47-jarige steekproef. De verschillen in MAPE tussen de beste ARIMA-varianten en de Naïeve Voorspelling zijn verwaarloosbaar (vaak <0,01%).
• Prestaties van Machine Learning:
  • Onder de klassieke ML-methoden presteert LGBM met een uitdijende vensterconfiguratie het beste, hoewel het nog steeds niet in staat is om ARIMA of de naïeve referentie te overtreffen.
  • Onder de deep learning-methoden behaalt TimeGPT (een foundation-model) de beste prestaties, gevolgd door RNN's met stationaire schuivende invoer.
• Stationariteit versus Niet-stationariteit: Er is geen universeel patroon; het optimale invoertype hangt af van het specifieke model. Bijvoorbeeld, RNN's presteerden beter met stationaire schuivende invoer, terwijl PatchTST en TFT beter presteerden met niet-stationaire uitdijende invoer.
• Temporele Variabiliteit: Hoewel traditionele methoden de aggregate gemiddelde domineren, presteerden specifieke deep learning-modellen (bijv. PatchTST en TFT met uitdijende niet-stationaire data) in het meest recente tijdblok (Blok 8, 2017–2023) beter dan de referenties, hoewel de marges klein waren (bijv. 0,03%–0,05%).
• Voorspellingshorizons: De superioriteit van de Naïeve en ARIMA-methoden bleef consistent over 20- en 60-daagse voorspellingshorizons.

Betekenis en Beweringen

Het artikel concludeert dat voor het voorspellen van de Amerikaanse Treasury-opbrengstcurve traditionele econometrische methoden (specifiek ARIMA) en naïeve referenties de meest effectieve benaderingen blijven.

De auteurs beweren dat deep learning-modellen, inclusief geavanceerde transformers en foundation-modellen, over het algemeen niet in staat zijn om deze eenvoudigere methoden te overtreffen op deze specifieke taak. Zij suggereren dat het dagelijkse opbrengstcurve-proces dicht bij een martingaal ligt (dag-tot-dag stabiel blijven met occasionele scherpe sprongen), een kenmerk dat goed wordt vastgelegd door naïeve en lineaire modellen. De onderprestatie van deep learning wordt toegeschreven aan potentieel overfitting en de moeilijkheid om te leren van beperkte, ruisachtige financiële data in vergelijking met de enorme corpora die worden gebruikt voor foundation-modellen in andere domeinen.

De studie benadrukt dat, hoewel deep learning veelbelovend is in specifieke tijdblokken of met specifieke configuraties, de eenvoud, robuustheid en kosteneffectiviteit van traditionele econometrische methoden ze de voorkeurskeuze maken voor deze toepassing. Het artikel beweert niet dat ML nutteloos is voor de financiën, maar eerder dat het voor het voorspellen van de opbrengstcurve nog geen consistent voordeel heeft aangetoond ten opzichte van gevestigde statistische baselines.