Portfolio Optimization Proxies under Label Scarcity and Regime Shifts via Bayesian and Deterministic Students under Semi-Supervised Sandwich Training

Dit artikel presenteert een semi-supervised leerframework dat een CVaR-optimizer als leraar gebruikt om neurale modellen te trainen met synthetische data, waardoor robuuste portefeuille-optimalisatie mogelijk wordt in data-schaarse omgevingen en bij regimeverschuivingen.

De kern

Stel je voor dat je een kapitein bent van een schip (je portefeuille) dat door de oceaan van de beurs vaart. Je doel is simpel: zoveel mogelijk goud (winst) verzamelen, maar zonder dat je schip zinkt tijdens een storm (verlies).

Dit artikel beschrijft een slimme nieuwe manier om die kapitein te trainen, vooral wanneer er weinig historische kaarten (data) zijn en het weer onvoorspelbaar is.

Hier is de uitleg in gewone taal, met een paar leuke vergelijkingen:

1. Het Probleem: De oude kaarten zijn onbetrouwbaar

Vroeger gebruikten beleggers wiskundige formules (zoals die van Markowitz) om te beslissen waar ze hun geld in staken. Het probleem? Deze formules gaan ervan uit dat de oceaan altijd rustig is en dat stormen zeldzaam zijn.

• Realiteit: De beurs is vaak chaotisch. Soms zijn er enorme stormen (crises) die de oude formules niet kunnen voorspellen.
• Het dilemma: Er is heel weinig echte data over deze extreme stormen. Het is alsof je een schip wilt bouwen voor de Noordpool, maar je hebt alleen maar foto's van zonnige zomerdagen.

2. De Oplossing: Een Meester en een Leerling

De auteurs bedachten een slim systeem met twee personages:

• De Meester (De CVaR-Optimizer): Dit is een strenge, wiskundige leraar. Hij is niet geïnteresseerd in de hoogste winst, maar alleen in het overleven. Hij berekent precies hoeveel je kunt verliezen in de ergste denkbare stormen en zorgt dat je daar klaar voor bent. Hij is de "docent" die de ideale route tekent.
• De Leerling (De AI): Dit is een kunstmatige intelligentie (een neurale net). De leerling kijkt naar de route die de Meester tekent en probeert die na te doen. Maar de leerling is slimmer: hij leert niet alleen uit de echte kaarten, maar ook uit kunstmatige stormen die de computer zelf heeft gegenereerd.

3. De "Sandwich" Training (Het geheim)

Hoe leer je iemand iets als je maar heel weinig echte voorbeelden hebt? Je maakt er een Sandwich van:

1. Broodje 1 (Supervisie): De leerling kijkt naar de echte, zeldzame voorbeelden van de Meester.
2. Vulling (Ongeleerd): Dan laat je de leerling oefenen op duizenden kunstmatige scenario's (simulaties) die de computer heeft bedacht. Hier leert hij hoe hij zich moet gedragen als de storm echt losbarst, zonder dat hij de Meester blindelings moet kopiëren.
3. Broodje 2 (Supervisie): Tot slot laat je de leerling weer kijken naar de echte Meester om te checken of hij nog steeds op het goede pad zit.

Dit zorgt ervoor dat de leerling de principes van veilig varen begrijpt, in plaats van alleen de route uit zijn hoofd te leren.

4. Twee soorten Leerlingen: De Zekere vs. De Voorzichtige

De auteurs testten twee soorten AI-leerlingen:

• De Zekere Leerling (Deterministisch): Deze denkt: "Ik weet het zeker! Ik ga voluit!" Als hij een fout maakt, kan dat duur zijn. Hij schakelt vaak en koopt/verkoopt veel, wat veel transactiekosten kost.
• De Voorzichtige Leerling (Bayesiaans): Deze denkt: "Ik denk dat dit goed is, maar ik ben niet 100% zeker." Omdat hij zijn eigen twijfel meet, is hij rustiger.
  • Het verrassende resultaat: De Voorzichtige Leerling bleek minder vaak te schakelen (minder kopen en verkopen). Hij wachtte af tot hij zekerder was. Dit bespaarde enorm veel geld aan transactiekosten, zonder dat ze dat expliciet hadden gevraagd. Het was een "bijeffect" van zijn voorzichtigheid.

5. De Grootste Verrassing: De "High-Vol Paradox"

Dit is het meest fascinerende deel. De auteurs testten hun leerling op een heel nieuwe set schepen (andere aandelen dan waar hij op getraind was).

• Verwachting: Je zou denken dat de leerling faalt op nieuwe schepen.
• Realiteit: In tijden van grote stormen (hoge volatiliteit) presteerde de leerling op de nieuwe schepen beter dan op de oude!
• De Analogie: Stel je voor dat je traint op het varen in een klein bootje op een rivier. Als je dan in een groot schip op de oceaan terechtkomt tijdens een orkaan, blijkt dat je vaardigheden om de wind te voelen juist beter werken dan op de rustige rivier. De AI had geleerd hoe je "veilig" moet varen, en die vaardigheid werkt zelfs beter als je meer opties hebt om je te verdedigen.

Samenvatting in één zin

Deze paper laat zien dat je een slimme, voorzichtige AI kunt trainen om beleggingsbeslissingen te nemen door hem te laten oefenen op kunstmatige stormen, waardoor hij niet alleen winst maakt, maar vooral minder geld verliest en minder onnodig schakelt dan traditionele methoden, zelfs als de markt volledig verandert.

Het is alsof je een kapitein traint die niet alleen de wind in zijn zeilen voelt, maar ook weet wanneer hij de zeilen moet strijken om niet om te slaan.

Technische samenvatting

Probleemstelling

Traditionele portefeuilleoptimalisatie (zoals de Markowitz mean-variance benadering en Conditional Value at Risk - CVaR) kampt met ernstige praktische beperkingen in levende markten:

1. Data-schaarste en overfitting: Financiële datasets zijn vaak klein (in dit paper slechts 104 gelabelde observaties) ten opzichte van het aantal kenmerken (576 dimensies), wat leidt tot overfitting bij complexe modellen.
2. Verdelingsmismatch: Klassieke modellen gaan uit van normale verdelingen en lineaire correlaties, terwijl markten "fat tails" (dikke staarten) en niet-lineaire samenhangen vertonen, vooral tijdens stressperiodes.
3. Regime-shifts: Optimizers lossen het probleem onafhankelijk voor elke rebalanceringsdatum op en missen het vermogen om te generaliseren over verschillende marktfases of structurele verschuivingen.
4. Transactiekosten: Het analytisch coderen van realistische beperkingen (zoals turnover caps en transactiekosten) is moeilijk zonder de convexiteit van het probleem te verliezen.

Het doel van dit paper is een machine learning-gestuurde framework te ontwikkelen die robuust is in data-arme omgevingen, onzekerheid kwantificeert en zich aanpast aan regime-shifts, zonder expliciete straffen voor transactiekosten te hoeven gebruiken.

Methodologie

De auteurs introduceren een semi-supervised "Sandwich Training" pipeline, aangepast van de optimalisatie-proxy-paradigma naar financiële optimalisatie. Het systeem bestaat uit een Teacher-Student architectuur:

1. De Teacher (CVaR Optimizer):

   • Een klassieke CVaR-minimalisatie optimizer fungeert als "leraar".
   • Deze genereert supervisory labels (optimale portefeuillegewichten) voor gelabelde data.
   • De student leert de structuur van het risicobewuste gedrag van de teacher na te bootsen, in plaats van exacte oplossingen te memoriseren.

2. Data Augmentatie:

   • Om het gebrek aan data (104 labels) op te vullen, wordt synthetische data gegenereerd met een factor-based model met t-copula residuen.
   • Dit behoudt de kruis-asset staartafhankelijkheid (tail dependence) en creëert ongeveer 323 extra gelabelde paren, wat de training mogelijk maakt in een "small-n, high-p" setting.

3. De Student Modellen:

   • Er worden vier studenten getraind: Deterministische (DNN) en Bayesiaanse (BNN) netwerken, elk met en zonder sandwich training.
   • Bayesiaanse Neurale Netwerken (BNN): Gebruiken variational inference om een posterior-verdeling over de parameters te leren in plaats van een enkel punt. Dit biedt ingebouwde onzekerheidsschattingen.
   • Sandwich Training: Een drie-fasen schema:
     • S0 (Supervised Warm-up): Training op gelabelde data om de teacher te imiteren.
     • S1 (Alternating Cycles): Afwisseling tussen supervised imitatie en unsupervised training op synthetische data (waarbij CVaR en diversificatie als structuurverlies worden gebruikt).
     • S2 (Supervised Anchoring): Een laatste fase om de policy weer te verankeren bij de risicopreferenties van de teacher.

4. Implementatie en Evaluatie:

   • C2A (In-distribution): Evaluatie op dezelfde 36-asset universe (2022-2026) met periodieke fine-tuning en reset naar de gefrozen checkpoint.
   • D2A (Cross-universe Generalization): Evaluatie op een volledig andere set van 36 assets (bijv. sectore ETF's) om generalisatievermogen te testen.
   • Beperkingen: Toepassing van harde constraints (positielimieten, turnover caps) tijdens de uitvoering, maar niet noodzakelijk in de trainingsdoelstelling.

Belangrijkste Bijdragen

1. Teacher-Student Framework voor Finance: Eerste toepassing van semi-supervised sandwich training in portefeuilleoptimalisatie, waarbij een CVaR-optimizer labels genereert voor neurale netwerken.
2. Bayesiaanse Onzekerheid in Data-Arme Settings: Combinatie van synthetische data-augmentatie met BNN's om kalibratie van onzekerheid te bieden, waardoor het model niet over-committeert bij beperkte data of regime-shifts.
3. Implicit Turnover Regularisatie: Een opvallende emergente eigenschap waarbij Bayesiaanse modellen (zonder expliciete turnover-straf in de loss-functie) hun eigen handelsfrequentie reguleren tot ongeveer 11-14% per week. Dit is ongeveer de helft van deterministische modellen, wat transactiekosten aanzienlijk verlaagt.
4. Hiërarchische Generalisatie ("HIGHVOL Paradox"): Het paper toont aan dat modellen getraind op geaggregeerde indices, bij toepassing op een gefactorde universe (D2A), tijdens hoge volatiliteit (HIGHVOL) prestaties kunnen verbeteren (+140% tot +276% Sharpe-ratio verbetering) door defensieve factor-rotatie.

Resultaten

• Pareto-efficiëntie: Het BNN-S model (Bayesiaans met sandwich training) bereikt een Pareto-optimale positie: hoge Sharpe-ratio's met aanzienlijk lagere tail-risk (CVaR) vergeleken met Mean-Variance en de Teacher.
• Kostenreductie: Door de impliciete regularisatie van de Bayesiaanse posterior, dalen de transactiekosten met ongeveer 50% ten opzichte van deterministische modellen (DNN-S), zonder dat de prestaties lijden.
• Robuustheid onder Regime-shifts:
  • In bull-markten presteert het deterministische model (DNN-S) het beste.
  • In stress-situaties (hoge volatiliteit, crashes) presteert het Bayesiaanse model (BNN-S) aanzienlijk beter en is het robuuster dan klassieke benchmarks zoals Risk-Parity.
• D2A Generalisatie: Het model toont een counter-intuïtief resultaat: prestaties verbeteren in de out-of-universe test (D2A) tijdens hoge volatiliteit. Dit suggereert dat het model risicoreducerende heuristieken heeft geleerd die effectiever worden wanneer er meer specifieke defensieve instrumenten (zoals sector ETF's) beschikbaar zijn.
• Stabiliteit: Bayesiaanse modellen vertonen een lagere variantie in prestaties over verschillende seeds en marktfases dan deterministische modellen.

Significantie en Conclusie

Dit paper biedt een praktische route naar onzekerheidsbewuste portefeuillebeleid dat rekening houdt met transactiekosten en marktdynamiek. De belangrijkste inzichten zijn:

1. Generalisatie boven Memoratie: Het leren van de structuur van een optimale optimizer (via distillatie) is waardevoller dan het exact nabootsen van specifieke oplossingen.
2. Complementaire Regularisatie: Bayesiaanse onzekerheid werkt als een interne regularisator voor in-distribution overconfidence, terwijl harde constraints essentieel zijn voor out-of-distribution stabiliteit.
3. Toepasbaarheid: Het framework is geschikt voor retail-toepassingen met beperkt kapitaal en realistische handelsfricties, en biedt een oplossing voor het probleem van schaarse gelabelde data in de financiële sector.

De auteurs concluderen dat hybride optimalisatie-leerbenaderingen, met name met Bayesiaanse netwerken en sandwich training, een krachtig hulpmiddel zijn om portefeuilleconstructie te verbeteren in data-beperkte en onzekere marktomstandigheden.