💰 quantitative finance

Calibration Bets on the Past: Post-Training Quantization for Financial Time-Series Forecasting

Dit artikel toont aan dat hoewel activatiekalibratie een minimale impact heeft op 8-bit post-training kwantisatie voor financiële voorspellingen, het de kritieke factor is die de voorspellende prestaties bij 4-bit precisie bepaalt, waarbij percentielgebaseerde kalibratie standaard absolute-maximummethoden aanzienlijk overtreft om informatieverlies te mitigeren.

Oorspronkelijke auteurs: Junyi Ye, Ivy Gateri Wanjiku

Gepubliceerd 2026-08-13

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Junyi Ye, Ivy Gateri Wanjiku

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren om het weer te voorspellen. Je geeft het een superintelligent brein (een neuraal netwerk) dat jaren aan regen, wind en zonneschijn heeft bestudeerd. Dit brein is ongelooflijk krachtig, maar het is ook groot en zwaar, zoals een gigantische mainframecomputer uit de jaren 80. Om het bruikbaar te maken voor een echte taak — zoals het draaien op een kleine drone of een smartphone — moet je het verkleinen. Je kunt niet zomaar de kennis weggooien, dus probeer je in plaats daarvan de manier waarop het getallen opslaat te vereenvoudigen. Dit proces wordt kwantisatie genoemd. Denk aan het converteren van een high-definition film naar een gecomprimeerd bestand: je verliest een klein beetje detail om enorme hoeveelheden ruimte te besparen en het sneller te laten draaien.

Er is echter een lastig deel: terwijl de "kennis" van de robot (de gewichten) vaststaat zodra deze is getraind, veranderen de "gedachten" (de activaties) elke keer dat de robot naar nieuwe gegevens kijkt. Om deze gedachten te verkleinen, moet je een "veilige zone" of een bereik bepalen waarbinnen de robot getallen mag gebruiken. Als je de veilige zone te breed instelt, verspil je ruimte aan getallen die nooit voorkomen. Als je hem te nauw instelt, snijd je de extreme getallen weg die er juist wel zijn, zoals een plotselinge storm. Deze beslissing wordt kalibratie genoemd. Meestal kiezen wetenschappers gewoon een bereik op basis van de gegevens die ze op dat moment hebben en hopen ze dat dit werkt voor de toekomst. Maar in de wereld van de financiën, waar markten in een oogwenk van kalm naar chaotisch kunnen gaan, kan het gokken op het verkeerde bereik het verschil betekenen tussen een winstgevende transactie en een ramp.

Dit artikel, getiteld "Calibration Bets on the Past", duikt diep in dit exacte probleem voor financiële voorspellingen. De auteurs, Junyi Ye en Ivy Gateri Wanjiku, stelden een eenvoudige maar cruciale vraag: Wanneer we financiële AI-modellen verkleinen om op goedkope hardware te draaien, doet de manier waarop we die "veilige zone" voor de gedachten van de robot instellen er dan echt toe? Ze gokten niet zomaar; ze voerden een enorm experiment uit. Ze namen zeven verschillende soorten AI-modellen, trainden ze op beursgegevens van de S&P 500, en testten ze vervolgens over acht verschillende jaren (van 2018 tot 2025). Ze simuleerden het verkleinen van deze modellen naar een zeer lage precisie (4 bits, wat gelijk staat aan het hebben van slechts 15 mogelijke getallen in plaats van miljoenen) en observeerden wat er gebeurde.

Dit is wat ze vonden, en het is een beetje een plotwending. Ten eerste ontdekten ze dat als je alleen het "geheugen" van de robot (de gewichten) verkleint maar de "gedachten" (de activaties) in high-definition houdt, of als je beide verkleint maar ze op 8 bits houdt, de robot er nauwelijks iets van merkt. Het voorspelt de markt bijna net zo goed als de gigantische versie. Maar, als je de gedachten terugbrengt naar 4 bits met de standaardmethode (die er simpelweg naar kijkt wat het grootste getal is dat tot nu toe is gezien en daar de limiet legt), stort de prestatie van de robot in. In sommige gevallen verloor het zelfs tot 62% van zijn voorspellende kracht! Het was alsof de robot plotseling vergeten was hoe hij een weerkaart moest lezen.

Echter, het verhaal eindigt niet met falen. De auteurs ontdekten dat de crash niet onvermijdelijk was; het was slechts een slechte keuze van de "veilige zone". Door de kalibratiemethode te veranderen om naar een specifiek percentiel te kijken (zoals zeggen: "We maken ons alleen zorgen over de bovenste 99% van de getallen, niet over de absoluut meest extreme uitschieter"), konden ze het grootste deel van de verloren kracht herstellen. Voor sommige modellen bracht deze eenvoudige aanpassing 94% van de prestaties terug. Maar hier is de crux: de "perfecte" veilige zone verandert afhankelijk van de markt. Een bereik dat geweldig werkt tijdens een kalm jaar, kan rampzalig uitpakken tijdens een beurscrash, en vice versa.

Het artikel concludeert dat het instellen van dit bereik niet zomaar een saai technisch detail is dat je eenmalig instelt en vergeet. Het is een belangrijke strategische beslissing, zoals wedden op het weer. Als je deze financiële AI-modellen op apparaten met een laag vermogen wilt draaien, kun je niet zomaar de standaardinstellingen gebruiken. Je moet de "veilige zone" zorgvuldig afstemmen op de marktomstandigheden, of bereid zijn over te schakelen naar een iets grotere (8-bit) instelling als de markt te wild wordt. De auteurs laten zien dat we met de juiste kalibratie deze krachtige financiële AI-modellen klein en snel kunnen maken zonder hun vermogen om de toekomst te voorspellen te verliezen.

Technische Samenvatting: Kalibratie-weddenschappen op het Verleden

Probleemstelling

Financiële voorspellingsmodellen worden doorgaans getraind in volledige precisie (FP32), maar vereisen vaak lage-precisie inferentie voor productie-implementatie om te voldoen aan geheugen-, latentie- en hardwarebeperkingen. Hoewel Post-Training Quantization (PTQ) de mogelijkheid biedt om deze modellen te implementeren zonder hertraining, blijft de betrouwbaarheid van activatie-kwantisatie een kritieke flessenhals. In tegenstelling tot gewichten, die vaste bereiken hebben bepaald door getrainde parameters, moeten activatiebereiken worden geschat vanuit een historische kalibratiedataset en blijven ze vervolgens vaststaan tijdens toekomstige inferentie.

Dit creëert een fundamentele uitdaging voor implementatie: kalibratie leunt op historische marktdata, terwijl implementatie plaatsvindt onder toekomstige marktomstandigheden die aanzienlijk kunnen verschillen. Een breed activatiebereik behoudt zeldzame extremen maar vermindert de numerieke resolutie voor typische waarden, terwijl een smal bereik de resolutie verbetert maar de clipping (afkapping) vergroot. In financiële voorspellingen, waar marktregimes verschuiven, is de keuze voor een statisch activatiebereik een beslissing met hoge inzet die slecht begrepen wordt in de context van PTQ. Bestaand onderzoek heeft zich gericht op visie- en taalmodellen, waardoor er een gat is ontstaan in het begrip van hoe activatiekalibratie de voorspellende prestaties in financiële tijdreeksvoorspellingen beïnvloedt.

Methodologie

De auteurs presenteren een systematische studie naar activatiekalibratie voor PTQ in de voorspelling van cross-sectionele volatiliteit op de S&P 500.

Dataset en Taak: De studie maakt gebruik van een dagelijkse panel van 501 S&P 500-componenten van juni 2008 tot december 2025. De taak is het voorspellen van de vijfdaagse voorwaartse volatiliteit. De prestatie-indicator is de Information Coefficient (IC), gedefinieerd als de cross-sectionele Spearman-correlatie tussen voorspelde en gerealiseerde volatiliteitsscores.
Experimenteel Protocol: Er wordt een walk-forward evaluatieprotocol gehanteerd over acht testjaren (2018–2025). Voor elk testjaar $Y$ worden modellen getraind op $Y-8$ tot $Y-2$ , gevalideerd op $Y-1$ , en getest op $Y$ . Deze opzet zorgt ervoor dat de kalibratiedata (van $Y-1$ ) voorafgaat aan de testperiode ( $Y$ ).
Modellen: Zeven representatieve neurale architecturen worden geëvalueerd: DLinear, TSMixer, TimeMixer, vanilla Transformer, PatchTST, iTransformer en SegRNN. In totaal worden 560 onafhankelijk getrainde modellen (7 architecturen $\times$ 8 folds $\times$ 10 seeds) geanalyseerd.
Kwantisatie-instellingen: De studie vergelijkt verschillende precisiebehandelingen:
- FP32: Full-precision baseline.
- W8A8 / W4A4: Statische kwantisatie van gewichten en activaties (INT8/INT4) met een vast kalibratiebereik.
- W4: Alleen-gewichten kwantisatie (INT4 gewichten, FP32 activaties).
- Dynamische INT8: Activatiebereiken worden tijdens inferentie opnieuw berekend (gebruikt als referentie).
Kalibratiestrategieën: Twee primaire strategieën voor het instellen van het activatiebereik $A$ $A$ worden vergeleken:
- Abs-Max: $A = \max(|x|)$ over de kalibratieset.
- Percentiel: $A = P_p(|x|)$ , waarbij het $p$ -de percentiel van de activatiemagnitudes wordt gekozen (bijv. p99, p99.9).
Schade-metriek: Kwantisatieschade ( $\Delta$ ) wordt gedefinieerd als het verschil tussen de full-precision IC en de gekwantiseerde IC.

Belangrijkste Bijdragen

Eerste Systematische Studie: Dit is de eerste systematische onderzoek naar activatiekalibratie voor PTQ in financiële voorspelling onder een walk-forward evaluatieprotocol.
Decompositie van Degradatie: De auteurs onthullen dat 4-bit activatiedegradatie uit twee componenten bestaat:
- Bereik-herstelbare Loss: Schade veroorzaakt door suboptimale bereikselectie, die aanzienlijk kan worden gemitigeerd door over te stappen van abs-max naar percentielkalibratie.
- Residuele Loss: Architectuur-afhankelijke schade die blijft bestaan, zelfs met optimale bereikselectie, met name in recurrente (SegRNN) en multi-schaal (TimeMixer) modellen.
Marktregieme-gevoeligheid: De studie toont aan dat het voorkeursbereik voor activatie niet statisch is; het evolueert over verschillende marktperioden. Smalle bereiken (percentielen) presteren goed onder typische omstandigheden, maar lijden aanzienlijk wanneer de marktdispersie in de testperiode de historische kalibratie overstijgt (bijv. tijdens stressgebeurtenissen zoals de COVID-schok van 2020).
Praktische Implementatierichtlijnen: Het artikel biedt een beslissingskader voor het selecteren van kwantisatiestrategieën op basis van geobserveerde schadepatronen, variërend van eenvoudige percentiel-tuning tot fallback-strategieën zoals 8-bit activaties of alleen-gewichten kwantisatie.

Belangrijkste Resultaten

8-bit en Alleen-Gewichten Kwantisatie: Zowel 8-bit activatiekwantisatie (W8A8) als 4-bit alleen-gewichten kwantisatie (W4) introduceren verwaarloosbare voorspellende schade (doorgaans <0,2% van het FP32-signaal) bij de meeste architecturen.
Risico's van Statische 4-bit Activatie (W4A4): Onder de standaard abs-max kalibratie veroorzaakt statische 4-bit activatiekwantisatie substantiële prestatiedegradatie, variërend van 11% tot 62% van de full-precision IC, afhankelijk van de architectuur.
- Meest getroffen: TimeMixer (62% verlies) en SegRNN (59% verlies).
- Minst getroffen: DLinear (minimaal verlies, hoewel de baseline IC nabij nul ligt).
Herstel via Percentielkalibratie: Het vervangen van abs-max door percentielkalibratie (bijv. p99 of p99.9) herstelt een aanzienlijk deel van het verloren gegane rendement:
- Transformer: Herstelt 94% van de schade.
- TSMixer: Herstelt 80%.
- SegRNN: Herstelt 73%.
- TimeMixer: Herstelt 53%.
- Ondanks dit herstel behouden recurrente en multi-schaal modellen een aanzienlijke residuele gevoeligheid, wat suggereert dat bereikselectie alleen de kwantisatieproblemen van deze modellen niet volledig kan oplossen.
Laag-specifieke Gevoeligheid: Voor de Transformer-architectuur is één enkele laag (convolutional token embedding) verantwoordelijk voor 72% van de totale W4A4-schade. Het behouden van deze specifieke laag op 8-bit precisie terwijl de rest naar 4-bit wordt gekwantiseerd, elimineert de degradatie effectief.
Regime-mismatch: Wanneer de testmarkt volatieler is dan de kalibratieperiode (bijv. 2020), knijpen smalle percentielbereiken kritieke staart-activaties af, wat schade veroorzaakt die 1,5 tot 3,6 keer hoger is dan binnen de kalibratie-envelope. Omgekeerd, in rustigere perioden (bijv. 2021), wordt abs-max kalibratie suboptimaal omdat het resolutie opoffert voor extremen die niet voorkomen.

Betekenis en Claims

Het artikel betoogt dat activatiekalibratie niet louter een numeriek implementatiedetail is, maar een primaire implementiebeslissing voor betrouwbare 4-bit PTQ in financiële voorspelling.

Strategische Implicatie: De keuze van het activatiebereik bepaalt direct of een lage-precisie model zijn voorspellende nut behoudt. Standaardstrategieën (abs-max) zijn vaak onvoldoende voor financiële tijdreeksen vanwege de niet-stationaire aard van marktdata.
Robuustheid: Hoewel 8-bit kwantisatie en 4-bit alleen-gewichten kwantisatie robuuste implementatiepaden bieden met minimaal signaalverlies, vereist 4-bit activatiekwantisatie zorgvuldige kalibratie.
Actiegerichte Richtlijnen: De auteurs stellen een implementatieprocedure voor:
1. Meet de standaard W4A4 schade.
2. Als de schade groot is, voer een sweep uit van percentielbereiken op pre-deployment data om herstelbaar versus residueel verlies te schatten.
3. Als de residuele loss hoog is, val terug op 8-bit activaties, alleen-gewichten 4-bit, of laag-specifieke mixed precision.
4. Monitor de "kalibratie-envelope" (de maximale dispersie waargenomen tijdens kalibratie) tijdens implementatie; als de testcondities deze envelope overschrijden, activeer dan herkalibratie of schakel over naar een conservatiever bereik (bijv. p99.9) of een hogere precisie.

De studie concludeert dat hoewel PTQ levensvatbaar is voor financiële voorspelling, het succes ervan afhangt van het behandelen van activatiekalibratie als een dynamische beleidsbeslissing in plaats van een vaste preprocessing-stap.