📊 statistics

Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes

Dit artikel introduceert Online Bayesian Stacking (OBS), een nieuwe ensemblemethode die inzichten uit online optimalisatie en portfolio-selectie benut om Bayesiaanse modellen adaptief te combineren, waarmee een theoretisch gefundeerd alternatief wordt geboden voor online Bayesian model averaging dat de beperkingen ervan aanpakt en duidelijke richtlijnen biedt voor praktische toepassing.

Oorspronkelijke auteurs: Daniel Waxman, Fernando Llorente, Petar M. Djurić

Gepubliceerd 2026-01-26

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Daniel Waxman, Fernando Llorente, Petar M. Djurić

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je het weer probeert te voorspellen. Je hebt een team van vijf verschillende meteorologen.

Meteoroloog A kijkt alleen naar de barometer.
Meteoroloog B kijkt alleen naar de windsnelheid.
Meteoroloog C kijkt alleen naar de luchtvochtigheid.
Meteoroloog D gebruikt een supercomputermodel.
Meteoroloog E vertrouwt op oude volkswijsheid.

Jouw doel is om hun meningen te combineren voor de beste voorspelling voor morgen. Dit is het probleem van Bayesiaans Ensemble-vorming (Bayesian Ensembling).

Dit artikel, getiteld "Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes," pakt een specifieke uitdaging aan: hoe combineer je deze experts terwijl de dagen verstrijken, door in realtime te leren van nieuwe gegevens, zonder een enorme fout te maken?

Hier is de uitsplitsing van hun bevindingen met behulp van eenvoudige analogieën.

1. De Oude Manier: "Het Lievelingskind" (Bayesian Model Averaging)

Lama tijd was de standaardmethode genaamd Bayesian Model Averaging (BMA).

Hoe het werkt: Je begint door elke meteoroloog een gelijke kans te geven. Naarmate de dagen verstrijken, controleer je wie er gelijk had. Als Meteoroloog A gisteren gelijk had, geef je hem vandaag een iets groter stuk van de "voorspellingstaart". Als hij ongelijk had, verklein je zijn stuk.
Het Probleem: Het artikel stelt dat deze methode te rigide is. Als Meteoroloog A een paar dagen achter elkaar geluk heeft, kan het algoritme besluiten: "A is de enige die ertoe doet!" en geeft hem 100% van de taart, waarbij de rest wordt genegeerd.
Het Resultaat: Dit wordt "collapsing" (instorten) genoemd. Het systeem zet alles in op één expert. Als die expert later ongelijk blijkt te hebben (of als het weer verandert op een manier die zij niet kunnen voorspellen), faalt het hele systeem omdat het de andere vier experts is vergeten. Het artikel noemt dit een "pathologie" van de oude methode.

2. De Nieuwe Manier: "De Slimme Portefeuillebeheerder" (Online Bayesian Stacking)

De auteurs stellen een nieuwe methode voor genaamd Online Bayesian Stacking (OBS).

De Analogie: In plaats van alleen maar een favoriete meteoroloog te kiezen, stel je voor dat je een portefeuillebeheerder op de aandelenmarkt bent.
- Elke meteoroloog is een verschillende actie.
- Hun voorspellingsnauwkeurigheid is als de aandelenkoers.
- Jouw doel is niet om de enkele "beste" actie te vinden; het is om een gediversifieerde portefeuille op te bouwen die in de loop van de tijd het meeste vermogen genereert.
Hoe het werkt: OBS gebruikt wiskunde uit Online Convex Optimization (een vakgebied dat meestal wordt gebruikt voor het verhandelen van aandelen) om je portefeuille constant te herbalanceren.
- Als Meteoroloog A goed presteert, koop je een beetje meer van zijn "aandeel".
- Als hij slecht presteert, verkoop je een beetje.
- Cruciaal is dat je nooit alles op één persoon wedt. Je houdt een mix aan, wat ervoor zorgt dat als het weer verandert en een andere expert de ster wordt, je nog steeds een deel van hen in je portefeuille hebt.

3. Het "Aha!" Moment: Het Verbinden van Twee Werelden

De grootste inzicht van het artikel is het besef dat het combineren van voorspellingsmodellen exact hetzelfde wiskundige probleem is als het beheren van een aandelenportefeuille.

In de financiële wereld wil je je vermogen maximaliseren.
In voorspellingen wil je je "log-score" maximaliseren (een chique manier om te zeggen: "hoe zelfverzekerd en correct je voorspellingen zijn").
Omdat deze problemen wiskundig identiek zijn, kunnen de auteurs krachtige, bewezen algoritmen uit de wereld van de aandelenhandel lenen (zoals de Exponentiated Gradient en Online Newton Step) en deze gebruiken om AI-modellen te combineren. Dit geeft hen een "superkracht" van wiskundige garanties die de oude methode niet had.

4. Waarom Dit Er Toe Doet (De Experimenten)

De auteurs hebben deze nieuwe "Portefeuillebeheerder"-aanpak getest tegen de oude "Lievelingskind"-aanpak in verschillende scenario's:

Toy Problems: Eenvoudige wiskundige puzzels waarbij de waarheid verborgen is.
Neurale Netwerken: Het combineren van verschillende AI-breenstructuren.
Aandelenmarktgegevens: Het voorspellen van de S&P 500 met complexe financiële modellen.
Robotica: Het voorspellen van de beweging van een robotarm wanneer de omgeving verandert.

De Resultaten:
In bijna elke test versloeg de nieuwe OBS (Portefeuille) methode de oude O-BMA (Lievelingskind) methode.

In stabiele omgevingen: Presteerde OBS net zo goed als de best mogelijke statische mix.
In veranderende omgevingen: Wanneer de "weersomstandigheden" veranderden (niet-stationaire data), stortte de oude methode vaak in op de verkeerde expert en kwam niet meer in herstel. De nieuwe OBS-methode paste zich snel aan door de portefeuille te verschuiven naar de experts die op dat moment goed presteerden.

5. De "Empirical Bayes" Uitleg

Het artikel gebruikt ook een concept genaamd Empirical Bayes om uit te leggen waarom de oude methode faalt.

Denk aan de oude methode (BMA) als het proberen te vinden van de één ware God van de data. Het gaat ervan uit dat één van de modellen perfect is en probeert deze te vinden.
De nieuwe methode (OBS) gaat ervan uit dat geen enkel model perfect is. In plaats daarvan behandelt het de "gewichten" (hoeveel we elk model vertrouwen) als het ding dat geleerd moet worden. Het is alsoं zeggen: "We weten niet wie de beste is, dus laten we gewoon de beste combinatie van hen allemaal vinden."

Samenvatting

Het artikel zegt: Stop met het proberen te kiezen van het enkele beste AI-model. Behandel je collectie modellen in plaats daarvan als een gediversifieerde beleggingsportefeuille. Gebruik de wiskunde van de aandelenhandel om je vertrouwen in elk model constant te herbalanceren. Dit voorkomt dat het systeem "instort" op één enkel fout antwoord en stelt het in staat om soepel aan te passen wanneer de wereld verandert.

Wie zou dit moeten gebruiken?
De auteurs suggereren dat als je werkt in een real-world scenario waar de data kan veranderen (wat bijna altijd het geval is in machine learning), je de voorkeur moet geven aan deze nieuwe methode van Online Bayesian Stacking boven de traditionele Bayesian Model Averaging.

Technische Samenvatting: Bayesiaanse Ensembling via Online Optimalisatie en Empirische Bayes

Probleemstelling

Het artikel behandelt de uitdaging van het combineren van meerdere Bayesiaanse modellen voor predictieve inferentie in een online leersetting. Hoewel het combineren van modellen (ensembles) een goed gevestigde praktijk is in de statistiek en machine learning, kampen bestaande methoden met specifieke beperkingen wanneer data sequentieel binnenkomt en het werkelijke datagenererende proces onbekend is.

De primaire methoden voor Bayesiaanse ensembling zijn:

Bayesian Model Averaging (BMA): Weegt modellen op basis van hun marginale waarschijnlijkheid. Hoewel optimaal in de "M-closed" setting (waar het ware model aanwezig is onder de kandidaten), lijdt BMA aan "weight collapse" in "M-open" settings (waar het ware model niet aanwezig is), waarbij alle gewichten worden geconcentreerd op één enkel model dat mogelijk niet goed generaliseert.
Bayesian Stacking: Optimaliseert een log-score criterium (predictieve waarschijnlijkheid) over een validatieset om optimale convexe combinaties van modellen te vinden. Standaard stacking is echter doorgaans een batchproces dat aparte datasets vereist, wat minder geschikt is voor strikt online scenario's waar gewichten moeten worden bijgewerkt naarmate nieuwe data arriveert zonder data achter te houden.

Dit artikel probeert deze kloof te overbruggen door Online Bayesian Stacking (OBS) te formuleren: een methode om Bayesiaanse modellen adaptief te combineren in real-time door de log-score over predictieve distributies te optimaliseren, terwijl het een theoretisch kader biedt om de relatie met online BMA te begrijpen.

Methodologie

1. Connectie met Online Portfolio Selection (OPS)

Het kerninzicht van de methodologie is de herinterpretatie van Bayesian stacking als een Universal Online Portfolio Selection (OPS) probleem.

Analogie: De predictieve dichtheden van de $K$ modellen, $p_k(y_t | x_t, D_{t-1})$ , worden behandeld als de "prijs-relatieve" vectoren (rendementen) van $K$ activa in een financiële markt.
Doelstelling: Het doel van het maximaliseren van de cumulatieve log-predictieve waarschijnlijkheid is wiskundig equivalent aan het maximaliseren van de log-rijkdom van een portfolio.
Algoritmen: Deze connectie stelt de auteurs in staat om efficiënte, theoretisch gefundeerde algoritmen uit de Online Convex Optimization (OCO) literatuur te benutten, specifiek:
- Exponentiated Gradients (EG): Een multiplicatieve update-regel.
- Online Newton Step (ONS): Maakt gebruik van tweede-orde informatie voor strakkere regret-bounds.
- Soft-Bayes: Een variant die regret-bounds biedt zonder aan te nemen dat de variabiliteit van de markt (gradiënten) begrensd is.
- Discounted ONS (D-ONS): Een uitbreiding ontworpen voor niet-stationaire omgevingen door een vergetingsfactor toe te passen op tweede-orde informatie.

2. Theoretische Analyse van Regret en Verliesfuncties

Het artikel stelt onderscheidende theoretische eigenschappen vast voor OBS versus Online BMA (O-BMA):

O-BMA als Hedge: De auteurs laten zien dat O-BMA updates equivalent zijn aan het Hedge-algoritme met een leersnelheid van $\eta=1$ en een specifieke verliesfunctie. O-BMA minimaliseert regret ten opzichte van de beste enkele expert (modelselectie).
OBS als Mixture Optimization: OBS minimaliseert regret ten opzichte van de beste convexe combinatie van experts (modelcombinatie).
Regret Bounds: Door OBS te mappen naar OPS, leidt het artikel regret-bounds af. Onder milde aannames bereikt OBS een $O(\sqrt{T})$ regret (bijv. via Soft-Bayes) of een $O(\log T)$ regret (via ONS met begrensde gradiënten). In contrast hiermee bereikt O-BMA slechts constante regret ten opzichte van het beste enkele model, wat willekeurig slecht kan zijn als het beste enkele model een slechte voorspeller is vergeleken met een mengeling.

3. Empirisch Bayes Perspectief

De auteurs bieden een Empirische Bayes (EB) interpretatie om de pathologieën van BMA te verklaren:

BMA als EB op Indicatoren: BMA voert EB uit over een indicatorvariabele, wat effectief één enkel model selecteert met de hoogste marginale waarschijnlijkheid. Dit leidt tot het "collapse"-fenomeen waarbij de ensemble degradeert tot een enkel model, zelfs als een mengeling een betere predictieve nauwkeurigheid zou opleveren.
OBS als EB op Gewichten: OBS voert EB direct uit op de menggewichten zelf, waarbij deze worden behandeld als hyperparameters die geoptimaliseerd moeten worden. Dit voorkomt de collapse door te zoeken naar de optimale gewogen combinatie in plaats van een enkele winnaar.

Belangrijkste Bijdragen

Nieuwe Connectie: Het artikel vestigt een rigoureuze equivalentie tussen Online Bayesian Stacking en Universele Online Portfolio Selection, wat het gebruik van efficiënte OCO-algoritmen voor Bayesiaanse ensembling mogelijk maakt.
Theoretische Verduidelijking: Het verheldert het onderscheid tussen O-BMA en OBS, waarbij wordt aangetoond dat ze verschillende kostenfuncties optimaliseren (modelselectie vs. modelcombinatie) en biedt regret-bounds voor OBS gebaseerd op de OPS-literatuur.
Empirisch Bayes Verklaring: Het biedt een overtuigend EB-argument waarom BMA instort in M-open settings en hoe stacking dit probleem van nature vermijdt.
Hybride Aanpak: De auteurs stellen een hybride methode voor die zowel O-BMA als OBS mengelingen behoudt, gemiddeld via een secundaire laag, om constante regret te bereiken ten opzichte van het beste enkele model terwijl de expressiviteit van OBS behouden blijft.

Experimentele Resultaten

De auteurs evalueren OBS in vier scenario's met ensembles van state-of-the-art modellen (Gaussian Processes, Variational Bayesian Neural Networks, en Stochastic Volatility modellen geschat via Sequential Monte Carlo):

Toy Lineaire Regressie: In een "Open" setting (het ware model zit niet in de ensemble), presteerden OBS-varianten (EG, ONS) significant beter dan O-BMA, dat instortte naar één slecht model. In een "Closed" setting presteerde OBS bijna even goed als de theoretisch optimale O-BMA.
Online Variational Inference (MNIST): Gebruikmakend van Bayesiaanse Neurale Netwerken, presteerde OBS consistent beter dan O-BMA en Dynamic Model Averaging (DMA). BMA stortte in tot een enkel netwerk, terwijl OBS convergeerde naar gebalanceerde gewichten.
Financiële Voorspelling (S&P 500): Bij het ensembelen van diverse GARCH-modellen, presteerden OBS-methoden (EG, ONS, Soft-Bayes) beter dan O-BMA en DMA. In deze niet-stationaire omgeving behaalde D-ONS (Discounted ONS) de beste prestaties.
Niet-Stationaire Regressie: Op datasets met covariate shift (bijv. robotica-data), waren OBS-methoden, met name D-ONS en Soft-Bayes, robuust en presteerden zij consistent beter dan O-BMA en standaard DMA.

Belangrijkste Bevinding: In alle geteste gevallen presteerde OBS significant beter dan online BMA. De computationele kosten van OBS bleken verwaarloosbaar in vergelijking met de kosten van de online training en predictie van de onderliggende ML-modellen.

Betekenis en Claims

Het artikel claimt dat Online Bayesian Stacking (OBS) een principieel, theoretisch gefundeerd en empirisch superieur alternatief biedt voor Online BMA, met name in realistische "M-open" scenario's waar het werkelijke datagenererende proces niet in de kandidaat-modelset is opgenomen.

Praktische Richtlijnen: De auteurs suggereren dat beoefnaars in de meeste machine learning toepassingen (die meestal M-open zijn) de voorkeur moeten geven aan OBS. Ze bevelen specifieke OCO-algoritmen aan op basis van de omgeving: D-ONS voor voorzien aanstaande niet-stationariteit, ONS voor algemene scenario's met voldoende rekenkracht, en Soft-Bayes voor robuustheid zonder gradiënt-bounds.
Theoretische Brug: Het werk slaat een brug tussen Bayesiaans ensemble learning en het rijke theoretische kader van online convex optimization en portfolio selection, wat nieuwe instrumenten biedt voor het analyseren en verbeteren van Bayesiaanse predictieve prestaties.
Bescheidenheid: De auteurs erkennen dat hoewel OBS over het algemeen superieur is, O-BMA optimaal blijft in strikt M-closed settings. Ze merken ook op dat de keuze van het OCO-algoritme en hyperparameters (zoals leersnelheden) de prestaties kunnen beïnvloeden, hoewel de voorgestelde methoden over het algemeen robuust zijn voor deze keuzes binnen redelijke bereiken.

Het artikel concludeert dat de connectie tussen OBS en portfolio selection nieuwe wegen opent voor onderzoek naar continual learning, adaptive regret en de initialisatie van Bayesiaanse ensembles.