Robust Surrogate-Based Bayesian Inference via Sampling-Based Adaptive Active Learning (SALE)

Technische Samenvatting: Robuuste Surrogaat-gebaseerde Bayesiaanse Inferentie via Steekproef-gebaseerde Adaptieve Actieve Leermethoden (SALE)

Probleemstelling
Standaard Bayesiaanse inferentiemethoden, zoals Markov chain Monte Carlo (MCMC), worden computationeel onhandelbaar wanneer de evaluatie van de likelihood of de log-posterior duur is. Deze kosten ontstaan in scenario's die te maken hebben met simulatoren, parameterafhankelijke normaliserende constanten, herhaalde integratie over latente structuren, of numerieke oplossingen voor inverse problemen. Onder beperkte evaluatiebudgetten kampen bestaande surrogaat-gebaseerde benaderingen met een fundamentele spanning: ze moeten tegelijkertijd regio's met een hoge posteriore massa lokaliseren en de nauwkeurigheid van het surrogaatmodel binnen die regio's kalibreren.

Bestaande methoden vertrouwen vaak uitsluitend op Bayesiaanse Optimalisatie (BO) om regio's met een hoge waarschijnlijkheid te vinden of op Onzekerheidsreductie (UR) om het surrogaatmodel te verfijnen. Echter, pure BO-strategieën behandelen de log-posterior vaak als een black-box objectief, waardoor ze de structuren van de log-densiteit niet exploiteren en potentieel irrelevante regio's verkennen. Omgekeerd kunnen posterior-gewogen UR-strategieën worden misleid door hoge onzekerheid in de vroege stadia van het leerproces, waardoor evaluaties worden verspild in regio's met een verwaarloosbare ware posteriore massa. Bov�eld ontbreken algemene theoretische garanties voor sequentiële posterior-gewogen UR-designs, met name met betrekking tot expliciete budget-afhankelijke grenzen aan de benaderingsfout van de uiteindelijke surrogaat-posterior.

Methodologie: Steekproef-gebaseerde Adaptieve Actieve Leermethoden (SALE)
De auteur stelt SALE voor, een Gaussian Process (GP)-gebaseerd actief leerkader dat lokalisatie en kalibratie verenigt via een gemeenschappelijk sequentieel design-maatstaf: de Verwachte Posterior (EP), aangeduid als $\bar{\pi}_t$.

1. De Verwachte Posterior (EP):
   In plaats van de GP-posterior middellijn ($\mu_t$) als het enige surrogaat te gebruiken, maakt SALE gebruik van de EP, gedefinieerd als het gemiddelde van de posteriore wetten geïnduceerd door GP-steekproefpaden: $\bar{\pi}_t(A) = \int \pi(A|g) P_t(dg)$. Theoretisch minimaliseert $\bar{\pi}_t$ de conditionele verwachte Kullback–Leibler (KL) loss onder de estimators gegeven de huidige informatie. Cruciaal is dat SALE $\bar{\pi}_t$ niet alleen gebruikt als inferentiële output, maar ook als de leidende wet voor sequentieel design.

2. Toestandsafhankelijke Allocatie:
   SALE verdeelt het evaluatiebudget dynamisch tussen twee takken op basis van een latente toestand $S_t$:

   • Lokalisatie (BO): Wanneer de designresolutie rond de huidige maximizer laag is, geeft het algoritme prioriteit aan BO om regio's met een hoge posterior te lokaliseren.
   • Kalibratie (UR): Naarmate de resolutie verbetert, verschuift het algoritme naar UR om de benaderingsnauwkeurigheid in inferentie-relevante regio's te waarborgen.
     Een proxy voor de waarschijnlijkheid van het ontdekken van onopgeloste waarden wordt gebruikt om de allocatie te bepalen, waarbij wordt gewaarborgd dat UR een positief asymptotisch fractie van de evaluaties ontvangt.

3. Geannealde Objectief (AO) voor BO:
   Voor de lokalisatie-tak introduceert SALE het Geannealde Objectief, dat de $\tau$-getempereerde posteriore wetten middelt die door GP-steekproefpaden worden geïnduceerd.

   • Bij $\tau=1$ is AO gelijk aan de EP ($\bar{\pi}_t$).
   • Naarmate $\tau \to 0$, nadert AO Thompson Sampling (TS).
   • Positieve $\tau$-tempering reguleert de query-wet tegen de verstoringen van de surrogaatpaden, wat een stabiliteit biedt die TS mist wanneer het surrogaat zeer onzeker is (bijv. wanneer het kunstmatige pieken bevat).
   • Steekproeven uit AO worden verkregen via Exchange Simulated Annealing (ESA), die de onhandelbare normaliserende constanten afhandelt door hulp-trekken te introduceren.

4. EP-Gewogen Kalibratie (UR):
   Voor de kalibratie-tak definieert SALE een ideaal UR-regel die de verwachte reductie in een variantiefunctie maximaliseert die de Total Variation (TV) afstand tussen de EP en de ware posterior controleert.

   • De ideale regel is computationeel duur. SALE implementeert een praktische proxy die kandidaten beperkt tot de huidige EP, een toestand-afhankelijke tempering van gewichten gebruikt (hellend naar hoge GP-middellijnen tijdens lokalisatie), en een lokale rangschikkingsproxy gebruikt gebaseerd op GP-onzekerheid en de posterior middellijn.

Belangrijkste Bijdragen

1. Verenigde Design-Maatstaf: SALE is het eerste framework dat de Verwachte Posterior ($\bar{\pi}_t$) gebruikt als een gemeenschappelijke sequentieel design-maatstaf voor zowel regio-restrictie (lokalisatie) als kalibratie.
2. Stabiliteits-Optimalisatie Afweging: Het artikel karakteriseert de afweging van het Geannealde Objectief (AO). Het bewijst dat positieve $\tau$-tempering de query-verdeling stabiliseert tegen surrogaatverstoringen (via een $W_{1,\infty}$-naar-TV continuïteitsbegrens) terwijl de geassocieerde optimalisatiepenalty wordt gekwantificeerd via Bayesiaanse regret-bounds.
3. Theoretische Garanties voor UR: De auteur leidt een expliciete budget-afhankelijke grens af voor de verwachte TV-fout van de uiteindelijke EP onder een ideaal sequentieel posterior-gewogen UR-design. Ze stellen verder een verwachte-TV-snelheid vast voor de geïmplementeerde UR-proxy, waarbij zij aantoont dat deze de polynomiale orde van de ideale regel evenaart tot aan de logaritmische factoren.
4. Robuustheid: Het framework is ontworpen om de ernstige fouten van externe baselines te vermijden door adaptief te schakelen tussen lokalisatie en kalibratie.

Resultaten en Empirische Prestaties
De auteur evalueert SALE over analytische benchmarks (bijv. Quartic-tail Gaussian, Neal's Funnel, Rosenbrock, Bimodale Mix), gesimuleerde likelihoods (Spatial Matérn GRF, Lotka–Volterra inverse probleem) en twee reële toepassingen (Dynamic Discrete-Choice modellen voor bus-motor vervanging en Ultra-Diffuse Galaxy detectie).

• Robuustheid: Hoewel geen enkele methode alle problemen domineert in termen van mediane convergentiesnelheid, vertoont SALE een superieure robuustheid. Het vermindert consistent de Total Variation (TV) fout over alle instellingen en vermijdt de ernstige fouten (hoge TV-fouten) die worden waargenomen bij verschillende externe baselines (bijv. GP-UCB, log-GP entropie).
• Lokalisatie versus Kalibratie: Ablatie-studies bevestigen dat de combinatie van $\bar{\pi}_t$-gestuurde restrictie, toestand-afhankelijke allocatie en het Geannealde Objectief cruciaal is. Het verwijderen van de lokalisatiefase (alleen UR) of de restrictie (geen restrictie) leidt tot aanzienlijk hogere fouten en variabiliteit.
• Toepassingen:
  • In het Bus-Motor Vervangingsmodel bereikte SALE een posteriore benadering die vergelijkbaar is met een referentie MCMC-keten (geïnitialiseerd bij de SALE-modus) met slechts 520 likelihood-evaluaties versus 40.000 voor de referentie, een reductie van ongeveer 77 keer.
  • In de Ultra-Diffuse Galaxy (UDG) detectie produceerde SALE betrouwbaardere posteriore marginalen voor niet-lineaire parameters en een nauwkeuriger residuele intensiteitskaart vergeleken met een GP-UCB surrogaat en een iteratieve linearisatie-benadering (inblru).

Betekenis en Claims
Het artikel claimt dat SALE een geprincipeerd, robuust framework biedt voor Bayesiaanse inferentie wanneer likelihood-evaluaties duur zijn. Door gebruik te maken van de Verwachte Posterior als een verenigende design-wet, overbrugt SALE effectief de kloof tussen het vinden van regio's met een hoge waarschijnlijkheid en het kalibreren van het surrogaat binnen deze regio's. De theoretische bijdragen bieden de eerste expliciete budget-afhankelijke grenzen voor sequentiële posterior-gewogen UR-designs, waarmee een gat tussen theorie en praktijk met een eindig budget wordt gedicht. De empirische resultaten suggereren dat sequentieel design, wanneer gekoppeld aan een geprincipeerde exploitatie van de posterior-structuur (via de EP en AO), betrouwbare Bayesiaanse inferentie kan ondersteunen waar traditionele methoden falen of onhaalbare computationele middelen vereisen.