The Polynomial Stein Discrepancy for Assessing Moment Convergence

1. Probleemstelling

In Bayesiaanse inferentie is het beoordelen van de kwaliteit van steekproeven gegenereerd door benaderende steekproefalgoritmen (met name vertekende zoals Stochastic Gradient Langevin Dynamics, SGLD) een kritieke "grote uitdaging".

• Beperkingen van bestaande methoden:
  • Effective Sample Size (ESS): Niet geschikt voor asymptotisch vertekende algoritmen.
  • Kernel Stein Discrepancy (KSD): De huidige gouden standaard. Deze lijdt echter onder kwadratische computationele complexiteit ($O(n^2)$) met betrekking tot het aantal steekproeven, wat het onuitvoerbaar maakt voor grote MCMC-toepassingen.
  • Lineaire KSD-benaderingen (FSSD, RFSD): Hoewel sneller, lijden deze vaak onder de vloek van de dimensionaliteit, vereisen uitgebreide hyperparameter-tuning (bijv. testlocaties, feature maps), en falen cruciaal in het detecteren van momentconvergentie.
• De specifieke kloof: Standaard KSD (met IMQ-kernels) controleert zwakke convergentie (bounded-Lipschitz-metriek) maar garandeert geen convergentie in momenten. Aangezien momenten (gemiddelde, variantie) vaak de primaire grootheden van belang zijn in big-data-toepassingen (waar de posterior vaak Gaussisch-achtig is via de Bernstein-von Mises-stelling), is het onvermogen om vertekeningen in momenten te detecteren een aanzienlijk nadeel.

2. Methodologie: Polynoom Stein Discrepancy (PSD)

De auteurs stellen de Polynoom Stein Discrepancy (PSD) voor, een lineaire alternatief voor KSD dat specifiek is ontworpen om discrepanties in de eerste $r$ momenten van een verdeling te detecteren.

Kernformulering

• Stein-operator: Gebruikt de tweede-orde Langevin-Stein-operator $A$ gedefinieerd voor een doeldichtheid $p(x)$:
  $$A g(x) = \Delta_x g(x) + \nabla_x g(x) \cdot \nabla_x \log p(x)$$
• Functieklasse: In plaats van een Reproducing Kernel Hilbert Space (RKHS), beperkt PSD de functieklasse $\mathcal{G}$ tot de span van polynomen van orde $r$.
  $$\mathcal{G} = \text{span}\left\{ \prod_{i=1}^d x_i^{\alpha_i} : \sum \alpha_i \leq r \right\}$$
• Definitie van Discrepancy: De PSD wordt gedefinieerd als het supremum van de verwachting van de Stein-operator over deze polynoomklasse, beperkt tot de eenheidsbol:
  $$\text{PSD} = \sup_{g \in \mathcal{G}, \|g\| \leq 1} \left| \mathbb{E}_{Q}[Ag(X)] \right|$$
• Gesloten-vorm oplossing: Door $g$ te parametriseren als een lineaire combinatie van monomen met coëfficiënten $\beta$, levert de optimalisatie een gesloten-vorm oplossing op:
  $$\text{PSD} = \sqrt{\sum_{k=1}^J \bar{z}_k^2}$$
  waarbij $\bar{z}_k = \mathbb{E}_Q[A P_k(X)]$ en $P_k$ de basismonomen zijn.
• Computationele complexiteit:
  • De gekwadrateerde PSD kan worden berekend als een V-statistiek of U-statistiek.
  • De complexiteit is $O(nJ)$, waarbij $J = \binom{d+r}{d} - 1$.
  • Dit is lineair in het aantal steekproeven $n$, een aanzienlijke verbetering ten opzichte van KSD's $O(n^2)$.
  • Voor zeer hoge dimensies kan een benaderende versie die interactietermen uitsluit de complexiteit reduceren tot $O(nd^r)$.

Goodness-of-Fit testen

• Het artikel stelt een op bootstrap gebaseerde test voor voor de nulhypothese $H_0: Q = P$.
• In tegenstelling tot asymptotische tests voor lineaire KSD-alternatieven (die een covariantiematrix onder $P$ moeten schatten), hersteekt de PSD-bootstrap-test gewichten uit de waargenomen data $Q$.
• Deze aanpak vermijdt de noodzaak om te steekproeven uit de onberekenbare doelverdeling $P$ en toont empirisch een hogere statistische power aan dan asymptotische benaderingen.

3. Belangrijkste theoretische bijdragen

• Garantie voor momentdetectie (Propositie 1):
  • Als de doelverdeling $P$ Gaussisch is, is $\text{PSD} = 0$ dan en slechts dan als de eerste $r$ momenten van de steekproefverdeling $Q$ overeenkomen met de eerste $r$ momenten van $P$.
  • Dit biedt een rigoureuze theoretische rechtvaardiging voor het gebruik van PSD specifiek voor momentconvergentie, een eigenschap die standaard KSD mist.
• Asymptotische power (Corollarium 3.0.2):
  • In de Bernstein-von Mises limiet (regime met grote data waar de posterior nadert tot een Gaussische verdeling), hebben de op PSD gebaseerde tests een asymptotische power die nadert tot 1 voor het detecteren van discrepanties in de eerste $r$ momenten.
• Invariantie: De methode is invariant onder inverteerbare lineaire transformaties (bijv. whitening) wanneer toegepast op Gaussische doelverdelingen.

4. Experimentele resultaten

De auteurs evalueerden PSD tegen concurrenten: IMQ KSD (kwadratische tijd), Gaussische KSD, FSSD (lineaire tijd) en RFSD (lineaire tijd).

• Power voor Goodness-of-Fit:
  • PSD presteerde consequent beter dan lineaire concurrenten (FSSD, RFSD) bij het detecteren van momentdiscrepanties (variantie, kurtosis).
  • Bijvoorbeeld, bij het detecteren van variantieperturbaties in hoge dimensies ($d=20$), bereikte PSD een statistische power tot 4 keer hoger dan lineaire concurrenten en was het concurrerend met kwadratische KSD.
  • PSD met $r=4$ was de enige methode die consequent een power van $\approx 1$ bereikte bij het detecteren van kurtosis-discrepanties.
• Hyperparameter-tuning (SGLD):
  • In een taak voor stapgrootte-selectie met Stochastic Gradient Langevin Dynamics (SGLD) identificeerde PSD ($r=2,3,4$) correct de optimale stapgrootte ($\epsilon=0.005$) die de vertekening in de posteriorvariantie minimaliseerde, overeenkomend met de prestaties van de veel langzamere IMQ KSD.
• Computationele efficiëntie:
  • PSD is ordes van grootte sneller dan KSD.
  • In het SGLD-voorbeeld was PSD ~70 keer sneller dan KSD en ~7 keer sneller dan RFSD.
• Robuustheid:
  • PSD presteerde goed zelfs in niet-Gaussische settings (bijv. Logistische Regressie met sparsiteitspriors, Restricted Boltzmann Machines), hoewel de theoretische garantie het sterkst is voor Gaussische doelverdelingen.

5. Betekenis en Impact

• Schaalbaarheid: PSD overbrugt de kloof tussen de statistische rigorousheid van KSD en de computationele efficiëntie die vereist is voor moderne grote Bayesiaanse inferentie.
• Gerichte bruikbaarheid: Het adresseert specifiek het "blinde punt" van bestaande Stein-discrepanties: het onvermogen om vertekeningen in momenten te detecteren. Dit is cruciaal voor vertekende MCMC-algoritmen waar momentconvergentie het primaire doel is.
• Praktijktoepasbaarheid: De methode vereist minimale tuning (alleen de polynoomorde $r$), heeft een duidelijke interpretatie (het volgen van specifieke momenten) en is computationeel haalbaar voor hoogdimensionale datasets.
• Aanbeveling: De auteurs raden het gebruik van PSD met $r=2$ aan voor practitioners die vertekende steekproefnemers gebruiken (zoals SG-MCMC) om steekproefkwaliteit efficiënt te beoordelen en hyperparameters af te stemmen.

Conclusie

De Polynoom Stein Discrepancy biedt een nieuw, lineair-tijdskader voor het beoordelen van steekproefkwaliteit in Bayesiaanse inferentie. Door gebruik te maken van polynoomfuncties binnen het Stein-kader, biedt het een theoretisch onderbouwde, computationeel efficiënt en statistisch krachtig instrument voor het detecteren van momentconvergentie, waarmee de schaalbaarheids- en tuningbeperkingen van huidige Kernel Stein Discrepancy-methoden worden overwonnen.