Quasi-Bayes empirical Bayes: a sequential approach to the Poisson compound decision problem

Technische Samenvatting: Quasi-Bayesiaanse Empirische Bayes voor het Poisson Compound Decision Probleem

1. Probleemstelling
Het artikel behandelt het Poisson compound decision probleem, een klassieke statistische uitdaging waarbij het schatten van een reeks gemiddelden $(\theta_1, \dots, \theta_n)$ voor onafhankelijke Poisson-toevalsvariabelen $Y_1, \dots, Y_n$ onder een kwadratische foutverlies (squared-error loss). Hoewel Empirical Bayes (EB) methoden goed gevestigd zijn voor dit probleem in statische of batch-settings (Robbins, 1956; Zhang, 2003), identificeren de auteurs een gat in de literatuur met betrekking tot sequentiële (streaming) data. Bestaande EB-benaderingen, met name die gebaseerd op $g$-modellering (het schatten van de priorverdeling $G$), vereisen doorgaans batch-optimalisatie of volledige herberekening van de posterior, wat computationeel inefficiënt is voor online inferentie waarbij data sequentieel binnenkomen en tijdige updates vereist zijn.

2. Methodologie: Sequentiële Quasi-Bayesiaanse Benadering
De auteurs stellen een sequentieel $g$-modelleringskader voor genaamd Quasi-Bayesiaanse Empirische Bayes (QB). De kernmethodologie berust op een recursief leermodel dat de schatting van de mengverdeling $G$ bijwerkt naarmate nieuwe observaties binnenkomen, waardoor de noodzaak voor batch-reoptimalisatie wordt vermeden.

• Recursieve Update (Newton-algoritme): Vertrekkend vanuit een initiële schatting $G_0$, wordt de mengverdeling $G_n$ bijgewerkt bij het observeren van $Y_{n+1}$ via een recursieve procedure gebaseerd op Smith en Makov (1978) en Newton et al. (1998):
  $$G_{n+1}(d\theta) = (1 - \alpha_{n+1})G_n(d\theta) + \alpha_{n+1} \frac{\text{Poisson}(Y_{n+1} | \theta)G_n(d\theta)}{\int_\Theta \text{Poisson}(Y_{n+1} | \theta)G_n(d\theta)}$$
  Hierbij is $\alpha_n$ een leerrendementssequentie die voldoet aan $\sum \alpha_n = \infty$ en $\sum \alpha_n^2 < \infty$. Deze update vertegenwoordigt een gewogen gemiddelde van de huidige schatting en de posterior verdeling op basis van de nieuwe observatie.

• Quasi-Bayesiaanse Interpretatie: Het model wordt geïnterpreteerd als een leermodel in plaats van een datagenererend proces. Er wordt aangetoond dat het "quasi-Bayesiaans" is, wat betekent dat de reeks verdelingen $(G_n)$ zwak bijna zeker convergeert naar een willekeurige limiet $\tilde{G}$, en de predictieve verdeling asymptotisch equivalent is aan een Bayesiaans model met een willekeurige prior.

• Constructie van de Schatter: De QB-schatting voor $\theta_i$ gegeven $Y_i=y$ wordt verkregen door de huidige schatting $G_n$ in te vullen in de standaard Bayes-schattingsformule:
  $$\hat{\theta}_{G_n}(y) = (y+1) \frac{p_{G_n}(y+1)}{p_{G_n}(y)}$$
  waarbij $p_{G_n}$ de marginale kansfunctiemassa is afgeleid van $G_n$.

• Onzekerheidskwantificering: De auteurs leiden een voorwaardelijke Gaussische centrale limietstelling af voor de schatter. Dit maakt de constructie van asymptotische geloofwaardige intervallen (credible intervals) mogelijk door de variabiliteit te benaderen die wordt veroorzaakt door de substitutie van de onbekende limiet $\tilde{G}$ door de eindstele-schatting $G_n$.

3. Belangrijkste Bijdragen en Theoretische Garanties
Het artikel stelt verschillende frequentistische garanties vast voor de voorgestelde schatter onder de aanname dat observaties i.i.d. zijn uit een Poisson-mengeling met een "ware" oracle-prior $G^*$:

• Consistentie en Asymptotische Optimaliteit: Theorem 2.4 toont aan dat de schatter $\hat{\theta}_{G_n}(y)$ bijna zeker convergeert naar de Bayes-schatter die overeenkomt met de Kullback-Leibler projectie van $G^*$ op de klasse van verdelingen die absoluut continu zijn ten opzichte van $G_0$. Bijgevolg verdwijnt de regret (excess Bayes risk) als $n \to \infty$.
• Computationele Efficiëntie: In tegenstelling tot batch-methoden (bijv. Nonparametrische Maximale Waarschijnlijkheid of Minimum Hellinger Afstand-schatters) die de schattingen vanaf nul opnieuw berekenen, werkt de QB-methode de schatting bij met enkel de nieuwe observatie. Dit resulteert in een constante computationele kosten per observatie die niet toeneemt met de steekproefomvang $n$.
• Asymptotische Normaliteit: Theorem 2.2 biedt een voorwaardelijke centrale limietstelling, wat de constructie van asymptotische geloofwaardige intervallen mogelijk maakt die zowel rekening houden met parameteronzekerheid als met de onzekerheid in het schatten van de prior.

4. Empirische Resultaten
De methodologie wordt geëvalueerd via synthetische en real-world experimenten:

• Synthetische Data: De QB-schatter wordt vergeleken met de methode van Robbins ($f$-modellering), Nonparametrische Maximale Waarschijnlijkheid (ML) en Minimum Hellinger Afstand (MHD) schatters.

  • Prestaties: QB bereikt prestaties die vergelijkbaar zijn met ML en MHD, en presteert significant beter dan de methode van Robbins, die bekend staat om numerieke instabiliteit.
  • Efficiëntie: Wat betreft CPU-tijd is QB aanzienlijk sneller. Voor $n=400$ vereist QB ongeveer 0,0019 seconden per update, terwijl ML en MHD respectievelijk 1,84 en 2,14 seconden nodig hebben om de schatting opnieuw te berekenen.
  • Robuustheid: Gevoeligheidsanalyses geven aan dat de prestaties van QB robuust zijn voor de keuze van het aantal kwadratuurpunten die worden gebruikt voor numerieke integratie.

• Real Data:

  • Twitter Dataset: Toegepast op retweet-aantallen om instantane viraliteit te schatten. De QB-schattingen bieden een sequentiële alternatief voor batch-methoden voor het detecteren van geautomatiseerde activiteit of vroege viraliteit.
  • Accident Dataset: Toegepast op de benchmark automobile insurance claims data (Efron en Hastie, 2021), wat de toepasbaarheid op standaard compound decision problemen aantoont.

5. Betekenis en Claims
Het artikel beweert de eerste sequentiële methodologie voor het Poisson compound decision probleem te bieden die zowel theoretische garanties (consistentie, verdwijnende regret, asymptotische normaliteit) als overtuigende empirische ondersteuning biedt.

De primaire betekenis ligt in het overbruggen van de kloof tussen Empirical Bayes en sequentiële inferentie. Door gebruik te maken van een quasi-Bayesiaans leermodel gebaseerd op Newton's algoritme, bieden de auteurs een kader dat:

1. Online Inferentie Mogelijk Maakt: Maakt real-time schatting mogelijk in streaming data-omgevingen (bijv. sociale media, biosurveillance) waar batch-verwerking onhaalbaar is.
2. Theoretische Rigor Behoudt: Behoudt de sterke frequentistische optimaliteitseigenschappen (verdwijnende regret) die geassocieerd worden met optimale EB-methoden.
3. Computationele Schaalbaarheid Biedt: Bereikt een constante computationele kosten per observatie, waardoor het schaalbaar is naar grote, hoogfrequente datastromen waar traditionele $g$-modelleringsbenaderingen falen vanwege computationele bottlenecks.

De auteurs concluderen dat hoewel $g$-modellering over het algemeen nauwkeuriger is dan $f$-modellering maar computationeel duur is, hun quasi-Bayesiaanse benadering erin slaagt de computationele kosten succesvol te beperken terwijl de nauwkeurigheid behouden blijft, wat het een levensvatbare oplossing maakt voor moderne streaming data-applicaties.