Efficient Bayes Factor Sensitivity Analysis via Posterior Density Ratios

1. Il Problema: Costo Computazionale dell'Analisi di Sensibilità

L'analisi di sensibilità dei fattori di Bayes (Bayes Factor Sensitivity Analysis) è fondamentale per verificare quanto le conclusioni di un'analisi bayesiana dipendano dalla scelta della distribuzione a priori. In particolare, si esamina come il fattore di Bayes ($BF_{10}$) cambi al variare degli iper-parametri (es. la scala di una distribuzione di Cauchy o la deviazione standard di una normale) che definiscono la prior.

• Approccio Standard (Brute-Force): Il metodo convenzionale richiede di adattare il modello completo per ogni valore dell'ipert-parametro su una griglia di valori. Se la griglia contiene $K$ punti, il costo computazionale scala linearmente ($K \times$ costo di un singolo adattamento).
• Limiti: Per modelli complessi (es. meta-analisi con mediazione bayesiana, modelli strutturali, modelli di rete), un singolo adattamento può richiedere ore o giorni. Di conseguenza, eseguire un'analisi di sensibilità su una griglia di valori diventa proibitivo o impossibile.

2. Metodologia Proposta

Gli autori propongono un metodo che recupera l'intera curva di sensibilità da un singolo adattamento aggiuntivo del modello, sfruttando un'identità probabilistica esatta.

A. Identità Probabilistica e Decomposizione

Il metodo si basa su due concetti chiave:

1. Transitività del Fattore di Bayes: Il fattore di Bayes tra un'ipotesi alternativa $H_1(\gamma_x)$ e un'ipotesi nulla $H_0$ può essere scomposto in:
   $$BF_{10}(\gamma_x) = BF_{10}(\gamma_0) \times \frac{Z(\gamma_x)}{Z(\gamma_0)}$$
   dove $\gamma_0$ è un valore di riferimento ("ancora") e $\frac{Z(\gamma_x)}{Z(\gamma_0)}$ è il rapporto di verosimiglianza marginale (MLR) tra due valori dell'ipert-parametro.

2. Modello Esteso e Rapporto di Densità: Si definisce un modello esteso $H_\gamma$ che assegna una prior iper-parametrica $\pi(\gamma)$ all'ipert-parametro $\gamma$ stesso.
   Utilizzando il rapporto di densità Savage-Dickey (SDDR) esteso, il rapporto di verosimiglianza marginale può essere espresso come:
   $$\frac{Z(\gamma_x)}{Z(\gamma_0)} = \frac{p(\gamma_x | y, H_\gamma)}{p(\gamma_0 | y, H_\gamma)} \times \frac{\pi(\gamma_0)}{\pi(\gamma_x)}$$

   Risultato finale: Una volta stimata la densità a posteriori $p(\gamma | y, H_\gamma)$ dal modello esteso, il fattore di Bayes per qualsiasi $\gamma_x$ è dato semplicemente dal valore di ancoraggio moltiplicato per il rapporto delle ordinate della densità a posteriori (corretto per il rapporto delle prior).

B. Stima della Densità: IWMDE vs KDE

Per stimare il rapporto delle densità a posteriori $p(\gamma_x | y, H_\gamma) / p(\gamma_0 | y, H_\gamma)$, gli autori confrontano due approcci:

1. Kernel Density Estimation (KDE): Un metodo non parametrico standard che stima la densità dai campioni MCMC marginali di $\gamma$.
2. Importance-Weighted Marginal Density Estimator (IWMDE): Un metodo proposto da Chen (1994) che sfrutta la struttura congiunta dei campioni $(\gamma, \theta)$.
   • Vantaggio Cruciale: Poiché $\gamma$ entra nel modello solo attraverso la prior sui parametri $\theta$, la funzione di verosimiglianza dei dati ($p(y|\theta)$) si cancella nel rapporto delle densità congiunte.
   • Formula Semplificata: L'IWMDE si riduce a una media di rapporti di densità prior:
     $$\hat{p}(\gamma^* | y) \propto \frac{1}{n} \sum_{i=1}^n \frac{p(\theta_i | \gamma^*)}{p(\theta_i | \gamma_i)}$$
   • Questo permette di calcolare la densità senza mai valutare la verosimiglianza dei dati, rendendo il metodo estremamente veloce e stabile, anche con campioni MCMC limitati.

3. Contributi Chiave

• Efficienza Computazionale: Riduce il costo dell'analisi di sensibilità da $K$ adattamenti a 1 + 1 (un calcolo del fattore di Bayes di ancoraggio + un adattamento del modello esteso).
• Generalità: Il metodo è applicabile a modelli nidificati e non nidificati, a parametri multipli (analisi bivariata) e al Bayesian Model Averaging (BMA).
• Stabilità Superiore: L'uso dell'IWMDE supera significativamente il KDE, specialmente nelle code della distribuzione e con campioni MCMC moderati, eliminando la variabilità tipica delle stime non parametriche.
• Estensione al BMA: Fornisce una strategia pratica per l'analisi di sensibilità in meta-analisi bayesiane robuste, dove l'averaging su molti modelli renderebbe il metodo brute-force impraticabile.

4. Risultati Sperimentali

Gli autori hanno validato il metodo su tre scenari:

1. Test t Bayesiano Univariato:
   • Confronto con soluzioni esatte (pacchetto BayesFactor).
   • L'IWMDE riproduce la curva esatta con un errore di approssimazione inferiore all'1-2% anche con soli 3.000 campioni MCMC, mentre il KDE mostra variabilità significativa e richiede campioni molto più numerosi per convergere.
2. Test t Bayesiano Bivariato (Informato):
   • Analisi simultanea di media e deviazione standard della prior.
   • L'IWMDE produce superfici di sensibilità più lisce e fedeli, gestendo meglio le regioni con massa a posteriori scarsa (es. combinazioni di prior strette e lontane dai dati) rispetto al KDE.
3. Meta-Analisi con Mediazione Bayesiana (RoBMA):
   • Applicazione ai dati di Bem (2011) su 9 studi.
   • Scenario 1 (4 modelli): Confronto tra due strategie di implementazione (campionamento su spazi prodotto vs. adattamento separato). L'approccio a spazio prodotto con IWMDE è stato il più efficiente.
   • Scenario 2 (36 modelli - Robust Bayesian Meta-Analysis): L'analisi di sensibilità su un ensemble di 36 modelli (inclusi bias di pubblicazione) è stata eseguita con successo. L'accuratezza è rimasta alta nonostante la complessità, confermando che il metodo scala bene senza bisogno di adattare 36 modelli estesi separati.

5. Significato e Implicazioni

• Praticità: Rende l'analisi di sensibilità una procedura standard e fattibile anche per modelli complessi, dove finora era spesso omessa per motivi di costo computazionale.
• Robustezza nelle Decisioni: Permette ai ricercatori di dimostrare che le conclusioni (es. evidenza a favore di un effetto) sono robuste su un'ampia gamma di prior plausibili, o al contrario, che richiedono prior altamente implausibili per essere invertite.
• Applicazioni Cliniche e Regolatorie: Data l'apertura crescente delle agenzie regolatorie (es. FDA) verso i metodi bayesiani negli studi clinici, questo strumento offre un modo efficiente per soddisfare i requisiti di robustezza e trasparenza richiesti.
• Scalabilità: Sebbene la stima della densità sia limitata a spazi a bassa dimensionalità, la maggior parte delle analisi di sensibilità pratica coinvolge pochi iper-parametri, rendendo il metodo ampiamente applicabile.

In sintesi, il paper propone una soluzione elegante ed efficiente che trasforma un problema di ottimizzazione computazionale costoso in un semplice problema di stima di densità, sfruttando le proprietà algebriche dei fattori di Bayes e la struttura delle distribuzioni a priori.