Bayesian inference for the learning rate in Generalised Bayesian inference

Sintesi Tecnica: Inferenza Bayesiana per il Tasso di Apprendimento nell'Inferenza Bayesiana Generalizzata

Enunciato del Problema
L'Inferenza Bayesiana Generalizzata (GBI) aggiorna le credenze utilizzando un posterior di Gibbs della forma $\pi_s(\phi|x) \propto \exp(-\eta \ell_\beta(\phi; x))\pi(\phi)$, dove $\eta$ è un tasso di apprendimento e $\beta$ rappresenta gli iperparametri della funzione di perdita $\ell_\beta$. Sebbene la GBI sia efficace per gestire la specificazione errata del modello e combinare insiemi di dati eterogenei, gli iperparametri di inferenza $s = (\eta, \beta)$ non possono essere stimati congiuntamente ai parametri del modello $\phi$ assegnando loro semplicemente un prior e condizionando sui dati. Far ciò distorce il posterior per $\phi$ a causa della costante di normalizzazione $c(\phi, s).$ Di conseguenza, i metodi esistenti spesso si affidano a selezioni ad hoc o alla validazione incrociata. Questo articolo affronta la necessità di un quadro coerente per stimare $s$ e quantificare l'incertezza su di esso, in particolare in contesti che coinvolgono moduli di dati multipli, alcuni dei quali potrebbero essere specificati erroneamente.

Metodologia
Gli autori propongono un quadro per l'inferenza bayesiana sugli iperparametri di inferenza $s$ utilizzando dati di calibrazione tenuti fuori $y$. L'idea centrale è trattare la distribuzione predittiva a posteriori dei dati di calibrazione, $p_s(y|x)$, come una quantità simile a una verosimiglianza per $s$. Vengono definite due distinte distribuzioni a posteriori per $s$ basate su diverse funzioni di perdita:

1. Perdita Aggregata (Pooled Loss): Definita come $l^{(1,J)}(s; y, x) = -\log p_s(y|x)$, dove $p_s(y|x) = \int p(y|\phi)\pi_s(\phi|x)d\phi$. Questo approccio mira alla copertura del parametro "pseudo-reale" $\tilde{\phi}$ (il parametro che minimizza la divergenza di Kullback-Leibler tra il vero processo generatore dei dati e il modello). Il posterior risultante $\rho^{(1,J)}(s|y; x)$ non si concentra all'aumentare della dimensione dei dati di calibrazione $J \to \infty$, ma converge verso una distribuzione diffusa proporzionale a $\pi_s(\tilde{\phi}|x)\rho(s)$.
2. Perdita Prodotto (Product Loss): Definita come $l^{(J,1)}(s; y, x) = -\sum_{j=1}^J \log p_s(y_j|x)$, corrispondente alla densità predittiva puntuale attesa negativa (ELPPD). Questo approccio mira alla minimizzazione del rischio predittivo. Sotto condizioni di regolarità, il posterior risultante $\rho^{(J,1)}(s|y; x)$ si concentra sull'iperparametro ottimale $s^*$ con una velocità di $J^{-1/2}$, con una distribuzione asintoticamente normale.

L'articolo estende questo quadro all'Inferenza Semi-Modulare (SMI), un contesto in cui un modello è costituito da moduli multipli, alcuni dei quali potrebbero essere specificati erroneamente. Gli autori identificano l'SMI come un caso specifico di un posterior Sequential-Gibbs (Winter et al., 2023). Introducono una nuova variante, il posterior $(\eta, \beta)$-SMI, che controlla congiuntamente il flusso di informazioni da un modulo sospetto (tramite $\eta$) e la robustezza della funzione di perdita (tramite $\beta$).

Contributi Chiave

• Stima Congiunta degli Iperparametri: L'articolo fornisce un quadro unificato per la stima congiunta del tasso di apprendimento $\eta$ e degli iperparametri di perdita (ad esempio, $\beta$ nella perdita-$\beta$) utilizzando dati tenuti fuori, andando oltre la sintonizzazione di un singolo parametro.
• Caratterizzazione Teorica: Gli autori stabiliscono le proprietà asintotiche per i posterior aggregati e prodotto. Dimostrano che il posterior prodotto si concentra sugli iperparametri ottimali per la previsione, mentre il posterior aggregato mira al parametro pseudo-reale. Forniscono inoltre risultati per casi non regolari in cui l'ottimo $s$ giace sul bordo dello spazio dei parametri (ad esempio, $\eta=0$ nei modelli Cut), mostrando la convergenza verso una distribuzione Gamma.
• Integrazione SMI: Inquadrandola come un posterior Sequential-Gibbs, gli autori importano i teoremi esistenti di consistenza e Bernstein-von Mises (BvM) nel contesto modulare, validando il comportamento asintotico del nuovo aggiornamento $(\eta, \beta)$-SMI.
• Stimatori: Vengono proposti e confrontati diversi stimatori per $s$, tra cui la media a posteriori, il minimizzatore della perdita (MAP), la media armonica e un minimizzatore della divergenza KL.

Risultati
I metodi proposti sono stati valutati attraverso studi di simulazione e un'applicazione reale di analisi testuale:

• Modelli a Miscele Normali e Spazio-Stato: In esperimenti sintetici con modelli specificati erroneamente, gli iperparametri appresi (in particolare tramite la perdita prodotto) hanno costantemente superato l'inferenza bayesiana fissa ($\eta=1$) e i modelli Cut ($\eta=0$) in termini di rapporti di rischio atteso sui dati di test. L'approccio $(\eta, \beta)$-SMI ha dimostrato prestazioni comparabili all'SMI-$\eta$ ma con la flessibilità aggiuntiva di funzioni di perdita robuste, ottenendo spesso un rischio inferiore rispetto agli aggiornamenti Bayesiani o Cut standard.
• Analisi Testuale (Cambiamento di Senso): Applicato a un corpus di testo inglese che copre il periodo 1810–2010 (il modello EDiSC), il metodo è stato utilizzato per raggruppare i sensi delle parole. I tassi di apprendimento appresi $\hat{\eta}$ hanno prodotto probabilità predittive a posteriori più elevate sui dati di test tenuti fuori rispetto a $\eta=1$ o a valori selezionati tramite controlli predittivi a posteriori. I cluster risultanti hanno mostrato una coerenza semantica migliorata (misurata tramite punteggi Brier) rispetto all'inferenza bayesiana standard, gestendo efficacemente la specificazione errata del modello e i dati sparsi.
• Validazione Asintotica: Le simulazioni hanno confermato le previsioni teoriche: i posteriori prodotto si sono concentrati attorno ai valori ottimali all'aumentare di $J$, mentre i posteriori aggregati sono rimasti diffusi, allineandosi con gli obiettivi inferenziali distinti della previsione rispetto alla copertura dei parametri.

Significato e Affermazioni
L'articolo afferma che trattare gli iperparametri di inferenza come variabili casuali con un posterior derivato da dati tenuti fuori fornisce una via coerente per la quantificazione dell'incertezza e la selezione ottimale nell'Inferenza Bayesiana Generalizzata. Gli autori sottolineano che la scelta tra calibrazione aggregata e prodotto corrisponde a diversi obiettivi inferenziali (coprire il parametro pseudo-reale rispetto a massimizzare la densità predittiva) e, pertanto, gli iperparametri ottimali risultanti non devono necessariamente coincidere.

Il lavoro è particolarmente significativo per l'inferenza multi-modulare, offrendo un modo principiato per bilanciare il flusso di informazioni tra moduli ben specificati e specificati erroneamente senza ricorrere a sintonizzazioni arbitrarie. Gli autori notano che, sebbene l'approccio sia computazionalmente intensivo per spazi di iperparametri ad alta dimensionalità, è pratico per casi a bassa dimensionalità (ad esempio, $\eta$ e $\beta$) e offre un'alternativa robusta a metodi come WAIC, che possono essere inaffidabili in contesti di specificazione errata. Il quadro supporta l'uso della Bayesiana Generalizzata in problemi complessi e reali che coinvolgono dati eterogenei e specificazione errata del modello.