Bayesian inference for the learning rate in Generalised Bayesian inference

Resumo Técnico: Inferência Bayesiana para a Taxa de Aprendizagem na Inferência Bayesiana Generalizada

Enunciação do Problema
A Inferência Bayesiana Generalizada (IBG) atualiza crenças utilizando um posterior de Gibbs da forma $\pi_s(\phi|x) \propto \exp(-\eta \ell_\beta(\phi; x))\pi(\phi)$, onde $\eta$ é uma taxa de aprendizagem e $\beta$ representa hiperparâmetros da função de perda $\ell_\beta$. Embora a IBG seja eficaz para lidar com má especificação de modelos e combinar conjuntos de dados heterogêneos, os hiperparâmetros de inferência $s = (\eta, \beta)$ não podem ser estimados conjuntamente com os parâmetros do modelo $\phi$ simplesmente atribuindo-lhes um prior e condicionando aos dados. Fazer isso distorce o posterior para $\phi$ devido à constante de normalização $c(\phi, s).$ Consequentemente, os métodos existentes frequentemente dependem de seleção ad hoc ou validação cruzada. Este artigo aborda a necessidade de um quadro coerente para estimar $s$ e quantificar a incerteza sobre ele, particularmente em cenários envolvendo múltiplos módulos de dados onde alguns podem estar mal especificados.

Metodologia
Os autores propõem um quadro para inferência bayesiana sobre os hiperparâmetros de inferência $s$ utilizando dados de calibração retidos $y$. A ideia central é tratar a distribuição preditiva posterior dos dados de calibração, $p_s(y|x)$, como uma quantidade semelhante a uma verossimilhança para $s$. Duas distribuições posteriores distintas para $s$ são definidas com base em diferentes funções de perda:

1. Perda Agrupada (Pooled Loss): Definida como $l^{(1,J)}(s; y, x) = -\log p_s(y|x)$, onde $p_s(y|x) = \int p(y|\phi)\pi_s(\phi|x)d\phi$. Esta abordagem visa a cobertura do parâmetro "pseudo-verdadeiro" $\tilde{\phi}$ (o parâmetro que minimiza a divergência de Kullback-Leibler entre o processo gerador de dados verdadeiro e o modelo). O posterior resultante $\rho^{(1,J)}(s|y; x)$ não se concentra à medida que o tamanho dos dados de calibração $J \to \infty$, mas converge para uma distribuição difusa proporcional a $\pi_s(\tilde{\phi}|x)\rho(s)$.
2. Perda Produto (Product Loss): Definida como $l^{(J,1)}(s; y, x) = -\sum_{j=1}^J \log p_s(y_j|x)$, correspondendo à densidade preditiva pontual esperada negativa (ELPPD). Esta abordagem visa a minimização do risco preditivo. Sob condições de regularidade, o posterior resultante $\rho^{(J,1)}(s|y; x)$ concentra-se no hiperparâmetro ótimo $s^*$ a uma taxa de $J^{-1/2}$, com uma distribuição assintótica normal.

O artigo estende este quadro para a Inferência Semi-Modular (SMI), um cenário onde um modelo consiste em múltiplos módulos, alguns dos quais podem estar mal especificados. Os autores identificam a SMI como uma instância específica de um Posterior de Gibbs Sequencial (Winter et al., 2023). Eles introduzem uma nova variante, o posterior SMI $(\eta, \beta)$, que controla conjuntamente o fluxo de informações de um módulo suspeito (via $\eta$) e a robustez da função de perda (via $\beta$).

Principais Contribuições

• Estimação Conjunta de Hiperparâmetros: O artigo fornece um quadro unificado para a estimação conjunta da taxa de aprendizagem $\eta$ e dos hiperparâmetros de perda (por exemplo, $\beta$ na perda-$\beta$) utilizando dados retidos, indo além do ajuste de parâmetro único.
• Caracterização Teórica: Os autores estabelecem propriedades assintóticas para ambos os posteriores agrupado e produto. Eles provam que o posterior produto concentra-se nos hiperparâmetros ótimos para previsão, enquanto o posterior agrupado visa o parâmetro pseudo-verdadeiro. Eles também fornecem resultados para casos não regulares onde o $s$ ótimo reside na fronteira do espaço paramétrico (por exemplo, $\eta=0$ em modelos de Corte), mostrando convergência para uma distribuição Gama.
• Integração SMI: Ao enquadrar a SMI como um Posterior de Gibbs Sequencial, os autores importam teoremas existentes de consistência e Bernstein-von Mises (BvM) para o cenário modular, validando o comportamento assintótico da nova atualização SMI $(\eta, \beta)$.
• Estimadores: Vários estimadores para $s$ são propostos e comparados, incluindo a média posterior, o minimizador de perda (MAP), a média harmônica e um minimizador de divergência KL.

Resultados
Os métodos propostos foram avaliados através de estudos de simulação e uma aplicação real de análise de texto:

• Modelos de Mistura Normal e Espaço de Estados: Em experimentos sintéticos com modelos mal especificados, os hiperparâmetros aprendidos (particularmente via perda produto) superaram consistentemente a inferência bayesiana fixa ($\eta=1$) e os modelos de Corte ($\eta=0$) em termos de razões de risco esperado em dados de teste. A abordagem $(\eta, \beta)$-SMI demonstrou desempenho comparável ao $\eta$-SMI, mas com a flexibilidade adicional de funções de perda robustas, frequentemente alcançando risco menor do que as atualizações Bayesiana padrão ou de Corte.
• Análise de Texto (Mudança de Sentido): Aplicado a um corpus de texto inglês abrangendo 1810–2010 (o modelo EDiSC), o método foi usado para agrupar sentidos de palavras. As taxas de aprendizagem aprendidas $\hat{\eta}$ produziram probabilidades preditivas posteriores mais altas em dados de teste retidos em comparação com $\eta=1$ ou valores selecionados via verificações preditivas posteriores. Os agrupamentos resultantes mostraram coerência semântica aprimorada (medida por escores de Brier) em comparação com a inferência bayesiana padrão, lidando eficazmente com a má especificação do modelo e dados esparsos.
• Validação Assintótica: Simulações confirmaram as previsões teóricas: os posteriores produto concentraram-se em torno de valores ótimos à medida que $J$ aumentava, enquanto os posteriores agrupados permaneceram difusos, alinhando-se com os objetivos inferenciais distintos de previsão versus cobertura de parâmetros.

Significado e Alegações
O artigo alega que tratar hiperparâmetros de inferência como variáveis aleatórias com um posterior derivado de dados retidos fornece uma rota coerente para quantificação de incerteza e seleção ótima na Inferência Bayesiana Generalizada. Os autores enfatizam que a escolha entre calibração agrupada e produto corresponde a diferentes objetivos inferenciais (cobrir o parâmetro pseudo-verdadeiro versus maximizar a densidade preditiva) e, portanto, os hiperparâmetros ótimos resultantes não precisam coincidir.

O trabalho é particularmente significativo para inferência multi-modular, onde oferece uma maneira principiante de equilibrar o fluxo de informações entre módulos bem especificados e mal especificados sem recorrer a ajustes arbitrários. Os autores notam que, embora a abordagem seja computacionalmente intensiva para espaços de hiperparâmetros de alta dimensão, é prática para casos de baixa dimensão (por exemplo, $\eta$ e $\beta$) e oferece uma alternativa robusta a métodos como o WAIC, que podem ser pouco confiáveis em cenários de má especificação. O quadro apoia o uso de Bayes Generalizado em problemas complexos do mundo real envolvendo dados heterogêneos e má especificação de modelos.