Bayesian inference for the learning rate in Generalised Bayesian inference

Résumé technique : Inférence bayésienne pour le taux d'apprentissage dans l'inférence bayésienne généralisée

Énoncé du problème
L'inférence bayésienne généralisée (IBG) met à jour les croyances en utilisant une posterior de Gibbs de la forme $\pi_s(\phi|x) \propto \exp(-\eta \ell_\beta(\phi; x))\pi(\phi)$, où $\eta$ est un taux d'apprentissage et $\beta$ représente les hyperparamètres de la fonction de perte $\ell_\beta$. Bien que l'IBG soit efficace pour gérer la mauvaise spécification des modèles et combiner des ensembles de données hétérogènes, les hyperparamètres d'inférence $s = (\eta, \beta)$ ne peuvent pas être estimés conjointement avec les paramètres du modèle $\phi$ en leur attribuant simplement une loi a priori et en conditionnant sur les données. Le faire déforme la loi a posteriori pour $\phi$ en raison de la constante de normalisation $c(\phi, s)$. Par conséquent, les méthodes existantes reposent souvent sur une sélection ad hoc ou une validation croisée. Cet article répond au besoin d'un cadre cohérent pour estimer $s$ et quantifier l'incertitude qui l'entoure, en particulier dans des contextes impliquant plusieurs modules de données où certains peuvent être mal spécifiés.

Méthodologie
Les auteurs proposent un cadre pour l'inférence bayésienne sur les hyperparamètres d'inférence $s$ en utilisant des données de calibration retenues $y$. L'idée centrale consiste à traiter la distribution prédictive a posteriori des données de calibration, $p_s(y|x)$, comme une quantité de type vraisemblance pour $s$. Deux distributions a posteriori distinctes pour $s$ sont définies sur la base de différentes fonctions de perte :

1. Perte regroupée (Pooled Loss) : Définie comme $l^{(1,J)}(s; y, x) = -\log p_s(y|x)$, où $p_s(y|x) = \int p(y|\phi)\pi_s(\phi|x)d\phi$. Cette approche vise la couverture du paramètre « pseudo-vrai » $\tilde{\phi}$ (le paramètre minimisant la divergence de Kullback-Leibler entre le processus de génération de données réel et le modèle). La loi a posteriori résultante $\rho^{(1,J)}(s|y; x)$ ne se concentre pas lorsque la taille des données de calibration $J \to \infty$, mais converge vers une distribution diffuse proportionnelle à $\pi_s(\tilde{\phi}|x)\rho(s)$.
2. Perte produit (Product Loss) : Définie comme $l^{(J,1)}(s; y, x) = -\sum_{j=1}^J \log p_s(y_j|x)$, correspondant à la densité prédictive ponctuelle logarithmique attendue négative (ELPPD). Cette approche vise la minimisation du risque prédictif. Sous des conditions de régularité, la loi a posteriori résultante $\rho^{(J,1)}(s|y; x)$ se concentre sur l'hyperparamètre optimal $s^*$ à un taux de $J^{-1/2}$, avec une distribution asymptotique normale.

L'article étend ce cadre à l'Inférence Semi-Modulaire (SMI), un contexte où un modèle se compose de plusieurs modules, certains pouvant être mal spécifiés. Les auteurs identifient la SMI comme un cas spécifique d'une posterior de Gibbs séquentielle (Winter et al., 2023). Ils introduisent une nouvelle variante, la posterior $(\eta, \beta)$-SMI, qui contrôle conjointement le flux d'informations depuis un module suspect (via $\eta$) et la robustesse de la fonction de perte (via $\beta$).

Contributions clés

• Estimation conjointe des hyperparamètres : L'article fournit un cadre unifié pour l'estimation conjointe du taux d'apprentissage $\eta$ et des hyperparamètres de perte (par exemple, $\beta$ dans la perte $\beta$) en utilisant des données retenues, dépassant ainsi le réglage d'un seul paramètre.
• Caractérisation théorique : Les auteurs établissent des propriétés asymptotiques pour les posteriors regroupés et produits. Ils prouvent que le posterior produit se concentre sur les hyperparamètres optimaux pour la prédiction, tandis que le posterior regroupé vise le paramètre pseudo-vrai. Ils fournissent également des résultats pour des cas non réguliers où l'optimal $s$ se situe sur la frontière de l'espace des paramètres (par exemple, $\eta=0$ dans les modèles Cut), montrant une convergence vers une distribution Gamma.
• Intégration SMI : En présentant la SMI comme une posterior de Gibbs séquentielle, les auteurs importent des théorèmes existants de consistance et de Bernstein-von Mises (BvM) vers le contexte modulaire, validant ainsi le comportement asymptotique de la nouvelle mise à jour $(\eta, \beta)$-SMI.
• Estimateurs : Plusieurs estimateurs pour $s$ sont proposés et comparés, notamment la moyenne a posteriori, le minimiseur de perte (MAP), la moyenne harmonique et un minimiseur de divergence KL.

Résultats
Les méthodes proposées ont été évaluées par le biais d'études de simulation et d'une application réelle d'analyse de texte :

• Modèles de mélanges normaux et modèles à espace d'état : Dans des expériences synthétiques avec des modèles mal spécifiés, les hyperparamètres appris (en particulier via la perte produit) ont systématiquement surpassé l'inférence bayésienne fixe ($\eta=1$) et les modèles Cut ($\eta=0$) en termes de rapports de risque attendus sur les données de test. L'approche $(\eta, \beta)$-SMI a démontré des performances comparables à l'approche $\eta$-SMI, mais avec la flexibilité ajoutée de fonctions de perte robustes, atteignant souvent un risque inférieur à celui des mises à jour bayésiennes standard ou Cut.
• Analyse de texte (Changement de sens) : Appliquée à un corpus de textes anglais couvrant la période 1810–2010 (le modèle EDiSC), la méthode a été utilisée pour regrouper les sens des mots. Les taux d'apprentissage appris $\hat{\eta}$ ont produit des probabilités prédictives a posteriori plus élevées sur les données de test retenues par rapport à $\eta=1$ ou à des valeurs sélectionnées via des vérifications prédictives a posteriori. Les regroupements résultants ont montré une cohérence sémantique améliorée (mesurée par les scores de Brier) par rapport à l'inférence bayésienne standard, gérant efficacement la mauvaise spécification du modèle et les données éparses.
• Validation asymptotique : Les simulations ont confirmé les prédictions théoriques : les posteriors produits se sont concentrés autour des valeurs optimales à mesure que $J$ augmentait, tandis que les posteriors regroupés sont restés diffus, s'alignant ainsi sur les objectifs d'inférence distincts de la prédiction par rapport à la couverture des paramètres.

Signification et affirmations
L'article affirme que traiter les hyperparamètres d'inférence comme des variables aléatoires avec une loi a posteriori dérivée de données retenues offre une voie cohérente pour la quantification de l'incertitude et la sélection optimale dans l'inférence bayésienne généralisée. Les auteurs soulignent que le choix entre la calibration regroupée et la calibration produit correspond à des objectifs d'inférence différents (couvrir le paramètre pseudo-vrai par rapport à maximiser la densité prédictive), et donc, les hyperparamètres optimaux résultants ne doivent pas nécessairement coïncider.

Ce travail est particulièrement significatif pour l'inférence multi-modulaire, où il offre une manière fondée de équilibrer le flux d'informations entre des modules bien spécifiés et mal spécifiés sans recourir à un réglage arbitraire. Les auteurs notent que, bien que l'approche soit computationnellement intensive pour des espaces d'hyperparamètres de haute dimension, elle est pratique pour des cas de faible dimension (par exemple, $\eta$ et $\beta$) et offre une alternative robuste à des méthodes comme le WAIC, qui peuvent être peu fiables dans des contextes de mauvaise spécification. Le cadre soutient l'utilisation de Bayes généralisé dans des problèmes complexes et réels impliquant des données hétérogènes et une mauvaise spécification des modèles.