Robust Surrogate-Based Bayesian Inference via Sampling-Based Adaptive Active Learning (SALE)

Résumé technique : Inférence bayésienne robuste basée sur des substituts via l'apprentissage actif adaptatif par échantillonnage (SALE)

Énoncé du problème
Les méthodes d'inférence bayésienne standard, telles que le Monte Carlo par chaînes de Markov (MCMC), deviennent calculatoirement intraitables lorsque les évaluations de la vraisemblance ou du log-postérieur sont coûteuses. Cette dépense survient dans des scénarios impliquant des simulateurs, des constantes de normalisation dépendantes des paramètres, des intégrations répétées sur des structures latentes, ou des solutions numériques à des problèmes inverses. Sous des budgets d'évaluation limités, les approches existantes basées sur des substituts (surrogates) font face à une tension fondamentale : elles doivent simultanément localiser les régions de masse postérieure élevée et calibrer la précision du modèle de substitut dans ces régions.

Les méthodes existantes reposent souvent exclusivement sur l'optimisation bayésienne (BO) pour trouver les régions de haute probabilité ou sur la réduction d'incertitude (UR) pour affiner le substitut. Cependant, les stratégies de BO pure traitent souvent le log-postérieur comme une fonction objectif boîte noire, échouant à exploiter les structures de densité de log et explorant potentiellement des régions non pertinentes. Inversement, les stratégies d'UR pondérées par le postérieur peuvent être induites en erreur par une incertitude élevée lors des premières étapes de l'apprentissage, gaspillant des évaluations dans des régions de masse postérieure réelle négligeable. De plus, les garanties théoriques pour les conceptions séquentielles d'UR pondérées par le postérieur sont généralement absentes, particulièrement concernant les bornes explicites dépendantes du budget de l'erreur d'approximation du postérieur du substitut final.

Méthodologie : Apprentissage actif adaptatif par échantillonnage (SALE)
L'auteur propose SALE, un cadre d'apprentissage actif basé sur des processus gausiens (GP) qui unifie la localisation et la calibration par une mesure de conception séquentielle commune : le Postérieur Attendu (Expected Posterior, EP), noté $\bar{\pi}_t$.

1. Le Postérieur Attendu (EP) :
   Au lieu d'utiliser la moyenne du processus gaussien ($\mu_t$) comme seul substitut, SALE utilise l'EP, défini comme la moyenne des lois postérieures induites par les trajectoires d'échantillonnage du GP : $\bar{\pi}_t(A) = \int \pi(A|g) P_t(dg)$. Théoriquement, $\bar{\pi}_t$ minimise la perte de divergence de Kullback–Leibler (KL) conditionnelle attendue parmi les estimateurs donnés l'information actuelle. Crucialement, SALE utilise $\bar{\pi}_t$ non seulement comme un résultat inférentiel, mais aussi comme la loi directrice pour la conception séquentielle.

2. Allocation dépendante de l'état :
   SALE alloue dynamiquement le budget d'évaluation entre deux branches basées sur un état latent $S_t$ :

   • Localisation (BO) : Lorsque la résolution de conception autour du maximiseur actuel est faible, l'algorithme donne la priorité à la BO pour localiser les régions de haute postérieure.
   • Calibration (UR) : À mesure que la résolution s'améliore, l'algorithme bascule vers l'UR pour garantir la précision de l'approximation dans les régions pertinentes pour l'inférence.
     Un proxy pour la probabilité de découverte de valeurs non résolues est utilisé pour déterminer l'allocation, garantissant que l'UR reçoit une fraction asymptotique positive des évaluations.

3. Objectif Recuit (AO) pour la BO :
   Pour la branche de localisation, SALE introduit l'Objectif Recuit (Annealed Objective, AO), qui fait la moyenne des lois postérieures $\tau$-tempérées induites par les trajectothées d'échantillonnage du GP.

   • À $\tau=1$, l'AO est égal à l'EP ($\bar{\pi}_t$).
   • Lorsque $\tau \to 0$, l'AO approche l'échantillonnage de Thompson (TS).
   • Le recuit $\tau$ positif régularise la loi de requête contre les perturbations de trajectoire du substitut, fournissant une stabilité que le TS n'a pas lorsque le substitut est hautement incertain (par exemple, contenant des pics artificiels étroits).
   • L'échantillonnage à partir de l'AO est réalisé via un Recuit par Échange (ESA), qui gère les constantes de normalisation intraitables en introduisant des tirages auxiliaires.

4. Calibration pondérée par l'EP (UR) :
   Pour la branche de calibration, SALE définit une règle d'UR idéale qui maximise la réduction attendue d'une fonctionnelle de variance contrôlant la distance de Variation Totale (TV) entre l'EP et le vrai postérieur.

   • La règle idéale est coûteuse en calcul. SALE implémente un proxy pratique qui restreint les candidats à l'échantillon actuel de l'EP, utilise un tempérage de poids dépendant de l'état (inclinant vers les moyennes GP élevées pendant la localisation), et emploie un proxy de classement local basé sur l'incertitude du GP et la moyenne postérieure.

Contributions Clés

1. Mesure de conception unifiée : SALE est le premier cadre utilisant le Postérieur Attendu ($\bar{\pi}_t$) comme mesure de conception séquentielle commune pour la restriction de région (localisation) et la calibration.
2. Compromis Stabilité-Optimisation : L'article caractérise le compromis de l'Objectif Recuit (AO). Il prouve que le recuit $\tau$ positif stabilise la distribution de requête contre les perturbations du substitut (via une borne de continuité $W_{1,\infty}$-vers-TV) tout en quantifiant la pénalité d'optimisation associée via des bornes de regret bayésien.
3. Garanties théoriques pour l'UR : L'auteur dérive une borne explicite dépendant du budget de l'erreur de TV attendue du EP final sous une conception d'UR pondérée par le postérieur séquentiel idéale. Ils établissent également un taux de TV attendu pour le proxy d'UR implémenté, montrant qu'il correspond à l'ordre polynomial de la règle idéale à des facteurs logarithmiques près.
4. Robustesse : Le cadre est conçu pour éviter les échecs sévères observés chez les bases externes en basculant de manière adaptative entre la localisation et la calibration.

Résultats et Performance Empirique
L'auteur évalue SALE à travers des benchmarks analytiques (ex: Gaussienne à queue quartique, Entonnoir de Neal, Rosenbrock, Mélange bimodal), des vraisemblances simulées (GRF de Matérn spatiale, problème inverse de Lotka–Volterra) et deux applications réelles (modèles de choix discrets dynamiques pour le remplacement de moteurs de bus et détection de galaxies ultra-diffuses).

• Robustesse : Bien qu'aucune méthode ne domine toutes les approches en termes de taux de convergence médiane, SALE démontre une robustesse supérieure. Il réduit systématiquement l'erreur de Variation Totale (TV) dans tous les contextes et évite les échecs sévères (erreurs TV élevées) observés dans plusieurs bases externes (ex: GP-UCB, entropie log-GP).
• Localisation vs Calibration : Les études d'ablation confirment que la combinaison de la restriction guidée par $\bar{\pi}_t$, de l'allocation dépendante de l'état et de l'Objectif Recuit est critique. Supprimer la phase de localisation (UR-Only) ou la restriction (No Restriction) conduit à une erreur et une variabilité nettement plus élevées.
• Applications :
  • Dans le modèle de Remplacement de Moteur de Bus, SALE a atteint une approximation postérieure comparable à une chaîne MCMC de référence (initialisée au mode de SALE) en utilisant seulement 520 évaluations de vraisemblance contre 40 000 pour la référence, soit une réduction d'environ 77 fois.
  • Dans la détection de Galaxies Ultra-Diffuses (UDG), SALE a produit des marginales postérieures plus fiables pour les paramètres non linéaires et une carte d'intensité résiduelle plus précise par rapport à un substitut GP-UCB et une approche de linéarisation itérative (inlabru).

Signification et Revendications
L'article affirme que SALE fournit un cadre principled et robuste pour l'inférence bayésienne lorsque les évaluations de vraisemblance sont coûteuses. En exploitant le Postérieur Attendu comme une loi de conception unificatrice, SALE comble efficacement le fossé entre la recherche de régions de haute probabilité et la calibration du substitut dans celles-ci. Les contributions théoriques fournissent les premières bornes explicites dépendantes du budget pour les conceptions d'UR pondérées par le postérieur séquentiel, comblant un fossé entre la théorie et la pratique à budget fini. Les résultats empiriques suggèrent qu'une conception séquentielle, couplée à une exploitation rigoureuse de la structure du postérieur (via l'EP et l'AO), peut supporter une inférence bayésienne fiable là où les méthodes traditionnelles échouent ou nécessitent des ressources prohibitives.