Résumé Technique : La Voie de Préchauffage Universelle

1. Énoncé du Problème

L'échantillonnage de Monte Carlo par Hamiltonian (HMC) et sa variante adaptative, NUTS, reposent sur des évaluations de gradients locaux pour explorer une distribution cible $\pi$. L'efficacité de ces mouvements locaux est régie par la géométrie globale de la distribution postérieure, spécifiquement la structure de covariance de la cible. Le préchauffage (warmup) est la phase critique où l'échantillonneur doit apprendre cette géométrie à partir de la partie la plus peu fiable de l'exécution : les trajectoires corrélées avant que la représentativité ne soit établie.

Les implémentations actuelles de préchauffage reposent généralement sur des calendriers fixes et des choix heuristiques. Les utilisateurs doivent présélectionner la famille de métriques (ex: diagonale, bas rang, Fisher), définir un budget de calcul et déterminer comment réagir à une géométrie incompatible. Bien que les mécanismes d'adaptation individuels (taille de pas, estimation de la métrique) soient bien étudiés, leur orchestration manque d'un cadre unifié fondé sur des preuves. Cet article répond au besoin d'une « théorie cohérente du réglage des hyperparamètres de l'échantillonneur » qui connecte l'adaptation locale, la géométrie globale et le refus explicite lorsque la couverture globale ne peut être établie.

2. Méthodologie : La Voie de Préchauffage Universelle

L'article propose une Voie de Préchauffage Universelle, un cadre procédural indépendant de l'échantillonneur qui traite le préchauffage comme un système dynamique hybride de type « route plus métrique ».

Philosophie Centrale

Le cadre utilise une boussole unique, la référence de covariance universelle indépendante de l'échantillonneur $\Sigma_\pi = \text{Cov}_\pi(X)$, pour guider les décisions. Cependant, il permet à différentes « routes » (branches d'estimateurs) de déployer leurs propres métriques spécifiques (ex: diagonale, bas rang intra-groupe, bas rang entre-moyennes). Le système opère selon une discipline de collecte de preuves, action, attente ou refus.

Le Contrôleur et la Logique de Décision

L'implémentation est un contrôleur à porte scalaire qui opère sur un calendrier fixe de fenêtres de métriques, déterminé par la dimension $d$, le nombre de chaînes $M$ et le budget total de gradients $B$.

• Initialisation : Commence par une métrique diagonale.
• Collecte de Preuves : Aux points terminaux des fenêtres prescrites, le contrôleur évalue des tests structurels (intra-chaîne $W$ et entre-moyennes $T$) et des vérifications de fiaçabilité de la métrique ($R^2$).
• Résultats de Décision :
  • Agir (Act) : Si les preuves soutiennent une route spécifique (ex: $W$ indique une structure bas rang intra-groupe), le contrôleur déploie cette métrique et préserve le « verrou » (ne pas rétrograder pendant l'épisode).
  • Attendre (Wait) : Si les preuves sont inconcluantes ou insuffisantes, la métrique reste diagonale et le système passe à la fenêtre planifiée suivante, plus large.
  • Refuser/Passer la main (Refuse/Handoff) : Si les preuves indiquent une géométrie incompatible (ex: entonnoirs/funnels, couplage d'échelle ou désaccord régional persistant), le système refuse de certifier une métrique globale constante. Au lieu de cela, il émet des avis :
    • Reparamétrage : Pour les entonnoirs ou le couplage d'échelle.
    • Passage de main à la population : Pour les mélanges régionaux, suggérant une méthode de population ou d'ensemble compagne.
• Terminaison : Les derniers 15 % du budget sont dédiés uniquement à l'adaptation de la taille du pas.

Fondements Théoriques

L'article formalise la dynamique en utilisant des Théorèmes d'Attracteurs Indexés par la Route.

• Dynamique d'Attracteur : Une fois qu'une route est promue, les itérés sont attirés vers une carte de métrique de population $G^\star_a = T_a(\pi)$ dans un espace de chartes log-SPD borné.
• Bornes d'Erreur de Fenêtre Finie : La convergence est conditionnelle à un budget d'erreur explicite comprenant la loi de départ, la taille de pas adaptative, le blanchiment, la fluctuation de l'échantillonnage et les erreurs de régularisation.
• Incertitude et Portes : Le cadre utilise des événements de confiance d'opérateur (basés sur les CLT de Markov et la concentration de matrices) pour déterminer si l'ensemble de confiance d'une route franchit une région d'éligibilité.
• Limites du Transcript Local : Une contribution théorique clé est le Théorème d'Indistinguabilité du Transcript Local. Il établit que les preuves structurelles issues des états visités ne peuvent certifier les régions non visitées. Si un algorithme reste confiné dans une région locale $A$ pour un horizon fini, il ne peut distinguer des cibles qui concordent sur $A$ mais diffèrent globalement. Cela justifie le résultat de « Refus » comme une sauvegarde nécessaire contre les fausses affirmations globales.

3. Contributions Clés

1. Théorème d'Attracteur Indexé par la Route : Fournit des termes d'erreur de fenêtre finie explicites pour la convergence de la métrique, conditionnels à une marge de route et un budget d'erreur de mise à jour.
2. Construction d'Incertitude de Transcript de Markov : Développe des conséquences d'opérateur pour les ensembles de confiance spécifiques à la route, définissant les marges requises pour des portes structurelles sûres.
3. Borne d'Information de Transcript Local à Horizon Fini : Prouve que les transcripts locaux ne peuvent certifier une couverture globale, formalisant les limites de ce que des preuves confinées peuvent établir.
4. Implémentation par Porte Scalaire : Un contrôleur pratique qui sépare l'identification, la cohérence et l'utilité, implémentant la discipline « agir-attendre-refuser » sans nécesser d'objets de confiance complexes dans le code final.
5. Validation Empirique : Démontre qu'un préchauffage automatique surpasse les stratégies prédéclarées sur des problèmes mal conditionnés tout en identifiant correctement et en refusant de certifier la couverture globale dans les cas de désaccord régional.

4. Résultats Empiriques

L'article évalue la voie proposée par rapport à une primaire de Fisher bas rang prédéclarée et un contrôle diagonal à travers plusieurs benchmarks.

• Performance : Sur une suite de problèmes mal conditionnés, le préchauffage automatique a atteint des ratios ESS-par-gradient de moyenne géométrique de 1,409–2,451 par rapport à la primaire de Fisher bas rang, et 1,131–1,951 sur le jeu de données German Credit.
• Efficience : Comparé à une implémentation historique à calendrier fixe, la voie automatique a utilisé nettement moins de gradients de préchauffage (19 à 35 fois moins dans certaines cellules) tout en respectant les mêmes critères de qualité post-échantillonnage (split-$\hat{R}$ normalisé par rang fini, zéro divergence).
• Robustesse : Dans les 36 cellules testées (12 mal conditionnées, 12 German Credit, plus des variantes HMC multinomiales/à longueur fixe), le préchauffage automatique a sélectionné des métriques bas rang lorsque cela était approprié et a passé tous les contrôles de qualité de population post-échantillonnage.
• Mécanisme de Refus : Dans des expériences contrôlées de mélange Gaussien où le spectre marginal était fixe mais où un désaccord régional existait, le système a correctement émis des avis de passage de main plutôt que de certifier faussement une métrique globale. Le résultat de « Refus » était une opération intentionnelle et réussie, et non un échec.

5. Signification et Revendications

L'article affirme fournir une approche procéduralement universelle du préchauffage qui remplace les calendriers heuristiques par un routage fondé sur des preuves. Sa signification réside dans :

• Découplage du Local et du Global : Il sépare explicitement la capacité à trouver une métrique locale efficace de la capacité à certifier l'exploration globale.
• Refus Explicite : Il recadre le « refus » (conseil de reparamétrage ou passage de main de population) non pas comme un échec de la métrique, mais comme une détection réussie d'une géométrie qu'une métrique constante unique ne peut gérer.
• Rigueur Théorique : Il connecte la conception de contrôleurs pratiques avec les bornes d'information à horizon fini et l'incertitude des opérateurs, allant au-delà des garanties asymptotiques pour fournir des diagnostics exploitables à erreur bornée pour des exécutions finies.

Les auteurs soulignent que la voie proposée ne garantit pas l'exploration globale ; elle fournit plutôt un mécanisme cohérent pour détecter quand l'exploration globale n'est pas établie par le transcript actuel, évitant ainsi une inférence trop confiante. Le travail est implémenté dans la bibliothèque BlackJAX, offrant un cadre d'inférence composable pour ces stratégies adaptatives.