Mode Collapse in Nested Sampling

Résumé Technique : Effondrement de Mode dans l'Échantillonnage Imbriqué

Énoncé du Problème
L'échantillonnage imbriqué (nested sampling) est un algorithme de Monte Carlo largement utilisé pour la comparaison de modèles bayésiens et l'inférence de la distribution a posteriori, particulièrement apprécié pour sa robustesse face aux distributions a posteriori multimodales. L'algorithme maintient une population de $K$ « points vivants » échantillonnés à partir de la distribution a priori. À chaque itération, le point ayant la vraisemblance la plus faible est écarté et remplacé par un nouveau échantillon tiré de la distribution a priori, contraint d'avoir une vraisemblance supérieure à celle du point écarté.

Bien que l'algorithme soit conçu pour éliminer naturellement les modes invalidés par les données, cet article identifie un mode de défaillance spécifique : l'extinction accidentelle de mode (ou effondrement de mode). Cela se produit lorsque la nature stochastique du réapprovisionnement des points provoque l'abandon involontaire d'un mode valide, même si les données le soutiennent. Ce risque est particulièrement aigu dans les contextes de haute dimension et multimodaux, où les chaînes de Markov utilisées pour le remplacement (par exemple, l'échantillonnage par tranches ou slice sampling, ou le hit-and-run) peinent à traverser des modes déconnectés. Si un mode perd tous ses points vivants, l'échantillonneur ne peut plus le redécouvrir, ce qui conduit à une distribution a posteriori biaisée et à une estimation incorrecte de l'évidence.

Méthodologie
L'auteur développe un modèle probabiliste pour quantifier la probabilité d'un effondrement accidentel, en s'appuyant sur une analogie avec le processus de Moran neutre en génétique des populations.

1. Hypothèses et Modèle d'État :

   • Le système est modélisé avec deux modes (0 et 1) possédant des masses de la distribution a priori contraintes respectives de $p$ et $1-p$.
   • La population est composée de $K$ points vivants. L'état est défini par $i$, le nombre de points vivants dans le mode 1.
   • L'analyse suppose que l'échantillonneur de la distribution a priori restreinte par la vraisemblance (LRPS) est fidèle (échantillonne proportionnellement à la masse restante) et que la redécouverte de mode est négligeable une fois qu'un mode est vide.
   • Pour fournir une estimation conservatrice, le modèle suppose des gradients de vraisemblance égaux dans les deux modes. Cela simplifie la probabilité de suppression pour qu'elle soit proportionnelle à l'occupation actuelle ($i/K$), ignorant le fait que des gradients plus abrupts pourraient en réalité protéger un mode de la suppression.

2. Dynamique de Transition :

   • À chaque itération, un point est supprimé et un remplacement est généré sur la base d'une graine tirée uniformément parmi les $K$ points vivants actuels.
   • Sous l'hypothèse d'un gradient égal, la probabilité que l'état $i$ passe à $i+1$, $i-1$, ou reste $i$ suit une marche aléatoire symétrique sur l'ensemble $\{0, 1, \dots, K\}$.
   • Les états $0$ et $K$ sont absorbants (une fois qu'un mode est vide ou totalement occupé, il le reste).

3. Évaluation Numérique :

   • La distribution de probabilité des états au cours du temps est calculée en multipliant itérativement la distribution binomiale initiale (Éq. 1) par la matrice de transition définie par les probabilités de marche aléatoire (Éqs. 2–4).
   • La « probabilité d'effondrement évoluée » $P_{evol}(t)$ est calculée comme la probabilité conditionnelle d'atteindre un état absorbant à l'itération $t$, étant donné que les deux modes étaient initialement peuplés.

Résultats Clés
L'évaluation numérique révèle que la probabilité d'effondrement de mode suit une courbe sigmoïde lorsqu'elle est tracée en fonction du nombre d'itérations. Crucialement, les courbes pour différentes valeurs de $K$ et $p$ s'alignent lorsque le nombre d'itérations est normalisé par le facteur $K^2 \times \min(p, 1-p)$.

• Loi d'Échelle : La probabilité d'un effondrement de mode évolué reste inférieure à 50 % tant que le nombre d'itérations $t$ satisfait $t \lesssim K^2 \times \min(p, 1-p)$.
• Règle Heuristique : Puisque le nombre total d'itérations requis pour passer de la distribution a priori à la distribution a posteriori est approximativement $K \times H$ (où $H$ est le gain d'information ou la divergence de KL), l'article déduit une règle empirique pour le nombre minimal de points vivants requis afin de rendre l'effondrement accidentel peu probable :
  $$K \gtrsim \frac{H}{\min(p, 1-p)}$$
  Pour obtenir une probabilité d'effondrement bien inférieure à 50 %, $K$ doit largement dépasser cette borne inférieure d'un facteur de quelques unités.

Signification et Revendications
L'article affirme fournir un cadre général, indépendant de la dimension, pour comprendre le risque d'effondrement de mode dans l'échantillonnage imbriqué. Sa contribution principale est la dérivation d'une simple heuristique (Éq. 10) qui lie le nombre de points vivants nécessaire $K$ au gain d'information $H$ et à la fraction de masse du plus petit mode $p$.

L'auteur note que pour des gains d'information typiques ($H \sim 10\text{--}1000$ nats) et une fraction de mode minimale modeste ($p=0.1$), la règle suggère des valeurs de $K$ comprises entre 100 et 10 000. Cependant, l'article conclut modestement que, sous les configurations couramment utilisées dans la littérature, l'extinction accidentelle de mode est probablement « extrêmement rare ». L'analyse sert d'outil de diagnostic : après une exécution initiale, l'Éq. 10 peut être utilisée pour estimer la probabilité qu'un effondrement de mode involontaire se soit produit.

L'article contextualise également ses résultats par rapport aux méthodes de prévention dynamique existantes (par exemple, le regroupement (clustering) de MultiNest ou l'échantillonnage imbriqué réactif d'UltraNest), notant que si ces méthodes reposent sur la détection de modes pour allouer les ressources, la loi d'échelle dérivée offre une ligne de base fondamentale pour fixer $K$ afin d'assurer la rétention sans regroupement explicite.