Mode Collapse in Nested Sampling

Technische Samenvatting: Mode Collapse in Nested Sampling

Probleemstelling
Nested sampling is een Monte Carlo-algoritme dat breed wordt gebruikt voor Bayesiaanse modelvergelijking en posterior-inferentie, en wordt met name gewaardeerd om zijn robuustheid bij het afhandelen van multi-modale posteriors. Het algoritme onderhoudt een populatie van $K$ "live points" die zijn gesampled uit de prior. In elke iteratie wordt het punt met de laagste likelihood verwijderd en vervangen door een nieuwe sample die uit de prior is getrokken, onder de voorwaarde dat deze een hogere likelihood heeft dan het verwijderde punt.

Hoewel het algoritme ontworpen is om modi die door de data worden uitgesloten natuurlijk te elimineren, identificeert dit artikel een specifieke faalmodus: accidentele mode die-out (of mode collapse). Dit gebeurt wanneer de stochastische aard van de puntvervanging ervoor zorgt dat een geldige modus onbedoeld wordt verlaten, zelfs als de data deze ondersteunt. Dit risico is bijzonder groot in hoog-dimensionale, multi-modale settings waar de Markov-ketens die voor vervanging worden gebruikt (bijv. slice sampling, hit-and-run) moeite hebben om gedisconnecteerde modi te doorkruisen. Als een modus al zijn live points verliest, kan de sampler deze niet meer herontdekken, wat leidt tot een vertekende posterior en een incorrecte schatting van de evidence.

Methodologie
De auteur ontwikkelt een probabilistisch model om de waarschijnlijkheid van deze accidentele instorting te kwantificeren, waarbij een analogie wordt getrokken met het neutrale Moran-proces in de populatiegenetica.

1. Aannames en State Model:

   • Het systeem wordt gemodelleerd met twee modi (0 en 1) met fractionele geconstraineerde prior-massa's $p$ en $1-p$.
   • De populatie bestaat uit $K$ live points. De staat wordt gedefinieerd door $i$, het aantal live points in modus 1.
   • De analyse gaat ervan uit dat de likelihood-restricted prior sampler (LRPS) getrouw is (sampled proportioneel aan de resterende massa) en dat herontdekking van een modus verwaarloosbaar is zodra een modus leeg is.
   • Om een conservatieve schatting te geven, neemt het model aan dat beide modi gelijke likelihood-gradiënten hebben. Dit vereenvoudigt de verwijderingskans tot een proportie van de huidige bezetting ($i/K$), waarbij wordt genegeerd dat steilere gradiënten een modus juist zouden kunnen beschermen tegen verwijdering.

2. Transitie-dynamiek:

   • In elke iteratie wordt een punt verwijderd en wordt een vervanging gegenereerd op basis van een seed die uniform is getrokken uit de huidige $K$ live points.
   • Onder de aanname van gelijke gradiënten volgt de waarschijnlijkheid dat de staat $i$ verandert naar $i+1$, $i-1$, of gelijk blijft bij $i$, een symmetrische random walk op de verzameling $\{0, 1, \dots, K\}$.
   • Staten $0$ en $K$ zijn absorberend (zodra een modus leeg is of volledig bezet is, blijft deze zo).

3. Numerieke Evaluatie:

   • De waarschijnlijkheidsverdeling van de staten over de tijd wordt berekend door de initiële binomiale verdeling (Eq. 1) iteratief te vermenigvuldigen met de transitie-matrix die wordt gedefinieerd door de random walk-waarschijnlijkheden (Eqs. 2–4).
   • De "geëvolueerde instortingskans" $P_{evol}(t)$ wordt berekend als de conditionele waarschijnlijkheid om een absorberende staat te bereiken bij iteratie $t$, gegeven dat beide modi initieel gepopuleerd waren.

Belangrijkste Resultaten
De numerieke evaluatie laat zien dat de waarschijnlijkheid van mode collapse een sigmoïde curve volgt wanneer deze wordt uitgezet tegen het aantal iteraties. Cruciaal is dat de curves voor verschillende waarden van $K$ en $p$ samenvallen wanneer het aantal iteraties wordt genormaliseerd door de factor $K^2 \times \min(p, 1-p)$.

• Scaling Law: De waarschijnlijkheid van geëvolueerde mode collapse blijft onder de 50% zolang het aantal iteraties $t$ voldoet aan $t \lesssim K^2 \times \min(p, 1-p)$.
• Heuristische Regel: Aangezien het totale aantal iteraties dat vereist is om van prior naar posterior te updaten ongeveer $K \times H$ is (waarbij $H$ de informatiegain of KL-divergentie is), leidt het artikel een vuistregel af voor het minimale aantal live points dat nodig is om accidentele collapse onwaarschijnlijk te maken:
  $$K \gtrsim \frac{H}{\min(p, 1-p)}$$
  Om een collapse-waarschijnlijkheid ruim onder deze 50% te krijgen, moet $K$ deze ondergrens comfortabel overstijgen met een factor van enkele malen.

Betekenis en Claims
Het artikel claimt een algemeen, dimensie-onafhankelijk kader te bieden voor het begrijpen van het risico op mode collapse in nested sampling. De primaire bijdrage is de afleiding van een eenvoudige heuristiek (Eq. 10) die de benodigde populatiegrootte $K$ koppelt aan de informatiegain $H$ en de fractionele massa van de kleinste modus $p$.

De auteur merkt op dat voor typische informatie gains ($H \sim 10\text{--}1000$ nats) en een bescheiden kleinste-modus-fractie ($p=0.1$), de regel $K$-waarden suggereert in de orde van grootte van 100–10.000. Echter, het artikel concludeert bescheiden dat onder veelgebruikte configuraties in de literatuur, accidentele mode die-out waarschijnlijk "extreem zeldzaam" is. De analyse dient als een diagnostisch instrument: na een initiële run kan Eq. 10 worden gebruikt om de waarschijnlijkheid te schatten dat onbedoelde mode die-out heeft plaatsgevonden.

Het artikel plaatst de bevindingen ook in de context van bestaande dynamische preventiemethoden (bijv. clustering van MultiNest of reactieve nested sampling van UltraNest), waarbij wordt opgemerkt dat hoewel die methoden vertrouwen op het detecteren van modi om middelen toe te wijzen, de afgeleide scaling law een fundamentele baseline biedt voor het instellen van $K$ om behoud te garanderen zonder expliciete clustering.