Design-Conditional Prior Elicitation for Dirichlet Process Mixtures: A Unified Framework for Cluster Counts and Weight Control

Technische Samenvatting: Design-Conditional Prior Elicitatie voor Dirichlet Process Mixtures

Probleemstelling
Dirichlet Process Mixture (DPM) modellen worden breed toegepast in educatief en gedragswetenschappelijk onderzoek voor semiparametrische Bayesiaanse analyse, waarbij de data de latente structuren onthullen zonder restrictieve parametrische aannames. Een kritische barrière voor de effectieve toepassing hiervan is echter de specificatie van de concentratieparameter, $\alpha$. Deze parameter bepaalt zowel het verwachte aantal bezette clusters ($K_J$) als de verdeling van de menggewichten.

Beoefenaars hebben doorgaans geen directe intuïtie over $\alpha$, maar kunnen wel overtuigingen formuleren over design-relevante grootheden, zoals het verwachte aantal onderscheidende subgroepen binnen een vaste set van $J$ eenheden (bijv. locaties in een multisite-trial). Dit creëert een "translatiekloof" tussen substantiële domeinkennis en de technische hyperparameters die vereist zijn door software. Bestaande oplossingen kampen met drie primaire beperkingen:

1. Translatiekloof: Er is geen standaard gesloten vorm van een mapping van overtuigingen over $K_J$ naar de vorm- en snelheidsparameters $(a, b)$ van een Gamma hyperprior ($\alpha \sim \text{Gamma}(a, b)$).
2. Computationele kloof: Kalibratiemethoden vertrouwen vaak op grid searches of herhaalde MCMC-runs om de Kullback–Leibler divergentie te minimaliseren, wat systematische sensitiviteitsanalyse computationeel prohibitief maakt.
3. Coherentiekloof: Het kalibreren van een prior uitsluitend om aan te sluiten bij overtuigingen over cluster-aantallen garandeert niet dat de geïmpliceerde menggewichten overeenstemmen met de substantiële verwachtingen. Een prior die een plausibele $K_J$ oplevert, kan onbedoeld een hoge waarschijnlijkheid van "gewichtsdominantie" (waarbij één cluster de meerderheid van de massa opeist) coderen, een fenomeen dat de "onbedoelde prior" wordt genoemd.

Methodologie: Design-Conditional Elicitation (DCE)
Het artikel stelt Design-Conditional Elicitation (DCE) voor, een verenigd kader dat de overtuigingen van de beoefenaar over de clusterstructuur vertaalt naar coherente Gamma hyperpriors voor een vaste design-grootte $J$. Het kader bestaat uit twee kerncomponenten:

1. Two-Stage Moment Matching (TSMM):

   • Fase 1 (Closed-Form Initialisatie): Maakt gebruik van een verschoven Negative Binomial proxy, afgeleid van de Poisson–Gamma conjugatie, om een closed-form initialisatie voor $(a, b)$ te bieden op basis van de doelgemiddelde ($\mu_K$) en variantie ($\sigma^2_K$) van $K_J$. Deze stap maakt gebruik van de benadering $K_J - 1 | \alpha \approx \text{Poisson}(\alpha \log J)$.
   • Fase 2 (Exacte Verfijning): Past een exacte Newton-verfijning toe in de log-parameterruimte om de doelmomenten af te dwingen onder de ware eindige-$J$ Dirichlet process-geïnduceerde verdeling. Deze fase gebruikt analytische afgeleiden van de conditionele momenten van $K_J$ (met betrekking tot digamma- en trigamma-functies) en numerieke integratie (Gauss–Laguerre kwadratuur) om de moment-matching vergelijkingen op te lossen.
   • Efficiëntie: Deze twee-fasen aanpak elimineert de noodzaak van grid search en bereikt machine-precisie kalibratie in ongeveer 50 milliseconden (een versnelling van circa 900 keer ten opzichte van discrepancy-optimalisatie benaderingen).

2. Dual-Anchor Protocol:

   • In het besef dat het matchen van $K_J$ momenten de concentratie van gewichten niet controleert, verplicht DCE het rapporteren van gewicht-diagnostica, specifiek tail probabilities zoals $\Pr(w_1 > 0.5)$ en $\Pr(w_1 > 0.9)$, waarbij $w_1$ het eerste stick-breaking gewicht is.
   • Indien een door TSMM gekalibreerde prior een onacceptabel risico op dominantie impliceert (bijv. een hoge waarschijnlijkheid dat een willekeurige eenheid tot een meerderheidscluster behoort), biedt het protocol een optionele verfijning. Dit behelst een geconstrueerde optimalisatie die de trouw aan de $K_J$ targets balanceert met de tolerantie voor dominantie, waarbij de resulterende trade-off expliciet wordt gerapporteerd.

Belangrijkste Bijdragen

1. Computationele Oplossing: De introductie van TSMM lost de computationele bottleneck van prior kalibratie op, waardoor snelle, exacte moment matching mogelijk is zonder grid search.
2. Coherentie Mechanisme: Het Dual-Anchor protocol adresseert het "onbedoelde prior" fenomeen door de implicaties voor gewichten expliciet te maken. Het biedt een mechanisme om gewichtsdominantie te diagnosticeren en optioneel te beperken, terwijl de trade-off tegen de getrouwheid van cluster-aantallen transparant wordt gerapporteerd.
3. Implementatie: De volledige workflow is geïmplementeerd in het open-source DPprior R-pakket, voorzien van reproduceerbare diagnostica en een rapportagechecklist om transparantie te waarborgen.

Simulatie-resultaten
Het artikel evalueert DCE tegenover veelvoorkomende defaults (bijv. $\text{Gamma}(1, 1)$) en bestaande kalibratiemethoden (bijv. Dorazio, 2009) over variërende ware cluster-aantallen ($K^* \in \{5, 10, 30\}$) en niveaus van data-informativiteit ($I \in \{0.2, 0.5, 0.8\}$).

• Falen van Defaults: De standaard $\text{Gamma}(1, 1)$ prior induceert "cluster collapse" (posterior concentratie op $K_J=1$) in meer dan 60% van de gevallen, ongeacht de ware clusterstructuur of de mate van informatie in de data. Zelfs zeer informatieve data ($I=0.8$) slaagde er niet in om de sterke pooling-aannames van de vage prior te overwinnen.
• TSMM Prestaties: Door TSMM gekalibreerde priors reduceerden de bias aanzienlijk en verbeterden ze de recoverability van de ware clusterstructuur. Voor $K^*=30$ verminderde TSMM de Root Mean Squared Error (RMSE) van 28.04 (Vage prior) naar 4.31.
• Noodzaak van Dual-Anchor: Voor scenario's met kleine verwachte cluster-aantallen ($K^*=5$) vertoonde TSMM alleen nog steeds een matige collapse rate (~48%) door geïmpliceerde gewichtsdominantie. De Dual-Anchor verfijning reduceerde deze collapse rate tot ongeveer 10–14%, wat bijna onbevooroordeelde schattingen opleverde ($E[K_J | \text{data}] \approx 5.04$) en 100% credible interval coverage.
• Beperking van Informativiteit: De simulaties demonstreren dat het verhogen van de informatie in de data een slecht gespecificeerde prior niet kan redden; principiële prior specificatie blijft cruciaal, zelfs in data-rijke settings.

Betekenis en Claims
Het artikel betoogt dat de "black box" van prior specificatie in Bayesiaanse non-parametrie geopend moet worden. Het claimt dat DCE een praktisch, verdedigbaar workflow biedt voor fixed-design toepassingen (bijv. multisite-trials, meta-analyses) waarbij de steekproefgrootte $J$ door het onderzoeksontwerp wordt bepaend.

• Adresseren van het SSD/SSI Debat: Hoewel het de kritiek erkent dat sample-size-dependent (SSD) priors mogelijk geen coherentie vertonen over variërende steekproefgroottes, beargumenteren de auteurs dat voor fixed-$J$ designs, het ophalen van overtuigingen over $K_J$ een substantieel betekenende aanpak is. DCE synthetiseert de interpreteerbaarheid van SSD-methoden met de inzichten over gewichtscontrole van sample-size-independent (SSI) kritieken.
• Praktische Impact: De auteurs claimen dat DCE het veld beweegt naar een meer principiële praktijk waarbij priors niet louter "vage" defaults zijn, maar transparant, interpreteerbaar en afgestemd op het onderzoeksontwerp. Door gewichts-diagnostica te vereisen en een trade-off mechanisme aan te bieden, zorgt DCE ervoor dat het "onbedoelde prior" fenomeen wordt geïdentificeerd en beheerd in plaats van genegeerd.

Het artikel concludeert dat in settings met een gemiddelde steekproefomvang, vage defaults kunnen fungeren als sterke pooling-priors, en dat het verhogen van de informatie in de data dit effect niet automatisch neutraliseert. Daarom wordt de adoptie van design-conditional elicitation met gewichts-diagnostica aanbevolen voor robuuste inferentie in educatief en gedragswetenschappelijk onderzoek.