Handling Missingness and Censoring in Dirichlet Models

Technische Samenvatting: Omgaan met ontbrekende gegevens en censurering in Dirichlet-modellen

Probleemstelling
Compositionele gegevens, die relatieve proporties van delen van een geheel vertegenwoordigen en zich op een eenheidssimplex bevinden, komen veel voor in velden variërend van microbiologie tot milieuwetenschappen. De Dirichlet-verdeling is het canonieke probabilistische model voor dergelijke gegevens, analoog aan de multivariate normale verdeling voor niet-beperkte gegevens. Echter, een significante beperking in de huidige praktijk is dat likelihood-gebaseerde inferentie voor Dirichlet-parameters doorgaans volledige observaties van composities vereist. In de echte wereld bevatten gegevens vaak ontbrekende componenten of gecensureerde waarden (bijv. door detectiegrenzen of incomplete speciatie).

Bestaande benaderingen om deze incompleetheid aan te pakken, vallen over het algemeen uiteen in drie categorieën: het verwijderen van incomplete rijen (wat informatie wegwerpt), substitutie met vaste waarden (bijv. nul) of imputatie. Imputatiemethoden vertrouwen vaak op het transformeren van gegevens naar een onbeperkte ruimte (bijv. via log-ratio transformaties), het fitten van een model, en het terugmappen van resultaten naar de simplex. Deze transformatiegebaseerde aanpak lijdt aan verschillende nadelen: het kan de oorspronkelijke interpretaties van variabelen onherstelbaar maken, het kan geen injectieve mapping terug naar de simplex bieden, en het heeft moeite om censureringsmechanismen op natuurlijke wijze te accommoderen. Bovsamen kunnen niet-parametrische imputatiemethoden de specifieke censureringsstructuur negeren, wat kan leiden tot bias en verstoorde onderliggende distributies.

Methodologie
De auteurs stellen een verenigd kader voor waarin zowel ontbrekende als gecensureerde componenten worden behandeld als vormen van "coarsening" (grovere vorming) in de zin van Heitjan & Rubin (1991). Dit kader omvat Missing Completely at Random (MCAR), Missing at Random (MAR) en Missing Not at Random (MNAR) als speciale gevallen van Coarsening Completely at Random (CCAR), Coarsening at Random (CAR) en Coarsening Not at Random (CNAR), respectievelijk. Het artikel richt zich op het CAR-mechanisme, waarbij de coarsening afhankelijk is van geobserveerde gegevens maar niet van de niet-geobserveerde exacte waarden, waardoor het mechanisme negeerbaar is voor likelihood-gebaseerde inferentie.

De kern van de methodologie is een Expectation–Maximisation (EM)-achtig algoritme dat is ontworpen om directe Maximum Likelihood (ML) schatting van Dirichlet-parameters uit te voeren op de simplex zonder datatransformatie. Het algoritme verloopt als volgt:

1. Theoretische Fundering: De auteurs leiden de marginale dichtheid van de geobserveerde componenten en de conditionele verdeling van de niet-geobserveerde componenten gegeven de geobserveerde componenten af. Zij stellen vast dat de conditionele verdeling van de niet-geobserveerde componenten, gegeven de geobserveerde delen en het haalbare gebied gedefinieerd door de censureringsgrenzen, een getrunceerdeerde Dirichlet-verdeling volgt.
2. E-stap: Het algoritme berekent de verwachte waarde van de complete-data log-likelihood. Dit omvat het berekenen van de verwachte waarde van de logaritme van de niet-geobserveerde componenten. Gebruikmakend van de eigenschappen van de getrunceerdeerde Dirichlet-verdeling, leiden de auteurs een gesloten vormelijke expressie af voor deze verwachtingswaarden, inclusief de digamma-functie en de afgeleide van de normaliserende constante van de getrunceerdeerde verdeling.
3. M-stap: Het algoritme maximaliseert de verwachte complete-data log-likelihood met betrekking tot de parametervector $\alpha$. Om de positiviteit van de Dirichlet-parameters tijdens de optimalisatie te waarborgen, gebruiken de auteurs een herparametrisering ($\alpha_k = e^{\beta_k}$) en maken zij gebruik van een Newton–Raphson (NR) algoritme dat genest is binnen de EM-iteraties. De Hessian-matrix wordt efficiënt geïnverteerd met behulp van de Sherman–Morrison formule.
4. Convergentie: Het algoritme maakt gebruik van specifieke stopregels: een innerlijke regel gebaseerd op de Newton–Raphson convergentie en een buitenste regel gebaseerd op het Aitken-acceleratiecriterium toegepast op de geobserveerde-data log-likelihood.

Belangrijkste Bijdragen
Het artikel levert verschillende specifieke technische bijdragen:

• Verenigd Kader: Het ontwikkelt een enkel likelihood-gebaseerd kader dat gelijktijdig ontbrekende en gecensureerde componenten op de simplex behandelt, zonder de noodzaak voor datatransformatie.
• EM-algoritme voor Dirichlet: Het leidt een computationeel efficiënt EM-achtig algoritme af voor ML-schatting van Dirichlet-parameters in aanwezigheid van incomplete data, inclusief de afleiding van de noodzakelijke conditionele verwachtingen met betrekking tot getrunceerdeerde Dirichlet-verdelingen.
• Minimale Datavereisten: De methode maakt het mogelijk om een Dirichlet-verdeling te fitten, zelfs wanneer een dataset rijen heeft met slechts één geobserveerde component, een scenario waarin veel bestaande transformatiegebaseerde methoden falen.
• Gezamenlijke Schatting en Imputatie: De aanpak voert parameter-schatting en model-gebaseerde imputatie gezamenlijk uit, waardoor de compositionele structuur behouden blijft en fouten geassocieerd met back-transformatie worden vermeden.

Resultaten en Evaluatie
De prestaties van de voorgestelde methode werden geëvalueerd via twee primaire wegen:

1. Simulatiestudie: Een uitgebreide simulatiestudie (gedetailleerd in het Aanvullend Materiaal) beoordeelde de methode onder steeds complexere coarsening-mechanismen. De resultaten gaven aan dat de voorgestelde estimator de parameter-reconstructie aanzienlijk verbetert vergeleken met ML-schatting gebaseerd op enkel volledige gevallen. Bovendien vertoonden de door het voorgestelde algoritme gegenereerde imputaties kleinere fouten dan die geproduceerd door een bestaande model-gebaseerde aanpak (ALR-EM) en een niet-parametrische alternatief (geometrisch gemiddelde imputatie). De methode toonde betrouwbaarheid, zelfs onder extreme omstandigheden, zoals datasets met tot 90% niet-geobserveerde waarden.

2. Toepassing op Echte Data: De methodologie werd toegepast op kwik-speciatiegegevens van de National Health and Nutrition Examination Survey (NHANES). Deze dataset bevatte 3.872 observaties waarbij ongeveer 72% van de cellen niet-geobserveerd was vanwege detectiegrenzen en incomplete speciatie.

   • Het Dirichlet-model bood een betere fit aan de geobserveerde data dan het multivariate logistiek-normale model (gebruikt in de ALR-EM aanpak), zoals aangetoond door hogere geobserveerde log-likelihood, AIC en BIC waarden.
   • Berekeningen van de Wasserstein-afstand bevestigden dat de gefitteerde Dirichlet en logistiek-normale verdelingen de data verschillend modelleren, waarbij de Dirichlet een plausibelere representatie biedt.
   • De methode slaagde erin de proporties van onbekende kwiktypen te schatten en bood imputaties die de geobserveerde compositionele structuur beter behielden vergeleken met concurrerende benaderingen.

Significantie en Claims
De auteurs beweren dat dit werk een fundamentele kloof in de compositionele data-analyse aanpakt: het gebrek aan een likelihood-gebaseerde schattingsmethode die direct incomplete proporties op de eenheidssimplex accommodeert. Door het traditionele perspectief om te keren—waarbij data wordt aangepast aan onbeperkte modellen—ontwikkelt de voorgestelde methode schattingsinstrumenten die de geometrie en restricties van compositionele data respecteren.

De significantie van het werk ligt in het vermogen om likelihood-gebaseerde inferentie en clustering direct op de simplex mogelijk te maken in aanwezigheid van ongeobserveerde waarden. De auteurs suggereren dat dit de deur opent naar verdere ontwikkelingen in simplex-gebaseerde modellering, inclusclusief rijkere mengstructuren en flexibelere inferentiële procedures. De methode wordt gepresenteerd als een robuust alternatief dat de interpretatieve beperkingen en potentiële biases vermijdt die worden geïntroduceerd door transformatiegebaseerde benaderingen, met name in scenario's met hoge niveaus van ontbrekende gegevens of censurering.