Technische Samenvatting: Distributieverandering bij het Invullen van Ontbrekende Data

Probleemformulering

Het artikel behandelt de fundamentele uitdaging van het invullen van ontbrekende data, met name gericht op de discrepantie tussen de verdeling van de waargenomen data die voor training wordt gebruikt en de volledige dataverdeling die voor evaluatie vereist is. Hoewel veel geavanceerde methoden voor het invullen van ontbrekende data (zoals GAIN, MIWAE, MICE, MissForest) opereren binnen een kader van risicominimalisatie, trainen zij doorgaans op waargenomen waarden zonder expliciete correctie voor de distributieverandering die wordt veroorzaakt door het mechanisme van ontbrekende waarden.

De auteurs formaliseren het probleem als het minimaliseren van het risico van de gemiddelde kwadratische fout (MSE) over de volledige dataverdeling. Zij tonen aan dat wanneer de kans op ontbrekende waarden afhankelijk is van de data (specifiek onder de aanname van Missing At Random (MAR)), de trainingsverdeling (waargenomen data) en de doelverdeling (volledige data) verschillen. Dit creëert een probleem van covariaatverschuiving waarbij standaard empirische risicominimalisatie op waargenomen data leidt tot vertekende schatters voor het risico op volledige data.

Methodologie

Theoretische Grondslag

De kerntheoretische bijdrage is de afleiding van het invulrisico als een gewichtverwachte verwachting over de waargenomen data.

• Risicodecompositie: Het globale MSE-risico wordt ontleed in een som van risicos per coördinaat. Voor een specifieke coördinaat $i$ met ontbrekende waarden wordt het risico $J_i(g_i)$ gedefinieerd over de niet-waargenomen subpopulatie ($R_i=0$).
• Verbinding met Covariaatverschuiving: Onder de MAR-aanname ($p(r|x) = p(r|x_{obs})$) en een overlapvoorwaarde tonen de auteurs aan dat het risico over de niet-waargenomen subpopulatie kan worden herschreven als een verwachting over de waargenomen subpopulatie ($R_i=1$), gewogen met een importantiefactor:
  $$w_i(x_{obs}, r_{\neg i}) = \frac{p(x_{obs}, r_{\neg i} | R_i = 0)}{p(x_{obs}, r_{\neg i} | R_i = 1)}$$
  Deze correctiecompenseert de verschuiving in de marginale verdeling van de covariaten tussen de waargenomen en niet-waargenomen groepen. Bestaande methoden blijken dit gewichtsterm impliciet te negeren, waardoor ze effectief optimaliseren voor de verkeerde verdeling.

Voorgestelde Algorithmus: Gewogen Iteratief Invullen

Om deze theorie operationeel te maken, stellen de auteurs een Gewogen Iteratief Invulalgoritme voor (Algoritme 1), dat de standaard iteratieve aanpak met doorloop (zoals MICE, HyperImpute) uitbreidt.

1. Iteratief Kader: Het algoritme doorloopt cyclisch de deels waargenomen variabelen. In elke stap wordt een conditioneel invulmodel $g_i$ gefit voor de doelvariabele, waarbij de huidige waarden van alle andere variabelen als voorspellers worden gebruikt.
2. Surrogaatrisico: In plaats van het standaard reconstructieverlies te minimaliseren, minimaliseert het algoritme een surrogaatrisico dat geschatte importantiegewichten incorporeert:
   $$J_i^{(t)}(g_i) = \mathbb{E}\left[ w_i(\hat{X}_{\neg i}^{(t)}) (g_i(\hat{X}_{\neg i}^{(t)}) - X_i)^2 \mid R_i = 1 \right]$$
3. Schatting van Gewichten: Aangezien de ware gewichten afhangen van onbekende verdelingen, worden deze in elke iteratie geschat (Algoritme 2) met behulp van een binaire classificatiemodel (logistische regressie) om de kans op ontbrekende waarden $p(R_i=1 | \hat{X}_{\neg i})$ te schatten. De gewichten worden vervolgens berekend als de omgekeerde kansverhouding.
4. Praktische Stabilisatie: Om de hoge variantie die vaak geassocieerd wordt met importantieweging te beheersen, passen de auteurs verschillende stabilisatietechnieken toe:
   • Afkappen van gewichten op het 5e en 95e percentiel.
   • Verwijderen van kenmerken met bijna nul variantie.
   • Invoeren van een temperingsparameter $\gamma$ (waarbij gewichten worden $w_i^\gamma$) om de invloed van de gewichten te controleren, afgestemd via cross-validatie.
   • Een "warm-start"-strategie voor het afstemmen van $\gamma$ om de rekenkosten te verminderen.

Belangrijkste Bijdragen

1. Theoretische Formulering: Het artikel stelt rigoureus vast dat invullen onder MAR equivalent is aan een verzameling covariaatverschuivingsproblemen, en leidt de specifieke importantiegewichten af die nodig zijn om de waargenomen dataverdeling af te stemmen op de volledige dataverdeling.
2. Nieuw Algorithmus: Het introduceert een praktisch, iteratief algoritme met doorloop dat deze importantiegewichten integreert in de trainingsdoelstelling, waardoor expliciet wordt gecorrigeerd voor de distributieverandering.
3. Empirische Validatie: De methode wordt gebenchmarkt tegen ongewogen baselines (met identieke klassen van conditionele modellen) en geavanceerde methoden over diverse datasets (tabulaire, tijdreeks- en beelddata) en modelklassen (Lineair, Random Forest, MLP).

Experimentele Resultaten

De auteurs evalueerden hun methode op acht datasets, waarbij ze MAR-omstandigheden simuleerden met variërende sterktes van afhankelijkheid tussen ontbrekende waarden en waargenomen covariaten.

• Prestatiewinst: De gewogen aanpak verlaagde consistent de Root Mean Squared Error (RMSE) en de Wasserstein-afstand (WD) in vergelijking met ongewogen baselines.
  • Gemiddelde vermindering van 3% in RMSE en 7% in Wasserstein-afstand.
  • Verbeteringen waren het meest uitgesproken voor eenvoudigere modellen (Lineair) en in situaties met sterke covariaatverschuiving (hoge MAR-afhankelijkheid).
• Modeluitdrukkingsvermogen: Theoretische analyse en empirische resultaten geven aan dat het voordeel van weging afneemt naarmate het uitdrukkingsvermogen van het conditionele model toeneemt (bijvoorbeeld Random Forests en MLP's). Dit wordt toegeschreven aan de bias-variatie-trade-off; zeer expressieve modellen kunnen de doel functie goed benaderen zelfs zonder expliciete weging, terwijl eenvoudigere modellen zwaarder vertrouwen op de correctie.
• Downstream Taken: In downstream regressie- en classificatietaken leidde het gewogen invullen over het algemeen tot statistisch significante verbeteringen in voorspellende prestaties, met name voor lineaire modellen en in vergelijking met baselines zonder invulling.
• Robuustheid: De methode vertoonde een geleidelijke prestatiedegradatie bij schendingen van de MAR-aanname (MNAR) of misspecificatie van het gewichtmodel, in plaats van abrupt falen, op voorwaarde dat de primaire drijfveren van ontbrekende waarden waren vastgelegd in de waargenomen data.
• Efficiëntie: De rekenkosten waren beheersbaar, met een toename van de looptijd van slechts ~10% voor complexe modellen (RF/MLP) en aanzienlijke snelheidswinsten voor lineaire modellen door specifieke implementatiedetails.

Betekenis en Beweringen

Het artikel beweert dat distributieverandering een inherent en vaak overzien probleem is bij risicogebaseerd invullen. Door invullen te kaderen als een covariaatverschuivingsprobleem, bieden de auteurs een principiële rechtvaardiging voor het gebruik van importantieweging.

• De betekenis ligt in het aantonen dat expliciete rekening houden met de verschuiving tussen waargenomen en volledige dataverdelingen leidt tot nauwkeuriger invulling en een betere behoud van de onderliggende dataverdeling (fideliteit).
• De auteurs positioneren hun werk als een noodzakelijke verfijning van bestaande risicominimalisatiekaders, met het argument dat zonder deze correctie invulmodellen worden geoptimaliseerd voor de waargenomen dataverdeling in plaats van de ware dataverdeling die vereist is voor geldige inferentie.
• Het artikel blijft bescheiden wat beperkingen betreft, en erkent dat de methode beperkte winst kan bieden in regimes met zwakke MAR of bij zeer expressieve modellen waar de benaderingsfout al laag is, en dat de prestaties afhankelijk zijn van de kwaliteit van de gewichtschatting.