📊 statistics

Adaptive and Efficient Learning with Blockwise Missing and Semi-Supervised Data

Dit artikel stelt DEFUSE voor, een nieuw data-adaptief schattingsframework dat effectief de gecombineerde uitdagingen van blokgewijs ontbrekende covariaten en semi-gecontroleerd leren onder distributieverschuivingen aanpakt door adaptief meerdere databronnen te integreren, een screeningsmethode toe te passen om afstemming te waarborgen, en ongelabelde data te benutten om de schattingsvariantie te verminderen zonder bias te introduceren.

Oorspronkelijke auteurs: Yiming Li, Ruoyu Wang, Ying Wei, Molei Liu

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yiming Li, Ruoyu Wang, Ying Wei, Molei Liu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de perfecte taart probeert te bakken (het voorspellen van een gezondheidsuitkomst), maar je bent een chef die ingrediënten moet verzamelen uit drie verschillende, zeer uiteenlopende keukens.

Het Probleem: Een Rommelige Keuken

De "Gouden Standaard" Keuken (Gelabelde Data): Je hebt een kleine, hoogwaardige keuken waar je zowel het recept als de afgebakken taart hebt. Je weet precies welke ingrediënten de taart goed hebben laten smaken. Maar er zijn hier slechts enkele taarten.
De "Ontbrekende Ingrediënt" Keukens (Blokgewijze Ontbrekende Data): Je hebt verschillende andere keukens. Zij hebben veel ingrediënten, maar ze zijn rommelig. Keuken A heeft bloem en suiker, maar geen eieren. Keuken B heeft eieren en melk, maar geen bloem. Je kunt ze niet zomaar allemaal mengen omdat je voor een enkele taart niet het volledige plaatje hebt.
De "Massale Magazijn" (Ongelabelde Data): Je hebt ook een gigantisch magazijn met miljoenen ruwe ingrediënten (covariaten), maar er is nog niemand een taart mee gaan bakken. Je weet niet of ze lekker smaken of niet.
Het "Verschillende Standaarden" Probleem: Het probleem is dat deze keukens dingen anders meten. Keuken A weegt bloem in koppen; Keuken B weegt bloem in grammen. Keuken A gebruikt biologische eieren; Keuken B gebruikt fabrieks-eieren. Als je ze zomaar mengt, is je taart verpest omdat de "smaakprofielen" (distributies) niet overeenkomen.

De Oplossing: DEFUSE
De auteurs van dit artikel hebben een nieuwe methode ontwikkeld genaamd DEFUSE (Data-adaptive Estimation for data FUsion in the SEmi-supervised setting). Denk aan DEFUSE als een super slimme "Receptvertaler" en "Kwaliteitscontroleur" die helpt om de beste taart te bakken met al deze rommelige middelen.

Zo werkt het, stap voor stap:

1. De "Anker" (Begin met wat je weet)

Eerst kijkt DEFUSE naar de kleine, hoogwaardige keuken (de "Gelabelde Volledige" data). Het maakt een ruwe schatting van het recept op basis alleen van die data. Maar omdat de andere keukens dingen anders meten, kan deze schatting er net naast zitten.

2. De "Vertaler" (Verschillen Herstellen)

In plaats van de rommelige data gewoon in de mix te gooien, gebruikt DEFUSE een slimme truc genaamd Control Variates.

Stel je voor dat je een vertaler hebt die weet hoe een "kop bloem" van Keuken A zich verhoudt tot een "gram bloem" van Keuken B.
DEFUSE gebruikt het enorme magazijn van ruwe ingrediënten (de ongelabelde data) om deze vertaalregels te leren. Het ontdekt hoe het de metingen moet aanpassen zodat de "bloem" van Keuken A vergelijkbaar is met de "bloem" van Keuken B.
Het gebruikt vervolgens deze aanpassingen om het initiële recept te verfijnen, waardoor het veel nauwkeuriger wordt zonder dat er miljoenen nieuwe taarten gebakken hoeven te worden.

3. De "Leugendetector" (Screenen op Slechte Data)

Dit is een cruciaal onderdeel. Soms is een keuken zo verschillend dat geen enkele vertaling meer werkt. Misschien gebruikt Keuken C een totaal ander type tarwe dat helemaal niet in jouw taart thuishoort.

DEFUSE heeft een "Leugendetector"-test. Voordat het de data van een nieuwe keuken in het recept mengt, controleert het: "Is de data van deze keuken eigenlijk compatibel met ons doel?"
Als de data te veel "afgestemd" is (te verschillend), zegt DEFUSE beleefd: "Nee bedankt," en sluit die keuken uit. Dit voorkomt dat de uiteindelijke taart vreemd smaakt of wordt verpest door slechte ingrediënten.

4. De "Slimme Aanpasser" (Leren tijdens het proces)

DEFUSE is "adaptief". Het gebruikt niet alleen een vaste regel. Het leert welke aanpassingen het beste werken.

Als de data eenvoudig is, gebruikt het eenvoudige wiskunde.
Als de data complex is (zoals medische dossiers met duizenden variabelen), gebruikt het krachtige AI-tools (zoals Kernel Ridge Regression) om de beste manier te vinden om de data te mengen.
Het controleert voortdurend het eigen werk om er zeker van te zijn dat het geen nieuwe fouten (bias) introduceert terwijl het de onzekerheid (variantie) probeert te verminderen.

Waarom is dit een grote zaak?

Efficiëntie: Het levert je een "perfecte taart" (zeer nauwkeurige voorspelling) op met veel minder dure "gebakken taarten" (gelabelde data) dan voorheen. Het maakt optimaal gebruik van de miljoenen ruwe ingrediënten in het magazijn.
Robuustheid: Het gaat niet kapot als de keukens rommelig zijn of als de ingrediënten anders worden gemeten. Het gaat op een natuurlijke manier om met het "blokgewijze ontbrekende" probleem (waarbij sommige ingrediënten in sommige keukens ontbreken).
Veiligheid: Door incompatibele keukens uit te filteren, zorgt het ervoor dat het eindresultaat niet beïnvloed wordt door slechte data.

Samenvattend:
DEFUSE is een slim systeem dat een kleine hoeveelheid perfecte data, een grote hoeveelheid rommelige data met ontbrekende stukjes en een enorme hoeveelheid ongelabelde data combineert. Het vertaalt de rommelige data naar een gemeenschappelijke taal, filtert de incompatibele bronnen eruit en combineert alles om je de meest nauwkeurige voorspelling te geven mogelijk, zelfs wanneer de databronnen heel verschillend van elkaar zijn.

De auteurs hebben bewezen dat dit wiskundig werkt en hebben het getest op echte medische gegevens (Alzheimer en hartziekten), waarbij zij lieten zien dat het veel betere voorspellingen maakt dan eerdere methoden.

Technische Samenvatting: Adaptief en Efficiënt Leren met Blokgewijze Ontbrekende en Semi-Superviserende Data

1. Probleemstelling

Het artikel behandelt de uitdagingen van datafusie in de aanwezigheid van drie gelijktijdige complicaties:

Blokgewijze Ontbrekende Waarden (Blockwise Missingness - BM): Covariaten zijn ontbrekend in blokken over verschillende databronnen omdat variabelen verschillend worden verzameld of gedefinieerd. Dit resulteert in niet-monotone ontbrekende patronen waarbij specifieke deelverzamelingen van covariaten wel in sommige bronnen aanwezig zijn, maar ontbreken in andere.
Semi-Superviserende (SS) Setting: De uitkomstvariabele $Y$ is duur om te verkrijgen (bijv. vereist handmatige klinische beoordeling), waardoor de meerderheid van de monsters in de doelpopulatie ongelabeld is, terwijl een grote pool van ongelabelde data met volledig geobserveerde covariaten beschikbaar is.
Distributieve Verschuivingen: Databronnen vertonen vaak heterogeniteit door variërende meetstandaarden of wervingscriteria. Standaardveronderstellingen zoals Missing Completely at Random (MCAR) zijn vaak onrealistisch; in plaats daarvan kan ontbreken afhangen van geobserveerde variabelen, en kunnen de distributies tussen bronnen verschillen.

Het doel is om robuust en efficiënt parameters van een Generalised Linear Model (GLM) voor een doelpopulatie (Unlabeled Complete, UC) te schatten door te fuseren met:

LC (Labeled Complete): Kleine steekproef met volledig geobserveerde covariaten en uitkomsten.
LM (Labeled Missing): Meerdere bronnen met uitkomsten maar blokgewijs ontbrekende covariaten.
UC (Unlabeled Complete): Grote steekproef met volledig geobserveerde covariaten maar zonder uitkomsten.

Een cruciale uitdaging is bron-misalignement: als de conditionele distributie van uitkomsten gegeven covariaten verschilt tussen een gelabelde bron en de doelpopulatie (schending van transportbaarheid), introduceert naïeve fusie bias.

2. Methodologie: DEFUSE

De auteurs stellen DEFUSE voor (Data-adaptive Estimation approach for data FUsion in the SEmi-supervised setting), die opereert onder een Conditional Alignment under Missingness (CAM) aanname.

2.1 Kernaanname (CAM)

De methode gaat ervan uit dat, conditioneel op een vooraf gespecificeerde subset van variabelen $Z_r$ (die zowel uitkomsten als geobserveerde covariaten kan bevatten), de datadistributies van de gelabelde ontbrekende bronnen ( $LM_r$ ) en de doelpopulatie ($UC$) uitgelijnd zijn:
$P_{LM_r}(Y, X | Z_r) = P_{UC}(Y, X | Z_r)$
Dit versoepelt de strikte MCAR-aanname, waardoor ontbreken kan afhangen van geobserveerde data, mits de conditionele uitlijning standhoudt.

2.2 Tweestaps Schattingsprocedure

Fase 1: Voorlopige Schatting (DML Operator)
Een voorlopige estimator $\hat{\gamma}$ wordt afgeleid met behulp van enkel de LC- en UC-steekproeven. Om de distributieve verschuivingen tussen LC en UC aan te pakken zonder te vertrouwen op instabiele dichtheidsratio-schatting, gebruiken de auteurs een Double/Debiased Machine Learning (DML) operator:
$M_{LC}(D) = h_{LC}(X)(D - E_{LC}[D|X]) + E_{UC}(E_{LC}[D|X])$
waarbij $h_{LC}(X)$ de dichtheidsratio is. Deze operator corrigeert voor bias en behoudt $n^{1/2}$ -consistentie, zelfs als de nuisance-modellen (dichtheidsratio's en conditionele gemiddelden) convergeren met tragere snelheden ( $o_P(n^{-1/4})$ ).

Fase 2: Data-adaptieve Control Variate Aanpak
Om de $LM_r$ -steekproeven te incorporeren en variantie te verminderen, gebruikt DEFUSE een control variate strategie. De estimator wordt uitgebreid als:
$\hat{\beta}(\phi) = c^\top \hat{\gamma} + \sum_{r=1}^R \left( \hat{E}_{LM_r}[\hat{M}_{LM_r}(\phi_r)] - \hat{E}_{LC}[\hat{M}_r(\phi_r)] \right)$

Operators: $\hat{M}_r$ en $\hat{M}_{LM_r}$ worden geconstrueerd volgens DML-principes om te corrigeren voor distributieve verschuivingen tussen bronnen.
Control Functies ( $\phi_r$ ): Dit zijn data-adaptieve functies van de geobserveerde variabelen in $LM_r$ . De methode streeft naar het minimaliseren van de empirische asymptotische variantie $Q(\phi)$ met betrekking tot $\phi$ .
Verfijningsstrategie: In plaats van direct complexe non-parametrische functies te optimaliseren, verfijnt DEFUSE een "anker"-voorspeller (bijv. een AI-model dat de scorefunctie voorspelt) met behulp van een herwegingsfunctie $w_r(W_r; \delta_r)$ . Dit leidt tot een einddimensionaal kwadratisch programmeerprobleem, wat de methode computationeel hanteerbaar maakt. De auteurs stellen drie voorbeelden voor $w_r$ voor: constante coëfficiënten, lineaire functies en Kernel Ridge Regression (KRR).

2.3 Screening voor Misaligned Bronnen

In het besef dat sommige bronnen de CAM-aanname kunnen schenden, ontwikkelen de auteurs een screeningprocedure om deze bronnen uit te sluiten vóór fusie.

Metriek: Ze stellen een Mean Squared Discrepancy (MSD) maatstaf voor, $\bar{\Delta}_r^2$ , die de afwijking van een bron van de doeluitlijning kwantificeert.
Debiasing: Om bias door het schatten van conditionele gemiddelden te voorkomen, gebruiken ze een debiased estimator gebaseerd op een maximalisatie over een functieruimte $G$ .
Selectie: Bronnen met een $\hat{\Delta}_r$ die een drempelwaarde overschrijdt, worden uitgesloten. Theoretisch is aangetoond dat deze MSD-maatstaf scherper en gevoeliger is voor misalignement dan standaard gemiddelde-verschil sensitiviteitsanalyses.

3. Belangrijkste Bijdragen

Nieuw Framework: DEFUSE is de eerste methode die systematisch de triade van blokgewijze ontbrekende waarden, semi-superviserend leren en distributieve verschuivingen onder een conditionele uitlijningsaanname aanpakt.
Data-adaptieve Efficiëntie: De methode introduceert een nieuwe data-adaptieve control variate aanpak. Het bereikt intrinsieke efficiëntie (optimaal binnen een gespecificeerde klasse van control functies) en kan de semiparametrische efficiëntiegrens bereiken als de klasse van control functies voldoende rijk is (bijv. via KRR).
Robuustheid tegen Misalignement: De voorgestelde screeningprocedure identificeert en sluit effectief misaligned bronnen uit, waardoor biaspropagatie wordt voorkomen, wat een beperking is van veel bestaande fusiemethoden die perfecte transporteerbaarheid veronderstellen.
Computationele Haalbaarheid: Door de optimalisatie van control functies terug te brengen naar kwadratische programmering, maakt de methode hoogdimensionale hulpvariabelen en black-box machine learning modellen mogelijk terwijl de computationele efficiëntie behouden blijft.
Theoretische Garanties: Het artikel vestigt asymptotische normaliteit, consistentie en semiparametrische efficiëntiegrenzen voor de voorgestelde estimator onder regulariteitsvoorwaarden.

4. Resultaten

Simulatiestudies

Efficiëntie: DEFUSE presteert consequent beter dan bestaande methoden (inclusclusief Multiple Imputation, GMM-gebaseerde fusie en steekproefherweging) in termen van Relatieve Efficiëntie (RE). In diverse settings (lineair/niet-lineair, binaire/continue uitkomsten) behaalde DEFUSE met KRR-herweging (Voorbeeld 3) een tot wel 25-80% hogere efficiëntie dan de benchmarks.
Robuustheid: Onder distributieve verschuivingen en niet-lineariteit behield DEFUSE lage bias-tot-standaardfout ratio's, terwijl concurrenten (zoals SC-PW en MBI) toenemende bias vertoonden.
Screening Prestaties: In settings met misaligned bronnen bereikte de MSD-gebaseerde screeningprocedure bijna perfecte F1-scores en sensitiviteit bij het identificeren van misaligned bronnen, waarmee het de gemiddelde-verschil gebaseerde strategieën aanzienlijk overtrof.

Real-World Applicaties

Alzheimer's Risico (NACC Data): Toegepast om een prognostisch model te bouwen met behulp van data van meerdere centra. De screeningmethode sloot 3 van de 8 centra uit vanwege misalignement. DEFUSE met KRR-herweging vertoonde een 2,76x relatieve efficiëntie voor de alcoholcovariaat vergeleken met de voorlopige estimator.
Hartziekte Risico (MIMIC-III Data): Toegepast om het risico op hartziekten te modelleren met blokgewijs ontbrekende biomarkers. DEFUSE demonstreerde substantiële efficiëntiewinsten (tot 3,65x voor leeftijd en 5,72x voor diabetes in meerdere BM-scenario's) vergeleken met voorlopige estimators en bestaande fusiemethoden.

5. Betekenis en Claims

Het artikel claimt dat DEFUSE een praktische en krachtige oplossing biedt voor moderne datafusieproblemen waar datastructuren complex en heterogeen zijn.

Theoretische Optimaliteit: Het overbrugt de kloof tussen theoretische semiparametrische efficiëntie en praktische implementatie, door een mechanisme te bieden om de efficiëntiegrenzen te benaderen, zelfs wanneer klassieke gesloten vorm estimators niet beschikbaar zijn.
Validiteitbescherming: Door misalignement van bronnen expliciet aan te pakken via een gevoelige screeningprocedure, beschermt de methode tegen de bias die de fusie van niet-uitgelijnde datasets teistert.
Flexibiliteit: Het framework is flexibel genoeg om hoogdimensionale hulpvariabelen (bijv. uit EMR's) en krachtige machine learning modellen te integreren zonder de computationele haalbaarheid op te offeren.

De auteurs merken op dat hoewel de methode momenteel een gelabelde complete (LC) steekproef vereist, toekomstig werk de aanpak kan generaliseren naar settings waar enkel ongelabelde en gedeeltelijk gelabelde data beschikbaar zijn, mits de unie van geobserveerde covariaten de doel-predictors dekt.