📊 statistics

Adaptive and Efficient Learning with Blockwise Missing and Semi-Supervised Data

Dieses Paper schlägt DEFUSE vor, ein neuartiges datenadaptives Schätzframework, das die kombinierten Herausforderungen von blockweisen fehlenden Kovariaten und semi-überwachtem Lernen unter Verteilungsverschiebungen effektiv bewältigt, indem es mehrere Datenquellen adaptiv integriert, eine Screening-Methode zur Sicherstellung der Ausrichtung anwendet und unbeschriftete Daten nutzt, um die Schätzvarianz zu reduzieren, ohne Verzerrungen einzuführen.

Ursprüngliche Autoren: Yiming Li, Ruoyu Wang, Ying Wei, Molei Liu

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yiming Li, Ruoyu Wang, Ying Wei, Molei Liu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, den perfekten Kuchen zu backen (einen Gesundheitszustand vorherzusagen), aber Sie sind ein Chefkoch, der Zutaten aus drei völlig verschiedenen Küchen sammeln muss.

Das Problem: Eine chaotische Küche

Die „Goldstandard“-Küche (Gelabelte Daten): Sie haben eine kleine, hochwertige Küche, in der Sie sowohl das Rezept als auch den fertigen Kuchen haben. Sie wissen genau, welche Zutaten den Kuchen gut schmecken ließen. Aber hier gibt es nur wenige Kuchen.
Die „Fehlende-Zutat“-Küchen (Blockweise fehlende Daten): Sie haben mehrere andere Küchen. Diese haben viele Zutaten, aber sie sind chaotisch. Küche A hat Mehl und Zucker, aber keine Eier. Küche B hat Eier und Milch, aber kein Mehl. Sie können sie nicht einfach alle zusammenmischen, weil Sie für keinen einzelnen Kuchen das vollständige Bild haben.
Das „Riesige Lagerhaus“ (Unlabelte Daten): Sie haben auch ein riesiges Lagerhaus mit Millionen von Rohzutaten (Kovariaten), aber noch niemand hat damit einen Kuchen gebacken. Sie wissen nicht, ob sie gut oder schlecht schmecken.
Das Problem der „Verschiedenen Standards“: Das Problem ist, dass diese Küchen Dinge unterschiedlich messen. Küche A wiegt Mehl in Tassen; Küche B wiegt es in Gramm. Küche A verwendet Bio-Eier; Küche B verwendet Fabrik-Eier. Wenn Sie sie einfach zusammenmischen, wird Ihr Kuchen ruiniert, weil die „Geschmacksprofile“ (Verteilungen) nicht übereinstimmen.

Die Lösung: DEFUSE
Die Autoren dieser Arbeit haben eine neue Methode namens DEFUSE (Data-adaptive Estimation for data FUsion in the SEmi-supervised setting) entwickelt. Betrachten Sie DEFUSE als einen super-intelligenten „Rezept-Übersetzer“ und „Qualitätskontroll-Inspektor“, der Ihnen hilft, den besten Kuchen aus all diesen chaotischen Ressourcen zu backen.

So funktioniert es, Schritt für Schritt:

1. Der „Anker“ (Beginnen Sie mit dem, was Sie wissen)

Zuer Sie schaut sich zuerst die kleine, hochwertige Küche (die „gelabelten, vollständigen“ Daten) an. Es macht eine grobe Schätzung des Rezepts basierend nur auf diesen Daten. Da die anderen Küchen jedoch Dinge unterschiedlich messen, könnte diese Schätzung leicht daneben liegen.

2. Der „Übersetzer“ (Die Unterschiede korrigieren)

Anstatt einfach die chaotischen Daten in den Mix zu werfen, nutzt DEFUSE einen cleveren Trick namens Control Variates.

Stellen Sie sich vor, Sie haben einen Übersetzer, der weiß, wie eine „Tasse Mehl“ aus Küche A mit einem „Gramm Mehl“ aus Küche B zusammenhängt.
DEFUSE nutzt das riesige Lagerhaus der Rohzutaten (die unlabelten Daten), um diese Übersetzungsregeln zu erlernen. Es findet heraus, wie die Messungen angepasst werden müssen, damit das „Mehl“ aus Küche A mit dem „Mehl“ aus Küche B vergleichbar ist.
Es nutzt dann diese Anpassungen, um das ursprüngliche Rezept zu verfeinern, wodurch es viel genauer wird, ohne dass man Millionen neuer Kuchen backen muss.

3. Der „Lügendetektor“ (Screening nach schlechten Daten)

Dies ist ein entscheidender Teil. Manchmal ist eine Küche so verschieden, dass keine Übersetzung der Welt hilft. Vielleicht verwendet Küche C eine völlig andere Art von Weizen, die gar nicht in Ihren Kuchen gehört.

DEFUSE besitzt einen „Lügendetektor“-Test. Bevor es die Daten einer neuen Küche in das Rezept mischt, prüft es: „Ist die Datenlage dieser Küche tatsächlich mit unserem Ziel kompatibel?“
Wenn die Daten zu „fehlplatziert“ (zu unterschiedlich) sind, sagt DEFUSE höflich: „Nein danke,“ und schließt diese Küche aus. Dies verhindert, dass der fertige Kuchen seltsam schmeckt oder durch schlechte Zutaten ruiniert wird.

4. Der „Intelligente Anpasser“ (Lernen im laufenden Betrieb)

DEFUSE ist „adaptiv“. Es nutzt nicht einfach eine feste Regel. Es lernt, welche Anpassungen am besten funktionieren.

Wenn die Daten einfach sind, nutzt es einfache Mathematik.
Wenn die Daten komplex sind (wie hochdimensionale medizinische Datensätze mit tausenden Variablen), nutzt es leistungsstarke KI-Werkzeuge (wie Kernel Ridge Regression), um den besten Weg zu finden, die Daten zu mischen.
Es überprüft ständig seine eigene Arbeit, um sicherzustellen, dass es nicht neue Fehler (Bias) einführt, während es versucht, die Unsicherheit (Varianz) zu reduzieren.

Warum ist das eine große Sache?

Effizienz: Es liefert Ihnen einen „perfekten Kuchen“ (hochgenaue Vorhersage) mit weit weniger teuren „gebackenen Kuchen“ (gelabelten Daten) als bisher möglich. Es macht das Beste aus den Millionen von Rohzutaten im Lagerhaus.
Robustheit: Es geht nicht kaputt, wenn die Küchen chaotisch sind oder wenn die Zutaten unterschiedlich gemessen werden. Es bewältigt das Problem der „blockweisen fehlenden Daten“ (wo in einigen Küchen bestimmte Zutaten fehlen) auf natürliche Weise.
Sicherheit: Durch das Aussortieren der inkompatiblen Küchen stellt es sicher, dass das Endergebnis nicht durch schlechte Daten verzerrt wird.

Zusammenfassend:
DEFUSE ist ein intelligentes System, das eine kleine Menge perfekter Daten, eine große Menge chaotischer Daten mit fehlenden Teilen und eine massive Menge an unlabelten Daten nimmt. Es übersetzt die chaotischen Daten in eine gemeinsame Sprache, filtert die inkompatiblen Quellen heraus und kombiniert alles, um Ihnen die genaueste Vorhersage zu ermöglichen, selbst wenn die Datenquellen sehr unterschiedlich sind.

Die Autoren haben mathematisch bewiesen, dass dies funktioniert, und es an realen medizinischen Daten (Alzheimer und Herzkrankheiten) getestet, wobei gezeigt wurde, dass es weitaus bessere Vorhersagen als bisherige Methoden liefert.

Technisches Resümee: Adaptives und effizientes Lernen mit blockweiser fehlender und semi-überwachter Daten

1. Problemstellung

Die Arbeit befasst sich mit den Herausforderungen der Datenfusion unter gleichzeitigem Vorliegen von drei Komplikationen:

Blockweise Fehlwerte (Blockwise Missingness, BM): Kovariaten fehlen in Blöcken über verschiedene Datenquellen hinweg, da Variablen unterschiedlich erhoben oder definiert wurden. Dies führt zu nicht-monotonen Fehlmustern, bei denen bestimmte Teilmengen von Kovariaten in einigen Quellen beobachtet, in anderen jedoch fehlen.
Semi-überwachtes Setting (Semi-Supervised, SS): Die Zielvariable $Y$ ist teuer zu erheben (z. B. durch manuelle klinische Überprüfung), wodurch die Mehrheit der Stichproben in der Zielpopulation unbeschriftet bleibt, während ein großer Pool an unbeschrifteten Daten mit vollständig beobachteten Kovariaten zur Verfügung steht.
Verteilungsverschiebungen (Distributional Shifts): Datenquellen weisen oft Heterogenität auf, die durch unterschiedliche Messstandards oder Rekrutierungskriterien bedingt ist. Standardannahmen wie „Missing Completely at Random“ (MCAR) sind oft unrealistisch; stattdessen kann das Fehlen von Werten von beobachteten Variablen abhängen, und die Verteilungen zwischen den Quellen können divergieren.

Das Ziel ist die robuste und effiziente Schätzung der Parameter eines Generalisierten Linearen Modells (GLM) für eine Zielpopulation (Unlabeled Complete, UC) durch die Fusion von:

LC (Labeled Complete): Eine kleine Stichprobe mit vollständig beobachteten Kovariaten und Outcomes.
LM (Labeled Missing): Mehrere Quellen mit Outcomes, aber blockweise fehlenden Kovariaten.
UC (Unlabeled Complete): Eine große Stichprobe mit vollständig beobachteten Kovariaten, aber ohne Outcomes.

Eine kritische Herausforderung ist die Quellen-Fehlausrichtung (Source Misalignment): Wenn die bedingte Verteilung der Outcomes gegeben die Kovariaten zwischen einer beschrifteten Quelle und der Zielpopulation abweicht (Verletzung der Transportierbarkeit), führt eine naive Fusion zu Bias.

2. Methodik: DEFUSE

Die Autoren schlagen DEFUSE vor (Data-adaptive Estimation approach for data FUsion in the SEmi-supervised setting), welches unter einer Conditional Alignment under Missingness (CAM) Annahme operiert.

2.1 Kernannahme (CAM)

Die Methode nimmt an, dass unter Berücksichtigung einer vordefinierten Teilmenge von Variablen $Z_r$ (die Outcomes und beobachtete Kovariaten enthalten können) die Datenverteilungen der beschrifteten fehlenden Quellen ( $LM_r$ ) und der Zielpopulation ($UC$) aufeinander abgestimmt sind:
$P_{LM_r}(Y, X | Z_r) = P_{UC}(Y, X | Z_r)$
Dies lockert die strikte MCAR-Annahme auf, da das Fehlen von Werten von beobachteten Daten abhängen kann, sofern die bedingte Ausrichtung (Alignment) gewahrt bleibt.

.2 Zweistufiges Schätzverfahren

Stufe 1: Vorläufige Schätzung (DML-Operator)
Ein vorläufiger Schätzer $\hat{\gamma}$ wird ausschließlich unter Verwendung der LC- und UC-Stichproben abgeleitet. Um die Verteilungsverschiebungen zwischen LC und UC ohne Rückgriff auf instabile Dichteverhältnis-Schätzungen zu handhaben, verwenden die Autoren einen Double/Debiased Machine Learning (DML) Operator:
$M_{LC}(D) = h_{LC}(X)(D - E_{LC}[D|X]) + E_{UC}(E_{LC}[D|X])$
wobei $h_{LC}(X)$ das Dichteverhältnis darstellt. Dieser Operator korrigiert den Bias und bewahrt gleichzeitig die $n^{1/2}$ -Konsistenz, selbst wenn die Störgrößenmodelle (Dichteverhältnisse und bedingte Mittelwerte) langsamer konvergieren ( $o_P(n^{-1/4})$ ).

Stufe 2: Datenadaptiver Kontrollvariablen-Ansatz
Um die $LM_r$ -Stichproben einzubeziehen und die Varianz zu reduzieren, nutzt DEFUSE einen Kontrollvariablen-Ansatz. Der Schätzer wird wie folgt erweitert:
$\hat{\beta}(\phi) = c^\top \hat{\gamma} + \sum_{r=1}^R \left( \hat{E}_{LM_r}[\hat{M}_{LM_r}(\phi_r)] - \hat{E}_{LC}[\hat{M}_r(\phi_r)] \right)$

Operatoren: $\hat{M}_r$ und $\hat{M}_{LM_r}$ werden nach DML-Prinzipien konstruiert, um die Verteilungsverschiebungen zwischen den Quellen zu korrigieren.
Kontrollfunktionen ( $\phi_r$ ): Dies sind datenadaptive Funktionen der beobachteten Variablen in $LM_r$ . Die Methode sucht nach der Minimierung der empirischen asymptotischen Varianz $Q(\phi)$ bezüglich $\phi$ .
Verfeinerungsstrategie: Anstatt direkt komplexe nichtparametrische Funktionen zu optimieren, verfeinert DEFUSE einen „Anker-Prädiktor“ (z. B. ein KI-Modell, das die Score-Funktion vorhersagt) mittels einer Gewichtungsfunktion $w_r(W_r; \delta_r)$ . Dies führt zu einem endlich dimensionalen quadratischen Programmierproblem, was die Methode rechentechnisch handhabbar macht. Die Autoren schlagen drei Beispiele für $w_r$ vor: konstante Koeffizienten, lineare Funktionen und Kernel Ridge Regression (KRR).

2.3 Screening für fehl ausgerichtete Quellen

In Anerkennung der Tatsache, dass einige Quellen die CAM-Annahme verletzen könnten, entwickeln die Autoren ein Screening-Verfahren, um diese vor der Fusion auszuschließen.

Metrik: Sie schlagen ein Maß für die mittlere quadratische Diskrepanz (Mean Squared Discrepancy, MSD) vor, $\bar{\Delta}_r^2$ , welches die Abweichung einer Quelle von der Zielausrichtung quantifiziert.
Entbiasung: Um Bias durch die Schätzung bedingter Mittelwerte zu vermeiden, verwenden sie einen debasierten Schätzer basierend auf einer Maximierung über einen Funktionsraum $G$ .
Selektion: Quellen, deren $\hat{\Delta}_r$ einen Schwellenwert überschreitet, werden ausgeschlossen. Theoretisch wird nachgewiesen, dass dieses MSD-Maß schärfer und sensitiver gegenüber Fehlausrichtungen ist als Standard-Mittelwertdifferenz-Sensitivitätsanalysen.

3. Zentrale Beiträge

Neuartiger Rahmen: DEFUSE ist die erste Methode, die blockweise Fehlwerte, semi-überwachtes Lernen und Verteilungsverschiebungen systematisch unter einer bedingten Alignment-Annahme behandelt.
Datenadaptiver Effizienz: Die Methode führt einen neuen datenadaptiven Kontrollvariablen-Ansatz ein. Sie erreicht intrinsische Effizienz (optimal innerhalb einer spezifizierten Klasse von Kontrollfunktionen) und kann die semiparametrische Effizienzgrenze erreichen, wenn die Klasse der Kontrollfunktionen ausreichend reichhaltig ist (z. B. via KRR).
Robustheit gegenüber Fehlausrichtung: Das vorgeschlagene Screening-Verfahren identifiziert und schließt effektiv fehl ausgerichtete Quellen aus, wodurch die Bias-Propagation verhindert wird – eine Einschränkung vieler existierender Fusionsmethoden, die eine perfekte Transportierbarkeit voraussetzen.
Rechentechnische Machbarkeit: Durch die Reduktion der Optimierung von Kontrollfunktionen auf quadratische Programmierung ermöglicht die Methode die Einbeziehung hochdimensionaler Hilfsvariablen und Black-Box-Machine-Learning-Modelle bei gleichzeitiger Beibehaltung der Recheneffizienz.
Theoretische Garantien: Die Arbeit etabliert asymptotische Normalität, Konsistenz und semiparametrische Effizienzgrenzen für den vorgeschlagenen Schätzer unter Regularitätsbedingungen.

4. Ergebnisse

Simulationsstudien

Effizienz: DEFUSE übertrifft bestehende Methoden (einschließlich Multiple Imputation, GMM-basierter Fusion und Stichproben-Reweighting) konsistent hinsichtlich der relativen Effizienz (RE). In verschiedenen Settings (linear/nichtlinear, binäre/kontinuierliche Outcomes) erreichte DEFUSE mit KRR-Reweighting (Beispiel 3) eine bis zu 25–80 % höhere Effizienz als die Benchmarks.
Robustheit: Unter Verteilungsverschiebungen und Nichtlinearität bewahrte DEFUSE niedrige Bias-zu-Standardfehler-Verhältnisse, während Wettbewerber (wie SC-PW und MBI) einen steigenden Bias zeigten.
Screening-Leistung: In Settings mit fehl ausgerichteten Quellen erreichte die MSD-basierte Screening-Methode nahezu perfekte F1-Scores und Sensitivität bei der Identifizierung fehl ausgerichteter Quellen und übertraf damit deutlich die auf Mittelwertdifferenzen basierenden Strategien.

Reale Anwendungen

Alzheimer-Risiko (NACC-Daten): Anwendung zur Erstellung eines Prognosemodells unter Nutzung von Daten aus mehreren Zentren. Die Screening-Methode schloss 3 von 8 Zentren aufgrund von Fehlausrichtung aus. DEFUSE mit KRR-Reweighting zeigte eine 2,76-fach höhere relative Effizienz für die Alkohol-Kovariate im Vergleich zum vorläufigen Schätzer.
Herzkrankheitsrisiko (MIMIC-III-Daten): Anwendung zur Modellierung des Herzkrankheitsrisikos mit blockweise fehlenden Biomarkern. DEFUSE demonstrierte erhebliche Effizienzgewinne (bis zu 3,65-fach für Alter und 5,72-fach für Diabetes in multiplen BM-Szenarien) im Vergleich zu vorläufigen Schätzern und bestehenden Fusionsmethoden.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass DEFUSE eine praktische und leistungsstarke Lösung für moderne Datenfusionsprobleme bietet, bei denen die Datenstrukturen komplex und heterogen sind.

Theoretische Optimalität: Es überbrückt die Lücke zwischen theoretischer semiparametrischer Effizienz und praktischer Implementierung, indem es einen Mechanismus bereitstellt, um die Effizienzgrenzen zu erreichen, selbst wenn klassische geschlossene Schätzer nicht verfügbar sind.
Schutz der Validität: Durch die explizite Adressierung der Quellen-Fehlausrichtung mittels eines sensitiven Screening-Verfahrens schützt die Methode vor dem Bias, der die Fusion nicht-ausgerichteter Datensätze belastet.
Flexibilität: Der Rahmen ist flexibel genug, um hochdimensionale Hilfsvariablen (z. B. aus elektronischen Patientenakten) und leistungsstarke Machine-Learning-Modelle zu integieren, ohne die Recheneffizienz zu opfern.

Die Autoren merken an, dass die Methode derzeit eine beschriftete vollständige Stichprobe (LC) erfordert, zukünftige Arbeiten den Ansatz jedoch auf Settings generalisieren könnten, in denen nur unbeschriftete und teilweise beschriftete Daten verfügbar sind, sofern die Vereinigung der beobachteten Kovariaten die Zielprädiktoren abdeckt.