📊 statistics

PAIR-CI: Calibrated Conditional Independence Testing for Causal Discovery with Incomplete Data

Dieser Beitrag stellt PAIR-CI vor, einen nichtparametrischen Test auf bedingte Unabhängigkeit, der multiple Imputation direkt in das Inferenzverfahren durch ein gepaartes Permutationsdesign integriert, um durch Imputationsfehler verursachte Scheinabhängigkeiten zu eliminieren, wodurch die statistische Kalibrierung wiederhergestellt und die Genauigkeit der kausalen Entdeckung in Datensätzen mit fehlenden Werten, insbesondere unter nichtlinearen und nicht-zufällig fehlenden Bedingungen, erheblich verbessert wird.

Ursprüngliche Autoren: Thomas S. Robinson, Ranjit Lall

Veröffentlicht 2026-05-07

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Thomas S. Robinson, Ranjit Lall

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Das „zerbrochene Puzzle"

Stellen Sie sich vor, Sie versuchen herauszufinden, wie eine komplexe Maschine funktioniert (wie ein Automotor), indem Sie ihre Teile betrachten. Sie wollen wissen: Verursacht die Zündkerze, dass der Motor anspringt, oder ist es nur die Batterie?

In den Datenwissenschaften nennt man dies kausale Entdeckung. Um dies zu lösen, verwenden Forscher eine Methode, die prüft, ob zwei Teile unabhängig voneinander sind, sobald man einen dritten Teil berücksichtigt. Dies nennt man einen Test auf bedingte Unabhängigkeit (CI-Test).

Der Haken: Reale Daten sind chaotisch. Oft fehlen Teile des Puzzles (wie ein fehlendes Zahnrad in Ihrer Zeichnung).

Der alte Weg: Der Standardansatz besteht darin, zuerst zu „raten" (zu imputieren), wie die fehlenden Teile aussehen, und den Test danach durchzuführen.
Der Fehler: Das Papier argumentiert, dass diese „Raten-dann-testen"-Methode wie der Versuch ist, ein Puzzle zu lösen, während man durch beschlagene Gläser schaut. Wenn Ihre Vermutung über das fehlende Stück auch nur geringfügig falsch ist, erzeugt sie eine künstliche Verbindung zwischen Teilen, die tatsächlich nicht verbunden sind. Dies führt dazu, dass Forscher Linien auf ihre Karte zeichnen, wo keine sein sollten, und so eine falsche Karte darüber erstellen, wie die Maschine funktioniert.

Die Lösung: PAIR-CI (Der „gepaarte" Ansatz)

Die Autoren, Thomas Robinson und Ranjit Lall, stellen eine neue Methode namens PAIR-CI vor. Anstatt die fehlenden Teile zu erraten und dann zu testen, ändern sie das Spiel komplett.

Stellen Sie es sich wie einen Geschmackstest in einem Kochwettbewerb vor:

Das Setup: Sie haben eine Suppe (Ihre Daten) mit einigen fehlenden Zutaten. Sie erstellen mehrere Versionen der Suppe, bei denen die fehlenden Zutaten mit Vermutungen aufgefüllt werden (dies nennt man „Multiple Imputation").
Die Paarung: Für jede einzelne Version der Suppe führen Sie zwei Geschmackstests nebeneinander durch:
- Test A: Ein Koch probiert die Suppe mit der Kandidaten-Zutat (z. B. „Verändert das Hinzufügen von Salz den Geschmack?").
- Test B: Ein Koch probiert die Suppe ohne die Kandidaten-Zutat (z. B. „Schmeckt die Suppe gleich, wenn wir so tun, als wäre Salz nicht da gewesen?").
Der Zaubertrick: Entscheidend ist, dass beide Köche exakt dieselbe Version der Suppe mit exakt denselben vermuteten Zutaten probieren.
- Wenn die „Vermutung" für die fehlende Zutat schlecht war (beschlagene Gläser), betrifft dies beide Köche gleichermaßen.
- Wenn Sie die beiden Ergebnisse vergleichen, hebt sich die „schlechte Vermutung" auf. Es ist so, als würden beide Köche dieselben beschlagenen Gläser tragen; beide denken, die Suppe schmecke seltsam, aber wenn sie ihre Notizen vergleichen, merken sie: „Hey, die Seltsamkeit ist für uns beide gleich, also müssen es die Gläser sein, nicht die Suppe."

Indem PAIR-CI die beiden Modelle direkt vergleicht, entfernt es den Fehler, der durch die Vermutungen bei fehlenden Daten verursacht wird, und hinterlässt nur das wahre Signal.

Warum dies wichtig ist: Das Problem der „falschen Alarme"

Das Papier führte Tausende von Simulationen durch, um zu sehen, wie gut dies funktioniert.

Der alte Weg: Wenn Daten auf schwierige Weise fehlten (nicht nur zufällig, sondern systematisch), lösten die alten Methoden den „falschen Alarm" (dachten also, es gäbe eine Verbindung, wo keine war) 28 % bis 45 % der Zeit aus. Das ist wie ein Rauchmelder, der jedes Mal losgeht, wenn Sie Brot toasten.
PAIR-CI: Diese neue Methode hielt die Rate der falschen Alarme auf weniger als 5 % gedrückt, was das Standardziel für wissenschaftliche Tests ist. Sie blieb ruhig und genau, selbst wenn die Daten chaotisch waren.

Der „Motor" hinter den Kulissen

Um dies zu ermöglichen, mussten die Autoren ein mathematisches Problem lösen, das niemand zuvor gelöst hatte.

Die Herausforderung: Ihre Methode beinhaltet zwei Arten von „Rauschen": das Rauschen durch das Raten der fehlenden Daten und das Rauschen durch das Aufteilen der Daten in Blöcke zum Testen (Kreuzvalidierung).
Die Lösung: Sie bauten ein neues mathematisches „Lineal" (ein Varianzschätzer), das beide Arten von Rauschen gleichzeitig misst. Es ist wie eine einzige Waage, die sowohl die Früchte als auch den Korb, in dem sie sitzen, wiegen kann, um Ihnen das wahre Gewicht nur der Früchte zu geben.

Ergebnisse aus der Praxis

Die Autoren testeten dies an Karten unterschiedlicher Größen:

Kleine Karten (10 Variablen): Es funktionierte gut, etwas besser als die alten Methoden.
Mittlere Karten (30 Variablen): Der Vorteil wuchs. Die alten Methoden begannen, viele Fehler zu machen, während PAIR-CI genau blieb.
Große Karten (56 Variablen – das Wetternetzwerk „HAILFINDER"): Hier glänzte die neue Methode. Die alten Methoden waren durch die fehlenden Daten so verwirrt, dass ihre Karten fast unbrauchbar waren. PAIR-CI reduzierte die Fehler um 44 %.

Das Fazit

PAIR-CI ist ein neues Werkzeug für Wissenschaftler, die Ursache-Wirkungs-Beziehungen herausfinden wollen, wenn ihre Daten Löcher aufweisen.

Altes Werkzeug: Löcher raten, dann testen. (Anfällig dafür, Geister/Verbindungen zu sehen, die nicht existieren).
Neues Werkzeug (PAIR-CI): Zwei Szenarien nebeneinander testen, unter Verwendung derselben Vermutungen. Die Fehler heben sich auf und enthüllen die wahre Wahrheit.

Das Papier behauptet, dass diese Methode zuverlässiger ist, insbesondere wenn Daten auf komplexe, nicht-zufällige Weise fehlen, und sie funktioniert am besten, wenn die Beziehungen zwischen den Variablen komplex (nicht-linear) sind und nicht einfache gerade Linien darstellen. Sie behauptet nicht, alle Probleme mit fehlenden Daten zu lösen, aber sie löst das spezifische Problem der „falschen Verbindungen", die durch schlechte Vermutungen bei der kausalen Entdeckung verursacht werden.

Technischer Überblick: PAIR-CI: Kalibrierte Tests auf bedingte Unabhängigkeit für die kausale Entdeckung bei unvollständigen Daten

1. Problemstellung

Die kausale Entdeckung mittels restriktionsbasierter Methoden (z. B. dem PC-Algorithmus) beruht grundlegend auf einer Abfolge von Tests auf bedingte Unabhängigkeit (CI), um das Skelett und die Orientierung eines kausalen Graphen zu bestimmen. Ein kritischer Engpass entsteht, wenn Daten unvollständig sind. Standardansätze folgen typischerweise einem Paradigma „zuerst imputieren, dann testen": Fehlende Werte werden imputiert, und auf die vervollständigten Daten werden Standard-CI-Tests angewendet.

Die Autoren identifizieren einen fundamentalen Mangel in diesem Paradigma: Fehlkalibrierung. Wenn Imputationsmodelle falsch spezifiziert sind (z. B. unter Bedingungen von „Missing Not At Random" (MNAR) oder wenn funktionale Formen inkorrekt sind), führt Imputationsfehler zu einer scheinbaren bedingten Abhängigkeit zwischen Testvariablen. Proposition 1 formalisiert, dass unter diesen Bedingungen jeder konsistente CI-Test asymptotisch die wahre Nullhypothese mit einer Wahrscheinlichkeit gegen 1 ablehnt. Dies führt zu kausalen Graphen, die mit scheinbaren Kanten gefüllt sind, welche Fehler durch Orientierungsregeln für Kanten (Meeks Regeln) propagieren und damit nachgelagerte Inferenzen kompromittieren. Bestehende Abhilfen, wie die löschweise Testung (die Daten opfert und Selektionsbias induziert) oder Standard-Multiple-Imputation kombiniert mit Rubins Regeln (die nicht in der Lage ist, Bias zu korrigieren, der durch die Bedingungsmenge eindringt), lösen dieses strukturelle Problem nicht.

2. Methodik: PAIR-CI

Die Arbeit stellt PAIR-CI vor, einen nichtparametrischen CI-Test, der entwickelt wurde, um die Kalibrierung wiederherzustellen, indem Multiple-Imputation direkt in das Inferenzverfahren über ein gepaartes Permutationsdesign integriert wird.

Kernmechanismus

Der Test vergleicht zwei cross-validierte Modelle, die eine Zielvariable $Z$ unter Angabe einer Bedingungsmenge $X$ vorhersagen:

Vollständiges Modell: Vorhersage von $Z$ unter Verwendung von $(X, Y)$ .
Partielles Modell: Vorhersage von $Z$ unter Verwendung von $(\hat{X}, U)$ , wobei $\hat{X}$ die imputierte Bedingungsmenge und $U$ eine „Placebo"-Variable ist.

Wesentliche Designmerkmale:

Gepaarte Imputation: Beide Modelle erhalten exakt denselben imputierten Bedingungsvektor $\hat{X}$ , der aus demselben Multiple-Imputation-Prozess (MICE) abgeleitet wird. Dies stellt sicher, dass jede durch Imputationsfehler eingeführte Verzerrung oder Verzerrung beide Modelle identisch beeinflusst.
Bedingte Permutation: Das Placebo $U$ wird konstruiert, indem $Y$ bedingt unter seinen $k$ -nächsten Nachbarn im $\hat{X}$ -Raum permutiert wird. Dies bricht die Verbindung zwischen $Y$ und $Z$ gegeben $X$ , erhält jedoch die marginale Abhängigkeit von $Y$ von $X$ bei.
Verlustdifferenz: Die Teststatistik ist die Differenz des Out-of-Sample-Verlusts (z. B. binäre Kreuzentropie oder MSE) zwischen dem vollständigen und dem partiellen Modell. Da beide Modelle denselben imputierten $\hat{X}$ teilen, hebt sich die durch Imputation verursachte Verzerrung in der Verlustdifferenz auf und verhindert, dass sie die Teststatistik kontaminiert.
Vereinheitlichte Varianzschätzung: Die Teststatistik aggregiert Verlustdifferenzen über $K$ Cross-Validation-Folds und $M$ imputierte Datensätze. Die Autoren schlagen einen neuartigen Varianzschätzer vor, der den nachweislich konsistenten Varianzschätzer innerhalb der Imputation für Cross-Validation (Bayle et al., 2020) in Rubins Regeln für Variation zwischen Imputationen einbettet. Dies berücksichtigt gleichzeitig Abhängigkeiten, die sowohl aus der Überlappung der Folds als auch aus der Variation der Imputationen resultieren.

Theoretische Garantien

Kalibrierung: Unter vier milden Regularitätsannahmen (Konsistenz der Imputation, beschränkter Verlust, ordnungsgemäße Imputation und Stabilität des Lerners) erreicht PAIR-CI eine exakte asymptotische Größe für die interne Nullhypothese ( $Z \perp\!\!\perp Y \mid \hat{X}$ ).
Robustheit gegenüber MNAR: Das gepaarte Design erweitert die Kalibrierung auf die wissenschaftliche Nullhypothese ( $Z \perp\!\!\perp Y \mid X$ ), selbst unter MNAR, sofern der Imputationsfehler zufällig über die Beobachtungen variiert und nicht systematisch ist.
Konsistenz: Der Test ist konsistent unter der Alternativhypothese ( $H_1$ ), wobei die Power mit zunehmendem Stichprobenumfang gegen 1 konvergiert.
PC-Konsistenz: Wenn PAIR-CI als Oracle innerhalb des PC-Algorithmus verwendet wird, garantiert es die Wiederherstellung des wahren Completed Partially Directed Acyclic Graph (CPDAG) unter Standardannahmen der Treue.

3. Hauptbeiträge

Die Arbeit skizziert drei wesentliche Beiträge:

Ein kalibrierter nichtparametrischer CI-Test: PAIR-CI ist die erste Methode, die Multiple-Imputation, Cross-Validation und bedingte Permutation in ein einziges Framework integriert, das unter Fehlspezifikation die Kalibrierung beibehält. Es erreicht eine durchschnittliche False-Positive-Rate von $\le 4\%$ über diverse datengenerierende Prozesse (DGPs) und Mechanismen der Datenunvollständigkeit hinweg, wohingegen bestehende Methoden unter MNAR Raten von 28–45 % aufweisen.
Vereinheitlichte Varianzschätzung: Die Autoren liefern die erste formale Vereinheitlichung der Varianzschätzung für Cross-Validation und Multiple-Imputation. Durch die Einbettung des Schätzers von Bayle et al. (2020) in Rubins Regeln leiten sie einen asymptotisch exakten Schätzer ab, der die statistische Power bei intermediären Effektstärken um 9–10 Prozentpunkte verbessert und $K=10$ Folds erlaubt, ohne die Kalibrierung zu opfern.
Robuste kausale Entdeckung: Empirische Ergebnisse zeigen, dass PAIR-CI bei der Graph-Wiederherstellung die Baselines signifikant übertrifft, insbesondere in nichtlinearen Settings und mit zunehmender Graphgröße.

4. Experimentelle Ergebnisse

Die Autoren validieren PAIR-CI durch drei Stufen von Experimenten:

A. Eigenständige Leistung

In Simulationen über lineare Gaußsche, post-nichtlineare und latente Konfundierer-DGPs mit Stichprobengrößen $n \in \{500, 5000\}$ :

False-Positive-Raten: PAIR-CI hält eine durchschnittliche FPR von $\le 4\%$ über alle Unvollständigkeitsbedingungen hinweg (Vollständig, MAR, MNAR). Im Gegensatz dazu weisen Baselines wie FZ-Rubin, GCM und KCI unter MNAR FPRs von 28–45 % auf.
Power: PAIR-CI erreicht bei Signalstärken $\ge 0,6$ und $n \ge 2000$ eine Power von $>80\%$ . Obwohl es weniger mächtig ist als parametrische Tests (z. B. Fishers Z), wenn die Annahmen perfekt erfüllt sind, vermeidet es die uninformative Ablehnung fehlerkalibrierter Tests.

B. Synthetische Graph-Wiederherstellung

Unter Verwendung des PC-Algorithmus auf Erdős–Rényi-DAGs ( $p=10, 20, 30$ ):

Nichtlineare Kanten: PAIR-CI reduziert die Strukturelle Hamming-Distanz (SHD) im Vergleich zu Baselines signifikant. Die SHD-Lücke vergrößert sich mit der Graphgröße: 8 % Reduktion bei $p=10$ , 15 % bei $p=30$ und bis zu 44 % im 56-Variablen-HAILFINDER-Netzwerk.
Lineare Kanten: PAIR-CI entspricht oder übertrifft die Baselines, wenn die Bedingungsmengen wachsen, wo partielle Korrelationen weniger zuverlässig werden.
Präzision-Recall: PAIR-CI zeigt eine hohe Präzision (oft 1,0) auf Kosten einer leicht geringeren Recall-Rate und vermeidet damit die Propagation scheinbarer Kanten, die andere Methoden plagt.

C. Benchmarks aus der realen Welt

ALARM-Netzwerk ( $p=37$ ): PAIR-CI erreicht eine SHD von 22,5–24 (linear) und 31–33,5 (nichtlinear) und übertrifft alle restriktionsbasierten Baselines (SHD 30–62).
HAILFINDER-Netzwerk ( $p=56$ ): PAIR-CI erreicht eine SHD von 62,5–65,5, verglichen mit 103,5–128 für Baselines. Bemerkenswerterweise erzielt die Analyse vollständiger Fälle eine ähnliche SHD (66), jedoch mit einem F1-Score von 0,0 (leeres Skelett), was das Artefakt des „Gewinnens durch Aufgabe" einer aggressiven Datenlöschung veranschaulicht.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass PAIR-CI eine kritische Lücke in der automatisierten wissenschaftlichen Inferenz schließt, indem es einen kalibrierten Ansatz für die kausale Entdeckung bei unvollständigen Daten bietet.

Motivation: Die Autoren argumentieren, dass das Paradigma „zuerst imputieren, dann testen" unter gängigen realweltlichen Bedingungen (MNAR, funktionale Fehlspezifikation) strukturell fehlerhaft ist und zu unzuverlässigen kausalen Graphen führt.
Umfang: Die Methode geht von kausaler Suffizienz aus (keine unbeobachteten Konfundierer), ist jedoch gegenüber dem spezifischen Entdeckungsalgorithmus agnostisch und dient als Drop-in-Oracle für PC oder FCI.
Einschränkungen: Die Autoren räumen ein, dass PAIR-CI etwas Power für Kalibrierung opfert, insbesondere bei kleinen Stichproben mit schwachen Signalen oder wenn Beziehungen strikt linear sind und die Unvollständigkeit MCAR/MAR ist (wo parametrische Tests glänzen). Sie weisen zudem darauf hin, dass die Methode von der Annahme abhängt, dass Imputationsfehler zufällig variieren; systematische Fehler (z. B. aus Mittelwert-Imputation) können weiterhin zu Fehlkalibrierung führen.
Fazit: PAIR-CI bietet eine prinzipielle, nichtparametrische Lösung, die die Zuverlässigkeit restriktionsbasierter kausaler Entdeckung bei Vorliegen fehlender Daten wiederherstellt, mit Leistungsgewinnen, die mit der Graphkomplexität und Nichtlinearität skalieren.