📊 statistics

PAIR-CI: Calibrated Conditional Independence Testing for Causal Discovery with Incomplete Data

Dit artikel introduceert PAIR-CI, een niet-parametrische test voor conditionele onafhankelijkheid die meervoudige imputatie direct integreert in het inferentiële procedé via een gepaard permutatieontwerp om schijnbare afhankelijkheden veroorzaakt door imputatiefouten te elimineren, waardoor statistische kalibratie wordt hersteld en de nauwkeurigheid van causale ontdekking aanzienlijk wordt verbeterd in datasets met ontbrekende waarden, met name onder niet-lineaire omstandigheden en bij ontbrekende waarden die niet willekeurig zijn.

Oorspronkelijke auteurs: Thomas S. Robinson, Ranjit Lall

Gepubliceerd 2026-05-07

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Thomas S. Robinson, Ranjit Lall

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Gebroken Puzzel"

Stel je voor dat je probeert uit te vinden hoe een complexe machine werkt (zoals een motoren) door naar de onderdelen te kijken. Je wilt weten: Zorgt de bougie ervoor dat de motor start, of is het gewoon de accu?

In datawetenschap heet dit Causale Ontdekking. Om dit op te lossen, gebruiken onderzoekers een methode die controleert of twee onderdelen onafhankelijk van elkaar zijn zodra je rekening houdt met een derde onderdeel. Dit heet een Conditionele Onafhankelijkheid (CI) test.

De Haken: Wereldlijke data is rommelig. Vaak ontbreken stukken van de puzzel (zoals een ontbrekend tandwiel in je diagram).

De Oude Weg: De standaardaanpak is om eerst te "raden" (imputeren) hoe de ontbrekende stukken eruitzien, en daarna de test uit te voeren.
De Tekortkoming: Het paper betoogt dat deze "eerst-raden-dan-testen"-methode vergelijkbaar is met het proberen een puzzel op te lossen terwijl je een wazige bril op hebt. Als je gok over het ontbrekende stukje ook maar iets verkeerd is, creëert dit een nep-verbinding tussen onderdelen die eigenlijk niet verbonden zijn. Dit leidt ertoe dat onderzoekers lijnen trekken op hun kaart waar geen lijnen zouden moeten zijn, waardoor er een valse kaart ontstaat van hoe de machine werkt.

De Oplossing: PAIR-CI (De "Gekoppelde" Aanpak)

De auteurs, Thomas Robinson en Ranjit Lall, introduceren een nieuwe methode genaamd PAIR-CI. In plaats van de ontbrekende stukken te raden en daarna te testen, veranderen ze het spel volledig.

Stel je het voor als een smaaktasting in een kookwedstrijd:

De Opstelling: Je hebt een soep (je data) met enkele ontbrekende ingrediënten. Je maakt verschillende versies van de soep waarbij de ontbrekende ingrediënten worden ingevuld met gissingen (dit heet "Meervoudige Imputatie").
De Koppeling: Voor elke enkele versie van de soep voer je twee smaaktesten naast elkaar uit:
- Test A: Een chef proeft de soep met het kandidaat-ingredient (bijv. "Verandert het toevoegen van zout de smaak?").
- Test B: Een chef proeft de soep zonder het kandidaat-ingredient (bijv. "Smakt de soep hetzelfde als we doen alsof er geen zout was?").
De Magische Truc: Cruciaal is dat beide chefs precies dezelfde versie van de soep proeven met precies dezelfde gegiste ingrediënten.
- Als de "gok" voor het ontbrekende ingredient slecht was (wazige bril), heeft dit beide chefs evenveel beïnvloed.
- Wanneer je de twee resultaten vergelijkt, heft de "slechte gok" elkaar op. Het is alsof beide chefs dezelfde wazige bril dragen; ze denken allebei dat de soep raar smaakt, maar wanneer ze hun notities vergelijken, beseffen ze: "Hé, die rare smaak is voor ons allebei hetzelfde, dus het moet de bril zijn, niet de soep."

Door de twee modellen direct te vergelijken, verwijdert PAIR-CI de fout die wordt veroorzaakt door de gissingen over ontbrekende data, waardoor alleen het ware signaal overblijft.

Waarom Dit Belangrijk Is: Het "Valse Alarm" Probleem

Het paper voerde duizenden simulaties uit om te zien hoe goed dit werkt.

De Oude Weg: Wanneer data op lastige manieren ontbrak (niet zomaar willekeurig, maar systematisch), gaven de oude methoden het "valse alarm" (denkend dat er een connectie was terwijl dat niet zo was) 28% tot 45% van de tijd. Dat is alsof een rookmelder afgaat elke keer dat je brood toast.
PAIR-CI: Deze nieuwe methode hield het percentage valse alarmen onder 5%, wat de standaarddoelstelling is voor wetenschappelijke tests. Het bleef kalm en accuraat, zelfs toen de data rommelig was.

De "Motor" Achter De Schermen

Om dit werkend te krijgen, moesten de auteurs een wiskundig probleem oplossen dat nog niemand eerder had opgelost.

De Uitdaging: Hun methode omvat twee soorten "ruis": de ruis van het raden van de ontbrekende data, en de ruis van het splitsen van de data in stukken om het te testen (cross-validatie).
De Oplossing: Ze bouwden een nieuwe wiskundige "liniaal" (een variantie-schatter) die beide soorten ruis tegelijkertijd meet. Het is alsof je één weegschaal hebt die zowel het fruit als de mand waarin het zit kan wegen, waardoor je het ware gewicht van alleen het fruit krijgt.

Wereldlijke Resultaten

De auteurs testten dit op kaarten van verschillende groottes:

Kleine Kaarten (10 variabelen): Het werkte goed, iets beter dan de oude methoden.
Middelgrote Kaarten (30 variabelen): Het voordeel groeide. De oude methoden begonnen veel fouten te maken, terwijl PAIR-CI accuraat bleef.
Grote Kaarten (56 variabelen - Het "HAILFINDER" weernetwerk): Hier schitterde de nieuwe methode. De oude methoden waren zo verward door de ontbrekende data dat hun kaarten bijna nutteloos waren. PAIR-CI verlaagde de fouten met 44%.

De Conclusie

PAIR-CI is een nieuw gereedschap voor wetenschappers die proberen oorzaak-en-gevolg-relaties uit te vinden wanneer hun data gaten heeft.

Oud Gereedschap: Raad de gaten, test dan. (Kwetsbaar voor het zien van spoken/connecties die er niet zijn).
Nieuw Gereedschap (PAIR-CI): Test twee scenario's naast elkaar met dezelfde gokken. De fouten heffen elkaar op, waardoor de ware waarheid blootlegt.

Het paper beweert dat deze methode betrouwbaarder is, vooral wanneer data op complexe, niet-willekeurige manieren ontbreekt, en dat het het beste werkt wanneer de relaties tussen variabelen complex (niet-lineair) zijn in plaats van simpele rechte lijnen. Het claimt niet alle problemen met ontbrekende data op te lossen, maar het lost het specifieke probleem van "nep-connecties" op die worden veroorzaakt door slechte gissingen bij causale ontdekking.

Technische Samenvatting: PAIR-CI: Gecalibreerde Conditionele Onafhankelijkheidstests voor Causale Ontdekking met Onvolledige Data

1. Probleemstelling

Causale ontdekking via op beperkingen gebaseerde methoden (bijvoorbeeld het PC-algoritme) berust fundamenteel op een reeks conditionele onafhankelijkheidstests (CI-tests) om het skelet en de oriëntatie van een causale graaf te bepalen. Een kritieke knelpunt ontstaat wanneer data onvolledig zijn. Standaardbenaderingen volgen doorgaans een paradigma van "eerst imputeren, vervolgens testen": ontbrekende waarden worden geïmputeerd en standaard CI-tests worden toegepast op de voltooide data.

De auteurs identificeren een fundamenteel gebrek in dit paradigma: miscalibratie. Wanneer imputatiemodellen verkeerd gespecificeerd zijn (bijvoorbeeld onder Missing Not At Random (MNAR)-omstandigheden of wanneer functionele vormen onjuist zijn), induceert imputatiefout schijnbare conditionele afhankelijkheid tussen testvariabelen. Propositie 1 formaliseert dat onder deze voorwaarden elke consistente CI-test asymptotisch de ware nulhypothese zal verwerpen met een waarschijnlijkheid die naar 1 nadert. Dit leidt tot causale grafen die zijn gevuld met schijnbare randen, die fouten doorgeven via randoriëntatieregels (Meeks regels), waardoor downstream inferentie wordt gecompromitteerd. Bestaande oplossingen, zoals testwijze verwijdering (wat data opoffert en selectiebias induceert) of standaard meervoudige imputatie gecombineerd met Rubins regels (wat faalt om de bias te corrigeren die via de conditionerende set binnenkomt), lossen dit structurele probleem niet op.

2. Methodologie: PAIR-CI

Het artikel introduceert PAIR-CI, een niet-parametrische CI-test die is ontworpen om calibratie te herstellen door meervoudige imputatie direct te integreren in de inferentiële procedure via een gepaard permutatieontwerp.

Kernmechanisme

De test vergelijkt twee cross-gevalideerde modellen die een doelvariabele $Z$ voorspellen gegeven een conditionerende set $X$ :

Volledig Model: Voorspelt $Z$ met behulp van $(X, Y)$ .
Gedeeltelijk Model: Voorspelt $Z$ met behulp van $(\hat{X}, U)$ , waarbij $\hat{X}$ de geïmputeerde conditionerende set is en $U$ een "placebo"-variabele.

Belangrijkste Ontwerpeigenschappen:

Gepaarde Imputatie: Beide modellen ontvangen exact dezelfde geïmputeerde conditionerende set $\hat{X}$ , afgeleid uit hetzelfde meervoudige imputatieproces (MICE). Dit zorgt ervoor dat elke bias of vervorming die door imputatiefout wordt geïntroduceerd, beide modellen identiek beïnvloedt.
Conditionele Permutatie: De placebo $U$ wordt geconstrueerd door $Y$ conditioneel te permuteren onder zijn $k$ -naaste buren in de $\hat{X}$ -ruimte. Dit verbreekt het verband tussen $Y$ en $Z$ gegeven $X$ , terwijl de marginale afhankelijkheid van $Y$ van $X$ behouden blijft.
Verliesverschil: De teststatistiek is het verschil in out-of-sample verlies (bijvoorbeeld binaire cross-entropy of MSE) tussen het volledige en het gedeeltelijke model. Omdat beide modellen dezelfde geïmputeerde $\hat{X}$ delen, heft de door imputatie veroorzaakte bias zich op in het verliesverschil, waardoor wordt voorkomen dat deze de teststatistiek verontreinigt.
Gefuseerde Variatieschatting: De teststatistiek aggregeert verliesverschillen over $K$ cross-validatievouw en $M$ geïmputeerde datasets. De auteurs stellen een nieuwe variatieschatter voor die de bewezen consistente cross-validatievariatieschatter binnen-imputatie (Bayle et al., 2020) nestelt binnen Rubins regels voor variatie tussen-imputatie. Dit houdt rekening met afhankelijkheid die voortkomt uit zowel vouw-overlap als imputatievariatie tegelijkertijd.

Theoretische Waarborgen

Calibratie: Onder vier milde regulariteitsaannames (imputatieconsistentie, begrensd verlies, juiste imputatie en stabiliteit van de leerder), bereikt PAIR-CI exacte asymptotische grootte voor de interne nulhypothese ( $Z \perp\!\!\perp Y \mid \hat{X}$ ).
Robuustheid tegen MNAR: Het gepaarde ontwerp breidt calibratie uit naar de wetenschappelijke nulhypothese ( $Z \perp\!\!\perp Y \mid X$ ), zelfs onder MNAR, mits de imputatiefout willekeurig varieert over observaties in plaats van systematisch te zijn.
Consistentie: De test is consistent onder het alternatief ( $H_1$ ), waarbij de power convergeert naar 1 naarmate de steekproefomvang toeneemt.
PC-Consistentie: Wanneer gebruikt als orakel binnen het PC-algoritme, garandeert PAIR-CI het herstel van de ware Voltooide Gedeeltelijk Gerichte Acyclische Graaf (CPDAG) onder standaard trouwheidsaannames.

3. Belangrijkste Bijdragen

Het artikel schetst drie hoofdbijdragen:

Een Gecalibreerde Niet-Parametrische CI-test: PAIR-CI is de eerste methode die meervoudige imputatie, cross-validatie en conditionele permutatie integreert in één raamwerk dat calibratie behoudt onder verkeerde specificatie. Het bereikt een gemiddelde vals-positieve ratio van $\le 4\%$ over diverse datagenererende processen (DGPs) en ontbrekendheidsmechanismen, terwijl bestaande methoden onder MNAR ratios van 28–45% vertonen.
Gefuseerde Variatieschatting: De auteurs bieden de eerste formele unificatie van cross-validatie en variatieschatting voor meervoudige imputatie. Door de schatter van Bayle et al. (2020) te embedden binnen Rubins regels, leiden ze een asymptotisch exacte schatter af die de statistische power met 9–10 procentpunten verbetert bij intermediaire effectgroottes en toelaat om $K=10$ vouwen te gebruiken zonder calibratie op te offeren.
Robuuste Causale Ontdekking: Empirische resultaten tonen aan dat PAIR-Ci significant beter presteert dan baselines bij graafherstel, met name in niet-lineaire settings en naarmate de graafgrootte toeneemt.

4. Experimentele Resultaten

De auteurs valideren PAIR-CI via drie fasen van experimentatie:

A. Standalone Prestaties

In simulaties over lineaire Gaussische, post-niet-lineaire en latente confounder DGPs met steekproefgroottes $n \in \{500, 5000\}$ :

Valse Positieve Ratio's: PAIR-CI handhaaft een gemiddelde FPR van $\le 4\%$ over alle ontbrekendheidsvoorwaarden (Volledig, MAR, MNAR). In tegenstelling hiermee vertonen baselines zoals FZ-Rubin, GCM en KCI FPR's van 28–45% onder MNAR.
Power: PAIR-CI bereikt een power van $>80\%$ bij signaalsterktes $\ge 0.6$ en $n \ge 2000$ . Hoewel het minder krachtig is dan parametrische tests (bijvoorbeeld Fishers Z) wanneer aannames perfect worden nagekomen, vermijdt het de oninformatieve verwerpingen van miscalibreerde tests.

B. Synthetisch Graafherstel

Met behulp van het PC-algoritme op Erdős–Rényi DAG's ( $p=10, 20, 30$ ):

Niet-lineaire Randen: PAIR-CI vermindert de Structurele Hamming Afstand (SHD) significant in vergelijking met baselines. De SHD-kloof verbreedt met de graafgrootte: 8% reductie bij $p=10$ , 15% bij $p=30$ , en tot 44% op het 56-variabele HAILFINDER-netwerk.
Lineaire Randen: PAIR-CI komt overeen met of overtreft baselines naarmate conditionerende sets groeien, waarbij partiële correlaties minder betrouwbaar worden.
Precisie-Recall: PAIR-CI vertoont hoge precisie (vaak 1.0) ten koste van iets lagere recall, waardoor het voorkomen wordt dat schijnbare randen worden doorgegeven, wat andere methoden teistert.

C. Real-World Benchmarks

ALARM Netwerk ( $p=37$ ): PAIR-CI bereikt een SHD van 22.5–24 (lineair) en 31–33.5 (niet-lineair), en presteert beter dan alle op beperkingen gebaseerde baselines (SHD 30–62).
HAILFINDER Netwerk ( $p=56$ ): PAIR-CI bereikt een SHD van 62.5–65.5, vergeleken met 103.5–128 voor baselines. Opmerkelijk is dat analyse op volledige gevallen een vergelijkbare SHD bereikt (66), maar met een F1-score van 0.0 (leeg skelet), wat het artefact "winnen door op te geven" van agressieve dataverwijdering illustreert.

5. Betekenis en Claims

Het artikel claimt dat PAIR-CI een kritieke kloof in geautomatiseerde wetenschappelijke inferentie aanpakt door een gecalibreerde aanpak te bieden voor causale ontdekking met onvolledige data.

Motivatie: De auteurs betogen dat het paradigma "eerst imputeren, vervolgens testen" structureel gebrekkig is onder veelvoorkomende real-world omstandigheden (MNAR, functionele verkeerde specificatie), wat leidt tot onbetrouwbare causale grafen.
Scope: De methode neemt causale toereikendheid aan (geen onwaargenomen confounders), maar is agnostisch ten opzichte van het specifieke ontdekkingsalgoritme, en dient als een drop-in orakel voor PC of FCI.
Beperkingen: De auteurs erkennen dat PAIR-CI enige power opoffert voor calibratie, met name in kleine steekproeven met zwakke signalen of wanneer relaties strikt lineair zijn en ontbrekendheid MCAR/MAR is (waar parametrische tests uitblinken). Zij merken ook op dat de methode berust op de aanname dat imputatiefout willekeurig varieert; systematische fouten (bijvoorbeeld van gemiddelde imputatie) kunnen nog steeds leiden tot miscalibratie.
Conclusie: PAIR-CI biedt een principiële, niet-parametrische oplossing die betrouwbaarheid herstelt in op beperkingen gebaseerde causale ontdekking in aanwezigheid van ontbrekende data, met prestatiewinsten die schalen met graafcomplexiteit en niet-lineariteit.