📊 statistics

Causal Effect Estimation with Learned Instrument Representations

Dit artikel introduceert ZNet, een representatieleren-methode die instrumentvariabelen leert uit waargenomen covariaten om causaliteitsschattingen te verbeteren in observationele studies, zelfs wanneer geen expliciete instrumentvariabelen beschikbaar zijn.

Oorspronkelijke auteurs: Frances Dean, Jenna Fields, Radhika Bhalerao, Marie Charpignon, Ahmed Alaa

Gepubliceerd 2026-04-08

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Frances Dean, Jenna Fields, Radhika Bhalerao, Marie Charpignon, Ahmed Alaa

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert uit te vinden of regen (de behandeling) echt natte straten (het resultaat) veroorzaakt.

In een perfecte wereld zou je gewoon twee dagen kunnen vergelijken: één dag met regen en één dag zonder. Maar in de echte wereld (observatie) is het lastig. Misschien was het op de regenachtige dag ook nog eens een feestdag, en reden er minder auto's. Of misschien was het gewoon een nat seizoen. Je weet niet of de straten nat zijn door de regen, of door die andere factoren (de "verwarrende factoren").

In de statistiek noemen we dit verwarring. Om dit op te lossen, gebruiken onderzoekers vaak een trucje genaamd een Instrumentele Variabele (IV).

De Klassieke Truc: De "Toevallige" Instrument

Stel je voor dat je een instrument hebt dat de kans op regen bepaalt, maar geen directe invloed heeft op of de straten nat zijn.

Voorbeeld: De windrichting. Als de wind uit het westen komt, is er meer kans op regen. Maar de wind zelf maakt de straten niet nat (alleen de regen doet dat).
Als je kijkt naar dagen met westenwind, en ziet dat de straten nat zijn, kun je met zekerheid zeggen: "Ah, het is de regen die de straten nat maakt, niet de wind."

Het probleem: In de echte wereld (zoals in de geneeskunde of economie) is zo'n perfecte "windrichting" vaak onbekend of bestaat hij niet. We hebben geen lijstje met instrumenten. We hebben alleen een berg data: medische dossiers, foto's, tekst, etc.

De Oplossing van dit Paper: ZNet (De "Instrumenten-Maker")

Dit paper introduceert een slimme nieuwe methode genaamd ZNet. In plaats van te wachten tot iemand een instrument voor je vindt, bouwt ZNet er zelf een.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De Grote Soep (De Data)

Stel je voor dat je een grote pot soep hebt (jouw data). In deze soep zitten:

De ingrediënten die je ziet: Groenten, kruiden (dit zijn je meetbare gegevens, zoals leeftijd, bloeddruk, medische notities).
De geheimzinnige smaakmakers: Onzichtbare kruiden die je niet kunt zien, maar die de smaak bepalen (dit zijn de onbekende factoren die zowel de behandeling als het resultaat beïnvloeden).

Normaal gesproken proef je de soep en weet je niet of de smaak komt van de tomaten (behandeling) of van die onzichtbare kruiden.

2. De Smaaktest (Het Nieuwe Model)

ZNet is als een super-smaakproever die een nieuwe soep in twee kommen verdeelt:

Kom 1 (De Confounder): Hierin zit alles wat de smaak verstoort (de onzichtbare kruiden en de zichtbare groenten die ermee samenhangen).
Kom 2 (Het Instrument): Hierin zit een nieuw, speciaal ingrediënt dat ZNet uit de soep haalt. Dit ingrediënt heeft twee magische eigenschappen:
1. Het bepaalt hoe veel tomaten er in de soep gaan (het beïnvloedt de behandeling).
2. Het heeft geen directe smaak op de soep zelf (het beïnvloedt het resultaat niet direct, alleen via de tomaten).

3. Hoe leert ZNet dit? (De Regels)

ZNet leert dit niet door te raden, maar door strenge regels (wiskundige voorwaarden) op te leggen tijdens het trainen:

Regel 1: Het nieuwe ingrediënt moet sterk correleren met de tomaten (Relevantie).
Regel 2: Het nieuwe ingrediënt mag niet direct de smaak van de soep veranderen (Uitsluitingsrestrictie).
Regel 3: Het nieuwe ingrediënt mag niet samenzweren met die onzichtbare kruiden (Onverwarring).

Als ZNet een ingrediënt vindt dat aan al deze regels voldoet, dan is het een geldig instrument. Zelfs als er geen enkel duidelijk instrument in de originele data zat, heeft ZNet er een "uit de lucht gegrepen" door patronen te vinden in de complexe data (zoals medische foto's of teksten).

Waarom is dit cool?

Het werkt zonder vooraf kennis: Je hoeft niet te weten wat het instrument is. ZNet zoekt het zelf in de data.
Het werkt met complexe data: Het kan werken met tekst, foto's en andere "rommelige" data, niet alleen met simpele tabellen.
Het is een universele sleutel: De "instrumenten" die ZNet bouwt, kunnen worden gebruikt door elke bestaande statistische methode om de echte oorzaak-gevolg relatie te vinden.

Het Experiment: De ECG-Test

In het paper testen ze dit met hartfilmpjes (ECG's).

Situatie: Ze wilden weten of een bepaalde behandeling het hart beter maakt.
Probleem: Artsen geven behandelingen niet willekeurig; ze kijken naar de patiënt. Dit creëert verwarring. Er is geen duidelijk "instrument" (zoals loterij) beschikbaar.
ZNet Oplossing: ZNet keek naar de duizenden punten op de hartfilmpjes. Het ontdekte een verborgen patroon (bijvoorbeeld: welke arts het filmpje maakte, of hoe de machine ingesteld was) dat als instrument diende.
Resultaat: ZNet kon de echte effecten van de behandeling veel nauwkeuriger voorspellen dan traditionele methoden, omdat het die verborgen verwarring had opgelost.

Samenvatting in één zin

ZNet is een slimme AI die uit een berg complexe data zelf een "toevallige" sleutel (een instrument) smeedt, zodat we precies kunnen zien wat de echte oorzaak is van een resultaat, zelfs als we niet weten welke onzichtbare factoren de boel verwarren.

Het is alsof je een detective bent die niet wacht tot iemand een getuige vindt, maar die zelf een getuige "creëert" door de getuigenverklaringen zo te analyseren dat ze onmogelijk kunnen liegen.

Probleemstelling

In observationele causale inferentie is het schatten van causale effecten vaak belemmerd door niet-geobserveerde verstorende factoren (unobserved confounding). Instrumentvariabelen (IV) zijn een klassieke methode om dit bias te mitigeren, maar ze vereisen de aanwezigheid van een geldig instrument $Z$ dat:

Relevantie: Correlatie heeft met de behandeling $T$ .
Uitsluitingsbeperking (Exclusion Restriction): Geen direct effect heeft op de uitkomst $Y$ (alleen via $T$ ).
Onverstorendheid (Unconfoundedness): Niet beïnvloed wordt door de niet-geobserveerde verstorende factoren $U$ .

In de praktijk is het vinden van zo'n expliciet instrument vaak moeilijk of onmogelijk, vooral in complexe, hoogdimensionale datasets (zoals medische beelden of tekst). Bestaande methoden voor het leren van instrumenten zijn vaak beperkt tot tabulaire data of vereisen sterke aannames over de data-generatie.

Methodologie: ZNet

De auteurs stellen ZNet voor, een representatieleringsbenadering die instrumenten leert uit waargenomen covariaten $X$ zonder dat een expliciet instrument bekend hoeft te zijn.

1. Architectuur en Decompositie
ZNet is een encoder-architectuur die de inputruimte $X$ decomposeert in twee componenten:

Een verstorende component $\tilde{X} = f(X)$ .
Een instrumentele component $\tilde{Z} = g(X)$ .

Deze decompositie volgt het structurele causale model (SCM) van IV's. Het doel is om $g(X)$ te leren zodat het voldoet aan de drie IV-condities, terwijl $f(X)$ de rest van de verstorende informatie vastlegt.

2. Momentcondities en Loss Functie
In plaats van te vertrouwen op domeinkennis, worden de IV-condities afgedwongen via empirische momentcondities in de loss-functie. De modeltraining minimaliseert voorspellingsfouten voor de behandeling en uitkomst, terwijl tegelijkertijd de volgende covariantierelaties worden gestructureerd (via Lagrangiaanse relaxatie):

Relevantie: $Cov(g(X), T) \neq 0$ (Het instrument moet de behandeling voorspellen).
Exclusie: $Cov(g(X), \tilde{\epsilon}_Y) = 0$ (Het instrument mag geen correlatie hebben met de residuen van de uitkomst).
Onverstorendheid: $Cov(g(X), f(X)) = 0$ (Het instrument moet onafhankelijk zijn van de verstorende component).
Aanvullende regularisatie: KL-divergentie penalties worden gebruikt om de verdeling van $\tilde{Z}$ en $\tilde{X}$ te normaliseren en correlaties binnen de componenten te minimaliseren.

3. Trainingsschema
Het trainingproces verloopt in drie fasen:

Training van een netwerk $\Phi$ om de residuen $\tilde{\epsilon}_Y$ te schatten.
Pre-training van de volledige network in een supervisie setting (zonder momentcondities) om sterke initiële representaties te krijgen.
End-to-end finetuning waarbij alle loss-termen (voorspelling + momentcondities) worden geoptimaliseerd.

4. Compatibiliteit
ZNet is ontworpen als een module die compatibel is met bestaande twee-traps IV-schatters, zoals TSLS (Two-Stage Least Squares), DeepIV en DFIV. De geleerde representaties $\tilde{Z}$ en $\tilde{X}$ worden gebruikt als input voor deze schatters.

Belangrijkste Bijdragen

Automatisering van IV-selectie: ZNet automatiseert het vinden van instrumenten door deze te leren uit de data, zelfs als er geen expliciete IV in de feature-ruimte bestaat.
Laten Instrumenten: Het model kan latente instrumenten extraheren uit hoogdimensionale, ongestructureerde data (bijv. ECG-signalen) die door menselijke analisten niet direct als instrument herkend zouden worden.
Robuustheid: De methode werkt zowel wanneer er een geldig instrument in de data aanwezig is (en dit wordt hersteld) als wanneer er helemaal geen kandidaat-instrument is.
Empirische Validatie: In plaats van theoretische garanties (die vaak ontbreken bij IV's), biedt ZNet een empirisch kader waarbij de geldigheid van het instrument wordt afgedwongen via de loss-functie.

Resultaten

De auteurs evalueren ZNet op de IHDP-dataset (een semi-synthetische benchmark) en een ECG-dataset (ongestructureerde medische data).

Herstel van Ground Truth: In scenario's waar echte instrumenten bestaan, correreert de geleerde $\tilde{Z}$ sterk met de ware instrumenten.
Prestaties bij Afwezigheid van Instrumenten: In scenario's zonder kandidaat-instrumenten ("No Candidate") presteert ZNet significant beter dan bestaande methoden (zoals AutoIV, VIV, GIV) en de TARNet-baseline (die geen rekening houdt met niet-geobserveerde verstorende factoren).
- Bijvoorbeeld: In de DeepIV-schatter op 180 datasets had ZNet een gemiddelde absolute ATE-fout van 0.412, vergeleken met 0.442 voor TARNet en 0.440 voor AutoIV.
Niet-geobserveerde Verstorende Factoren: ZNet toont de beste prestaties in de meest uitdagende setting waar niet-geobserveerde factoren $U$ ook de waargenomen data $X$ beïnvloeden ( $U \to X$ ).
Ongestructureerde Data: Op de ECG-dataset (waar geen ware IV bestaat) leverde ZNet met DeepIV een ATE-fout van 0.126, wat aanzienlijk beter is dan OLS-regressie (0.665). De geleerde instrumenten voldeden aan de IV-condities (hoge relevantie, lage correlatie met verstorende factoren).

Betekenis en Conclusie

ZNet opent nieuwe mogelijkheden voor causale machine learning in real-world settings waar traditionele IV-methoden vaak falen vanwege het gebrek aan bekende instrumenten. Door instrumenten te "leren" in plaats van ze te "zoeken", kan ZNet bias door niet-geobserveerde verstorende factoren mitigeren in complexe, hoogdimensionale datasets (zoals medische beelden, tekst of sensor-data).

Hoewel de auteurs benadrukken dat er geen theoretische garantie is voor identificeerbaarheid zonder specifieke aannames over het SCM, tonen de experimenten aan dat ZNet een krachtig, pragmatisch hulpmiddel is voor het schatten van causale effecten in observationele studies, zelfs wanneer de onderliggende verstorende factoren de waargenomen data beïnvloeden. Dit maakt causale inferentie toepasbaarder in domeinen zoals de gezondheidszorg, waar data vaak rijk en ongestructureerd is.