📊 statistics

Distributional Instrumental Variable Method

Dit artikel stelt de Distributional Instrumental Variable (DIV)-methode voor, een generatieve modelleringsbenadering voor niet-lineaire instrumentele variabele instellingen die de volledige interventionele distributie schat, waarbij superieure identificeerbaarheid en schattingsnauwkeurigheid wordt aangetoond ten opzichte van bestaande methoden in zowel gesimuleerde als real-world economische en biologische toepassingen.

Oorspronkelijke auteurs: Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

Gepubliceerd 2026-06-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen: Wat is de werkelijke oorzaak van een specifiek resultaat?

In de echte wereld is het rommelig. Als je wilt weten of een nieuw medicijn (Behandeling) een ziekte (Resultaat) geneest, kun je niet alleen kijken naar mensen die het medicijn hebben genomen en mensen die dat niet hebben gedaan. Waarom? Omdat de mensen die ervoor kozen om het medicijn te nemen, misschien wel gezonder waren van begin af aan, of misschien een beter dieet hadden. Deze verborgen factoren zijn als onzichtbare poppenspelers die aan de touwtjes trekken van zowel de behandeling als het resultaat, waardoor het lijkt alsof het medicijn werkt terwijl dat misschien niet zo is.

In de statistiek wordt dit confounding genoemd. Om dit op te lossen, gebruiken wetenschappers een speciaal hulpmiddel: een Instrumental Variable (IV). Denk aan een instrument als een willekeurige muntworp die bepaalt wie de behandeling krijgt, maar die geen directe invloed heeft op het resultaat. Het is als een loterijticket dat iemand dwingt het medicijn te nemen, maar het ticket zelf maakt die persoon niet gezond of ziek.

De Oude Manier vs. De Nieuwe Manier

De Oude Manier (2SLS):
Decennialang was het standaard detectiewerktuig (genoemd Two-Stage Least Squares, of 2SLS) geweldig in het vinden van het gemiddelde effect. Het beantwoordt de vraag: "Helpt dit medicijn gemiddeld genomen?"
Het heeft echter twee grote gebreken:

Het ziet alleen het gemiddelde: Het mist de details. Misschien helpt het medicijn 90% van de mensen, maar schaadt het 10% zeer ernstig. Het gemiddelde kan er "oké" uitzien, terwijl het gevaar verborgen blijft.
Het loopt snel vast: Als de "muntworp" (het instrument) niet sterk genoeg is of als er te veel behandelingen te volgen zijn, stort de oude methode in en zegt: "Ik kan dit niet oplossen."

De Nieuwe Manier (DIV):
Dit paper introduceert een nieuwe methode genaamd Distributional Instrumental Variable (DIV). In plaats van alleen naar het gemiddelde te kijken, probeert DIV het volledige verhaal te reconstrueren van wat er gebeurt.

Denk er zo over na:

Oude Methode: Je vraagt een getuige: "Zag de verdachte er langer uit dan gemiddeld?" De getuige zegt: "Ja." Je weet de gemiddelde lengte, maar je weet niet hoe de vorm van hun gezicht is.
DIV Methode: Je vraft de getuige om de volledige persoon te beschrijven. "Hoe zag hij eruit? Hoe lang was hij? Wat was zijn bouw? Had hij een litteken?" DIV bouwt een volledig 3D-model van de uitkomst, niet alleen een plat gemiddelde.

Hoe DIV Werkt (De "Generatieve" Magie)

DIV gebruikt iets dat Generative Modeling wordt genoemd. Stel je voor dat je een meesterbeeldhouwer bent.

De Opstelling: Je hebt een blok klei (de data) dat is vermengd met enkele verborgen, modderige ingrediënten (de confounders).
De Aanwijzing: Je hebt een specif specifieke tool (het instrument) die de klei op een unieke manier heeft gevormd voordat de modder werd gemengd.
Het Proces: DIV gebruikt een neuraal netwerk (een type AI) om precies te leren hoe die tool de klei heeft gevormd. Het leert het "recept" van de data.
Het Resultaat: Zodra het het recept heeft geleerd, kan het simuleren hoe de klei eruit zou zien als je een specifieke vorm (de behandeling) op de klei zou afdwingen, waarbij de modderige ingrediënten volledig worden genegeerd.

Omdat het het hele recept leert, kan DIV je vertellen:

Het gemiddelde effect (de oude manier).
Het effect op de "worst-case" scenario's (kwantielen).
Het effect op de "best-case" scenario's.
De volledige distributie van mogelijke uitkomsten.

Waarom is dit een Groot Ding?

Het paper claimt drie grote overwinningen:

Het Oplossen van het "Onder-Identificatie" Mysterie:
Soms heb je een zwakke aanwijzing (een zwak instrument) of te veel verdachten (te veel behandelingen). De oude methode (2SLS) geeft hier op. DIV gebruikt echter elk klein detail van de datadistributie. Het is alsof je een puzzel oplost door naar de textuur van het karton te kijken, in plaats van alleen naar de afbeelding op de doos. Het paper laat zien dat DIV gevallen kan oplossen waar de oude methode volledig faalt.
Het Gehele Beeld Zien:
In het echte leven veranderen behandelingen niet alleen het gemiddelde; ze veranderen de vorm van de uitkomst. DIV legt dit vast. Het kan je vertellen of een beleid de armen helpt maar de rijken benadeelt, of dat een medicijn werkt voor de meesten maar zeldzame, ernstige bijwerkingen veroorzaakt.
Echt Wereldbewijs:
De auteurs hebben DIV getest op twee zeer verschillende real-world datasets:
- Economie: Ze keken naar hoe "institutionele kwaliteit" (zoals eigendomsrechten) de rijkdom van een land beïnvloedt. De resultaten kwamen overeen met de beroemde originele studie, wat bewijst dat DIV werkt op complexe economische data.
- Biologie (Single-Cell Data): Ze keken naar hoe de expressie van één gen de expressie van een ander gen beïnvloedt. In deze chaotische biologische wereld was DIV beter in het voorspellen van wat er zou gebeuren onder nieuwe, ongeziene genetische interventies dan andere methoden. Het was meer stabiel en generaliseerbaar, wat betekent dat het niet in de war raakte wanneer de omgeving veranderde.

De Kern van het Verhaal

De Distributional Instrumental Variable (DIV) methode is als een upgrade van een zwart-witfoto naar een high-definition, 360-graden video. Het vertelt je niet alleen het "gemiddelde" resultaat van een oorzaak-gevolgrelatie; het reconstrueert het volledige landschap van mogelijkheden. Het werkt zelfs wanneer de aanwijzingen zwak zijn of de situatie complex is, en het geeft onderzoekers een veel rijker en nauwkeuriger begrip van hoe de wereld werkt.

De auteurs hebben zelfs de "beeldhouwgereedschappen" (software) beschikbaar gesteld voor anderen om te gebruiken in R en Python.

Technische Samenvatting: Distributional Instrumental Variable (DIV) Methode

Probleemstelling

Het artikel behandelt de uitdaging van het afleiden van causale effecten in aanwezigheid van niet-gemeten confounding (verborgen confounders $H$ ) wanneer gerandomiseerde experimenten niet beschikbaar zijn. Hoewel de Instrumental Variable (IV) benadering een standaardinstrument is voor dergelijke endogeniteit, richten bestaande methoden zich doorgaans op het schatten van specifieke functionalen van het causale effect, zoals het gemiddeld causaal effect (bijv. via Two-Stage Least Squares, 2SLS) of kwantielbehandelingseffecten.

De auteurs stellen dat het samenvatten van causale effecten in enkele grootheden (zoals gemiddelden) waardevolle informatie wegwerpt. In veel toepassingen is het begrijpen van de volledige interventionele distributie van de uitkomst $Y$ onder een $do$-interventie op behandeling $X$ (aangeduid als $P_{do(X:=x)}(Y)$ ) informatiever. Bovendien falen traditionele IV-methoden vaak in "onder-geïdentificeerde" situaties waar het aantal instrumenten kleiner is dan het aantal behandelvariabelen, of wanneer de relatie tussen het instrument en de behandeling zwak is in termen van conditionele gemiddelden maar sterk in hogere-orde distributieve momenten.

Methodologie: Distributional Instrumental Variable (DIV)

De voorgestelde Distributional Instrumental Variable (DIV) methode schat de volledige interventionele distributie door gebruik te maken van generatieve modellering binnen een Structureel Causaal Model (SCM) kader.

1. Structureel Causaal Model en Generatieve Formulering

De auteurs gaan ervan uit dat de data worden gegenereerd door een SCM waarbij:
$X := g(Z, \eta_X)$
$Y := f(X, \eta_Y)$
Hier is $Z$ het instrument, $X$ de behandeling, $Y$ de uitkomst, en $\eta_X, \eta_Y$ ruistermen die gecorreleerd zijn door verborgen confounding. In tegenstelling tot klassieke lineaire IV-methoden staat DIV algemene niet-lineaire functies $g$ en $f$ toe en wordt er geen aanname gedaan over additieve ruis.

Om de correlatie tussen $\eta_X$ en $\eta_Y$ te vangen, modelleren de auteurs de ruistermen als functies van onafhankelijke standaard Gaussische variabelen en een gedeelde latente ruiscomponent:
$\eta_X = h_X(\varepsilon_X, \varepsilon_H)$
$\eta_Y = h_Y(\varepsilon_Y, \varepsilon_H)$
waarbij $\varepsilon_X, \varepsilon_Y, \varepsilon_H$ onafhankelijke standaard Gaussische variabelen zijn. Dit levert een gezamenlijk generatief model voor $(X, Y)$ gegeven $Z$ .

2. Schatting via Energy Score

De kern van de DIV-methode is het fitten van de gezamenlijke conditionele distributie $P(X, Y | Z)$ met behulp van Engression (Shen en Meinshausen, 2024). De modelparameters (neurale netwerken voor $g, f, h_X, h_Y$ ) worden geoptimaliseerd door de verwachte negatieve energy score te minimaliseren, een strikt passende scoring rule voor multivariate distributies.

De populatie-objectieve functie is:
$(g^*, f^*, h_X^*, h_Y^*) \in \arg \min_{f,g,h_X,h_Y} \mathbb{E} \left[ \|(X, Y) - (\hat{X}, \hat{Y})\| - \frac{1}{2}\|(\hat{X}, \hat{Y}) - (\hat{X}', \hat{Y}')\| \right]$
waarbij $(\hat{X}, \hat{Y})$ en $(\hat{X}', \hat{Y}')$ onafhankelijke samples zijn die door het model worden gegenereerd.

3. Schatting van de Interventionele Distributie

Zodra het model is gefit, wordt de interventionele distributie $P_{do(X:=x)}(Y)$ geschat via sampling. Een $do$-interventie $do(X:=x)$ verbreekt de link tussen $X$ en zijn ruis $\eta_X$ . De procedure omvat:

Het samplen van $\varepsilon_Y$ en $\varepsilon_H$ uit standaard Gaussische verdelingen.
Het berekenen van de ruis $\eta_Y^* = h_Y^*(\varepsilon_Y, \varepsilon_H)$ .
Het genereren van de uitkomst $Y^* = f^*(x, \eta_Y^*)$ .

Vanuit deze samples kan elk functional van de distributie (gemiddelde, kwantielen, variantie) worden geschat via Monte Carlo-simulatie.

Belangrijke Theoretische Bijdragen

Het artikel stelt identificeerbaarheid vast voor de interventionele distributie onder drie verschillende modelconfiguraties:

Algemene Modelklasse: Onder aannames van strikte monotoniciteit in de latente verstoringen en een common support-conditie (die vereist dat het instrument een grote support heeft), is de interventionele distributie uniek identificeerbaar vanuit de geobserveerde data.
Pre-Additive Ruismodellen (Continue Instrumenten): Door het uitkomstmodel te beperken tot een pre-additieve ruisvorm, tonen de auteurs aan dat identificatie mogelijk is, zelfs wanneer het instrument een continue support heeft maar niet noodzakelijkerwijs voldoet aan de "grote support"-conditie die vereist is voor de algemene klasse.
Pre-Additive Ruismodellen (Discrete/Binaire Instrumenten): Cruciaal is dat het artikel aantoont dat voor pre-additieve ruismodellen de interventionele distributie identificeerbaar is, zelfs met een binair instrument en multivariate behandeling (een onder-geïdentificeerde situatie waar $dim(Z) < dim(X)$). Dit staat in contrast met 2SLS, dat in dergelijke gevallen faalt door multicollineariteit in de eerste fase. De auteurs laten zien dat als het instrument de distributie van de behandeling beïnvloedt op een manier die niet louter een deterministische verschuiving is (d.w.z. de conditionele distributies verschillen meer dan alleen een gemiddelde verschuiving), de volledige distributieve informatie volstaat voor identificatie.

Het artikel bewijst ook de consistentie van de DIV-schatter in een eenvoudige parametrische lineaire subklasse.

Empirische Resultaten

De auteurs evalueren DIV tegenover benchmarks waaronder 2SLS, Control Functions (CF), DeepIV, DeepGMM, HSIC-X, IVQR en DIVE.

Gesimuleerde Data:
- Gemiddelde en Kwantielschatting: DIV presteert competitief of superieur bij het schatten van interventionele gemiddelden en kwantielen in lineaire, niet-lineaire en pre-additieve ruis-settings.
- Onder-geïdentificeerde Casussen: In scenario's met een enkel binair instrument en een tweedimensionale behandeling ($dim(Z)=1, dim(X)=2$), falen 2SLS en andere benchmarks in het identificeren van causale parameters. DIV herstelt de parameters succesvol door gebruik te maken van de volledige distributieve informatie.
- Zwakke Instrumenten: DIV blijft robuust wanneer het instrument een zwakke gemiddelde relevantie of zwakke gemiddelde-variantie relevantie heeft, mits hogere-orde distributieve momenten structurele informatie bevatten.
Real-World Applicaties:
- Economische Data (Acemoglu et al., 2001): Toegepast op de relatie tussen institutionele kwaliteit en BBP. DIV herstelt een positief, ongeveer lineair causaal effect dat consistent is met de oorspronkelijke 2SLS-bevindingen, terwijl het ook een volledige distributieve schatting (kwantielen) biedt.
- Single-Cell Data: Toegepast op genexpressie-voorspelling onder ongeziene CRISPR-perturbaties. DIV vertoont een superieure generaliseerbaarheid naar ongeziene interventie-omgevingen en een grotere stabiliteit over verschillende trainingssubsets vergeleken met andere methoden, wat suggereert dat het het onderliggende causale mechanisme effectiever vastlegt.

Betekenis en Claims

Het artikel claimt dat DIV een belangrijke vooruitgang biedt in causale inferentie door:

Het Estimand uit te breiden: Verder gaan dan gemiddelde of kwantieleffecten om de volledige interventionele distributie te schatten, wat een rijker begrip geeft van causale mechanismen en aleatorische onzekerheid.
Identificatiegrenzen te Overstijgen: Het oplossen van "onder-geïdentificeerde" problemen waarbij traditionele IV-methoden (zoals 2SLS) falen, specifiek door gebruik te maken van distributieve informatie in situaties met discrete instrumenten en multivariate behandelingen.
Flexibiliteit: Algemene niet-lineaire relaties accommoderen zonder restrictieve aannames over additieve ruis.
Praktisch Nut: Het bieden van een computationeel efficiënte software-implementatie (R en Python) die sampling uit de geschatte interventionele distributie mogelijk maakt, wat de berekening van elk distributiefunctional vergemakkelijkt.

De auteurs concluderen dat hoewel de methode steunt op het schatten van de gezamenlijke distributie $P(X, Y | Z)$ , deze aanpak de informatie uit de instrumenten maximaliseert, wat de beste kans op identificatie biedt in complexe, geconfondeerde settings. Toekomstige onderzoeksrichtingen die worden genoemd, omvatten epistemische onzekerheidskwantificering en het toepassen van de methodologie op taken van distributieve generalisatie.