📊 statistics

Distributional Instrumental Variable Method

Dieses Paper schlägt die Distributional Instrumental Variable (DIV)-Methode vor, einen generativen Modellierungsansatz für nichtlineare Instrumentvariablen-Settings, der die gesamte Interventionsverteilung schätzt und sowohl in simulierten als auch in realen ökonomischen und biologischen Anwendungen eine überlegene Identifizierbarkeit sowie Schätzgenauigkeit im Vergleich zu bestehenden Methoden demonstriert.

Ursprüngliche Autoren: Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

Veröffentlicht 2026-06-18

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen: Was ist die wahre Ursache eines bestimmten Ergebnisses?

In der realen Welt sind die Dinge chaotisch. Wenn Sie wissen wollen, ob ein neues Medikament (Behandlung) eine Krankheit (Ergebnis) heilt, können Sie nicht einfach nur die Menschen betrachten, die es eingenommen haben, und diejenigen, die es nicht getan haben. Warum? Weil die Menschen, die sich für die Einnahme des Medikaments entschieden haben, vielleicht von vornherein gesünder waren oder eine bessere Ernährung hatten. Diese verborgenen Faktoren sind wie unsichtbare Puppenspieler, die die Fäden sowohl der Behandlung als auch des Ergebnisses ziehen und den Anschein erwecken, das Medikament wirke, obwohl es das vielleicht gar nicht tut.

In der Statistik nennt man das Confounding (Störfaktor). Um dies zu lösen, verwenden Wissenschaftler ein spezielles Werkzeug: eine Instrumentelle Variable (IV). Betrachten Sie das Instrument wie einen Zufallsmünzwurf, der entscheidet, wer die Behandlung erhält, aber keinen direkten Einfluss auf das Ergebnis hat. Es ist wie ein Lotterieticket, das eine Person dazu zwingt, das Medikament einzunehmen, aber das Ticket selbst macht die Person weder gesund noch krank.

Der alte Weg vs. der neue Weg

Der alte Weg (2SLS):
Seit Jahrzehnten ist das Standard-Detektivwerkzeug (genannt Two-Stage Least Squares oder 2SLS) großartig darin, den Durchschnitt zu finden. Es beantwortet die Frage: "Hilft dieses Medikament im Durchschnitt?"
Es hat jedoch zwei große Mängel:

Es sieht nur den Durchschnitt: Es übersieht die Details. Vielleicht hilft das Medikament 90 % der Menschen, schadet aber 10 % massiv. Der Durchschnitt sieht vielleicht "okay" aus, verbirgt aber die Gefahr.
Es bleibt leicht stecken: Wenn der "Münzwurf" (das Instrument) nicht stark genug ist oder es zu viele Behandlungen gibt, die verfolgt werden müssen, bricht die alte Methode zusammen und sagt: "Ich kann das nicht lösen."

Der neue Weg (DIV):
Dieses Paper stellt eine neue Methode namens Distributional Instrumental Variable (DIV) vor. Anstatt nur nach dem Durchschnitt zu suchen, versucht DIV, die gesamte Geschichte dessen zu rekonstruieren, was passiert.

Stellen Sie sich das so vor:

Die alte Methode: Sie fragen einen Zeugen: "Sah der Verdächtige größer als der Durchschnitt aus?" Er sagt: "Ja." Sie kennen die durchschnittliche Größe, aber Sie kennen nicht die Form seines Gesichts.
Die DIV-Methode: Sie bitten den Zeugen, die gesamte Person zu beschreiben. "Wie sah sie aus? Wie groß war sie? Welche Statur hatte sie? Hatte sie eine Narbe?" DIV baut ein vollständiges 3D-Modell des Ergebnisses auf, nicht nur einen flachen Durchschnitt.

Wie DIV funktioniert (Die "generative" Magie)

DIV nutzt etwas, das man Generative Modellierung nennt. Stellen Sie sich vor, Sie sind ein Meisterbildhauer.

Das Setup: Sie haben einen Klumpen Ton (die Daten), der mit einigen verborgenen, schlammigen Zutaten (den Confoundern) vermischt wurde.
Der Hinweis: Sie haben ein spezielles Werkzeug (das Instrument), das den Ton auf eine einzigartige Weise geformt hat, bevor der Schlamm beigemischt wurde.
Der Prozess: DIV nutzt ein neuronales Netz (eine Art KI), um genau zu lernen, wie dieses Werkzeug den Ton geformt hat. Es lernt das "Rezept" der Daten.
Das Ergebnis: Sobald es das Rezept gelernt hat, kann es simulieren, wie der Ton aussehen würde, wenn Sie eine bestimmte Form (die Behandlung) auf ihn aufprägen würden, wobei Sie den schlammigen Zutaten komplett ignorieren.

Weil es das ganze Rezept lernt, kann DIV Ihnen sagen:

Den Durchschnittseffekt (der alte Weg).
Den Effekt in den "Worst-Case"-Szenarien (Quantile).
Den Effekt in den "Best-Case"-Szenarien.
Die gesamte Verteilung möglicher Ergebnisse.

Warum ist das eine große Sache?

Das Paper beansprucht drei große Siege für sich:

Das Rätsel der "Unteridentifizierbarkeit" lösen:
Manchmal haben Sie einen schwachen Hinweis (ein schwaches Instrument) oder zu viele Verdächtige (zu viele Behandlungen). Die alte Methode (2SLS) gibt hier auf. DIV hingegen nutzt jedes noch so kleine Detail der Datenverteilung. Es ist, als würde man ein Puzzle lösen, indem man die Textur des Kartons betrachtet, nicht nur das Bild auf dem Karton. Das Paper zeigt, dass DIV Fälle lösen kann, in denen die alte Methode völlig versagt.
Das gesamte Bild sehen:
In der Realität verändern Behandlungen nicht nur den Durchschnitt; sie verändern die Form des Ergebnisses. DIV erfasst dies. Es kann Ihnen sagen, ob eine politische Maßnahme den Armen hilft, aber den Reichen schadet, oder ob ein Medikament für die meisten wirkt, aber seltene, schwere Nebenwirkungen verursacht.
Praxisbewährtheit:
Die Autoren haben DIV an zwei sehr unterschiedlichen realen Datensätzen getestet:

Wirtschaftswissenschaften: Sie untersuchten, wie die "institutionelle Qualität" (wie etwa Eigentumsrechte) die Wirtschaftskraft eines Landes beeinflusst. Die Ergebnisse stimmten mit der berühmten Originalstudie überein, was beweist, dass DIV mit komplexen Wirtschaftsdaten funktioniert.
Biologie (Einzelzell-Daten): Sie untersuchten, wie die Veränderung der Expression eines Gens die eines anderen beeinflusst. In dieser chaotischen biologischen Welt war DIV besser darin, vorherzusagen, was unter neuen, ungesehenen genetischen Interventionen passieren würde, als andere Methoden. Es war stabiler und verallgemeinerbarer, was bedeutet, dass es nicht verwirrt wurde, wenn sich die Umgebung änderte.

Das Faz-it

Die Methode der Distributional Instrumental Variable (DIV) ist wie der Wechsel von einem Schwarz-Weiß-Foto zu einem hochauflösenden 360-Grad-Video. Sie liefert nicht nur das "durchschnittliche" Ergebnis einer Ursache-Wirkungs-Beziehung; sie rekonstruiert die gesamte Landschaft der Möglichkeiten. Sie funktioniert selbst dann, wenn die Hinweise schwach oder die Situation komplex ist, und sie bietet Forschern ein viel reicheres, präziseres Verständnis dafür, wie die Welt funktioniert.

Die Autoren haben sogar die "Bildhauerwerkzeuge" (Software) zur Verfügung gestellt, damit andere sie in R und Python nutzen können.

Technisches Resümee: Distributional Instrumental Variable (DIV) Methode

Problemstellung

Die Arbeit befasst sich mit der Herausforderung, kausale Effekte in Gegenwart von nicht gemessenen Störfaktoren (verborgene Konfounder $H$ ) zu inferieren, wenn randomisierte Experimente nicht verfügbar sind. Während der Instrumentalvariablen-Ansatz (IV) ein Standardwerkzeug für eine solche Endogenität ist, konzentrieren sich bestehende Methoden typischerweise auf die Schätzung spezifischer Funktionale des kausalen Effekts, wie etwa den mittleren kausalen Effekt (z. B. via Two-Stage Least Squares, 2SLS) oder Quantils-Behandlungseffekte.

Die Autoren argumentieren, dass die Zusammenfassung kausaler Effekte in einzelne Größen (wie Mittelwerte) wertvolle Informationen verwirft. In vielen Anwendungen ist es informativer, die gesamte interventionelle Verteilung der Zielgröße $Y$ unter einer $do$-Intervention auf die Behandlung $X$ (bezeichnet als $P_{do(X:=x)}(Y)$ ) zu verstehen. Darüber hinaus versagen traditionelle IV-Methoden oft in „unteridentifizierten“ Settings, in denen die Anzahl der Instrumente kleiner ist als die Anzahl der Behandlungsvariablen, oder wenn die Beziehung zwischen dem Instrument und der Behandlung in Bezug auf bedingte Mittelwerte schwach, aber in Bezug auf höhere Ordnungen der Verteilungsmomente stark ist.

Methodik: Distributional Instrumental Variable (DIV)

Die vorgeschlagene Distributional Instrumental Variable (DIV) Methode schätzt die volle interventionelle Verteilung durch Nutzung von generativem Modellieren innerhalb eines Strukturellen Kausalen Modells (SCM).

1. Strukturelles Kausales Modell und generative Formulierung

Die Autoren nehmen an, dass die Daten durch ein SCM generiert werden, in dem gilt:
$X := g(Z, \eta_X)$
$Y := f(X, \eta_Y)$
Hierbei ist $Z$ das Instrument, $X$ die Behandlung, $Y$ die Zielgröße und $\eta_X, \eta_Y$ sind Rauschterme, die aufgrund verborgener Konfundierung korreliert sind. Im Gegensatz zu klassischen linearen IV-Methoden erlaubt DIV allgemeine nichtlineare Funktionen $g$ und $f$ und setzt kein additives Rauschen voraus.

Um die Korrelation zwischen $\eta_X$ und $\eta_Y$ zu erfassen, modelliert DIV die Rauschterme als Funktionen unabhängiger Standard-Gauß-Variablen und einer gemeinsamen latenten Rauschkomponente:
$\eta_X = h_X(\varepsilon_X, \varepsilon_H)$
$\eta_Y = h_Y(\varepsilon_Y, \varepsilon_H)$
wobei $\varepsilon_X, \varepsilon_Y, \varepsilon_H$ unabhängige Standard-Gauß-Variablen sind. Dies ergibt ein gemeinsames generatives Modell für $(X, Y)$ gegeben $Z$ .

2. Schätzung via Energy Score

Der Kern der DIV-Methode ist das Anpassen der gemeinsamen bedingten Verteilung $P(X, Y | Z)$ mittels Engression (Shen und Meinshausen, 2024). Die Modellparameter (neuronale Netze für $g, f, h_X, h_Y$ ) werden optimiert, um den erwarteten negativen Energy Score zu minimieren, eine streng korrekte Scoring-Regel für multivariate Verteilungen.

Das Populationsziel ist:
$(g^*, f^*, h_X^*, h_Y^*) \in \arg \min_{f,g,h_X,h_Y} \mathbb{E} \left[ \|(X, Y) - (\hat{X}, \hat{Y})\| - \frac{1}{2}\|(\hat{X}, \hat{Y}) - (\hat{X}', \hat{Y}')\| \right]$
wobei $(\hat{X}, \hat{Y})$ und $(\hat{X}', \hat{Y}')$ unabhängige, vom Modell generierte Stichproben sind.

3. Schätzung der interventionellen Verteilung

Sobald das Modell angepasst ist, wird die interventionelle Verteilung $P_{do(X:=x)}(Y)$ mittels Sampling geschätzt. Eine $do$-Intervention $do(X:=x)$ unterbricht die Verbindung zwischen $X$ und seinem Rauschen $\eta_X$ . Das Verfahren umfasst:

Sampling von $\varepsilon_Y$ und $\varepsilon_H$ aus Standard-Gauß-Verteilungen.
Berechnung des Rauschens $\eta_Y^* = h_Y^*(\varepsilon_Y, \varepsilon_H)$ .
Generierung der Zielgröße $Y^* = f^*(x, \eta_Y^*)$ .

Aus diesen Stichproben kann jedes Funktional der Verteilung (Mittelwert, Quantile, Varianz) via Monte-Carlo-Verfahren geschätzt werden.

Zentrale theoretische Beiträge

Die Arbeit etabliert Identifizierbarkeitsergebnisse für die interventionelle Verteilung unter drei verschiedenen Modellkonfigurationen:

Allgemeine Modellklasse: Unter Annahmen von strikter Monotonie in den latenten Störungen und einer gemeinsamen Support-Bedingung (die erfordert, dass das Instrument einen großen Support besitzt), ist die interventionelle Verteilung eindeutig aus den beobachteten Daten identifizierbar.
Pre-Additive Noise Modelle (kontinuierliches Instrument): Durch die Beschränkung des Zielmodells auf eine pre-additive Rauschform zeigen die Autoren Identifizierbarkeit auf, selbst wenn das Instrument einen kontinuierlichen Support hat, aber nicht notwendigerweise die für die allgemeine Klasse erforderliche „große Support“-Bedingung erfüllt.
Pre-Additive Noise Modelle (diskretes/binäres Instrument): Entscheidend ist, dass die Arbeit zeigt, dass für pre-additive Rauschmodelle die interventionelle Verteilung selbst mit einem binären Instrument und einer multivariaten Behandlung (ein unteridentifiziertes Setting, in dem $dim(Z) < dim(X)$) identifizierbar ist. Dies steht im Gegensatz zu 2SLS, das in solchen Fällen aufgrund Multikollinearität in der ersten Stufe scheitert. Die Autoren zeigen, dass, wenn das Instrument die Verteilung der Behandlung auf eine Weise beeinflusst, die nicht bloß eine deterministische Verschiebung ist (d. h. die bedingten Verteilungen unterscheiden sich über eine reine Mittelwertverschiebung hinaus), die volle distributionale Information für die Identifizierung ausreicht.

Die Arbeit beweist zudem die Konsistenz des DIV-Schätzers in einer einfachen parametrischen linearen Unterklasse.

Empirische Ergebnisse

Die Autoren evaluieren DIV gegenüber Benchmarks wie 2SLS, Control Functions (CF), DeepIV, DeepGMM, HSIC-X, IVQR und DIVE.

Simulierte Daten:
- Mittelwert- und Quantils-Schätzung: DIV schneidet kompetitiv oder überlegen bei der Schätzung interventioneller Mittelwerte und Quantile in linearen, nichtlinearen und pre-additiven Rausch-Settings ab.
- Unteridentifizierte Fälle: In Szenarien mit einem einzelnen binären Instrument und einer zweidimensionalen Behandlung ($dim(Z)=1, dim(X)=2$) scheitern 2SLS und andere Benchmarks bei der Identifizierung kausaler Parameter. DIV identifiziert die Parameter erfolgreich, indem es die volle distributionale Information nutzt.
- Schwache Instrumente: DIV bleibt robust, wenn das Instrument eine schwache Mittelwert-Relevanz oder eine schwache Mittelwert-Varianz-Relevanz aufweist, sofern höhere Ordnungen der distributionalen Momente strukturelle Informationen tragen.
Echtwelt-Anwendungen:
- Ökonomische Daten (Acemoglu et al., 2001): Angewendet auf die Beziehung zwischen institutioneller Qualität und BIP. DIV rekonstruiert einen positiven, annähernd linearen kausalen Effekt, der konsistent mit den ursprünglichen 2SLS-Ergebnissen ist, liefert aber gleichzeitig eine volle distributionale Schätzung (Quantile).
- Single-Cell-Daten: Angewendet auf die Vorhersage der Genexpression unter ungesehenen CRISPR-Perturbationen. DIV demonstriert eine überlegene Generalisierbarkeit auf ungesehene Interventionsumgebungen und eine höhere Stabilität über verschiedene Trainings-Subsets hinweg im Vergleich zu anderen Methoden, was darauf hindeutet, dass es den zugrunde liegenden kausalen Mechanismus effektiver erfasst.

Bedeutung und Ansprüche

Die Arbeit behauptet, dass DIV einen signifikanten Fortschritt in der kausalen Inferenz darstellt, indem sie:

Den Estimanden erweitert: Über mittlere oder Quantils-Effekte hinausgeht, um die gesamte interventionelle Verteilung zu schätzen, was ein reicheres Verständnis kausaler Mechanismen und aleatorischer Unsicherheit ermöglicht.
Identifizierungsgrenzen überwindet: „Unteridentifizierte“ Probleme löst, in denen traditionelle IV-Methoden (wie 2SLS) versagen, insbesondere durch Nutzung von distributionaler Information in Settings mit diskreten Instrumenten und multivariaten Behandlungen.
Flexibilität bietet: Allgemeine nichtlineare Beziehungen ermöglicht, ohne restriktive additive Rausch-Annahmen.
Praktischen Nutzen bietet: Eine effiziente Software-Implementierung (R und Python) bereitstellt, die das Sampling aus der geschätzten interventionellen Verteilung ermöglicht und so die Berechnung beliebiger distributionaler Funktionale erleichtert.

Die Autoren kommen zu dem Schluss, dass die Methode zwar auf der Schätzung der gemeinsamen Verteilung $P(X, Y | Z)$ beruht, dieser Ansatz jedoch die Nutzung der Informationen aus den Instrumenten maximiert und somit die beste Chance auf Identifizierung in komplexen, konfundierten Settings bietet. Als zukünftige Forschungsrichtungen werden die Quantifizierung epistemischer Unsicherheit und die Anwendung der Methodik auf Aufgaben der distributionalen Generalisierung genannt.