Testability of Instrumental Variables in Additive Nonlinear, Non-Constant Effects Models

Diese Arbeit stellt eine auf Hilfsvariablen basierende Unabhängigkeitsprüfung (AIT) vor, um die Gültigkeit von Instrumentvariablen in additiven nichtlinearen Modellen mit nicht-konstanten Effekten und unbeobachteten Störgrößen zu testen, wobei sowohl diskrete als auch kontinuierliche Behandlungen berücksichtigt werden.

Das Wesentliche

Hier ist eine einfache, bildhafte Erklärung der wissenschaftlichen Arbeit „Testability of Instrumental Variables in Additive Nonlinear, Non-Constant Effects Models" auf Deutsch.

Das große Rätsel: Wer ist der echte Vermittler?

Stellen Sie sich vor, Sie wollen herausfinden, ob Schulbildung (X) wirklich zu höheren Löhnen (Y) führt. Das Problem ist: Es gibt einen unsichtbaren Störenfried, nennen wir ihn Intelligenz (U). Intelligente Menschen gehen wahrscheinlich länger zur Schule und verdienen mehr Geld, egal wie lange sie studiert haben. Wenn Sie einfach nur die Daten anschauen, denken Sie vielleicht, die Schule bringt den Lohn, aber eigentlich ist es nur die Intelligenz.

Um dieses Problem zu lösen, brauchen wir einen Instrumentalvariablen (IV) – nennen wir ihn Z. Ein guter IV ist wie ein schicksalhafter Zufall.

• Beispiel: Die Entfernung zum nächsten College.
• Die Regel: Wenn jemand zufällig weit weg vom College wohnt, geht er seltener zur Schule (Z beeinflusst X). Aber die Entfernung zum College hat nichts mit der Intelligenz des Menschen zu tun (Z ist unabhängig von U) und beeinflusst den Lohn nicht direkt, nur über die Schule (Z beeinflusst Y nur durch X).

Das Problem: In der echten Welt wissen wir oft nicht, ob unser „Zufall" (z. B. die Entfernung) wirklich rein zufällig ist oder ob er doch irgendwie mit der Intelligenz zusammenhängt. Bisherige Methoden konnten das nur prüfen, wenn die Dinge einfach und linear waren (wie eine gerade Linie) oder wenn die Daten nur aus Kategorien bestanden (wie „Ja/Nein"). Aber was ist, wenn die Wirkung nicht linear ist (z. B. mehr Bildung bringt am Anfang viel, später wenig) oder wenn die Behandlung eine Zahl ist (wie eine Medikamentendosis)?

Die neue Lösung: Der „Hilfs-Test" (AIT)

Die Autoren dieses Papers haben eine neue Methode entwickelt, die sie AIT (Auxiliary-based Independence Test) nennen. Hier ist die Idee in einer Metapher:

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, herauszufinden, ob ein Zeuge (Z) glaubwürdig ist.

1. Der Trick: Sie nehmen das Ergebnis (Y, der Lohn) und ziehen den vermuteten Einfluss der Behandlung (X, die Schule) ab. Was übrig bleibt, nennen wir das „Hilfs-Objekt" (A).
   • Mathematisch: Hilfs-Objekt = Lohn - (Was die Schule bewirken sollte).
2. Die Prüfung: Wenn der Zeuge (Z) wirklich ein fairer, unabhängiger Zufall ist, dann sollte das „Hilfs-Objekt" keine Verbindung zu ihm haben. Es sollte völlig unabhängig sein.
3. Das Ergebnis: Wenn Sie im Datenmaterial eine versteckte Verbindung zwischen dem „Hilfs-Objekt" und dem Zeugen finden, dann ist der Zeuge gefälscht (ein ungültiges Instrument). Er ist nicht unabhängig genug.

Warum ist das jetzt so besonders?

Früher dachte man: „Wenn die Daten nicht linear sind oder wenn es um kontinuierliche Werte geht (wie Dosis), können wir das gar nicht prüfen." Die Autoren sagen: „Doch, können wir!"

Sie haben gezeigt, dass man unter bestimmten Bedingungen (die sie „Vollständigkeit" nennen) auch bei komplexen, nicht-linearen Zusammenhängen prüfen kann, ob ein Instrument gültig ist.

Ein paar wichtige Entdeckungen der Autoren:

• Der Gauß-Fluch: Wenn alle Daten perfekt „normalverteilt" sind (wie eine Glockenkurve), funktioniert dieser Test in linearen Modellen nicht. Es ist, als würde man versuchen, ein Geheimnis zu knacken, aber alle Schlüssel sehen gleich aus. Aber sobald die Daten „krumme" Verteilungen haben (nicht-Gauß), wird der Test sehr mächtig.
• Nicht-Linearität hilft: Wenn die Welt nicht linear ist (z. B. wenn mehr Dosis nicht immer linear mehr Wirkung bringt), hilft diese Nicht-Linearität dem Detektiv sogar, die Fälschungen zu entlarven.
• Der „Tarnkappen"-Effekt: Es gibt seltene Fälle, in denen ein ungültiges Instrument so perfekt getarnt ist, dass man es nicht entlarven kann. Die Autoren haben genau diese Fälle mathematisch beschrieben, damit man weiß, wann man aufhören muss zu suchen.

Wie funktioniert das in der Praxis?

Die Autoren haben einen Algorithmus gebaut, den man wie einen Rezeptbuch-Eintrag verwenden kann:

1. Teilen: Man teilt die Daten in zwei Hälften.
2. Lernen: Mit der ersten Hälfte lernt man, wie die Behandlung (X) das Ergebnis (Y) beeinflusst.
3. Testen: Mit der zweiten Hälfte prüft man, ob das verbleibende „Hilfs-Objekt" noch mit dem Instrument (Z) zusammenhängt.
4. Urteil: Wenn ja -> Z ist ungültig. Wenn nein -> Z könnte gültig sein.

Sie haben diesen Test an echten Daten getestet (z. B. wie Kolonialgeschichte die Wirtschaft beeinflusst oder wie Gewalt die Geduld von Menschen verändert) und haben gezeigt, dass er funktioniert.

Fazit für den Alltag

Stellen Sie sich vor, Sie wollen wissen, ob ein neues Medikament wirkt. Sie haben eine „natürliche" Gruppe, die das Medikament bekommt (z. B. weil sie zufällig in einer Klinik mit dem Medikament versorgt wurden).
Früher war man sich unsicher, ob diese Gruppe wirklich zufällig war, besonders wenn die Wirkung des Medikaments komplex war.
Mit dieser neuen Methode (AIT) haben die Autoren ein Werkzeug geschaffen, mit dem man prüfen kann: „Hey, ist dieser Zufall wirklich rein zufällig, oder schummelt hier jemand?"

Es ist wie ein Schnupftuch für die Statistik: Es wischt den Staub der Unsicherheit weg und zeigt uns, ob unsere Schlussfolgerungen über Ursache und Wirkung wirklich haltbar sind, selbst wenn die Welt kompliziert und nicht-linear ist.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Testability of Instrumental Variables in Additive Nonlinear, Non-Constant Effects Models" auf Deutsch:

1. Problemstellung

Die Schätzung kausaler Effekte aus Beobachtungsdaten ist eine fundamentale Aufgabe, die oft durch nicht gemessene Störvariablen (Confounder) erschwert wird. Instrumentenvariablen (IV) sind eine etablierte Methode, um diese Verzerrungen zu korrigieren. Ein gültiges IV $Z$ muss drei Bedingungen erfüllen: Relevanz (Beziehung zu $X$), Exogenität (Unabhängigkeit von den Störvariablen) und die Ausschlussrestriktion (kein direkter Pfad zu $Y$).

Das zentrale Problem, das dieses Paper adressiert, ist die Testbarkeit der Gültigkeit eines Instruments allein basierend auf Beobachtungsdaten, insbesondere in Szenarien, die von den bisherigen Ansätzen abweichen:

• Kontinuierliche Behandlungen: Viele existierende Tests (z. B. instrumentelle Ungleichungen nach Pearl) funktionieren nur bei diskreten Behandlungsvariablen.
• Nicht-konstante Effekte: Viele Methoden gehen von linearen Modellen mit konstanten Effekten aus (ALICE-Modelle). In der Realität sind Effekte jedoch oft nichtlinear und variieren (heterogen).
• Einzelne Instrumente: Bisherige Ansätze zur Validierung benötigen oft mehrere gültige Instrumente (z. B. „Majority Rule" oder „Plurality Rule") oder setzen kovariatenbasierte Methoden voraus, die nicht immer verfügbar sind.

Es wurde lange angenommen (und kürzlich bestätigt), dass die Gültigkeit eines einzelnen Instruments bei kontinuierlichen Behandlungsvariablen ohne zusätzliche Annahmen nicht testbar ist.

2. Methodik: Das AIT-Verfahren

Die Autoren führen ein neues Modell und einen entsprechenden Test ein:

Das ANINCE-Modell:
Sie betrachten das Additive NonlInear, Non-Constant Effects (ANINCE)-Modell. Dies ist ein strukturelles kausales Modell (SCM) mit unabhängigen Rauschtermen, das folgende Form hat:
$$X = g(Z) + \phi_X(U) + \varepsilon_X$$
$$Y = f(X, Z) + \phi_Y(U) + \varepsilon_Y$$
Dabei können $g(\cdot)$ und $f(\cdot)$ beliebige nichtlineare Funktionen sein, und der Effekt von $X$ auf $Y$ ist nicht notwendigerweise konstant.

Die AIT-Bedingung (Auxiliary-based Independence Test):
Die Kernidee ist die Definition einer Hilfsvariablen (Auxiliary Variable) $A$:
$$A_{X \to Y || Z} := Y - h(X)$$
wobei $h(\cdot)$ eine Funktion ist, die die bedingte Momentenrestriktion $E[Y - h(X) | Z] = 0$ erfüllt. Unter der Vollständigkeitsbedingung (Completeness Condition) ist diese Funktion $h(\cdot)$ eindeutig und entspricht dem wahren kausalen Effekt $f(\cdot)$.

Die AIT-Bedingung besagt: Ein Kandidat $Z$ ist ein gültiges Instrument, wenn und nur wenn die Hilfsvariable $A$ unabhängig vom Instrument $Z$ ist ($A \perp\!\!\perp Z$).

• Wenn $Z$ ein gültiges IV ist, enthält $A$ nur Terme, die von $U$ und $\varepsilon_Y$ abhängen, die per Definition unabhängig von $Z$ sind.
• Wenn $Z$ ungültig ist (Verletzung von Exogenität oder Ausschlussrestriktion), entstehen Abhängigkeiten zwischen $A$ und $Z$, die durch Nichtlinearitäten oder Nicht-Gaußsche Verteilungen sichtbar werden.

Praktische Implementierung:
Da $h(\cdot)$ unbekannt ist, wird ein Schätzer $\hat{h}$ verwendet. Das Verfahren nutzt Sample Splitting (Aufteilung der Daten in zwei Teilmengen):

1. In Teilmenge $D_1$ wird $\hat{h}(X)$ (z. B. mittels Control-Function-IV oder 2SLS) und ggf. die Regression von $Z$ auf Kovariaten $W$ geschätzt.
2. In Teilmenge $D_2$ wird die Hilfsvariable $\hat{A} = Y - \hat{h}(X)$ berechnet und ein Unabhängigkeitstest gegen das residualisierte Instrument $\hat{Z}$ durchgeführt.
3. Als Teststatistik wird der Large-Scale HSIC (Hilbert-Schmidt Independence Criterion) verwendet, der nichtlineare Abhängigkeiten erfassen kann.

3. Wichtige Beiträge und theoretische Ergebnisse

1. Notwendige Bedingung: Unter der Vollständigkeitsbedingung ist die AIT-Bedingung eine notwendige Bedingung für die Gültigkeit eines IVs. Wenn die Bedingung verletzt wird, ist das Instrument definitiv ungültig.
2. Hinreichende Bedingungen:
   • Lineare Modelle: In linearen Modellen ist die AIT-Bedingung nur testbar, wenn Nicht-Gaußsche Rauschterme vorliegen (Partial Non-Gaussianity). In rein linearen Gaußschen Modellen ist ein IV nicht testbar (Proposition 1).
   • Nichtlineare Modelle (ANINCE): Unter der Annahme einer Verteilungs-Nicht-Degeneriertheit (Distributional Non-degeneracy, d.h. bestimmte gemischte Ableitungen der Dichte sind nicht null) ist die AIT-Bedingung notwendig und hinreichend, um alle ungültigen IVs zu erkennen, die entweder die Exogenität oder die Ausschlussrestriktion verletzen.
3. Identifizierbare vs. nicht identifizierbare Fälle: Das Paper zeigt, dass es Fälle gibt, in denen ein ungültiges IV nicht von einem gültigen unterschieden werden kann (z. B. wenn der direkte Effekt von $Z \to Y$ eine lineare Funktion des Effekts von $Z \to X$ ist). Dies wird als nicht identifizierbarer Fall klassifiziert.
4. Erweiterung auf Kovariaten: Das Verfahren wurde so erweitert, dass es Kovariaten $W$ berücksichtigt, indem das Instrument residualisiert wird ($Z - E[Z|W]$).
5. Asymptotische Eigenschaften: Es wurde bewiesen, dass der Test asymptotisch das Niveau (Typ-I-Fehler) kontrolliert und konsistent ist (die Power geht gegen 1), wenn die Stichprobengröße wächst.

4. Ergebnisse

Die Autoren validierten ihre Methode durch umfangreiche Experimente:

• Synthetische Daten:
  • Theoretische Validierung: Die Ergebnisse bestätigten die theoretischen Vorhersagen. In linearen Gaußschen Modellen wurde kein ungültiges IV erkannt (wie vorhergesagt), während in nichtlinearen oder nicht-Gaußschen Szenarien die Erkennungsrate (Invalid MR) sehr hoch war.
  • Vergleich mit State-of-the-Art:
    • Gegenüber IV-PIM (Burauel, 2023): Das AIT-Verfahren zeigte in Szenarien mit kontinuierlichen Behandlungen und Kovariaten eine überlegene Leistung, insbesondere bei der Erkennung ungültiger Instrumente.
    • Gegenüber dem K-Test (Kitagawa, 2015): Bei diskreten Behandlungen erzielte AIT vergleichbare oder leicht bessere Ergebnisse, wobei es den Vorteil hat, auch nichtlineare Effekte zu modellieren.
• Reale Datensätze:
  • Bildung und Einkommen (Card, 1993): Das Instrument „Wohnort in der Nähe eines Colleges" wurde als gültig bestätigt (p-Wert = 0,73).
  • Koloniale Ursprünge (Acemoglu et al., 2001): Die Instrumente „Mortalität" und „Euro1990" wurden getestet. Die Ergebnisse waren konsistent mit der Literatur, wobei „Euro1990" eine etwas schwächere Exogenität aufwies.
  • Konflikt und Zeitpräferenz (Voors et al., 2012): Die Instrumente „Entfernung" und „Höhe" wurden als gültig bestätigt.

5. Bedeutung und Fazit

Dieses Paper ist ein bedeutender Fortschritt in der kausalen Inferenz, da es die Testbarkeit von Instrumentenvariablen auf realistischere und komplexere Szenarien ausdehnt:

• Es überwindet die Einschränkung auf diskrete Variablen und konstante Effekte.
• Es ermöglicht die Validierung eines einzelnen Instruments ohne Annahmen über andere Instrumente im System.
• Es liefert eine theoretische Grundlage dafür, warum und wann IVs in nichtlinearen Modellen testbar sind (durch Ausnutzung von Nichtlinearitäten und Nicht-Gaußschen Verteilungen).

Die vorgeschlagene AIT-Methode bietet ein praktisches, asymptotisch korrektes Werkzeug für Forscher in Wirtschaft, Epidemiologie und KI, um die Gültigkeit von Instrumenten in komplexen, nichtlinearen Umgebungen zu überprüfen, bevor sie kausale Effekte schätzen.