📈 economics

Interventional Score Geometry for Causal Inference

Dieses Paper schlägt ein geometrisches Framework für kausale Inferenz vor, das die Beobachtungs-Score-Geometrie auf interventionelle Settings ausdehnt, indem es kausalen Einfluss durch die Variation marginaler interventioneller Score-Felder definiert und dadurch ein geometrisches Wörterbuch für randomisierte Studien und Instrumentvariablen etabliert, während es gleichzeitig die Grenzen der Score-basierten Identifikation innerhalb von Pearls Leiter der Kausalität klärt.

Ursprüngliche Autoren: Mojtaba Eslami

Veröffentlicht 2026-07-27

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Mojtaba Eslami

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die Karte vs. Der Film

Stellen Sie sich vor, Sie sind ein Detektiv, der herausfinden will, wer wen in einem überfüllten Raum angestoßen hat. Sie haben ein hochauflösendes Foto der Szene. Auf dem Foto steht Person A direkt neben Person B, und beide sehen so aus, als würden sie sich nach vorne lehnen. Basierend auf dieser einzelnen Momentaufnahme können Sie sagen: „A und B stehen nah beieinander“, aber Sie können nicht sagen, wer wen angestoßen hat. Vielleicht hat A den B angestoßen, vielleicht B den A, oder vielleicht hat eine dritte Person beide gleichzeitig angestoßen. In der Welt der Datenwissenschaft wird diese Momentaufnahme als Beobachtungsverteilung bezeichnet. Es ist lediglich ein Bild davon, was tendenziell gemeinsam auftritt.

Jahrzehntelang haben Wissenschaftler versucht, mit ausgeklügelter Mathematik dieses statische Foto in einen Film zu verwandeln, in der Hoffnung, die Handlung entfalten zu sehen und Ursache und Wirkung zu bestimmen. Sie bauten wunderschöne mathematische Landkarten namens Informationsgeometrie, die Daten wie eine Landschaft mit Hügeln und Tälern behandeln. Die Idee war, dass man, wenn man die Form der Landschaft nur sorgfältig genug studiert, der „Stoß“ (die Ursache) sich offenbaren würde. Aber es gibt einen Haken: Ein Foto eines Flusses verrät einem nicht, in welche Richtung das Wasser fließt; es zeigt nur, wo das Wasser ist. Um die Richtung zu kennen, muss man sehen, was passiert, wenn man einen Stein hineinwirft. In diesem Papier geht es darum, zu erkennen, dass man den Fluss nicht verstehen kann, indem man nur das Wasser anstarrt; man muss tatsächlich einen Stein hineinwerfen.

Die große Idee des Papers: Warum das Foto nicht ausreicht

Dieses Paper mit dem Titel Interventional Score Geometry for Causal Inference argumentt, dass das bloße Betrachten von Daten so ist, als versuche man, ein Musikinstrument zu verstehen, indem man nur dem Klang zuhört, während niemand es berührt. Die Autoren, angeführt von Mojtaba Eslami, zeigen, dass die „Form“ der Daten (die Beobachtungsgeometrie) exakt dieselbe ist, egal ob die Musik durch eine Violine oder ein Cello verursacht wurde. Wenn zwei verschiedene Geschichten (kausale Modelle) exakt dasselbe Datenmuster erzeugen, werden sie auf jeder Karte, die nur aus diesen Daten gebaut wurde, identisch aussehen.

Das Paper beweist, dass man die „Ursache“ nicht magisch aus der „Wirkung“ extrahieren kann, indem man einfach komplexere Mathematik auf dieselben alten Zahlen anwendet. Es ist, als versuche man herauszufinden, ob ein Fluss nach Norden oder Süden fließt, indem man nur ein Standbild des Wassers betrachtet; das Foto ist in beiden Fällen gleich. Um die Richtung zu kennen, muss man intervenieren. Man muss hineingreifen und etwas verändern.

Die „harte“ Intervention: Eine Saite klemmen

Die Autoren führen eine neue Art und Weise ein, die Welt zu verändern, die sie eine harte Intervention nennen. Stellen Sie sich eine Gitarre mit sechs Saiten vor. Wenn Sie die Saiten zupfen, vibrieren sie und erzeugen einen Akkord. Das sind die Beobachtungsdaten. Nun stellen Sie sich vor, Sie nehmen eine Klammer und halten die „A“-Saite bei einer bestimmten Note vollkommen still. Sie haben die Saite nicht nur in ihrer Lautstärke verändert; Sie haben sie vollständig aus dem Spiel genommen. Die Saite kann nicht mehr vibrieren, und die anderen Saiten könnten sich anders anhören, weil sie nicht mehr mit ihr interagieren.

In der Mathematik des Papers wird dieses „Klemmen“ als do( $X_k = \xi$ ) bezeichnet. Das bedeutet, man erzwingt, dass eine Variable (wie eine Medikamentendosis oder eine Temperatur) einen spezifischen Wert $\xi$ annimmt, ungeachtet dessen, was sie zuvor gewesen wäre. Das Paper zeigt, dass sich die Mathematik dadurch grundlegend ändert. Man kann die alte Karte nicht mehr verwenden, weil die Landschaft abgeflacht wurde. Der „Score“ (ein mathematischer Pfeil, der dorthin zeigt, wo die Daten am wahrscheinlichsten sind) existiert nun auf einem niederdimensionalen Raum, vergleichbar mit einer 2D-Zeichnung eines 3D-Objekts.

Das neue Werkzeug: Der „Score“ der Veränderung

Das Paper baut ein neues Wörterbuch auf, um diese Veränderungen zu verstehen. Anstatt nur das statische Foto zu betrachten, untersuchen sie, wie sich der „Score“ (die Richtung der Daten) ändert, während man den Interventionsknopf dreht.

Sie definieren kausalen Einfluss ganz einfach: Wenn man die Einstellung von $X$ ändert und das Verhalten von $Y$ sich ändert, dann verursacht $X$ das $Y$ . Aber sie gehen tiefer. Sie zeigen, dass man diese Ursache detektieren kann, indem man eine spezifische Ableitung (eine Änderungsrate) der neuen, geklemmten Daten betrachtet. Wenn dieser „interventionelle Score“ Null ist, gibt es keine kausale Verbindung. Wenn er nicht Null ist, besteht eine Verbindung.

Um zu beweisen, dass dies funktioniert, nutzen sie ein einfaches Beispiel mit zwei Variablen, $X$ und $Y$ , die einer Standard-Gaußschen Glockenkurve folgen. Sie erstellen zwei verschiedene Geschichten:

Geschichte A: $X$ verursacht $Y$ .
Geschichte B: $Y$ verursacht $X$ .

Beide Geschichten erzeugen exakt dasselbe Foto (dieselbe Datenverteilung). Wenn man sich nur das Foto ansieht, kann man sie nicht unterscheiden. Aber wenn die Autoren ihre neue „Klemmen“-Mathematik anwenden, sind die Ergebnisse völlig unterschiedlich. In Geschichte A verändert das Klemmen von $X$ den Score von $Y$ . In Geschichte B bewirkt das Klemmen von $X$ absolut nichts für den Score von $Y$ . Die Mathematik trennt die beiden Geschichten erfolgreich, aber nur, weil sie eine Veränderung erzwungen haben. Das Foto allein hätte sie niemals unterscheiden können.

Was dies ausschließt

Das Paper ist sich sehr klar darüber, was es nicht tut. Es schließt explizit die Idee aus, dass man einfach eine Liste von „zulässigen“ Änderungen (wie „wir können den Preis eines Produkts ändern können“) nehmen und die alten Daten auf diese Liste projizieren kann, um die Antwort zu finden. Sie beweisen, dass selbst wenn man genau weiß, an welchen Hebeln man ziehen kann, die alten Daten nicht die Antwort darauf enthalten, was passiert, wenn man sie zieht. Man benötigt zusätzliche Informationen – strukturelles Wissen oder experimentelle Daten – um diese Lücke zu schließen.

Sie warnen auch vor einer häufigen Verwechslung im Bereich des maschinellen Lernens. Es gibt andere Methoden, die als „score-basierte“ Modelle bezeichnet werden (wie jene, die zur Erzeugung künstlicher Bilder verwendet werden), die versuchen, die Form von Daten zu lernen. Das Paper sagt, dass diese Modelle großartig darin sind, das Foto zu lernen, aber sie können den Film (die kausale Struktur) nicht lernen, indem sie nur besser im Foto werden. Egal wie perfekt der Bildgenerator auch sein mag, er kann einem immer noch nicht sagen, was passiert, wenn man den Knopf drückt, es sei denn, man liefert ihm tatsächlich Daten aus der Zeit, als der Knopf gedrückt wurde.

Die „kausale Metrik“: Das Messen des Stoßes

Schließlich entwickeln die Autoren eine neue Methode, um zu messen, wie empfindlich ein System auf einen Stoß reagiert. Sie nennen dies eine kausale Metrik. Denken Sie daran wie beim Messen, wie stark sich eine Feder dehnt, wenn man an ihr zieht. Wenn man ein wenig zieht und sie sich stark dehnt, ist die Feder sehr empfindlich. Wenn sie sich kaum bewegt, ist sie steif.

Das Paper zeigt, dass man diese Empfindlichkeit mit einem Standard-Statistikwerkzeug namens Fisher-Information messen kann, aber man muss vorsichtig sein und die Information auf dem richtigen „Schnitt“ der Daten messen (dem Teil, der nicht geklemmt wurde). Sie zeigen, dass für einfache Fälle, wie das Verschieben einer Verteilung entlang einer Linie, diese Metrik lediglich eine Konstante ist, die angibt, wie „scharf“ die Daten sind. Dies hilft Forschern zu wissen, wie viele Daten sie sammeln müssen, um einen realen Effekt zu sehen. Wenn die Metrik klein ist, benötigt man eine riesige Menge an Daten, um die Veränderung zu sehen. Wenn sie groß ist, wird ein kleines Experiment das Ergebnis deutlich zeigen.

Das Fazit

Dieses Paper liefert uns keinen Zauberstab, um Ursachen in irgendeinem Datensatz zu finden. Stattdessen gibt es uns eine präzise Terminologie und eine Reihe von Regeln, um zu verstehen, was wir wissen können und was nicht. Es bestätigt, dass Kausalität in den „Was wäre wenn“-Szenarien (den Interventionen) lebt und nicht in den „Was ist“-Szenarien (den Beobachtungen).

Die Autoren betonen vorsichtig, dass sie nicht alles gelöst haben. Sie haben nicht herausgefunden, wie man vorhersagt, was mit einer spezifischen Person passiert wäre, wenn sie einen anderen Weg gewählt hätte (die „Kontrafaktizität“-Stufe der Leiter). Sie haben lediglich eine solide Brücke zwischen dem „Was ist“ und dem „Was passiert, wenn wir es ändern“ gebaut. Sie haben gezeigt, dass man, um den Fluss des Flusses zu verstehen, aufhören muss, das Wasser anzustarren, und stattdin anfangen muss, Steine hineinzuwerfen.

Technisches Resümee: Interventions-Score-Geometrie für kausale Inferenz

Problemstellung
Das Paper adressiert eine fundamentale Limitierung in der kausalen Inferenz: die Unfähigkeit, die kausale Richtung oder kausale Effekte allein aus der beobachteten gemeinsamen Dichte $p(x)$ der beobachteten Variablen $X$ zu identifizieren. Der Autor argumentiert, dass die „beobachtende Geometrie“ – konstruiert aus dem Träger $M$ , einer Hintergrundmetrik $g$ und dem Score-Feld $\psi(x) = \nabla_x \log p(x)$ – vollständig durch $p(x)$ bestimmt ist. Folglich induzieren zwei verschiedene strukturelle Kausalmodelle (SCMs), die dieselbe reduzierte Form der Verteilung $p(x)$ erzeugen, identische beobachtende Geometrien. Dies spiegelt das klassische Problem der Nicht-Identifizierbarkeit wider, bei dem unterschiedliche kausale Strukturen (z. B. $X \to Y$ vs. $Y \to X$ ) beobachtungsäquivalent sein können. Das Paper postuliert, dass kausale Asymmetrie nicht allein aus $p(x)$ abgeleitet werden kann, sondern durch eine explizite Intervention bereitgestellt werden muss.

Methodik und Framework
Das Paper entwickelt ein geometrisches Framework, das zwischen beobachtenden und interventionalen Zuständen unterscheidet und sich an Pearls „Leiter der Kausalität“ orientiert.

Definition des Interventions-Scores:
Die zentrale technische Innovation ist die Definition eines Interventions-Scores. Eine harte Intervention $do(X_k = \xi)$ fixiert eine Koordinate $X_k$ auf einen Wert $\xi$ und kollabiert die gemeinsame Dichte auf eine $(d-1)$ -dimensionale Mannigfaltigkeit $\{x_k = \xi\}$ . Da die resultierende Verteilung keine Dichte bezüglich des ursprünglichen $d$ -dimensionalen Volumens besitzt, ist ein naiver Gradient nicht definiert.
- Definition 1: Der Interventions-Score $\psi^{(k, \xi)}_{-k}$ ist strikt auf den verbleibenden, nicht-intervenierten Koordinaten $X_{-k}$ definiert. Er ist der Gradient der Log-Dichte der marginalen interventionalen Verteilung $p^{(k, \xi)}_{-k}(x_{-k})$ .
Kausaler Einfluss und Diagnostik:
- Definition 2 (Distributionell): Kausaler Einfluss $X_k \leadsto X_j$ wird als die Variation des marginalen Gesetzes von $X_j$ unter $do(X_k = \xi)$ bei Änderung von $\xi$ definiert.
- Definition 3 (Score-detektierbarer Einfluss): Eine hinreichende Bedingung für kausalen Einfluss ist das Nicht-Verschwinden der gemischten Ableitung der Log-marginalen Dichte: $S_{k \to j}(\xi, x_j) = \frac{\partial}{\partial \xi} \frac{\partial}{\partial x_j} \log p^{(k, \xi)}_j(x_j) \neq 0$ .
- Proposition 2: Auf einem fixen, zusammenhängenden, strikt positiven Träger ist dieses Score-Diagnostikum auch notwendig. Wenn die Score-Ableitung überall Null ist, ändert sich die marginale Verteilung durch die Intervention nicht.
Die zulässige Menge und das Response-Feld:
Das Paper lehnt die Vorstellung ab, dass eine „zulässige Menge“ an Interventionsrichtungen $A(x)$ (die Menge der manipulierbaren Koordinaten) ausreicht, um kausale Effekte aus Beobachtungsdaten zu rekonstruieren.
- Proposition 3: Zwei Modelle können denselben beobachtenden Score $\psi$ und dieselbe zulässige Menge $A(x)$ teilen und dennoch unterschiedliche kausale Antworten besitzen. Daher kann die Projektion von $\psi$ auf $A(x)$ kein kausales Feld liefern.
- Definition 4 (Interventionales Response-Feld): Der kausale Inhalt befindet sich in einem Response-Feld $S(v)$ , welches die Sensitivität des Interventions-Scores gegenüber einer spezifischen strukturellen Interventionsfamilie beschreibt. Dieses Feld muss durch externes strukturelles Wissen oder experimentelles Design bereitgestellt werden; es kann nicht allein aus $p(x)$ und $A(x)$ abgeleitet werden.
Kausale Metrik:
Um die „Distanz“ oder den Informationsgehalt von Interventionen zu messen, definiert das Paper eine Kausale Metrik (Definition 5). Im Gegensatz zu naiven Konstruktionen, die versuchen, Sensitivitäten über verschiedene Zielgrößen hinweg zu vergleichen (die auf unterschiedlichen Koordinatenräumen liegen), ist diese Metrik als Fisher-Informations-Metrik auf einer Familie von Interventionen aufgebaut, die ein gemeinsames Ziel $k$ teilen. Dies stellt sicher, dass die Dichten auf einem gemeinsamen Raum $X_{-k}$ existieren.

Wichtigste Ergebnisse und Illustrationen

Bivariates Gauß-Beispiel: Das Paper liefert ein vollständig ausgearbeitetes Beispiel mit zwei Modellen (A und B), die beobachtungsäquivalent sind (identische gemeinsame Gauß-Dichte und Score-Feld).
- Modell A: $Y = \beta X + \epsilon_Y$ . Eine Intervention auf $X$ verschiebt den Mittelwert von $Y$ . Die Interventions-Score-Sensitivität $S_{X \to Y} = \beta/\sigma^2 \neq 0$ .
- Modell B: $X = \gamma Y + \epsilon_X$ . Eine Intervention auf $X$ beeinflusst $Y$ nicht. Die Interventions-Score-Sensitivität $S_{X \to Y} = 0$ .
- Dies demonstriert, dass während die statische beobachtende Geometrie identisch ist, die Interventions-Score-Ableitungen divergieren und die kausale Richtung korrekt identifizieren, sobald strukturelle Annahmen bereitgestellt werden.
Reinterpretation klassischer Designs:
- Randomisierte kontrollierte Studien (RCTs): Randomisierung stellt sicher, dass die Behandlung $T$ unabhängig von Kovariaten $Z$ ist. Geometrisch äußert sich dies in einer Block-Separation im gemeinsamen Score-Feld $\psi_{T,Z}$ , wobei die Komponente der Kovariaten invariant gegenüber Änderungen in $T$ ist. Das Paper stellt klar, dass Randomisierung eine „faire Startlinie“ garantiert (Unabhängigkeit der Zuweisung), aber nicht die relationale Beziehung zwischen Behandlung und Outcome geometrisch abflacht.
- Instrumentelle Variablen (IV): Der IV-Estimand wird als Verhältnis der Richtungsableitungen von bedingten Mittelwertfunktionen ( $D_{v_Z} m_Y / D_{v_Z} m_T$ ) umformuliert, statt als Verhältnis von Rohvariablen.
- Score-basierte generative Modelle: Das Paper warnt explizit davor, dass das Training generativer Modelle zur Schätzung des beobachtenden Scores $\nabla \log p(x)$ keine kausale Struktur liefert. Ohe interventionalen Daten zur Schätzung des Response-Feldes bleibt das Modell auf der „assoziativen Sprosse“ der Kausalität.

Bedeutung und Ansprüche
Das Paper beansprucht, ein „korrigiertes geometrisches Wörterbuch“ für die kausale Inferenz bereitzustellen, das strikt zwischen dem trennt, was aus Beobachtungsdaten gelernt werden kann, und dem, was strukturellen oder experimentellen Input erfordert.

Bescheidenheit der Ansprüche: Der Autor gibt explizit an, dass das Framework keine Identifizierbarkeit leistet, die über bestehende Annahmen hinausgeht. Es bietet keine neuen asymptotischen Ergebnisse für Meta-Learner oder Double Machine Learning und löst auch nicht das Identifizierungsproblem bei fehlenden strukturellen Annahmen.
Geltungsbereich: Das Framework ist bewusst eng gefasst und konzentriert sich auf die „interventionale Sprosse“ von Pearls Leiter. Es überlässt die „kontrafaktische Sprosse“ (Unit-Level Cross-World-Struktur) zukünftigen Arbeiten.
Terminologische Klarheit: Das Paper unterscheidet seine Verwendung von „Score“ (Gradient der Log-Dichte) von dem in der semiparametrischen Effizienz und dem Double Machine Learning verwendeten „Score“ (Schätzgleichungen), um eine Verwechslung distinkter mathematischer Objekte zu vermeiden.

Zusammenfassend argumentiert das Paper, dass kausale Inferenz den Übergang von einer statischen Geometrie von $p(x)$ zu einer dynamischen Geometrie interventionaler Familien erfordert. Der „kausale“ Inhalt verbirgt sich nicht in der Krümmung des beobachtenden Manifolds, sondern ist in der Deformation des Score-Feldes unter expliziten, strukturell definierten Interventionen kodiert.