🤖 machine learning

Causal Gaussian Processes for Robust Treatment Effect Evaluation with Unobserved Confounding

Dieses Paper führt Causal Gaussian Process (CGP)-Modelle ein, die eine robuste Evaluierung kausaler Effekte über kontinuierliche Domänen hinweg aus konfundierten Beobachtungen ermöglichen, indem sie eine universelle Diskretisierung exogener Domänen nutzen, um interventionelle Verteilungen zu approximieren, ohne detailliertes Vorwissen zu erfordern oder Behandlungen auf diskrete Werte zu beschränken.

Ursprüngliche Autoren: Junzhe Zhang, Jingyuan Chen, Elias Bareinboim

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Junzhe Zhang, Jingyuan Chen, Elias Bareinboim

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der „verborgene Puppenspieler“

Stellen Sie sich vor, Sie versuchen herauszufinden, welcher Dünger Pflanzen am höchsten wachsen lässt. Sie betrachten einen Garten, in dem Landwirte bereits Samen gepflanzt haben. Sie bemerken, dass die Pflanzen mit dem „Super-Dünger“ riesig sind. Sie könnten denken: „Aha! Der Dünger wirkt!“

Aber hier ist der Haken: Die Landwirte haben den Dünger nicht zufällig ausgewählt. Sie haben den Super-Dünger heimlich nur den Pflanzen gegeben, die bereits im sonnigsten und fruchtbarsten Boden standen. Die „Sonne und der Boden“ sind ein verborgener Puppenspieler (ein unbeobachteter Confounder), der sowohl die Wahl des Düngers als auch das Pflanzenwachstum beeinflusst hat.

Wenn Sie nur die Daten betrachten, werden Sie glauben, der Dünger sei ein Wunderwerk. Aber wenn Sie tatsächlich intervenieren würden und eine Pflanze im Schatten dazu zwingen würden, den Super-Dünger zu nutzen, würde sie vielleicht gar nicht wachsen. Die Daten sind „verzerrt“ (biased), weil dieser verborgene Puppenspieler existiert.

In der realen Welt passiert das überall: in der Medizin, der Wirtschaft und der Politik. Wir können oft keine perfekten Experimente durchführen (wie etwa jeden dazu zu zwingen, ein Medikament einzunehmen oder nicht), also müssen wir uns auf unordentliche, beobachtende Daten verlassen, bei denen verborgene Faktoren die Ergebnisse verfälschen.

Der alte Weg vs. der neue Weg

Der alte Weg (Standard-Gauß-Prozesse):
Betrachten Sie Standard-KI-Modelle (wie Gauß-Prozesse) als einen sehr talentierten Künstler, der groß darin ist, das nachzuahmen, was er sieht. Wenn man ihm die verzerrten Gartendaten zeigt, wird er ein perfektes Bild der Pflanzen zeichnen, so wie sie sind. Er wird sagen: „Ja, der Super-Dünger macht Pflanzen riesig!“ Aber er erkennt nicht, dass der Dünger nicht das Wachstum verursacht hat, sondern die Sonne. Er ist zu gut darin, die Verzerrung nachzuahmen.

Die Lösung des Papers (Kausale Gauß-Prozesse):
Die Autoren Junzhe Zhang, Jingyuan Chen und Elias Bareinboim haben eine neue Art von KI-Modell entwickelt, das eine Kausale Gauß-Prozess (CGP) ist.

Anstatt nur das Bild zu kopieren, versucht dieses neue Modell, den Mechanismus hinter dem Bild zu verstehen. Es fragt: „Was wäre, wenn der verborgene Puppenspieler nicht an den Fäden gezogen hätte? Wie sähen die Pflanzen dann aus?“

Wie es funktioniert: Das „pixelierte“ Universum

Das Paper führt einen cleveren Trick ein, um dieses Rätsel zu lösen.

Die Welt in Blöcke zerlegen:
Stellen Sie sich vor, der verborgene Puppenspieler (die unbeobachtete Variable) ist ein glatter, kontinuierlicher Regler, der auf jeden beliebigen Wert eingestellt werden kann. Das neue Modell nimmt diesen glatten Regler und zerlegt ihn in eine endliche Anzahl von „Blöcken“ oder „Pixeln“. Es ist, als würde man ein hochauflösendes Foto in eine niedrig auflösende Pixelkunst verwandeln.

Die Magie: Das Paper beweist mathematisch, dass man, wenn man diese Pixel klein genug macht, jedes mögliche verborgene Szenario mit perfekter Genauigkeit annähern kann. Man muss nicht die exakte Einstellung des Reglers kennen; man muss nur wissen, in welchen „Block“ er fällt.

Die „Strata“-Strategie:
Sobald die Welt in diese Blöcke zerlegt ist, gruppiert das Modell die Daten. Es sagt: „Okay, alle Pflanzen in ‚Block A‘ scheinen auf Dünger auf eine bestimmte Weise zu reagieren. Alle Pflanzen in ‚Block B‘ reagieren anders.“
Es behandelt jeden Block als ein separates, kleineres Universum, in dem der verborgene Puppenspieler konsistent ist.
Der Kausale Gauß-Prozess:
Das Modell nutzt eine spezielle Art von Mathematik (Gauß-Prozesse), um die Regeln für jeden dieser Blöcke zu erlernen. Es lernt: „Wenn wir in Block A sind und den Dünger erzwingen, wächst die Pflanze um X Zoll.“
Dann kombiniert es all diese Block-Regeln, um vorherzusagen, was in der echten Welt passieren würde, wenn man interveniert – wodurch der Bias des verborgenen Puppenspielers effektiv entfernt wird.

Der Anspruch der „Universellen Approximation“

Das Paper behauptet etwas sehr Mächtiges: Diese Methode funktioniert für jedes kausale System, egal wie komplex oder kontinuierlich die Variablen sind. Sie erfordert nicht, dass man die exakte Formel dafür kennt, wie der verborgene Puppenspieler funktioniert. Man muss nur die Reihenfolge der Ereignisse kennen (z. B. der Dünger kommt vor dem Wachstum).

Man kann es sich wie einen Meisterdetektiv vorstellen, der nicht den Namen oder das Gesicht des Verbrechers kennen muss. Er muss nur wissen, dass der Verbrecher in bestimmten „Zonen“ Fußspuren hinterlassen hat. Durch die Analyse der Fußspuren in jeder Zone kann er den gesamten Plan des Verbrechers rekonstruieren, selbst wenn er ihn nie gesehen hat.

Was die Experimente zeigten

Die Autoren testeten dies in mehreren Szenarien:

Synthetische Spiele: Sie erschufen künstliche Welten mit unterschiedlichen Regeln (polynomisch, logistisch, linear), in denen eine verborgene Variable die Daten verfälschte.
Reale Daten: Sie verwendeten Daten aus dem International Stroke Trial (einer Studie über Aspirin bei Schlaganfallpatienten). Sie simulierten ein Szenario, in dem der „Bewusstseinszustand“ eines Patienten (den man nicht perfekt messen konnte) sowohl seinen Blutdruck als auch sein Überleben beeinflusste.

Das Ergebnis:

Das Standard-Modell (der Künstler) betrachtete die verzerrten Daten und lieferte selbstbewusst die falsche Antwort. Es überpasste (overfit) die Verzerrung.
Das Kausale Modell (der Detektiv) ignorierte die Verzerrung. Es sagte erfolgreich voraus, was in einem echten, randomisierten Experiment passieren würde.

In der „Scorecard“ des Papers (Negative Log Predictive Likelihood) schnitt das Kausale Modell viel besser ab (niedriger ist besser), was bewies, dass es auf neue, unverzerrte Daten generalisieren konnte, während das Standardmodell versagte.

Zusammenfassung

Dieses Paper führt ein neues KI-Werkzeug ein, das in der Lage ist, unordentliche, verzerrte Realdaten zu betrachten und die wahre Ursache-Wirkungs-Beziehung zu entschlüsseln, selbst wenn es verborgene Faktoren gibt, die wir nicht messen können. Dies geschieht, indem es die unbekannte Welt mathematisch in handhabbare Stücke „pixeliert“, die Regeln für jedes Stück lernt und diese dann wieder zusammensetzt, um die Wahrheit zu sehen. Es ist ein Weg, „Korrelation“ (Dinge, die zusammen geschehen) in „Kausalität“ (eine Sache, die tatsächlich eine andere verursacht) zu verwandeln, ohne ein perfektes kontrolliertes Experiment zu benötigen.

Technisches Resümee: Kausale Gauß-Prozesse für die robuste Bewertung von Behandlungseffekten bei unbeobachteten Störfaktoren

Problemstellung

Die zentrale Herausforderung, die in dieser Arbeit adressiert wird, ist die Bewertung kausaler Behandlungseffekte aus Beobachtungsdaten, die durch unbeobachtete Störfaktoren (Confounding) kontaminiert sind. In vielen praktischen Szenarien sind die Ziel-Kausaleffekte (z. B. $E_x[Y]$ ) aus Beobachtungsdaten allein nicht identifizierbar, da nicht gemessene Störfaktoren spure (spurious) Korrelationen zwischen Behandlungen ( $X$ ) und Ergebnissen ( $Y$ ) einführen.

Während die Standard-Gauß-Prozess-Regression (GP) exzellent darin ist, komplexe funktionale Abbildungen in kontinuierlichen Domänen zu modellieren, ist sie anfällig dafür, die in Beobachtungsdaten vorhandenen Biase zu erlernen und zu verstärken. Folglich versagen Standard-GPs oft bei der Generalisierung auf interventionelle Verteilungen (was passieren würde, wenn $X$ auf einen spezifischen Wert $x$ gesetzt würde), was zu fehlerhaften Politikevaluierungen führt. Bestehende robuste Strategien beruhen oft auf starken parametrischen Annahmen, detailliertem Vorwissen über die Umgebung oder sind auf diskrete Behandlungs- und Ergebnisräume beschränkt, was ihre Anwendbarkeit auf komplexe, kontinuierliche Domänen einschränkt.

Methodik

Die Autoren schlagen ein neuartiges Framework vor, das die Lücke zwischen nicht-parametrischer kausaler Inferenz und Gauß-Prozess-Modellierung durch drei wesentliche methodische Schritte schließt:

1. Universelle Diskretisierung exogener Domänen
Das Paper führt ein verfahren zur universellen Diskretisierung der exogenen Variablen ( $U$ ) für jedes Strukturelle Kausale Modell (SCM) mit kontinuierlichen Behandlungs- und Ergebnisdomänen ein.

Die Autoren definieren ein Causal Canonical Model (CCM), in dem die strukturellen Funktionen, die Kovariaten ( $Z$ ), Aktionen ( $X$ ) und Belohnungen ( $Y$ ) bestimmen, einfache Funktionen (lineare Kombinationen von Indikatorfunktionen über disjunkte Teilmengen des exogenen Bereichs) sind.
Theorem 3.3 stellt fest, dass die Menge dieser Causal Canonical Models im Raum aller SCMs bezüglich der $L_1$ -Norm dicht ist. Das bedeutet, dass es für jedes beliebige kausale Modell und jede gewünschte Genauigkeit $\epsilon$ ein CCM gibt, das sowohl die Beobachtungsverteilung $P(X, Y, Z)$ als auch die interventionellen Behandlungseffekte $E_x[Y|z]$ innerhalb von $\epsilon$ approximiert.

2. Reparametrisierung in Kausale Generative Modelle (CGM)
Um das Lernen zu erleichtern, werden die diskreten einfachen Funktionen des CCM mittels kontinuierlicher Funktionen in Kausale Generative Modelle (CGM) reparametrisiert.

In einem CGM wird die Population in eine endliche Anzahl von latenten Zuständen (Strata) $u \in \{1, \dots, d\}$ stratifiziert.
Innerhalb jedes Stratums ist die Belohnungsfunktion $h_u(x, z)$ eine kontinuierliche Funktion, die Behandlung und Kovariaten auf das Ergebnis abbildet.
Theorem 4.2 bestätigt, dass diese Familie von CGMs die kausale Approximationseigenschaft beibehält und effektiv jede SCMs' Beobachtungs- und Interventionsverteilungen repräsentiert.

3. Kausale Gauß-Prozesse (CGP) und Variationelle Inferenz
Die Autoren instanziieren die CGM-Familie unter Verwendung von Gauß-Prozessen, um die kontinuierliche Natur der Belohnungsfunktionen $h_u$ zu handhaben.

Modellstruktur: Die exogene Verteilung $P(u)$ wird über einen abgeschnittenen Dirichlet-Prozess (Stick-Breaking-Prozess) modelliert. Für jedes latente Stratum $u$ werden die Kovariaten $Z$ und die Behandlung $X$ aus bedingten multivariaten Normalverteilungen gezogen. Das Ergebnis $Y$ wird durch eine Funktion $h_u(x, z)$ generiert, die aus einem Gauß-Prozess mit einem spezifischen Kernel (z. B. Radial Basis Function) gezogen wurde.
Lernen: Da exakte posteriore Inferenz unpraktikabel ist, verwenden die Autoren Variationelle Inferenz (VI) mit einer Mean-Field-Approximation. Das Modell lernt eine posteriore Verteilung über die Zuweisungen der latenten Strata und die Parameter der Gauß-Prozesse.
Inferenz: Der Ziel-Behandlungseffekt $E_x[Y|z]$ wird berechnet, indem die gelernten Belohnungsfunktionen $h_u(x, z)$ gewichtet durch die posteriore Wahrscheinlichkeit der latenten Strata $P(u|z)$ gemittelt werden. Dies ermöglicht es dem Modell, über potenzielle Partitionierungen des exogenen Bereichs zu "suchen", um eine robuste Erklärung der Daten zu finden, die unobservierte Störfaktoren berücksichtigt.

Zentrale Beiträge

Universelle Diskretisierung: Das Paper liefert einen formalen Beweis, dass exogene Domänen in kontinuierlichen kausalen Modellen ohne Verlust an Allgemeingültigkeit diskretisiert werden können, um jede kausale Modell-Beobachtungs- und Interventionsverteilung mit beliebiger Genauigkeit zu approximieren.
Causal Gaussian Process (CGP) Familie: Die Autoren entwickeln eine neue Familie von generativen Modellen, die die kanonische Diskretisierung in eine Form reparametrisieren, die mit Standard-Bayesianischer Inferenz und Deep-Learning-Frameworks kompatibel ist.
Robuste Partielle Identifikation: Das Framework ermöglicht die Ableitung robuster posteriorer Verteilungen über kausale Effekte aus konfundierten Beobachtungsdaten und führt effektiv eine partielle Identifikation in kontinuierlichen Domänen durch, ohne starke parametrische Annahmen über die zugrunde liegenden strukturellen Funktionen zu erfordern.

Experimentelle Ergebnisse

Die Autoren evaluierten die vorgeschlagene CGP gegenüber der Standard-Gauß-Prozess-Regression auf synthetischen Datensätzen mit verschiedenen Belohnungsfunktionen (Polynomial, Logistic, Phase, Linear) sowie einem realen Datensatz aus dem International Stroke Trial (IST).

Metrik: Die Leistung wurde mittels der negativen Log-Predictive-Likelihood (NLPL) auf interventionellen Daten (Daten aus randomisierten Studien oder simulierten Interventionen) gemessen.
Ergebnisse:
- Standard-GPs überfitten konsistent die konfundierten Beobachtungsdaten, was zu hohen NLPL-Scores und einem Versagen bei der Generalisierung auf interventionelle Verteilungen führt.
- Causal GPs erreichten in allen synthetischen und realen Experimenten konsistent signifikant niedrigere NLPL-Scores.
- Die durch CGP gelernten posterioren Verteilungen erfassten erfolgreich die wahren Behandlungseffekte, während Standard-GPs aufgrund unobservierter Störfaktoren signifikant abwichen.

Bedeutung und Behauptungen

Das Paper behauptet, dass diese Arbeit die kanonische Partitionierung struktureller kausaler Modelle (die zuvor für diskrete Domänen etabliert wurde) auf kontinuierliche Domänen verallgemeinert. Durch die Einführung einer universellen Diskretisierungseigenschaft zeigen die Autoren, dass es möglich ist, komplexe, unbekannte kausale Mechanismen mit einer endlichen Anzahl von latenten Zuständen zu approximieren.

Die Bedeutung liegt in der Bereitstellung eines robusten, datengesteuerten Ansatzes für die kausale Inferenz in Szenarien, in denen:

Unbeobachtete Störfaktoren vorhanden sind.
Variablen kontinuierlich sind.
Detailliertes parametrisches Wissen über den generativen Prozess nicht verfügbar ist.

Die Autoren behaupten, dass ihre Methode die "robuste partielle Identifikation" kausaler Effekte ermöglicht, was es Lernenden erlaubt, Behandlungseffekte zu inferieren, die auf interventionelle Szenarien generalisieren, selbst wenn die Beobachtungsdaten verzerrt sind. Die Arbeit positioniert CGPs als ein Werkzeug, das die Diskretisierung latenter Räume automatisiert und somit robuste kausale Inferenz in komplexen, realen kontinuierlichen Umgebungen praktikabel macht.