🤖 machine learning

ConfoundingSHAP: Quantifying confounding strength in causal inference

Das Papier stellt ConfoundingSHAP vor, eine skalierbare, auf Shapley-Werten basierende Methode, die TabPFN nutzt, um die Stärke von Verzerrungen in Beobachtungsstudien zu quantifizieren und einzelnen Kovariaten zuzuordnen, wodurch Forschern geholfen wird, zu identifizieren, welche Variablen als Confounder wirken, ohne eine erschöpfende Neuanpassung des Modells vornehmen zu müssen.

Ursprüngliche Autoren: Marie Brockschmidt, Santo M. A. R. Thies, Maresa Schröder, Dennis Frauen, Valentyn Melnychuk, Maximilian Muschalik, Eyke Hüllermeier, Stefan Feuerriegel

Veröffentlicht 2026-05-12

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Marie Brockschmidt, Santo M. A. R. Thies, Maresa Schröder, Dennis Frauen, Valentyn Melnychuk, Maximilian Muschalik, Eyke Hüllermeier, Stefan Feuerriegel

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der "versteckte Einflussnehmer"

Stellen Sie sich vor, Sie sind ein Arzt und versuchen herauszufinden, ob ein neues Medikament tatsächlich wirkt. Sie schauen sich Ihre Patientenakten an. Sie sehen, dass Patienten, die das Medikament eingenommen haben, länger gelebt haben als diejenigen, die es nicht getan haben.

Aber warten Sie! Da ist ein Haken. Der Arzt hat keine Münze geworfen, um zu entscheiden, wer das Medikament erhält. Stattdessen gab der Arzt das Medikament den schwerstkranken Patienten, weil sie es am dringendsten brauchten.

Wenn Sie nun einfach die beiden Gruppen vergleichen, könnte das Medikament so aussehen, als hätte es Menschen getötet (weil die Kranken sowieso starben), oder es könnte wie ein Wunder wirken (wenn der Arzt es nur den stärksten Patienten gab). Das Problem ist, dass das Krankheitsniveau ein "Confounder" (Störfaktor) ist. Es beeinflusste sowohl die Entscheidung, das Medikament zu geben, als auch das Endergebnis (Tod oder Überleben).

In realen Daten haben wir keine Liste von "Confoundern". Wir haben nur eine lange Liste von Variablen (Alter, Gewicht, Blutdruck, Einkommen usw.). Wir wissen nicht, welche davon unsere Ergebnisse durcheinanderbringen.

Die Lösung: ConfoundingSHAP

Die Autoren haben ein Werkzeug namens ConfoundingSHAP entwickelt. Stellen Sie es sich als "Bias-Detektiv" oder "Confounder-Stärke-Messer" vor.

Seine Aufgabe ist es, eine lange Liste von Variablen zu prüfen und eine spezifische Frage zu beantworten: "Welche dieser Variablen verursacht tatsächlich die Verwirrung (den Bias) in unseren Ergebnissen?"

Wie es funktioniert: Die "Teambuilding"-Analogie

Um zu verstehen, wie das Werkzeug funktioniert, stellen Sie sich ein Spiel des Teambuildings vor, bei dem das Ziel darin besteht, ein Rätsel zu lösen (den wahren Effekt einer Behandlung zu finden).

Die Spieler: Jede Variable in Ihrem Datensatz (Alter, Einkommen, Blutdruck) ist ein Spieler im Team.
Das Ziel: Das Team möchte wissen, wie viel "Rauschen" oder "Verwirrung" in den Daten übrig bleibt, wenn sie bestimmte Spieler ausschließen.
Das Spiel: Das Werkzeug testet jede mögliche Kombination von Spielern (Teams).
- Team A: Beinhaltet alle. (Das "perfekte" Team).
- Team B: Lässt "Blutdruck" weg.
- Team C: Lässt "Alter" und "Einkommen" weg.
Die Punktzahl: Für jedes Team berechnet das Werkzeug, wie stark sich das Ergebnis im Vergleich zum "perfekten" Team ändert.
- Wenn das Weglassen von "Blutdruck" das Ergebnis durcheinanderbringt, dann ist "Blutdruck" ein schwerer Akteur. Es ist ein starker Confounder.
- Wenn das Weglassen von "Schuhgröße" nichts ändert, dann ist "Schuhgröße" irrelevant.

Das Werkzeug verwendet ein mathematisches Konzept namens Shapley-Werte (benannt nach einem Nobelpreisträger für Spieltheorie), um die "Schuld" für die Verwirrung fair unter allen Spielern aufzuteilen. Es sagt Ihnen genau, wie viel jede Variable zum Durcheinander beigetragen hat.

Warum dies anders ist (Die "CATE"-Falle)

Das Papier weist auf einen häufigen Fehler hin, den Menschen machen. Normalerweise verwenden Datenwissenschaftler Werkzeuge, um Treatment Effect Heterogeneity (CATE) zu erklären.

CATE-Erklärer: "Wer lässt das Medikament bei verschiedenen Menschen anders wirken?" (z. B. "Es wirkt besser bei Männern als bei Frauen").
ConfoundingSHAP: "Wer verwirrt das durchschnittliche Ergebnis, weil er beeinflusst hat, wer das Medikament erhielt?"

Die Analogie:
Stellen Sie sich ein Rennen vor.

CATE fragt: "Wer läuft schneller auf Gras vs. Schlamm?" (Es betrachtet, wie der Boden die Geschwindigkeit des Läufers verändert).
ConfoundingSHAP fragt: "Wer hat die Startlinie manipuliert?" (Es betrachtet, wer entschieden hat, welcher Läufer vorne und welcher hinten startete, was die Endergebnisse verzerrt).

Das Papier zeigt, dass Standardwerkzeuge die "Manipulatoren" (Confounder) oft übersehen, weil sie sich zu sehr auf die "Bodenbedingungen" (Effektmodifikatoren) konzentrieren. ConfoundingSHAP wurde speziell entwickelt, um die Manipulatoren zu finden.

Der "magische Motor" (TabPFN)

Die Berechnung dafür für jede mögliche Teamkombination ist unglaublich langsam. Wenn Sie 20 Variablen haben, gibt es über eine Million Kombinationen. Dies auf die alte Art zu tun, würde ewig dauern.

Die Autoren verwendeten einen "magischen Motor" namens TabPFN.

Alte Art: Um ein neues Team zu testen, müssen Sie den gesamten Motor von Grund auf neu aufbauen.
TabPFN-Art: Stellen Sie sich einen superschlauen Roboter vor, der bereits Millionen von Spielen gesehen hat. Sie flüstern ihm einfach die Regeln des aktuellen Teams zu, und er sagt das Ergebnis sofort voraus, ohne etwas neu lernen zu müssen. Dies macht den Prozess schnell genug, um auf echten Computern nützlich zu sein.

Was sie fanden (Die Ergebnisse)

Die Autoren testeten ihr Werkzeug an drei Arten von Szenarien:

Fake-Daten (Synthetisch): Sie schufen eine fiktive Welt, in der sie genau wussten, wer die "schlechten Akteure" (Confounder) waren.
- Ergebnis: ConfoundingSHAP wies mit einem riesigen Finger korrekt auf die schlechten Akteure hin und ignorierte unschuldige Passanten (wie Instrumente oder Rauschen).
Randomisierte Studien (RCT): Sie betrachteten eine echte medizinische Studie, bei der die Behandlung zufällig zugewiesen wurde (wie das Werfen einer Münze).
- Ergebnis: Da es bei einem fairen Münzwurf kein "Gefummel" gab, sagte ConfoundingSHAP korrekt: "Hier keine Verwirrung!" Die Bias-Werte sanken auf fast Null.
Echte medizinische Daten (SUPPORT-Studie): Sie betrachteten eine echte Studie über Herzkatheterisierung.
- Ergebnis: Das Werkzeug identifizierte Variablen, von denen Ärzte tatsächlich wissen, dass sie wichtig sind (wie der Krankheitszustand des Patienten bei Ankunft), als Hauptquellen der Verwirrung. Es ignorierte auch korrekt irrelevante Dinge wie Patienten-IDs.

Das Fazit

ConfoundingSHAP ist ein neues Werkzeug, das Forschern hilft herauszufinden, welche Variablen in ihren Daten ihre kausalen Schlussfolgerungen heimlich durcheinanderbringen. Es verwendet ein faires "Teambuilding"-Mathematiksystem, um die Schuld für den Bias zuzuweisen, und nutzt einen intelligenten KI-Motor, um die Mathematik schnell zu berechnen.

Es sagt Ihnen nicht, ob das Medikament wirkt (das liegt am Forscher); es sagt Ihnen, auf welche Variablen Sie achten müssen, damit Sie die Verwirrung stoppen und ein klareres Bild erhalten.

Technische Zusammenfassung: ConfoundingSHAP

Problemstellung

In der kausalen Inferenz aus Beobachtungsdaten ist die Zuteilung einer Behandlung oft nicht zufällig, was zu systematischen Unterschieden zwischen behandelten und unbehandelten Gruppen führt. Variablen, die sowohl die Behandlungszuteilung als auch die Ergebnisse beeinflussen, werden als Confounder (Störfaktoren) bezeichnet. Während randomisierte klinische Studien dieses Problem eliminieren, müssen Forscher in Beobachtungsstudien Confounder identifizieren und adjustieren, um kausale Effekte (z. B. den Conditional Average Treatment Effect, CATE) präzise zu schätzen.

Eine kritische Herausforderung bleibt bestehen: Welche beobachteten Kovariaten treiben tatsächlich die Stärke der Verwirrung an?
Bestehende Erklärungsmethoden für kausales maschinelles Lernen zielen typischerweise auf unterschiedliche Objekte ab:

Propensitäts-Scores: Erklärung der Mechanismen der Behandlungszuteilung.
Ergebnismodelle: Erklärung des prognostischen Risikos.
CATE-Schätzer: Erklärung der Heterogenität des Behandlungseffekts (Effektmodifikatoren).

Die Autoren argumentieren, dass die Anwendung von Standard-SHAP (Shapley Additive exPlanations) auf CATE-Schätzer ungeeignet ist, um Confounder zu identifizieren. CATE-Erklärungen konzentrieren sich auf die Variation der Behandlungseffekte; wenn ein Confounder die potenziellen Ergebnisse sowohl für die behandelte als auch für die Kontrollgruppe ähnlich verschiebt, heben sich seine Beiträge im CATE auf ( $\tau(x) = \mu_1(x) - \mu_0(x)$ ), wodurch er für Standardmethoden der Feature-Importanz unsichtbar wird. Folglich fehlt es an Methoden, um die beobachtete Verwirrungsstärke spezifisch zu quantifizieren und einzelnen Kovariaten zuzuordnen.

Methodik: ConfoundingSHAP

Die Arbeit stellt ConfoundingSHAP vor, eine auf Shapley-Werten basierende Methode, die entwickelt wurde, um die Verwirrungsstärke einzelnen Kovariaten zuzuordnen. Die Methode funktioniert, indem sie ein kooperatives Spiel direkt über ein Bias-Funktional der Verwirrung definiert, anstatt über ein Vorhersagemodell.

1. Definition des Bias-Funktionals der Verwirrung

Der Kern der Methode ist die Quantifizierung des residualen Verwirrungs-Bias ( $b_S$ ), wenn die Adjustierungsmenge auf eine Teilmenge von Kovariaten $S$ beschränkt wird.

Beobachteter Kontrast ( $\delta_S$ ): Der Unterschied in den beobachteten Ergebnissen zwischen behandelten und kontrollierten Einheiten, bedingt auf die Teilmenge $X_S$ .
Kausaler Kontrast ( $\tau_S$ ): Die Projektion des vollständig adjustierten CATE auf die Teilmenge $X_S$ (d. h. $E[\tau(X) | X_S]$ ).
Residualer Bias: $b_S(x_S) = \delta_S(x_S) - \tau_S(x_S)$ .

Wenn $S$ alle Confounder enthält, ist $b_S = 0$ . Wenn $S$ unzureichend ist, ist $b_S \neq 0$ (es sei denn, die Biases heben sich perfekt auf).

2. Das kooperative Spiel

Die Autoren definieren ein kooperatives Spiel, bei dem:

Spieler: Die einzelnen Kovariaten.
Koalitionen: Teilmengen von Kovariaten, die in die Adjustierungsmenge aufgenommen werden.
Wertfunktion ( $\nu$ ): Definiert als der negative erwartete residuale Bias, $\nu(S) = -E[b_S(X_S)]$ $ν (S) = - E [b_{S} (X_{S})]$ .
- Das negative Vorzeichen stellt sicher, dass ein positiver Shapley-Wert den Beitrag einer Kovariate zur Reduzierung des Bias anzeigt (d. h. ihre Bedeutung als Confounder).
Shapley-Werte: Der Shapley-Wert $\phi_j$ für Kovariate $j$ zerlegt die gesamte Bias-Reduktion (von keiner Adjustierung bis zur vollständigen Adjustierung) in individuelle Beiträge.

3. Skalierbare Schätzung mittels TabPFN

Die Auswertung der Wertfunktion für jede Koalition erfordert das Anpassen von Modellen für jede Teilmenge $S$ , was rechnerisch prohibitiv ist ( $O(2^p)$ ). Um dies zu adressieren, schlagen die Autoren eine skalierbare Schätzstrategie unter Verwendung von TabPFN (ein tabellarisches Foundation-Modell) vor:

Vorab-Berechnung: Anpassung eines vollständigen Ergebnismodells an alle Kovariaten zur Generierung von Pseudo-Ergebnissen (Schätzungen des vollständig adjustierten CATE).
In-Context-Lernen: Für jede abgefragte Koalition $S$ verwendet TabPFN, um den beobachteten Kontrast und den projizierten kausalen Kontrast zu schätzen, ohne Modellparameter neu zu trainieren. TabPFN konditioniert auf die im Kontext bereitgestellten Trainingsdaten und behandelt die Teilmenge $S$ als Eingabemerkmale.
Shapley-Approximation: Verwendung effizienter Shapley-Schätzer (z. B. RegressionMSR), um die Werte basierend auf einem Budget an Koalitionsauswertungen zu approximieren und eine erschöpfende Enumeration zu vermeiden.

Hauptbeiträge

Neue Methode: Einführung von ConfoundingSHAP, der ersten auf Shapley-Werten basierenden Methode, die speziell entwickelt wurde, um die beobachtete Verwirrungsstärke auf Ebene der Kovariaten zu messen und zuzuordnen.
Theoretische Unterscheidung: Eine formale Demonstration, dass die Verwirrungsstärke von der Heterogenität des Behandlungseffekts unterscheidbar ist. Die Arbeit beweist, dass Standard-CATE-Erklärungen Confounder vollständig übersehen können, wenn ihre Auswirkungen auf die Ergebnisse über die Behandlungsarme hinweg symmetrisch sind.
Skalierbarer Algorithmus: Eine praktische Implementierung unter Verwendung von TabPFN, die das erschöpfende Neuanpassen vermeidet, das für die exakte Auswertung des Bias-Funktionals erforderlich wäre, und somit die Anwendung auf mittel- und hochdimensionale Datensätze ermöglicht.
Empirische Validierung: Umfassende Experimente, die die Fähigkeit der Methode zeigen, Ground-Truth-Confunder in synthetischen Daten wiederzufinden, das Verschwinden von Verwirrung in randomisierten Studien (RCTs) zu erkennen und klinisch plausible Confounder in realen Beobachtungsstudien zu identifizieren.

Experimentelle Ergebnisse

Die Autoren bewerten ConfoundingSHAP in drei Hauptszenarien:

Synthetische Daten mit bekannter Ground Truth:
- In niedrigdimensionalen (4 Kovariaten) und mitteldimensionalen (17 Kovariaten) Settings weist ConfoundingSHAP echten Confoundern korrekt hohe Shapley-Werte zu und Instrumenten, Effektmodifikatoren sowie reinen Ergebnisprädiktoren Werte nahe Null.
- Im Gegensatz dazu scheiterte Standard-SHAP, angewendet auf einen CATE-Schätzer, in spezifischen Szenarien daran, den Confounder zu identifizieren, wenn der Effekt des Confounders in der Berechnung des Behandlungseffekts aufgehoben wurde.
- Die Methode zeigte eine hohe Rangstabilität über mehrere zufällige Seeds hinweg.
Randomisierte kontrollierte Studie (ACTG-Datensatz):
- Bei Anwendung auf einen realen RCT-Datensatz (ACTG 175), bei dem die Behandlung zufällig zugewiesen wurde, identifizierte ConfoundingSHAP korrekt, dass die Verwirrungsstärke verschwand (Werte nahe Null). Selbst wenn die Behandlungszuteilung künstlich modifiziert wurde, um in einer semi-synthetischen Variante Verwirrung einzuführen, gelang es der Methode erfolgreich, die eingeführten Confounder wiederzufinden.
Reale Beobachtungsstudie (SUPPORT/RHC):
- Angewendet auf die SUPPORT-Studie zur Rechtsherzkatheterisierung identifizierte die Methode Variablen wie den Acute Physiology Score (APS1) als having eine hohe Verwirrungsstärke, was mit dem klinischen Wissen übereinstimmt, dass die Schwere der Erkrankung sowohl Behandlungsentscheidungen als auch die Sterblichkeit antreibt.
- Irrelevante Variablen (z. B. Patienten-ID) wurden korrekt mit einer Verwirrungsstärke nahe Null bewertet.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass ConfoundingSHAP eine kritische Lücke in der Erklärbarkeit des kausalen maschinellen Lernens schließt. Durch die Verschiebung des Fokus von „was die Heterogenität des Behandlungseffekts antreibt" zu „was den Verwirrungs-Bias antreibt", liefert die Methode handlungsrelevante Einblicke für:

Variablenauswahl: Hilft Forschern, minimale hinreichende Adjustierungsmengen in Beobachtungsstudien auszuwählen.
Studiendesign: Informiert das Design prospektiver Beobachtungsstudien (z. B. emulierter Zielstudien), indem hervorgehoben wird, welche Kovariaten für die Vergleichbarkeit entscheidend sind.
Transparenz: Bietet ein Diagnosewerkzeug, um zu verstehen, welche gemessenen Kovariaten eine Nichtvergleichbarkeit zwischen Behandlungsgruppen erzeugen.

Die Autoren betonen, dass ConfoundingSHAP keine kausale Unvoreingenommenheit zertifiziert (die von nicht gemessenen Confoundern abhängt), sondern vielmehr den Bias quantifiziert, der aus der eingeschränkten Adjustierung der beobachteten Kovariaten resultiert. Es dient als ergänzendes Werkzeug zu Domänenwissen, kausalen Diagrammen und Sensitivitätsanalysen.