📊 statistics

Untangling Sample and Population Level Estimands in Bayesian Causal Inference

Dieser Artikel klärt die oft missverstandenen Unterschiede zwischen stichproben- und populationsbasierten Schätzwerten in der bayesschen kausalen Inferenz, indem er deren Implikationen für Identifikation, Modellierung und Berechnung anhand von vier detaillierten Beispielen mit Stan-Code erläutert und vor häufigen Implementierungsfehlern warnt.

Ursprüngliche Autoren: Arman Oganisian

Veröffentlicht 2026-03-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Arman Oganisian

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Missverständnis: Der "Einzelne" vs. die "Masse"

Stellen Sie sich vor, Sie sind ein Arzt, der ein neues Medikament testet. Sie haben eine Gruppe von 100 Patienten vor sich. Die Frage, die Sie sich stellen, ist: Wie gut wirkt das Medikament?

Das Paper von Arman Oganisian warnt uns davor, dass wir hier oft zwei völlig unterschiedliche Fragen verwechseln, obwohl sie auf den ersten Blick gleich aussehen. Es geht um den Unterschied zwischen:

Der "Einzelne" (Stichprobe): Wie wirkt das Medikament genau auf diese 100 Personen, die hier im Raum sitzen?
Die "Masse" (Population): Wie wirkt das Medikament auf alle Menschen dieser Art, die es auf der Welt gibt (auch auf die, die wir gar nicht gesehen haben)?

Oganisian sagt: Wenn Sie diese beiden Dinge verwechseln, machen Sie einen riesigen Fehler in Ihrer Statistik, auch wenn Sie die richtigen Formeln benutzen.

Die Analogie: Der Koch und das Rezept

Um das zu verstehen, stellen wir uns einen Koch vor, der ein neues Rezept (das Medikament) ausprobiert.

1. Die "Stichprobe" (Die 100 Gäste im Restaurant)

Der Koch serviert das Essen an 100 Gäste. Er fragt: "Wie hat dieser Gast das Essen geschmeckt? Und wie hätte es geschmeckt, wenn er stattdessen das alte Rezept bekommen hätte?"

Das Problem: Wir wissen nur, was der Gast gegessen hat. Wir wissen nicht, wie es ihm geschmeckt hätte, wenn er das andere Rezept bekommen hätte. Das ist wie ein "Paralleluniversum" (im Paper "Counterfactual" genannt).
Die Gefahr: Um zu wissen, wie es dem Gast im Paralleluniversum geschmeckt hätte, muss der Koch raten. Er muss annehmen, wie die beiden Welten zusammenhängen. Das ist wie zu behaupten: "Wenn der Gast heute satt ist, war er gestern auch satt." Das ist eine sehr starke, oft unbewiesene Annahme.
Das Ergebnis: Wenn der Koch diese Annahme trifft, kann er genau sagen, wie das Essen für diese 100 Gäste war. Aber die Unsicherheit ist riesig, weil er raten muss.

2. Die "Population" (Alle Menschen auf der Welt)

Jetzt fragt der Koch: "Wie schmeckt dieses Rezept im Durchschnitt für alle Menschen auf der Welt?"

Der Trick: Hier muss der Koch nicht raten, wie es jedem einzelnen Gast im Paralleluniversum geschmeckt hätte. Er muss nur wissen, wie das Rezept im Durchschnitt funktioniert.
Der Unterschied: Um das zu berechnen, muss er die Verteilung der Gäste kennen (z. B. wie viele sind groß, wie viele sind klein, wie viele sind hungrig). Er muss das Rezept auf eine "ideale Welt" anwenden, nicht nur auf die 100 Tische im Restaurant.
Das Ergebnis: Die Unsicherheit ist hier oft kleiner, aber man muss vorsichtig sein, das "Rezept" (das statistische Modell) richtig zu wählen. Wenn man annimmt, alle Menschen essen wie die 100 Gäste im Restaurant, aber in Wirklichkeit essen die Menschen auf der Welt ganz anders, ist das Ergebnis falsch.

Die drei Hauptfallen (Warum das Paper wichtig ist)

Oganisian zeigt in seinem Papier, wo die Leute in der Praxis hängen bleiben:

Fall 1: Der "Falsche Zähler" (Verwechslung von Unsicherheit)

Stellen Sie sich vor, der Koch berechnet die Unsicherheit für den einzelnen Gast (Fall 1). Diese Unsicherheit ist riesig, weil er raten muss.
Dann nimmt er diese riesige Unsicherheit und sagt: "Das ist die Unsicherheit für die ganze Welt!"
Das ist falsch! Die Unsicherheit für die ganze Welt ist oft viel kleiner, weil sich die Fehler der einzelnen Gäste ausgleichen. Wenn man die große Unsicherheit des Einzelnen auf die Masse überträgt, schreckt man die Leute unnötig ab oder macht falsche Vorhersagen.

Fall 2: Der "Starre Koch" (Das Problem mit den Daten)

Viele Köche (Statistiker) sagen: "Ich nehme einfach die 100 Gäste, die ich habe, und sage, das ist die ganze Welt."
Sie nehmen die Daten der 100 Gäste und tun so, als wären sie die perfekte Welt.
Das Problem: Was, wenn in der echten Welt viele ältere Menschen sind, die in den 100 Gästen gar nicht vertreten sind? Der Koch hat dann keine Ahnung, wie das Essen für diese älteren Menschen schmeckt.
Oganisian schlägt vor: Man muss die Unsicherheit darüber, wie die Welt aussieht, mit in die Rechnung einbeziehen (wie ein "Bayesianisches Bootstrapping"). Man darf nicht einfach die 100 Gäste als die ganze Welt abhaken.

Fall 3: Der "Paralleluniversum-Mythos"

Für manche Fragen (wie "Wie hat dieser eine Patient reagiert?") muss man zwingend in die Paralleluniversen reisen (Annahmen über Zusammenhänge treffen, die man nicht testen kann).
Für andere Fragen (wie "Wie wirkt es im Durchschnitt?") braucht man diese Reise gar nicht. Man kann es nur über die Parameter des Rezepts berechnen.
Der Fehler: Viele Forscher machen die komplizierte Paralleluniversen-Reise, obwohl sie gar nicht nötig ist, oder sie machen sie nicht, obwohl sie nötig wäre.

Die Lösung: "Erste Prinzipien" denken

Die Botschaft des Papers ist wie ein guter Koch-Rat:

Fragen Sie sich zuerst: Will ich wissen, wie es diesen Gästen geht, oder wie es allen geht?
Wählen Sie das richtige Werkzeug:
- Für die Gäste müssen Sie die Paralleluniversen (die fehlenden Daten) explizit modellieren und raten.
- Für die Welt müssen Sie das Rezept (die Verteilung) modellieren und die Gäste nur als Beispiel nutzen, um das Rezept zu lernen.
Seien Sie ehrlich: Wenn Sie raten müssen (Paralleluniversen), sagen Sie es. Wenn Sie eine Annahme über die Welt machen, sagen Sie es.

Zusammenfassend:
Das Papier ist eine Warnung vor dem "Automatik-Modus" in der Statistik. Man darf nicht einfach eine Formel nehmen und hoffen, dass sie passt. Man muss verstehen, ob man über einen einzelnen Menschen oder über die gesamte Menschheit spricht. Denn was für den Einzelnen gilt (große Unsicherheit, viele Annahmen), gilt nicht automatisch für die Masse (kleinere Unsicherheit, andere Annahmen).

Wenn man diese Unterscheidung ignoriert, ist es wie ein Koch, der behauptet, er wisse genau, wie das Essen für die ganze Welt schmeckt, weil er nur einen einzigen Gast probiert hat – und dabei völlig ignoriert, dass er gar nicht weiß, wie die anderen Menschen auf der Welt essen.

1. Problemstellung

Das Paper adressiert ein weit verbreitetes, aber oft übersehenes Problem in der bayesschen kausalen Inferenz: die Verwechslung und falsche Implementierung von stichprobenbasierten (sample-level) und populationsbasierten (population-level) Schätzgrößen (Estimands).

Obwohl beide Kategorien auf demselben theoretischen Fundament (Rubin Causal Model, Bayes-Theorem) beruhen, unterscheiden sie sich fundamental in:

Identifikation: Welche Unsicherheitsquellen sind relevant?
Modellierung: Welche Parameter und Verteilungen müssen explizit modelliert werden?
Berechnung: Wie werden Posterior-Beziehungen (MCMC) generiert?
Interpretation: Was bedeuten die gezogenen Posterior-Werte?

Der Autor stellt fest, dass viele Implementierungsfehler entstehen, weil Forscher implizit Annahmen über „Welten" treffen (Cross-World-Assumptions), die für populationsbasierte Schätzgrößen nicht notwendig sind, oder umgekehrt, Unsicherheiten bei populationsbasierten Schätzgrößen unterschätzen, indem sie stichprobenbasierte Posterior-Verteilungen verwenden. Ein häufiger Fehler ist die Verwechslung des Individual Treatment Effect (ITE) mit dem Conditional Average Treatment Effect (CATE) oder des Sample Average Treatment Effect (SATE) mit dem Population Average Treatment Effect (PATE).

2. Methodik und Theoretischer Rahmen

Der Autor nutzt den Rahmen des Rubin Causal Model (RCM) und die bayessche Inferenz nach Rubin (1978).

Datenstruktur und Notation:

Beobachtete Daten: $D_O = \{y_i(a_i), a_i, l_i\}_{i=1}^n$ .
Fehlende Gegenfakten (Counterfactuals): $Y^M = \{Y_i(1-a_i)\}_{i=1}^n$ .
Vollständige Daten: $D_C = D_O \cup Y^M$ .
Parameter: $\omega = (\phi_A, \phi_Y, \phi_L)$ , wobei $\phi_Y$ die Parameter der Potential-Outcomes und $\rho$ den nicht identifizierbaren Korrelationskoeffizienten zwischen $Y(1)$ und $Y(0)$ (Cross-World-Abhängigkeit) umfasst.

Der gemeinsame Posterior:
Die Inferenz basiert auf dem gemeinsamen Posterior $f(Y^M, \omega | D_O)$ . Der entscheidende Punkt ist, dass verschiedene Schätzgrößen verschiedene Marginalverteilungen dieses gemeinsamen Posteriors erfordern:

Stichprobenbasierte Estimands (ITE, SATE):
- Hängen direkt von den fehlenden Gegenfakten $Y^M$ ab.
- Erfordern die Integration über alle Parameter, aber nicht über $Y^M$ .
- Anforderung: Explizite Imputation der Gegenfakten aus dem Posterior.
- Annahme: Oft benötigen sie Annahmen über die Abhängigkeit zwischen $Y(1)$ und $Y(0)$ (Cross-World-Annahmen), da die gemeinsame Verteilung der Potential-Outcomes für ein Individuum betrachtet wird.
Populationsbasierte Estimands (CATE, PATE):
- Hängen nur von den Parametern $\omega$ ab (bzw. den marginalen Verteilungen).
- Erfordern die Integration über $Y^M$ (die Gegenfakten werden „herausintegriert").
- Anforderung: Keine Imputation der Gegenfakten für die Schätzung nötig; nur der Posterior der Parameter ist erforderlich.
- Annahme: Benötigen keine Cross-World-Annahmen für die Identifikation (außer bei spezifischen komplexen Estimands, die die gemeinsame Verteilung nutzen).

Berechnungsmethoden:

MCMC (Stan): Der Autor demonstriert, dass für stichprobenbasierte Estimands $Y^M$ im parameters-Block von Stan deklariert werden müssen, um aus dem gemeinsamen Posterior gezogen zu werden. Für populationsbasierte Estimands genügt oft die Simulation von Parametern.
Monte Carlo Integration: Für PATEs mit komplexen Kovariatenverteilungen (z. B. nicht-parametrisch) wird eine zusätzliche Monte-Carlo-Schicht benötigt, um über die Kovariatenverteilung zu mitteln, im Gegensatz zur einfachen Mittelung über die Stichprobe (MATE).

3. Schlüsselbeiträge

Das Paper liefert vier detaillierte Beispiele und eine kritische Analyse bestehender Literatur:

Klarstellung der Unsicherheit: Es wird gezeigt, dass die Posterior-Unsicherheit für ITEs (Individual Treatment Effects) deutlich größer ist als für CATEs (Conditional Average Treatment Effects), da erstere die Unsicherheit der fehlenden Gegenfakten beinhalten, letztere nur die Parameterunsicherheit. Die Verwechslung führt zu falschen Konfidenzintervallen.
Rolle der Kovariatenverteilung (BB vs. MATE):
- Der Autor kritisiert die Verwendung der empirischen Verteilung (Fixed Weights $1/n$ ) zur Schätzung des PATE. Dies liefert eigentlich den Mixed Average Treatment Effect (MATE).
- Für korrekte PATE-Inferenz muss die Unsicherheit der Kovariatenverteilung propagiert werden. Der Autor empfiehlt den Bayesian Bootstrap (BB), der die Gewichte als Dirichlet-verteilte Zufallsvariablen modelliert, anstatt sie fix zu halten.
Cross-World-Annahmen bei populationsbasierten Estimands:
- Ein häufiges Missverständnis ist, dass Cross-World-Annahmen nur für stichprobenbasierte Estimands nötig sind. Das Paper zeigt (Beispiel 2), dass auch populationsbasierte Estimands (z. B. Wahrscheinlichkeit, dass ein Patient unter beiden Behandlungen erfolgreich ist) Cross-World-Annahmen erfordern, wenn sie auf der gemeinsamen Verteilung basieren.
Komplexität bei multiplen Behandlungen:
- Bei $K > 2$ Behandlungsarmen wächst die Anzahl der nicht identifizierbaren Cross-World-Parameter (Korrelationen) polynomial ( $K(K-1)/2$ ). Dies macht stichprobenbasierte Inferenz oft undurchführbar, während populationsbasierte Inferenz (durch Integration über die Parameter) robuster sein kann, solange die Modellierung der Abhängigkeit strukturiert ist.
Kritik an Keil et al. (2018):
- Der Autor analysiert die Implementierung der „Bayesian G-Formula" von Keil et al. und zeigt auf, dass deren Methode durch die Verwendung der empirischen Verteilung und die Begrenzung der Monte-Carlo-Simulationen auf die Stichprobengröße $n$ eigentlich den MATE schätzt, nicht den PATE. Zudem wird die Unterscheidung zwischen stichproben- und populationsbasierten Inferenzen verwischt.

4. Ergebnisse

Die durchgeführten Simulationen und Stan-Implementierungen belegen:

Unterschiedliche Posterior-Verteilungen: Die Posterior-Verteilungen für SATE und PATE haben zwar oft denselben Erwartungswert (Zentrum), aber völlig unterschiedliche Varianzen (Spread). Die Verwendung von SATE-Draws für PATE-Inferenz führt zu zu schmalen Konfidenzintervallen (Unterschätzung der Unsicherheit).
Einfluss des Modells: Die Wahl des Modells für die Kovariatenverteilung (Parametrisch vs. Bayesian Bootstrap vs. Empirisch) hat einen signifikanten Einfluss auf die Unsicherheitsschätzung des PATE. Der Bayesian Bootstrap liefert eine korrekte Unsicherheitspropagierung, während die empirische Verteilung (MATE) die Unsicherheit unterschätzt.
Sensitivität: Bei stichprobenbasierten Estimands ist die Inferenz stark sensitiv gegenüber der Wahl der Cross-World-Annahmen (z. B. Korrelation $\rho$ ), da diese nicht durch Daten identifizierbar sind. Bei populationsbasierten Estimands kann diese Sensitivität oft durch Integration über die Parameter gemildert werden, sofern die Modellierung der Abhängigkeit nicht zu komplex wird.

5. Bedeutung und Fazit

Die zentrale Botschaft des Papers ist ein Aufruf zum „First-Principles Thinking" (Erstprinzipien-Denken) in der bayesschen kausalen Inferenz:

Definition: Definieren Sie zuerst klar, welcher kausale Schätzwert (Stichprobe vs. Population) wissenschaftlich relevant ist.
Identifikation: Identifizieren Sie die unbekannten Größen, von denen dieser Schätzwert abhängt (sind es Parameter oder fehlende Gegenfakten?).
Inferenz: Folgern Sie strikt nach der Logik des Bayes-Theorems, um die korrekte Marginalverteilung des Posteriors zu extrahieren.

Praktische Implikationen:

Forscher müssen bewusst entscheiden, ob sie über die spezifische Stichprobe (z. B. eine bestimmte Stadt oder ein klinisches Trial) oder über eine hypothetische Super-Population inferieren wollen.
Die Implementierung in Software (wie Stan) muss der gewählten Zielgröße entsprechen (Deklaration von $Y^M$ im parameters-Block für ITE/SATE vs. reine Parameterinferenz für PATE/CATE).
Die Verwendung von nicht-parametrischen Methoden (wie DPM oder BART) erfordert besondere Sorgfalt bei der Modellierung der Kovariatenverteilung, um den PATE korrekt zu schätzen.

Das Paper dient als technisches „Sequel" zu früheren Arbeiten (Ding & Li, 2018; Li et al., 2023) und füllt die Lücke zwischen theoretischer Unterscheidung und praktischer Implementierung, insbesondere im Kontext flexibler, nicht-parametrischer Modelle. Es warnt davor, dass subtile konzeptionelle Unterschiede zu gravierenden Fehlern in der Unsicherheitsquantifizierung führen können.