论文技术总结：解构贝叶斯因果推断中的样本与总体水平估计量

论文标题：Untangling Sample and Population Level Estimands in Bayesian Causal Inference
作者：Arman Oganisian (布朗大学生物统计学系)
核心主题：澄清贝叶斯因果推断中“样本水平”（Sample-level）与“总体水平”（Population-level）估计量在识别、建模、计算和解释上的关键区别，并纠正常见的实现错误。

---

1. 研究背景与问题 (Problem)

在贝叶斯因果推断日益普及的背景下，许多研究者在实现过程中混淆了样本水平估计量（如个体处理效应 ITE、有限样本平均处理效应 SATE）与总体水平估计量（如条件平均处理效应 CATE、总体平均处理效应 PATE）。

这种混淆导致了严重的实施错误，主要包括：

• 跨世界假设（Cross-world assumptions）的误用：样本水平估计量通常需要对同一单元的潜在结果对（$Y(1), Y(0)$）的联合分布做出假设（即跨世界依赖），而许多总体水平估计量仅需边缘分布假设。
• 后验分布的误读：将样本水平效应的后验抽取（draws）错误地解释为总体水平效应的后验抽取，导致置信区间（Credible Intervals）计算错误（通常总体水平的不确定性被低估）。
• 模型设定的偏差：例如在计算 PATE 时，错误地固定协变量分布（使用经验分布），实际上推断的是混合平均处理效应（MATE）而非 PATE。
• 现有文献的不足：虽然 Ding & Li (2018) 和 Li et al. (2023) 等文献指出了概念差异，但缺乏针对灵活非参数模型（如贝叶斯非参数方法）和具体计算实现（如 Stan 代码）的详细指导。

2. 方法论与理论框架 (Methodology)

论文基于 Rubin 因果模型（RCM）和贝叶斯推断框架，严格区分了联合后验分布的不同边缘分布。

2.1 核心定义

• 样本水平估计量：
  • ITE (个体处理效应): $\theta_i = Y_i(1) - Y_i(0)$。不确定性源于对特定单元 $i$ 缺失的反事实 $Y_i^M$ 的推断。
  • SATE (有限样本平均处理效应): $\theta = \frac{1}{n}\sum \theta_i$。不确定性源于所有缺失反事实的联合推断。
  • 特点：通常需要对联合分布 $f(Y(1), Y(0) | L)$ 进行建模，涉及不可识别的跨世界依赖参数（如相关系数 $\rho$）。
• 总体水平估计量：
  • CATE (条件平均处理效应): $\psi(l) = E[Y(1)|L=l] - E[Y(0)|L=l]$。
  • PATE (总体平均处理效应): $\Psi = E[Y(1)] - E[Y(0)]$。
  • 特点：仅依赖于参数 $\phi$（描述边缘分布），缺失的反事实被积分掉（marginalized out）。通常不需要跨世界假设（除非估计量本身涉及联合事件，如 $P(Y(1)>\tau, Y(0)>\tau)$）。

2.2 贝叶斯推断流程

论文强调必须遵循贝叶斯定理的严格逻辑：

1. 明确目标：确定感兴趣的边际后验分布是 $f(Y^M | D_O)$（样本水平）还是 $f(\phi | D_O)$（总体水平）。
2. 联合后验：$f(Y^M, \omega | D_O) \propto f(D_C; \omega)f(\omega)$。
3. 积分策略：
   • 对于样本水平：需要从联合后验中抽取缺失的反事实 $Y^M$（Imputation approach）。
   • 对于总体水平：只需参数的后验分布，通过蒙特卡洛（MC）模拟对协变量分布进行积分，不需要对每个样本的反事实进行显式插补。

2.3 计算实现

• 使用 Stan 进行 MCMC 采样。
• 强调在 Stan 中，如果目标是样本水平估计量，必须将缺失的反事实 $Y^M$ 声明在 parameters 块中，而不仅仅是 generated quantities 块。
• 对比了**贝叶斯自助法（Bayesian Bootstrap, BB）与经验分布（Empirical Distribution/MATE）**在计算 PATE 时的差异。BB 能正确传播协变量分布的不确定性，而固定经验分布会低估不确定性。

3. 主要贡献与案例研究 (Key Contributions & Results)

论文通过四个详细的 Stan 实现案例展示了上述理论：

案例 1：简单参数模型下的对比

• 内容：在双正态分布模型下，对比 ITE/SATE 与 CATE/PATE 的后验分布。
• 发现：虽然点估计中心相似，但样本水平估计量（ITE/SATE）的后验不确定性显著大于总体水平估计量（CATE/PATE）。错误地使用 SATE 的后验来推断 PATE 会导致置信区间过窄。

案例 2：灵活协变量模型与 MATE 陷阱

• 内容：探讨在计算 PATE 时，使用贝叶斯自助法（BB）与固定经验分布（MATE）的区别。
• 发现：许多文献（如 Keil et al., 2018）在计算 PATE 时固定了协变量分布，实际上推断的是 MATE。MATE 忽略了协变量分布估计的不确定性。论文推荐使用 BB 来正确传播 PATE 的不确定性。

案例 3：灵活的非参数模型（截断 Dirichlet 过程混合模型，DPM）

• 内容：使用 DPM 处理复杂的非线性关系。
• 发现：
  • CATE：可以直接从参数后验计算，无需反事实插补。
  • PATE：需要对 CATE 在协变量分布上进行蒙特卡洛积分（模拟新的 $L$ 值），而不是简单地对样本反事实求平均。
  • 错误示范：直接对样本反事实求平均得到的是 SATE，而非 PATE。

案例 4：需要跨世界假设的总体水平估计量

• 内容：估计联合概率 $P(Y(1)>\tau, Y(0)>\tau)$。
• 发现：即使是总体水平估计量，如果涉及联合事件，也必须引入跨世界依赖参数（如 $\rho$）。这打破了“总体水平估计量不需要跨世界假设”的误解。

案例 5：多处理选项（K > 2）

• 内容：处理 $K$ 种治疗选项时的联合分布。
• 发现：样本水平推断需要估计 $K(K-1)/2$ 个不可识别的相关参数，随着 $K$ 增加，参数空间呈多项式增长，导致推断变得极其困难且对假设高度敏感。相比之下，总体水平推断（如平均效应）通常更稳健。

对 Keil et al. (2018) 贝叶斯 g-公式的批判

• 论文详细批评了 Keil 等人的实现，指出他们混淆了后验预测分布（针对任意新个体）与总体平均效应。
• 他们的代码在 generated quantities 中生成反事实，实际上是在做样本水平的推断（隐含了“无跨世界污染”假设），却声称是在推断 PATE。
• 作者指出，正确的 PATE 推断应基于参数后验对协变量分布的积分，而非对样本反事实的简单平均。

4. 结果总结 (Results)

1. 不确定性差异：样本水平估计量的后验方差通常远大于总体水平估计量。混淆两者会导致错误的统计推断（如错误的显著性结论）。
2. 跨世界假设的必要性：
   • 样本水平估计量（ITE, SATE）总是需要跨世界假设（联合分布建模）。
   • 大多数总体水平估计量（CATE, PATE）不需要跨世界假设，除非估计量本身涉及联合事件（如同时满足两个条件的概率）。
3. 计算陷阱：
   • 在 Stan 中，样本水平推断必须将缺失数据作为参数（Parameters）处理。
   • 总体水平推断通常只需参数后验，通过 MC 模拟协变量分布即可，无需显式插补缺失的反事实。
   • 使用经验分布（Empirical Distribution）代替协变量分布模型会错误地固定不确定性，导致推断的是 MATE 而非 PATE。

5. 意义与启示 (Significance)

• 纠正实践错误：论文为贝叶斯因果推断领域提供了“第一性原理”（First-principles）的指南，强调在建模前必须明确目标估计量是样本级还是总体级。
• 指导非参数方法：对于使用 BART、DPM 等灵活模型的研究者，明确了如何正确提取不同估计量的后验分布，避免将样本反事实的插补结果误用为总体效应。
• 软件实现规范：提供了具体的 Stan 代码逻辑，指导研究者如何正确声明参数块和生成量块，以避免常见的实现错误。
• 跨世界假设的透明度：强调了跨世界假设（Cross-world assumptions）在因果推断中的核心地位及其不可验证性，建议在无法合理假设时，应谨慎选择估计量或明确敏感性分析。

核心结论：在进行贝叶斯因果推断时，研究者必须始终从联合后验分布出发，明确目标估计量依赖于哪些未知量（是缺失的反事实 $Y^M$ 还是模型参数 $\phi$），并据此选择正确的积分路径和计算策略，以严格遵循贝叶斯定理，避免概念混淆导致的推断偏差。