🤖 machine learning

Causal Gaussian Processes for Robust Treatment Effect Evaluation with Unobserved Confounding

本文引入了因果高斯过程（Causal Gaussian Process, CGP）模型，该模型通过利用外生领域的通用离散化来近似干预分布，从而在无需详细先验知识或限制干预为离散值的情况下，能够从混杂观测中实现对连续域的鲁棒因果效应评估。

原作者： Junzhe Zhang, Jingyuan Chen, Elias Bareinboim

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Junzhe Zhang, Jingyuan Chen, Elias Bareinboim

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：那个“隐藏的木偶戏法师”

想象一下，你正试图弄清楚哪种肥料能让植物长得最高。你观察了一个农户已经种下种子的花园。你注意到使用“超级肥料”的植物都长得非常巨大。你可能会想：“啊哈！这肥料真管用！”

但问题在于：农户并不是随机选择肥料的。他们偷偷地只把“超级肥料”给了那些原本就在阳光最充足、土壤最肥沃的地方的植物。这里的“阳光和土壤”就是一个隐藏的木偶戏法师（在学术上称为“未观测到的混杂因素”），它同时影响了肥料的选择和植物的生长。

如果你仅仅观察数据，你会认为这种肥料是奇迹。但如果你真的进行“干预”，强迫一株生长在阴影下的植物使用超级肥料，它可能根本长不起来。由于那个隐藏的木效戏法师的存在，数据是“有偏见”的。

在现实世界中，这种情况随处可见：医学、经济学和政策制定领域。我们通常无法进行完美的实验（比如强迫所有人服药或不服药），因此我们必须依赖那些会被隐藏因素干扰的、混乱的观测数据。

旧方法 vs. 新方法

旧方法（标准高斯过程）：
把标准 AI 模型（如高斯过程）想象成一位非常擅长临摹的艺术家。如果给他们看那份有偏见的花园数据，他们会画出一幅完美的、反映现状的画。他们会说：“没错，超级肥料让植物变大了！”但他们没意识到，并不是肥料导致了生长，而是阳光的作用。他们太擅长模仿这种偏见了。

论文的解决方案（因果高斯过程）：
作者 Junzhe Zhang、Jingyuan Chen 和 Elias Bareinboim 构建了一种新型的 AI 模型，称为因果高斯过程 (Causal Gaussian Process, CGP)。

这个新模型不再只是单纯地临摹画面，而是试图理解画面背后的机制。它会问：“如果那个隐藏的木偶戏法师不再拉线了，植物会变成什么样？”

它是如何运作的：“像素化”宇宙

论文引入了一个聪明的技巧来破解这个谜团。

将世界划分为区块：
想象隐藏的木偶戏法师（未观测变量）是一个可以设定为任何数值的平滑、连续的旋钮。新模型将这个平滑的旋钮拆解成有限数量的“区块”或“像素”。这就像把一张高清照片变成低分辨率的像素艺术。
- 神奇之处在于： 论文在数学上证明了，只要你把这些像素切得足够小，你就能以完美的精度逼近任何可能的隐藏场景。你不需要知道旋钮的确切设定值，你只需要知道它落在哪个“区块”里。
“分层”策略：
一旦世界被拆分成这些区块，模型就会对数据进行分组。它会说：“好吧，所有处于‘区块 A’的植物对肥料的反应方式似乎是一致的；所有处于‘区块 B’的植物反应方式又是另一种方式。”
它将每个区块视为一个独立的、微型的小宇宙，在这个宇宙里，隐藏的木偶戏法师是保持一致的。
因果高斯过程：
该模型使用一种特殊类型的数学工具（高斯过程）来学习每个区块的规则。它学习到：“如果我们处于区块 A，并且强制施加肥料，植物会生长 X 英寸。”
然后，它将这些“区块规则”组合在一起，去预测如果在现实世界中进行干预，会发生什么，从而有效地消除了隐藏木偶戏法师带来的偏差。

“通用近似”的声明

论文声称了一个非常强大的结论：这种方法适用于任何因果系统，无论变量多么复杂或连续。它不需要你知道隐藏变量运作的具体公式，它只需要知道事件发生的先后顺序（例如，施肥发生在生长之前）。

这就像一位名侦探，不需要知道罪犯的名字或长相，只需要知道罪犯在特定区域留下了脚印。通过分析每个区域的脚印，即使从未亲眼见过罪犯，也能重构出罪犯的整个计划。

实验结果显示了什么

作者在几种场景下测试了该模型：

合成游戏： 他们创建了具有不同规则（多项式、逻辑回归、线性）的虚拟世界，其中隐藏变量干扰了数据。
真实数据： 他们使用了来自国际卒中试验 (International Stroke Trial) 的数据（一项关于阿司匹林对中风患者的研究）。他们模拟了一个场景：患者的“意识状态”（无法完美测量）同时影响了他们的血压和生存率。

结果是：

标准模型（艺术家） 观察了有偏见的数据，并自信地给出了错误的答案。它过度拟合了这种偏差。
因果模型（侦探） 忽略了偏差。它成功预测了在真实的随机对照实验中会发生的情况。

在论文的“计分卡”（负对数预测似然值）中，因果模型得分更高（数值越低越好），这证明了它能够在新的、无偏见的数据上进行泛化，而标准模型则失败了。

总结

这篇论文介绍了一种全新的 AI 工具，它能够观察混乱、有偏见的现实世界数据，并找出真正的因果关系，即便存在我们无法测量的隐藏因素。它通过在数学上将未知的世界“像素化”为易于处理的块，学习每个块的规则，然后重新组装它们以洞察真相。这是一种无需完美受控实验，就能将“相关性”（事物共同发生）转化为“因果性”（一件事物实际导致另一件事物）的方法。

技术摘要：用于处理未观测混杂因素的鲁棒因果高斯过程

问题陈述

本文解决的核心挑战是从受未观测混杂因素（unobserved confounding）污染的观测数据中评估因果处理效应。在许多实际场景中，目标因果效应（例如 $E_x[Y]$ ）从观测数据本身是不可识别的（non-identifiable），因为未测量的混杂因素在处理（ $X$ ）与结果（ $Y$ ）之间引入了伪相关性。

虽然标准高斯过程（GP）回归擅长建模连续域中的复杂函数映射，但它极易受到观测数据中存在的偏差的影响并放大这些偏差。因此，标准 GP 通常无法泛化到干预分布（即如果将 $X$ 设置为特定值 $x$ 会发生什么），从而导致错误的策略评估。现有的鲁棒策略通常依赖于强参数假设、详尽的环境先验知识，或者被限制在离散的处理和结果空间中，这限制了它们在复杂连续域中的适用性。

方法论

作者提出了一个新颖的框架，通过三个主要的方法论步骤，将非参数因果推理与高斯过程建模联系起来：

1. 外生域的通用离散化 (Universal Discretization of Exogenous Domains)
本文为任何具有连续处理和结果域的结构因果模型（SCM）中的外生变量（ $U$ ）引入了一种通用离散化程序。

作者定义了一个因果规范模型（Causal Canonical Model, CCM），其中决定协变量（ $Z$ ）、动作（ $X$ ）和奖励（ $Y$ ）的结构函数是简单函数（即在不相交子集上的指示函数的线性组合）。
定理 3.3 确立了这些因果规范模型的集合在 $L_1$ 范数下在所有 SCM 空间中是稠密的。这意味着对于任何任意的因果模型以及任何期望的精度 $\epsilon$ ，都存在一个 CCM，可以在 $\epsilon$ 范围内同时逼近观测分布 $P(X, Y, Z)$ 和干预处理效应 $E_x[Y|z]$ 。

2. 重参数化为因果生成模型 (Reparameterization into Causal Generative Models, CGM)
为了便于学习，利用连续函数将 CCM 中的离散简单函数重参数化为因果生成模型（CGM）。

在 CGM 中，总体被分层为有限数量的潜在状态（层级） $u \in \{1, \dots, d\}$ 。
在每个层级内，奖励函数 $h_u(x, z)$ 是一个将处理和协变量映射到结果的连续函数。
定理 4.2 证实了该 CGM 系列保留了因果逼近属性，能够有效表示任何 SCM 的观测分布和干预分布。

3. 因果高斯过程 (CGP) 与变分推理
作者使用高斯过程来实例化 CGM 系列，以处理奖励函数 $h_u$ 的连续性。

模型结构： 外生分布 $P(u)$ 通过截断狄利克雷过程（stick-breaking process）进行建模。对于每个潜在层级 $u$ ，协变量 $Z$ 和处理 $X$ 从条件多元正态分布中抽取。结果 $Y$ 由从具有特定核函数（如径向基函数 RBF）的高斯过程中抽取的函数 $h_u(x, z)$ 生成。
学习： 由于精确的后验推理难以实现，作者采用了带有均值场近似的变分推理（Variational Inference, VI）。模型学习关于潜在层级分配和高斯过程参数的后验分布。
推理： 目标处理效应 $E_x[Y|z]$ 通过对学习到的奖励函数 $h_u(x, z)$ 进行加权求和来计算，权重为潜在层级的后验概率 $P(u|z)$ 。这使得模型能够通过“搜索”潜在空间的划分，来寻找一种能够解释数据的鲁棒方案，从而解释未观测到的混杂因素。

核心贡献

通用离散化： 本文提供了一个形式化证明，证明了连续因果模型中的外生域可以通过离散化，在不损失泛化性的情况下，以任意精度逼近任何因果模型的观测分布和干预分布。
因果高斯过程 (CGP) 系列： 作者开发了一类新的生成模型，将规范离散化重参数化为一种与标准贝叶斯推理和深度学习框架兼容的形式。
鲁棒部分识别： 该框架实现了从受混杂影响的观测数据中导出因果效应的鲁棒后验分布，有效地在连续域中实现了无需对底层结构函数进行强参数假设的部分识别。

实验结果

作者在具有各种奖励函数（多项式、逻辑斯谛、相位、线性）的合成数据集以及来自**国际卒中试验（International Stroke Trial, IST）**的真实世界数据集上，将所提出的 CGP 与标准高斯过程回归进行了对比评估。

指标： 性能通过在干预数据（来自随机对照试验或模拟干预的数据）上的**负对数预测似然（NLPL）**进行衡量。
发现：
- 标准 GP 始终过拟合受混杂影响的观测数据，导致高 NLPL 分数，并且无法泛化到干预分布。
- **因果高斯过程（Causal GPs）**在所有合成和真实世界实验中均一致地取得了显著较低的 NLPL 分数。
- CGP 学习到的后验分布成功捕捉到了真实的处理效应，而标准 GP 由于未观测到的混杂因素而产生了显著偏差。

意义与主张

本文声称，这项工作将结构因果模型的规范划分（此前已在离散域中建立）推广到了连续域。通过引入通用离散化属性，作者证明了可以使用有限数量的潜在状态来逼近复杂的、未知的因果机制。

其重要性在于为以下场景提供了一种鲁棒的、数据驱动的方法进行因果推理：

存在未观测到的混杂因素。
变量是连续的。
缺乏关于生成过程的详细参数知识。

作者断言，他们的方法实现了因果效应的“鲁棒部分识别”，即使在观测数据存在偏差的情况下，也能使学习者推断出能够泛化到干预场景的处理效应。这项工作将 CGP 定位为一种能够自动实现潜在空间离散化的工具，使得在复杂的现实连续环境中进行鲁棒因果推理成为可能。