📊 statistics

Distributional Instrumental Variable Method

本文提出了分布式工具变量（Distributional Instrumental Variable, DIV）方法，这是一种针对非线性工具变量场景的生成式建模方法，旨在估计完整的干预分布，并证明了其在模拟及现实世界的经济与生物应用中，相较于现有方法具有更优越的可识别性与估计精度。

原作者： Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

发布于 2026-06-18

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Anastasiia Holovchak, Sorawit Saengkyongam, Nicolai Meinshausen, Xinwei Shen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜题的侦探：某个特定结果的真正原因究竟是什么？

在现实世界中，事情总是很混乱。如果你想知道一种新药（处理/干预）是否能治愈某种疾病（结果），你不能仅仅观察那些服用了药物的人和没服用的人。为什么？因为那些选择服药的人可能本身就更健康，或者可能有更好的饮食习惯。这些隐藏因素就像是隐形的木偶师，同时操纵着处理方式和结果，使得看起来像是药物起到了作用，而实际上可能并非如此。

在统计学中，这被称为混杂（confounding）。为了解决这个问题，科学家们使用了一种特殊的工具，叫做工具变量（Instrumental Variable, IV）。把工具想象成一个随机的硬币投掷，它决定了谁会接受治疗，但它对结果本身没有直接影响。它就像一张强制某人必须服药的彩票，但这张彩票本身并不会让那个人变得更健康或更虚弱。

旧方法 vs. 新方法

旧方法 (2SLS)：
几十年来，标准的侦探工具（称为两阶段最小二乘法，简称 2SLS）在寻找平均效应方面表现出色。它回答的问题是：“平均而言，这种药是否有用？”
然而，它有两个重大缺陷：

它只能看到平均值： 它会忽略细节。也许这种药对 90% 的人有效，但对 10% 的人有严重副作用。平均值看起来可能“还可以”，却掩盖了危险。
它很容易卡壳： 如果“硬币投掷”（工具变量）不够强，或者需要追踪的处理方式太多，旧方法就会崩溃并表示：“我无法解决这个问题。”

新方法 (DIV)：
这篇论文介绍了一种名为分布工具变量（Distributional Instrumental Variable, DIV）的新方法。DIV 不仅仅是在寻找平均值，它试图重构发生事情的整个故事。

可以这样理解：

旧方法： 你问一名证人：“嫌疑人看起来比平均身高高吗？”他们说：“是的。”你知道了平均身高，但你不知道他们的脸型。
DIV 方法： 你要求证人描述整个人。“他长什么样？他有多高？体型如何？他有伤疤吗？”DIV 构建的是结果的完整 3D 模型，而不仅仅是一个扁平的平均值。

DIV 是如何工作的（“生成式”魔力）

DIV 使用了被称为**生成式建模（Generative Modeling）**的技术。想象你是一位雕塑大师。

设定： 你有一块粘土（数据），其中混合了一些隐藏的、带有泥泞成分的东西（混杂因素）。
线索： 你有一个特定的工具（工具变量），它在泥泞成分混合进来之前，以一种独特的方式塑造了这块粘土。
过程： DIV 使用神经网络（一种人工智能类型）来学习那个工具究竟是如何塑造粘土的。它学习数据的“配方”。
结果： 一旦它学会了配方，它就可以模拟出如果你强行将某种特定的形状（处理方式）施加到粘土上时，粘土会变成什么样子，从而完全忽略掉那些泥泞的成分。

因为 DIV 学习了整个配方，所以它可以告诉你：

平均效应（旧方法的方法）。
在“最坏情况”下的效应（分位数）。
在“最好情况”下的效应。
以及所有可能结果的整个分布。

为什么这意义重大？

该论文声称取得了三大胜利：

解决“识别不足”之谜：
有时，你会遇到微弱的线索（弱工具变量）或者太多的嫌疑人（过多的处理方式）。旧方法 (2SLS) 在这种情况下会放弃。然而，DIV 利用了数据分布中的每一个微小细节。这就像是通过观察纸板的纹理来解开拼图，而不仅仅是看盒子上的图案。论文表明，DIV 可以解决旧方法完全失效的情况。
看到全貌：
在现实生活中，处理方式不仅仅是改变平均值，它们还会改变结果的形状。DIV 捕捉到了这一点。它可以告诉你一项政策是帮助了穷人还是伤害了富人，或者一种药物是否对大多数人有效，但会导致罕见的严重副作用。
现实世界的证明：
作者在两个截然不同的真实数据集上测试了 DIV：

经济学： 他们研究了“制度质量”（如产权保护）如何影响一个国家的财富。结果与著名的原始研究相吻合，证明了 DIV 在复杂的经济数据上是有效的。
生物学（单细胞数据）： 他们研究了改变一个基因的表达如何影响另一个基因。在这个混乱的生物世界中，DIV 在预测在新的、未见的遗传干预下会发生什么方面，比其他方法更出色。它更加稳定且具有泛化能力，这意味着当环境发生变化时，它不会感到困惑。

核心结论

分布工具变量 (DIV) 方法就像是从黑白照片升级到了高清 360 度视频。它不仅仅是告诉你因果关系中的“平均”结果，它还重构了可能性的整个景观。即使在线索微弱或情况复杂的情况下，它也能奏效，并为研究人员提供了一个更丰富、更准确的理解世界运作方式的视角。

作者甚至已经提供了可在 R 和 Python 中使用的“雕塑工具”（软件）。

技术摘要：分布工具变量 (DIV) 方法

问题陈述

本文解决了在缺乏随机实验的情况下，处理存在未观测混杂因素（隐藏混杂因子 $H$ ）时进行因果效应推断的挑战。虽然工具变量 (IV) 方法是处理此类内生性的标准工具，但现有方法通常侧重于估计因果效应的特定泛函，例如平均因果效应（例如通过两阶段最小二乘法，2SLS）或分位数治疗效应。

作者认为，将因果效应总结为单一数值（如均值）会丢失宝贵的信息。在许多应用中，理解在对治疗变量 $X$ 进行 $do $-干预后（记作$ P_{do(X:=x)}(Y)$）的整个干预分布比仅了解均值更具信息量。此外，传统的 IV 方法在“欠识别”（under-identified）设置下往往会失效，即工具变量的数量少于治疗变量的数量，或者当工具变量在条件均值方面关系较弱、但在高阶分布矩方面关系较强时。

方法论：分布工具变量 (DIV)

所提出的分布工具变量 (DIV) 方法通过在结构 causal 模型 (SCM) 框架内利用生成式建模来估计完整的干预分布。

1. 结构因果模型与生成式公式化

作者假设数据由以下 SCM 生成：
$X := g(Z, \eta_X)$
$Y := f(X, \eta_Y)$
这里， $Z$ 是工具变量， $X$ 是治疗变量， $Y$ 是结果变量， $\eta_X$ 和 $\eta_Y$ 是由于隐藏混杂而相关的噪声项。与经典的线性 IV 方法不同，DIV 允许通用的非线性函数 $g$ 和 $f$ ，且不假设加性噪声。

为了捕捉 $\eta_X$ 与 $\eta_Y$ 之间的相关性，DIV 将噪声项建模为独立标准高斯变量与一个共享潜在噪声函数的函数：
$\eta_X = h_X(\varepsilon_X, \varepsilon_H)$
$\eta_Y = h_Y(\varepsilon_Y, \varepsilon_H)$
其中 $\varepsilon_X, \varepsilon_Y, \varepsilon_H$ 是独立的标准高斯变量。这产生了一个关于给定 $Z$ 的 $(X, Y)$ 联合生成模型。

2. 通过能量分数进行估计

DIV 方法的核心是使用 Engression (Shen and Meinshausen, 2024) 来拟合联合条件分布 $P(X, Y | Z)$ 。模型参数（用于 $g, f, h_X, h_Y$ 的神经网络）通过最小化期望负能量分数进行优化，这是一种针对多元分布的严格适定评分规则（strictly proper scoring rule）。

总体目标函数为：
$(g^*, f^*, h_X^*, h_Y^*) \in \arg \min_{f,g,h_X,h_Y} \mathbb{E} \left[ \|(X, Y) - (\hat{X}, \hat{Y})\| - \frac{1}{2}\|(\hat{X}, \hat{Y}) - (\hat{X}', \hat{Y}')\| \right]$
其中 $(\hat{X}, \hat{Y})$ 和 $(\hat{X}', \hat{Y}')$ 是由模型生成的独立样本。

3. 干预分布估计

一旦拟合好模型，即可通过采样估计干预分布 $P_{do(X:=x)}(Y)$ 。$do $-干预$ do(X:=x) $切断了$ X $与其噪声$ \eta_X$ 之间的联系。该过程包括：

从标准高斯分布中抽取 $\varepsilon_Y$ 和 $\varepsilon_H$ 。
计算噪声 $\eta_Y^* = h_Y^*(\varepsilon_Y, \varepsilon_H)$ 。
生成结果 $Y^* = f^*(x, \eta_Y^*)$ 。

通过这些样本，可以通过蒙特卡洛方法估计分布的任何泛函（均值、分位数、方差）。

主要理论贡献

本文在三种不同的模型配置下建立了干的问题分布的可识别性结果：

通用模型类： 在潜在扰动满足严格单调性且具有共同支撑集（要求工具变量具有较大的支撑集）的假设下，干预分布可以从观测数据中唯一识别。
前加性噪声模型（连续工具变量）： 通过将结果模型限制为前加性噪声形式，作者证明了即使工具变量具有连续支撑集且不一定满足通用类所需的“大支撑集”条件，也是可识别的。
前加性噪声模型（离散/二元工具变量）： 至关重要的是，本文证明了对于前加性噪声模型，即使在二元工具变量和多元治疗变量（一种 $dim(Z) < dim(X)$ 的欠识别设置）的情况下，干预分布也是可识别的。这与 2SLS 不同，2SLS 在此类情况下会因为第一阶段的共线性而失败。作者指出，如果工具变量以不仅仅是确定性偏移的方式影响治疗分布（即条件分布在均值偏移之外存在差异），则完整的分布信息足以实现识别。

本文还证明了 DIV 估计器在简单的参数线性子类中的一致性。

实证结果

作者将 DIV 与包括 2SLS、控制函数 (CF)、DeepIV、DeepGMM、HSIC-X、IVQR 和 DIVE 在内的基准方法进行了评估。

模拟数据：
- 均值与分位数估计： 在线性、非线性及前加性噪声设置下，DIV 在估计干预均值和分位数方面表现出竞争力和优越性。
- 欠识别案例： 在单个二元工具变量对应二维治疗变量（$dim(Z)=1, dim(X)=2$）的情景下，2SLS 及其他基准方法无法识别因果参数。DIV 通过利用完整的分布信息成功恢复了参数。
- 弱工具变量： 当工具变量的均值相关性较弱或均值-方差相关性较弱时，只要高阶分布矩携带结构信息，DIV 仍能保持稳健。
现实世界应用：
- 经济数据 (Acemoglu et al., 2001)： 应用于制度质量与 GDP 之间的关系。DIV 恢复了一个与原始 2SLS 发现一致的正向、近似线性的因果效应，同时还提供了完整的分布估计（分位数）。
- 单细胞数据： 应用于不可见的 CRISPR 扰动下的基因表达预测。与其它方法相比，DIV 展示了更优的泛化能力（针对未见的干预环境）和稳定性（在不同训练子集之间），表明它能更有效地捕捉底层的因果机制。

意义与主张

本文声称 DIV 通过以下方式实现了因果推断的重要进展：

扩展估计量： 超越了均值或分位数效应，转向估计整个干预分布，从而为理解因果机制和偶然不确定性（aleatoric uncertainty）提供了更丰富的视角。
克服识别限制： 解决了传统 IV 方法（如 2SLS）失效的“欠识别”问题，特别是通过在具有离散工具变量和多元治疗变量的设置中利用分布信息来实现识别。
灵活性： 在不依赖严格加性噪声假设的情况下，能够容纳通用的非线性关系。
实用价值： 提供了一个计算高效的软件实现（R 和 Python），允许从估计的干预分布中进行采样，从而便于计算任何分布泛函。

作者总结道，虽然该方法依赖于估计联合分布 $P(X, Y | Z)$ ，但这种方法最大限度地利用了来自工具变量的信息，为在复杂的混杂设置中实现识别提供了最佳途径。提到的未来研究方向包括认识论不确定性（epistemic uncertainty）量化以及将该方法应用于分布泛化任务。