📊 statistics

Cross-validating causal discovery via Leave-One-Variable-Out

本文介绍了一种“留一变量法”（LOVO）预测框架，该框架通过在排除了特定变量对的数据集上训练模型，并评估其准确预测被省略关系的能力，从而在没有真值的情况下证伪因果发现算法，进而将预测误差作为因果准确性的代理指标。

原作者： Daniela Schkoda, Philipp Faller, Patrick Blöbaum, Dominik Janzing

发布于 2026-08-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Daniela Schkoda, Philipp Faller, Patrick Blöbaum, Dominik Janzing

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在数据科学的寂静角落，研究人员正试图解决一个长期困扰科学家的谜题：我们如何知道一台计算机是否真正理解了事件模式背后的隐藏原因？这一被称为“因果发现”（causal discovery）的领域，旨在超越仅仅注意到两件事物共同发生，转而确定其中一件事是否真的导致了另一件事的发生。几十年来，测试这些计算机程序的标准方法是将它们的答案与已知的“地面真值”（ground truth）进行对比——这是一种研究人员用作参考的预先存在的现实图谱。然而，在混乱的现实世界中，这种完美的图谱极少存在。由于缺乏这种图谱，科学家们一直难以判断哪些方法是可靠的，哪些仅仅是在凭空猜测。这种不确定性使得从医学到经济学的许多实际应用都陷入了怀疑的状态，无法信任那些用来解释它们的复杂模型。

为了打破这一僵局，来自德国的一个研究小组提出了一种无需预设图谱即可测试这些算法的新方法。他们的方法依赖于一种巧妙的“遗漏”技巧。想象一位科学家正在研究一组变量，例如温度、湿度和风速，它们在一个复杂的系统中相互作用。研究人员并没有将所有数据一次性输入计算机，而是故意在学习过程中隐藏了一对变量。他们让算法学习剩余的变量，然后要求它预测这两个隐藏变量之间的关系。如果算法真正理解了底层的因果结构，即使它在训练期间从未见过这两个变量同时出现，它也应该能够推断出这对隐藏变量是如何连接的。这种方法被作者称为“留一变量交叉验证”（Leave-One-Variable-Out cross-validation），它将预测行为转化为了对真理的测试。

这项工作的核心涉及一种特定类型的逻辑演绎。当算法在缺失一个变量的情况下从数据中学习时，它会构建一个关于剩余部分如何相互契合的模型。随后，研究人员会检查该模型是否包含足够的信息来重建缺失的环节。在许多情况下，已知关系的结构会迫使得出一个特定的结论。例如，如果算法判定变量 A 影响第三个变量 B，而 B 又影响变量 C，那么即使它从未直接观察过 A 和 C，它也能逻辑地推导出 A 和 C 之间的关系。研究人员开发了两种主要方式来进行这种测试。第一种是通用方法，适用于任何因果发现工具，通过寻找图谱中的特定模式来指示两个变量是直接连接的，还是仅仅受共同原因的影响。第二种方法则是为假设线性关系的特定数学模型量身定制的，这使得即使在隐藏变量之间存在直接联系时，预测依然有效。

为了验证这个想法是否可行，团队使用计算机生成的模拟数据进行了广泛的模拟实验。他们创建了数千个不同的因效系统，并测试了该方法识别错误的能力。结果令人鼓舞：当因果发现算法在初始学习阶段出错时，在“缺失环节”预测中的误差也会显著增加。换句话说，预测误差充当了一个可靠的警报器。如果算法对隐藏关系的猜测偏差很大，这便是一个强烈的信号，表明整个模型存在缺陷。相反，当预测准确时，则表明底层的因果图谱很可能是正确的。这种相关性在包括基于线性方程的模型和使用深度学习技术的模型在内的不同类型的算法中都被观察到了。

研究人员还将他们的新方法与一种更简单的、“因果不可知论”（causally agnostic）的方法进行了对比，后者不对因果关系做任何假设。这种基准方法假设，除非数据迫使它们如此，否则隐藏变量之间是相互独立的。研究发现，只要初始模型足够准确，因果方法在预测未曾共同观测到的变量关系方面，始终优于这一基准方法。这表明，推断因果结构的额外步骤不仅仅是一项理论练习，而且在预测未观测变量间的关系时提供了切实的优势。团队承认，该方法并非万能灵药；它无法解决所有问题，并且在某些特定的图结构下，预测仍然是不可能的。然而，对于广泛的应用场景，它提供了一种严谨的方式，可以在不需要预先存在的答案钥匙的情况下，去证伪（或否定）一个因果模型。

通过将焦点从匹配已知真值转向测试模型的内部一致性，这项工作为该领域开辟了一条新路径。它表明，预测未见关系的能力是衡量因果发现质量的一个强大指标。虽然这项研究依赖于模拟而非现实世界的干预，但其结果提供了一个有力的论据，即当我们能够成功填补自身知识的空白时，我们可以更加信任我们的模型。这种方法不仅仅是在询问一个模型是否符合数据；它是在询问模型是否理解了数据所讲述的故事，即使故事的一部分已经缺失。

技术摘要：通过留一变量法进行因果发现的交叉验证

问题陈述

本文探讨了在缺乏地面真值（ground truth）的情况下，对因果发现算法进行基准测试和证伪所面临的关键挑战。尽管在模拟数据上已存在广泛的评估，但由于缺乏可靠的基准，研究人员往往难以确定哪种方法最适用于现实世界的应用。现有的“自兼容性”（self-compatibility）检查（例如 Faller 等人，2-024）量化了算法输出在子集与全集之间的不一致性，但缺乏一种连续且可优化的指标来决定性地拒绝一个算法的结果。此外，依靠干预数据进行验证通常因成本和复杂性而难以实现。

作者提出了一个新框架，通过测试因果发现算法预测其在学习阶段被显式排除的变量间统计关系的能力，来评估这些算法。这种被称为**留一变量法（Leave-One-Variable-Out, LOVO）**的交叉验证方法，旨在确定基于变量子集学习到的因果模型，是否能成功推断出被留出的变量对 $(X, Y)$ 之间的依赖关系，而仅使用边缘数据集 $(X, Z)$ 和 $(Y, Z)$ 。

方法论

核心概念：LOVO 预测

给定一组变量 $W = \{X, Y, Z_1, \dots, Z_k\}$ ，该方法包括以下步骤：

数据划分： 创建两个“留一变量”数据集： $D_{XZ}$ （包含 $X$ 和 $Z$ ）以及 $D_{YZ}$ （包含 $Y$ 和 $Z$ ），排除变量对 $(X, Y)$ 。
因果学习： 分别对 $D_{XZ}$ 和 $D_{YZ}$ 应用因果发现算法，以获得边缘因果图 $G_X$ 和 $G_Y$ 。
推理： 利用 $G_X$ 和 $G_Y$ 推断联合因果结构 $G$ ，并随后估计条件期望 $E[Y | X = x]$ 或相关系数 $\rho_{XY}$ ，而无需同时观测 $X$ 和 $Y$ 。
评估： 将 LOVO 预测结果与真实的联合分布 $P(X, Y)$ （为了证伪目的而可用）进行比较，以计算连续的预测误差。该误差可作为衡量因果发现算法可靠性的指标。

理论基础

本文确立了仅通过概率定律通常无法实现 LOVO 预测（引理 1），因为边缘分布 $P(X, Z)$ 和 $P(Y, Z)$ 并不能唯一确定 $P(X, Y)$ 。然而，因果模型提供了必要的归纳偏置来解决这种歧义。

作者提出了两种主要的 LOVO 预测器变体：

图形法（父节点调整法）：
- 适用于输出有向无环图（DAGs）或有向无环混合图（ADMGs）的一般算法。
- 边排除： 引理 2 和 3 提供了根据边缘图 $G_X$ 和 $G_Y$ 判断 $X$ 与 $Y$ 是否不相连（即两者之间不存在边）的标准。
- 预测： 如果 $X$ 与 $Y$ 不相连，则它们的父节点并集（ $Z_S$ ）作为 d-分离（或 m-分离）集。通过父节点调整构建预测器：
  $P(y|x) = \sum_{z_S} P(y|z_S)P(z_S|x)$
- 该过程通过三步程序实现：从 $P(Y|Z)$ 学习一个预测器，生成人工对 $(x, \hat{y})$ ，最后学习最终的预测器 $P(Y|X)$ 。
特定模型法（LiNGAM）：
- 专为假设线性非高斯无环模型（LiNGAM）的算法定制。
- 如果可以识别边类型（即使是相连的）且满足特定的子节点集条件，则可以从边缘分布中唯一确定结构矩阵 $\Lambda$ 。
- 这使得即使在存在直接因果链路的情况下，只要模型假设成立，也能重建 $P(X, Y, Z)$ 并估计 $E[Y|X]$ 。

基准对比

为了确保因果信息确实有用，论文引入了一个最大熵（MaxEnt）基准预测器。该预测器假设 $X \perp\!\!\perp Y | Z$ （在满足边缘分布约束的情况下最大化熵），并使用公式 $P_{MaxEnt}(y|x) = \sum_z P(y|z)P(z|x)$ 。LOVO 误差是相对于该基准进行评估的；如果因果算法的 LOVO 误差显著低于基准误差，则认为该算法是成功的。

核心贡献

LOVO 交叉验证框架： 一种全新的方法，通过将预测留出的变量对视为对模型泛化能力（“变量外泛化”）的测试，从而在没有地面真值的情况下对因果发现算法进行证伪。
可实现性的理论条件： 通过形式化证明（引理 2、3 以及定理 4、5），明确了基于边缘图何时可以进行 LOVO 预测，区分了可以排除边的情形以及可以恢复结构方程参数的情形。
连续评估指标： 不同于以往的离散不一致性度量，LOVO 提供了一个连续的预测误差，允许优化因果发现算法并建立严格的拒绝基准。
深度学习扩展： 作者展示了如何调整深度学习架构（特别是基于 Transformer 的编码器），使其能够从边缘数据集学习因果表示以预测相关性，从而在没有显式参数假设的情况下超越 MaxEnt 基准。

实验结果

作者进行了广泛的模拟实验以验证该方法：

可行性： 在随机图（Erdős–Rényi DAGs 和 ADMGs）中，图形引理在绝大多数情况下都能成功识别不相连的变量对，使得 LOVO 预测具有可实现性。
性能： 在提供真实的边缘图时，基于 Parent Adjustment 和 LiNGAM 的 LOVO 预测器均显著优于 MaxEnt 基准。
与准确性的相关性： 当应用于因果发现算法（DirectLiNGM 和 Repetitive Causal Discovery）时，LOVO 预测误差被发现与以下指标呈正相关：
- 错误识别边的频率（特别是将相连的变量对误判为不相连）。
- 所学图的结构汉明距离（SHD）。
- Spearman 相关系数显著，表明较高的 LOVO 误差可靠地预示着较低的因果发现准确度。
深度学习： 一个在边缘数据集上训练的自定义深度学习架构成功预测了相关性，并优于基准模型，这表明它在隐式地学习因果表示。

重要性与主张

本文声称，LOVO 交叉验证提供了一种严谨的、无需地面真值的机制，用于评估因果发现算法。通过证明 LOVO 预测误差与所学因果结构的准确性相关，作者认为 LOVO 可以作为在缺乏地面真值的实际应用中选择因果发现方法的可靠基准。

这项工作强调，因果模型能够实现变量对之间依赖关系的“插值”，这种能力与标准的统计学习截然不同。作者将 LOVO 定位为并非要取代所有的验证方法，而是作为因果假设“自我检查”的必要工具，特别是在无法获取干预数据的情况下。论文保持了适度的审慎，指出 LOVO 预测并不总是可能的（例如在小规模图或特定的结构配置中），并且该方法依赖于忠实性假设（faithfulness assumption）以及底层因果发现算法输出格式（DAGs/ADMGs）的正确性。