📊 statistics

Causal Preference Elicitation

本文引入了因果偏好启发（causal preference elicitation），这是一个贝叶斯框架，通过主动查询专家关于局部边关系的信息，以有效地使后验分布集中在有向无环图上，并在有限的查询预算下提高因果发现的准确性。

原作者： Edwin V. Bonilla, He Zhao, Daniel M. Steinberg

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Edwin V. Bonilla, He Zhao, Daniel M. Steinberg

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图绘制一张复杂的城市地图，但你手里只有一张模糊、低分辨率的卫星照片。你可以看到一些道路，但许多交叉路口并不清晰，你也不知道单行道的行驶方向。这正是科学家在试图仅通过观察数据来弄清因果关系（即什么是原因，什么是结果）时所面临的困境。他们拥有一张“模糊的照片”（观测数据），但由于许多不同的地图都能解释相同的数据，他们无法看到全貌。

通常，为了解决这个问题，科学家需要去建造新路或封锁现有道路（实验/干预），以观察交通流量的变化。但有时，这样做成本太高、无法实现，或者不符合伦理。

由此，CaPE（因果偏好启发，Causal Preference Elicitation）诞生了。

你可以将 CaPE 想象成一个聪明的导航员，它知道如何向当地专家询问正确的问题，从而在无需新建道路的情况下，拨开地图上的迷雾。

问题所在：“模糊的地图”

在科学领域，我们经常拥有数据（如患者记录或蛋白质水平），但我们不知道确切的因果链条。

问题在于： 许多不同的地图（图谱）在观察数据时看起来是一样的。这就像看到一辆车停在红灯前；你不知道它是由于红灯停下的，还是因为行人，亦或是因为爆胎。
传统方法： 科学家会猜测地图，或者在开始时向专家索要一整套规则。但专家很忙，他们的记忆并不完美，而且一开始就索要所有信息是非常低效的。

解决方案：“聪明的提问者”

CaPE 是一个与人类专家进行循环工作的系统。它不是问：“请告诉我整张地图的内容”，而是提出针对性的具体问题，例如：“蛋白质 A 是直接影响蛋白质 B，还是反过来？”

以下是它的工作步骤：

1. 起点（模糊的照片）

系统从一个由计算机生成的“先验”地图开始。这张地图并不完美；它是一系列可能版本的集合，每个版本都有不同的正确概率。有些道路清晰可见，有些则很模糊，有些方向则完全是猜测。

2. 专家（当地向导）

系统可以接触到人类专家（如生物学家或医生）。但系统知道专家并非机器人；他们可能会感到不确定、疲劳，或者偶尔出错。

神奇之处： CaPE 并不只是将专家的回答视为绝对真理。它将专家的回答视为一种“带噪声的信号”。如果专家说“A 导致 B”，系统会想：“好吧，这很有可能，但也有极小的概率他们弄错了。”

3. 策略（“最混乱的交叉路口”）

这是 CaPE 的大脑。它不会随机提问。它使用一种叫做**预期信息增益（Expected Information Gain）**的数学技巧。

类比： 想象你在玩一个通过“20 个问题”来猜隐藏物品的游戏。一个糟糕的玩家会问：“它是一个动物吗？”（这可能适用于一半的物品）。一个聪明的玩家会问：“它是可以用手握住的东西吗？”从而一次性排除掉大量的可能性。
CaPE 查看其模糊的地图，并思考：“哪一个问题，如果得到了回答，能清除整个地图上最多的混乱？”
它会忽略那些大家已经达成共识的问题（例如，“太阳是否从东方升起？”），而专注于那些计算机最感到困惑的“纠缠交叉口”。

4. 更新（精炼地图）

一旦专家回答，CaPE 会立即更新其地图。

如果专家说“A 导致 B”，CaPE 会丢弃所有 A 不导致 B 的地图版本。
然后，它会对剩余的地图版本进行重新加权。符合新答案的版本会获得权重提升；不符合的则会受到惩罚。
为了防止系统陷入死循环，它偶尔会稍微“摇晃”一下地图（这是一个称为“重整/复原”的过程），以确保它不会仅仅因为之前的运气不好而错过某个好的可能性。

为什么这意义重大

论文在三个方面测试了该方法：

虚构数据： 在已知答案的模拟城市中，CaPE 找到正确地图的速度远快于随机猜测或仅仅询问“最不确定”的问题。
蛋白质信号传导（Sachs 数据集）： 一个关于细胞如何相互通信的真实生物学数据集。CaPE 仅使用观测数据（无需新实验）和少量的专家提问，就显著提高了地图的准确性。
基因扰动（CausalBench）： 一个涉及人类基因的海量数据集。同样，CaPE 表现优于其他方法，尤其是在提问预算有限的情况下。

“人机协同”的优势

论文强调，这并不是要用 AI 取代人类，而是伙伴关系。

AI 处理计算概率和决定哪个问题最有价值的繁重工作。
人类提供数据本身无法看到的定性知识。

该系统设计得非常稳健。即使专家的表现不一致、存在偏差或仅仅是“噪声很大”，CaPE 仍然比其他替代方案有效。如果专家并不完美，系统并不会崩溃；它只会减少对噪声问题的信任，并增加对清晰问题的信任。

总结

CaPE 是一种聪明且节省预算的绘制因果地图的方法。 它不像试图一次看清一切，也不像强行进行昂贵的实验，它更像是一个侦探，知道下一步该向哪个线索索取情报，从而利用人类专家的直觉来填补数据本身无法填补的空白。

技术摘要：因果偏好启发式算法 (Causal Preference Elicitation, CaPE)

问题陈述

从观测数据中进行因果结构学习本质上是困难的，这归因于马尔可夫等价类、多模态似然曲面，以及纯数据驱动方法无法解决大部分图结构的局限性。虽然领域专家拥有关于合理机制、禁止边或预期影响方向的定性知识，但现有的整合这些知识的方法通常是静态的。它们将专家输入编码为硬约束或固定先验，忽略了专家的不确定性、系统性偏差以及专家时间的稀缺性。相反，优化实验干预的积极因果发现方法往往无法对主观专家判断进行建模，或将其视为确定性的。

本文通过引入 因果偏好启发式算法 (CaPE) 来填补这一空白，这是一个用于“专家在环”因果发现的概率框架。其目标是通过主动询问专家关于局部边关系（存在性与方向），比随机或静态方法更高效地使有向无环图 (DAG) 的后验分布集中，特别是在查询预算有限的情况下。

方法论

1. 框架概述

CaPE 作为一个序列贝叶斯主动学习过程运行。它假设可以访问一个初始的观测后验 $q_0(W | X)$ ，该后验源自任何黑盒因果发现方法（例如 MCMC、自助聚合或变分推理）。学习器迭代地选择变量对 $(i, j)$ 向专家进行查询，观察一个噪声分类响应 $Y_{ij} \in \{0, 1, 2\}$ （代表 $j \to i$ 、 $i \to j$ 或无边），并更新加权 DAG 的后验分布。

2. 专家似然模型

其核心创新是一个灵活的分层逻辑回归专家模型 $p_\theta(Y_{ij} | W)$ ，它将候选加权 DAG $W$ 映射到三路分类响应。

局部方向得分： 对于变量对 $(i, j)$ ，模型基于边权重的大小和可选的结构特征（如 v-structure 支持、环风险）计算方向得分 $s_{i \to j}(W)$ 。
分层概率：
- 边存在性： 边的存在概率通过两个方向之间最大绝对证据的逻辑函数进行建模。
- 方向： 在给定存在性的条件下，特定方向的概率通过方向得分之差的逻辑函数进行建模。
参数： 模型包含超参数 ( $\beta_{edge}, \beta_{dir}$ )，用于控制专家的可靠性和果断性，允许建模异质且不确定的专家行为。

3. 基于粒子的后验推断

鉴于 DAG 空间的超指数级增长，精确的后验计算是难以实现的。CaPE 采用了 序列蒙特卡洛 (SMC) 方法：

表示： 后验由一组加权粒子（候选 DAG）来近似。
更新： 收到专家响应后，通过使用专家似然进行重要性重采样来更新粒子权重。
重采样： 为了防止权重退化，当有效样本量 (ESS) 低于阈值时会对粒子进行重采样。
复原 (Rejuvenation)： 为了在重采样后保持多样性，应用了一个轻量级的 Metropolis-Hastings 核，提出小的图编辑（边翻转、添加、删除），同时严格遵守无环性约束。

4. 查询选择策略

框架通过最大化关于潜在 DAG 结构的 预期信息增益 (EIG) 来选择查询。

采集函数： EIG 被公式化为 DAG $W$ 与专家响应 $Y_{ij}$ 之间的互信息。这等同于贝叶斯主动学习通过分歧 (BALD) 目标。
计算： 在粒子近似下，通过比较边际预测分布（认识不确定性 + 偶然不确定性）与后验平均条件熵（偶然不确定性）来高效计算 EIG。
筛选： 为了降低计算成本，筛选步骤首先选择具有最高边存在性边际不确定性的前 $k$ 个变量对，然后再计算完整的 EIG 进行最终选择。

核心贡献

通用框架： 一个模块化的“专家在环”因果发现框架，结合了任意观测后验与序列专家反馈，扩展了先前的专家增强发现和主动结构学习工作。
概率专家模型： 一个分层逻辑回归模型，根据局部方向得分分配三路分类标签，明确地对专家的噪声、不确定性和偏差进行建模，而非将其视为确定性约束。
基于粒子的更新： 一种用于 DAG 后验的贝叶斯更新方案，通过重要性重采样、ESS 触发的重采样以及 Metropolis-Hastings 复原来整合专家响应，确保无环性和多样性。
可处理的采集： 推导出了在低维分类分布上运行的 BALD 式 EIG 目标，使得在 DAG 空间上的高效信息学习在计算上变得可行。
实证验证： 在合成数据、Sachs 蛋白质信号网络和 CausalBench 人类基因扰动基准测试上的演示，证明了其在加速后验集中和提高结构恢复能力方面优于随机、基于不确定性和静态基准方法。

实验结果

论文在三种设置下评估了 CaPE：

合成 DAG： 在降低预测熵、结构汉明距离 (SHD) 和增加预期真实类别概率 (ETCP) 方面，CaPE 显著优于随机查询 (RND)、不确定性采样 (UNC) 和静态 EIG 基准 (STE)。
鲁棒性： 对误设专家模型的实验（包括异质可靠性、方向偏差、弃权和高噪声）表明，CaPE 仍然保持竞争力，表明该方法对于现实中非对抗性的偏差具有鲁棒性。
Sachs 蛋白质信号： 仅使用观测数据（853 个样本）和参考网络作为先验，CaPE 在 40 次查询后相对于初始后验减少了约 14 条边，并将方向 F1 分数提高了 0.38 以上。
CausalBench (K562)： 在一个包含 50 个基因的扰动数据集上，CaPE 在有向 AUPRC 和 Top-K 精确度方面优于基准方法，展示了随着查询预算增加而呈现的单调收益，而静态基线则会迅速饱和。
DAG-GFlowNet 先验： 使用强观测先验（通过 GFlowNet 训练）初始化 CaPE 可进一步提升性能，凸显了该框架的模块化特性。

意义与主张

本文声称 CaPE 提供了一种 原则性的方法，将定性的专家直觉转化为精心预算的针对性问题序列。它将专家启发式定位为实验干预设计的一个补充范式，特别适用于干预成本高昂、受伦理约束或已固定的领域。

作者强调，其方法并不声称能在缺乏假设的情况下解决因果发现问题，而是旨在假设的因果模型（如因果充分性、马尔可夫性和忠实性条件）下，将后验质量集中在真实的图上。该研究表明，经过精心预算的专家交互可以显著加速合成数据和现实基准中的后验集中，即使在现实形式的模型误设情况下也是如此。该工作被呈现为缩小概率因果推理与专家人类判断之间闭环的一步，从而提高生物学和医学等领域科学假设生成的效率和透明度。