🤖 machine learning

Dynamic Expert-Guided Model Averaging for Causal Discovery

本文提出了一种动态专家引导的模型平均框架，该框架通过选择性地查询不完美的专家来解决不同因果发现算法之间的不确定性，从而通过区分边的存在与方向，提升在干净数据和噪声数据上的性能。

原作者： Adrick Tench, Thomas Demeester

发布于 2026-05-08

📖 1 分钟阅读☕ 轻松阅读

原作者： Adrick Tench, Thomas Demeester

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图破解一道复杂菜肴（比如一锅完美的炖菜）的秘方。你有一个由十位不同厨师（算法）组成的团队。每位厨师都会品尝食材，并绘制一张他们心目中风味如何关联的地图。

厨师 A 认为盐导致肉质变嫩。
厨师 B 认为肉导致了咸味。
厨师 C 不确定它们之间是否有任何关联。
厨师 D 认为它们有关联，但方向搞反了。

在现实世界中，这些厨师经常意见不一，特别是当食材（数据）杂乱或充满噪声时。如果你只挑选一位厨师，你可能会得到一份糟糕的食谱。如果你仅仅采取“多数投票”，由于所有厨师都在审视同一份令人困惑的数据，你得到的可能仍然是一张混乱的地图。

本文介绍了一种新方法，利用动态专家来协助这些厨师达成共识，从而将他们整合成一个超级团队。

核心问题：厨师太多，清晰度不足

作者指出，在“因果发现”（即弄清楚什么导致什么）领域，存在数十种不同的计算机方法。没有一种方法是完美的。有时数据很干净，但通常数据充满噪声，就像厨房里背景里有一台吵闹的收音机在播放一样。由于没有任何单一方法能在所有情况下都表现最佳，作者建议我们应该全部将它们结合起来使用（即“集成”）。

然而，简单地平均它们的答案是不够的。如果所有厨师对同一件事都感到困惑，那么群体的答案仍然是错误的。

解决方案：“动态专家”

作者提出了一种系统，在这个系统中，计算机团队不仅仅是投票；它只在真正陷入困境时才会向专家（可以是人类专家，也可以是像大型语言模型这样的 AI）寻求帮助。

以下是该系统的运作方式，分为两个简单的步骤：

1. “它存在吗？”问题（边的存在性）

首先，团队决定：这两种食材之间是否存在关联？

规则： 如果 80% 的厨师说“是的，它们有关联”，系统就会添加该关联。
灰色地带： 如果厨师们意见分歧（例如，40% 说“是”，60% 说“否”），系统不会猜测。相反，它会向专家提问：“这里真的存在联系吗？”
限制： 专家的预算有限。你不能问他们每一个问题，因为他们很昂贵（或者很慢）。因此，系统只在计算机厨师们真正争执不下时才会提问。

2. “哪边？”问题（边的方向性）

一旦系统确认关联存在，它就需要知道方向：是盐导致肉，还是肉导致盐？

规则： 如果 90% 的厨师就方向达成一致，系统就选择该方向。
灰色地带： 如果厨师们在方向上存在分歧（一些人说 A→B，另一些人说 B→A），系统会再次向专家提问：“因果流向是哪一边？”

为什么这很聪明（类比）

将计算机算法想象成一群参加考试的学生。

标准投票： 你只取最常见的答案。如果学生们都在猜测一道难题，多数人的答案可能仍然是错的。
本文的方法： 老师（系统）查看试卷。如果 90% 的学生对某个答案达成一致，老师就直接标记为正确，无需检查。但如果全班在某个问题上 50/50 平分秋色，老师就会停下来，向辅导员（专家）寻求答案。
优势： 老师通过只在学生真正困惑时才询问辅导员，节省了时间和金钱。这确保了最终答案比仅让学生投票更好，也比向辅导员询问所有细节（这会太慢或太昂贵）更好。

他们的发现

作者在从简单医疗场景到复杂体育结果的 various“厨房”（数据集）上测试了这种方法。他们将这种方法与以下方法进行了比较：

仅使用单一厨师。
仅在厨师之间投票，不寻求协助。
对每一个问题都向专家寻求帮助（这是低效的）。

结果： 他们的“动态专家”方法始终产生了更好的食谱（更准确的因果图），即使食材很杂乱（噪声数据），其表现也优于其他方法。

重要局限性（本文未声称的内容）

这不是魔法： “专家”并不完美。在他们的实验中，他们使用了一个“模拟”专家，其正确率约为 70-90%。即使专家不完美，该系统也比没有专家时表现更好。
这不是水晶球： 论文承认，它无法保证在每种理论场景下都能得到完美结果。它依赖于专家比随机猜测略好这一前提。
这是关于方法，而非药物： 虽然他们使用了医疗数据集（如疾病诊断），但论文完全专注于结合算法的数学方法。它并未声称此特定工具明天就能在医院用于诊断病人，也未讨论未来的临床应用。

总结

本文提出了一种巧妙的方法，将许多不同的计算机程序结合起来以弄清因果关系。该系统不像让计算机猜测或向专家询问每一个细节那样运作，而是像一个聪明的管理者：当计算机达成一致时，它让它们投票；只有当计算机真正困惑时，它才会叫来专家。这节省了资源并带来了更准确的结果。

技术摘要：用于因果发现的动态专家引导模型平均

问题陈述

因果发现的从业者面临着“令人眼花缭乱的”算法阵列，但对于哪种方法在特定用例中表现最佳，尚无明确共识。这种多样性，加之数据和噪声有限的现实情况，往往迫使人们依赖专家知识，因为单个算法经常违反理论假设（例如因果充分性），或在真实世界数据上无法始终优于其他算法。虽然集成（模型平均）是提高鲁棒性的自然策略，但现有的因果发现集成方法存在局限。一些方法依赖于关于真实图的不切实际的元数据，而另一些方法则侧重于静态先验，而非动态解决分歧。此外，专家知识的整合通常仅限于静态约束或特定算法，而非作为多样化集成的中介。

方法论

作者提出了一种动态专家引导模型平均策略，该策略将多样化的因果发现算法集合与不完美的专家（人类或大型语言模型）相结合。其核心创新在于解耦边的存在性判定与边的方向判定，并选择性地利用专家来解决分歧。

关键方法论组件：

存在性与方向性的分离：
- 边的存在性： 该方法主要依赖数据驱动算法来检测边的存在。它承认，尽管算法可能在方向上存在分歧，但它们通常在连接的存在性上达成一致。
- 边的方向性： 一旦边被确立，该方法便确定其方向。它认识到算法通常在方向判定上存在困难（产生带有无向边的 CPDAG），而专家（特别是大型语言模型）在确定因果排序方面可能比检测关系存在性更擅长。
动态查询策略：
- 该方法运行一组 $M$ 个因果发现算法，生成一组图 $\mathcal{G}$ 。
- 边的添加： 基于频率阈值 $\theta_1$ 考虑是否添加边。如果包含直接边的模型百分比超过 $\theta_1$ 但低于多数投票（0.5），系统会查询专家以验证该边的存在性。
- 方向判定： 对于已接受的边，如果存在多种有效方向，该方法会检查在包含该边的模型中，特定方向是否超过阈值 $\theta_2$ 。如果不是，或者方向存在歧义，则查询专家以确定方向。
- 查询预算 ( $B$ )： 为了反映对专家访问（时间/成本）的现实约束，该方法在固定的查询预算下运行。一旦预算耗尽，决策将默认采用多数投票。
- 分歧驱动的查询： 系统优先仅在集成表现出显著分歧的边上查询专家，从而最大化有限专家输入的价值。
专家模型：
- 该方法将专家视为“不完美”的，即可能犯错。在实验中，模拟专家以概率 $p_{exist}^e$ 和 $p_{orient}^e$ 提供正确答案。
- 该方法假设专家基于合理的因果排序（直接或间接链条）而非严格的直接边来回答，这反映了在实践中 eliciting 精确结构知识的困难。

主要贡献

本文做出了三项主要贡献：

新颖的集成策略： 它引入了第一种专门利用动态请求的专家知识来调解因果发现模型平均中分歧的方法。
解耦查询： 通过将边的存在性和方向性分开处理，该方法利用了数据驱动算法（检测）和专家输入（方向）的互补优势，仅在高度不确定或存在分歧的情况下选择性地查询专家。
实证验证： 该方法在知名真实世界图上，使用干净和噪声数据，与强基线（包括现有集成方法和单个算法）进行了评估，证明了其一致的性能提升。

实验结果

作者在六个基准网络（例如 Asia、Sports、Alarm、Pathfinder）上评估了该方法，样本量 ( $n \in \{100, 1000, 10000, 100000\}$ ) 和噪声水平各不相同。

性能： 所提出的方法始终优于强基线，包括单个算法（PC-Stable、FCI、Tabu、GES 等）和现有集成方法（Bayesys Model Avg、Aslani & Mohebbi）。
指标： 在平衡评分函数 (BSF)、F1 分数、结构汉明距离 (SHD) 和结构干预距离 (SID) 方面均观察到改进。该方法在保持与其他集成方法相当的精确度的同时，显示出广泛的召回率提升。
与 Tabu-AL 的比较： 该方法在大多数指标上平均显著优于 Tabu-AL（一种在单个算法上使用动态专家知识的基线）至少 11%，突显了将多样化算法与专家调解相结合的集成价值。
大型语言模型案例研究： 使用大型语言模型（gpt-5-nano）作为专家的实验显示，其性能与模拟专家参数（ $p_{exist}^e \approx 70\%$ ， $p_{orient}^e \approx 90\%$ ）一致，验证了在该框架中使用大型语言模型的可行性。
查询预算： 适中的预算 $2N$ （其中 $N$ 是节点数）在精确度和召回率之间提供了最佳平衡。

意义与主张

本文将这项工作定位为利用专家知识进行因果发现算法集成的第一种方法。其意义围绕处理现实世界数据约束的实际必要性展开，因为在这些约束下，没有单一算法是普遍优越的。

适度主张： 作者明确指出，他们的方法在理想设置下不提供恢复真实因果图的正式保证。相反，它依赖于实证验证，以在合理的现实世界条件下结合多样化算法与不完美专家的优势。
实用性： 该方法旨在应对专家访问有限且不完善的场景，提供了一种比依赖单一算法或静态先验更稳健的替代方案。
未来工作： 作者指出了局限性，包括使用合成分类数据以及缺乏正式的理论保证。他们建议未来的工作可以探索不同的数据类型、噪声分布以及基于预测性能对模型进行自适应加权。

总之，本文提出了一种务实、灵活的框架，利用有针对性的专家干预来解决因果集成中的不确定性，证明了这种策略在干净和噪声数据上均能产生优于现有方法的结构准确性。