🤖 AI

Formalizing and falsifying causal pathways of rare events

本文为结构方程模型中罕见事件的因果路径提出了一个形式化定义和可检验的蕴含关系，通过聚焦于路径特定条件而非完整的系统图谱，引入了一种连接口头解释与详细建模的因果抽象。

原作者： Anahita Haghighat, Dominik Janzing

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Anahita Haghighat, Dominik Janzing

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解谜题的侦探：为什么会发生某种罕见且出人意料的事情？

也许是股市崩盘、机器突然故障，或者是某人沦为流浪汉。通常，当我们试图解释这些事件时，我们会指向一个单一的“根本原因”（比如“机器坏了是因为一个螺栓断了”）。但本文的作者认为，仅仅指出那个断裂的螺栓是不够的。我们需要理解导致这场灾难的整个事件链，并且我们需要一种方法来证明我们的故事是真的，而不仅仅是一个猜测。

以下是他们思想的简单拆解，使用了日常类比。

1. 问题：“断裂的链条” vs. “完整的链条”

把罕见事件想象成一个终于倒下的多米诺骨牌塔。

旧方法： 大多数科学家只是指向被推倒的第一个多米诺骨牌（根本原因），并说：“这就是它倒塌的原因。”
本文观点： 作者说：“这并不是一个完整的解释。”仅仅因为第一个多米诺骨牌倒下了，并不意味着整个塔一定会倒塌。也许中间的骨牌摇摇欲坠，或者也许桌子在晃动。要真正解释这个事件，你需要描述能量从开始到结束所经过的特定路径。

他们称之为**“因果路径”（Causal Pathway）**。它不仅是起点；它是“坏消息”传播到最终灾难的特定路线。

2. 解决方案：解释的“计分卡”

我们如何知道一个人关于“为什么”某事发生的故事是否优秀？作者创建了一个数学计分卡（称为“解释得分”）。

想象你正在向陪审团讲述一个故事：“房子着火是因为小孩把蜡烛留在桌子上了。”

计分卡会问： 如果我们倒流时间，并强迫那个小孩把蜡烛留在桌子上，房子着火的可能性有多大？
数学逻辑： 他们比较两个数字：
1. 这场火灾在最初有多罕见？（例如，百万分之一）。
2. 如果我们已知蜡烛被留在桌子上，火灾发生的可能性是多少？（例如，十分之一）。
结果： 如果第二个数字远高于第一个数字，你的解释就会得到高分。如果即使有了蜡烛，火灾仍然极不可能发生，那么你的解释得分就很低（甚至可能是负数，意味着你的故事实际上让火灾看起来更不可能发生了！）。

这个计分卡帮助我们证伪糟糕的解释。如果你的故事得分很低，数学就会证明你的故事很弱，即使它听起来很有逻辑。

3. 技巧：将复杂的现实转化为简单的“是/否”问题

现实生活是混乱的。变量是连续的（温度是 72.4°F，而不只是“热”或“冷”）。但为了进行数学计算，作者将一切转化为简单的二元变量（是/否，1/0）。

类比： 想象你在描述一场风暴。你不会说“风速是 65 英里/小时”，你会说“风力强（是）”。你不会说“降雨量是 2 英寸”，你会说“降雨大（是）”。
“特征单调性”（Feature Monotonicity）： 他们确保如果风变得更强，那么“强”这个标签依然保持为“是”。他们不希望出现一种情况，即风变强了，结果“强”这个标签突然变成了“否”。这保证了故事的逻辑性。

通过将世界简化为这些“是/否”的桶，他们可以构建一张清晰的地图（路径），展示一个“是”如何引导另一个“是”，直到最终的灾难发生。

4. “语境”问题：中间环节的重要性

有时，仅有根本原因是不够的。你需要语境（Context）。

类比： 想象一场车祸。
- 根本原因： 驾驶员踩下了油门。
- 问题： 踩油门通常不会导致车祸。只有当汽车处于空挡或者刹车失灵时，踩油门才会导致车祸。
本文洞察： 一个好的解释必须包含“语境”（刹车失灵）。如果你忽略了语境，你的解释就是不完整的。作者表明，如果你忽略了语境，你的“解释得分”就会下降，从而证明你的故事是有缺陷的。

5. 用 AI 测试故事（“LLM”实验）

为了证明这套方法有效，作者要求一个 AI（大语言模型）虚构一个关于美国人如何沦为流浪汉的故事。

AI 创建了一个链条：精神疾病 $\rightarrow$ 失业 $\rightarrow$ 失去积蓄 $\rightarrow$ 失去家人 $\rightarrow$ 流浪汉。
随后，作者询问 AI：“‘失业’导致‘失去积蓄’的可能性有多大？” AI 给出了一个概率（例如 80%）。
他们将这些数字代入他们的计分卡。
结果： 这个故事在其中一个特定的环节（从“失去积蓄”到“失去家人”）得分很低。数学证明，失去住房并不一定会导致家人与你断绝关系。
教训： AI 的故事听起来很戏剧化，但数学证明它是一个很弱的解释，因为那个特定的环节过于不可靠。

总结

这篇论文为解释罕见灾难提供了一套正式的规则手册。它指出：

不要只指向起点；要绘制整个路径。
将复杂的实事转化为简单的“是/否”步骤。
使用一个分数来检查你的故事是否真的让该事件发生的可能性增加了。
如果分数很低，你的解释就被证伪了（证明是错误的），即使它在对话中听起来很有道理。

它将“讲故事”转化为了“数学”，让我们能够区分优秀的科学解释与糟糕的猜测。

技术摘要：罕见事件因果路径的形式化与证伪

1. 问题陈述

本文探讨了为罕见事件（离群值）提供因果解释的挑战，例如自然灾害、市场崩盘或系统故障。虽然现有的根因分析方法能有效识别出一组微小的因果起源，但它们往往无法捕捉到这些原因传播并产生观测结果的具体机制和子图。此外，完整的因果模型通常是未知的，且依赖于渐近极值理论或连续变量假设的标准方法并不适用于罕见但非极端（non-extreme）的事件或离散领域。

核心问题在于缺乏一种形式化的、可测试的“因果路径”概念，以弥合简单的言语解释与详细的因果建模之间的鸿沟。目前的各种方法难以量化一个提出的事件链是否构成了对特定罕见观测值的有效解释，尤其是在完整因果图不可用，或者解释必须在部分模型知识下保持鲁棒性的情况下。

2. 方法论

2.1 因果路径与解释得分的形式化

作者引入了一个基于结构方程模型（SEM）和有向无环图（DAG）的框架，用于将二元事件的因果路径形式化。

事件簇（Cluster of Events）： 一组由因果 DAG $C$ 连接的二元变量 $B$ 。子集 $R$ 代表机制被“破坏”或受到干预的根因。
解释得分（Explanation Score）： 基于 Oesterle 等人 (2025) 的研究，本文定义了事件 $X=x$ 解释 $Y=y$ 的解释得分 $E(x \to y)$ 为：
$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$
该得分衡量了干预 $do(X=x) $相对于其先验稀有性，在多大程度上增加了$ Y=y$ 发生的可能性。接近 1 的得分表示强解释。
路径解释得分（Pathway Explanation Score）： 为了解决仅靠根因无法解释整个传播过程的局限性，作者定义了路径解释得分 $E^K_{R \to t}$ 。该得分评估将根因 $R$ 设置为 1 是否使得整个事件簇（包括中介变量）变得可能，相对于目标事件的稀有性而言。
$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$
该指标会对那些即使在设置了根因后中间事件仍然显得不太可能的解释进行惩罚，从而确保路径的连贯性。

2.2 因果抽象与二元化

为了处理连续或复杂的变量，本文提出了**路径抽象（Pathway Abstraction）**方法，将详细的因果模型映射到简化的二元路径。

特征单调性（Feature Monotonicity）： 变量通过特征函数 $\tau$ （例如 $X \ge x$ ）转化为二元事件。该框架要求这些特征满足“特征单调性”，即确保父节点的特征值增加会提高子节点特征值的概率。
自然微观实现（Natural Micro-Realization）： 为了处理对粗粒度（二元）变量进行干预时定义模糊的问题，作者定义了干预 $do(B_S=b_S)$ 的“自然微观实现”。这涉及从给定二元约束的条件分布中抽取底层的连续变量，从而在细粒度模型中模拟该干预。
准确性指标： 抽象的质量通过抽象模型与真实投影分布之间的 KL 散度来衡量，并根据目标事件的稀有性进行归一化。

2.3 通过一致性检查进行评估

该框架通过一致性检查实现了对因果解释的证伪：

定量一致性： 如果提出了一个路径，则节点间的转移概率（例如 $P(B_j=1 | B_i=1)$ ）必须与解释得分保持一致。如果这些概率的乘积不能充分提高目标事件的可能性，则该解释被视为较弱。
定性一致性： 框架可以用于查询智能体（如 LLM）关于所提路径的子结构信息，以验证所声称的因果联系在特定语境下是否成立。

3. 核心贡献

因果路径的形式化定义： 本文不仅将因果路径定义为一组根因，还将其定义为一个元组 $(C, P, B, B_t, B_R, P_B)$ ，其中 $P$ 是解释目标的子图。这区分了用于提供上下文的完整因果图 $C$ 与解释路径 $P$ 。
路径解释得分： 一种新型指标，通过评估根因是否使路径中的整个序列都变得可能，而非仅仅是目标事件，来量化解释的质量。该得分在不相交的机制集合上具有加性，并避免了 Shapley 值存在的上下文依赖问题。
事件级抽象： 引入路径抽象，允许从复杂、连续或部分已知的模型中导出简单的、可语言化的因果解释。它提供了一种严谨的方法来处理变量的“粗粒化”问题，同时保持可测试的含义。
可证伪性： 通过要求对哪些机制按预期运行以及哪些机制发生了改变做出明确承诺，该框架使因果解释具有可证伪性。它提供了在解释可以被拒绝时的条件（例如关于对数似然差距的引理 3.7）。

4. 结果与演示

理论界限： 作者证明了强局部因果解释（高两两得分）并不保证强全局路径解释。他们推导出了高路径得分的必要条件，例如要避免存在比其父节点显著更不可能出现的中间变量。
与必要性的关系： 本文证明了对于罕见事件，正向的解释得分意味着高概率的必要性（PN），即即使得分不是完美的，根因对于事件的发生也极可能是必要的。
LLM 评估案例研究： 作者应用其框架来评估大型语言模型（LLM）生成的关于长期无家可归原因的因果路径。
- LLM 生成了一个路径 $A \to B \to C \to D \to E$ 。
- 通过查询 LLM 获取转移概率，作者计算出路径解释得分约为 $0.29$。
- 低分归因于一个弱链接（ $C \to D$ ），即从“失去公寓”到“家庭关系疏远”的转换概率不够高。
- 这一练习表明，该框架可以定量地识别言语解释中的薄弱环节，并建议通过修改（例如添加直接链接或重新表述节点）来改进其合理性。

5. 重要性与主张

本文声称通过为讨论罕见事件的因果解释提供一种形式化的、定量的语言，推动了因果推理和可解释人工智能（XAI）领域的发展。

弥合差距： 它弥合了简单的言语解释（通常直观但不可测试）与详细的因果建模（通常过于复杂或未知）之间的鸿沟。
可证伪性： 其主要意义在于使因果解释具有可证伪性。通过要求解释隐含特定的干预概率，该框架允许针对数据或专家信念进行经验或逻辑上的检查。
AI 安全与透明度： 作者将这项工作定位为评估 AI 系统生成的因果陈述真实性的第一步。通过将解释形式化为显式的路径，可以检测出关于社会重大事件的错误因果描述，从而有助于提高生成式 AI 的可靠性。

作者保持了谦逊的态度，指出该框架并不能自动证明因果 DAG 的有效性或干预概率的真实性；相反，它提供了用于以数据驱动的方式讨论和评估合理性的概念和指标。