💻 computer science

Causal-Reasoning World Models: Toward AI’s Subjectivity through Backward Generation

本文提出了一种从基于名词的因果推理向基于动词的因果推理转变的范式转移，引入了一种“可能时间分布”框架，通过乳腺癌患者轨迹的演示，实现了类智能体的世界建模和个体层面的反事实演绎，从而为人工智能的主观性奠定了理论基础。

原作者： Jia Li, Vipin Kumar, Rui Zhang

发布于 2026-10-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Jia Li, Vipin Kumar, Rui Zhang

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

几十年来，最强大的人工智能系统一直通过将世界视为静态对象的集合来训练其识别模式的能力。在这种观点中，患者是一组固定的特征，疾病是一个特定的标签，而治疗是一个截然不同的事件。计算机学习在这些“名词”之间画线，提出诸如“如果一个人有这种症状，他们是否可能患有那种疾病？”之类的问题。这种方法取得了令人印象深刻的成果，但也遇到了一个难以逾越的瓶颈。它假设世界是由可以被命名和计数的“事物”组成的，却忽略了生命实际上是行动与变化的流动。问题在于，通过将现实强行塞进固定类别的框架中，我们失去了使因果关系发挥作用的核心要素：变化本身的时间性和过程性。我们知道原因必须发生在结果之前，但标准模型往往难以理解这种时间性是如何影响特定个体而非仅仅是影响大规模人群平均水平的。

明尼苏达大学的一个研究小组正提议对构建这些系统的方式进行一次激进的转变。他们不再要求计算机记忆对象之间的关系，而是教它以“行动”和“可能性”来思考。他们称之为从“基于名词”的模型向“基于动词”模型的转变。在这种新的框架下，人工智能不仅仅是记录一名患者服用了某种药物然后生病；相反，它构建了一个虚拟世界，可以在其中从疾病状态向后倒推，去想象导致该结果的所有不同方式。它会追问：“如果药物是在不同的时间服用的会怎样？如果患者有不同的病史会怎样？”通过生成这些替代方案，人工智能构建了一个存在于计算机内部的“世界模型”，该模型独立于物理世界。这使得它能够以一种更接近人类直觉的方式来推理因果关系，即我们理解到同样的行为在不同的时间和方式下会导致不同的结果。

研究人员使用来自 3,276 名乳腺癌患者的真实医疗记录测试了这一想法。他们想看看人工智能是否能发现这些患者在治疗历程中移动的隐藏模式。在传统的分析中，研究人员会寻找大多数患者遵循的单一平均路径。但新系统的工作方式不同。它从最终结果——即患者患上心脏病（癌症治疗的一种严重并发症）——开始，并向后推导，生成了数千条可能导致该结果的潜在时间线。它不仅观察事件的顺序，还密切关注每一步的具体时机。该系统发现，即使在观察整体数据时这些路径并不明显，它也能自发地识别出具有相似且显著治疗路径的不同患者群体。

其中最引人注目的发现之一是，该系统能够察觉到“何时发生”的重要性，而不仅仅是“发生了什么”。例如，人工智能识别出了患者治疗过程中某些环节中治疗时机的关键性。它注意到，对于某些患者而言，在特定时间点使用的某种药物是预测心脏问题的强力指标；而对于其他患者，同样的药物在不同的时间使用则毫无影响。该系统甚至可以为一个拥有糖尿病和高血压复杂病史的特定 13 人小组模拟“如果……会怎样”的情景。通过进行反向模拟，人工智能推断出，对于这个特定群体，延迟第三轮靶向治疗可能会显著降低他们患心脏病的风险。这并非基于通用规则的猜测，而是基于该小群体独特时间模式的演绎。

这项工作表明，人工智能在医学领域的未来在于其处理“个体故事”而非仅仅是“人群平均值”的能力。研究人员强调，他们的系统尚未成为人类意识的完美复制品，但这是赋予人工智能一种“主体性”的必要第一步——即让它能够相对于它所研究的世界占据一个位置，而不是仅仅从外部进行观察。通过构建这些可以测试数百万种可能性且不会对真实患者造成任何风险的虚拟世界，人工智能可以针对因果关系提出假设，而传统的统计学可能会错过这些假设。团队发现，这种方法对于罕见病或由于患者群体过小而导致标准方法无法找到明确答案的复杂病例特别有效。虽然该系统仍需要人类专家来解释和验证其发现，但它提供了一种询问此前无法回答的问题的新工具，将计算机从事实的被动记录者转变为可能性的主动探索者。

技术摘要：因果推理世界模型：通过逆向生成迈向 AI 的主体性

1. 问题陈述

本文指出当代 AI（尤其是大语言模型 LLM）及传统因果推断中存在的一个根本性的结构性局限：“名词陷阱”（The Noun Trap）。当前的范式植根于以名词为中心的本体论，其中可建模的对象被视为稳定、明确的实体（标记、特征、事件）。关系被编码为这些名词之间的函数映射。

这种方法造成了两个关键问题：

混淆与信息丢失： 使用基于名词的可观测变量来表示因果关系（例如 $X \to Y$ ）不可避免地会引入残差。为了解释观察到的名词与其真实因果角色之间的差距，必须添加额外的名词变量（混淆因子）。这导致了一个结构性回归：增加名词变量的数量并不会带来理解能力的提升，反而会导致关系信息的丢失。
无法建模个体动力学： 传统统计学依赖于独立同分布（i.i.d.）假设，该假设在单一的“观测世界”内运行。这一框架将时间视为输入或静态状态（马尔可夫假设），而非一个动态的、个体层面的结果。因此，它无法捕捉特定个体的“可能时机”（possible timing），从而将 AI 局限于群体层面的相关性，而非个体层面的因果推理。

论文认为，可解释性经常被误解为“可命名的关系”（名词），这限制了 AI 的推理能力，使其仅限于预先指定和命名的范畴。真正的因果推理需要转向基于动词的范式，即 AI 构建一个世界模型来进行自发推理，而不仅仅是记录预定义的逻辑关系。

2. 方法论：基于动词的范式

提出的解决方案是从基于名词的建模向基于动词的建模进行范式转移，其特征是逆向生成（Backward Generation）和可能性涌现（Possibility Emergence）。

核心概念：

可能性涌现： 不同于前向生成（原因 $\to$ 结果），所提方法通过从目标结果进行逆向生成来构建一个“超世界”（hyper-world）。这使得 AI 能够从单一结果生成多个实例化的情景（可能世界），从而揭示未被预先指定的隐藏因果因素和时机分布。
超世界： 在同一因果条件（动词）下生成的多个可能世界的集合。在这一超世界中，AI 作为智能体去发现显著的关系信息。
可能时机分布（Possible Timing Distribution）： 一个超越 i.i.d. 假设的关键新概念。模型不再预测单一的时间戳，而是推断跨越不可观测的可能世界的“可能时机” ( $\tau$ ) 的分布。这种时机是一个个体层面的构建，有别于群体层面的平均值。
两阶段过程：
1. 可能性涌现（AI 作为主体）： AI 从数据中捕获基于动词的关系信息作为潜空间表示，生成一个超世界。
2. 因果演绎（AI 作为智能体）： AI 在构建的超世界中运行，识别具有信息量的因果关系，这些关系随后可以被人类解释为可命名的（基于名词的）关系。

技术实现：

时机计算： 在神经网络中使用两级参数架构实现。
- 群体层面参数： 在第一次训练运行后冻结，编码共同的动力学模式并在潜空间中建立相对时间线 $\tau$ 。
- 个体层面参数： 在随后的训练运行中独立更新。这为每次运行生成了观察时间 $t$ 与固定时间线 $\tau$ 之间转换的独特系数，从而有效地构建了跨越多个可能世界的个体层面时机分布。
多动词系统： 该框架将事件视为具有自身时机分布的“动词”。它允许进行动词间的推理（例如 $A \to B$ 且 $A \to C$ ），而不会将系统简化为单一的马尔可夫链，从而保留了动力学信息。

3. 主要贡献

理论框架： 论文形式化了“名词陷阱”，并提出“可能性涌现”作为解决方案。它区分了因果涌现（识别差距）、因果表示（面向动词但受限于名词）以及可能性涌现（构建用于自发发现的超世界）。
新的时机概念： 引入了可能时机分布作为一个存在于可能世界中的计算维度，打破了 i.i.d. 假设的约束，实现了个体层面的因果建模。
用于因果演绎的逆向生成： 论文证明了从结果进行逆向生成可以让 AI 自发发现因果条件（例如特定的时机阈值），而无需预先指定干预或阈值，这是传统的正向因果推断所不具备的能力。
“如果……会怎样”机器（What-If Machine）： 构建的超世界作为一个虚拟实验场，AI 可以在现实尝试之前，在此进行无限次的试错，以回答“如果……会怎样”（反事实）的问题。

4. 结果与应用

该方法论被应用于 3,276 名乳腺癌患者（Fairview Health System, 2012–2024）的纵向电子健康记录（EHR）数据，用于预测心肌毒性诱发的心脏病。

应用 I：多动词轨迹发现：
- 模型自发发现了涉及连续临床事件（化疗、靶向治疗、放疗、利尿剂）的显著患者轨迹。
- 它根据时机注意力（ $\kappa$ ，通过时机分布的峰度衡量）识别了亚群。
- 结果： 模型成功区分了患者亚组，并识别了关键转折点（例如，利尿剂药物在特定轨迹步骤达到峰值的显著性）。它在群体选择方面达到了高准确度（ $C_T/C_M \approx 1$ ），证明了时机计算在过滤队列方面比传统关联规则更有效。
应用 II：因果演绎（“如果……会怎样”分析）：
- 模型通过翻转特定亚群（13 名患者）的结果标签（心脏病 $\to$ 无心脏病）并重新运行涌现过程，生成了针对该群体的反事实情景。
- 结果： 通过对比事实与反事实的时机分布，研究发现延迟第三种靶向治疗（ $Target\_3$ ）会显著改变该群体中一半人的时机分布，这表明可能降低心脏病风险。这种演绎完全是从数据中推导出来的，而非基于预设假设。

5. 重要性与主张

本文将这项工作定位为迈向 AI 主体性的必要第一步。作者并未声称已实现人类水平的智能或完全实现的主体性，而是构建了一个“因果推理世界模型”，使 AI 能够作为智能体运行。

审慎的主张： 作者强调，所演绎的因果关系（如延迟治疗）是生成于虚拟实验场中的假设，需要进一步的人类验证。他们并不声称这些是确定的临床建议。
精准医学： 能够进行个体层面因果演绎和精细化分型（例如，从 3,000 多名患者中识别出 13 名特定患者）的能力，被认为对罕见病护理特别具有前景，因为这类疾病的患者亚群规模较小，群体层面的统计数据往往不足。
效率： 这种范式转移允许复用构建的世界，避免了为每一次新推理都重新推导关联规则所带来的指数级复杂度。
哲学基础： 本文借鉴了赵汀阳的哲学观点，认为构建 AI 的“世界”需要让 AI 相对于该世界占据“主体”的位置，从而超越单纯的统计相关性，走向因果推理。

总之，本文提出了一个理论与计算框架，通过构建基于动词、由逆向生成的模型来克服“名词陷阱”，从而实现个体层面的因果推理，并在复杂的临床数据中自发发现患者轨迹与反事实情景。