Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

以下是论文《在未知因果信息下做出选择：决策中的行动 - 结果概率可基于因果模型》（作者：Mauricio Gonzalez Soto 等）的详细技术总结。

1. 问题陈述

本文探讨了决策理论中关于行动 - 结果概率来源的一个根本性空白。

• 背景： 经典决策理论（冯·诺依曼 - 摩根斯坦和萨维奇）为理性选择提供了形式化标准：最大化期望效用（MEU）。然而，这些框架依赖于关联（概率）信息，却未指定所用概率的来源。
• 空白： 虽然人类自然地进行因果推理（区分观察事件与干预导致事件），但标准决策理论通常将概率视为纯粹的统计关联。
• 挑战：
  1. 当因果信息已知时，如何形式化决策过程（朱迪亚·珀尔已解决此问题）。
  2. 当理性主体对控制环境的因果机制未知时，如何形式化决策过程。
  3. 如何在不完全因果知识的情况下，将 MEU 所需的概率基于因果模型而非仅仅是观测数据来确立。

2. 方法论与理论框架

作者在经典决策理论与因果推断（特别是珀尔的因果图模型）之间架起了一座桥梁。

A. 基础定义

• 因果环境： 定义为不确定环境 $(\Omega, A, C, E)$，并辅以因果图模型（CGM） $G$。该 CGM 编码了行动（$A$）与后果（$C$）之间的因果联系，以及其他环境变量。
• 干预（$do(\cdot)$）： 区分因果模型与关联模型的核心机制。行动 $a$ 被建模为干预 $do(a)$，它通过固定某个变量的值并移除图中指向该节点的入边，从而修改变量的联合分布。
• 因果决策问题（CDP）： 一个元组 $(\Omega, A, G, E, C, \succeq)$，其中决策者基于因果模型选择行动以最大化效用。

B. 理论方法

本文分两个主要理论步骤展开：

1. 已知因果信息的回顾： 承认珀尔（2009）的结果，即拥有已知因果模型 $G$ 的理性主体选择行动 $a^*$ 以最大化 $\sum P_G(c | do(a))u(c)$。
2. 扩展到未知因果信息： 核心方法论贡献是将上述结果扩展到主体不知道真实因果模型 $G$ 的场景。
   • 假设： 拥有未知因果结构的理性主体对一族可能的因果结构（$\mathcal{F}$）持有主观信念。
   • 机制： 主体将每个可能的因果结构 $g \in \mathcal{F}$ 视为潜在真理，在该结构内使用 $do$ 算子计算期望效用，然后根据主体赋予每个结构的概率对这些效用进行加权聚合。

3. 主要贡献

A. 定理 4.2：未知因果模型下的决策

本文的主要理论贡献是定理 4.2，它为未知因果信息下的理性决策提供了表示定理。

• 陈述： 在有限且有界的因果决策问题中，行动上的偏好关系 $\succeq$ 是理性的，当且仅当存在：

  1. 效用函数 $u: C \to \mathbb{R}$。
  2. 非空因果图模型族 $\mathcal{F}$ 上的概率分布 $P_C$。

• 决策规则： 当且仅当以下条件成立时，主体选择行动 $a$ 而非 $b$：
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  其中：

  • $P_C(g)$ 是主体认为因果结构 $g$ 为真实模型的主观信念。
  • $P_g(c | do(a))$ 是在特定因果模型 $g$ 内，给定干预 $do(a)$时后果$c$ 的概率。

• 意义： 这证明了即使具体的因果机制未知，行动 - 结果概率仍可基于因果模型确立。期望效用计算中使用的“概率”是因果结构上的混合分布。

B. 因果纳什均衡的定义

作者将定理 4.2 应用于博弈论，定义了因果纳什均衡。

• 背景： 在贝叶斯策略博弈中，参与者对支配环境的真实因果模型 $\omega$ 拥有不完全信息。
• 定义： 行动组合 $a^*$ 是因果纳什均衡，如果没有参与者 $i$ 能在给定其对因果结构及其他参与者行动的信念下，通过单方面改变其行动来改善其因果期望效用（$u^C_i$）。
• 公式：
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  该公式明确纳入了 $do$算子，使其区别于依赖条件概率$P(c | a_i, a_{-i})$ 的标准纳什均衡。

4. 结果

1. 形式化确立： 本文成功证明了期望效用原理所需的概率可从因果模型中推导出来，解决了关于这些概率“来源”的争论。
2. 推广： 该结果将珀尔的已知因果模型准则推广到更现实的未知因果机制场景。
3. 计算可实施性： 该框架提供了可计算实施的准则。主体可以学习因果结构的分布（例如通过结构学习算法），并利用推导出的公式做出最优决策。
4. 博弈论扩展： 本文确立了标准博弈论概念（如纳什均衡）可以严格扩展到主体进行因果推理而非关联推理的环境中。

5. 意义与影响

• 连接人工智能与哲学： 该工作将因果决策理论（CDT）与证据决策理论（EDT）之间的哲学辩论与实际的机器学习和人工智能决策联系起来。它为为何主体应使用因果推理提供了数学依据。
• 对分布偏移的鲁棒性： 通过将决策基于因果机制（干预）而非相关性，该框架在理论上对环境变化（分布偏移）更具鲁棒性，而在这些变化中纯粹的关联模型将会失效。
• 以人为本的人工智能： 由于人类自然地使用因果推理（并且倾向于忽略纯概率信息而支持因果解释），该框架为设计理性人工智能主体提供了更“兼容人类”的基础。
• 策略互动： 因果纳什均衡的引入为分析经济学和多智能体系统中底层因果动力学不确定的策略互动开辟了新的途径。

结论

本文论证了不确定性下的理性决策本质上是一个因果过程。通过将期望效用原理扩展为包含因果模型分布的形式，作者为因果机制未知时的决策提供了严谨的数学基础，确保行动 - 结果概率基于环境结构现实而非单纯的统计关联。