💻 computer science

noDice: Inference for Discrete Probabilistic Programs with Nondeterminism and Conditioning

本文介绍了 noDice，一种扩展了离散概率推理引擎 Dice 的工具，它通过将无环程序构建为马尔可夫决策过程并利用决策图压缩状态空间，实现了对包含非确定性选择和条件推理的离散概率程序的有效推断。

原作者： Tobias Gürtler, Benjamin Lucien Kaminski

发布于 2026-02-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Tobias Gürtler, Benjamin Lucien Kaminski

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一个名为 noDice 的新工具，它就像是一个专门用来“算命”的超级计算器，但它算的不是普通的运气，而是带有“不确定性”和“已知条件”的复杂概率问题。

为了让你轻松理解，我们可以把这篇论文的核心内容想象成一场**“在迷雾中驾驶飞机”**的游戏。

1. 背景：为什么我们需要 noDice？

想象一下，你是一名飞行员，正准备降落在跑道上。

概率（Probability）： 你知道天气有 70% 是晴天，30% 是雨天。这是随机的，就像掷骰子。
条件（Conditioning）： 你的雷达显示“前方没有障碍物”。这意味着你只关心那些“前方确实没有障碍物”的情况，要把那些“前方有障碍物”的坏情况排除掉。
非确定性（Nondeterminism）： 这是最麻烦的。跑道对面有一辆卡车，但你不知道它到底会怎么开。它可能开得很快，也可能很慢，甚至可能突然急转弯。这不是随机的（不是掷骰子决定的），而是完全不可预测的。它可能代表一个狡猾的敌人，或者一个完全未知的系统。

以前的电脑程序（PPLs）很擅长处理“掷骰子”（概率）和“排除坏情况”（条件），但一旦遇到“完全不可预测的卡车”（非确定性），它们就傻眼了。它们要么算不出来，要么算出来的结果非常庞大，导致电脑死机。

noDice 的出现，就是为了解决这个“不可预测的卡车”问题。

2. noDice 是怎么工作的？（三个魔法步骤）

noDice 不像普通程序那样一步步去“跑”代码，它更像是一个精明的侦探，通过三个步骤把复杂问题变简单：

第一步：布尔编译（把故事变成逻辑题）

首先，noDice 把整个程序（比如飞机降落、卡车移动、雷达读数）翻译成两行逻辑公式（就像数学里的 True/False 判断题）。

一行公式描述：“如果卡车这样走，飞机能不能安全降落？”
另一行公式描述：“雷达的读数是否符合我们看到的‘没有障碍物’？”

这就好比把一部复杂的电影，压缩成了两张写满“如果...那么..."的纸条。

第二步：决策图（把纸条变成一张超级地图）

接下来，noDice 使用一种叫代数决策图（ADD） 的技术。

比喻： 想象你有一张巨大的迷宫地图，里面有几百万个路口。如果你直接画出来，地图会大得连卫星都拍不下。
noDice 的魔法： 它发现迷宫里有很多重复的路径（比如“如果卡车在左边，无论它快慢，结果都一样”）。于是，它把这些重复的部分折叠起来，把几百万个路口压缩成只有几百个关键节点的精简地图。
这就好比把一本厚厚的百科全书，通过智能索引，压缩成了一张只有几个关键节点的思维导图。

第三步：马尔可夫决策过程（MDP）（在地图上找最佳路线）

最后，noDice 把这张精简地图变成一个**“决策游戏”**（MDP）。

在这个游戏里，概率是“掷骰子”决定的（比如天气），而非确定性（卡车）变成了玩家手中的“选择权”。
noDice 的任务是：“在所有可能的卡车走法中，哪一种走法会让飞机安全降落的概率最大？”
它不需要真的去模拟每一辆卡车的每一种走法（那太慢了），而是利用数学方法，直接算出那个“最坏情况”或“最佳策略”下的概率。

3. 为什么它很厉害？（核心优势）

处理“未知”的高手： 以前的工具遇到“不可预测的卡车”就崩溃，或者需要算很久。noDice 能把这些不可预测的因素变成数学模型，算出最坏情况下的概率上限。
拒绝“暴力穷举”： 想象一下，如果卡车有 100 种走法，以前的方法可能要算 $2^{100}$ 次（比宇宙中的原子还多）。noDice 通过“折叠地图”（决策图），把计算量瞬间降到了几千次，让普通电脑也能在几秒钟内算出结果。
比现有工具更快： 论文中的测试显示，在处理像“车辆跟踪”、“网络数据包传输”或“彩票收集”这类问题时，noDice 比目前最先进的模型检查工具（如 Storm）快得多，而且能处理更复杂的问题。

4. 总结：noDice 是什么？

如果把概率编程比作**“在充满迷雾和未知敌人的战场上导航”**：

以前的工具：要么只能算天气（概率），要么看到敌人（非确定性）就吓得不敢动，或者试图把整个战场的所有可能性都画出来（导致内存爆炸）。
noDice：它是一个超级导航员。它先把战场简化成一张只有关键地标的地图（决策图），然后告诉你：“不管敌人怎么乱跑，只要你按这个策略走，你安全到达的概率最高能达到 3.6%。”

一句话概括：
noDice 是一个聪明的工具，它能把那些包含“随机运气”、“已知线索”和“完全未知变数”的复杂程序，压缩成一张简单的数学地图，从而快速算出在最坏情况下，事情成功的可能性有多大。这对于人工智能、网络安全和自动驾驶等需要应对“未知风险”的领域来说，是一个巨大的进步。

这是一篇关于 noDice 的论文技术总结，这是一种用于处理具有**非确定性（Nondeterminism）和条件化（Conditioning）**的离散概率程序的推理引擎。

1. 研究背景与问题 (Problem)

概率编程语言 (PPLs) 的局限性：现有的 PPLs（如 Dice）擅长处理离散概率分布，但在处理非确定性（如马尔可夫决策过程 MDP 中的选择）方面支持不足。
非确定性与条件化的结合难题：
- 非确定性允许模型描述未知信息或抽象细节（例如，车辆可能以不同速度移动，具体策略未知）。
- 将非确定性与条件化（基于观测证据进行推理，即贝叶斯推理）结合时，程序不再描述单一分布，而是描述一组分布。
- 这导致推理不再具有组合性（Compositionality）：子程序的最大条件概率无法直接组合成整个程序的最大条件概率。
现有方法的不足：
- 直接对程序的操作语义应用概率模型检查器（如 Storm），往往会导致状态空间爆炸，难以处理大规模程序。
- 现有的 PPLs 通常缺乏同时支持非确定性和条件化的有效推理算法。

2. 方法论 (Methodology)

noDice 通过扩展现有的离散概率推理引擎 Dice，提出了一种新颖的推理框架。其核心思想是将程序编译为布尔公式，利用决策图压缩状态空间，并构建马尔可夫决策过程（MDP）来求解最大概率。

主要流程分为三个步骤：

2.1 布尔编译 (Boolean Compilation)

输入：无循环的 noDice 程序（包含离散概率选择 flip、非确定性选择 nflip 和观测 observe）。
过程：
- 利用 Dice 的编译引擎，将程序编译为一对布尔公式：
  1. 模型公式 ( $\varphi$ )：描述程序的输出行为（忽略观测）。
  2. 接受公式 ( $\gamma$ )：描述所有观测是否成功。
- 关键扩展：引入带注释的翻转轨迹（Annotated Trace），记录每个布尔变量是概率性的（带概率值）还是非确定性的（标记为 n），并保留它们在程序中的执行顺序。这对于处理非确定性依赖至关重要。

2.2 代数决策图构建 (Decision Diagrams)

转换：将上述布尔公式转换为二元决策图 (BDDs)。
合并：将描述输出的 BDD 和描述观测的 BDD 合并为一个代数决策图 (ADD)。
- ADD 是 BDD 的推广，允许终端节点不仅仅是布尔值，还可以是其他值（如输出值或拒绝标记 $R$ ）。
- 优势：ADD 能够利用程序结构（如条件独立性）消除冗余节点，极大地压缩了状态空间。

2.3 提升至马尔可夫决策过程 (Lifting to MDP)

构建 MDP：将 ADD 提升为 MDP。
- ADD 的每个节点对应 MDP 的一个状态。
- 概率翻转：对应 MDP 中的概率转移（根据概率值分支）。
- 非确定性翻转：对应 MDP 中的非确定性动作（调度器可以选择不同的分支）。
- 观测失败：对应到达拒绝状态 $R$ 。
推理目标：
- 程序在观测成功条件下的最大输出概率，等价于在构建的 MDP 中，在避免到达拒绝状态 $R$ 的条件下，到达目标输出状态 $v$ 的最大条件可达概率 ( $Pr_{max}(\Diamond v | \Diamond A)$ )。
求解：使用 Storm 模型检查器中的二分法算法（Bisection method）高效计算无环 MDP 上的条件可达概率。

2.4 优化技术

状态压缩 (State Compression)：移除只有一个启用动作的概率状态，将其入边直接重定向到后继状态，进一步减小 MDP 规模。
布尔归约：对于非布尔输出，将其转化为布尔查询（例如，询问输出是否等于特定值），以减少 MDP 中的终端节点数量。

3. 主要贡献 (Key Contributions)

noDice 语言设计：定义了一种非递归的函数式概率编程语言，原生支持概率选择、非确定性选择和一等公民的观测（First-class observations）。
理论框架：
- 提出了基于凸集（Convex Sets）的语义，以解决概率与非确定性组合时的组合性问题。
- 证明了通过 ADD 构建的 MDP 的最大条件可达概率与程序的最大归一化语义分布是等价的（Soundness）。
高效推理算法：
- 利用 ADD 作为中间表示，在构建 MDP 之前消除冗余，显著减小了状态空间。
- 将推理问题转化为 MDP 上的条件可达性问题，利用成熟的模型检查技术求解。
实证评估：
- 实现了原型系统，并在多个基准测试（包括车辆跟踪、优惠券收集、网络可达性、贝叶斯网络等）上进行了评估。
- 结果显示，noDice 在包含大量变量的高维状态空间问题上，显著优于直接编码 MDP 的 Storm 模型检查器。

4. 实验结果 (Results)

状态空间缩减：noDice 构建的 MDP 状态数通常远小于直接编码的 MDP（Storm）。例如，在 "Coupon" 和 "Runway" 基准测试中，noDice 的 MDP 规模比 Storm 小几个数量级。
推理效率：
- 在大多数包含大量变量（高维度）的基准测试中（如 Coupon Collector, Runway, 3SAT），noDice 的总推理时间显著快于 Storm。
- 在变量较少、状态空间维度低的问题上（如 Network 基准），直接编码的 Storm 可能更快，因为 noDice 的编译开销相对较大。
非确定性的影响：非确定性翻转的比例对 noDice 的编译时间影响不大，但会略微增加模型检查的时间。总体而言，非确定性的存在并未显著拖慢 noDice 的性能。
可扩展性：noDice 能够处理包含数万个布尔变量和复杂非确定性策略的程序，而直接方法往往因状态爆炸而超时（TO）。

5. 意义与未来工作 (Significance & Future Work)

填补空白：noDice 是目前少数能够同时处理离散概率、非确定性和条件化推理的工具之一，解决了 PPLs 领域的一个长期开放问题。
方法论创新：展示了利用决策图（ADD）作为中间层来压缩 MDP 状态空间的有效性，为概率程序分析提供了新的思路。
局限性：
- 目前仅支持无循环程序。
- 仅支持离散和有界数值，不支持连续分布或无界整数。
未来方向：
- 扩展支持无界循环（Unbounded Loops）。
- 探索合成最优确定性程序（Synthesizing optimal programs）。
- 将非确定性推理扩展到更复杂的控制流结构。

总结：noDice 通过结合布尔编译、代数决策图和马尔可夫决策过程，成功实现了对具有非确定性和条件化的离散概率程序的高效推理。它在处理高维状态空间问题时表现卓越，为复杂系统的形式化验证和概率推理提供了强有力的工具。