🤖 AI

Multi-Excitation Projective Simulation with a Many-Body Physics Inspired Inductive Bias

本文引入了多激发投影模拟（mePS），这是投影模拟的一种推广，它将思维链建模为超图上多个粒子的随机游走，利用受多体物理启发的归纳偏置将计算复杂度从指数级降低到多项式级，同时增强了可解释性并实现了多个概念的同步结合。

原作者： Philip A. LeMaitre, Marius Krumm, Hans J. Briegel

发布于 2026-02-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Philip A. LeMaitre, Marius Krumm, Hans J. Briegel

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题： “黑盒”大脑

想象你拥有一个超级聪明的 AI，它能解决各种问题，但它就像一个黑盒。你问它一个问题，它会给你一个答案，但你完全不知道它是如何得出这个答案的。这就像魔术师从帽子里变出一只兔子，但你却看不见其中的戏法。这是一个严重的问题，因为我们需要信任 AI，尤其是在它做出关乎我们生活的决策时。

科学家们一直试图构建“可解释 AI”（XAI）——即能够展示其推理过程的 AI。一种现有的方法叫做投影模拟（Projective Simulation, PS），它就像是一个在思想迷宫中独自穿行的旅行者。迷宫中的每个房间代表一个概念（比如“饥饿”或“下雨”）。旅行者在房间之间移动，直到找到出口（即采取行动）。这种方法很棒，因为你可以看到旅行者走过的路径。

但问题在于： 这个旅行者一次只能携带一个想法。如果旅行者需要决定是否要吃晚饭，他们可以思考“感到饥饿”或者“有钱”，但他们很难同时在脑海中同时持有这两个想法并观察它们如何相互作用。人类真实的思维更像是同时玩转好几个球。

解决方案：旅行者团队 (MEPS)

作者引入了一种名为**多激发投影模拟（Multi-Excitation Projective Simulation, MEPS）**的新系统。

与其使用一名旅行者，不如想象一个旅行者团队在迷宫中共同移动。

旧方法： 一个人走在走廊里。如果他们需要思考“饥饿”和“金钱”，他们必须把这两个想法合并成一个单一且复杂的墙上标识。
新方法 (MEPS)： 你有一名旅行者站在“饥饿”上，另一名旅行者站在“金钱”上。他们可以互相交谈、共同移动或分开。这使得 AI 能够更自然地处理复合思想（例如“我饿了，而且我有钱”）。

迷宫本身也变得更加复杂。不再是简单的两个房间之间的走廊连接，你现在拥有了“超级道路”（称为超边/hyperedges），它们可以同时将一组房间连接到另一组房间。

陷阱：迷宫变得过于庞大

这里存在危险。如果你让一个旅行者团队在一个任何房间组合都可以连接到任何其他组合的迷宫中移动，那么可能的路径数量会爆炸式增长。

想象一个只有 10 个房间的迷宫，其分组方式的数量就非常巨大。
如果你有 20 个房间，路径的数量会变得如此庞大，以至于即使是最快的超级计算机，其计算所需的时间也会超过宇宙的寿命。这就是指数级复杂度问题。

魔法技巧：受物理学启发的捷径

为了解决这个问题，作者借鉴了量子物理学（研究微观粒子的学科）中的一个技巧。

在现实世界中，粒子（如电子）并不会同时与宇宙中所有的其他粒子发生相互作用。它们通常只与少数邻居发生碰撞。一次碰撞可能涉及两个粒子，或者最多三个，但极少会涉及一整群粒子同时发生作用。

作者为他们的 AI 创建了一条规则，称为归纳偏置（Inductive Bias）。你可以把它理解为他们为 AI 编写的“常识规则”：

“你的旅行者团队只能进行小规模的互动。在同一时间，不能超过 2 或 3 名旅行者改变路径。”

通过限制可以进行交互的群体规模，他们将那个不可能完成的、无限的迷宫变成了一个可控的迷宫。

没有这条规则： AI 必须检查数十亿条不可能的路径。
有了这条规则： AI 只需检查那些由小规模群体进行交互的现实路径。

这把问题从“不可能”变成了“容易”，使 AI 在保持复杂组合思考能力的同时，依然能够快速学习。

测试这个新 AI

作者在三个不同的“电子游戏”场景中测试了这个新系统：

分心入侵游戏 (The Distracted Invasion Game)：
- 设置： 一名攻击者试图通过一扇门进入。防御者必须根据符号来猜测正确的门。然而，存在一个表示毫无意义的“干扰项”符号。
- 结果： 旧的 AI（单人旅行者）会被干扰项搞混，或者学习速度过慢。新的 AI（旅行者团队）配合“小规模群体”规则，能瞬间忽略干扰项，并完美学习模式，因为它能同时关注两个相关的符号。
欺骗入侵游戏 (The Deceptive Invasion Game)：
- 设置： 攻击者在撒谎。有时某个符号意味着“向左走”，但如果出现了第二个符号，它实际上意味着“向右走”。
- 结果： 新的 AI 比旧的 AI 更快地识破了诡计（欺骗），因为它可以在脑海中同时持有这两个符号，从而看清模式。
故障电脑诊断 (The Broken Computer Diagnosis)：
- 设置： 想象一家电脑维修店。客户说：“我的电脑很慢，而且屏幕是蓝色的。” AI 必须猜测原因（例如“软件故障”）和解决方法（例如“重装操作系统”）。
- 结果： 这是一个复杂的思维链。AI 需要观察症状、猜测原因，然后选择修复方案。新的 AI 使用带有物理规则的多层处理方法，高效地解决了这些问题。它清晰地展示了工作过程：“我看到了这些症状，所以我猜测了此原因，这意味着我应该执行此修复方案。”

为什么这很重要

论文声称，通过使用这种“受物理学启发”的规则，他们创造出的 AI 具备以下特点：

更聪明： 它能处理复杂的、多部分的思想，而不会感到困惑。
更快： 它不会在检查不可能的路径上浪费时间。
更清晰： 你可以真正看到“思考过程”（旅行者所走的路径），这使其更值得信赖。

他们还简要提到，由于该系统模仿了真实粒子的行为方式，它最终可以构建在量子计算机（使用真实量子粒子的机器）之上，从而在未来变得更加快速。

简而言之： 他们构建了一个像团队协作而非孤狼作战一样思考的 AI，但同时也给了它一条严格的规则，让它一次只能与少数人交流，以免被过多的噪音淹没。这使得它既快速、聪明，又易于理解。

技术摘要：具有多体物理启发式归纳偏置的多激发投影模拟

1. 问题陈述

深度学习模型虽然强大，但通常表现为不透明的“预言机（oracles）”，使其决策过程难以解释。这种缺乏透明性的问题推动了可解释人工智能（XAI）领域的发展。现有的一个 XAI 框架——投影模拟（Projective Simulation, PS），将审议（deliberation）建模为单个粒子在图上的随机游走，其中顶点代表概念（clips）。虽然 PS 提供了可解释性和量化的潜力，但它存在一个根本性的局限：它无法自然地模拟同时结合多个概念的思想。在标准的 PS 中，单个激发必须携带所有的短期信息来进行决策，这阻碍了复合思想结构的解耦（例如涉及多个变量的逻辑演绎）。

此外，将 PS 简单扩展到处理多个同时存在的概念（即多激发 PS 或 MEPS）会面临指数级复杂度。顶点幂集的规模随原子概念数量呈指数级增长，使得训练参数的数量以及单个随机游走步骤的计算成本对于除了极小规模图之外的所有情况都是不可接受的。

2. 方法论

多激发投影模拟 (MEPS)

作者提出了 MEPS，它是 PS 的一种泛化形式，将审议建模为多个粒子（激发）在**超图（hypergraph）**上的随机游走。

结构： 情节与组合记忆（Episodic and Compositional Memory, ECM）是一个加权有向超图 $G=(V, E, h)$ 。顶点 $V$ 是原子概念（clips），超边 $E$ 连接输入概念集到输出概念集。
状态： 智能体的状态是一个激发配置（excitation configuration） $C \subset V$ ，代表当前相关的概念集合。
动力学： 一个审议步骤涉及根据超边权重（h-值）从当前配置 $C_{now}$ 采样到一个新配置 $C_{next}$ 。
学习： 智能体通过改编自 PS 的强化学习更新规则进行学习，根据奖励和用于延迟奖励的“光辉（glow）”因子来修改 h-值。

受多体物理启发的归纳偏置

为了克服朴素 MEPS 的指数级复杂度，作者引入了一种受量子多体物理启发的归纳偏置（inductive bias）。

核心概念： 正如物理现象通常源于少量粒子之间的相互作用（少体相互作用）一样，作者约束 MEPS 的转换由仅涉及少量激发的**基本转换（elementary transitions）**组成。
形式化： 模型并非为任意顶点子集定义 h-值，而是为基本转换 $(i, o)$ 定义可训练参数，其中 $i$ 个输入激发相互作用产生 $o$ 个输出激发。
截断（Cutoff）： 一组 $IO $定义了允许的$ (i, o) $对。设置一个截断值，使得$ i + o \leq \text{max_IO}$。
机制： 在单个随机游走步骤中，智能体采样一个基本转换 $(C^{(i)}_{in} \to C^{(o)}_{out})$ ，其中 $C^{(i)}_{in} \subset C_{now}$ 。新配置通过移除输入激发并添加输出激发来形成： $C_{next} = (C_{now} \setminus C^{(i)}_{in}) \cup C^{(o)}_{out}$ 。
复杂度降低： 作者证明，这种偏置将 MEPS 的可训练参数数量和随机游走步骤的复杂度从指数级（ $O(2^{|V|})$ ）降低到了多项式级（ $O(|V|^{\text{max\_IO}})$ ）。多项式的次数由相互作用截断值决定。

动态超图与分层架构

动态超图： 训练历史被形式化为一个动态超图，允许可视化智能体记忆结构如何随时间演化。
分层前馈变体： 对于特定应用，作者定义了归纳偏置 2FF（前馈），它限制转换在层之间移动激发（例如：感知 $\to$ 隐藏层 $\to$ 行动）。他们还提出了更严格的变体（2SF 和 2DP），以保证随机游走长度的多项式上界，防止出现病态的激发“雪崩（avalanches）”。

3. 核心贡献

MEPS 框架： 引入了在超图上的多粒子随机游走模型，用以表示复合思想和解耦的记忆结构。
受物理启发的归纳偏置： 将源自量子多体物理中少体相互作用的经典归纳偏置形式化。这使 MEPS 的计算复杂度从指数级降低到多项式级。
理论证明： 证明了该归纳偏置将可训练参数的数量和随机游走步骤的复杂度降低到了由相互作用截断值决定的多项式次数。
动态超图定义： 提出了一种新的动态超图定义，用于建模和可视化智能体的训练历史。
量子动机： 通过将经典归纳偏置与量子多体系统的哈密顿量（Hamiltonian）联系起来，进行了正式推导，为在量子模拟器上实现 MEPS 的量子版本铺平了道路。

4. 实验结果

作者在三个合成环境中评估了带有不同归纳偏置的 MEPS：

带干扰的入侵游戏（Invasion Game with Distraction）： 一个上下文老虎机问题，其正确动作取决于两个相关的观测变量和一个无关的“干扰”。
- 结果： 具有 2 体归纳偏置（匹配该问题的复杂度）的智能体学习最优策略的速度最快。1 体智能体无法解决该问题，而 3 体智能体（等同于标准 PS）虽然解决了问题，但由于参数空间较大，学习速度明显较慢。
欺骗性入侵游戏（Deceptive Invasion Game）： 一个具有更多动作和欺骗性奖励结构（基于奇偶校验）的扩展版本。
- 结果： 2 体智能体再次优于 3 体智能体。1 体智能体未能学习，因无法建模必要的复合逻辑而陷入次优策略。
计算机维护（Computer Maintenance）： 一个模拟诊断和修理故障计算机的复杂场景，需要多层思维链（症状 $\to$ $\to$ 组件/原因 $\to$ $\to$ 修复方案）。
- 结果： 具有特定归纳偏置配置的多层 MEPS 智能体以大约 16,766 步达到了近乎最优的性能。相比之下，不受限制的标准 PS 以及受表格 PS 启发的多层 Q-learning 智能体分别需要大约 35,817 步和 115,261 步。归纳偏置智能体使用的可训练参数比基准模型少了约 13 倍。

5. 意义与主张

论文声称，MEPS 结合多体归纳偏置，为需要复合推理的任务提供了一种比标准深度学习和表格强化学习更具扩展性和可解释性的替代方案。

可解释性： 通过显式地同时表示多个概念并使用超图结构，MEPS 提供了一个透明的“思维链”，可以进行可视化和分析。
效率： 归纳偏置使得智能体能够以比不受限制的超图实现更少的参数和更少的训练步骤来解决复杂任务，避免了朴素超图实现中固有的“维度灾难”。
生物与物理合理性： 该方法受到人类认知和物理系统通常依赖于同时结合有限数量因素（而非处理所有可能的组合）这一观察结果的启发。
量子潜力： 与量子多体物理的正式类比表明，MEPS 有一条自然的路径可以在量子硬件上实现，从而利用量子加速来进行审议。

作者保持谦逊，指出虽然归纳偏置限制了假设空间，但它符合人类认知的局限性和物理定律，这表明它是一个实用的而非限制性的约束。他们承认，在优化采样算法以及探索集成超图文献技术以实现进一步扩展方面，仍需开展进一步的工作。