🤖 machine learning

EM-NeSy: Expectation Maximization for Neurosymbolic Learning

本文介绍了 EM-NeSy，这是一种新颖的神经符号学习框架，它利用期望最大化（Expectation-Maximization）算法来实现可扩展且高效的训练，且无需要求符号组件是可微的，从而支持精确推理与近似推理。

原作者： Annegret Seibt, Luc De Raedt, Giuseppe Marra

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Annegret Seibt, Luc De Raedt, Giuseppe Marra

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：教机器人思考与推理

想象一下，你正在尝试同时教机器人两件事：

感知（Perception）： 如何观察一张模糊的照片并猜出其中的物体是什么（比如识别手写数字）。这是通过神经网络（即“神经”部分）完成的。
推理（Reasoning）： 如何根据一套规则检查这些物体是否符合逻辑（比如检查数独谜题是否有效）。这是通过符号逻辑（即“符号”部分）完成的。

目前的方法试图通过一根“导线”将这两个部分连接起来，让机器人从错误中学习，从而同时教授这两个部分。然而，这根导线存在一个问题：如果逻辑部分过于复杂，或者使用了某种与数学不兼容的方法（例如随机采样），这根“导线”就会断裂。机器人无法学习，因为它无法计算出修正错误的精确方向。

EM-NESY 是一种全新的教学方式，它完全移除了这根“导线”。它不再强迫这两个部分在学习过程中不断进行实时交流，而是让它们轮流工作。

类比：艺术评论家与学徒

为了理解 EM-NESY 是如何工作的，请想象一位学徒艺术家（神经网络）和一位严厉的艺术评论家（符号逻辑）。

旧方法（端到端学习）

在旧方法中，学徒画出一幅画，评论家会立即大喊：“错了！”然后评论家试图解释究竟是哪一笔画错了，以及该如何修正。

问题在于： 如果评论家的规则太复杂（比如复杂的数独谜题），或者评论家使用了一种难以一步步解释的方法（比如随机猜测），评论家就会卡住。他们无法给出关于如何修正笔触的具体指令。学徒感到困惑，无法进步。

新方法 (EM-NESY)

EM-NESY 将工作流程改变为两个截然不同的步骤，就像一个排练过程：

第一步：评论家的评审（“期望”步骤）
学徒根据当前的技能水平画出一幅画。评论家观察这幅画以及正确答案（标签）。
评论家并不试图解释如何修正笔触，而是简单地写下一份修正清单。

例子： “你认为这个数字是 3，但根据数独规则，它有 70% 的概率是 5，有 30% 的概率是 6。”
关键点： 评论家可以使用任何他们想要的方法。他们可以使用复杂的数学、随机猜测或严格的逻辑。他们不需要能一步步解释其推理过程，只需要产出最终的概率列表（即“后验概率”）即可。

第二步：学徒的练习（“最大化”步骤）
评论家将修正清单交给学徒。学徒查看自己的原始猜测和评论家的修正意见。

学徒心想：“我猜的是 3。评论家说我应该猜 5 或 6。我需要调整我的大脑，让下次猜 5 或 6 的概率更高。”
学徒更新自己的内部设置（神经参数），以匹配评论家的清单。
关键点： 评论家在此步骤中并不参与。评论家的清单被视为既定事实。学徒只需要学习如何改变自己的绘画风格。

为什么这很重要？

1. 它解锁了“无法学习”的逻辑
有些逻辑问题非常困难，以至于你无法计算出精确的答案，或者寻找答案的方法是“不可微的”（数学上很混乱）。

类比： 想象评论家使用一种通过掷骰子来寻找答案的方法。在旧方法中，你无法教导学徒，因为你无法通过骰子的滚动过程追溯回每一笔画。
有了 EM-NESY： 评论家掷骰子，得到结果，然后将其记录下来。学徒只需从结果中学习。这种混乱的“掷骰子”过程完全从学习过程中隐藏了起来。

2. 它更快且占用更少内存
论文表明，当逻辑足够简单、可以被精确计算时，这种新方法与旧方法一样准确，但速度更快。

类比： 这就像意识到你不需要在每次犯错时都重新计算整个宇宙的历史。你只需要最终的判决。这节省了大量的计算机内存和时间，使机器人能够解决更大的谜题（如拥有 100 位数字的数独网格），而旧系统在处理这些任务时会崩溃。

3. 它适用于任何“评论家”
因为评论家不需要在数学上是“平滑”或可微的，你可以接入任何现有的逻辑引擎，甚至是那些此前难以与神经网络结合使用的引擎。

实验结果显示

作者在三种类型的谜题上进行了测试：

手写数字加法： 他们展示了 EM-NESY 可以处理巨大的求和运算（100 位数字），而其他方法甚至无法完成这些运算，同时它使用的内存更少。
视觉数独： 他们展示了即使在使用近似方法（如随机采样）来解决逻辑部分时，它也能从规则严苛的谜题中学习。
地图路径规划： 他们展示了它可以在网格中学习寻找最短路径，在处理这类逻辑过于复杂而难以求导的任务时，其他方法表现挣扎。

核心结论

该论文提出了 EM-NESY，这是一个将神经符号学习视为一场轮流进行的“靠近还是远离”游戏的框架。

第一回合： 逻辑引擎（评论家）利用其拥有的任何工具，找出正确的答案应该是什么。
第二回合： 神经引擎（学徒）调整自己的大脑以匹配这些答案。

这种简单的切换使得 AI 能够从复杂的、混乱的或近似的逻辑中学习，而无需强迫逻辑在数学上必须是完美或可微的。这使得构建既能“看”又能“思考”的 AI 变得更加灵活且具扩展性。

技术摘要：EM-NESY：用于神经符号学习的期望最大化算法

问题陈述

神经符号（NeSy）模型旨在将神经网络的感知能力与符号逻辑的推理能力相结合。虽然最先进的 NeSy 模型通常通过对神经和符号组件进行端到端反向传播来实现训练，但当符号组件依赖于近似推理时，这种方法面临着重大挑战。

精确概率推理通常是 #P-困难且在计算上不可行的复杂任务。因此，许多系统不得不转向近似推理方法（例如，采样、置信传播或线性规划松弛）。然而，这些方法引入了可微性问题：

不可微性： 诸如采样之类的技术本质上是不可微的，需要专门的梯度估计器（如 REINFORCE）或重参数化技巧。
计算开销： 即使是理论上可微的迭代方法（例如，置信传播），在实践中由于需要通过所有迭代步骤进行反向传播，会导致巨大的计算图，从而变得不切实际。

目前的解决方案通常需要针对推理进行的特定修改以确保可微性，这限制了 NeSy 系统的灵活性和可扩展性。

方法论：EM-NeSy

作者提出了 EM-NeSy，这是一个将概率 NeSy 学习视为 期望最大化（EM） 算法实例的学习框架。这种公式化方法将符号推理过程与梯度计算解耦，从而允许使用任何推理引擎（精确或近似，可微或不可微）。

框架

该 NeSy 模型被视为一个隐变量模型，其中：

$X$ ：子符号输入（例如，图像）。
$Z$ ：隐变量符号变量（由神经网络预测）。
$Y$ ：目标符号输出（例如，数独网格的有效性）。
$\theta$ ：神经网络参数。

学习过程在两个步骤之间交替进行：

E-步（期望步）：
符号组件计算给定观测标签 $Y$ 和输入 $X$ 条件下的隐变量 $Z$ 的后验分布：
$p(z|y, x, \theta) = \frac{p_{Ne}(z|x, \theta)p_{Sy}(y|z)}{p(y|x, \theta)}$
这里， $p_{Ne}$ 是神经先验， $p_{Sy}$ 是符号似然。至关重要的是，这一步充当了“概率校正器”，根据背景知识溯因出 $Z$ 的软标签或硬标签。这一步可以由任何符号推理引擎（精确、近似、基于采样的）执行，而无需要求可微性。
M-步（最大化步）：
通过最小化神经先验 $p_{Ne}(z|x, \theta)$ 与 E-步中计算出的后验 $\ell(z)$ 之间的交叉熵来更新神经参数 $\theta$ ：
$L_{EM-NeSy}(\theta) = -\sum_{z \in R(Z)} \ell(z) \log p_{Ne}(z|x, \theta)$
梯度仅通过神经组件进行反向传播，将后验 $\ell(z)$ 视为常数。这消除了对符号推理过程进行微分的需求。

理论等价性

论文证明，在精确推理下，EM-NeSy 计算的梯度与标准的端到端可微 NeSy 学习的梯度在数学上是等价的（定理 3.1）。因此，当精确推理可行时，EM-NeSy 恢复了标准设置，但在精确推理不可行时提供了明显的优势。

变体与扩展

硬 EM（Hard EM）： 使用最大后验（MAP）分配而非软后验。
多 M-步 EM（Multi-M EM）： 为单个 E-步执行多次 M-步（梯度更新），以在不重新计算昂贵的后验的情况下加速收敛。
近似推理： 该框架自然支持基于采样的算法（如拒绝采样、ABC 采样）和迭代算法（如置信传播），且无需修改。

核心贡献

重构 NeSy 学习： 作者将 NeSy 学习重新构建在 EM 框架内，从而能够利用先进的 EM 变体（广义 EM、随机 EM、硬 EM）来提高灵活性。
无须微分的集成： 提出了一种通用框架，可以将任何概率推理引擎集成到 NeSy 模型中，而无需要求符号推理过程是可微的。
可扩展性与效率： 该方法证明了 NeSy 学习可以扩展到精确推理难以处理或通过迭代求解器进行微分在计算上极其昂贵的任务。

实验结果

作者在三个基准测试上评估了 EM-NeSy：MNISTAdd（手写数字加法）、Visual Sudoku（视觉数独）和 Warcraft path-planning（魔兽世界路径规划）。

精确推理 (MNISTAdd)： EM-NeSy 达到了与标准端到端可微 NeSy (BP-std) 和 DeepStochLog 相当的准确率。然而，它在可扩展性和效率方面显著优于后者。虽然 DeepStochLog 由于知识编译限制无法扩展到 15 位数字，但 EM-Nexy 可扩展至 100 位数字。它还将峰值内存使用量从约 90 GB 降低到约 35 GB，并缩短了训练时间。
近似/不可微推理：
- Visual Sudoku： 标准的可微方法（Scallop, SL）在 9x9 网格上超时。使用近似贝叶斯计算 (ABC) 采样的 EM-NeSy 实现了具有竞争力的准确率 (53.3%)，且训练时间极短 (8.24 分钟)，而其他方法则无法适用。
- Warcraft Path-Planning： 使用 ABC 采样的 EM-NeSy 在 12x12 规模上达到了 98.80% 的 SOTA 准确率，在 30x30 规模上达到了 69.60%，且与 I-MLE 和 EXAL 相比，训练速度明显更快。
观察到的局限性： EM-NeSy 的性能取决于近似后验的质量。硬 EM (MAP) 在 MNISTAdd 上表现出偏差，而循环置信传播由于因子图结构的原因在 9x9 数独上失败了。ABC 采样在较大的实例上表现出高方差，但在较小的设置中仍然有效。

重要性与主张

论文声称 EM-NeSy 提供了一个统一的学习框架，通过消除对推理特定可微性修改的需求，显著简化了模型设计。通过将 NeSy 学习视为一个 EM 问题，该方法：

允许使用任何符号推理引擎，包括专门的、优化的或不可微的求解器。
在精确推理下恢复了标准的端到端学习，同时提供了卓越的计算效率和内存可扩展性。
使 NeSy 系统能够处理涉及复杂组合约束（如路径规划或数独）的任务，在这些任务中精确推理是不可行的，且难以构建可微的近似。

作者总结道，虽然 EM-NeSy 并没有解决选择有效近似的问题（这仍然是任务相关的），但它移除了可微性的障碍，从而实现了更具扩展性和灵活性的神经符号系统。