💻 computer science

sLTN: Structural Logic Tensor Networks

本文引入了 sLTN，这是一个通过将结构维度作为一等公民引入，从而实现对时间、序列和关系约束的显式表示与可微学习的神经符号框架，该框架是对逻辑张量网络（Logic Tensor Networks）的扩展。

原作者： Davide Rinaldi, Luciano Serafini

发布于 2026-08-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Davide Rinaldi, Luciano Serafini

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教会一台计算机理解这个世界。你的工具箱里有两个强大的工具。第一个是机器学习，它就像一个观察力极强的学徒，通过观察数百万个例子来进行学习。它非常擅长发现模式，比如在照片中识别出一只猫，但它并不真正“知道”猫到底“是什么”，也不理解猫为什么会表现出那样的行为。第二个工具是逻辑，它就像一本严格的规则手册或一套法律。它知道如果“所有的猫都有尾巴”且“小布布是一只猫”，那么“小布布一定有尾巴”。但逻辑通常是僵化的，在处理杂乱的现实世界数据时会显得力不从心。

一段时间以来，科学家们一直试图将这两个工具结合成一个名为神经符号人工智能（neurosymbolic AI）的单一系统。其目标是创造一种既能从数据中学习，又能同时遵循逻辑规则的 AI。其中一个流行的框架叫做逻辑张量网络（Logic Tensor Networks, LTN）。可以将 LTN 想象成一个翻译官，它将逻辑规则转化为计算机可以使用梯度（一种通过逐步改进答案来优化结果的方法）来解决的数学问题。然而，原始版本的 LTN 有一个盲点：它是为“扁平化”数据设计的。它将一切都视为一堆巨大的、无组织的个体项目。它不知道如何处理具有自然顺序或结构的事物，比如时间轴上的事件序列、故事中的步骤列表，或是社交网络中朋友之间的联系。这就像是通过仅仅列出演员名单来描述一部电影，却完全没有提到情节或时间线。

正是在这里，一篇新论文登场了，它介绍了 sLTN（结构化逻辑张量网络）。作者 Davide Rinaldi 和 Luciano Serafini 意识到，世界不仅仅是物品的堆砌；它充满了结构。时间向前流动，句子有词序，图结构有连接。他们构建了一个 LTN 的升级版，将这些结构视为“一等公民”。在 sLTN 中，你可以直接在逻辑规则中讨论“时间步”、“序列位置”或“图节点”。

这篇论文不仅提出了这是一个好主意，还提供了完整的数学蓝图（语法和语义）以及一个基于 PyTorch 构建的可用软件库。他们展示了 sLTN 如何将一条逻辑规则——例如“如果一个数字出现在时间 $t$ ，那么它也应该出现在时间 $t+1$ ”——转化为计算机可以从中学习的数学问题。他们通过一个视频分类任务展示了这一点，在该任务中，AI 必须观看显示一个数字被绘制出来的帧序列。该系统利用关于时间和序列的逻辑规则，学会了区分那些数字平滑出现与那些数字闪烁出现的视频。作者表明，如果移除结构化特征，sLTN 会完美地退回到原始的 LTN，证明了它是一个真正的扩展。虽然论文提出了一个坚实的框架和可运行的代码，但作者也指出，该系统仍是一个新的库，需要进行更多的测试和超越这些初步示例的现实世界验证。这是迈向能够理解事物不仅是“是什么”，而且是“如何排列”的 AI 的重要一步。

技术摘要：结构化逻辑张量网络 (sLTN)

问题陈述

逻辑张量网络 (LTN) 提供了一种神经符号框架，通过将逻辑符号解释为张量并将逻辑连接词解释为可微模糊算子，将一阶逻辑与神经网络集成。虽然在处理扁平集合（如语义图像解释、推荐系统）的任务中非常有效，但原始的 LTN 形式化缺乏处理具有内在结构化组织数据的显式机制。

在诸如时间序列、序列数据或图结构输入等领域，结构化组织（时间顺序、序列位置、图连通性）是问题的语义组成部分，而非仅仅是实现细节。原始 LTN 框架将数据视为扁平集合，这使得它难以表达显式引用位置或关系模式的约束，例如时间持久性、图中的邻域约束或有序位置之间的依赖关系。这种局限性限制了该框架在结构化推理任务中的适用性，因为在这些任务中，逻辑语言必须直接引用对象所组织的轴向。

方法论

为了解决这些局限性，作者引入了结构化逻辑张量网络 (sLTN)，这是 LTN 的一种扩展，它将结构维度提升为逻辑语言的一等公民。该方法论建立在三个核心支柱之上：

1. 扩展语法与签名

sLTN 扩展了标准的多元一阶签名，以包含：

结构维度 ( $D$ )： 代表领域特定组织的命名张量轴（例如时间步 $T$ 、序列位置、图节点）。
结构变量 ( $\Xi$ )： 范围在于声明的结构维度索引之上的变量，与范围在于个体的一阶变量不同。
结构关系 ( $R$ )： 关于结构索引元组的关系，解释为布尔或模糊掩码。例如，关系 next(t, t') 可以表达相邻连续时间步之间的邻接关系。

该语言支持结构量化（对维度的索引进行量化）、受限结构量化（仅在结构关系成立时评估公式）以及轴注释/选择（重命名或切片特定的结构轴）。

2. 模糊张量语义

sLTN 的语义通过带注释张量来定义，这些张量显式地追踪每个张量轴的角色（变量、结构或领域）。

实例化 (Grounding)： 符号被实例化为张量或张量映射。常量和变量根据其维度剖面携带结构轴。函数和谓词被实例化为消耗并产生特定结构剖面的局部映射。
结构关系： 被实例化为结构索引上的真值掩码（例如，对于 next，若 $j = i+1$ ，则 $M_{i,j} = 1$ 的硬掩码）。
组合表示： 项和公式的表示通过结构递归进行计算。关键操作包括：
- 命名轴对齐： 在应用逐点运算或局部映射之前，通过名称和角色对齐张量。
- 消耗与传播： 谓词和函数可以“消耗”结构轴（对其进行聚合）或逐点传播它们。
- 聚合： 量词（包括一阶量词和结构量词）被解释为对应变量或结构轴上的聚合算子（例如，均值、最小值、最大值）。受限量词使用其守卫（guard）的真值作为聚合过程中的权重或掩码。

3. 学习与优化

sLTN 中的学习被表述为优化知识库（一组闭合子句）以最大化其满足度。

多目标表述： 由于知识库由多个子句组成，满足度自然是一个多目标问题。
标量化学习： 子句的满足度被聚合为一个单一的标量损失，使用可配置的聚合器（例如幂平均）进行反向传播前的处理。
多目标学习： sLTN 支持保留逐个子句的损失，并通过雅可比下降聚合器（例如 PCGrad）结合它们的梯度，以处理冲突的目标而不进行过早的标量化。
可微性： 整个框架（包括模糊算子和聚合）都使用 PyTorch 中的可微张量操作实现，从而实现基于梯度的解释参数优化。

主要贡献

本文做出了三个主要贡献：

语言扩展： 它通过引入结构维度、结构变量和结构关系扩展了 LTN 语言，使结构化组织成为逻辑建模的显式对象。这允许公式直接引用位置和关系模式。
形式化语义： 它为 sLTN 提供了严谨的模糊张量语义，定义了结构化构造如何与可微连接词和量词聚合相结合。它证明了当不存在结构维度时，可以恢复原始 LTN 的语义。
模块化实现： 它描述了一个将语法（签名、解析器）与语义（解释）分离的模块化 Python/PyTorch 实现。该库支持声明式签名定义、公式解析以及带有命名轴操作的张量化解释。

结果与说明性示例

论文并未展示大规模的经验基准测试，而是通过一个涉及 MNIST 数字的运行视频分类示例来说明该框架的能力。

任务： 区分“出现”视频（数字单调显现）和“非出现”视频（数字循环显现与隐藏）。
sLTN 的应用：
- 时间持久性： 一个公式表达了如果一个数字在时间 $t$ 是完整的，那么它在 $t+1$ 也应该是完整的（使用 next 关系）。
- 边界条件： 公式利用轴选择来强制要求“出现”视频在 $t=0$ 时是不完整的，而在 $t=T-1$ 时是完整的。
- 全序列判断： appear 谓词消耗整个时间轴以做出全局分类，这与 Complete 等帧级谓词不同。
实现： 该示例演示了如何声明签名、定义派生谓词（例如 is_appear）、解析带有结构量词的复杂公式，以及使用 kb_backward 接口通过标量化或多目标优化进行训练。

重要性与主张

论文将 sLTN 定位为 LTN 框架为了应对处理结构化数据中日益增长的需求而进行的必要演进。

表达能力： 通过将结构维度视为一等公民，sLTN 允许直接在问题的语义层面（例如时间顺序、图拓扑）表达逻辑约束，而不是强行将其转化为扁平表示。
兼容性： 该框架保留了 LTN 的核心优势，包括可微模糊语义和基于梯度的优化，同时将其扩展到结构化输入。
实际效用： 语法与语义的分离，以及提供的 PyTorch 实现，旨在降低将神经符号推理应用于复杂结构化领域（如时间推理、序列处理和基于图的学习）的门槛。

作者承认 sLTN 是一个初步框架，需要进一步的稳定化和系统的经验验证。他们概述了未来的工作方向，包括开发领域特定的结构化理论、使用有限递归计算原语扩展语言，以及研究原则性的超参数调度方案以提高训练稳定性。本文作为 sLTN 开源库的伴随文档，为其使用提供了理论基础。