💬 NLP

Exploring the Reversal Curse and Other Deductive Logical Reasoning in BERT and GPT-Based Large Language Models

这项研究表明，虽然双向 BERT 模型在对称逻辑演绎方面免疫于阻碍自回归 GPT 模型的“反转诅咒”，但两种架构在复杂的集合推理方面都表现挣扎，这表明模型选择应当根据生物医学知识图谱构建等任务的具体逻辑需求进行定制。

原作者： Da Wu, Jingye Yang, Kai Wang

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Da Wu, Jingye Yang, Kai Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

聪明的小机器人与镜像迷宫

想象一下，你正在教一个机器人理解世界。你给它看一张猫的照片，并说：“这是猫。”随后，你给它看“猫”这个词，并问：“哪个图片与此对应？”人类的大脑可以毫不费力地完成这种切换；我们知道如果“猫”等于“图片”，那么“图片”就等于“猫”。但长期以来，那些最先进的计算机大脑——即大型语言模型（LLMs）——却在处理这种简单的翻转时表现挣扎。它们就像是那些背下了答案列表，但一旦你把问题倒过来问，它们就不知道该如何回答的学生。这种特定的故障被称为“逆转诅咒”（Reversal Curse）。

为了理解为什么这很重要，可以将这些 AI 模型想象成两种不同类型的读者。一种是解码器（Decoder，例如著名的 GPT 系列），它从左到右阅读故事，仅根据之前出现的内容来预测下一个词。它擅长写故事或完成句子，但它无法向前窥探以看到全貌。另一种是编码器（Encoder，例如 BERT），它一次性阅读整个句子，同时观察每个词与其它所有词之间的关系。这就像是用放大镜阅读句子，能同时看到每个词的上下文背景。科学家们一直在思考：如果我们教这些机器人进行基础的集合运算——比如合并朋友名单或寻找他们的共同好友——它们是真的能通过逻辑进行“思考”，还是仅仅根据以前见过的模式在进行猜测？这个问题至关重要，因为如果我们想利用这些机器人来构建复杂的知识图谱（例如用于医学或科学领域），它们需要具备推理能力，而不仅仅是重复。

论文的故事：谁能扭转局面？

在这项研究中，研究人员 Da Wu、Jingye Yang 和 Kai Wang 决定对这些不同的机器人大脑进行测试。他们想看看“逆转诅咒”是一个永久性的漏洞，还是仅仅是某些模型构建方式带来的特性，以及这些模型是否真的能处理涉及项目集合的更复杂的逻辑谜题。

镜像测试：逆转诅咒
首先，他们处理了“逆转诅咒”。想象一下，你教机器人“吉米·卡特是第39任总统”。如果你问机器人“谁是第39任总统？”，一个标准的机器人（如 GPT-3）通常会卡壳。它知道这个事实的正向信息，但无法将其翻转过来回答反向问题。研究人员发现，解码器模型（如 GPT 和 Llama）确实深受这种诅咒之苦；它们很难从“A 是 B”推导出“B 是 A”。

然而，编码器模型（BERT）的情况则大不相同。因为 BERT 是双向同时阅读的，所以它不会感到困惑。当研究人员询问 BERT 反向问题时，它的回答正确率高达 99%。事实证明，如果你希望机器人理解一段关系是双向通用的，你需要一个能够观察全局的大脑，而不仅仅是关注过去。

逻辑谜题：混合与匹配集合
接下来，团队转向了一个更难的挑战：集合运算。他们教机器人执行“并集”（将两个朋友列表合并为一个大列表）和“交集”（寻找同时出现在两个列表中的朋友）。

简单级别（两个集合）： 当机器人被要求组合或比较仅有的两个名称组（如“超级英雄”和“恐龙”）时，解码器模型（Llama 2 和 3）和编码器模型（BERT）都表现得非常出色。它们几乎每次都能给出正确答案。看起来它们已经掌握了逻辑。
困难级别（三个集合）： 随后，研究人员增加了谜题的难度。他们要求机器人同时处理三个组，或者进行混合运算，例如“找出 A 组和 B 组的共同朋友，然后加上 C 组”。

就在这里，魔术表演破功了。虽然机器人在处理简单的两组任务时表现出色，但在涉及三个组时却表现得很糟糕。

BERT 的问题： BERT 模型似乎在“作弊”。它并没有真正进行数学计算，而只是在寻找它认识的单词。如果句子中出现了一个它从未见过的名字，它会立即判定“错误”。但如果错误的答案使用了它认识的名字，它就会感到困惑并判定“正确”。它是在记忆词汇，而不是理解逻辑。
Llama 的问题： Llama 模型（即解码器模型）也遇到了困难。当被要求寻找三个组中的共同朋友时，它们经常只是列出它们所知道的所有名字，而忽略了谜题的具体规则。它们似乎是在回忆训练期间见过的名字列表，而不是在计算正确的交集。

GPT-4 这个变数
研究人员还测试了最新的闭源模型 GPT-4。这个机器人比其他模型要好得多。它可以正确处理大多数三集合逻辑谜题，通常会将问题分解为较小的步骤来解决。然而，即使是 GPT-4，在集合数量过多（如七个或八个集合）时也会开始出错，这表明即使是最聪明的现有模型，在处理复杂的、多步骤的演绎时也是有极限的。

核心启示

这篇论文的主要教训是，并非所有的 AI 大脑都是以同样的方式构建的，也没有哪种机器人是完美的。如果你需要一个模型来理解反向的关系（例如翻转一个事实），双向模型（如 BERT）是明显的赢家。但如果你需要一个模型来写故事或预测句子中的下一个词，单向模型（如 GPT）仍然是王者。

最重要的是，这项研究表明，虽然这些模型在识别模式和模仿人类语言方面非常出色，但它们并不一定在以人类的方式进行“思考”。当逻辑变得过于复杂时，它们往往会退回到记忆单词而非理解规则的状态。因此，如果你正在构建一个用于创建医学知识图谱或解决难题数学证明的系统，你不能仅仅指望机器人自己去搞定；你必须非常谨慎地设计提问方式，并选择适合工作的机器人类型。机器人正在变得越来越聪明，但它们在真正的逻辑推理方面仍有很长的路要走。

技术摘要：探索 BERT 与 GPT 类 LLM 中的反转诅咒与演绎逻辑推理

问题陈述

本研究探讨了“反转诅咒”（Reversal Curse）现象。这是一种在自回归解码器（autoregressive decoder）架构的大语言模型（LLMs）中观察到的现象，即模型在经过“A 是 B”的正向关系训练后，无法推导出逆向关系“B 是 A”。这种局限性阻碍了像 GPT-3 和 Llama-1 这样在需要双向逻辑推理任务（如构建知识图谱）中的可靠性。此外，本文还研究了这些模型（包括双向编码器模型 BERT）是否具备进行更复杂演绎推理的能力，具体表现为在未针对特定组合进行显式训练的情况下，执行集合交集（ $\cap$ ）和并集（ $\cup$ ）运算的能力。

研究方法

作者对双向编码器模型（BERT）与自回归解码器模型（GPT-4、Llama 2 和 Llama 3）进行了对比分析，实验涵盖两个主要领域：

反转诅咒评估：
- 数据集： 研究使用了原始“反转诅咒”论文中的数据集，并将其改编为文本分类任务。该数据集包含合成的名称与描述对（例如，“吉米·卡特”与“第39任总统”）。
- 模型： 将经过二分类微调的 BERT 与 GPT-3 (175B) 及 Llama 3 进行对比。
- 任务： 测试模型在仅依赖正向方向（名称 $\to$ 描述）训练后，推导逆向方向（描述 $\to$ 名称）的能力。
集合运算推理（交集与并集）：
- 数据生成： 使用四个类别实体（超级英雄、恐龙、哺乳动物、鸟类）创建合成数据集。
- 训练： 模型针对涉及两个集合（ $A \cap B$ $A \cap B$ 和 $A \cup B$ $A \cup B$ ）的“简单”任务进行微调。
  - BERT： 针对二分类的正例和负例进行训练。
  - Llama 2/3： 仅针对正例进行下文预测（next-token prediction）训练（自回归生成）。
- 测试： 模型在以下情况进行评估：
  - 简单案例： 未见过的两个集合的运算。
  - 复杂案例： 涉及三个集合的操作，包括三集合交集（ $A \cap B \cap C$ ）、三集合并集（ $A \cup B \cup C$ ）以及混合运算（ $(A \cap B) \cup C$ 和 $(A \cup B) \cap C$ ）。
- 指标： BERT 使用召回率（Recall）、精确率（Precision）和 F1 分数进行评估。Llama 模型使用精确匹配（Exact Match）和 80% 匹配率进行评估。GPT-4 则作为专有模型通过启发式方法进行评估。

关键结果

1. 对反转诅咒的免疫力

BERT： 展示了极高的熟练度（约 99% 的准确率）来从“A 是 B”推导“B 是 A”，证实了双向编码器模型不受反转诅咒的影响。
解码器模型（GPT-3, Llama 3）： 与现有文献一致，当仅依赖预训练或正向数据的微调时，这些模型在逆向方向上的准确率接近于零。

2. 二集合运算性能

在涉及两个集合的简单交集和并集任务中，BERT 和 Llama 模型均表现稳健，达到了较高的准确率（BERT 约 99%，Llama 略低但仍处于高水平）。
作者指出，尽管性能很高，但目前尚不清楚模型是真正理解了逻辑，还是仅仅识别了提示词中的模式。

3. 三集合复杂运算的失败

普遍困境： 当测试涉及三个集合且未针对这些特定组合进行过往特定训练的操作时，两类模型都表现出显著的局限性。
BERT 的偏差： 虽然 BERT 在处理正例时保持了高准确率，但它表现出强烈的词汇量偏差。它能正确识别包含“新名称”（训练集之外）的负例，但在处理包含“已知名称”但排列错误（如子集或超集）的负例时表现挣扎。这表明 BERT 依赖于术语复现而非语义逻辑结构。
Llama 的模式匹配： Llama 2 和 3 仅在三集合并集任务（ $A \cup B \cup C$ ）中表现良好，在预测目标集合至少 80% 的内容方面达到了 92% 的准确率。然而，它们在处理交集和混合运算时表现极差，经常出现幻觉或直接召回所有先前见过的实体，而非应用逻辑运算符。
GPT-4： 在处理三集合操作时表现出比 Llama 2/3 更好的能力，通常能够将问题分解为多个步骤。然而，随着集合数量的增加（例如七个或八个集合），其错误率也会上升，表现并非完美。

核心贡献

验证了反转诅咒： 证实了反转诅咒是自回归解码器的架构局限性，而双向编码器（BERT）对此具有免疫力。
逻辑推理基准： 证明了即使对 LLM 进行简单的集合运算（两个集合）微调，也无法泛化到复杂的逻辑组合（三个集合）。
架构对比： 提供了一次直接对比，显示虽然解码器擅长序列预测，但对于需要双向上下文和逻辑关系分类的任务，编码器可能更具优势。
偏差分析： 指出当面对已知实体的创新组合时，LLM 通常依赖于表层模式匹配（召回已见过的 token）而非抽象的逻辑演绎。

意义与主张

本文结论认为，选择 LLM 架构（编码器 vs. 解码器）应由特定任务的逻辑需求驱动。

对于知识图谱： 作者警告不要仅仅依赖自回归解码器模型来构建医学知识图谱或进行严密的逻辑演绎（例如，本体术语的集合交集/并集）。这些模型无法可靠地推导逆向关系或泛化复杂的集合运算，这表明它们更多地扮演着“写作助手”的角色（复制学习到的模式），而非“逻辑机器”。
对于逻辑任务： 需要进行逆向演绎或双向关系分类的任务，更适合使用像 BERT 这样的双向编码器。
局限性： 研究强调，目前的 LLM 即使经过微调，也缺乏自主演绎复杂逻辑序列（如 $A \cap (B \cup C)$ ）的能力，除非有类似的结构暴露在训练中。作者建议，要在高风险环境（如医学诊断、数学证明）中实现可靠的逻辑推理，可能不仅仅需要扩大数据规模，还需要设计旨在增强逻辑结构理解的高级算法。