💻 computer science

Consistency-Aware Editing for Entity-level Unlearning in Language Models

本文介绍了一致性感知编辑（Consistency-Aware Editing, CAE），这是一种新颖的框架，它通过在多样化的实体相关提示词上联合优化低秩更新，以确保全面知识移除的同时保留模型能力，从而使模型编辑技术能够适配高效且鲁棒的实体级遗忘。

原作者： Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

发布于 2026-01-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Xiaoqi Han, Víctor Gutiérrez-Basulto, Ru Li, Xiaoli Li, Jiye Liang, Jeff Z. Pan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《Consistency-Aware Editing for Entity-level Unlearning in Language Models》（面向实体级遗忘的一致性感知编辑）的解释，采用了通俗易懂的语言和创意类比。

核心问题：“数字失忆症”困境

想象一下，大型语言模型（LLM）就像一本超级百科全书，它几乎读过了互联网上的所有内容。有时，这本百科全书会意外地记住一些不该记的东西，比如某位名人的私人住址、受版权保护的书籍章节，或是有害的刻板印象。

我们希望教会这本百科全书忘记这些特定的内容。然而，这里有一个难点：

我们不想把整座图书馆都烧了。 我们只想删除关于“成龙”的特定页面，而不是删除关于“武术”或“电影”的一般性页面。
我们不能仅仅擦除一个句子。 如果你问：“成龙出生在哪里？”，模型应该回答：“我不知道。”但如果你问：“《尖峰时刻》里的那位演员是谁？”，它也应该回答：“我不知道。”

挑战在于： 现有的方法就像试图通过划掉清单上的某一行来抹去一个名字。如果有人以稍微不同的方式（即“改写”）提问，模型可能仍然会记得答案，因为它只忘记了那个特定的句子，而没有忘记那个概念。

解决方案：CAE（一致性感知编辑）

作者提出了一种名为 CAE 的新方法。你可以把它想象成一个与旧方法完全不同的大师级橡皮擦。

1. 旧方法：“随机橡皮擦”

想象你有一个白板，上面有 100 种关于“成龙”的不同问法（例如：“他出生在哪里？”、“他的生日是什么时候？”、“《尖峰时刻》里的那个家伙是谁？”）。

旧方法： 你为每个问题准备一个单独的橡皮擦。你擦除问题 #1 的答案，然后擦除问题 #2，接着擦除问题 #3。
问题所在： 因为你在没有计划的情况下逐一擦除，当你试图修复问题 #2 时，可能会不小心把问题 #1 的答案也擦掉了。或者，你可能会因为手滑而漏掉问题 #5。结果很混乱：模型忘掉了一些东西，却还记得另一些东西，或者它变得混乱并开始产生幻觉。

2. 新方法 (CAE)：“同步团队”

CAE 改变了策略。它不再是一个个擦除，而是将这 100 个问题视为一个整体团队。

策略： 它收集所有关于“成龙”的不同问法。
“一致性”规则： 它强制要求所有的橡皮擦都向完全相同的方向移动。这就像一支花样游泳队；每位选手挥动手臂的角度和速度都完全一致。
结果： 与其进行 100 次细碎、混乱的涂抹，这个团队完成了一次巨大、干净、统一的擦拭，从而无论问题如何表述，都能将“成龙”这个概念从模型的脑海中彻底移除。

它是如何工作的（底层机制）

论文深入探讨了模型如何“思考”，以找到应用这种橡皮擦的最佳位置。

寻找记忆： 研究人员发现，模型将关于特定人物（如成龙）的事实存储在被称为 MLP 层（可以理解为模型的“文件柜”）的特定部分。
“关键项”选择： 他们并不只是随机抓取问题。他们使用一种数学工具（SVD）来挑选出最能代表“成龙”这一概念的最重要的 70 个问题。这就像挑选出一个人最具代表性的 70 张照片，以确保你能从任何角度识别出他。
“低秩”更新： 他们并没有重写整本百科全书（这既耗时又昂贵），而是对文件柜进行了微小且精确的调整。这就像是只更改了架子上的一张标签，而不是重建整个仓库。

研究发现（实验结果）

团队在两个主要的基准测试（RWKU 和 ToFU）上进行了测试，并将其与其他方法进行了对比。

更好的遗忘效果： CAE 在让模型对任何关于目标实体的提问（即使是那些没有直接提到名字的棘手问题）都回答“我不知道”方面表现得更好。
更少的附带损害： 由于“橡皮擦”是同步移动的，它们不会意外擦除相关主题的知识。例如，模型仍然知道如何讨论电影或演员，它只是不再了解关于成龙的具体信息。
高效性： 它非常快速。其他方法可能需要重新训练整个模型（就像为了学习一个新学位而重新读大学），而 CAE 只需要进行快速、有针对性的编辑。它只需通过几十个示例即可完成。
稳定性： 论文表明，即使你打乱问题的顺序或使用不同的模型，CAE 依然能稳定工作。它非常鲁棒。

总结

该论文认为，要真正从 AI 中“卸载”一个特定的人或实体，你不能仅仅修补一个个漏洞。你需要一种协调一致的方法，这种方法能够理解 AI 是如何存储这些信息的。

CAE 就像一把精密激光，精准锁定模型记忆中整个“成龙”文件夹并将其干净地删除，同时让图书馆的其余部分保持完好无损。 它解决了以往方法的最大弱点——即当用户换一种方式提问时，模型仍会记得答案的问题。

技术摘要：面向语言模型实体级遗忘的一致性感知编辑

1. 问题陈述

大语言模型（LLMs）会无意中记忆敏感、受版权保护或有害的信息，从而带来隐私和安全风险。虽然**知识遗忘（knowledge unlearning）旨在删除特定的不需要的知识，但现有方法在应用于实体级遗忘（entity-level unlearning）**时面临显著局限。

目前的方法主要侧重于实例级遗忘（instance-level unlearning），即针对从特定遗忘集（forget set）中提取的特定事实或表达进行删除。然而，实体级遗忘需要全面消除与特定实体（例如“成龙”）相关的所有信息，无论其表述方式或上下文如何。现有技术在这一领域往往表现不佳，原因如下：

对表面形式的过拟合（Overfitting to Surface Forms）： 它们倾向于过拟合于训练提示词的具体表面形式，难以在同一实体的多样化语言实现（改写/释义）之间进行泛化。
编辑的不一致性（Inconsistency in Editing）： 基于位置的模型编辑方法通过修改特定事实的参数来进行操作，通常将每个输入视为独立处理。当应用于与同一实体相关的多个提示词时，这些独立的优化会导致不一致的编辑方向。针对不同事实的更新可能会发生冲突，或者仅能部分擦除目标知识，导致出现“泄漏”现象，即模型对某些改写后的查询仍能做出正确回答。
附带损伤（Collateral Damage）： 为了提高覆盖范围而扩大遗忘集，往往会导致模型在无关事实或密切相关的实体上的性能大幅下降。

2. 方法论：一致性感知编辑 (CAE)

作者提出了一致性感知编辑（Consistency-Aware Editing, CAE），这是一个旨在使模型编辑技术适用于有效实体级遗忘的框架。其核心洞察在于，实体级知识存储在 Transformer 的 MLP（多层感知机） 模块中，特别是输出权重（ $W_{out}$ ）中。CAE 通过对与目标实体相关的多样化提示词进行联合优化，解决了不一致性问题。

关键组件：

数据聚合与选择：
- 该方法从 Wikidata 中检索关于目标实体的多样化事实，并将其转换为自然语言提示词（ $T_e$ ）。
- 通过使用文本生成模型进行改写，进一步增强这些提示词以创建增强集（ $T_g$ ）。
- 基于 SVD 的选择： 为了避免冗余和冲突的更新，通过奇异值分解（SVD）对这些提示词衍生的关键向量（ $K_f$ ）进行处理。该方法选择捕获最多显著投影能量的前 $r$ 个关键向量，以确保用于编辑的子集既紧凑又具有代表性。
一致性感知优化：
- CAE 不再独立编辑每个提示词，而是引入了一致性约束。
- 对于每个提示词 $x_j$ ，优化一个残差向量 $\delta_j$ 以抑制实体的特征关联。
- 在目标函数中加入了一个一致性损失（ $L_{Cons}$ ），该损失最小化了不同提示词之间更新后的隐藏状态（ $h_j^L + \delta_j$ ）的方差。这迫使所有残差向一个共同方向对齐，从而确保参数更新在实体的所有改写形式中都是连贯的。
- 最终的目标函数结合了负对数似然损失（用于诱导不确定性，例如回答“我不知道”）与一致性正则项。
多层传播：
- 优化的残差被分布到后续层中，以确保抑制效果能在网络中传播。
- 对 MLP 层的 $W_{out}$ 矩阵应用低秩更新（秩一修改），从而有效地删除实体的知识，而无需重新训练整个模型。

3. 核心贡献

识别局限性： 本文揭示了现有的基于位置的编辑方法由于在处理与同一实体相关的多个提示词时引入了不一致性，导致其在实体级遗忘方面表现不佳。同时，研究也确定了实体级知识主要存储在 MLP 模块中。
新颖框架 (CAE)： 作者引入了一个一致性感知编辑框架，该框架在一致性约束下联合优化有价值的事实。这实现了对整个实体的连贯且全面的遗忘。
基于 SVD 的事实选择： 提出了一种利用 SVD 选择实体中最有价值事实的策略，在减少所需提示词数量的同时，最大化了遗忘效果。
实验验证： 该方法在两个具有挑战性的基准测试 RWKU（100 个实体）和 ToFU（20 个实体）上进行了严格评估，证明了其性能优于现有的遗忘和编辑基线方法。

4. 实验结果

作者在 LLaMA3-Instruct (8B) 和 LLaMA3.1-Instruct (8B) 上对 CAE 进行了评估，并将其与基于梯度的方法 (GA, DPO, NPO)、基于提示的方法 (ICU, RepE) 以及基于编辑的方法 (MEMIT, EMMET, AlphaEdit) 进行了对比。

遗忘性能： 在填空（FB）、问答（QA）和对抗攻击（AA）探测中，CAE 在遗忘集上的得分最低（表明成功移除了知识）。例如，在 LLaMA3 的 RWKU 测试中，CAE 的“全部（All）”遗忘得分为 15.9，优于次优的编辑方法（EMMET 为 29.0）以及基于训练的方法。
鲁棒性与泛化能力： CAE 在邻近集（语义接近但不相关的实事）和效用集（如 MMLU、TruthfulQA 等通用能力）上保持了高性能。它实现了最高的 Mean FN（一种平衡遗忘与邻近集保留的指标），表明其在擦除目标知识与保留有用上下文之间取得了卓越的权衡。
效率： 与全参数微调方法相比，CAE 需要显著更少的样本（仅需 100 个甚至更少）以及更少的计算资源（单个 40GB GPU 即可）。
顺序遗忘： 该方法在顺序移除多个实体时表现出稳定性，不会降低先前已遗忘实体的遗忘性能。
消融实验：
- Token 选择： 编辑最后主语 Token (LST) 比编辑最后 Token (LT) 被证明更加有效且稳定。
- 一致性权重： 该方法在不同的一致性约束权重下均表现稳健。
- 数据源： 当使用 LLM 生成的合成数据代替 Wikidata 时，该方法依然具有良好的泛化性。

5. 重要性与主张

本文声称，一致性感知编辑通过弥合实例级编辑与更复杂的实体级遗忘需求之间的差距，代表了知识遗忘领域的重大进展。

可扩展性： CAE 提供了一种可扩展的方案，仅需通过数十个精心挑选的提示词即可移除实体，避免了全量重新训练的高昂计算成本。
精确度： 通过一致性约束对齐编辑方向，CAE 防止了独立编辑方法中常见的“部分遗忘”和知识泄漏问题。
洞察力： 这项工作提供了关于 LLM 内部如何表示实体级知识（主要在 MLP 中）以及如何系统性地删除这些知识的深刻见解。

作者总结道，CAE 在遗忘与保留之间提供了更优且更稳定的权衡，这使得它成为在需要全面遗忘特定实体的场景下，实现安全且负责任的 LLM 部署的一个极具前景的方向。