💬 NLP

Unlearning What Matters: Token-Level Attribution for Precise Language Model Unlearning

本文介绍了 TokenUnlearn，这是一个词元级归因框架，它通过利用知识与熵感知信号来识别并选择性定位关键词元，从而增强大语言模型中的机器遗忘能力，相较于传统的序列级方法，该方法在提升遗忘效果的同时更好地保留了模型效用。

原作者： Jiawei Wu, DouDou Zhou

发布于 2026-05-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Jiawei Wu, DouDou Zhou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗易懂的语言和生动的类比对论文《Unlearning What Matters》的解释。

核心难题：“焦土”策略

想象你有一座巨大的图书馆（大型语言模型），里面收录了数百万本书。突然，有人要求你从图书管理员的记忆中抹去某一本特定的敏感书籍。

目前的做法就像是为了确保那本书消失而烧毁了整座图书馆。它们告诉人工智能：“忘掉关于这个主题的一切。”于是，人工智能试图遗忘包含该主题的所有对话或句子。

问题在于：在任何句子中，只有少数几个词真正承载着“秘密”信息。其余的只是语法、标点或填充词（如“的”、“是”或“和”）。通过试图遗忘整个句子，人工智能会意外地遗忘它本不该丢失的有用信息，并留下一个“嘈杂”的混乱局面，使其无法确定究竟该遗忘什么。这就像试图通过搓洗整件衣服直到布料磨损变薄，来去除衣服上的特定污渍。

解决方案：TokenUnlearn（“手术刀”策略）

作者提出了一种名为TokenUnlearn的新方法。与其搓洗整件衣服，不如用手术刀只切除承载秘密信息的特定词语。

在人工智能术语中，“Token”只是单词的一个片段（就像拼图的一块）。该论文认为，知识并非均匀分布在句子中，而是集中在少数几个“关键 Token"上。

工作原理：“侦探”与“困惑度计”

为了找到这些关键单词，系统使用了两个巧妙的技巧：

掩码侦探（知识感知信号）：
想象你试图找出句子中哪个词承载着秘密。你拿这个句子，把重要的名词（如名字或日期）遮盖（掩码）起来。
- 示例： 原文："Yevgeny Grimkov 出版了九部小说。”
- 掩码后： "[MASK] [MASK] 出版了九部小说。”
- 如果你隐藏了"Yevgeny"这个名字后，人工智能对下一个词的预测发生了剧烈变化，那么这个词就是一个“关键 Token"。这意味着人工智能严重依赖那个特定的词来知道答案。如果预测没有太大变化，那这个词就只是填充词。
困惑度计（熵感知信号）：
有时，人工智能对答案感到不确定，因为它试图在几个事实之间做出选择。系统会寻找人工智能感到“困惑”（高熵）的时刻。这些时刻通常发生在人工智能访问特定知识时。这有助于捕捉到掩码技巧可能遗漏的词语。

系统将这两个线索结合起来，为句子中的每个词赋予一个“重要性评分”。

两种策略：“硬切断”与“调光开关”

一旦系统知道哪些词是重要的，它就会采用以下两种方式之一来教导人工智能进行遗忘：

硬选择（“硬切断”）： 人工智能被要求仅尝试遗忘最重要的前 20% 的词语。它完全忽略句子的其余部分。这就像外科手术般只切除布料上被污染的部分。
软加权（“调光开关”）： 人工智能被要求尝试遗忘所有词语，但它将重要词语的“遗忘力度”调得很高，将不重要词语的力度调得很低。这就像调节收音机的音量；重要词语声音大，其余词语声音小。

为何更优：“信噪比”

该论文使用了一个数学概念，称为信噪比。

信号： 实际遗忘不良数据的指令。
噪声： 因试图遗忘过多而对良好数据造成的意外损害。

旧方法就像在拥挤的房间里大喊一声低语；信息淹没在噪声中，你还会意外地打扰到其他人。TokenUnlearn 则像是直接在你需要告知的人耳边低语。通过只关注关键单词，“遗忘”的信号变得更强，而“噪声”（对其他知识的损害）则变得更弱。

结果：遗忘更彻底，保留更多

研究人员在三种不同的人工智能模型（小、中、大）上测试了这种方法，使用了两种测试类型：

TOFU： 一项测试，要求人工智能遗忘虚构的作者名字。
WMDP： 一项安全测试，要求人工智能遗忘有关武器和网络攻击的危险信息。

研究结果非常明确：

更好的遗忘： 人工智能比以往更有效地遗忘了目标信息。
更好的保留： 人工智能在保持通用知识和回答其他问题的能力方面表现更好。它整体上并没有变“笨”。
一致性： 这种方法在小模型和大模型上均表现良好。

总结

将机器遗忘想象成剪辑电影。旧方法就像剪掉包含你不想要台词的整个场景，这会破坏电影的连贯性。TokenUnlearn 则像是使用数字编辑器只删除特定的那句台词，而让场景（以及整部电影）的其他部分保持完好无损。它使人工智能更安全、更符合隐私规则，而不会破坏其“大脑”。

以下是论文《遗忘重要内容：用于精确语言模型遗忘的 Token 级归因》的详细技术总结。

1. 问题陈述

大型语言模型（LLMs）经常记忆敏感、受版权保护或有害的数据，因此需要机器遗忘来移除特定知识，而无需从头重新训练。

当前局限： 现有的遗忘方法在序列级别运行，对序列中的所有 Token 应用统一的梯度更新。
核心问题： 知识并非均匀编码；只有稀疏的 Token 子集（例如特定实体、日期、事实）承载目标信息，而其他 Token 则起结构或上下文作用。
统一更新的后果：
1. 梯度噪声： 更新非关键 Token 会引入噪声，降低遗忘过程的信噪比（SNR）。
2. 效用退化： 不加区分的更新会损害模型在不相关知识上的表现（附带损害）。
3. 次优遗忘： 由于梯度信号被无关 Token 稀释，模型无法有效移除目标知识。

2. 方法论：TokenUnlearn

作者提出了TokenUnlearn，这是一个将遗忘从序列级别转移到Token 级别的框架，通过识别并选择性 targeting“知识关键”Token 来实现。

A. Token 归因机制

为了识别哪些 Token 编码了需要遗忘的知识，该框架利用两个信号计算每个 Token 的综合重要性得分（ $\phi_i$ ）：

知识感知归因（掩码）：
- 机制： 模型在原始输入（ $z_{orig}$ ）上生成预测，并在知识相关部分（特别是提示词中的名词）被掩码的输入（ $z_{mask}$ ）上生成预测。
- 指标： 计算绝对对数概率偏移量（ $\Delta^{unlearn}_i$ ）。较大的偏移量表明该 Token 的预测高度依赖于目标知识。
熵感知互补信号：
- 机制： 计算 Token 的预测熵（ $H_i$ ）。
- 原理： 高熵可能表示决策点，即模型对依赖知识的延续（例如在多个合理事实之间选择）不确定。
- 组合： 最终得分为加权和： $\phi_i = \alpha \cdot \bar{\Delta}^{unlearn}_i + (1-\alpha) \cdot \bar{H}_i$ 。

B. Token 选择性优化策略

生成重要性得分后，框架仅对高重要性 Token 应用遗忘目标，采用两种策略：

硬选择（Hard Selection）：
- 基于 $\phi_i$ 选择前 $r$ 比例的 Token（例如前 20%）。
- 仅对这些 Token 应用遗忘损失；其他 Token 接收零梯度更新。
软加权（Soft Weighting）：
- 根据归一化重要性得分（使用温度参数 $\tau$ 的 softmax）调节每个 Token 的梯度贡献。
- 允许在统一更新和完全选择性更新之间进行平滑插值。

C. 与现有方法的集成

该框架与模型无关，可集成到标准的基于梯度的遗忘目标中，包括：

梯度上升（GA）
加权梯度上升（WGA）
负偏好优化（NPO）
表示重定向遗忘（RMU）
保留： 所有方法均结合“保留集”上的 KL 散度正则化，以保持通用能力。

3. 理论分析

该论文提供了理论依据，解释为何 Token 级选择能改善遗忘：

信噪比（SNR）： 作者将遗忘建模为沿参数低维子空间（ $U$ ）的移动。
噪声减少： 统一更新累积了所有 $T$ 个 Token 的噪声。Token 级选择将梯度权重集中在知识关键 Token 子集 $K$ 上。
结果： 梯度估计器的 SNR 与选择比例（ $T/|K|$ ）的倒数成比例提高。通过抑制非关键 Token 的更新，该方法减少了梯度噪声，并更有效地保留了不相关知识。

4. 实验结果

作者在三种模型架构（Phi-1.5、Llama-2-7B、Qwen-3-8B）的两个基准测试上评估了 TokenUnlearn。

基准测试

TOFU（虚构遗忘任务）： 细粒度知识遗忘（移除关于虚构作者的事实）。
WMDP（大规模杀伤性武器代理）： 安全对齐（移除危险的生物/网络安全知识）。

主要发现

更优的遗忘效果： Token 级变体（T-* 和 S-*）在遗忘有效性（遗忘集上的准确率更低）方面始终优于序列级基线。
- 示例： 在 Qwen-3-8B 的 TOFU 任务上，T-WGA 相比标准 WGA 显著提高了遗忘效果。
更好的效用保留： Token 级方法在非目标数据上保持了更高的模型效用（保留得分）。
- 示例： 在 Qwen-3-8B 上，相比序列级基线，保留得分提高了高达19.0%，同时实现了更好的遗忘。
泛化性： 该方法在不同模型规模和架构上表现一致。
消融研究：
- 选择比例（ $r$ ）： 20% 的比例（前 20% 的 Token）提供了遗忘与保留之间的最佳权衡。
- 熵权重： 结合熵信号（约 30% 权重）提供了互补优势，捕捉了仅靠掩码可能遗漏的不确定决策点。

5. 主要贡献

Token 级归因框架： 提出了一种原则性方法，利用反事实掩码和熵信号识别知识关键 Token，无需辅助模型。
选择性遗忘策略： 提出了“硬选择”和“软加权”策略，将现有遗忘算法扩展至 Token 级别运行。
理论洞察： 证明了 Token 选择性更新提高了梯度 SNR，解释了为何统一更新无法优化遗忘与保留的双重目标。
实证验证： 展示了在三种模型和两个不同基准（知识和安全）上的一致性改进，实现了高达32.6% 的遗忘提升和19.0% 的效用保留提升。

6. 意义与影响

隐私与法规： 通过移除特定数据痕迹而不降低模型通用效用，实现了更精确的“被遗忘权”合规（GDPR/CCPA）。
安全： 提供了一种更有效的机制，从预训练模型中移除危险能力（例如生物安全威胁）。
效率： 挑战了遗忘需要统一序列更新的假设，表明 LLM 中的知识是稀疏的，可以精确 targeting。
局限性： 该方法因额外的掩码前向传递而引入了计算开销。它是一种近似方法，不能保证 100% 移除知识痕迹（可能存在残留痕迹）。

总之，TokenUnlearn 代表了机器遗忘的范式转变，从粗粒度的序列更新转向细粒度的 Token 归因，从而解决了有效遗忘与效用保留之间的根本矛盾。