🤖 machine learning

MAAT: Multi-phase Adapter-Aware Targeted Unlearning

本文介绍了 5WBENCH，这是一个揭示了现有机器遗忘方法在处理涉及多跳推理和梯度稀释的因果“为什么”问题时存在失败现象的平衡基准测试，并提出了 MAAT，一种新型的三阶段适配器感知框架，该框架首次在处理此类因果知识时实现了高水平的遗忘与保留。

原作者： Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你拥有一个巨大的、超级聪明的图书馆（一个大型语言模型），它几乎无所不知。有时，你需要从这个图书馆中移除一本特定的书，因为这本书已经过时了、涉及隐私或者干脆就是错误的。这个过程被称为**“机器遗忘”（Machine Unlearning）**。

然而，这篇论文指出，目前测试图书馆是否成功移除了一本书的方法是存在缺陷的。以下是关于 MAAT 和 5WBENCH 的故事，通过简单的语言进行解释。

问题所在：“为什么”问题的盲区

想象你正在测试一名图书管理员，看他是否忘记了一个特定的事实。

目前的测试： 大多数测试只问简单的问题，比如“谁是总统？”或“首都로 是哪里？”这些问题很容易被遗忘。如果管理员说“我不知道”，你就认为他做得很好。
缺失的一环： 论文指出，这些测试几乎从不询问 “为什么” 类的问题（例如，“为什么吸烟会导致癌症？”）。“为什么”类的问题就像是由逻辑砖块搭建而成的复杂多层建筑。它们很难被拆除。

缺陷： 由于目前的测试忽略了“为什么”类问题，管理员可能会没能忘掉一个复杂的“为什么”事实，但依然能获得完美的分数，因为他记住了所有的“谁”和“什么”这类简单事实。这就像一个学生虽然数学考试不及格，却因为拼写测试拿了 A 而获得了优异成绩一样。

解决方案第一部分：5WBENCH（新的测试方法）

作者构建了一个新的、公平的测试方法，称为 5WBENCH。

类比： 把这想象成一种用于测试的均衡饮食。他们不仅提供苹果（简单事实），还提供一个包含五种食物、且每种分量完全相等的餐盘：谁 (Who)、什么 (What)、何时 (When)、何地 (Where) 和为什么 (Why)。
结果： 这个测试揭示了现有的方法在遗忘“为什么”类事实方面表现得很糟糕。它们要么忘得不够（事实依然存在），要么忘得太多（破坏了管理员回答任何问题的能力）。

解决方案第二部分：MAAT（智能橡皮擦）

为了解决这个问题，作者创造了 MAAT（多阶段适配器感知定向遗忘）。

设置：
想象图书馆里的知识不是写在墙上的，而是写在贴在书上的**特殊便利贴（LoRA 适配器）**上。你不需要拆掉整个图书馆，你只需要编辑这些便利贴即可。

MAAT 的运作方式（三个阶段）：

第一阶段：“别碰那个”护盾（梯度投影）
- 问题： 当你试图擦除一个“为什么”类事实时，橡皮擦可能会不小心擦掉你想要保留的“何时”类事实。
- 解决方法： MAAT 使用了一个护盾。它观察“擦除”的力量方向和“保留”的力量方向。如果它们在互相冲突，它会调整擦除的角度，使其只击中目标，并滑过那些你想要保留的东西。
第二阶段：“手术刀”式手术（SVD 修剪与任务否定）
- 问题： “为什么”类事实很长且很复杂。它们分散在许多张便利贴上，因此很难找到并移除。
- 解决方法： MAAT 对便利贴进行“手术”。
  - 它识别出持有“错误”信息的特定部分（使用一种名为 SVD 的数学工具）。
  - 它只切除这些特定的部分（修剪/Pruning）。
  - 然后，它将剩余的“错误”部分翻转过来（否定/Negation），使它们相互抵消。
- 关键细节： 它非常小心，不会切掉那些帮助管理员回答其他问题的便利贴部分。
第三阶段：“抛光”（混合修复）
- 问题： 在切割和翻转之后，管理员可能会变得有些手抖或健忘，甚至连原本该记得的东西也忘了。
- 解决方法： MAAT 温柔地将图书馆重新“抛光”。它重新教导管理员应该记住的事情，但它增加了一条特殊规则：“不要重新学习你刚刚被擦除的东西。”这就像告诉一个学生：“去复习你的历史，但不要背诵那个我们刚刚划掉的具体日期。”

结果：一种新的平衡

在 MAAT 出现之前，你必须做出选择：

选项 A： 忘掉坏事实，但破坏了图书馆（管理员变得无法使用）。
选项 B： 保持图书馆正常运转，但未能成功遗忘坏事实。

MAAT 的成就：
使用新的 5WBENCH 测试，MAAT 是第一个能同时做到这两点的方法。它成功地遗忘了复杂的“为什么”类事实，同时又没有破坏管理员回答其他问题的能力。

一句话总结

论文的核心观点是：“目前的测试是不公平的，因为它们忽略了困难的‘为什么’问题，所以我们构建了一个更好的测试（5WBENCH）和一个更聪明的橡皮擦（MAAT），它可以在不破坏其余图书馆的情况下移除复杂的知识。”

技术摘要：MAAT：多阶段适配器感知定向遗忘

1. 问题陈述

本文指出，现有的机器遗忘基准测试（如 CounterFact, ZSRE, TOFU, MUSE, WMDP-Cyber）存在严重的结构性偏差。这些数据集过度向以实体为中心的“What”（什么）、“Who”（谁）、“When”（何时）和“Where”（何地）类问题倾斜，而旨在探测因果及关系知识链的“Why”（为什么）类问题在这些数据集中占比不足 0.06% 至 1.3%。

这种近乎零的代表性造成了测量缺口：即使遗忘方法未能移除因果知识，仍能获得极高的综合评分。作者认为，因果知识在本质上更难遗忘，原因在于两个因素：

长度与复杂度： “Why”类问题的回答平均长度为 40.1 个 token（而其他类型仅为 4.2–10.5），且 44% 涉及多跳推理链（而其他类型 $\le$ 2%）。
梯度稀释： 遗忘这些事实所需的上升信号分布在长 token 跨度中，缺乏主导方向，导致标准的基于梯度的算法在被迫采取激进策略时，要么无法实现遗忘，要么会导致保留知识的退化。

现有的方法（梯度上升、KL 正则化梯度上升、适配器否定）面临着一个根本性的权衡：激进的遗忘会损害模型效用（保留能力），而保守的方法则无法彻底遗忘因果事实。

2. 方法论：MAAT 框架

作者提出了 MAAT（Multi-phase Adapter-Aware Targeted Unlearning，多阶段适配器感知定向遗忘），这是一个直接作用于 LoRA 适配器权重（而非将其合并至基座模型）的三阶段框架。这使得实现的是结构化的“适配器手术”，而非统一的梯度压力。

第一阶段：梯度投影上升

标准的梯度上升进行统一更新，如果遗忘梯度 ( $g_f$ ) 与保留梯度 ( $g_r$ ) 对齐，可能会侵蚀保留的知识。MAAT 采用了条件正交投影：

如果 $g_f \cdot g_r > 0$ （存在冲突），则通过投影移除与 $g_r$ 对齐的 $g_f$ 分量：
$g^\perp_f = g_f - \frac{g_f \cdot g_r}{\|g_r\|^2 + \epsilon} g_r$
如果不存在冲突，则保留完整的遗忘上升方向。
该目标函数在最小化遗忘损失的同时，通过 KL 散度将模型锚定在预遗忘的适配器状态。

第二 (a) 阶段：SVD 秩维度剪枝（仅限 MLP）

为了解决低幅度方向中的残留信号，MAAT 根据遗忘集上的梯度列范数对多层感知器（MLP）适配器维度进行评分。

在 MLP 模块（down_proj, up_proj, gate_proj）的 $A$ 和 $B$ 矩阵中，将前 $\rho$ 比例的秩维度置零。
至关重要的是，排除注意力模块的剪枝，以避免破坏指令遵循能力。

第二 (b) 阶段：任务向量否定

此阶段针对第二 (a) 阶段识别出的特定遗忘子空间。

将每个 LoRA $B$ 矩阵中得分最高的前 $k_F$ （例如 50%）个遗忘秩维度进行掩码处理，以形成“遗忘任务向量” $\tau^F_l$ 。
从权重中减去该向量： $B_l \leftarrow B_l - \alpha \cdot \tau^F_l$ 。
这实现了定向抑制，而不会无差别地抹除与保留相关的方向。

第三阶段：混合保留修复

为了恢复因剪枝和否定而受损的性能，系统最小化一个混合修复目标。它结合了四个项：

KL 散度： 将模型锚定在保留分布上。
隐状态距离： 最小化保留样本在当前状态与参考状态之间的距离。
熵最大化： 一个负熵项 ( $-w_{ent} H_F$ ) 使遗忘集预测的熵最大化，防止模型在修复过程中重新学习已遗忘的内容。
任务向量惩罚： 惩罚当前权重与遗忘任务向量之间的余弦相似度。

3. 核心贡献

1. 5WBENCH 基准测试

作者引入了 5WBENCH，这是一个源自 Factify-5WQA 语料库的平衡 5,000 样本基准测试。

结构： 每个 5W 类别（Who, What, When, Where, Why）各包含 1,000 个示例。
意义： 它提供了第一个具有统计学意义的“Why”类问题覆盖（占数据集 20%），从而能够量化此前在偏斜基准测试中无法检测到的因果遗忘失败。
格式： 与 EasyEdit 兼容，包含标准答案、标签以及用于鲁棒性测试的改写变体。

2. MAAT 算法

MAAT 是第一个能同时在“Why”型因果知识上实现高遗忘率和高保留率的方法。它利用 LoRA 适配器的结构属性，通过 SVD 评分和任务向量否定来隔离并抑制由遗忘集输入激活的特定秩维度。

4. 实验结果

该框架在 LLaMA 3.2-3B 和 Gemma 3-4B 上进行了评估，并使用 Qwen 2.5-7B 作为 LLM 裁判进行评判。

在 5WBENCH 上的表现

帕累托前沿（Pareto Frontier）： MAAT 找到了一个新的运行点，在 LLaMA 3.2-3B 上同时超过了 60% 的遗忘成功率 (FSR) 和 60% 的保留成功率 (RSR)，涵盖所有五个 5W 类别。
- Llama 3.2-3B： 77.4% FSR / 71.6% RSR（聚合）。
- Gemma 3-4B： 64.0% FSR / 61.8% RSR（聚合）。
“Why”类表现：
- MAAT：63% FSR / 65% RSR (Llama)。
- 基线方法（GA, GA+KL, AN, RO-FT）均未能达到这种平衡。例如，梯度上升 (GA) 实现了 44% FSR 但 78% RSR，作者将其归因于“遗忘不足”（模型保留事实仅仅是因为没能忘掉，而不是因为它保留了效用）。
基线方法的失败：
- 适配器否定 (AN)： 实现了近乎完美的遗忘（99.8% FSR），但导致了灾难性的保留崩溃（0.4% RSR），证实了完全的任务向量否定会无差别地移除遗忘和保留知识。
- RO-FT： 高保留率，但遗忘效率低于 MAAT。

在 TOFU 上的表现

在缺乏显著“Why”覆盖的 TOFU 数据集上，MAAT 取得了竞争力的结果（Llama 上为 67.5% FSR / 46.6% RSR），展示了跨不同数据分布的鲁棒性，尽管论文指出 TOFU 的类别不平衡限制了其进行因果分析的效用。

消融实验

梯度投影： 对于在上升过程中保护保留知识至关重要。
混合修复： 对于恢复因剪枝和否定而损失的保留能力是必要的；如果没有熵项，修复阶段会无意中恢复已遗忘的内容。
任务向量否定 vs. 注意力剪枝： 用任务向量否定替换注意力剪枝（条件 D）在保持相似遗忘强度的同时，显著提升了保留率（76% vs. 54% RSR），验证了将注意力模块排除在结构化剪枝之外的决策。

5. 重要性与主张

论文声称，MAAT 是第一个专门针对因果（Why-type）知识成功处理“遗忘-保留”权衡的方法，而这一领域是现有基线方法的弱点。

结构性洞察： 作者证明，遗忘因果事实的难度源于关系复杂性和梯度稀释，而非独特的权重空间足迹（编码分析显示，所有 5W 类别在编码上分布均匀）。
评估影响： 通过引入 5WBENCH，本文提供了一个工具来揭示现有方法中的“遗忘不足”伪影——即高保留得分实际上是由于遗忘失败所导致的产物。
架构敏感性： 结果表明，基于适配器的遗忘会继承基座模型的知识编码结构。LLaMA 与 Gemma 之间的性能差距表明，适配器秩维度中的知识可分离性是依赖于架构的。

作者总结道，虽然 MAAT 达到了新的帕累托前沿，但该领域需要平衡的评估分类法，以检测因果知识遗忘中的失败，而目前的标准基准测试掩盖了这些问题。