🤖 machine learning

GROM: Gradient-Free Rapid One-Shot Machine Unlearning

GROM 是一种新颖的、无梯度、单次（one-shot）机器遗忘方法，它通过推导出一个闭式解析权重更新，旨在快速且永久地从大语言模型中擦除敏感知识，同时保持效用并抵御基于量化的恢复攻击。

原作者： Paweł Batorski, Przemysław Spurek, Paul Swoboda

发布于 2026-08-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Paweł Batorski, Przemysław Spurek, Paul Swoboda

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一个巨大的、超级聪明的机器人，它读过了互联网上几乎所有的书。它非常擅长回答问题、编写故事以及辅导功课。但有时，这个机器人会记住一些它不该记住的东西——比如某位名人的私人生日、一个秘密食谱，或者一个危险的化学公式。在人工智能的世界里，这是一个大问题。我们需要一种方法让机器人“忘记”这些特定的事实，但又不能破坏它的脑子，或者让它在其他方面变得愚笨。这被称为机器卸载（Machine Unlearning）。

把这个机器人的大脑想象成一个庞大的连接库。旧的遗忘方法就像是试图通过缓慢而痛苦地重新排列每一本书来从图书馆中抹除一本特定的书，这需要耗费大量时间，而且有时这本书只是被藏在了帘子后面，而不是真的被扔掉了。如果你眯起眼睛看（或者在这种情况下，如果你缩小图书馆的规模），你仍然能找到这本书。新论文介绍了一种更快、更干净的方法，将这种缓慢、混乱的清理过程变成了一个单一且精准的魔术表演。

论文：GROM（无梯度快速单次机器卸载）

这篇论文的作者 Paweł Batorski、Przemysław Spurek 和 Paul Swoboda 构建了一个名为 GROM 的工具。你可以把 GROM 想象成一个能瞬间起作用的“遗忘按钮”，而不是一个需要耗时数小时的“遗忘过程”。

旧方法：缓慢的洗牌
通常，当我们想要让 AI 忘记某些东西时，我们会使用一种叫做“微调（fine-tuning）”的方法。想象一下，你正在试图教一只狗停止追逐特定的松鼠。你必须在院子里一遍又一遍地带着狗跑来跑去，每当它看向松鼠时就纠正它的行为。这就是目前 AI 使用的方法：它们运行数千次微小的计算（迭代），以缓慢地引导 AI 的大脑远离不想要的记忆。这很慢，消耗大量电力，而且论文指出，有时 AI 并不是真的忘记了，它只是以一种如果仔细观察就能轻易恢复的方式隐藏了记忆。

新方法：单次编辑
GROM 彻底改变了游戏规则。与其在院子里跑几个小时，GROM 直接观察你想删除的特定记忆，并计算出擦除它所需的精确数学动作。

作者将其描述为一种“闭式解（closed-form solution）”。用通俗的话说，这意味着他们找到了一个直接解决问题的公式，就像使用计算器立即得到答案，而不是通过猜测和尝试来寻找答案。他们将 AI 的大脑视为一张巨大的数字电子表格。他们识别出持有“错误”记忆的特定行和列，然后对这些数字应用一次精确的数学编辑。

它有多快？
速度差异非常惊人。论文在几个基准测试（AI 记忆的标准测试）上测试了 GROM。

在名为 TOFU-10% 的数据集上，GROM 仅用了 0.5 分钟 就完成了任务。
下一个最快的方法（名为 SimNPO）耗时 2.5 分钟。
其他方法则耗时 6.9 到 53.8 分钟 不等。

这意味着 GROM 比一些旧方法快了高达 180 倍。这就像是等待缓慢的网络下载与瞬间获取文件的区别。

它真的有效吗？
论文表明，GROM 不仅速度快，而且在保持 AI 聪明程度方面表现得更好。

权衡： 通常，当你让 AI 忘记某些事情时，它会对其他事情变得有点笨。论文显示，G Grom 在几乎完美地忘记目标信息的同时，保持了 AI 的通用知识（其“效用”）处于高水平。
“隐藏”问题： 作者测试了 AI 是否只是在隐藏记忆。他们尝试了一种叫做“量化（quantization）”的技巧（这类似于缩小 AI 的大脑以节省空间）。旧方法通常在这里会失败：当大脑被缩小后，隐藏的记忆就会再次显现。然而，GROM 实际上移除了记忆。即使在缩小大脑后，那个秘密依然消失了。

它是如何选择要编辑的内容的？
AI 有许多层“神经元”（就像蛋糕的层级）。GROM 不仅仅是编辑整个蛋糕；它使用了一个被称为“逻辑透镜（logit-lens）”的巧妙技巧，来找到持有特定记忆的具体哪一层。这就像使用金属探测器来找到埋藏硬币的确切位置，而不是挖开整个海滩。一旦找到了那个位置，它就会对那一特定层应用单次数学编辑。

底线
GROM 是一种让 AI 忘记特定事物的新方法，它是：

即时的： 它只需几秒或几分钟，而不是几小时。
精准的： 它移除的是记忆，而不仅仅是隐藏记忆。
安全的： 它不会破坏 AI 回答其他问题的能力。

作者在各种数据集上进行了测试，包括关于虚构作者、危险生物学事实和受版权保护书籍的问题。在几乎所有情况下，GROM 都是最快且最有效的方法，实现了“忘记坏事”与“记住好事”之间的最佳平衡。这是让 AI 更安全、更可控的重要一步，证明了有时解决问题最好的方法不是重新洗牌，而是直接打出正确的那张牌。

技术摘要：GROM（基于梯度的快速单次机器学习遗忘）

问题陈述

大型语言模型（LLMs）经常从其训练语料库中记忆敏感、私密或受版权保护的信息。机器学习遗忘（Machine Unlearning）是实现选择性擦除这些目标知识所需的机制。虽然目前最先进的方法依赖于通过微调进行的迭代式训练时遗忘（例如，梯度上升、偏好优化或蒸馏），但这些方法存在三个关键的低效问题：

计算成本： 即便是使用像 LoRA 这样的参数高效技术，基于梯度的优化也需要多个 epoch 和反向传播，这使得过程既昂贵又缓慢。
缺乏解析公式： 这些方法缺乏明确的闭式解（closed-form solutions），迫使从业者依赖逐步的梯度下降来逼近遗忘状态。
表层遗忘： 最近的研究表明，迭代式微调往往只是将目标知识隐藏在低幅度的权重调整中。因此，仅仅对遗忘后的模型进行量化（例如量化为 4-bit）就能恢复出大部分本应被擦除的内容。

方法论

作者提出了 GROM，一种全新的单次（one-shot）遗忘方法，它放弃了迭代优化，转而采用直接、精确的解析解。该方法将遗忘建模为一个岭正则化最小二乘优化问题。

核心公式

给定一个权重矩阵 $W \in \mathbb{R}^{m \times n}$ （具体为 MLP 下投影或 LM head），GROM 寻求一个单一的加性更新 $P$ ，使得 $W \leftarrow W + P$ 。其目标是同时实现：

保持保留数据行为： 确保在保留数据（ $X_r$ ）上的输出保持不变（ $PX_r \approx 0$ ）。
引导遗忘输出： 将遗忘数据（ $X_f$ ）上的输出转向一个能够抑制记忆内容的靶向 $D$ （ $(W+P)X_f \approx WX_f + D$ ）。

这被形式化为最小化以下目标函数：
$\min_{P} \frac{w_r}{r} \|PX_r\|_F^2 + \frac{w_f}{s} \|PX_f - D\|_F^2 + \mu \|P\|_F^2$
其中 $w_r, w_f$ 分别为保留项保持和遗忘项引导的权重， $\mu$ 是岭正则化项。

闭式解

该问题的优化器是唯一的，并且是通过闭式解推导出来的，从而完全避免了迭代逼近：
$P^* = \frac{w_f}{s} D X_f^\top A^{-1}$
其中 $A = \frac{w_r}{r} X_r X_r^\top + \frac{w_f}{s} X_f X_f^\top + \mu I_n$ 。

关键组件

无梯度（Gradient-Free）： 更新仅通过对遗忘和保留数据的正向传播来收集“键”（输入到 $W$ 的值），无需反向传播或收敛迭代。
目标设计 ( $D$ )：
- 标记抑制（Token Suppression）： 对于衡量生成能力的基准测试（TOFU, MUSE）， $D$ 将输出转向远离特定的金标准标记（gold tokens），并应用特异性权重 $\alpha_j$ 来仅抑制属于遗忘集的独特标记，从而保留在共享词汇上的效用。
- 表示破坏（Representation Corruption）： 对于衡量多项选择准确率的基准测试（WMDP）， $D$ 通过将遗忘输出转向一个固定的随机方向来破坏表示，因为在这种情况下 Token Logits 的相关性较低。
层选择： GROM 使用 Logit-lens 归因分数（ $S_\ell = F_\ell - R_\ell$ ）来识别直接贡献于遗忘特定 Token Logits 的层。它选择具有最高平均分的一段连续的后层。
精确可审计性： 由于 $P^*$ 是数据的显式函数，论文推导了一种闭式方法（使用 Sherman-Morrison-Woodbury 恒等式），用于计算任何单个遗忘样本对最终编辑的精确影响，从而实现对删除请求的精确审计。

核心贡献

闭式遗忘公式： 论文在数学上将机器学习遗忘定义为一个具有闭式解析解的精确优化问题，绕过了迭代微调的开销和不稳定性。
无梯度的效率： GROM 仅通过无梯度的正向传播即可计算出最优加性更新，这使得其速度比基于梯度的方法快达两个数量级（秒级 vs 分钟级）。
最先进的权衡能力： 该方法在五个基准测试（TOFU-5%, TOFU-10%, MUSE-Books, MUSE-News, WMDP）中实现了帕累托最优的遗忘-效用权衡。
量化鲁棒性： 与基于梯度的基线不同，GROM 的闭式编辑是从权重层面移除目标内容，而非仅仅将其隐藏。它能够抵御通常能恢复“已遗忘”内容的低比特量化攻击。

实验结果

作者将 GROM 与广泛的基线进行了评估，包括基于梯度的方法（GA, GradDiff, NPO, SimNPO）、基于偏好的方法（IDKDPO, AltPO）以及定位后编辑工具（ROME, MEMIT, AlphaEdit）。

速度： GROM 在数秒内即可完成更新（例如，在 NVIDIA H100 上为 0.2–1.8 分钟），而基于梯度的基线则需要 2.4 到 62.5 分钟。在更大的语料库（MUSE Books）上，GROM 比 SimNPO 快约 180 倍。
性能：
- TOFU： GROM 在 5% 和 10% 的拆分集上均实现了最高的最终得分（Final Score）和模型效用（Model Utility, MU），避免了其他方法中出现的“过度遗忘”或“遗忘不足”的失效模式。
  کن MUSE： GROM 在 News 和 Books 数据集上均获得了最佳最终得分。至关重要的是，在 MUSE Books 上，它在几乎消除逐字记忆的同时，保留了最高的保留效用。
- WMDP： GROM 通过平衡危险知识的抑制与通用能力（MMLU）的保留，实现了最佳的最终得分，表现优于那些以牺牲效用为代价换取抑制能力的基线方法。
- ZsRE： 在 ZeroUnlearn 的事实编辑框架下进行评估时，GROM 在有效性和泛化能力方面优于经过微调的定位编辑工具，同时保持了特异性。
量化鲁棒性： 在 4-bit 量化测试中，GROM 保持了与黄金重训练模型相当的低遗忘记忆水平。相比之下，像 SimNPO 这样强大的基于梯度的基线在量化后会出现记忆内容剧烈恢复的现象（例如，逐字复述从接近零回升到原始水平）。

意义与主张

论文声称 GROM 代表了机器学习遗忘的一个根本性转变，即用直接的解析解取代迭代优化。作者认为，这种方法：

解决了效率瓶颈： 它使得在有限硬件资源下对大型模型（7–8B 参数）进行遗忘成为可能，而传统的基于训练的方法在这些场景下是不可行的。
确保真实删除： 通过从权重层面移除内容而非仅仅掩盖，GROM 为抵御量化恢复提供了更稳健的保证。
实现可审计性： 闭式性质允许精确计算单个数据点的贡献度，解决了数据删除请求中的问责需求。

作者将 GROM 定位为第一个实现并超越迭代优化方法的单次（one-shot）遗忘方法，并指出这为在传统微调难以实现的场景下进行高效遗忘铺平了道路。