🤖 machine learning

How Faithful Is Trajectory-Based Data Attribution? Error Sources, Remedies, and Practical Guidelines

本文首次对基于轨迹的数据归因中的误差来源进行了系统分析，识别出优化器不匹配是主要问题，并提出 AdamW 影响函数、一种闭式误差代理以及 K 步前瞻框架，以显著提升归因准确性，并为可靠的数据选择提供实用指导。

原作者： Junwei Deng, Pingbang Hu, Suliang Jin, Hao Lu, Jiachen T. Wang, Shichang Zhang, Jiaqi W. Ma

发布于 2026-05-20

📖 1 分钟阅读☕ 轻松阅读

原作者： Junwei Deng, Pingbang Hu, Suliang Jin, Hao Lu, Jiachen T. Wang, Shichang Zhang, Jiaqi W. Ma

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在用一大碗食材（训练数据）烘焙一个巨大的蛋糕（训练现代 AI 模型）。有时，你想知道：“究竟是哪一个特定的鸡蛋或一小撮糖，让蛋糕的味道变得更好或更糟？”这被称为数据归因。

长期以来，科学家们使用一种称为“基于轨迹的归因”（Trajectory-Based Attribution）的方法来回答这个问题。他们试图一步步“倒带”烘焙过程，以观察移除一种食材会如何改变最终结果。

然而，本文指出，当前进行这种“倒带”的方式往往存在缺陷，导致得出错误的结论。作者们就像机械师一样，打开了引擎盖，精准地找出齿轮在何处摩擦，并探讨如何修复它们。

以下是他们发现与修复方案的简明分解：

1. 问题一：“错误的地图”（配置级错误）

类比： 想象你正试图用一张为自行车设计的地图在城市中导航，但实际上你驾驶的是一辆装有涡轮增压引擎的重型卡车。即使你完美地遵循地图，你也会迷路，因为这张地图无法理解你的卡车如何转弯或加速。

现实： 大多数现代 AI 模型是使用一种名为AdamW的复杂“引擎”进行训练的。然而，流行的数据归因工具是假设模型使用一种更古老、更简单的引擎——SGD——进行训练而构建的。

结果： 这些工具用“自行车地图”来导航“涡轮增压卡车”。这导致在确定哪些数据点有帮助时出现了巨大误差。
修复： 作者们构建了一个名为AdamW-influence的新工具。这是一张专为“涡轮增压卡车”设计的地图。
结果： 通过使用正确的地图，他们在不同类型的 AI 模型（从简单的图像分类器到像 Llama 这样的大型语言模型）上，将预测准确率提高了10% 到超过 300%。

2. 问题二：“粗糙的草图”（算法级错误）

类比： 即使拥有正确的地图，如果你试图通过在弯曲的道路上画一条直线来预测未来，你最终也会偏离轨道。你试图预测的道路越长，错误就越大。

现实： 为了加快计算速度，这些工具使用“一阶近似”。你可以将其理解为将蜿蜒的道路近似为一条直线。

罪魁祸首： 作者发现主要有两件事会让这种“直线”猜测变得更糟：
1. 陡峭度（学习率）： 如果训练过程中采取的步幅巨大（高学习率），直线猜测会迅速失效。
2. 距离（轨迹长度）： 你试图回溯的时间越久远，“直线”偏离实际弯曲路径的程度就越大。
修复： 他们创建了一个**“误差代理”（Error Proxy）**。这就像仪表盘上的警告灯，它会告诉你：“嘿，现在的直线猜测变得不可靠了”，而无需重新烘焙整个蛋糕来检查。它帮助用户知道何时信任数据评分，何时保持怀疑。

3. 实用指南：如何选择食材（数据选择）

类比： 想象你是一位厨师，在烹饪汤的过程中挑选食材。

离线策略： 你等到汤煮好后，尝一口，然后说：“如果我当时选了这些特定的胡萝卜而不是那些，味道会更好。”（这既缓慢又昂贵）。
在线策略： 你在烹饪过程中挑选食材，猜测它们将在接下来的几分钟内如何影响汤的味道。

新规则手册： 作者将这两种策略统一到一个名为**"K 步前瞻”（K-Step Look-Ahead）**的单一框架中。

K 是你看向未来的步数。
洞察： 你不需要一直看到汤煮完（离线）。只要使用正确的工具，只看未来几步（在线）通常就足够了。
最佳平衡点：
- 如果你采取小步幅（低学习率），你可以看得更远（更大的 K）而不会犯错。
- 如果你采取大步幅（高学习率），你应该只看向很短的距离（较小的 K），以避免误差累积。

给从业者的“食谱”总结

本文为任何使用这些工具的人提供了一份清晰的食谱：

停止使用旧的"SGD"工具，如果你正在使用 AdamW 进行训练（几乎所有人都是如此）。请改用新的AdamW-influence。
在线选择数据时，不要看得太远。 如果你看向太远的未来，“直线”猜测会变得过于嘈杂。
根据学习率调整你的视野（K）。 如果你采取小步幅，你可以看得更远；如果你采取大步幅，请保持视野短促。

通过修复“地图”并理解“直线”的局限性，作者们已将数据归因从一个黑盒转变为一种可靠、可操作的工具，用于改进 AI 模型。

技术摘要：基于轨迹的数据归因的忠实度如何？

1. 问题陈述

基于轨迹的数据归因方法（例如 SGD-influence、TracIn、SOURCE）通过展开训练轨迹来估计单个训练样本对模型预测的影响。尽管这些方法被广泛用于数据选择、估值和模型诊断，但它们缺乏全面的误差分析。从业者面临关于归因误差的幅度和来源的根本性不确定性，特别是关于误差是源于归因公式与实际训练动态之间的不匹配（例如优化器不匹配），还是源于固有的算法近似（例如一阶泰勒展开）。这种不确定性阻碍了这些方法在现代深度学习流水线中的可靠部署，而现代深度学习流水线主要使用 AdamW 等优化器，而非现有理论推导所假设的 SGD。

2. 方法论与分类

作者提出了首个针对基于轨迹归因的系统性误差分析，将总误差组织为三个不同的类别：

配置级误差（Config-level Error）： 当归因公式未能忠实反映实际训练过程时产生。已确定的主要来源是优化器不匹配，即这些方法假设随机梯度下降（SGD）动态，而模型实际上是用 AdamW 训练的。
算法级误差（Algorithm-level Error）： 源于效率近似，具体指用于线性化参数轨迹的一阶泰勒展开。
系统级误差（System-level Error）： 由于浮点精度和 GPU 非确定性导致的不可约误差，这些误差甚至会影响真实的重训练（ground-truth retraining）。

为解决这些问题，本文引入了：

AdamW-influence： 一种新算法，它展开实际的 AdamW 优化动态（包括动量状态和坐标自适应缩放），而不是假设 SGD。它在梯度层面注入扰动，以正确处理 AdamW 二阶矩更新的非线性。
误差代理（Error Proxy）： 一种闭式表达式，用于在不重新训练的情况下，沿原始轨迹估计每个样本的算法级误差（更新估计误差）。
K 步前瞻框架（K-Step Look-Ahead Framework）： 一个统一的数据选择理论框架，将离线和在线策略视为视野参数 $K$ 的边界情况，允许分析前瞻信息与累积近似误差之间的权衡。

3. 主要贡献

A. 修正配置级误差（优化器不匹配）

作者证明，现有方法是在 SGD 假设下推导归因的，当应用于使用 AdamW 训练的模型时会产生系统性偏差。他们提出了AdamW-influence，该方法正确考虑了 AdamW 的动量和自适应缩放。

结果： 在四种设置（MLP、CNN、GPT-2 和 Llama 3.2-1B）中，与基于 SGD 的基线相比，AdamW-influence 将估计影响与真实影响（TSLOO）之间的 Spearman 相关性提高了10% 到超过 300%。
启示： 优化器对齐是隔离和分析剩余算法级误差的必要前提。

B. 剖析算法级误差

在修正配置级误差后，作者隔离了由一阶泰勒展开引起的误差。他们确定了两个主导因素：

学习率（ $\eta$ ）： 较大的学习率会增加每一步的线性化误差。
轨迹长度（ $T - t^*$ ）： 较长的剩余轨迹允许误差累积。

结果： 误差幅度与学习率成反比，与剩余轨迹长度成正比。
贡献： 作者推导出了一个闭式误差代理（公式 4），利用优化器已维护的量来估计每个样本的误差范数。该代理与通过留一法重训练获得的真实误差范数高度相关（ $\rho \in [0.83, 0.89]$ ），使得无需重训练即可进行误差感知决策。

C. 数据选择的实用指南

本文在K 步前瞻框架下统一了离线和在线数据选择策略，其中 $K$ 代表选择决策所考虑的未来步数。

发现：
- 优化器对齐： 使用 AdamW-influence 的在线选择始终优于在线 SGD-influence，将保真度提升转化为下游选择性能的提升。
- 视野与误差： 离线选择对应最长的视野（ $K = T-t$ ），并累积最大的近似误差。具有短至中等视野的在线选择通常能达到或超过离线选择的性能。
- 调整 $K$ ： 最佳视野 $K$ 随着学习率的降低而增长。较小的学习率允许 $K$ 步求和延伸得更远，直到近似误差占主导地位。
指南： 从业者应将 $K$ 与学习率联合调整，而不是固定它；使用对齐优化器的短视野在线选择是一种可靠且可操作的方案。

4. 实验结果

作者在以下方面评估了他们的方法：

模型： MLP、CNN、GPT-2 和 Llama 3.2-1B。
数据集： MNIST、WikiText-2、Alpaca 和 Tulu3。
指标： 针对 TSLOO 真实值的 Spearman 秩相关性（用于保真度）以及验证/测试错误率或困惑度（用于数据选择质量）。

主要成果：

保真度： AdamW-influence 在所有学习率和架构下均显著优于 SGD-influence。例如，在 $lr=10^{-3}$ 的 MNIST+CNN 上，相关性从 0.015 提高到 0.090（+500%）。
选择质量： 在数据选择任务中，在线 AdamW-influence 始终比在线 SGD-influence 和离线 AdamW-influence 实现更低的错误率（在 MNIST 上）和更低的困惑度（在 Llama 3.2 上）。
误差代理： 推导出的代理成功以高 Spearman 相关性（ $\rho \approx 0.85$ ）跟踪了真实误差范数，验证了其作为轨迹感知决策的实用信号的用途。

5. 意义与主张

本文声称提供了基于轨迹的数据归因的首个系统性误差分析，将该领域从将这些方法视为“黑盒评分函数”转变为“可诊断估计器”。

理论影响： 通过将误差分类为配置级、算法级和系统级，该工作阐明了现代深度学习背景下不忠实性的来源。
实践影响： 引入 AdamW-influence 和 K 步框架为从业者提供了具体、可操作的补救措施。它表明，将归因公式与实际优化器（AdamW）对齐，并仔细调整前瞻视野，可以显著提高数据选择和模型诊断的可靠性。
可扩展性： 所提出的方法保持 $O(T)$ 复杂度（由于增强的状态存储，相比 SGD-influence 有约 3 倍的常数开销），结合随机掩蔽技术后，使其适用于大规模模型。

作者承认了局限性，指出由于计算限制，他们的分析仅限于基于一阶泰勒的方法以及最大到 Llama 3.2-1B 的模型，并且泛化到其他领域（例如强化学习、扩散模型）仍然是一个开放的方向。