🤖 machine learning

The Attribution Contract: Feature Attribution for Generative Language Models

本文提出了“归因契约”这一概念框架，通过明确定义输出、合格特征、生成过程、固定条件及模型得分，解决了生成式语言模型特征归因中的歧义问题，从而将归因分歧重新框架化为解释性契约的差异，而非算法缺陷。

原作者： Giang Nguyen

发布于 2026-05-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Giang Nguyen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你试图弄清楚一位厨师为什么会做某道特定的菜。你想知道哪些食材对最终的味道最为重要。

在过去（使用简单的“分类器”模型时），这很容易。你给厨师一份食材清单（输入），他们做出一道菜（输出），然后你可以指着盐或胡椒说：“啊，是盐让它有了咸味。”食材是静态的，菜肴已经完成。

但对于生成式语言模型（如正在撰写本文的 AI）来说，烹饪过程要复杂得多。厨师不仅仅做一道菜；他们是一口一口地烹饪整场盛宴。而棘手之处在于：他们烹饪的第一口，会成为第二口的食材。

如果厨师先烹饪出"Le"（法语中的“定冠词”），那么这个"Le"现在就放在台面上，等待作为下一个词"chien"（狗）的食材被使用。

问题：“谁做了什么？”的混淆

该论文认为，当我们试图解释 AI 为何写下某个特定单词时，我们常常感到困惑，因为我们不清楚自己究竟在问什么问题。

作者将这种混淆称为**“自我归因谬误”**。

这里有一个简单的类比：
想象你正在观看一场接力赛。

选手 A 将接力棒传给 选手 B。
选手 B 跑得飞快并赢得了比赛。

如果你问：“是谁导致了选手 B 跑得快？”

问题 A：“是什么帮助选手 B 此刻跑得快？”
- 答案：来自选手 A 的接力棒！（前一个词是最关键的因素）。
问题 B："原始计划中的哪一部分导致了团队获胜？”
- 答案：教练对选手 A 的指示！（原始提示词是最关键的因素）。

该论文指出，许多 AI 研究人员使用同一种工具来回答这两个问题，结果却混淆了。他们看到“选手 A"（前一个词）对“选手 B"的速度负有责任，便得出结论：“教练的指示无关紧要！”但这错了。他们只是问错了问题。

解决方案：“归因契约”

为了解决这个问题，作者提出了一套新规则，称为归因契约。你可以将其想象成一份工作单或食谱卡，必须在开始分析 AI 之前填写完毕。

在你问 AI“你为什么写下这个？”之前，你必须签署一份合同，明确定义五件事（即 SCOPE）：

S (Score，评分)：我们要测量什么？（是下一个词的概率？还是整个句子？）
C (Conditioning，条件)：我们要固定什么？（我们是忽略 AI 已经写下的词，还是将它们视为食材？）
O (Output，输出)：我们要解释什么？（仅仅是下一个词？还是整个段落？）
P (Process，过程)：AI 是如何生成它的？（它是从左到右书写的吗？还是像扩散模型那样先擦除再重写？）
E (Eligible Features，合格特征)：我们允许归咎或赞扬什么？（仅限于用户的原始提示词？还是也包括 AI 自己之前的词？）

为何这很重要：“魔法眼镜”类比

想象 AI 戴着一副魔法眼镜。

如果你用契约 A（局部下一个词）让 AI 解释某个词，眼镜会向你显示前一个词发出明亮的红光。它在说：“这个词之所以在这里，是因为前一个词让它变得可能！”
如果你用契约 B（提示词条件化）让 AI 解释同一个词，眼镜会熄灭前一个词的光芒，转而让原始提示词发出明亮的红光。它在说：“这个词之所以在这里，是因为你在提示词中要求了它！”

该论文的核心观点是： 你不能仅凭眼镜就说 AI 是“错”还是“对”。你必须承认，契约 A 和契约 B 问的是两个不同的问题。

如果一位研究人员说"AI 产生了幻觉，因为它忽略了源文档”，但实际上他们使用的是契约 A（关注前一个词），那么他们就是在误读结果。他们需要切换到契约 B（固定前一个词，仅查看源文档），才能确认源文档是否真的是原因。

结论

这篇论文并没有发明一种计算数值的新方法。相反，它发明了一种谈论数值的新方式。

它告诉我们，在生成式 AI 的世界里，关于哪个输入最重要，并不存在单一的“真相”。只有相对于契约的真相。

如果你想知道 AI 是如何一步步思考的，请使用“局部”契约。
如果你想知道你的指令如何塑造了最终的故事，请使用“提示词条件化”契约。

在我们停止将这些视为同一件事之前，我们将继续在 AI 解释问题上争论不休，而实际上我们只是在问不同的问题。“归因契约”只是一个工具，确保我们在开始寻找答案之前，都在问同一个问题。

技术摘要：归因契约

问题陈述
特征归因方法旨在识别哪些输入特征驱动模型的输出，但在应用于生成式语言模型（LMs）时，面临根本性的概念模糊性。在经典分类设定中，输入 - 输出架构是静态的（ $x \to f(x)$ ），特征被明确定义为输入组件。然而，生成式语言模型通过动态过程运行：在自回归模型中，早期输出成为后续预测的输入；在扩散模型中，生成过程通过迭代去噪进行。

这种结构差异造成了“归因模糊性”：往往不清楚什么构成了“特征”，或者具体要解释什么“输出”。例如，在自回归模型中，先前生成的 token 既是模型的输出，又是下一个预测的输入。因此，同一个归因算法会根据目标是解释局部的下一个 token 预测，还是解释原始提示对整个生成序列的影响，而得出不同的结果。本文认为，文献中关于生成模型特征归因的许多感知分歧，并非算法之间的冲突，而是源于未声明或不匹配的“解释契约”所导致的冲突。

方法论：归因契约
为了解决这一模糊性，作者引入了归因契约（Attribution Contract），这是一个形式化的规范元组 $A = (S, C, O, P, E)$ ，用于定义任何特征归因主张的解释范围。其组成部分如下：

$S$ （分数）： 被归因的特定模型量（例如，logit、概率、损失或对数似然）。
$C$ （条件）： 在归因计算过程中保持固定的变量（例如，在将归因仅指向提示时，保持生成的前缀固定）。
$O$ （输出）： 被解释的特定目标（例如，单个下一个 token、中间扩散状态或完整的生成跨度）。
$P$ （过程）： 假设的生成过程（例如，自回归链 $x \to y_1 \to \dots \to y_t$ 或扩散链 $z_T \to \dots \to z_0 \to y$ ）。
$E$ （合格特征）： 允许接受归因的特征集合（例如，仅限提示 token、提示加上生成的前缀，或去噪阶段）。

本文表明，“归因契约”框架允许对不同设定进行精确实例化。它将现有及潜在的设定分类为：

自回归设定：
- 局部下一个 token： 将 token $y_t$ 的预测归因于提示和生成的前缀 token。
- 提示条件 token： 仅将 $y_t$ 归因于提示 token，同时保持生成的前缀固定。
- 跨度级提示： 将完整生成跨度 $y_{1:T}$ 的概率归因于提示 token，同时保持该跨度固定。
扩散设定：
- 状态级： 将中间状态 $z_t$ 归因于提示和先前状态。
- 去噪阶段： 将最终输出的属性归因于去噪过程的特定阶段。
- 提示到输出： 将最终输出 $y$ 归因于提示 token，将去噪链视为过程。

主要贡献
本文做出了四项主要贡献：

契约模糊性的识别： 它识别出“契约模糊性”是生成式特征归因中一种独特的失效模式，即由于缺乏指定的解释设定而导致误解。
归因契约框架： 它提出了 $(S, C, O, P, E)$ 元组，以明确定义任何主张的目标、合格特征、生成过程、条件机制和被归因的分数。
自归因谬误： 它定义了一种特定的解释错误，即对生成前缀 token 的归因（在局部下一个 token 契约下是有效的）被错误地解释为回答了一个提示级问题（例如，“源文档是否导致了这个幻觉？”）。本文指出，回答后者需要一个提示条件契约，其中前缀被保持固定。
方法 - 契约评估： 它主张生成式语言模型中的特征归因方法应作为方法 - 契约对进行评估，而不是作为无上下文的算法。一种方法不能孤立地被评判为“好”或“坏”；其有效性取决于它是否与正在测试的特定契约相一致。

结果与分析
本文并未提出新的实证基准或新颖算法，而是通过归因契约的视角，对现有文献进行了理论分析和重新评估。

文献调和： 作者表明，通常被视为相互竞争的方法（例如 ContextCite 与 Inseq）实际上是在回答由不同契约定义的不同问题。ContextCite 在提示到输出的契约下运行，而 Inseq 通常在局部下一个 token 契约下运行。
评估影响： 本文详细说明了评估指标必须如何根据契约进行调整。例如，评估“跨度级提示归因”需要扰动提示并测量原始固定生成的对数概率的变化，而不是重新生成一个新的序列。重新生成序列将测试不同的契约（例如，提示到输出）。
扩散特异性： 分析强调，扩散模型需要能够考虑中间状态和去噪阶段的契约，这在自回归模型中没有直接对应物。

意义与主张
本文主张，归因契约对于为生成建模中的特征归因带来严谨性是必要的。通过使解释设定显性化，该框架：

阐明了为什么同一种归因方法会根据实例化的不同而产生不同的归因图。
防止了“自归因谬误”，确保从业者不会将生成的原因错误地归咎于提示，而实际上该归因是由模型自身的先前 token 驱动的。
确立了生成模型不存在单一的“好”归因图；评估必须是特定于契约的。

作者将这项工作定位为现有归因算法的补充而非替代，而是作为一种必要的规范层，使这些方法的声明具有可比性和可解释性。其意义在于将讨论从争论算法转向定义这些算法旨在回答的精确解释性问题。

问题：“谁做了什么？”的混淆

解决方案：“归因契约”

为何这很重要：“魔法眼镜”类比

结论

技术摘要：归因契约

类似论文