技术摘要：贡献权重：自注意力 Transformer 的几何分析

1. 问题陈述

分析注意力权重 ($\alpha_{ij}$) 已成为解释大语言模型（LLM）信息流的标准方法。然而，作者认为这种方法依赖于一个隐含假设，即认为大的注意力质量等同于功能上的重要性。作者指出，这种观点是不完整的，因为它忽略了被聚合的值向量（value vectors）的几何属性。具体而言，仅靠注意力权重无法解释以下因素：

1. 值向量的幅度（范数）。
2. 值向量与最终层输出之间的方向对齐。

忽视这些因素会导致误导性的结论，例如对“注意力汇点”（attention sinks，即接收高注意力但对输出贡献极小的早期 token）的误解，以及对高注意力 token 重要性的高估。现有的感知值（value-aware）度量方法虽然纳入了范数或距离，但往往忽略了由方向对齐引起的Token 间干涉（inter-token interference）（即建设性或破坏性干涉）的关键影响。

2. 研究方法

2.1. 理论框架

本文将多头注意力（MHA）重新定义为不仅是原始 token 的加权和，而是**投影值向量（projected value vectors）**的加权和。
给定一个输入序列，层 $l$ 在位置 $i$ 的输出表示为：
$$o^{(l)}_i = \sum_{h=1}^H \sum_{j=1}^i \alpha^{(l,h)}_{ij} \tilde{v}^{(l,h)}_j$$
其中 $\tilde{v}^{(l,h)}_j = x_j W^{(l,h)}_V W^{(l,h)}_O$ 代表投影值向量。作者提出，一个 token 的影响力取决于三个因素：

1. 选择强度（Selection Strength）： 注意力权重 $\alpha_{ij}$。
2. 幅度（Magnitude）： 投影值向量的范数 $\|\tilde{v}_j\|$。
3. 方向对齐（Directional Alignment）： 投影值与输出方向之间的余弦相似度 $\cos(o_i, \tilde{v}_j)$。

2.2. 贡献权重

为了忠实地量化 token 的重要性，作者引入了贡献权重（Contribution Weights, $c_{ij}$），这是一种基于投影的度量指标，定义为加权值向量与输出方向的归一化内积：
$$c_{ij} = \frac{\langle o_i, \alpha_{ij} \tilde{v}_j \rangle}{\|o_i\|^2} = \alpha_{ij} \frac{\|\tilde{v}_j\|}{\|o_i\|} \cos(o_i, \tilde{v}_j)$$
该指标将 token 的影响力分解为注意力权重、相对幅度以及方向对齐的乘积。

• 头内（Intra-head）： 衡量单个头内部的贡献。
• 头间（Inter-head）： 通过将特定头的加权向量投影到组合的多头输出上，来衡量跨所有头的贡献。
• 属性： 与注意力权重（非负且总和为 1）不同，贡献权重可以为负（表示破坏性干涉），并且在序列维度上总和为 1。

2.3. 实验评估

作者使用以下方法评估了贡献权重相对于现有度量指标（原始注意力、值加权注意力、值加权输出归一化注意力）的忠实度：

• 因果干预（Causal Interventions）： 通过掩码按重要性排序的 token 的投影值，并测量语言建模任务（GSM8K, FineWeb-Edu）和下游任务（MMLU, Winogrande, BoolQ）上的困惑度变化（$\Delta$PPL）。
• 指标：
  • 全面性（Comprehensiveness）： 移除高重要性 token 时性能下降的程度（下降越多 = 指标越好）。
  • 充分性（Sufficiency）： 移除低重要性 token 时性能下降的程度（下降越少 = 指标越好）。
• 模型： Mistral-7B, LLaMA-3.1-8B, Qwen3-8B, 以及 Deepseek-7B。

3. 核心发现与贡献

3.1. 贡献权重的忠实度

贡献权重在识别语义关键 token 方面始终优于基于注意力的度量指标。

• 全面性： 移除由贡献权重识别出的重要 token 会导致模型性能显著下降（更高的 $\Delta$PPL），相比于移除由原始注意力或值加权注意力识别出的 token。
• 充分性： 当移除由贡献权重定义的低重要性 token 时，模型能保持较高的准确率，在较高的移除率下仍能维持基准性能。
• 几何递进关系： 研究展示了一个清晰的忠实度等级制度：原始注意力 < 值加权注意力 < 值加权输出归一化注意力 < 贡献权重。这证实了引入方向对齐（余弦相似度）是提高度量准确性的最显著因素。

3.2. 值的几何机制作用

论文通过分解 token 贡献，揭示了不同类型 token 的不同行为：

• 汇点 Token（初始 Token）： 它们的贡献并非由注意力权重驱动。相反，它们由值几何（相对范数和余弦相似度）主导。初始 token 表现出与后续语义 token 的反向对齐（anti-alignment）（负余弦相似度）。
• 尾部 Token（Tail Tokens）： 它们的贡献由注意力权重和方向对齐共同决定。

3.3. 对注意力汇点的重新解读

作者挑战了将注意力汇点视为被动“存储器”（用于存放多余注意力）的观点。相反，他们揭示了汇点是主动的信息抑制器：

• 破坏性干涉： 汇点 token 拥有与语义 token 系统性反向对齐的值向量。这产生了破坏性干涉，主动抑制了输出范数。
• 凸关系（Convex Relationship）： 汇点率（第一个 token 获得的注意力质量）与输出范数之间的关系是凸的，而非单调的。输出范数的最小值出现在中间的汇点率（$\alpha < 1$）处，而不是当汇点捕获所有注意力时。
• 对抗语义漂移（Semantic Drift Counteraction）： 通过反对非汇点 token 的语义方向，汇点抵消了由许多微小、弱势的非关键 token 累积所带来的语义漂移。如果移除汇点的向量范数，会导致低范数头输出坍缩进入语义锥（semantic cone），从而增加噪声并提高困惑度。

4. 重要性与主张

论文声称，贡献权重通过考虑注意力向量和的完整几何结构，提供了一种更忠实地衡量 token 功能重要性的方法。

• 机制洞察： 这项工作将对注意力汇点的理解从被动吸收器转向了主动抑制器——通过方向性的对立来稳定表示，从而对抗语义漂移。
• 泛化性： 虽然实验集中在仅解码器（decoder-only）模型，但作者指出，贡献权重仅取决于注意力机制的结构，适用于任何基于注意力的架构（如仅编码器模型、ViT）。
• 局限性： 研究聚焦于仅解码器 Transformer 和特定数据集（GSM8K, FineWeb-Edu）。作者指出，虽然其度量指标在不同领域具有鲁棒性，但特定的几何行为（如汇点反向对齐）是在所评估的模型中观察到的。

作者总结道，分析值的几何结构对于实现对 Transformer 的忠实机械理解至关重要，这标志着从“注意力即解释”范式向“几何感知”解释的转变。