Why Better Cross-Lingual Alignment Fails for Better Cross-Lingual Transfer: Case of Encoders

这是一篇关于跨语言对齐（Cross-Lingual Alignment）与跨语言迁移（Cross-Lingual Transfer）之间关系的深入研究论文。作者通过系统的实验和分析，挑战了“更好的对齐必然带来更好的迁移性能”这一普遍假设。

以下是该论文的详细技术总结：

1. 研究问题 (Problem)

在多语言预训练模型（如 XLM-R）中，跨语言对齐（即让不同语言中语义相似的输入在嵌入空间中距离更近）通常被视为提升跨语言迁移（在零样本或少样本设置下将源语言模型应用于目标语言任务）性能的关键手段。

然而，现有的实证研究表明存在一个明显的不匹配现象：

• 显式的对齐技术（如对比学习）虽然显著提高了嵌入空间的相似度（即“更好的对齐”），
• 但往往无法提升甚至有时会降低下游任务（特别是词级任务如词性标注 POS Tagging）的性能。

核心问题：为什么“更好”的对齐无法转化为“更好”的跨语言迁移？对齐目标与下游任务目标之间究竟存在怎样的相互作用？

2. 方法论 (Methodology)

作者基于 XLM-R 编码器模型，设计了一套包含三个阶段的系统性实验：

• 阶段一：跨语言对齐微调 (Alignment Tuning)

  • 模型：XLM-R (270M 参数)。
  • 数据：使用 OPUS 和 MultiCCAligned 数据集，构建四组语言对：德语 - 英语 (de-en)、英语 - 哈萨克语 (en-kk)、日语 - 哈萨克语 (ja-kk)、韩语 - 哈萨克语 (kk-ko)。
  • 方法：采用改进的 HiCTL (Hierarchical Contrastive Learning) 目标函数。该损失函数由句子级损失 ($L_S$)、词级损失 ($L_W$) 和掩码语言模型损失 ($L_{MLM}$) 组成。
  • 配置：测试了 7 种不同的损失系数组合（例如 $S_1W_0M_1$ 表示仅开启句子级和 MLM 损失），以观察不同对齐粒度（词级 vs 句子级）的影响。

• 阶段二：下游任务微调 (Downstream Fine-tuning)

  • 任务：
    1. 词级任务：词性标注 (POS Tagging)，使用 Universal Dependency 树库。
    2. 句子级任务：句子分类 (Sentence Classification)，使用 SIB-200 数据集。
  • 微调策略：对比了两种模式：
    1. 全量微调 (Full Fine-tuning)：更新所有参数。
    2. 仅线性层微调 (Linear-only)：冻结编码器，仅更新顶层线性分类层。

• 阶段三：零样本评估与表征分析 (Zero-shot Evaluation & Analysis)

  • 评估：在 9 种语言（包括对齐语言和非对齐语言）上评估零样本迁移性能。
  • 分析指标：
    1. 嵌入距离：计算 Token 和 Sentence 级别的余弦距离变化。
    2. 梯度相似性 (Gradient Similarity)：计算对齐目标与下游任务目标之间的梯度余弦相似度，以检测优化方向的冲突。

3. 关键贡献 (Key Contributions)

1. 揭示了“对齐”与“迁移”的非线性关系：证明了嵌入距离的减小（即对齐度提高）并不是下游任务性能提升的可靠预测指标。
2. 发现了梯度的正交性/冲突：通过梯度分析发现，对齐目标（Alignment Objective）与特定任务目标（Task Objective）的梯度往往是正交的（Orthogonal）甚至冲突的。这意味着优化对齐可能会阻碍任务性能的提升，反之亦然。
3. 区分了任务类型的影响：
   • 句子级任务（如分类）：通常能从对齐中获益，且梯度冲突较小。
   • 词级任务（如 POS）：极易受到对齐的负面影响，梯度冲突显著。
4. 提出了实践指南：强调了损失函数选择的重要性，指出在微调阶段，仅微调线性层比全量微调更能保持对齐带来的收益，减少梯度干扰。

4. 主要实验结果 (Key Results)

• 性能表现 (Table 1)：

  • 在词性标注 (POS) 任务中，大多数对齐配置（尤其是包含词级损失 $L_W$ 的配置）导致性能下降（$\Delta$ Accuracy 为负），即使嵌入相似度提高了。
  • 在句子分类任务中，对齐带来的收益较为稳定，但在某些配置下（如全量微调）仍可能出现性能波动。
  • 损失配置影响：仅使用词级损失 ($S_0W_1M_0$) 对性能损害最大；包含句子级损失 ($L_S$) 和 MLM 损失通常更有利。

• 嵌入距离分析 (Figure 1)：

  • 对齐模型在第 8 层（通常被认为是语言无关层）的嵌入距离确实减小了，表明对齐生效。
  • 然而，这种距离的减小并未转化为下游任务的提升。相反，在微调后，某些层的距离反而增加，导致性能下降。

• 梯度相似性分析 (Table 3)：

  • POS Tagging：对齐梯度与任务梯度的余弦相似度经常接近 0 或为负值，表明两者优化方向正交或冲突。
  • Sentence Classification：梯度相似度通常为正，表明两者方向较为一致。
  • 语言对影响：涉及英语的对齐（如 de-en, en-kk）比非英语对齐（如 ja-kk）表现出更强的梯度冲突。

• 微调策略对比：

  • 线性层微调：表现更稳定，能更好地保留对齐带来的表征优势。
  • 全量微调：放大了对齐目标与任务目标之间的梯度干扰，经常导致性能回退（Catastrophic Forgetting 或优化冲突）。

5. 研究意义与结论 (Significance & Conclusion)

• 理论意义：

  • 推翻了“对齐越好，迁移越好”的简单直觉。
  • 指出跨语言对齐和特定任务优化在数学上是正交甚至相互竞争的优化问题。
  • 表明嵌入空间的几何性质（如距离）不能直接作为下游任务性能的代理指标。

• 实践指导：

  • 谨慎选择损失函数：对于词级任务，应谨慎使用显式的词级对齐损失，或者需要更精细的平衡策略。
  • 微调策略选择：在利用对齐模型进行下游任务时，仅微调线性层 (Linear-only) 往往比全量微调更安全、有效，因为它减少了对预训练表征空间的破坏。
  • 任务适配：对齐策略应根据任务类型（词级 vs 句子级）和语言对特性进行定制化设计，而非“一刀切”。

总结：这篇论文通过深入的表征分析和梯度动力学研究，解释了为什么显式的跨语言对齐经常失败。它强调了在构建多语言模型时，必须考虑优化目标的兼容性以及微调策略的选择，而不仅仅是追求嵌入空间的对齐度。