💬 NLP

Can you map it to English? The Role of Cross-Lingual Alignment in Multilingual Performance of LLMs

本文引入了判别性对齐指数（ $\DALI$ ），旨在证明大型语言模型的跨语言性能是由中间层中非英语表示与英语表示的对齐所因果驱动的，其中失配会导致错误，而这些错误可以通过激活补丁（activation patching）进行修正。

原作者： Kartik Ravisankar, Hyojung Han, Sarah Wiegreffe, Marine Carpuat

发布于 2026-02-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Kartik Ravisankar, Hyojung Han, Sarah Wiegreffe, Marine Carpuat

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心图景：以“英语优先”的大脑

想象一位才华横溢的学生（AI），他上了一所顶尖学校，那里的99% 的教科书都是用英语编写的。他用英语完美地学习了数学、科学和逻辑。

现在，想象这位学生被要求用法语、印地语或泰语参加考试。令人惊讶的是，他的表现相当不错！尽管他从未深入学习过这些语言，但他依然能正确回答问题。

谜团所在： 一个主要用英语训练的大脑，是如何突然理解法语的？它是在脑海中把法语翻译成英语，解决问题，然后再把答案翻译回法语吗？还是它只是在瞎猜？

这篇论文试图通过观察当 AI 进行语言切换时，其“大脑”内部的具体运作方式来回答这个问题。

核心理念：“心理对齐”（Mental Alignment）

研究人员发现，为了让 AI 在外语中答对问题，它对外语句子的内部“想法”（数学表示）必须与它对同一句子的英语版本的“想法”完美对齐。

这就像是两个正在播放同一首歌的广播电台。

电台 A（英语） 正在播放一个清晰、强劲的信号。
电台 B（法语） 也在播放同一首歌，但信号有些模糊。
对齐： 如果 AI 能调整电台 B，使其信号与电台 A 的信号完美匹配，它就能清晰地“听到”答案。如果信号不同步，AI 就会感到困惑并选错答案。

工具： “对齐得分”（DALI）

为了衡量这一点，研究人员发明了一个名为 DALI（判别性对齐指数）的工具。

想象你有一对双胞胎：一个说英语，另一个说法语。你给他们看一张猫的照片，并问：“这是猫还是狗？”

成功： 如果两兄弟都指向“猫”，并且他们的内部“指向肌肉”（神经激活）运动方式完全一致，那么对齐得分就很高。AI 答对了。
失败： 如果英语双胞胎指向“猫”，但法语双胞胎的内部肌肉却在向“狗”抽动（或者只是随机震动），那么对齐得分就很低。AI 答错了。

论文发现了一个简单的规则：当 AI 答对外语问题时，它的内部“英语”信号和“外语”信号是完美同步的。当它答错时，它们就是不同步的。

实验：“大脑交换”（激活补丁/Activation Patching）

这是论文中最酷的部分。研究人员想要证明这种“同步”实际上是导致正确答案的原因，而不仅仅是恰好存在于那里。

他们使用了一种叫做 激活补丁（Activation Patching） 的技术，这就像是瞬间进行的“大脑移植”。

设置： 他们找到了一个 AI 在英语中答对但在法语中答错的问题。
交换： 他们提取了在 AI 处理过程中，英语版本问题在特定时刻的“大脑活动”（电信号），然后将其直接插进法语版本的脑中。
结果： 突然间，法语版本的 AI 开始给出正确的答案！

类比： 想象你正在尝试用一种你不懂的语言解开一个谜题，你卡住了。这时一位朋友用英语向你耳语了答案。突然间，你理解了这个谜题并解开了它。研究人员证明了，AI 本质上是在“倾听”它自己的英语大脑来解决法语问题。

这发生在何处？“中间层”

AI 的结构就像一座多层的建筑，有很多楼层（层/layers）。

底层： 处理基础字母和声音。
顶层： 决定最终答案。
中间层： 这是魔法发生的地方。

研究人员发现，只有在中间层进行“大脑交换”才会奏效。

如果他们在太早的时候（底层）进行交换，并无帮助。
如果他们在太晚的时候（顶层）进行交换，决策已经做出了，为时已晚。
黄金分割点： 在中间层，AI 会将外语转化为“英语概念”后再做决定。如果这里的信号是对齐的，AI 就能成功。

“控制”测试：是仅仅复制答案，还是理解了含义？

研究人员非常谨慎。他们问道：“AI 仅仅是在复制英语中的‘猫’这个词，还是它真的理解了‘猫’这个概念？”

他们做了一个测试，即交换英语大脑信号，换成一个具有相同答案但内容不同的问题（例如，将“我是一只猫”的信号与“我是一只狗”进行交换，但两者答案都是“A”）。

结果： 这种“错误”的交换并没有修复法语问题。
结论： AI 不仅仅是在复制最终答案的字母，它实际上是在对齐句子的含义（概念）。这种“心理对齐”关乎对想法的理解，而非仅仅是单词。

研究结果总结

对齐至关重要： 当 AI 理解一种外语时，其内部的“英语想法”和“外语想法”是完美同步的。
因果关系： 如果你在处理过程中强行让外语使用英语的“想法”，AI 会修正它的错误。
中间层： 这种同步发生在 AI 处理链的中间层，充当了一个隐藏的翻译枢纽，AI 在用外语表达之前，先用英语概念进行思考。

简而言之： AI 就像一个在解题时会在内心偷偷用英语思考，然后再用外语表达答案的通晓多种语言的人。如果这个翻译桥梁断裂（不对齐），AI 就会失败。如果桥梁坚固（对齐），AI 就会成功。

技术摘要：跨语言对齐在多语言大语言模型（LLM）性能中的作用

问题陈述
大语言模型（LLMs）展现出了令人印象深刻的多语言能力，尽管其主要是在英文文本上进行训练，但在处理非英语的自然语言理解（NLU）任务时仍能成功执行。虽然仅编码器架构已证明知识可以从高资源语言向低资源语言转移，但驱动这种泛化能力的机制在仅解码器架构的 LLM 中仍不为人所知。具体而言，目前尚不清楚 LLM 将非英语输入与其对应的平行英语输入进行表示对齐的能力，是否会对单个任务实例的性能产生因果影响。先前的工作通过聚合指标建立了跨语言对齐与语言层面多语言准确性之间的相关性，但这些研究并未解释表示对齐如何影响模型在特定 NLU 实例上的行为。

方法论
作者提出了一个框架，旨在从实例层面研究跨语言对齐，并建立对齐与任务成功之间的因果联系。

实例级对齐指标：
本文引入了三种指标来量化判别式 NLU 任务（多项选择问答）的对齐程度：
- DALI (判别式对齐指数)： 一个二值得分，指示跨语言匹配的“前提-结尾”对的余弦相似度是否超过了不匹配的对。
- DALIst： DALI 的一个更严格的变体，要求跨语言匹配对的相似度不仅要高于不匹配的对，还必须高于同种语言内的不匹配对，从而减轻由 Transformer 表示中的各向异性（anisotropy）导致的假阳性问题。
- MEXAT： 现有 MEXA 指标的任务特定变体，使用任务前提而非通用平行语料库进行计算。
实验设计：
- 数据集： 本研究使用了包含 24 种语言、涵盖平行“前提-选项”对的三个多语言 NLU 基准测试集（Belebele, Xstorycloze, Xcopa）。
- 样本分类： 实例被分为 迁移成功 (TS)（在英语和非英语中均正确）和 迁移失败 (TF)（在英语中正确，在非英语中错误）。
- 关联分析： 作者对比了不同 Transformer 层中 TS 和 TF 样本的对齐得分（DALI, DALIst, MEXAT），以确定成功的迁移是否表现出更高的对齐度。
- 激活补丁（Activation Patching）： 为了建立因果关系，作者对 TF 实例进行了激活补丁操作。他们将失败的非英语前向传播的隐藏状态 ( $h^\lambda$ ) 替换为对应于成功的英语前向传播在特定层 ( $\lambda$ ) 的隐藏状态。
- 控制实验： 为确保补丁是基于语义对齐而非仅仅注入目标标记（例如答案选项 'A' 或 'B'），作者使用具有相同目标标记但语义不同的无关英语样本进行了控制补丁实验。

关键结果

与成功的关联： 在 33 种“语言-基准测试-指标”组合中，迁移成功 (TS) 实例一致地表现出比迁移失败 (TF) 实例更高的跨语言对齐得分。这种关联在 8 个案例中具有统计学显著性，在 30 个案例中呈正相关，表明更好的对齐与成功的泛化相关联。
层特定效应： 分析显示，跨语言对齐在 Transformer 的中间层（大约第 14–25 层）达到峰值。
通过补丁实现的因果证据：
- 将英语激活注入到失败的非英语中间层，会显著增加模型转向正确答案的概率。
- 当补丁发生在这些中间层时，“翻转率”（纠正预测的百分比）最高。
- 语义特异性： 控制实验表明，语义等价的英语补丁比控制补丁（具有相同答案标记但语义无关的英语样本）更能有效地纠正预测。这证实了纠正是由语义对齐驱动的，而非仅仅是注入了目标标记。
熵分析： 通过语义等价补丁实现的纠正，其输出熵比控制补丁更低（置信度更高），这表明对齐稳定了模型的决策过程。

核心贡献

实例级指标： 引入了 DALI 和 DALIst，它们超越了语言层面的聚合分析，实现了对判别式任务中逐个实例对齐程度的量化。
因果验证： 通过激活补丁提供了因果证据，证明中间层的失配是跨语言失败的主要驱动因素。研究表明，通过注入英语表示来“强制”实现对齐可以纠正非英语错误。
机制澄清： 该工作支持了以下假设：仅解码器 LLM 通过在中间层（即进行语言无关推理的层）隐式地通过英语表示进行“枢轴转换”（pivoting）。

意义与主张
本文声称弥合了关于多语言对齐的关联性研究与模型行为因果机制之间的鸿沟。通过证明中间层中的跨语言语义对齐对正确性具有因果贡献，作者认为“通过英语进行枢轴转换”不仅是一个统计现象，而且是一种用于推理的功能机制。

作者谨慎地将研究结果界定为：对齐是判别式任务中成功迁移的必要组成部分。他们指出，虽然补丁可以纠正错误，但并不能修复所有实例，这意味着其他因素也可能导致失败。研究结论指出，这些发现为利用高保真英语激活来提升非英语性能的推理时引导（inference-time steering）提供了动力，同时也警告了潜在的副作用，如置信度虚高或抹除局部非英语知识。该研究局限于判别式 NLU 任务及双语对齐（非英语到英语），未涵盖其他语言对之间的对齐。