Rethinking the Multilingual Reasoning Gap with Layer Swap
本文表明，在使用可比监督的情况下，多语言大语言模型中母语推理与以英语为枢纽的推理之间的性能差距远小于此前认知，并提出了一种“层交换”技术，将英语推理能力从中间层迁移至母语专家模块，从而在保留目标语言用于思维链生成的同时有效弥合了这一差距。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单语言和日常类比对该论文的解读。
核心问题：“英语中间人”
想象一下，你向一位博学且精通多种语言的学生（人工智能）用法语提出了一个复杂的数学问题。尽管你是用法语提问的，但这位学生本能地会在脑海中用英语开始思考：“嗯，让我来解这道题……"。他们所有的艰难推理过程都在英语中进行，仅在给出最终答案时才切换回法语。
这种现象被称为以英语为枢纽的推理。它虽然行之有效，但也存在弊端：
- 翻译失真：如果学生在来回切换语言时出现微小的翻译错误，最终答案可能会出错。
- 难以理解：如果你不懂英语，你就无法看清他们如何解决了问题，因为他们的“思维过程”（思维链）是用一种你不了解的语言进行的。
研究人员曾试图强迫这位学生完全用法语思考（母语推理）。然而，先前的研究表明，当他们这样做时，学生解题的能力显著下降。这就像强迫一位精通法餐的大厨仅用法语食谱烹饪法式菜肴，但由于他们习惯了英制计量单位，结果总是搞错食材。
新实验：更公平的测试
这篇论文的作者想要验证“母语推理”的差距是真实存在的，还是仅仅因为学生训练不足。他们决定开展一项大规模、公平的实验：
- 学生：他们选取了一个智能的基础人工智能（Qwen3-8B），并将其训练为六种语言（英语、法语、德语、西班牙语、中文和斯瓦希里语）的专家。
- 训练：他们为每位专家提供了海量的练习数据（约 100 亿个单词的体量），确保每个人都有公平的机会。
- 对比：他们比较了两组：
- 英语思考者：这些学生用英语解题，但用当地语言作答。
- 母语思考者：这些学生完全用当地语言进行思考和解题。
令人惊讶的结果：
当所有人都接受了同等高质量的训练后，两组之间的差距急剧缩小。“母语思考者”的表现几乎与“英语思考者”一样好（平均仅落后 2–3%）。这表明，只要有足够的练习，人工智能确实可以在其母语中思考而不丧失智能。
秘诀：“层交换”
尽管差距已经很小，但在最难的数学和科学谜题上，“英语思考者”仍然略胜一筹。研究人员想知道：为什么？
他们深入查看了人工智能的“大脑”（其神经网络层），发现了一个有趣的结构：
- 外层（顶层和底层）：这些就像耳朵和嘴巴。它们处理特定的语言（听法语、说法语）。这些部分在不同语言之间差异很大。
- 中间层：这些就像逻辑中心。研究人员发现，当人工智能学习解决数学或科学问题时，无论它是在说法语、中文还是英语，其“逻辑中心”看起来几乎完全相同。这是一个通用的推理引擎。
解决方案：“层交换”
既然英语专家的中间“逻辑”部分稍微更敏锐，研究人员进行了一次“手术”。他们从英语专家那里提取中间层，并将其交换到母语专家中。
- 类比：想象你有一位擅长烹饪但切菜稍慢的法国大厨。你从一位世界级的英语大厨那里取来“切菜的手”（中间层），并将其安装在法国大厨身上。
- 结果：这位法国大厨现在可以像英语大厨一样快速地切菜，但他仍然说法语并做法式菜肴。人工智能保持了用法语思考（保留了本地语言的“思维过程”），同时获得了英语模型的推理能力。
最终成果
通过这种“层交换”，研究人员将法语和德语等语言剩余的 80–90% 性能差距填补了。对于西班牙语，他们完全消除了差距。现在，人工智能可以：
- 用用户的语言思考（使其更易于理解）。
- 解决难题的能力与用英语思考时一样出色。
总结
这篇论文表明，“人工智能必须用英语思考才能变聪明”这一观点主要是一个训练问题，而非根本性的限制。通过正确训练人工智能，然后从英语模型中交换进“最聪明的中间大脑”，我们可以创造出一种在任何语言中都能完美推理的人工智能，同时保持思维过程的透明性，让每个人都能理解。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。