Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
本文表明，大型语言模型的跨语言迁移主要由任务格式对齐而非语言相关性驱动，因为无论其基准性能如何或是否使用思维链推理，模型在不同语系中均表现出一致的提升。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你有一支由七名不同水平的学生（即 AI 模型）组成的团队，他们的水平从聪慧但缺乏经验的高中生到资深的教授不等。你想看看教给他们一门特定的学科——阿拉伯语，是否能让他们在回答希伯来语、阿姆哈拉语和马耳他语（这些与阿拉伯语相关的语言）的问题时突然变得专业；还是说，这仅仅能让他们在回答日语、韩语和法语（不相关的语言）时也同样表现出色。
研究人员的大发现是：教他们阿拉伯语并不会神奇地将“阿拉伯语知识”转移到相关语言中。相反，它只是教会了他们“如何应试”。
以下是使用简单类比进行的详细拆解：
1. 背景设定：“语言家族”测试
研究人员选择了闪米特语族（阿拉伯语、希伯来语、阿姆哈拉语和马耳他语），因为它们就像是亲戚。尽管在纸面上看起来不同，但它们拥有深层的家族根源（阿拉伯语和希伯来语使用类似于字母骨架的文字，阿姆哈拉语使用不同的文字，而马耳他语则使用我们英语使用的标准拉丁字母）。
其核心想法是：如果我们教一个模型阿拉伯语，它会因为这些语言是“亲戚”而自然地变得擅长希伯来语或阿姆哈拉语吗？
2. 实验过程：“阿拉伯语速成班”
他们选取了七个大型 AI 模型，并仅使用阿拉伯语方言对它们进行了“速成班”训练（微调）。他们并没有教模型关于其他语言的任何知识。随后，他们在没有进一步训练的情况下，测试了这些模型在其他语言中的阅读理解能力（零样本测试/zero-shot）。
3. 结果：全在于“应试技巧”
结果令人惊讶。
“弱”模型（挣扎中的学生）： 起初表现较差的模型（如 GPT-OSS 模型）在接受阿拉伯语训练后获得了巨大的提升。它们的正确率从 45% 跃升到了接近 80%。
- 转折点： 它们在日语和法语上的进步程度，竟然与在希伯来语和阿姆哈拉语上的进步程度几乎一样。
- 类比： 想象一个不知道如何正确填写答题卡涂黑区域的学生。你通过一份阿拉伯语练习卷教他如何正确填涂。突然间，他在所有测试中都表现得更好了，甚至包括日语测试，仅仅是因为他终于学会了如何正确标记那些圆圈。他并没有学会日语，他学会的是格式。
“强”模型（顶尖学生）： 那些起初就已经做得非常出色的模型（如拥有 6710 亿参数的 DeepSeek）几乎没有进步。
- 类比： 如果一个学生已经是能完美填涂答题卡的 A+ 学生，那么给他更多关于填涂练习的训练并不会带来什么帮助。他们已经完成了校准。
4. “思维链”（CoT）的证明
为了证明这并非关于学习新的语言知识，研究人员尝试了另一种方法：思维链（Chain-of-Thought, CoT）。他们不再重新训练模型，而是要求模型在回答之前先“大声思考”（写出推理步骤）。
- 结果： 那些通过阿拉伯语训练获得进步的完全相同的模型，也通过“大声思考”获得了进步。
- 结论： 如果阿拉伯语训练转移的是“语言知识”（如语法规则），那么“大声思考”带来的帮助应该不会这么大。但既然两种方法对这些模型的帮助程度几乎相同，这证明了问题不在于缺乏知识。问题在于模型不知道如何将自己的答案与测试格式对齐。
5. 文字系统的迷思
研究人员还检查了书写系统是否起到了作用。由于阿拉伯语和希伯来语都使用类似于字母骨架（abjad）的文字，他们认为希伯来语可能会获得特殊的提升。
- 现实情况： 希伯来语并没有获得特殊的提升。无论使用的文字是与阿拉伯语相同的文字，还是完全不同的文字，进步程度都是一样的。“家族树”的联系并不重要。
核心结论
论文得出结论：当我们看到一个 AI 在接受相关语言训练后在某种语言上表现更好时，我们不应假设这是因为 AI “学习了该语系”。
相反，AI 很可能只是学会了游戏的规则。它正在学习如何观察问题、处理选项并选择正确的答案编号（1、2、3 或 4）。一旦它通过阿拉伯语学会了这种“游戏格式”，它就可以将这种技能应用到任何语言上，无论这个语言是“亲戚”（希伯来语）还是“陌生人”（日语）。
简而言之：模型并没有学会说希伯来语；它们学会了如何参加考试。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。