Native Multilingual Chain-of-Thought Reasoning in Low-Resource Southeast Asian Languages

想象一下，在这样一个世界里，你最喜欢的电子游戏角色无论你用哪种语言跟他说话，都只能说英语。如果你用西班牙语问他问题，他能听懂你的词汇，但当他开始解释答案时，一旦涉及到复杂的思考部分，他就会突然切换回英语。这不仅仅是一个小故障，而是人工智能（AI）领域，特别是针对“大语言模型”（LLMs）的一个重大障碍。这些是大脑极其聪明的计算机大脑，它们可以写故事、解数学题并与我们聊天。为了更好地解决复杂的难题，它们使用一种叫做“思维链”（Chain-of-Thought）的技巧，这就像是在给出最终答案之前，先对自己低声诉说一步步的思考过程。问题在于，对于世界上许多语言——尤其是像东南亚那些数字资源较少的语言——这些 AI 大脑往往会发生“坍塌”，即使你要求它们用泰语、越南语或印尼语思考，它们也会转而用英语进行内心独白。这让 AI 感觉不像是一个乐于助人的当地朋友，而更像是一个遥远的、仅限英语的导师，这对于教育和公平性来说是一个大问题。

由研究人员 Sean Gip Lim、William Chandra Tjhi 和 Hai Leong Chieu 发起的一项新研究，决定为这些 AI 大脑搭建一座桥梁。他们创建了一种聪明的训练方法，称为 OSCD（Onramp-Sequence Cross-Distillation，即“坡道序列交叉蒸馏”）。把它想象成一位双语教练，这位教练不仅翻译最终答案，还会通过保留正确解法的同时，实际重写 AI 内部的“思考笔记”为当地语言。通常，当你试图教 AI 一门新语言时，它会感到困惑并忘记它原本语言中的聪明才智（这是一个被称为“灾难性遗忘”的问题）。但这种新方法使用了一个特殊的“翻译代理”来交换思考步骤，并使用一种“语义胶水”来确保 AI 的大脑虽然换了一种语言，但依然理解其逻辑。

研究人员在一些最难的数学谜题上测试了这一方法，例如 AIME25 和 HMMT25 竞赛，这些竞赛就像是数学界的奥林匹克运动会。他们选取了擅长英语数学但极不擅长用东南亚语言思考的强大 AI 模型，并仅使用 7em0,000 个例子（与通常需要的数百万个相比，这规模非常小）对它们进行了短时间且高强度的训练。结果令人印象深刻：模型不仅在回答问题方面变得更好，而且实际上开始用当地语言进行“思考”。事实上，这些模型在保持目标语言进行数学问题求解的能力上提升了高达 3.2 倍。更令人兴奋的是，它们在做到这一点时，并没有丧失原有的英语智能。这项研究表明，通过使用这种“翻译代理”和“语义胶水”，我们终于可以赋予 AI 在那些被遗忘的语言中进行自然推理的能力，让先进技术惠及每一个人，而不只是英语使用者。