💬 NLP

Merge and Conquer: Instructing Multilingual Models by Adding Target Language Weights

该论文提出了一种通过合并指令微调模型与特定语言基础模型来向多语言大模型注入目标语言能力的轻量级方法，在无需特定语言指令数据或重复微调的情况下，有效提升了低资源语言（如巴斯克语、加泰罗尼亚语等）的指令遵循能力并降低了计算成本。

原作者： Eneko Valero, Maria Ribalta i Albado, Oscar Sainz, Naiara Perez, German Rigau

发布于 2026-03-31

📖 1 分钟阅读☕ 轻松阅读

原作者： Eneko Valero, Maria Ribalta i Albado, Oscar Sainz, Naiara Perez, German Rigau

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文讲述了一个关于如何让大型人工智能（AI）模型学会“说方言”或“小语种”的巧妙方法。我们可以把它想象成在教一个只会说英语的超级学霸，如何快速掌握巴斯克语、加泰罗尼亚语等小众语言，同时还能保持他原本“听话、能执行指令”的聪明劲儿。

以下是用通俗语言和比喻对这篇论文核心内容的解读：

1. 背景难题：学霸的“偏科”与高昂的学费

现状：现在的顶级大模型（LLM）就像是从英语世界长大的“超级学霸”。它们英语说得溜，指令执行得也好，但一旦遇到巴斯克语、加利西亚语等“小语种”，表现就大打折扣，甚至像变了个人。
传统方法的痛点：以前想让这些学霸学会小语种，通常有两种笨办法：
1. 重新上学（持续预训练）：让学霸重新花大量时间和金钱去读小语种的书籍。这需要巨大的算力（超级计算机），小团队根本烧不起这个钱。
2. 请家教（指令微调）：不仅要有书，还得有人专门教它“怎么回答小语种的问题”。但这需要大量高质量的小语种对话数据，而这些数据往往根本找不到。
- 比喻：这就好比你想让一个只会说英语的钢琴家学会弹巴斯克民谣。传统做法是让他脱产去巴斯克地区住一年，重新练琴。这太贵、太慢了。

2. 核心方案：模型“合并” (Model Merging) —— 像“基因融合”一样简单

这篇论文提出了一种轻量级、低成本的新方法：模型合并。

怎么做？
1. 准备两个模型：
  - 模型 A（指令版）：一个已经非常聪明、懂得如何听从人类指令的通用大模型（比如 Llama 3.1 Instruct），但它不太会说小语种。
  - 模型 B（语言版）：一个专门用大量小语种数据训练出来的“语言专家”（Base Model），它很会说小语种，但不懂怎么听从复杂指令。
2. 进行“合并”：作者没有让模型重新学习，而是直接通过数学公式，把模型 A 和模型 B 的“大脑参数”（权重）像搅拌两种颜色的颜料一样混合在一起。
- 比喻：想象模型 A 是一个精通指挥的乐队指挥（懂指令），模型 B 是一个精通巴斯克民谣的乐手（懂语言）。
  - 传统做法：让指挥去当乐手学徒，重新练琴。
  - 合并做法：直接把指挥的“指挥棒”和乐手的“琴技”融合到一个新身体里。结果就是：这个新模型既听得懂指挥的指令，又能流利地演奏巴斯克民谣。

3. 实验结果：不仅学会了，还更聪明了

作者测试了四种伊比利亚半岛的语言（巴斯克语、加利西亚语、加泰罗尼亚语、西班牙语）和两种主流模型家族。

单语合并：把通用指令模型和某种小语种模型合并，新模型在该小语种上的表现大幅提升，甚至超过了那些专门针对该语言从头训练出来的模型，同时没有丢失原本听从指令的能力。
多语合并：更神奇的是，你可以把“巴斯克专家”、“加泰罗尼亚专家”和“通用指令专家”一起混合。结果得到一个多语言全能模型，它能同时听懂并执行多种小语种的指令。
对比传统：这种方法的计算成本极低（就像“拼积木”），而传统方法需要“重新盖房子”。虽然在小语种指令执行上，合并模型偶尔不如“重新训练”的那么完美，但考虑到成本，它已经极具性价比，且效果非常惊人。

4. 关键发现：怎么“搅拌”很重要

作者发现，混合的比例和方式（就像做菜时的火候和配方）很关键：

线性混合：简单的按比例混合（比如 50% 指令模型 + 50% 语言模型）通常效果最好。
高级技巧：像“任务算术”（Task Arithmetic）等更复杂的方法，在某些情况下能更好地保留指令能力，防止模型“变笨”。
平衡点：如果语言模型的比例太高，模型可能变得只会说话但听不懂指令；如果太低，语言又学不会。作者找到了一个“甜蜜点”，让两者达到最佳平衡。

5. 总结与意义：让 AI 更公平、更普及

打破垄断：以前只有大公司有钱有算力才能训练多语言模型。现在，通过“模型合并”，小团队甚至个人开发者，只需要把现有的开源模型“拼”一下，就能创造出高质量的小语种 AI。
保护文化：这让像巴斯克语、加利西亚语这样资源匮乏的语言，也能享受到最先进的 AI 技术，不再被边缘化。
未来展望：作者还开源了他们训练好的模型和测试数据，鼓励大家继续探索。

一句话总结：
这篇论文证明了，我们不需要每次都花巨资去“重新教育”AI，只需要像调配鸡尾酒一样，把“懂指令的通用模型”和“懂小语种的专业模型”混合在一起，就能低成本、高效率地创造出既聪明又懂多种方言的 AI 助手。

这是一篇关于通过**模型合并（Model Merging）**技术将指令微调（Instruction-Tuned）的大语言模型（LLM）适配到低资源语言的论文。以下是该论文的详细技术总结：

1. 研究背景与问题 (Problem)

英语中心主义与低资源语言困境：当前的大语言模型（LLM）主要在英语等高分资源语言上表现优异，但在巴斯克语、加利西亚语、加泰罗尼亚语等低资源语言上性能显著下降。
传统适配方法的局限性：
- 计算成本高：传统的持续预训练（Continual Pre-training）和指令微调（Instruction Tuning）需要巨大的计算资源。
- 数据稀缺：低资源语言社区缺乏高质量的目标语言指令 - 响应数据对（Instruction-Response Pairs）。
- 重复劳动：每当基础模型发布更强的指令微调版本时，低资源语言社区必须重新进行昂贵的适配过程，难以跟上模型迭代的步伐。
核心问题：是否存在一种轻量级、低计算成本的方法，能够将语言特定的知识“转移”到现有的指令微调模型中，而无需重新训练或收集大量指令数据？

2. 方法论 (Methodology)

作者提出了一种模型合并策略，旨在将“特定语言的基础模型”与“通用的指令微调模型”合并，从而生成一个既懂特定语言又具备指令遵循能力的模型。

2.1 实验设置

目标语言：四种伊比利亚语言（巴斯克语、加利西亚语、加泰罗尼亚语、西班牙语）。
模型家族：Llama 3.1 (8B) 和 Qwen 3 (8B, 14B)。
流程：
1. 持续预训练：使用特定语言语料库（如 Latxa, CorpusNÓS, CulturaX）对基础模型进行持续预训练，使其精通目标语言。
2. 模型合并：将训练好的语言特定基础模型与通用的指令微调模型（如 Llama 3.1 Instruct）进行合并。

2.2 合并技术

论文评估了多种合并策略：

线性合并 (Linear Merging)：简单的加权平均参数。
任务算术 (Task Arithmetic)：基于任务向量（任务模型参数 - 基础模型参数）的加权叠加。
DARE (Drop And REscale)：随机丢弃部分参数并重新缩放，以减少任务间的干扰。
Breadcrumbs：过滤掉任务向量中微不足道或极端的参数更新，保留中间范围的更新。
TIES：修剪冗余参数并解决符号冲突（在实验中与 DARE 和 Breadcrumbs 结合使用）。

2.3 评估基准

多项选择题基准：Belebele, EusReading, XStoryCloze, CoLA 变体等，评估语言理解和常识推理。
机器翻译：Flores 基准，评估文本生成和语法正确性。
指令遵循：扩展了 IFEval 基准（原仅支持英语、西班牙语、加泰罗尼亚语），新增了巴斯克语和加利西亚语版本，用于评估模型遵循复杂指令（如关键词包含/排除、标点符号使用等）的能力。

3. 主要贡献 (Key Contributions)

验证了模型合并的可行性：证明了通过合并语言特定基础模型和通用指令模型，可以成功赋予指令模型新的语言能力，无需收集特定语言的指令数据。
多语言扩展能力：展示了单个 LLM 可以通过合并多个语言特定模型，同时获得多种低资源语言的能力。
基准扩展：将 IFEval 指令遵循基准扩展到了巴斯克语和加利西亚语，填补了低资源语言指令评估的空白。
开源资源：发布了针对四种语言的持续预训练基础模型、合并后的指令模型，以及巴斯克语的 IFEval 数据集。

4. 实验结果 (Results)

语言能力提升：
- 合并后的模型在目标语言的多项选择题和机器翻译任务上，显著优于未适配的通用指令模型。
- 对于低资源语言（如巴斯克语），性能提升最为明显，甚至达到了与“联合预训练 + 指令微调”（Joint Pre-training + Instruction Tuning）方法相当的水平。
- 在保持指令遵循能力方面，合并模型虽然略低于原始通用指令模型，但远优于单纯的语言适配模型，且未出现灾难性遗忘。
多语言合并：
- 多语言合并模型（Merge-Multi）在多种语言间取得了较好的平衡，虽然单项语言性能略低于单语言合并模型，但整体表现优于通用基线。
指令遵循表现：
- 指令遵循能力（IFEval）受合并方法影响较大。
- 线性合并和任务算术通常表现最好。
- DARE和Breadcrumbs在某些语言（如加利西亚语）的机器翻译任务中表现不佳，甚至导致模型崩溃。
- 合并比例（权重 $w_i$ ）至关重要：增加语言模型权重会提升语言能力但可能削弱指令遵循能力，最佳范围通常在 $w_i \in [0.5, 1.0)$ 。
计算效率：相比传统的联合训练，模型合并极大地降低了计算成本，使得小型研究团队也能适配前沿模型。

5. 意义与结论 (Significance & Conclusion)

高效替代方案：模型合并为低资源语言的 LLM 适配提供了一种高效、低成本的替代方案，避免了昂贵的重新训练循环。
降低门槛：该方法降低了硬件要求，使资源有限的社区能够利用最先进的模型服务于本地语言。
未来方向：虽然合并策略在语言迁移上有效，但指令对齐（Alignment）的保留仍需优化。未来的工作应探索更精细的合并算法（如针对指令保留的特定算法）以及在不同模型家族间的稳定性。
总体评价：该研究证明了“合并即学习”（Merge to Learn）的潜力，为构建更包容、多语言的 AI 生态系统提供了切实可行的技术路径。

总结：这篇论文通过系统的实验表明，利用模型合并技术，可以将特定语言的基础知识高效地注入到指令微调模型中，从而在不消耗大量计算资源和指令数据的情况下，显著提升大模型在低资源语言上的表现。