When Flores Bloomz Wrong: Cross-Direction Contamination in Machine Translation Evaluation
本文证明了 FLORES-200 基准测试在 Bloomz 等多语言大语言模型中的污染会导致跨方向记忆，从而即使在未见的翻译方向上也会虚增翻译得分，并指出命名实体替换是检测此类污染的一种有效方法。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
大局观：“小抄”问题
想象一下你正在参加期末考试。你努力学习了，但你也无意中背下了老师给你的练习题的准确答案。当你看到真正的考试时，你并没有真正解决问题，而只是在背诵你背下来的答案。你的分数很完美，但这并不能证明你掌握了知识。
在人工智能（AI）领域，这被称为数据污染（data contamination）。大型语言模型（LLMs）是在海量的互联网文本上训练出来的。有时，“练习题”（用于给 AI 打分的公开基准测试）会混入“教科书”（训练数据）中。AI 记住的是答案，而不是学习如何进行翻译。
实验过程：两个学生，一场考试
研究人员想要看看这种“作弊”行为是否发生在机器翻译（教 AI 说不同语言）领域。他们使用了一个著名的测试，叫做 FLORES-200，这就像是一场涵盖 200 种语言的大型多语言考试。
他们对比了两个“学生”（AI 模型）：
- Bloomz：这个学生被认为在训练期间已经“学习”过 FLORES 练习题。
- Llama：这个学生被认为没有见过 FLORES 测试。它作为一个“诚实”的对照组。
惊喜发现：“跨方向”作弊
研究人员原本预期，如果 Bloomz 作弊，它只会发生在从它在测试中见过的某种语言翻译到另一种测试中见过的语言时。
但他们发现了一些奇怪的现象：跨方向污染（Cross-Direction Contamination）。
类比：
想象 Bloomz 背下了西班牙语到英语考试的答案。
- 预期： 如果你要求 Bloomz 进行英语到西班牙语的翻译，它应该表现得很吃力，因为它没有背过那个特定的方向。
- 现实： Bloomz 在英语到西班牙语的翻译上表现得惊人地好，尽管它从未见过那个特定的配对。
为什么？
AI 记住了目标语（答案端）。
可以这样理解：如果你背下了数学考试的答案，即使题目稍有不同，你也能解出题目。Bloomz 记住了那些应该是“答案”部分的“英语”（或法语、或中文）句子。因此，当被要求将任何内容翻译成英语时，它只需从记忆中提取出那些背好的英语句子即可，无论源语言是什么。
调查：你能骗过作弊者吗？
研究人员试图通过“戏弄” Bloomz 来观察它是在真正“思考”还是仅仅在“背诵”。
1. “回译”戏法
他们取一个句子，将其翻译成第三种语言（如斯瓦希里语），然后使用另一个 AI 将其翻译回原始语言。这创造了一个与原句略有不同（类似于改写）但意思相同的版本。
- 结果： 即便面对这样一个略有不同的句子，Bloomz 仍然吐出了背好的答案。这就像 AI 识别出了问题的“气味”，并立即背诵出了记忆中的答案，即使措辞略有偏差也无妨。
2. “姓名替换”戏法
研究人员替换了句子中的特定名称和数字（例如，将“John”改为“Sarah”，或将“1990”改为“2024”）。
- 结果： 这竟然奏效了！当他们更换了名字后，Bloomz 的得分显著下降。
- 原因： 这表明 AI 紧紧抓住了背诵的句子结构和特定的名称。当名字被替换时，背诵的模式就断裂了，AI 无法再简单地背诵答案。这说明更换名字是捕捉 AI 作弊的好方法。
“伪训练”实验
为了证明这不仅仅是偶然现象，研究人员让“诚实的学生”（Llama）通过“强迫学习”FLORES 测试（对其进行微调）来完成实验。
- 结果： 一旦 Llama 学习了该测试，它就开始表现得和作弊者（Bloomz）一模一样。它在未见过的方向上也获得了高分，仅仅是因为它记住了目标语言。这证实了问题纯粹在于记忆，而不是因为 AI 变得“聪明”了。
总结
该论文得出结论：
- 记忆是狡猾的： 一个 AI 可以记住答案（目标语言），并利用这一点在任何要求该答案的问题上作弊，即使问题本身（源语言）完全不同。
- 标准测试失效了： 如果你只看分数，你可能会认为这个 AI 擅长翻译。但它可能只是在背诵文本。
- 如何识破它们： 如果你想知道一个 AI 是否在翻译测试中作弊，尝试改变问题中的名字和数字。如果 AI 的分数暴跌，那么它很可能只是在背诵答案，而不是在进行真正的翻译。
简而言之： AI 没有学会说话，它只是背下了答案。由于它记住了答案，所以它可以应对那些它本不该看到的题目。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。