Knowledgeless Language Models: Suppressing Parametric Recall for Evidence-Grounded Language Modeling
本文介绍了知识匮乏语言模型（Knowledge-Less Language Models, KLLMs），这是一种通过在预训练阶段对命名实体进行匿名化处理以抑制参数化事实回溯的新型训练范式，从而使模型更加依赖外部证据，并在证据驱动型任务中展现出比标准语言模型更优越的鲁棒性、校准度和性能。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你有一个超级聪明的机器人朋友，它几乎读过了图书馆里的每一本书。通常情况下，当你问它问题时，它会直接从自己的记忆中提取事实来回答。但这里有一个问题：有时它的记忆已经过时了，或者机器人仅仅是因为听起来很顺耳而“瞎猜”一个事实，即使那个事实是错误的。这被称为“幻觉”（hallucinating），就像机器人为了好玩，自信满满地告诉你月亮是由绿奶酪做成的。
这篇论文中的研究人员提出了一个疯狂的问题：如果我们教机器人故意忘记自己的记忆会怎样？
大规模记忆清除
为了测试这一点，团队创建了一种特殊的训练数据。想象一下拿一大叠新闻文章和百科全书，但在机器人阅读它们之前，用一把神奇的橡皮擦擦掉了每一个名字。“巴拉克·奥巴马”变成了“人物1”，“巴黎”变成了“城市42”，“大圣弗朗西斯科地震”变成了“事件19”。
他们用这种没有名字的文本训练了一种新型的模型，称之为知识“缺失型”语言模型（Knowledge-"Less" Language Model，简称 KLLM）。其目标是阻止机器人记住关于人物和地点的特定事实。机器人不再学习“谁是总统？”，而是学习如何阅读一个句子，寻找其中的线索，并仅根据眼前的证据来推断答案。
结果：一个懂得承认“我不知道”的机器人
当研究人员测试这些新机器人时，结果令人惊讶且非常具体：
- 记忆消失了： 当在没有任何帮助的情况下（“闭卷”测试）被提问时，KLLM 基本上忘掉了一切。它们的准确率降到了接近随机水平。例如，在一项名为 LAMA 的测试中，标准机器人大约能答对 43%，而 KLLM 仅能答对约 3%。论文指出，这证明了他们成功阻止了机器人依赖其内部记忆库。
- 侦探技能提升了： 但转折点在于：当研究人员给机器人一份文档让它阅读，并要求它在文档中寻找答案时，KLLMs 表现得好得多。在 FEVER（事实验证）等测试中，它们的表现提高了多达 7.8 个百分点。在 HaluBench 测试中，它们提高了 10.4%。
- 更擅长知道自己不知道什么： 标准机器人经常在不确定时进行猜测。这些新机器人则更擅长说：“我没有足够的信息。”在证据混乱或不完整的情况下，KLLMs 的准确率比标准机器人高出 20–25%。在检索增强设置中，它们也表现出高达 20–25% 的相对增益。
为什么这很重要（以及它不是什么）
论文认为，这不仅仅是让机器人变得“更笨”或让它遗忘事物。这是在改变机器人的“思考方式”。通过在训练期间移除名字，机器人学会了信任眼前的证据，而不是靠大脑进行猜测。
作者们谨慎地指出，这并不是解决所有问题的万灵药。他们提到，如果你拿走证据，机器人就无法回答。这就像一个侦探，如果给你犯罪现场的照片，他能完美破案；但如果你让他去解决一个没有任何照片的悬案，他就束手无策了。
此外，论文明确排除了这种方法只是靠“随机噪声”提供帮助的可能性。他们尝试了其他技巧，比如随机删除单词或打乱名字顺序，但效果远不如预期。正是“匿名化名字”这一特定行为产生了差异。
核心结论
研究人员建议，通过训练模型忽略名字并专注于上下文，我们可以构建出更不容易撒谎、更倾向于遵循所提供事实的 AI。他们发现，这些模型更加可靠，尤其是在所给信息不完善的情况下。
这有点像教学生不要死记硬背教科书，而是学习如何阅读推理小说中的线索。他们可能不知道“谁是总统？”这个问题的答案，但如果交给他们一份报纸文章，他们找到答案的速度和准确度会比那些试图靠记忆猜测的学生更高。论文表明，这种方法在不同规模的模型上都有效，从小型模型到在 200 亿个 token 上训练的模型，都显示出这可以成为让 AI 更诚实、更立足于现实的有力工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。