Copy-Paste to Mitigate Large Language Model Hallucinations
本文提出了一种名为 CopyPasteLLM 的方法，通过两阶段的高复制度偏好训练和三种增强复制度的提示策略，显著提升了检索增强生成（RAG）模型在上下文忠实度方面的表现并有效减少了幻觉，且仅需极少量训练数据即可实现超越基准模型的性能。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这是一篇关于如何让 AI（大语言模型）在回答问题时“不瞎编”的研究论文。我为你准备了一个生动的比喻来解释它。
核心问题：AI 的“知识偏见”与“一本正经胡说八道”
想象一下，你正在参加一个**“开卷考试”**。老师给了你一本参考书（这就是 RAG 技术提供的“上下文”），要求你必须根据书里的内容来回答问题。
但现在的 AI 有个毛病：它不仅读了这本书，它脑子里还装满了以前看过的成千上0万本书（这就是它的“内置参数知识”）。
问题来了： 当书里的内容和你脑子里的常识冲突时，AI 往往会“自以为是”。比如，书里说“太阳是绿色的”，AI 可能会想：“这不对啊，我记得太阳是红色的”，然后它就直接无视了书本，按照自己的记忆回答了。这种无视证据、固执己见的行为，就是我们常说的“幻觉”（Hallucination）。
论文的解决方案：Copy-Paste（复制粘贴法）
这篇论文提出了一个非常简单、甚至有点“笨”但极其有效的策略，叫做 “Copy-Paste”。
1. 它的逻辑：与其“转述”，不如“直抄”
以前的方法是让 AI “读完书，理解一下，然后用自己的话写出来”。这就像让你把书里的段落改写成自己的话，在这个“改写”的过程中，AI 很容易把自己的错误记忆偷偷混进去。
而这篇论文说：“别动脑子去理解，直接把书里的原话‘复制粘贴’过来！”
如果 AI 的回答里大量包含了书里的原句，它就很难把自己的错误记忆塞进去了。这就好比考试时，与其试图用自己的话解释，不如直接把书上的原话摘抄下来，这样绝对不会出错。
2. 它是怎么训练 AI 的？（两步走战略）
- 第一步：当个“学霸”模范生（构建高质量数据）
研究人员设计了三种“强迫症”式的提示词方法（CP-Order, CP-Link, CP-Refine），强迫 AI 在练习时必须大量使用书里的原话。有的方法是直接把句子排好序，有的则是让 AI 自己写完再检查一遍，看抄得够不够多。 - 第二步：通过“奖惩机制”内化习惯（DPO 训练）
有了这些“抄得特别准”的范本后，研究人员用这些数据去训练 AI。如果 AI 选择了“抄书”的回答，就给它奖励；如果它选择了“用自己的话瞎编”的回答，就给它惩罚。
最终效果：小投入，大回报
这篇研究最厉害的地方在于它的**“高效”**：
- 极速学习： 别的研究可能需要几万条数据来教 AI 变诚实，而这个方法只需要 365 条高质量的“复制粘贴”范本，就能让 AI 的表现大幅提升。
- 战胜“大佬”： 在一些故意给出错误信息的测试中（比如书里说月亮是奶酪做的），这个经过训练的 AI 表现得比很多顶级的 AI（比如 GPT-4o）还要靠谱，因为它学会了**“信任眼前的证据，而不是相信脑子里的旧知识”**。
总结一下
如果把传统的 AI 比作一个**“自以为是的演说家”（喜欢用自己的话滔滔不绝，容易出错）；
那么这篇论文训练出来的 CopyPasteLLM 就像是一个“严谨的速记员”**（只看证据，只抄原话，绝不乱加戏）。
一句话总结：通过强迫 AI “多抄书、少发挥”，我们成功地让它从一个“爱吹牛的演说家”变成了一个“靠谱的速记员”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。