Copy-Paste to Mitigate Large Language Model Hallucinations
本論文は、RAGにおけるハルシネーションを抑制するため、回答の文脈コピー率を高めることで文脈への忠実性を向上させる手法「CopyPasteLLM」を提案し、極めて少ない学習データ量で高い精度を実現した研究です。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
タイトル：AIの「うっかり嘘」を防ぐ！「コピペ作戦」で超・正確な回答を実現
1. 今、AIが抱えている問題： 「物知りすぎるがゆえの嘘」
想像してみてください。あなたは、ある歴史的な出来事について詳しく知りたいと思って、AIに質問しました。AIはとても物知りなので、すぐに答えを返してくれます。
しかし、ここで問題が起こります。AIは、**「あなたが渡した資料（コンテキスト）」よりも、「自分が昔勉強して覚えている知識（内部知識）」**を優先してしまうことがあるのです。
例えば、あなたが「新しいルールでは、リンゴは青いと書いてあります」という資料を渡したのに、AIが「いやいや、リンゴは普通は赤いです！」と、自分の知識で勝手に書き換えてしまうようなものです。これが、AIの「ハルシネーション（もっともらしい嘘）」です。
2. この論文の解決策：「コピペ作戦（Copy-Paste）」
研究チームは、こう考えました。
「AIに、自分の言葉でまとめさせようとするから嘘が混ざるんだ。だったら、資料にある文章をそのまま『コピペ』して答えを作らせればいいじゃないか！」
これが、この論文が提案する**「Copy-Paste」**という手法です。
これまでのAIは、資料を読んで「要約（パラフレーズ）」しようとしていました。しかし、要約しようとすると、どうしても自分の知識が混ざり、言葉が微妙に変わって嘘に繋がります。
今回の作戦は、**「資料のフレーズをそのまま抜き出して、パズルのように組み合わせて答えを作る」**という、非常にストレートで誠実な方法です。
3. どうやってAIを訓練したのか？：「厳しい先生と、お手本」
ただ「コピペしろ」と言うだけでは、AIは文章がバラバラで読みづらいものを作ってしまいます。そこで、研究チームは2段階のトレーニングを行いました。
- 第1段階（お手本の作成）：
AIに「資料から文章を抜き出す」「文章の間に自然なつなぎ言葉を入れる」「何度も書き直して完璧にする」という、3つの異なるレベルの「コピペ回答」を作らせました。 - 第2段階（特訓）：
「自分の知識で勝手に書いた回答」よりも、「資料をしっかりコピペした回答」の方が「素晴らしい回答だ！」とAIに教え込みました。これを**DPO（直接選好最適化）**という方法で行いました。
4. 結果はどうだった？：「驚きの効率と正確さ」
結果は驚くべきものでした。
- 圧倒的な正確さ：
特に「資料の内容が、世間一般の常識と違う（反事実的な）場合」において、AIの正解率が劇的に上がりました。AIは「自分の常識」を捨てて、「目の前の資料」を信じられるようになったのです。 - 超・省エネ：
普通、AIを賢くするには膨大なデータが必要ですが、この手法はたった365個のサンプル（従来の50分の1！）で、他の強力なAIを圧倒する成果を出しました。
5. まとめ：AIは「自分の知識」より「目の前の証拠」を信じるようになる
この研究は、AIに**「知識をひけらかすのではなく、目の前にある証拠（資料）を忠実に伝える」**という、誠実な態度を教えることに成功しました。
これは、医療の相談や法律の調査など、「絶対に間違った知識を混ぜてはいけない」という、命や権利に関わる重要な場面で、AIが安心して使えるようになるための大きな一歩なのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。