Synthetic Sources?: Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources
本論文は 712 の実世界クエリを用いて 4 つの主要な生成型検索エンジンを監査し、その引用ソースの約 16% が AI によって生成されたものであることを発見し、これが権威ある情報として提示される検証されていない合成情報をユーザーが受け取る重大なリスクを浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
4 人の非常に賢く、旅行経験豊富な司書（ChatGPT、Copilot、Gemini、Perplexity）に、政治、健康、あるいは環境に関する質問を尋ねたと想像してみてください。彼らは単に直接回答するのではなく、「これが回答です。そして、これを書くために読んだ 10 冊の本もここにあります」と言います。
この論文は、それらの「本」（彼らが引用するウェブサイト）を検証する監査であり、それらのいずれかが実際には人間になりすましたロボットによって書かれたものかどうかを調べるものです。
以下に、研究者たちが発見した内容を、簡単なアナロジーを用いて解説します。
1. 設定：インターネットという「図書館」
研究者たちは、これらの AI 検索エンジンを新しい種類の図書館として扱いました。彼らは「このダイエットは安全か？」や「最新の政治スキャンダルは何か？」といった 712 の実際の質問を、4 つの異なる AI エンジンに投げかけました。
エンジンたちは回答を提示し、情報の出所を証明するリンク（引用）のリストを提供しました。その後、研究者たちはそれらのリンクにアクセスし、コンテンツを読み、それが人間によって書かれたものか、別の AI によって生成されたものかを判断するために「嘘発見器」（Pangram という AI 検出ツール）にかけてテストしました。
2. 大発見：図書館に潜む「ロボット・ゴースト」
主な発見は、これらの司書が引用した「本」の約 16% が、実際にはロボットによって書かれたものだったということです。
- メタファー: 図書館で歴史の本を見つけようと想像してください。棚から一冊取り出し、開いてみると、著者が 1 秒で全体を書き上げた機械であることに気づきます。それを取り上げたときは、そんなことは知りませんでした。
- 現実: この研究では、AI エンジンが引用したソースの約6 分の 1が AI 生成コンテンツでした。
- 最悪の加害者: AI エンジンCopilotは、これらのロボットが書いたソースを引用する可能性が最も高く（引用のほぼ 10 分の 3 が AI 生成でした）。ChatGPT は最も慎重でしたが、それでも約 7% の頻度でそれらを引用していました。
3. 「ロングテール」問題：大衆 vs VIP
研究者たちは、AI エンジンがどのウェブサイトを引用する傾向にあるかについて、奇妙なパターンに気づきました。
- VIP（ヘッド）: 少数の有名で信頼できるウェブサイト（Wikipedia、
whitehouse.govなどの政府サイト、主要なニュースメディアなど）が繰り返し引用されます。これらは図書館の「VIP」です。 - ロングテール: しかし、引用の大部分は、数千ものあまり知られておらず、ほとんど訪問されないウェブサイトという「ロングテール」から来ています。これらの目立たないサイトの多くは、1 回または 2 回しか引用されていません。
- 発見: 「ロボットが書いた」コンテンツは、主にこのロングテールに隠れていました。有名な VIP サイトは主に人間によって書かれていましたが、目立たないワンヒット・ウィンドウのウェブサイトこそが、AI 生成テキストで満たされていたのです。
- アナロジー: これは、ホスト（AI）があなたに同じ 5 人の有名人（Wikipedia、政府サイト）を紹介し続けるパーティのようなものです。しかし、その後は部屋の奥にいる 1,000 人の見知らぬ人たちの 80% の時間を費やして紹介し、その多くは実際には人々になりすますマネキン（AI コンテンツ）だったのです。
4. トピック別の内訳
研究者たちは 3 つの特定の分野をチェックしました。
- 環境: このトピックは、引用された AI 生成ソースの量が最も多かったです。
- 健康: 健康アドバイスに関するソースの相当な部分も、AI 生成でした。
- 政治: 他の 2 つよりもやや少ないものの、AI ソースも含まれていました。
5. なぜこれが重要なのか（論文によると）
この論文は、これが危険である理由を以下のように主張しています。
- 「信頼」の罠: AI が回答を与え、リンクのリストを示すとき、あなたはそれらのリンクが実在し、人間によって検証された事実であると想定します。もしリンクが実際には AI 生成のものであれば、AI は本質的に、自らの回答の証拠として自らの「幻覚」や低品質なロボットテキストを引用していることになります。
- 品質の格差: すべての AI テキストが悪いわけではありませんが、論文は AI テキストには誤り、バイアス、あるいは捏造された事実が含まれ得ると指摘しています。AI 検索エンジンが AI によって書かれたソースを使用して回答を構築する場合、土台が揺らぐ「カードハウス」が作られます。
- 「ブラックボックス」: エンジンは「ねえ、このソースはボットによって書かれました」とは教えてくれません。単にリンクを表示するだけです。
まとめ
この論文は、これらの新しい「生成型検索エンジン」が、現在、読者に知らせることなく、誤ってロボットによって書かれた本を引用する司書のように振る舞っていると結論付けています。彼らは少数の有名なウェブサイトに大きく依存していますが、同時に、多くの場合 AI 生成コンテンツで満たされた「ロングテール」の目立たないウェブサイトから膨大な量の情報を引き出しています。
研究者たちは、これが警告信号であると述べています。もし私たちがこれらのエンジンがソースを選択し、検証する方法を改善しなければ、ユーザーは完全に人工的な情報を無意識のうちに信頼してしまう可能性があります。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。