Citation Receipts: Auditing Retrieval-Backed Citation Events in Digital Libraries
本論文は、デジタルライブラリがサンプリングによる検証を通じて特定の引用イベントを検証することを可能にするため、認証されたソースの取得に関する暗号署名付きの監査可能な記録を生成するシステムである、引用受領プロトコル（Citation Receipt Protocol: CRP）を導入するものであるが、同時に、グローバルな完全性や意味的な引用の妥当性を証明することにおける限界についても明示的に認めている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の研究の世界において、学者の業績はしばしば、他の研究者がその論文をどれほど頻繁に引用しているかによって測定されます。数十年の間、このカウント作業は単純なものでした。人間の執筆者が論文を読み、それが関連していると判断し、自身の著作の中に参照として追加するというプロセスです。その行為は、永続的で検証可能な記録を生み出しました。しかし今日、人工知能という新しい種類の執筆者が部屋に足を踏み入れました。これらのシステムは、数千もの論文を読み、要約や文献レビュー、研究草案を数秒で作成することができます。それらはしばしば引用を含み、読者を元の情報源へと導きます。しかし、ある静かな問題が浮上しています。AIが論文を引用する場合、そのAIが答えを見つけるために実際にその論文を読んだのか、あるいは数年前に学習したパターンに基づいてタイトルを単に推測しただけなのか、判別がつかないことがあるのです。さらに悪いことに、たとえAIが実際にその論文を読んだとしても、その論文の出版社がその事実を知る術はほとんどありません。AI企業はやり取りを把握し、ユーザーは回答を目にしますが、その論文を保持している図書館には何も伝わらないのです。これは科学的発見の記録における空白を生み出し、一つの論文が一度も公式なクレジットを受けることなく、数千ものAIの回答に影響を与える事態を招いています。
クマール・アビナフ（Kumar Abhinav）という研究者は、AIの思考方法を変えるのではなく、新しい種類の「デジタル領収書」を作成することによって、この空白を埋める方法を提案しました。本を借りるたびに、システムが自動的に、どの本が、いつ、誰によって持ち出されたかを正確に示す、改ざん不可能な小さなチケットを印刷する図書館を想像してみてください。アビナフ氏の研究である「引用領収書プロトコル（Citation Receipt Protocol）」は、デジタル時代においてこれと同様の仕組みを実現するものです。これは、AIシステムが回答を生成して表示する瞬間に、ソース（情報源）をフェッチ（取得）したことを証明するように設計されています。このシステムは、AIプロバイダーがソースを取得し、回答の中に表示した瞬間に、デジタル領収書に署名することで機能します。この領収書は、公証人が文書にスタンプを押し、永続的な登録簿に追加するのと同様に、公開され変更不可能なログにロックされます。これにより、出版者や独立した監査人がログをチェックし、その引用が実在するものであり、かつソースのテキストを実際に取得したことに基づいていることを検証できるようになります。
このアイデアが現実世界で機能するかどうかをテストするため、アビナフ氏は、2026年1月までのデータで学習された大規模言語モデルを用いて、一連の制御実験を行いました。研究チームは、AIが記憶だけで知っているはずのない、その学習日付よりも後に発表された100本の科学論文のセットを作成しました。そして、これら新しい論文についてAIに質問を行う際、3つの異なる条件下で行いました。第一の条件では、AIは新しい論文へのアクセス権を全く持っていません。第二の条件では、AIはこれらの新しい論文のローカルライブラリを検索し、上位5つの結果を取得することが許可されます。第三の条件では、特定のターゲット論文を見るようにAIに強制しました。結果は明白でした。AIが新しい論文へのアクセス権を持たない場合、AIはそれらを引用しませんでした。AIが検索と取得を許可されていた場合、ターゲットとなる論文は100回の試行のうち95回で引用されました。決定的なのは、認証されたソースと一致する、これら95件の目に見える宣言された引用のすべてにおいて、システムがデジタル領収書の生成と検証に成功したことです。これは、本プロトコルが、新鮮な取得に基づく引用と、単なる推測やハルシネーション（幻覚）による引用を区別できることを証明しました。
また、この研究は、AIプロバイダーが自社のシステムをより良く見せたり、使用状況の報告を避けたりするために、引用を省略しようとする試みをこのシステムが検知できるかどうかも調査しました。研究チームは、プロバイダーが引用の10%を意図的に省略するテストを設定しました。ランダムな抜き打ち検査として機能する監査システムは、高い信頼性でこれらの欠落した領収書を検知できました。しかし、本研究は、このシステムがあらゆる問題を解決する魔法の杖ではないことも明らかにしています。このシステムは、AIが論文の意味を実際に理解したかどうか、あるいはその引用が特定の回答を与えた唯一の理由であるかどうかを証明することはできません。また、AIが過去にその論文の学習を行ったかどうかを判断することもできません。これは、特定の時点において論文がフェッチされたことを証明するものに過ぎないからです。さらに、システムはクライアントが回答を記録する際の誠実さに依存しており、ユーザーのデバイスが侵害されている場合、監査は欺かれる可能性があります。
研究者らは、このシステムを追加するコストを測定し、それが非常に小さいことを発見しました。各デジタル領収書は、短いテキストメッセージほどのサイズしかない極めて小さなファイルであり、作成またはチェックするのに標準的なコンピュータで1秒もかかりません。このことは、既存のデジタルライブラリの速度を落とすことなく、このシステムを追加できることを示唆しています。また、本研究は、引用をカウントする方法における重要な区別を強調しました。論文がAIの回答の中に何度登場するかという単純なカウントだけでは不十分です。研究者らは、領収書プロトコルがなければ、プロバイダーが容易に引用を隠したり、偽の引用を捏造したりできることを示しました。プロトコルを用いることで、カウントは特定のイベントの検証された記録となります。すなわち、特定のバージョンの論文がフェッチされ、特定の回答が生成されたという記録です。
結局のところ、この研究は人工知能の時代における透明性のための実用的なツールを提供しています。これは、AIがどのように学ぶか、あるいはAIが真に科学を「理解」しているかという深い哲学的な問いを解決すると主張するものではありません。むしろ、AIがソースを指し示すとき、その指示がソースへのアクセスの検証可能な記録によって裏付けられていることを保証するための、機械的な方法を提供するものです。デジタルライブラリや出版社にとって、これはAI企業が真実を教えてくれるのを待つのではなく、自社の論文がAIシステムによってリアルタイムで使用されていることを確認できることを意味します。科学界にとって、これは情報の流れを新たなレベルの精度で追跡することを可能にし、たとえ書き手が機械であっても、発見へのクレジットが適切な場所に与えられることを保証するものです。研究は、このプロトコルがAIの思考の質を証明するものではないものの、生成される引用に対して監査可能な痕跡を成功裏に作成していると結論付けています。なお、著者であるクマール・アビナフ氏は、引用領収書プロトコルに関連する特許出願を個人で所有しているという、潜在的な金銭的利害関係を開示しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。