Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training
本論文は、アーカイブ機関が、アイテムレベルのプロヴェナンス（来歴）の喪失を競争上の優位性と再定義し、リスクを軽減しつつ協働を促進するために、カスタマイズされた契約、RAG技術、および公共の利益への貢献への提唱といった戦略的な政策を採用することで、AI学習のためのコレクション共有に対する躊躇を克服すべきであると論じている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
世界の図書館やアーカイブの静かな片隅には、何百万ものユニークな文書、写真、録音資料が、誰かに見られるのを待って置かれています。これらは単なる古い紙片ではありません。それらは人類の記憶の原材料であり、多くの場合、箱の中や壊れやすいフィルムの中に保管され、公衆の目には触れていません。近年、人工知能を構築している企業が、これらの隠されたコレクションへのアクセスを求め始めています。彼らは、この歴史的データをコンピュータモデルに投入することで、機械をより賢く、より知識豊かにしたいと考えています。その目的は、人間が何世紀にもわたってどのように考え、書き、創造してきたかを機械に教えることです。しかし、これらのアーカイブを守る人々は躊躇しています。もし自分たちの資料を提供してしまえば、機械は事実は学習するものの、その事実がどこから来たのかを忘れてしまうのではないかと彼らは危惧しています。自分たちの歴史に対するコントロールを失い、意図しない方法で機械が情報を使用することを止められなくなることを恐れているのです。この緊張関係は、新たな論争の中核に位置しています。アーカイブは過去を守るために「ノー」と言うべきか、それとも未来を形作るために「イエス」と言うべきか。
サウスフロリダ大学の研究者であるジンファン・ニウによる最近の研究は、アーカイブはこの問題に対して間違った見方をしている可能性があると示唆しています。論文は、アーカイブが人工知能に対して、技術的に提供不可能なこと、例えば特定の回答を作成するために使用されたすべての文書の完璧なリストを要求することに固執しすぎていると論じています。著者は、これらの期待値を下げることで、アーカイブはむしろより大きな力と保護を得られる可能性があると提案しています。機械にすべての詳細を記憶させるよう強制する代わりに、アーカイブは、機械が特定のページまで回答を遡ることはできないという事実を受け入れるべきだというのです。この受け入れと引き換えに、アーカイブはより良い取引を交渉し、最も価値のあるツールを自らの手元に残し、機械が情報を誤用した場合に責任を負わないようにすることができます。
問題の核心は、人工知能がどのように学習するかという点にあります。人間が本を読むとき、物語やアイデアは記憶しますが、思考を形成するために読んだすべての文章のメンタルマップを保持しているわけではありません。同様に、AIモデルが訓練されるとき、膨大な量の情報を「重み」と呼ばれる内部構造へと吸収します。これらの重みは文書のファイリングキャビネットではなく、数学的な接続の複雑なネットワークです。学習が終わると、モデルは特定のアーカイブの特定のページを指して、「私はここからこの事実を学んだ」と言うことはできません。情報は混ざり合っているのです。論文は、AIが生成した回答のために使用された個々のデータに対して引用を求めることは、人が詩を書くために導かれた正確な記憶のシーケンスを思い出すように求めるようなものであると述べています。それは単に困難であるだけでなく、現在のテクノロジーにおいては、実質的に不可能です。
この技術的な現実を理由に、著者はアーカイブが「アイテムレベルのプロベナンス（出所）」、つまりすべてのAIの出力を特定の記録に結びつけるという要求を止めるべきだと主張しています。代わりに、アーカイブは、このソースを追跡できないことが実は最大の強みであると認識すべきです。もしAIが特定の文書を完全に複製したり引用したりできないのであれば、オリジナルのアーカイブこそが、その文書が真実かつ改変されていない形で発見できる唯一の場所として残り続けるからです。機械は事実を知ることはできますが、人間がオリジナルの証拠を見る必要性を代替することはできません。これは、アーカイブがデータを共有することで価値を失うのではなく、信頼できる真実の源としての重要性が増すことを意味します。
また、論文は、アーカイブが情報が機械の中に入った後にコントロールを失うという恐怖にも異議を唱えています。著者は、アーカイブが建物から情報が出た後に、その情報に何が起こるかを真にコントロールできたことは一度もないと指摘しています。研究者が文書を読み、そこで学んだことに基づいて本を書いたり講義を行ったりするとき、アーカイブはそれを止めることはできません。知識は人間の精神に入り込み、アーカイブにはその研究者に忘れさせる力はありません。著者は、AIモデルも同様であると示唆しています。一度情報が吸収されると、それはシステムの一部となります。訓練されたモデルから特定の事実を削除するように強制することは、非常にコストがかかり技術的に困難であり、多くの場合、モデルをゼロから再構築する必要があります。機械の記憶をコントロールしようとする敗北が決まっている戦いに挑むのではなく、アーカイブは取引の条件をコントロールすることに集中すべきなのです。
これを実現するために、論文はアーカイブが従うべき新しい戦略のセットを提案しています。第一に、資料の法的地位に基づいて契約をカスタマイズすべきです。例えば、アーカイブが著作権を所有している場合は、データの使用に対して料金を徴収できます。資料がパブリックドメインである場合は、AIに利用させる代償として、コレクションのデジタル化を支援するための資金を求めることができます。プライバシーや寄付者との合意により制限されている資料については、単に訓練データから除外すべきです。第二に、アーカイブは「RAG（検索拡張生成）」と呼ばれる技術を使用すべきです。これは、AIが内部の記憶に頼るのではなく、リアルタイムでデータベースを検索する方法です。これにより、AIは回答を生成すると同時に、見つけた特定の文書をユーザーに示すことができ、AIの学習方法を変更することなく、欠落していた引用の問題を解決できます。
最後に、著者は、アーカイブはインターネットからAI企業をブロックしようとするのではなく、彼らと交渉すべきだと提案しています。アーカイブは、デジタル化のための資金、自らのスタッフのためのより優れたAIツールのアクセス、あるいは法的保護を求めることができます。論文は、AI企業やそのユーザーが情報を誤用した場合、アーカイブは責任を負わないという条項を契約に含めることを推奨しています。これにより、法的リスクを企業側に移し、AIが有害なコンテンツを生成した場合でもアーカイブが訴訟を受けることを防ぎます。著者はまた、AI企業が公共の利益に貢献することを奨励する政府の政策を求め、これらの技術によって生み出される富が、そのデータを提供する文化機関を支えるために活用されることを求めています。
研究は、アーカイブは人工知能を恐れる必要はないと結論づけています。機械がソースを完全に追跡できないことを受け入れることで、アーカイブは不可能な要求にエネルギーを浪費することを止めることができます。代わりに、彼らは自分たちが最も得意とすること、すなわちオリジナルの記録を保存し、機械には不可能な文脈を提供することに集中できます。スマートな契約を交渉し、回答をソースに結びつける新しい技術を使用することで、アーカイブは潜在的な脅威をパートナーシップへと変え、世界の過去から学ぶことを助けながら、自らの未来を確かなものにすることができるのです。進むべき道は、「ノー」と言うことではなく、アーカイブの完全性と保持している歴史の価値を守るための条件付きで「イエス」と言うことなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。