Customized large language models can outperform Community Notes in correcting misinformation
本論文は、信頼性を考慮した検索とマルチモーダルな推論を統合することで、多様なコンテンツタイプにわたる誤情報の特定および修正においてCommunity Notesを凌駕し、それによって応答の質と誤情報に対するユーザーの認識の両方を向上させる、カスタマイズされた大規模言語モデルフレームワークであるMUSEを紹介するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
デジタル上の公共広場は、真実よりも速く拡散する誤情報という、根深い問題に直面しています。ソーシャルメディアでは、たった一つの誤解を招く投稿が、誰かが検証する間もなく数百万人もの人々に届いてしまうことがあります。長年、これに対する主要な防御策は人間の努力でした。ボランティアが誤った主張を訂正するための注釈を書くクラウドソーシング・システムは、プラットフォームの標準的なツールとなっています。これらの注釈は、文脈やニュアンスを考慮できる人々によって書かれているという点で価値がありますが、重大な弱点があります。それは「遅い」ことです。ボランティアが訂正を書く頃には、その誤解を招く投稿はすでに被害を及ぼしているかもしれません。さらに、人間のボランティアはすべての投稿をカバーすることはできず、膨大な量の誤情報が未検証のまま放置されています。
科学者たちは、機械が嘘を拡散するスピードと同じ速さでそれを見つけられることを期待して、長らく人工知能（AI）にその空白を埋めてもらうことを模索してきました。しかし、標準的なAIモデルはこのタスクに苦戦することがよくあります。それらは古いデータに基づいて学習しており、今まさに起きている出来事を見ることができません。また、「ハルシネーション（幻覚）」を起こし、事実を捏造したり、存在しない情報源を引用したりすることもあります。課題は、単に文章を読める機械を作ることではなく、検証でき、テキストや画像といった異なる種類のメディアを横断して推論でき、かつ新たな誤りや偏見を導入することなく実行できる機械を構築することです。目標は、疑わしい投稿が現れた瞬間に即座に反応できる、疲れを知らない公平なファクトチェッカーとして機能するシステムです。
ワシントン大学の研究チームは、まさにこの問題に取り組むために、「MUSE」と呼ばれる新しいシステムを開発しました。MUSEは、誤情報をリアルタイムで特定し、訂正するために設計されたカスタマイズされたAIフレームワークです。過去に学んだことにのみ依存する従来のモデルとは異なり、MUSEは最新のエビデンスを検索するためにライブウェブを利用するメカニズムを備えています。ソーシャルメディアの投稿に遭遇すると、システムは単に推測するのではなく、コンテンツを分解し、主張を裏付ける、あるいは反論するための信頼できる情報を検索し、そのエビデンスに基づいた訂正文を作成します。このシステムは、テキストと画像を組み合わせた複雑な投稿を処理できるように設計されており、キャプションから写真に至るまで、あらゆる要素を検証できます。
このアプローチが実際に機能するかどうかをテストするため、研究者たちはMUSEを、プラットフォームX（旧Twitter）で現在利用可能な最高品質の人間による訂正と比較しました。彼らは、明白な嘘を含むもの、微妙に誤解を招く詳細を含むもの、そして完全に正確なものを含む、数百件の実在する投稿を集めました。各投稿に対して、AIの回答を、人間による高品質な注釈および経験の浅いユーザーによる平均的な注釈と対決させました。評価は厳格に行われ、専門のファクトチェック・エキスパートのパネルが、13の異なる基準に基づいて回答を採点しました。エキスパートたちは、システムが誤った部分を正しく特定しているか、説明が理にかなっているか、そして引用された情報源が信頼でき、かつ実際に存在するかどうかを精査しました。
結果は、この新システムの明確な優位性を示しました。MUSEが作成した回答は、エキスパートから、人間が書いた最高の注釈よりも有意に高品質であると評価されました。10点満点のスケールで、AIの平均スコアは8.1であったのに対し、トップクラスの人間による注釈の平均は6.3でした。この差は単なるスタイルの問題ではありませんでした。AIは、投稿のどの部分が誤解を招くものであるかを特定する精度においてより優れていました。標準的なAIモデルはしばしば問題の特定に失敗したり事実を捏造したりしますが、MUSEは回答の約90パーセントにおいて、不正確な箇所を正しく特定し、説明を行いました。また、引用されたソースへのリンクも、ほとんどの場合アクセス可能で関連性のあるものでしたが、標準的なモデルは頻繁に切れたリンクや偽のリンクを引用していました。システムは、政治、健康、時事問題といったあらゆる分野で優れたパフォーマンスを発揮し、他のAIシステムに見られるような政治的偏向も見られませんでした。
研究者たちはまた、人々が機械による訂正を実際に信頼するかどうかについても調査を行いました。彼らは約1,000人の参加者を対象とした調査を実施し、誤解を招く投稿とAIが生成した訂正を見せました。結果は心強いものでした。AIによる説明を読んだ後、参加者は元の投稿が誤解を招くものであることを認識する能力が有意に向上しました。誤った主張に対する彼らの信憑性は低下しました。しかし、どの訂正も、参加者の「誤情報を共有しようとする意図」には大きな影響を与えず、共有意図は概して低いままでした。興味深いことに、訂正が人工知能によるものであると伝えることは、参加者の信頼を損なうことにはなりませんでした。システムの有効性は、その情報源が開示されていても隠されていても高く維持されたため、説明の質が書き手の正体よりも重要であることを示唆しています。
この研究の最も重要な側面の一つは、システムが「未知」に対してどのように対処するかという点です。研究者たちは、MUSEが仕事を遂行するために既存のファクトチェックに頼る必要はないことを発見しました。これまで誰もチェックしたことがない投稿であっても、システムはウェブ上で新鮮なエビデンスを見つけ出し、信頼できる訂正を構築することができました。また、標準的なコンピュータハードウェアを用いて、約2分で完全な回答を生成するという迅速さも実現しました。システムの稼働コストも低く、1投稿あたり約0.2米ドルであり、これはすべてのコンテンツをレビューするために人間のボランティアに支払うコストよりもはるかに安価です。
ただし、この研究には限界もあります。システムは現在、テキストと画像には対応していますが、ビデオを分析することはまだできません。また、オンライン上に信頼できる情報が存在することに依存しており、もし投稿が信頼できる情報源がまだ報じていない速報ニュースに関するものであった場合、システムは推測するのではなく、不確実であることを認めるように設計されています。研究者は単一のプラットフォームでシステムをテストしましたが、そのプラットフォームは広く利用されているものの、結果は他の場所では異なる可能性があります。こうした境界はあるものの、今回の知見は有望な道筋を示しています。機械のスピードと、現実世界の証拠を検索・検証する能力を組み合わせることで、MUSEは、現代のインターネットが必要とする規模とスピードで、人々が真実と虚偽を見極めるためのツールを構築できることを証明しました。この研究は、誤情報との戦いの未来が、人間か機械かの選択ではなく、機械が検証という重労働を担い、人間が最も複雑なケースに判断力を集中させるという、両者の融合によるシステムであることを示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。