Graphical Models of False Information and Fact Checking Ecosystems

問題提起
オンラインにおける誤情報（誤情報および偽情報の両方を含む）の広範な拡散は、デジタル化・グローバル化が進む社会にとって重大な脅威となっている。行為者の行動、拡散パターン、および技術的な検知手法に関する広範な研究は存在するものの、著者らは文献における重要な欠落を指摘している。それは、誤情報とファクトチェックの複雑なエコシステムを記述する包括的な概念モデルの不足である。既存のモデルは、役割ベースのフレームワーク（例：Neumannら）に依存することが多く、エンティティ間の関係性を軽視しており、規制当局、自動エージェント、およびAI生成コンテンツの役割を十分に捉えきれていない。したがって、伝統的なメディア、ユーザー生成コンテンツ（UGC）、AI生成コンテンツ、および様々なファクトチェック機関を含む、多様なステークホルダー間の相互接続を体系的に理解するための統一されたフレーム構想が必要とされている。

手法
この欠落に対処するため、著者らは拡張エンティティ・リレーションシップ（EER）パラダイムに基づいたグラフィカルモデルを提案する。このモデルの開発には、「Ontology Development 101」の手法を用い、即座に形式的なオントロジーを構築するのではなく、概念的なエコシステムを構築するように適応させた。プロセスは以下の7つのフェーズで構成される：

1. ドメインの決定： 伝統的およびデジタルメディアにおける誤情報の生成、消費、検証、および規制をカバーする範囲を定義する。
2. 再利用の検討： エンティティ構造に着想を得るために既存のセマンティックモデル（例：プライバシーと利益のトレードオフモデル）をレビューしたが、この特定のドメインに対する直接的なEERモデルは見つからなかった。
3. 用語の列挙： 文献やゲーム理論的な観点から主要な用語を特定し、類似した概念（例：ユーザー、消費者、記者）を統合されたクラスへと統合した。
4. クラス階層の定義： Person（個人）、Organisation（組織）、Group/Association（グループ／団体）、Account（アカウント）、Automated Agent（自動エージェント）、およびService（サービス）を包含するスーパークラスActor（行為者）を基盤とするボトムアップの階層を確立した。
5. 属性の定義： エンティティのタイプを区別し、文脈を捉えるために、エンティティに属性（例：self-claimed fact-checker（自称ファクトチェッカー）、automated（自動化された）、role（役割））を割り当てた。
6. ファセットの定義： 関係性の制約とカーディナリティ（基数）を定義した。
7. インスタンスの作成： 特定の実世界のシナリオに対してインスタンスを構築することで、モデルを検証した。

結果として得られたモデルは、有向グラフ $G = (V, E)$ として定式化される。ここで、ノードはエンティティの型を表し、エッジはセマンティックな関係（例：Publishes（出版する）、Fact-checks（ファクトチェックを行う）、Regulates（規制する））を表す。

主な貢献
本論文の主要な貢献は、誤情報とファクトチェックのエコシステムに関する初の包括的なグラフィカルモデルの導入である。主な特徴は以下の通りである：

• エンティティの網羅性： モデルは、Media Outlet（メディア機関）、Fact-checking Outlet（ファクトチェック機関）、Regulatory Body（規制当局）、Automated Agent（自動エージェント）、およびLegal & Regulatory Document（法的・規制文書）のための特定のサブクラスを含む、21の異なるエンティティ型を定義している。これは、エコシステムレベルの研究において見落とされがちなAI生成コンテンツや自動エージェントを明示的に考慮している。
• 関係性のモデリング： Automated Agentがどのように自律的に情報を生成またはファクトチェックできるか、またRegulatory BodyがどのようにLawmaking Body（立法機関）によって発行された法律を実施するかといった、複雑なセマンティック関係をマッピングしている。
• 統一されたフレームワーク： 標準的なEER表現を用いることで、モデルは計算アプリケーションの開発を容易にし、異なる研究やシナリオの体系的な比較を可能にする。

結果と応用
論文では、提案されたモデルの有用性を2つの主要な応用を通じて実証している：

1. 実世界のシナリオのモデリング： 著者らは、生のデータからは即座には判明しない洞察を明らかにするために、モデルを7つの異なるシナリオに適用した：

   • BBC Breakfast事件： 誤認されたビデオクリップのタイムラインを追跡し、複数のファクトチェッカー（Full Fact、Maldita）とメディア機関自体がどのように相互作用したかを示し、内部レビューの失敗を浮き彫りにした。
   • ファクトチェック・サービス： アーカイブ、ニュースレター（IFCN）、アプリ（Logically）を含む、一般市民が利用可能なリソースのエコシステムをマッピングし、独立した検証の複雑さを説明した。
   • 英国メディア規制： 自主規制における利益相反を可視化し、資金構造（例：IPSOを支援するRFC）がどのように依存関係を生み出し、それが一部のメディア（例：The Guardian）による自主規制につながったかを示した。
   • 米国のジャーナリスト協会： 記者、フリーランス、およびシチズン・ジャーナリストと、それぞれの倫理規定および協会（SPJ、RTDNA、IRE）との関係をマッピングした。
   • トランプ氏のTwitter停止： 停止前のファクトチェックメカニズムの欠如と、その後のコミュニティ・モデレーション（Birdwatch）の実施をモデル化した。
   • マルチメディア・ファクトチェック： 画像の逆引き検索、ジオロケーション、およびマルチメディアコンテンツの検証に使用されるAIエージェントを含むワークフローを例示した。
   • ファクトチェッカーをファクトチェックする： 検証済みの機関（PolitiFact）が親ロシア派の「ファクトチェック」サービスを論破した事例をモデル化し、正当なエンティティとプロパガンダ主導のエンティティを区別するモデルの能力を示した。

2. 文献レビュー分析： モデルは、2023年に発表された10件の査読済み論文を体系的に分類するために使用された。エンティティと関係のペア（例：UserConsumesInformation（ユーザーが情報を消費する）、RegulatorRegulatesService（規制当局がサービスを規制する））に基づくタグを生成することで、現在の研究がユーザーと情報のダイナミクスおよび情報の生成に重点を置いている一方で、ファクトチェックのメカニズムや規制に関する側面は十分に探索されていないことを著者らは特定した。この分析により、特にデジタルエコシステムの規制やデジタルツールの悪用に関する潜在的な研究の空白が明らかになった。

意義
本論文は、このEERモデルが将来の形式的なモデルや計算オントロジーのための基礎的な抽象化として機能すると主張している。その意義は以下の点にある：

• 研究者や実務者がエコシステムを記述するための体系的な語彙と構造を提供すること。
• ファクトチェック報告の知識グラフや、将来のインシデント検知の構築を容易にすること。
• 体系的なタグ付けを通じて、異なる研究の比較や研究の空白の特定を可能にすること。
• 関連するステークホルダーを特定することにより、実証研究の設計をサポートすること。
• エージェントベースのシミュレーションや、行為者間（例：規制当局、メディア、ファクトチェッカー）の戦略的な相互作用を研究するためのゲーム理論の適用への基礎を提供すること。

著者らは、このモデルは概念的な足掛かりではあるものの、断片的な研究を超えて、誤情報とファクトチェックのエコシステムを包括的に理解するための必要なツールであると結論付けている。