Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
本論文は、3つの異なるユーザーアーキタイプ（増幅者、スーパー・スプレッダー、および協調アカウント）をモデル化することによって、トップレベルの誤情報拡散者を予測、評価、および説明するためのフレームワークを提案し、スーパー・スプレッダーの特性が上位ランクを支配していること、ならびに時間的ダイナミクスと説明可能なAIが、プロアクティブなコンテンツモデレーションのための予測精度と解釈可能性を向上させることを実証するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
ソーシャルメディア上では、情報は思考の速さで伝播しますが、それを共有する全員が同じ役割を果たしているわけではありません。オリジナルの物語を作り出す人もいれば、単にそれらを次に回すだけの人もいます。そして、メッセージが可能な限り多くの目に触れるように協力して動く人々もいます。誤った情報が拡散されるとき、それは決して一人の個人の責任ではなく、異なるタイプのユーザーが物語を増幅させ、調整し、展開させるという、複雑な行動の網の結果なのです。これらの人々が誰であり、どのように活動しているかを理解することは極めて重要です。なぜなら、偽の物語は世論を歪め、科学への信頼を損ない、現実世界に実害を及ぼす可能性があるからです。プラットフォームにとっての課題は、偽の物語がフラグを立てられ削除される頃には、すでに止めるにはあまりにも遠くまで拡散してしまっていることが多いという点です。勢いが増す前に拡散を阻止するためには、研究者たちは、ユーザーの意図を推測するのではなく、彼らが実際にどのように振る舞うかを観察することによって、最も被害をもたらす可能性が高い特定のアカウントを特定する方法を見つけ出す必要があります。
ある研究チームは、低信頼性のコンテンツを拡散するユーザーが残すデジタル上の足跡を調査することで、この問題の解決に取り組みました。彼らは、これらのユーザーがたどる傾向にある3つの明確な行動パターン、すなわち「アーキタイプ（原型）」に焦向しました。第一のグループは、彼らが「増幅者（アンプリファイア）」と呼ぶもので、自ら投稿を作成することはほとんどありません。その代わりに、他者が作成したコンテンツをリシェアしてそのリーチを拡大させるメガホンの役割を果たします。第二のグループは「スーパー・スプレッダー」として知られ、バイラルコンテンツのオリジナル作成者です。彼らは何千回もシェアされる投稿を執筆し、火種を燃え上がらせる火花としての役割を担います。第三のグループは「調整されたアカウント（コーディネイテッド・アカウント）」で構成されており、同じメッセージを同時に押し出すために同期して動くユーザーの集団であり、広範な公衆の合意があるかのような錯覚を作り出します。研究者たちは、これらの役割が必ずしも独立しているわけではないことに気づきました。一人のユーザーが、ある物語ではスーパー・スプレッダーとして振る舞い、別の物語では増幅者として振る舞うこともあれば、一つの影響力のある声を模倣するためにグループが行動を調整することもあります。
誰が次に誤情報を拡散するかをどの程度予測できるかをテストするため、研究者たちはパンデミック中のTwitterから得られた2つの膨大なデータセットを分析しました。一つのデータセットはイタリアでの会話を含み、もう一方は多言語によるグローバルな投稿のコレクションでした。彼らはまず、ニュースドメインを0から100で評価するシステムを用いて、投稿内でリンクされているウェブサイトの信頼性に基づいてコンテンツにラベル付けを行いました。次に、これら3つの行動アーキタイプに基づいてユーザーをランク付けするための、さまざまな数学的モデルを構築しました。あるモデルではユーザーが誤ったストーリーをリシェアした回数を数え、別のモデルではストーリーが投稿された後にユーザーがいかに早く共有したか、あるいはユーザーの活動がいかに他のユーザーの活動と密接に一致しているかを見ました。また、単一の時点の断片を見るのではなく、数日あるいは数週間にわたるユーザーの活動の変化を考慮した、古典的な影響力スコアの新しい「時系列対応版」も作成しました。
結果は、最大のトラブルメーカーを見つけるための最も効果的な方法は、スーパー・スプレッダーを探すことであることを示しました。研究者が、他者にリシェアされるようなオリジナルコンテンツを生み出す能力に基づいてユーザーをランク付けした際、これらのアカウントは一貫してリストの最上位に現れました。これらは、偽の物語が定着することを可能にする、初期のバイラル性を生み出す責任を負う個人です。しかし、影響力のあるユーザーのリストをさらに下へと見ていくと、状況はより複雑になりました。中間層や下位のランクでは、増幅者や調整されたグループの行動が非常に顕著になりました。これは、少数のスーパー・スプレッダーが火をつけ、増幅者がその火を燃やし続け、調整されたグループがネットワーク全体に炎を煽るということを示唆しています。
これらの異なる行動がどのように組み合わさって機能しているのかをより明確にするため、チームは3つのアーキタイプすべてを単一のシステムに統合した機械学習モデルを訓練しました。そして、モデルがどのように意思決定を行っているかを説明する手法を用いたことで、どの行動が最も重要であったかを見ることができました。彼らは、モデルが「低信頼性のコンテンツをリシェアした回数」に大きく依存していることを発見しました。これは増幅者の特徴とされる性質です。これは、バイラルコンテンツの作成者が最も重要なシグナルであると予想されがちなため、驚くべき結果でした。実際には、データによれば、リシェアするという行為自体が強力なリスク指標となっているのです。また、モデルは、一貫したエンゲージメントを生み出す能力によって特定されたスーパー・スプレッダーが、特に最上位ランクのユーザーにおいて極めて重要であることを裏付けました。ランキングが下がるにつれて、調整された行動やリシェアの頻度の影響力が強まり、異なる種類の主体が同じ問題の中で異なる役割を果たす、階層化されたエコシステムが明らかになりました。
研究では、データが非常に少ない状況、つまりプラットフォームが新しいストーリーの出現直後に迅速な判断を下さなければならないシナリオにおいて、これらの手法がどの程度機能するかについてもテストされました。彼らは、時系列を考慮した影響力スコアが、限られた情報であっても安定しており、正確であり、ユーザーの活動のタイミングを考慮しない古い手法よりも優れていることを発見しました。一方で、機械学習モデルは、非常に少ないデータで訓練された場合には苦戦したため、複雑なモデルは強力ではあるものの、パターンを学習するためには十分な履歴が必要であることが示唆されました。研究者たちは、プラットフォームにとっての最善のアプローチは、おそらくこれらのツールの組み合わせであると結論付けました。つまり、時系列を考慮したシンプルなスコアを用いて最も危険なアカウントを迅速に特定し、より詳細なモデルを用いて誤情報の拡散を維持させている幅広い行動範囲を理解することです。ユーザーの意図を推測しようとするのではなく、これらの観察可能なパターンに焦点を当てることで、プラットフォームは、誤った情報が制御不能になる前に、最も害をもたらす特定のカウントを標的にして、より早期に介入することができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。