Like Article, Like Audience: Enforcing Multimodal Correlations for Disinformation Detection

インターネットを、誰もが叫び、共有し、議論している、巨大で賑やかな町の広場だと想像してみてください。このデジタルの町では、「ディスインフォメーション（誤情報）」は、人々を欺いたりトラブルを巻き起こしたりするために、荒唐無稽で真実ではない物語を紡ぎ出す「噂の流布場」のようなものです。長い間、これらの噂を阻止しようとする科学者たちは、主に言葉そのものに焦点を当ててきました。ニュース記事を、スペルミスや疑わしい言い回しがないか調べる探偵のように、一枚の紙片を調査する刑事のような視点で見てきたのです。しかし、この論文は、紙面だけを見るのでは不十分であることを示唆しています。それは、ある物語を理解するためには、その物語を愛する「群衆」をも理解する必要があるという新しいアイデアを提案しています。ここでの核心となる概念は「マルチモーダル学習」です。これは、単に、記事のテキストと、それを共有する人々のテキストの両方といった、異なる種類のヒントを一緒に見るべきだという、少し凝った言い方です。大きな問いはシンプルです。「偽の物語を共有する人々は、本物の物語を共有する人々とは見た目や響きが異なるのだろうか？」もしコンピュータにこの繋がりを認識させることができれば、嘘つきをより早く見つけ出せるかもしれません。

Twitterのデータを用いて作業を行った著者たちは、単に見出しを読むだけでなく、それを手に持っている人のIDカードまでチェックする賢いコンピュータプログラムを構築することに決めました。彼らは、二つのことを同時に見ながら学習するシステムを作り上げました。それは、ニュース記事そのものと、それを共有した人々による「ユーザー生成コンテンツ」です。ユーザー生成コンテンツとは、Twitterのプロフィール説明（バイオグラフィ）や最近のツイートといった、一般の人々が作成するもののことです。研究者たちは、人々は通常、一貫したオンライン上のパーソナリティを持っていることに気づきました。例えば、プロフィールに音楽について書いていれば、その人はおそらく音楽の記事を共有するでしょう。彼らは、偽のニュース記事が特定の「タイプ」の人々を引きつけるのではないか、そしてそれらの人々は互いに似たような雰囲気を持つのではないかと考えました。

これをテストするために、彼らはコンピュータを訓練するための3つの特定のルール、すなわち「目的関数」を用いた学習アルゴリズムを構築しました。第一に、コンピュータは通常の探偵と同じように、真実の物語と偽の物語を見分ける方法を学ばなければなりません。第二に、これが巧妙な部分ですが、コンピュータは、記事の「雰囲気（バイブス）」が、それを共有した人々の「雰囲気」と一致しなければならないことを強制的に学習します。もし偽のニュース記事が共有された場合、コンピュータは、その記事と共有者が、隠れた数学的な空間において似ているべきであると学習します。第三に、コンピュータは、同じ記事を共有している人々もまた、互いに似ているはずであると学習します。これは、「もし見知らぬ人々が皆、一つの奇妙な物語を共有するために駆けつけたのなら、彼らには何か共通点があるはずであり、コンピュータにその繋がりを見せよう」ということです。

研究者たちは、このアイデアを3種類の異なるコンピュータの脳（ニューラル分類器）でテストし、ファクトチェックサイトやCOVID-19に関するニュースからの実際のデータを使用しました。彼らは、これらの「社会的ヒント」を訓練プロセスに加えることで、コンピュータがフェイクニュースを見抜く能力が向上することを発見しました。結果として、モデルは真実の物語と偽の物語をより明確に区別することを学習しました。実際、裏側にある数学的な仕組みを見ると、ユーザーのヒントを用いた際に、偽の物語と真実の物語がコンピュータの思考の中でより遠くに押し離されていることが分かりました。

しかし、この論文には、現実的な視点を維持するためのいくつかの「ひねり」もあります。研究者たちは、どの人々を選ぶかが重要かどうかを検証しました。彼らは、最初に物語を共有した人々（アーリーアダプター）が最良の手がかりになるのではないかと考えましたが、驚いたことに、最初の共有者を選んでも、最後の共有者を選んでも、大きな違いはありませんでした。また、記事と間違ったグループの人々をランダムに入れ替えることで、コンピュータを欺こうと試みました。たとえ繋がりをめちゃくちゃにしても、コンピュータはヒントが全くない場合よりも優れたパフォーマンスを示したため、特定のリンクが完璧でなくても、膨大な追加データ自体が役に立つことが示唆されました。

興味深い発見の一つは、コンピュータがユーザーのプロフィール（バイオ）を見たときには正解を出せたのに、ツイートを見たときには間違えてしまった、という具体的な事例を調べた際に見られました。ツイートはノイズが多く、あまりにも多くの多様な事柄について語られていましたが、プロフィールは焦点が絞られていました。これは、ユーザーデータは有用ではあるものの、雑多で乱雑になり得ることを示唆しており、将来的にはノイズをフィルタリングする必要があるかもしれません。

最終的に、この論文は、物語と観客との関係性を尊重するようにコンピュータを教えることで、誤情報と戦うためのより優れたツールを構築できることを示唆しています。著者たちは、この手法はコンピュータが実際に予測を行う時ではなく、あくまで「学習している間」にユーザー情報を使用しているという点に注意深く言及しています。つまり、コンピュータが記事を判断するために、あなたが誰であるかを知る必要はないのです。ただ、人と物語がどのように結びついているかというパターンから学習していればよいのです。結果は有望ですが、手法は新しいものです。著者たちは、時間が経つにつれてユーザーのプロフィールは変化し、偽ニュースの作成者も姿を消すため、データが古くなる可能性があることも認めています。しかし、現時点では、フェイクニュースとの戦いにおいて、時には「誰がそれを言っているのか」を見ることが、嘘を見破るための最も遊び心があり、かつ強力な手段であることを、この研究は思い出させてくれます。