Posts of Peril: Detecting Information About Hazards in Text
本論文は、ソーシャルメディア上のテキストにおけるハザード関連情報を検出するための新しいモデルを導入し、そのような指標が従来のセンチメント指標とは異なるものであることを実証するとともに、非実在のアカウントがいかにして地政学的事象に影響を与えるためにハザードのナラティブを戦略的に利用しているかを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、何十億もの人々が毎秒叫び、ささやき、看板を掲げている、巨大で混沌とした街の広場だと想像してみてください。長い間、この広場を研究している科学者たちは、群衆の「気分」を測定することに夢中になってきました。彼らは、ある投稿が幸せなのか、怒っているのか、あるいは悲しいのかを検知するツールを作り上げてきました。それは、晴れた日か嵐の日かを教えてくれる風向計のようなものです。しかし、これまでのツールが見落としがちだった特定の種類の天候があります。それは、落下する岩や潜んでいる危険といった、突然の鋭い警告です。現実の世界では、人間は脅威に対して特別な注意を払うようにできています。なぜなら、美しい花を無視することよりも、トラを無視することの方がはるかに危険だからです。この論文は、テキストのための新しい、非常に感度の高い「危険レーダー」を構築することについて書かれています。これは単に怒りの言葉を探しているのではなく、「ハザード（危害の恐れ）」に関する特定の情報、つまり誰かを傷つけたりコストを発生させたりする可能性のある事象を特定しようとするものです。研究者たちは、次のように問いかけました。コンピュータに、以前よりも上手くこれらの危険信号を見つけ出す方法を教えることができるのか？ そして、この新しいレーダーを使って現実世界の論争や戦争に耳を傾けたとき、何が起こるのか？
この研究の背後にいるチームは、ソーシャルメディアの投稿から「ハザード情報」を嗅ぎ分けるために特別に訓練されたデジタル探偵である、新しい種類のAIモデルを構築することに決めました。彼らは、ハザードを、自然災害、攻撃、あるいは安全への脅威など、個人に重大な被害やコストをもたらす可能性のあるあらゆる否定的な出来事と定義しました。この探偵を訓練するために、彼らは単に「爆弾」や「殺害」といった恐ろしい言葉の辞書を読み込ませたのではありません。それでは単純すぎるからです。代わりに、彼らは1,000件以上のソーシャルメディアの投稿を集め、人間の作業者にそれらを読ませ、「これは実際に現実の危険を描写しているのか、それとも単なる悲しい物語なのか？」を判断させました。彼らはこれらの人間の回答を用いて、コンピュータモデルに、単なる語彙ではなく、危険の「文脈」を認識するように教え込んだのです。
新しいモデルをテストしたところ、それはかなり鋭い探偵であることが分かりました。それは、恐ろしい言葉を数えるだけで混乱してしまう従来の「辞書」方式よりも優れた性能を発揮しました。興味深いことに、モデルは、ハザードを特定することは、怒りや悲しさを特定することとは正確には同じではないことを見出しました。ある投稿は恐怖に満満ちていても、特定のハザードについては述べていないことがあり、また、ある投稿は過度に感情的ではなくても、恐ろしいハザードを描写していることがあります。モデルは、その違いを見極めることを学んだのです。これは、「危険」がインターネットのノイズの中に存在する独自のシグナルであることを示唆しています。
この新しいツールが実際に現実世界で機能するかどうかを確認するため、研究者たちは2つの大規模で混沌としたデータセットにこのモデルを適用しました。一つは2023年のイスラエルとハマスの間の戦争に関する数百万件の投稿、もう一つは2022年のフランス国民選挙に関する数百万件の投稿です。彼らは、「情報操作（特定のストーリーを押し進めるために複数のアカウントが連携して動くグループ）」が、一般の人々とどのように異なる形でハザード情報を利用しているかを特定したいと考えました。
戦争のデータセットにおいて、彼らは非常に興味深い発見をしました。オーセンティック（真正）なアカウントは、最初の攻撃の直後には子供や民間人に関するハザードについて話す傾向がありました。しかし、調整されたグループ（「ボット」や組織的なキャンペーン）は、そのナラティブ（語り口）を変化させているようでした。彼らは民間人へのハザードに重点を置いており、しばら公衆の意見に影響を与えたり、援助を求めたりするためにそれらの物語を利用していることが分かりました。研究者たちは、これらのグループが単にランダムに危険について話しているのではなく、特定の目標に適合するように、どのハザードを強調するかを選別しているように見えることに気づきました。例えば、あるグループは同情を集めるためにガザの人々への危険を強調し、別のグループは異なるアジェンダを推進するために、それらの危険を無視する場合もありました。
フランス選挙のデータセットでは、パターンは少し異なりますが、同様に啓示的なものでした。一部の調整されたグループは、選挙に関する会話を乗っ取り、援助や政治的行動を求めるために、ウクライナでの戦争に関するハザード言語を使用しました。彼らは、核に関するハザードや特定の脅威について、一般の有権者とは異なる方法で話していることが分かりました。モデルは、これらの「非自然的（インオーガニック）」なアカウントが、事象を枠付けし、自分たちの側をより緊急性が高いように見せたり、相手側をより危険に見せたりするために、ハザード情報を戦略的なツールとして使用していることを示しました。
この論文は、この新しい「ハザード検出器」が、情報の広がり方を理解するための強力な新しいレンズであることを示唆しています。それは、私たちが群衆の温度（センチメント）を測ることは得意になってきましたが、群衆をパニックや行動へと駆り立てる可能性のある具体的な警告（ハザード）を見逃してきたことを示しています。研究者たちは、他の科学者やジャーナリストが危機における危険の語られ方を調査できるように、このツールを無料のパッケージとして公開しています。彼らは、これは新しい種類の望遠鏡を構築することに似ており、より鋭くするためにはさらなる研究が必要であることを認め、これが第一歩に過ぎないことも述べています。しかし現時点では、彼らは、標準的なツールではこれまで不可視であった「危険に関する語り」がソーシャルメディアに存在することを証明しており、それを明らかにすることは、人々が危機の最中にどのように互いに影響を与え合おうとしているのかを理解する助けとなるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。