Reducing belief in conspiracy theories as they unfold using large language models
本論文は、大規模言語モデルを用いたマルチターンの対話型ダイアログが、重大な危機事象の後に米国の成人における展開中の陰謀論への信奉を効果的に減少させ、これらの是正効果が1〜2ヶ月間持続し、かつその後の事象にも及ぶことを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、噂が最も人気のあるゲームとなっている、巨大で混沌とした遊び場だと想像してみてください。時として、現実世界で何か重大で恐ろしい出来事が起きると、人々は「もし〜だったら？」というゲームを始めます。彼らは、公式のストーリーが秘密の陰謀を隠すための覆いではないかと疑うのです。これが陰謀論の世界です。何十年もの間、科学者たちは人々がこうした突拍子もない話を信じないようにする方法を研究してきました。通常、彼らは「ファクトシート（事実のまとめ）」を配ったり、人間に信奉者と議論させたりしようとしますが、それはまるで紙の扇で走っている列車を止めようとするようなもので、あまり上手くいきません。
ここで**大規模言語モデル（LLM）**が登場します。これらは、あらゆる書き物に目を通してきた、超スマートなデジタル司書のようなものだと考えてください。彼らはあなたとチャットしたり、質問に答えたり、さらにはある主張について議論することさえできます。しかし、ここで大きな疑問があります。ロボットは、新しい出来事についての秘密の計画を信じ始めたばかりの人とチャットして、その考えを改めさせることができるのでしょうか？ 通常、ロボットは（「月面着陸は捏造だ」といった）古い物語を論破することには長けています。なぜなら、間違いを証明するための事実が詰まった図書室を持っているからです。しかし、その物語が「現在進行形」であり、まだ誰も完全な真実を知らない場合はどうなるのでしょうか？ それこそが、この論文が解こうとしている謎です。
実験：新しい恐ろしいニュースについてロボットと話す
研究者たちは、このアイデアをテストするために、アメリカ合衆国の非常に緊迫した、現実の2つの瞬間を利用することにしました。第一に、2024年7月にドナルド・トランプ前大統領に対する銃撃未遂事件が発生した直後の数日間です。当時、犯人が誰であるか、なぜそのようなことをしたのかについては、ほとんど誰も知りませんでした。次に、2025年9月に政治活動家のチャーリー・カークが暗殺された直後の数日間を見ました。どちらの場合も、ニュースは速報段階であり、事実は乏しく、突拍子もない理論が急速に広がっていました。
科学者たちは、公式のストーリーに対してすでに疑念を抱いている数千人のアメリカ人成人を募りました。彼らは、何が起こるかを見るために、これらの人々を3つのグループに分けました。
- 「デバンキング（誤情報の打破）」グループ： これらの人々はAIとチャットしました。AIの役割は、その時点で利用可能なあらゆる事実を用いて、陰謀論は真実ではないと、穏やかではあるが毅然と説得することでした。
- 「ファクトシート」グループ： これらの人々は、既知の事実を箇条書きにした静的なリストを読むだけでした。会話はありません。
- 「世間話」グループ： これらの人々は、猫と犬のどちらがペットとして優れているかといった、全く無関係で退屈なことについてAIと話をしました。
結果：ロボットが議論に勝った
結果は驚くほど効果的でした。AIとの対話形式のチャットを行った人々は、単に事実を読んだりペットについて話したりした人々よりも、陰謀論を信じる割合が低くなりました。それがトランプ氏の事件であれ、カーク氏の暗殺であれ、話すロボットは効果を発揮しました。
ここからが面白いところです。AIは単に「ここに事実があります、あなたは間違っています」と言ったのではありません。AIは、自分が何を知っているかに応じて戦略を変えました。
- AIが何も知らなかったとき（トランプ氏の事件）： 犯人の動機に関する事実がほとんどなかったため、AIは事実を押し付けようとはしませんでした。代わりに、AIは賢明な哲学者のように振る舞いました。「混乱するのは当然ですが、結論を急ぐのは慎重にしましょう」とか、「信頼できる情報源を待ちましょう」といったことを言いました。AIは、人々に対して、自分たちが「知らないこと」に対して謙虚であることを教えたのです。
- AIが少し多くのことを知っていたとき（カーク氏の事件）： より多くの詳細が明らかになると、AIはより直接的なスタイルに切り替え、新しい事実を用いて、有名な古い陰謀論に対処する時のように、陰謀のストーリーに優しく穴を開けていきました。
「スーパーパワー」効果：それは持続し、広がった
最もエキサイティングな発見は、人々が最初のストーリーを信じなくなったことだけではありませんでした。研究者たちは、別の恐ろしい出来事（トランプ氏への二度目の襲撃未遂や、教会での銃乱射事件など）が起きた1〜2ヶ月後に、再び調査を行いました。
その結果、最初の出来事についてAIと話をした人々は、次の出来事に関する新しい陰謀論を信じる可能性が低いことがわかりました。まるでAIが彼らに「精神的なワクチン」を与えたかのようでした。最初のチャットを通じて、批判的に考え、突拍子もない主張に対して懐疑的になる方法を学んだことで、彼らは次の危機に対処するための備えができていたのです。AIは単に特定の信念を修正したのではなく、その人の「陰謀フィルター」全体をアップグレードしたようでした。
この論文が述べていること（および述べていないこと）
著者たちは、これがすべてを解決する魔法の杖ではないことを慎重に指摘しています。
- 万能薬ではない： この研究は、進行中の特定の出来事に焦点を当てたものです。これがすべての種類の陰謀や、あらゆる種類の人に対して有効かどうかは分かっていません。
- 政府への信頼を（時として）回復させたわけではない： 最初の実験では、AIとの会話は、トランプ氏の襲撃に関する公式のストーリーに対する信頼を高めることはありませんでした。研究者は、その瞬間、政府が語るべき明確なストーリーをまだ持っていなかったからだと考えています。しかし、公式のストーリーが存在していた第二の実験では、AIとのチャットは人々がそれを信頼する助けとなりました。
- ロボットが人間であることについての話ではない： この研究は、その力はAIが人間の専門家であるふりをすることからではなく、会話と証拠から来ていることを示唆しています。
大きな教訓
この論文は、恐ろしいニュースが飛び込み、噂が飛び交い始めたとき、AIとの短くスマートな会話が、事態を沈静化させる強力なツールになり得ることを示唆しています。それは、政府を信じ込ませるためのものではありません。人々に対し、立ち止まって考え、「これは本当に分かっていることなのか、それとも単に推測しているだけなのか？」と問いかけることを教えるためのものです。
研究者たちは、このアプローチが事実が曖昧な場合でも機能することを発見しました。そして最も素晴らしいのは、そのレッスンが定着し、チャットが終わったずっと後も、人々が突拍子もないストーリーに対して懐疑的であり続ける助けとなることです。これは、ノイズに満ちた世界において、少しの冷静で根拠に基づいた会話が、私たちが必要としている静かなヒーローになり得るという、希望に満ちた兆しなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。