🔬 physics

Views on AI Existential Risk Before and After a Public Event at Harvard University

ハーバード大学で開催された AI 存在リスクに関するイベント前後の調査により、特に事前知識の少ない参加者において、AI による絶滅リスクの確率推定値と対策の優先度に対する認識が有意に高まり、構造化された公的関与イベントがリスク認識の形成に重要な役割を果たすことが示されました。

原著者： Greg Kestin, Nate Soares

公開日 2026-03-31

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Greg Kestin, Nate Soares

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、「AI が人類を滅ぼすかもしれない」という話について、人々がどう感じ、どう考えが変わったかを調べる実験の結果を報告したものです。

ハーバード大学で開かれたイベントに参加した人々を対象に、イベントの「前」と「後」で同じアンケートをとりました。その様子を、わかりやすい例え話を使って解説します。

🎭 実験の舞台：「未来の予言」を聞く会

2026 年 3 月、ハーバード大学で、AI 研究者のネイテ・ソアレスさんによる講演が開かれました。
彼の著書『誰かが作れば、全員死ぬ（If Anyone Builds It, Everyone Dies）』という、少し恐ろしいタイトルの本がテーマです。

講演内容： 「制御不能な AI が作られたら、人類は絶滅するかもしれない」という主張。
対話形式： 司会者のグレグ・ケスティンさんが、「でも、AI には人間のような価値観があるんじゃないか？」といった反対意見や疑問も投げかけ、両方の視点から議論しました。

このイベントに参加した約 90 人の人々に、**「AI が人類を滅ぼす確率は何％だと思う？」「その答えに自信はある？」「これは世界的な優先課題だと思う？」**という質問を、イベントの前後で聞きました。

📊 結果：参加者の心はどう動いたか？

1. 恐怖の度合い（確率）の変化

イベント前も、参加者はすでに「AI の危険性」をかなり意識していました（中央値で 50%）。しかし、イベント後はさらに高まりました。

イベント前： 「50%（五分五分）」
イベント後： 「70%（かなりあり得る）」

🌟 重要な発見：「初心者」ほど驚いた
ここが最も面白い点です。参加者の「AI について知っている度合い」によって反応が全く違いました。

🌱 初心者（ほとんど知らない人）：
- 60% の人が「もっと危険だ！」と認識を上げました。
- 逆に「危険じゃなくなった」という人は一人もいませんでした。
- 例え話： 暗闇で初めて「巨大なクモ」の話を聞いた人が、その存在を確信して震え上がるようなものです。新しい情報に接すると、リスクを強く意識する傾向があります。
🧠 専門家（よく知っている人）：
- 逆に、20% の人が「少し危険度が下がる」と考えました。
- 例え話： 料理の達人が「この料理は焦げやすい」と言われても、「いや、火加減を調整すれば大丈夫だ」と冷静に考えるようなものです。専門家は議論の細部（例えば「AI は人間のデータで訓練されるから、人間の意図を理解しやすいのではないか？」という点）に注目し、リスクを再評価した可能性があります。

2. 自信の度合い（コンフィデンス）の変化

「自分の答えに自信があるか？」という質問では、イベント後、全体的に自信が増しました。

初心者： 最初は「よくわからない」と思っていたのが、話を聞いて「なるほど、そうか！」と理解が深まり、自信を持って答えられるようになりました。
専門家： 意見が変わらなかった人も、自分の考えを再確認できたことで自信が増しました。
例え話： 霧の中で道に迷っていた人が、地図と説明を受けると、「あ、ここが道だ！」と確信を持って歩き出せるようになるような感覚です。

3. 「世界的な優先課題」への同意

「AI のリスク対策は、パンデミックや核戦争と同じくらい重要だ」という意見には、**イベント前 93%、イベント後 96%**の人が賛成しました。
これは、アメリカの一般市民の調査（70% 同意）や、ハーバードの学生調査（40% 同意）よりもはるかに高い数字です。

💡 この実験からわかること（まとめ）

対面での議論は効果的：
単にニュースを見るだけでなく、実際に話を聞いて議論するイベントは、特に**「初心者」の認識を大きく変える力**があります。新しい情報を得ると、リスクをより真剣に受け止めるようになるのです。
専門家と初心者の違い：
初心者は「危険だ！」と認識を高めるのに対し、すでに詳しい専門家は「本当にそうか？」と冷静に再考する傾向がありました。これは、専門家が議論のニュアンスを理解しているためです。
自信を持って変化：
意見が変わった人たちは、単に「不安になった」のではなく、「理解が深まって、自分の考えに自信を持った」状態でした。これは、単なるパニックではなく、**「学びによる考えのアップデート」**だったことを示しています。

🎯 結論

この論文は、**「AI のリスクについて、一般の人たちがどう受け止め、どう変化するか」を初めて詳しく示したものの一つです。
特に、「知らない人ほど、正しい情報を伝えると、真剣にリスクを考えるようになる」**という点が、AI 社会の未来をどう捉えていくかを考える上で重要なヒントを与えてくれます。

以下は、ハーバード大学で開催されたイベント前後の調査結果を報告した論文「AI 存在論的リスクに関する見解：ハーバード大学での公開イベント前後の変化（Views on AI Existential Risk Before and After a Public Event at Harvard University）」の技術的な要約です。

1. 問題設定 (Problem)

人工知能（AI）の能力が急速に進歩し、自律的なエージェントとして世界に介入するようになる中で、AI による人類の絶滅や深刻な無力化（存在論的リスク）に対する公衆の認識はどのように形成・更新されるかが重要な課題となっています。
既存の研究では、AI 研究者を対象とした専門家調査や、一般市民・学生を対象とした世論調査は存在しますが、**「事前の知識レベルが異なる聴衆が、構造化された議論や対話に曝された際に、リスク認識や信念をどのように更新するか」**を体系的に検証した研究は不足していました。本論文は、このギャップを埋めることを目的としています。

2. 研究方法 (Methodology)

イベント概要: 2026 年 3 月 11 日、ハーバード大学で Nate Soares（MIRI 所長）による講演と、Greg Kestin（ハーバード大学物理学部）によるファシリテートされた双方向対話が行われました。テーマは『If Anyone Builds It, Everyone Dies』という書籍に基づき、超知能 AI の危険性と、それに対する反論（例：LLM の人間データ学習によるアライメントの利点など）が議論されました。
調査設計:
- 対象: イベント参加者（約 180 名）のうち、イベント前後の両方のアンケートに回答し、マッチングできた 89 名を分析対象とした。
- アンケート項目:
  1. リスク確率: 「外部介入なしに AI 開発が進んだ場合、人類の絶滅または永続的な無力化を引き起こす確率は？」（7 つの範囲区分で回答）。
  2. 自信度: 上記回答に対する自信度（5 段階リッカート尺度）。
  3. 世界的優先度: 「AI による絶滅リスクの軽減は、パンデミックや核戦争と同様に世界的優先課題である」という CAIS（Center for AI Safety）声明への同意度。
  4. 事前知識: イベント前の AI 存在論的リスクに関する知識レベル（「全くない」から「専門家レベル」まで）。
分析手法:
- 事前・事後の回答変化（上昇・不変・下降）を Wilcoxon 符号付き順位和検定で検証。
- 事前知識レベルと変化の大きさの関係をスピアマンの順位相関で分析。
- 統計的有意性に加え、対数尤度比（Likelihood Ratio: LR）を用いて、観測されたデータが「変化がない」という帰無仮説に対してどれだけ支持されるかを評価。

3. 主要な結果 (Key Results)

リスク確率の全体的な上昇:
- 89 名の中央値は、イベント前（50% 区間）からイベント後（70% 区間）へと上昇し、平均確率は 50.5% から 56.9% に増加した（ $p < 0.001$ , LR 3,734:1）。
- 回答が変化した 35 名のうち、29 名が上昇、6 名が下降した。
事前知識による明確な勾配（Gradient）:
- 知識が少ない層: 「少ししか知らない」グループ（ $n=15$ ）では、60% が確率を上昇させ、下降した者は 0 名だった（LR 512:1）。
- 中程度の知識層: 39% が上昇、10% が下降。
- 知識豊富な層: 「非常に詳しい」グループでは 22% が上昇、3% が下降。
- 専門家層: 自己申告の「専門家」（ $n=10$ ）のみが逆の傾向を示し、上昇者は 0 名、20%（2 名）が確率を低下させた（ただしサンプル数が小さく、系統的な低下傾向の証拠は弱い $p=0.25$ ）。
- 事前知識レベルと確率変化の間に負の相関が確認された（ $\rho = -0.38$ , $p < 0.001$ ）。
自信度と優先度の向上:
- 自信度は全体的に有意に上昇し（平均 +0.30）、特に知識が少ない層で大きな増加が見られた。
- 確率の変化と自信度の変化には正の相関があり（ $\rho = 0.29$ ）、参加者は不確実性が増したのではなく、信念の更新（belief updating）として認識を明確化したことが示唆される。
- 世界的優先度への同意度は、イベント前 93%（73% が強く同意）からイベント後 96%（85% が強く同意）へさらに上昇した。
既存調査との比較:
- 事前のリスク認識（中央値 50%）は、2023 年の AI 研究者調査（中央値 5%）よりも著しく高かった（これは自己選択バイアス、質問の「制限なし」条件、および AI 能力の急速な進歩が要因と考えられる）。
- 世界的優先度への同意度（96%）は、2023 年の米国一般世論調査（70%）やハーバード学部生調査（約 40%）を大きく上回った。

4. 主要な貢献 (Key Contributions)

構造化された対話の効果の実証: 単一の公開イベント（講演＋双方向対話）が、特に AI 存在論的リスクに関する知識が少ない「新規参加者」の認識を統計的に有意に変化させることを初めて実証した。
信念更新のメカニズムの解明: 知識レベルが低い層ほどリスク認識が上昇し、その変化に伴って自信も増すという現象から、参加者が単なる動揺ではなく、論理的な理解に基づいて信念を更新している可能性を示唆した。
専門家と一般層の反応の差異: 専門家層では、議論の深さや反論への対応により、リスク評価が低下する（あるいは変化しない）傾向が見られた点に注目し、知識レベルによるリスク認識の更新プロセスの違いを浮き彫りにした。

5. 意義と限界 (Significance & Limitations)

意義:
- AI 存在論的リスクに関する公衆の認識形成において、対面での構造化された議論が有効な介入手段となり得ることを示した。
- 政策決定やリスクコミュニケーションにおいて、対象者の事前知識レベルを考慮したアプローチの重要性を浮き彫りにした。
- 信念と自信が同時に更新されるという心理的メカニズムの証拠を提供し、AI 安全に関する議論の質を高める示唆を与えた。
限界:
- 選択バイアス: 参加者は AI 存在論的リスクに関心のある層に偏っており、一般人口を代表するものではない。
- サンプルサイズ: 専門家グループや「全く知識がない」グループのサンプル数が少なく、統計的な推論には限界がある。
- 社会的圧力: 匿名性はあるものの、講演後に同じ質問に答えることで、社会的な同調圧力が回答に影響した可能性がある。
- 一般化可能性: 単一のスピーカー、単一のイベント形式での結果であり、他のフォーマットや聴衆への一般化は不明確。

結論として、本論文は、AI 存在論的リスクに関する公衆の認識が固定的ではなく、適切な対話を通じて特に新規参入者において大きく更新され得ることを示す重要な実証研究である。