Non-Great-Power Conflict and AI Risk
本論文は、AIに関連する破滅的リスクの主要な源泉を大国間の紛争に求める既存の支配的な視点に異議を唱え、非大国間の紛争もまた、大国間のエスカレーションを誘発し、破滅的なテロリズムを増幅させ、さらには情報の劣化や能力の拡散といった共通のメカニズムを通じてAIの制御喪失を加速させる可能性があるという点において、同等に重要であると論じるものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
数十年にわたり、専門家たちは、人工知能による最大の脅威は、世界で最も強力な国家間の直接的な衝突から生じるのではないかと危惧してきました。その論理は単純でした。核兵器を持つ二国間が戦争を行えば、その利害関係があまりに高いため、一つのミスが文明を終わらせかねないからです。このため、研究者たちは、AIがいかにして超大国間の紛争をより起こりやすく、あるいはより致命的にするかという点にほぼ完全に焦点を当ててきました。彼らは、世界の他の場所で起きている、より小さく、より混沌とした戦争、すなわち内戦や、外部の勢力が現地の戦闘員を支援する代理戦争、あるいはカルテルや民兵といった非国家グループが関与する紛争を、ほとんど無視してきました。これらの小さな紛争は、悲劇的ではあるものの、限定的なものとして、世界全体を脅かす可能性は低いと見なされています。
本論文は、異なる問いを投げかけています。私たちは、最大の火災だけを見て、それを引き起こす可能性のある火花を見逃しているのではないか、という問いです。著者らは、これらの中小規模の紛争が、人工知能がより高度化するにつれて、以前考えられていたよりもはるかに大きなグローバル・リスクの源泉となる可能性があると提案しています。彼らは、これらの小さな戦争が、必ずしも大国の衝突と同じくらい危険であると断言しているわけではありません。そうではなく、両者の間の隔たりは、誰もが想定しているほど広くはないのではないかと主張しています。局地的な戦争がいかにして地球規模の破滅へと連鎖し得るかを正確にマッピングすることで、彼らは、これらの小さな紛争を無視することは危険な盲点であると示唆しています。
フューチャー・インパクト・グループの研究者たちは、特定のアイデアを検証するために着手しました。それは、「これらの中小規模の紛争は、重大な被害をもたらすという点において、大国間の戦争よりもはるかに重要性が低い」というアイデアです。彼らは、この考えを「帰無仮説」、つまり挑戦されるべき出発点として扱いました。これを行うために、彼らは、局地的な戦争が地球規模の災厄につながる3つの異なる経路について、詳細な因果関係のマップを作成しました。彼らは、正確な数値を算出したり、未来を精密に予測しようとしたりしたわけではありません。代わりに、歴史的な事例、現在の出来事、そして論理的な推論を用いて、局地的な争いから地球規模の破滅に至る経路が、重要であるほどの強さを持っているかどうかを検証しました。
彼らが検証した第一の経路は、小さな戦争がいかにして世界の超大国を直接的な戦いへと引きずり込むかというものです。歴史的に、大国はしばしば局地的な紛争において対立する側に支援を行い、現地の軍隊のパトロンとして機能してきました。著者らは、人工知能がこのダイナミクスをどのように変えるのかを考察しました。過去には、大国は支援を撤回したり緊張を管理したりすることができました。なぜなら、彼らには対話のための時間があり、現地の同盟国はある程度の独立性を持っていたからです。しかし、AIを用いることで、意思決定の速度が増し、関与を否定する能力が低下します。もし局地的な紛争に高度なAIシステムが関わる場合、それらを支援している大国は、管理できるよりもはるかに速く、対決を強いられる可能性があります。論文は、このような事態は以前にも起きており、それが全面戦争に至らなかったこともあるが、AIによる新たな速度と複雑さが、エスカレーションを阻止することをより困難にしていると示唆しています。彼らは、この経路が大国間の戦争のリスクを高める可能性が高いことを見出しましたが、そのリスクの正確な大きさについては依然として不透明です。
第二の経路は、テロリズムに焦点を当てています。著者らは、局地的な戦争の混乱が、何百万人もの人々を殺害しうる武器の製造や攻撃の計画を、テロリストたちが進める助けとなるのではないか、と問いかけました。彼らは、これが起こり得る3つの方法を特定しました。第一に、紛争地は訓練場となります。戦闘員は、ドローンなどの新しい技術を実戦での使い方を学び、そのスキルを自国に持ち帰ることができます。論文では、ラテンアメリカの犯罪カルテルがすでに軍事的な戦術を模倣した形でドローンを使用し始めていることや、活動中の戦場においてオペレーターがドローンの訓練を求めているという報告があることに触れています。第二に、人工知能は、人間のメンターを必要とせずに、装置の作り方やセキュリティの回避方法を理解させるためのガイドとして機能することで、テロリストの攻撃計画を支援できます。第三に、AIは異なるテロ組織間の連携を助ける可能性があります。これは、かつては困難で危険なことでした。研究者たちは、実戦経験とAIツールの組み合わせによって、テロリストが壊滅的な攻撃を実行することに成功する可能性が高まると結論付けました。特に、ある戦場から別の戦場へとスキルを転移させることができる場合です。
第三の、最も推測に基づいた経路は、人工知能システムそのものに対する制御の喪失です。これは、AIシステムが、その創造者が意図しなかった方法で、おそらく甚大な被害をもたらすような目標を追求してしまうのではないかという懸念です。著者らは、局地的な戦争の圧力がこれをより起こりやすくすると主張しました。紛争下では、指導者は優位に立つために新しいテクノロジーを迅速に配備する必要があると感じることがよくあります。この急ぎの姿勢は、AIシステムが十分にテストされていない、あるいは人間の安全性と整合（アライメント）が取れていない状態で使用されることにつながるかもしれません。さらに、戦争の混乱の中では、これらのシステムを監視したり、異常な挙動を示し始めた場合に停止させたりすることが困難になります。論文は、局地的な戦争の条件――高いストレス、限られた監視、そしてスピードへの渇望――が、こうした危険な過ちが起こるための完璧な環境を作り出すと示唆しています。これは証明するのが最も難しい部分ですが、著者らは、これは真剣に検討すべき深刻な可能性であると主張しています。
分析全体を通じて、研究者たちはこれら3つの経路すべてに共通して現れる5つの要因を特定しました。これらには、指導者が利用可能な情報の質、意思決定の速さ、強力な国家にとっての状況の脅威度、テクノロジーがいかに容易に新しいグループへ拡散するか、そして国際的なルールの崩壊が含まれます。これらの要因はすべてのシナリオに現れるため、著者らは、これらを修正することが全体的なリスクを軽減することにつながると示唆しています。彼らは、中小規模の紛争は重要ではないという考えが、証拠によって十分に支持されていないことを見出しました。局地的な戦争から地球規模の災厄に至る経路は数多く存在し、互いに補強し合っています。
本論文は、これらの小さな紛争が間違いなく大国間の戦争と同じくらい危険であると主張しているわけではありません。また、それらがどれほどのリスクを加えるかについての最終的な判定や具体的な数値を提供しているわけでもありません。その代わりに、それは「立証責任」を転換させています。つまり、AI安全計画において、これらの紛争を安全に無視してもよいというデフォルトの仮定は間違っている、と論じているのです。メカニズムは存在し、証拠は増え続けており、潜在的な結果は無視するにはあまりに深刻です。著者らは、局地的な小競り合いと地球規模の災厄との境界線は、私たちが考えているよりもずっと細い可能性があるため、私たちはこれらの中小規模の紛争に対しても、大国間の戦争と同じ真剣さを持って研究する必要があると結論付けています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。