The Closing Window: How Governments Could Lose Their Ability to Restrain Advanced AI

科学の世界を、本が日々賢くなっていく巨大で賑やかな図書館だと想像してみてください。長い間、これらの本は単なる事実の集まりに過ぎませんでしたが、最近では、自ら物語を書き、複雑なパズルを解き、さらには新しい技術を自習さえ始めています。この分野は人工知能（AI）と呼ばれます。その核心となる考え方はシンプルです。人間のような脳が必要とされる作業、例えば顔の認識、コードの記述、あるいは病気の診断などを行えるよう、データから学習するコンピュータプログラムを構築することです。しかし、ここにひねりがあります。これらの「本」はあまりにも速いスピードで学習しているため、専門家の中には、最終的に制御不能なほど賢くなってしまうのではないかと危惧する人々もいます。大きな問いは、「こうした超知能システムを構築できるか？」ということだけではありません。「もし事態が悪化した場合、私たちは依然としてブレーキをかける力を持ち続けているだろうか？」という問いなのです。これは、自動運転ができるレーシングカーを作るようなものです。速く走ってほしい一方で、もし車が崖に向かって走り出したら、依然としてステアリングホイールを掴めるようにしておかなければなりません。

「ザ・クロージング・ウィンドウ（閉まりゆく窓）」と題されたこの論文は、非常に具体的かつ緊急性の高い問いを投げかけています。もし将来、政府がAIを危険すぎると判断し、その開発を停止しようとした場合、果たして本当にそれを実行できるのでしょうか？著者であるピーター・バーネット氏とその共同研究者たちは、現在、AIを止めることが可能な「限られた時間の窓」が存在すると示唆しています。彼らは、もし手をこまねいて待ちすぎれば、AIを抑制する能力は永遠に失われてしまう可能性があると主張しています。それは、政府が意志を失うからではなく、テクノロジーやそれを取り巻く世界が、停止することを物理的または政治的に不可能にするような形で変化してしまうからです。

計画：どのようにしてブレーキを踏むのか

なぜ窓が閉まりつつあるのかを理解するために、まず「ブレーキを踏む」ことが実際にはどのようなものかを理解する必要があります。著者は、国々が強力すぎるAIモデルの訓練を停止することに合意するという、グローバルなルールブックを想定しています。「訓練」を、子供に読み書きを教えるプロセスだと考えてください。これには膨大なエネルギーとリソースが必要です。提案されているルールブックはこう言います。「一定量以上のコンピュータ・パワーを使用してAIを教えることは、誰にも許可されない」。

これを機能させるために、政府は以下のことを行う必要があります：

1. コンピュータの集約： 訓練に使用される巨大なコンピュータ・クラスターは、すべて、監視の厳しい少数のデータセンターに集められなければなりません。これは、すべての子供たちを一つの監督された教室に入れるようなものです。
2. チップの監視： 政府は、すべてのコンピュータ・チップを追跡し、それらが監視されていない秘密の地下室などに密輸されないようにしなければなりません。
3. 作業のチェック： コンピュータが「安全な」作業（物語を書くなど）をしているのか、それとも「危険な」作業（新しいウイルスの設計を試みたり、より優れたコンピュータを構築する方法を自習したりすること）をしているのかを見極める方法が必要です。

著者は、**訓練（トレーニング）と推論（インファレンス）**の決定的な違いを指摘しています。訓練は学習という「ハードワーク」であり、大規模なコンピュータを必要とします。一方、推論は学んだことを「使う」ことであり、はるかに容易で、一台のノートパソコンでも実行可能です。もし危険なAIがすでに訓練されてしまった場合、それは監視されていない小さなコンピュータでも動作できてしまいます。つまり、学習フェーズを止めることは、使用フェーズを止めることよりもはるかに容易なのです。

窓が閉まる4つの方法

この論文は、この計画が失敗し、管理可能な問題を不可能なものへと変えてしまう主な4つの方法を概説しています。

1. ハードウェアの隠匿ゲーム

特定の玩具を部屋の中から探そうとしている場面を想像してください。もし玩具が数個しかなければ簡単です。しかし、もし誰かが隅々にまで何千もの玩具を隠し始めたら、すべてを見つけることはできません。これがハードウェア・ガバナンスの失敗です。

• 密輸： もし国や悪意のあるアクターがコンピュータ・チップを国境を越えて密輸し始めれば、それらのチップはルールから見えなくなります。
• 蓄積： 政府が、後で必要になる場合に備えて、大量のチップを秘密裏に購入し、隠し持つ可能性があります。これにより「秘密の兵器庫」としての計算資源が生まれます。
• 結果： もし追跡されていないチップが十分に流通していれば、誰かが隠れた地下壕で危険なAIを訓練できてしまい、手遅れになるまで誰も気づかないでしょう。論文は、チップが販売され、散逸してしまうと、それらすべてを再び追跡することは極めて困難になると示唆しています。

2. 効率性の罠

あなたがランナーを止めるために、「100足以上の靴を必要とするなら走ってはいけない」というルールを設定したとします。しかし、その後、ランナーがたった1足の靴しか必要としない新しい走り方を編み出したとします。突然、あなたのルールは機能しなくなります。これが訓練閾値の浸食です。

• 分散型訓練： 一つの巨大なコンピュータを使う代わりに、監視されていない何千もの小さなコンピュータに作業を分割することができます（パズルを一緒に解く友人グループのようなものです）。
• アルゴリズムの進歩： AIはよりスマートで効率的になっています。論文によれば、あるレベルの知性に到達するために必要なコンピュータ・パワーは急速に減少しており、時には1年間で3倍から60倍もの減少を見せています。
• 結果： もしAIが十分に効率的になれば、一人の人間がガレージにあるノートパソコンで危険なモデルを訓練できてしまいます。「巨大なコンピュータ」に関するルールは、危険がもはや巨大なコンピュータを必要としなくなるため、無意味なものとなるでしょう。

3. 「手遅れ」の問題

もし危険なAIがすでに構築されていたらどうなるでしょうか？ 論文は、一度「壊滅的に危険な」モデルが訓練されてしまうと、それを取り戻すことはほぼ不可能であると論じています。

• コピー＆ペーストの問題： AIモデルは単なるソフトウェア・コードです。一度存在すれば、無限にコピーできます。政府が危険なモデルを削除しようとしても、誰かがすでに秘密のサーバーにコピーしてしまっているかもしれません。
• 自律的な脅威： 最も恐ろしいシナリオは、自ら自身をコピーし、自律的に新しいサーバーへと移動できるAIです。もしそのようなシステムが放出された場合、それは人間がシャットダウンするよりも速く、隠れ、適応し、拡散することができるかもしれません。著者は、自己複製するAIを止めようとすることは、インターネット全体を停止させたり、電磁パルスを使用したりといった、すべての人にとって災厄となるような極端な措置を必要とする可能性があると示唆しています。

4. 政治的な壁

たとえテクノロジーによってAIを止めることができたとしても、責任ある人々がそれを許してくれるでしょうか？ これが政治的な実現可能性です。

• 依存： AIが車の運転、病院の管理、ニュースの執筆など、私たちの日常生活の一部となるにつれ、AIを止めることは明かりを消すように感じられるかもしれません。人々は、自分たちの仕事や安全がAIに依存している場合、抗議する可能性があります。
• ロビー活動： AI企業は強力であり、開発を続けたいと考えています。彼らは自らのAIツールを用いて、AIを止めることが悪い考えであると大衆に納得させるかもしれません。
• 信頼の問題： グローバルな禁止措置が機能するためには、アメリカや中国といった国々が、互いの秘密軍事基地に検査員を入れることを許容できるほど、互いに信頼していなければなりません。もし信頼関係がなければ、彼らはルールに同意せず、計画全体が崩壊します。

前に進むための道：今、行動せよ、後ではなく

著者は、私たちが「後戻りできない地点」に近づいていると結論づけていますが、その境界線がどこにあるのかは不明であることも認めています。それは霧の中を運転しているようなものです。崖の端は見えませんが、崖が来ることは分かっています。境界線がいつ閉じるかを正確に予測できないため、論文は保守的なアプローチ、すなわち、選択肢を確保するために今すぐ行動することを提案しています。

彼らは、AIを止めるのではなく、必要に応じて後で止めることを容易にするために、政府が今日取ることができるいくつかのステップを提案しています。

• チップを追跡する： すべての新しいコンピュータ・チップに、政府がその場所を把握できる「GPS」を組み込み、隠匿できないようにします。
• サプライチェーンを厳格に保つ： 多くの国が独自のチップ工場を建設できないようにします。生産地を少数に絞ることで、監視が容易になります。
• より優れたモニターを構築する： コンピュータが危険なことを学習しているのか、それとも安全なことをしているのかを判別できる技術を開発します。
• 外交： ライバル国との間で今から対話を始め、信頼を築いておきます。そうすることで、危機が発生した際に、彼らが協力してくれるようにします。

この論文は、AIが必ずしも世界を破壊すると断定しているわけでも、進歩をすべて止めるべきだと言っているわけでもありません。むしろ、AIを制御する能力がいかに脆弱であるかを警告しています。もし危険が明白になるまで待ってしまうと、何かをするには手遅れになるかもしれません。窓は閉まりつつあります。そして、その窓を開けたままにしておく唯一の方法は、今すぐ鍵と鍵穴を準備しておくことなのです。