How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements

人工知能の世界を、エンジニアたちがデジタルな巨人を建設している、大規模でリスクの高い建設現場だと想像してみてください。これらの巨人、すなわち「フロンティアAIモデル」と呼ばれるものは、あまりにも強力であるため、もし誤った手に渡ったり制御不能になったりすれば、壊滅的な被害をもたらす可能性があります。全員の安全を守るために、各国は「一定のサイズを超える巨人を建設してはならない」という世界的なルールブックを作ろうとしています。しかし、ここでの難問は、どうやって誰かがルールに従っているかを実際に確認するか、という点です。単に「仲良くしてください」と頼むこともできませんし、世界中のあらゆるコンピュータの中を覗き見ることもできません。あなたは、巨大な機械を小さな隠し小屋の中にこっそり運び込もうとしている悪意ある行為者を捕まえる方法を必要としています。これが「検証と執行（verification and enforcement）」という課題です。つまり、ルールが単なる紙の上の言葉ではなく、現実の世界で実際に機能するものにするための挑戦なのです。

「How to Catch a GPU（GPUをどう捕まえるか）」と題されたこの論文は、これらの国際的なAI協定における探偵のガイドブックのような役割を果たしています。著者であるレイモンド・クープマンスチャップとオットー・バルテンは、ルール違反者を捕まえるという膨大な問題を、3つの小さく管理可能なタスクへと分解しています。彼らは、違反を防ぐためには、3つのことをしなければならないと主張しています。まず、建設資材（コンピュータチップ）を盗まれないようにすること。次に、ルールに従っている人々が、密かに巨大なものを建設し始めないようにすること。そして最も重要なのが、悪党たちが機械を隠している秘密の小屋を見つけ出すことです。

著者らはこれらの問題に対する新しい視点を提案しており、テクノロジーが進化して安価になるにつれて、「巨人」となる機械はより小さくなっていくと示唆しています。最終的には、危険なAIが輸送コンテナや、あるいは小さな部屋一つに収まるようになるかもしれません。この論文は、専門家たちの様々な提案を分析し、チップの窃盗を防ぐ方法や、善良な人々を監視する方法については優れたアイデアがある一方で、「秘密の小屋」を見つけることに関しては、私たちは非常に無力であると結論付けています。著者らは、必要な計算資源が低下するにつれて、隠された施設を見つけることはほぼ不可能になると指摘しています。彼らは「ブレークポイント（限界点）」、つまり現在の私たちの探索手法が機能しなくなる特定のサイズを定義しています。彼らの分析によくによれば、大きな工場を監視することは可能かもしれませんが、秘密の施設が一般的な倉庫程度のサイズ（高性能グラフィックスカード約10,000枚分）まで縮小した瞬間、それを普通の建物と区別することが非常に困難になり、もし悪党たちが全力で隠蔽を図れば、私たちは決して見つけられないかもしれないということです。

3つのパートからなる探偵ゲーム

著者らがこの問題をどのように解決しようとしているかを理解するために、あなたが誰かがガレージで超高速のレースカーを作ろうとするのを阻止しようとしている場面を想像してみてください。論文では、この「交通警察」の仕事を3つの異なるゲームに分類しています。

1. 「部品を盗むな」ゲーム（制御不能なリソース獲得の防止）
これは、悪党たちが特別なエンジンパーツを手に入れるのを阻止することに関するものです。AIの世界において、これらの「パーツ」とは、AIを訓練するために必要な強力なコンピュータチップ（GPU）のことです。著者らは、現在、これらのチップを作ることは、非常に特殊で複雑なケーキを焼くようなものであり、世界でもごくわずかなベーカリーにしか適切なオーブンがないと述べています。製造できる場所が極めて限定されているため、現在ではそれらを追跡するのは比較的容易です。もしベーカリーを監視していれば、すべてのケーキがどこへ行くのかを知ることができます。論文は、サプライチェーンがこのように集中している限り、チップが工場からこっそり持ち出されるのを阻止できるだろうと示唆しています。たとえ「レースカー」が小型化したとしても、パーツを手に入れること自体は依然として困難であり、世界が気づかないまま進めることはできないからです。

2. 「ガレージでズルをするな」ゲーム（制御体制からの脱出の防止）
このゲームは、ルールに従っている人々のためのものです。例えば、小さな車を作ることを許可されている工場があるとします。警察は、その工場の中で、禁止されているスーパーカーを密かに作り始めていないかを監視したいと考えています。論文は、もし許可された工場の中にカメラやセンサー、検査官を配置すれば、彼らが不正を行おうとした際に確実に捕まえられると示唆しています。著者らは、これが実は最も解決しやすい部分であると主張しています。もし工場が禁止された機械を作ろうとしたら、建物全体の電源を切ってしまえばよいのです。それは部屋の照明を消すマスタースイッチのようなものです。誰かがやってはいけないことをしているなら、ただスイッチを落とせばいいのです。これは、機械がどれほど大きくても小さくても、監視対象の部屋の中にある限り通用します。

3. 「秘密の小屋を見つけろ」ゲーム（隠された容量の検知）
これが最も難しいゲームであり、論文が「事態が破綻し始める」と述べている部分です。これは、警察がその存在すら知らない小屋の中で、誰かがスーパーカーを作っているのを見つけることです。著者らは、現在、大規模なAI工場を見つけるのは簡単であると説明しています。それらは巨大であり、膨大な電力を消費し、工業用の煙突のような巨大な冷却塔を備えています。宇宙からも見えるほどです。

しかし、論文は、AIが賢くなるにつれて、同じ危険なことを行うために必要なパワーが少なくなっていくと警告しています。かつては倉庫一つ分を必要としていたマシンが、間もなくは輸送コンテナ一つに収まるようになるかもしれません。

• ブレークポイント： 著者らは、施設が約10,000個の高性能チップ（具体的にはH100相当）の規模まで縮小すると、もはや「秘密の工場」としての外観を失い、普通のオフィスビルや倉庫のように見え始めると算出しています。
• 消失劇： このサイズになると、冷却システムは通常のエアコンと同程度の大きさになり、電力使用量も大型スーパーマーケットや病院のそれと区別がつかなくなります。
• 能動的な隠蔽： もし悪党たちが意図的に隠れようとする「能動的な隠蔽（active concealment）」を行った場合、論文は、10,000から100,000個のチップ規模の施設については、私たちには発見できない可能性があると示唆しています。それらは地下室や倉庫、あるいはコンテナの中にあり、私たちの衛星や電力モニターには、ただの普通の建物として映ってしまうのです。

なぜこれが重要なのか

論文は、既知の工場を監視し、チップの窃盗を防ぐための優れた計画はあるものの、「秘密の施設を見つけるための計画」が欠けていると結論付けています。著者らは、もしこれらの小さく隠された研究所を見つける方法を確立できなければ、国際的なAIルールの体系全体が失敗してしまうだろうと述べています。それは、大型トラックには完璧に機能する速度制限標識があっても、小型で速いオートバイがカメラをすり抜けて通れてしまうなら、そのルールは道路の安全を守っているとは言えないのと同じです。

著者らは諦めるべきだと言っているのではなく、代わりに「秘密の小屋を見つけろ」という問題にエネルギーを集中させるべきだと主張しています。テクノロジーが向上するにつれて、「禁止されたマシン」のサイズは小さくなり、隠れるゲームはさらに困難になることを彼らは指摘しています。彼らは、テクノロジーがこれ以上小さくなる前に、これら小さく隠された研究所を見つけ出すための新しい方法を開発する必要があると提言しています。それまでは、論文の主張によれば、「秘密の小屋を見つけろ」の部分が最も脆弱な環であり、最初に崩壊する可能性が高い部分なのです。