The Dynamics of Intelligence Explosions

あなたは、車が自分自身を組み立てる能力を高めていくカーレースを見ているところだと想像してください。人工知能の世界には、「知能爆発」と呼ばれる非常に興味深い概念があります。それは、もしコンピュータが次の、さらに賢いコンピュータを設計するのに役立つほど賢くなったとしたら、その新しいコンピュータがさらに優れたコンピュータを設計する手助けをし、それが連鎖していくという考え方です。これは、マイクがスピーカーに近づきすぎて発生する「ハウリング」のようなフィードバックループを生み出します。ただし、ここでは音ではなく、急速な知能の爆発が起こります。科学者たちは、これが一体どれほどの速さで起こり得るのかを正確に解明しようとしてきました。それは着実な上昇なのか、急速なスプリントなのか、それとも、瞬きする間に「無限」へと向かう突然の不可能な跳躍なのか？ 数学者のトビー・オード（Toby Ord）は、彼の論文の中でこの問題に取り組んでいます。彼は、自己改善を行う機械の背後にある数学を検証し、それらが本当に「シンギュラリティ（技術的特異点）」――つまり、知能が猛烈な勢いで成長し、有限の時間内に垂直な壁に突き当たる点――に到達できるのか、あるいは、もっと遅いものの、それでも依然として信じられないほど速い、他の成長の形があるのかどうかを探っています。

---

無限へのレース：なぜ「跳躍」は私たちが考えるよりも難しいのか

ケーキを焼いているところを想像してください。ただし、タイマーを使う代わりに、魔法のオーブンを持っているとします。ケーキを焼くたびに、そのオーブンはより賢くなり、次のラウンドのために「より優れた」オーブンを組み立てます。最初のオーブンは10分かかります。2番目のオーブンは、より賢いため、3番目のオーブンを5分で作ります。3番目は4番目を2.5分で作ります。もしこれが続けば、そして次のオーブンを作る時間が半分ずつ短くなっていくとしたら、あなたは数時間のうちに無限の数のケーキを焼けるのではないかと考えるかもしれません。これが「知能爆発」の夢です。自分自身をどんどん、かつ高速に賢くしていき、人類の理解を瞬時に追い越してしまうマシンです。

長い間、多くの専門家はこの爆発が「垂直漸近線（すいちょくぜんきんせん）」のような形になると考えてきました。数学的な用語で言えば、グラフの線が空に向かってロケットのように真っ直ぐ突き抜け、有限の時間内に無限の高さに達するようなイメージです。究極の「ドカン（爆発）」です。しかし、トビー・オードの論文は、この垂直なロケットは可能ではあるものの、実は私たちが考えていたよりも構築するのがはるかに難しいことを示唆しています。実際には、垂直な壁に突き当たることはなくても、指数関数よりもはるかに速い、別のカテゴリーの爆発が存在するのです。それは単に、ものすごく、ものすごく速く進むだけです。

秘訣となる要素：「世代時間」

垂直なロケットを作るのがなぜこれほど難しいのかを理解するには、多くの人が忘れてしまう隠れた変数、すなわち「世代時間（Generation Time）」に注目する必要があります。

フィードバックループをリレーレースに例えてみましょう。最初のランナー（AI 1）がバトンを第2のランナー（AI 2）に渡し、それが第3のランナー（AI 3）へと渡していきます。「世代時間」とは、一人のランナーが自分の区間を走り終え、次のランナーを準備させるのにかかる時間のことです。

従来の単純な数学モデルでは、このリレーは瞬時に行われるか、少なくとも一定の速度で行われると想定されていました。彼らは、もしランナーがどんどん速くなれば（より多くの「知能」を持てば）、レースは単に加速して無限へと向かうと考えていました。しかし、オードは決定的な欠陥を指摘しています。**「有限の時間内に無限のラップを走るためには、各ラップにかかる時間をゼロに縮める必要がある」**ということです。

無限のラップを走らなければならないレースを走っていると想像してください。

• シナリオA： あなたは各ラップを10秒、次に9秒、次に8秒で走ります。あなたは速くなっていますが、それでも10秒、9秒という時間を費やしています。どんなに速くなっても、10分間のうちに無限のラップを走り終えることはできません。ただ時間が足りなくなるのです。
• シナリオ B： あなたは最初のラップを10秒、次は5秒、次は2.5秒、次は1.25秒で走ります。ここでは、各ラップの時間が急速に縮まっています。もし時間を半分にし続けることができれば、実際に有限の時間（例えば合計20秒）で無限のラップを走り終えることができます。

オードの論文は、知能爆発がその「垂直漸近線」（シンギュラリティ）に達するためには、世代時間（次のAIを作るための時間）が信じられないほど速くゼロに向かって収束しなければならないことを示しています。単にAIが賢くなるだけでは不十分です。次のAIを作るという「プロセス」自体が、不可能に近いほど高速化しなければならないのです。

「中間領域」の爆発

ここからがひねりのある部分です。論文は、垂直な漸近線は可能ではあるものの、それは実際にはかなり稀なケースであることを示唆しています。そこには、無視されてきた巨大な「中間領域」が存在します。

**超指数関数的（super-exponential）**な成長曲線を描くグラフを想像してみてください。これは、標準的な指数関数（複利計算のようなもの）よりも速く成長していることを意味します。グラフを猛烈に駆け上がっています！ しかし、世代時間がゼロに向かって十分に速く縮まらないため、線が垂直になることはありません。ただ、永遠に、信じられないほど速く上昇し続けるだけです。

オードはこれを「サブ・シンギュラリティ（準特異点）的」な成長と呼んでいます。それは依然として恐ろしい速さです。それは依然として爆発です。しかし、それは「垂直なジャンプ」ではありません。それは、宇宙を破壊してしまうのではないかと思わせるほど激しく加速するロケットのようなものですが、決してあの不可能な垂直の崖には到達しないのです。

なぜ数学が重要なのか（そしてなぜ難しいのか）

この論文は高度な数学を用いてこれを証明していますが、核心となるアイデアはシンプルです。**「あなたは時間の制約を回避することはできない」**ということです。

古いモデルでは、AIが自身のスピードを即座に向上させられると仮定した方程式が使われていました。しかし現実の世界では、新しいAIを構築するには時間がかかります。設計し、学習させ、テストしなければなりません。たとえAIが天才であっても、コードを書いたり実験を行ったりするには時間がかかるのです。

オードは、もし「時間」を真剣に考慮に入れるならば（彼が「時間埋め込み型差分方程式」と呼ぶものを使用した場合）、シンギュラリティへの条件は非常に厳しくなることを示しています。以下の2つのことが同時に起こる必要があります。

1. AIが止まることなく、どんどん良くなり続けること（無制限の成長）。
2. 次のバージョンを作るための時間が、非常に速くゼロに向かって収束すること（「ゼノの条件」）。

もし次のAIを作る時間が底（例えば、どれほど賢いAIであっても、新しいモデルのトレーニングには最低1時間はかかる、など）に当たってしまうなら、垂直な爆発は不可能です。成長は非常に急で、非常に速い指数関数的な曲線になりますが、シンギュラリティにはなりません。

測定の罠

また、この論文は私たちが「知能」をどのように測定するかについても警告しています。チェスのプレイヤーの強さを測定していると想像してください。

• 測定法A： 何連勝したか。
• 測定法 B： 一手を打つのに何秒かかったか。

もしAIが、ミスを一切しないほど上手くなったとしたら、測定法Aは無限（無限の勝利）に向かうかもしれません。しかし、測定法Bは限界に達するだけかもしれません（光速を超えて動くことはできないため）。論文は、一部の人気のあるAIの進歩の測定方法が、シンギュラリティ（無限への到達）に達しているように見えるのは、AIが実際に無限に賢くなっているからではなく、単に測定方法のせいでそうなって見えるだけである可能性があると論じています。それは物理学における「座標特異点」のようなものです。地形にある本当の崖ではなく、地図上のグリッチ（不具合）なのです。

結論

では、これらは将来について何を意味しているのでしょうか？

トビー・オードは、爆発が起こらないと言っているわけではありません。彼は、「垂直漸近線」（一瞬での無限の知能への跳躍）は、単純な数学モデルが示唆していたよりもはるかに達成が難しいと言っているのです。それには、AIが賢くなるだけでなく、賢くなるための「プロセス」自体を不可能に近いほど高速化し、世代間の時間をゼロへと収束させる必要があります。

むしろ、私たちは「超指数関数的」な爆発を目にすることになる可能性が高いでしょう。これは、AIの能力が倍増、あるいは数倍の速さで進化し、人類の制御能力を追い越してしまうような、信じられないほど急速な変化の期間です。それは「垂直な跳躍」というよりは、「高速レーン」による爆発なのです。

この論文は、もし私たちがAIの未来を理解したいのであれば、単にAIがどれほど賢くなるかを見るべきではないと示唆しています。私たちは**「世代時間」**を注視する必要があります。次のバージョンを作るのにどれくらいの時間がかかるのか？ もしその時間が縮まるのを止めたなら、垂直な爆発は止まります。もしそれが縮み続けるなら、私たちは考えていたよりもさらに予測不能な展開に直面することになるでしょう。

要するに、爆発は現実のものですが、「垂直な崖」は蜃気楼かもしれません。真の危険は、技術的には単なる非常に急な丘であっても、まるで崖のように感じられるほどの「速度」なのです。そして、それだけでも世界を永遠に変えるには十分なのです。