あなたは、コンロの上にある鍋の沸騰する様子を眺めているところだと想像してください。あなたは熱力学の法則を知っています。十分に加熱すれば、最終的には必ず沸騰するということを。しかし、「沸騰する」という事実を知っているだけでは、最初の泡が水面に割れて現れるのは「いつ」なのか、あるいは、中身が別のものに置き換わりすぎて沸騰できなくなるまでに、あとどれくらい待たなければならないのかまでは分かりません。長い間、AIモデルがいかにして学習するかを研究してきた科学者たちは、まさにその鍋をじっと見つめているような状態でした。彼らは水の最終的な状態（「相図」）を記述してはいましたが、泡が実際にどのように形成されるかという、刻々と進む「時計」を見落としていたのです。彼らは水が熱くなっていることは分かっていましたが、AIが突然新しいスキルを「習得」する瞬間のストップウォッチを持っていませんでした。この論文は、その空白に踏み込み、AIのトレーニングを滑らかで着実な上昇ではなく、複雑な回路が一気にカチッとはまるかどうかの、スリリングで勝負の分かれる確率ゲームとして扱っています。

この論文の著者であるLei Dong氏は、言語モデルが新しい能力をどのように学習するかを見るための、新しい視点を提案しています。彼らは、新しいスキルの学習とは、レンガを一つずつ積み上げていくような作業（レンガを置くたびに加点されるもの）ではないと主張しています。むしろ、それは鍵を同時に見つけなければならない錠前を解く作業に似ています。もし全ての鍵のうち一つでも欠けていれば、錠前は開きません。つまり、ゼロ点です。この「オール・オア・ナッシング（全か無か）」の瞬間こそがボトルネックなのです。論文では、この錠前がいつカチッと開くのか、どれくらいの時間がかかるのか、そしてなぜ時には、トレーニングを続けても決して錠前が開かないことがあるのかを予測する数学的な公式、すなわち「速度式（レート・ロー）」を導入しています。彼らはこれを、材料科学（金属が硬化するプロセスなど）の概念を借りて、「トレーニングのキネティクス（動力学）」と呼んでいます。これは、AIの回路がいかにして構築され、壊され、修復されるかを説明するためのものです。

「オール・オア・ナッシング」の錠前

ロボットに特定のパターン、例えば「5人が同時に手を挙げる」という秘密の手話を認識させるように教えると想像してください。従来の考え方では、ロボットが1人、2人と手を挙げることを学ぶにつれて、徐々に上手くなっていくと予想するかもしれません。しかし、この論文は、特定の複雑なスキルについては、5人全員が同時に手を挙げない限り、ロボットは全く上達しないことを示しています。4人が手を挙げ、1人が下げたままであれば、ロボットには何も見えません。それは、5つの切り込みがある鍵を使って車を始動させようとするようなものです。4つの切り込みが合っていても、5つ目が間違っていれば、車は動きません。「半分だけ始動する」ということはあり得ないのです。

著者らはこれを「部分点なし」のルールと呼んでいます。彼らは実験の中でこれを測定し、もしロボットが5つのパーツから成る回路のうち3つのパーツを欠いている場合、その待ち時間は、3つのパーツから成る3パーツ回路においてパーツを欠いている場合と同じであることを見出しました。回路の大きさ自体はそれほど重要ではなく、欠けているパーツの数が重要なのです。「待ち時間」は、パズルの全体の大きさではなく、欠けているピースの数に依存します。これはすべてを変えます。つまり、学習の最も困難な部分は、知識をゆっくりと蓄積することではなく、欠けているすべてのピースが偶然にも一斉に整う、あの稀な瞬間なのです。

時計とフロア（底）

このような整列は稀なイベントであるため、著者らはそれがいつ起こるかを予測するための「時計」を構築しました。それは、落雷の天気予報のようなものです。雷が打つ正確な秒数を予測することはできませんが、湿度と温度を知っていれば、その確率を計算できます。論文によ征すれば、ある「前駆信号（プレカーサー）」、つまりロボットが正しいパーツを配置し始めているという微かな初期の兆候を見ることで、ロボットが実際にタスクをうまくこなせるようになる数日前に、そのフルスキルが現れる時期を正確に予測できることが示されています。テストにおいて、この時計は6つの異なるAIモデルにおける新スキルの到来を、中央値誤差わずか5%で予測しました。

しかし、落とし穴があります。論文では「フロア（底）」または閾値が見出されました。もしロボットが適切な種類の練習データに十分に頻繁に触れていない場合、どれほど長くトレーニングしても、そのスキルを習得することはありません。それは、土壌が貧弱な庭で珍しい花を育てようとするようなものです。何年もの間水をやり続けたとしても、土壌に特定の栄養素が欠けていれば、花は決して咲きません。著者らは、適切なデータの濃度が一定のポイント（彼らの特定のテストでは約0.26）を下回ると、学習率が実質的にゼロになることを発見しました。ロボットは単に学習が遅くなるのではなく、学習そのものが停止してしまうのです。

学習の静かな死（可塑性の喪失）

最も衝撃的な発見の一つは、ロボットが間違ったものに対して長時間トレーニングを続けたときに何が起こるかについてです。歴史を長年勉強してきた学生が、突然数学の問題を解くように求められた状況を想像してください。彼らはまだ数学ができるかもしれませんが、この論文は、新しい数学を学ぶ「能力」そのものが、ゆっくりと死にゆくことを示唆しています。著者らはこれを「可塑性の喪失（Loss of Plasticity）」と呼んでいます。

彼らは、トレーニングが進むにつれて、ロボットの内部の「スイッチ」（アテンション・ヘッドと呼ばれます）が特定のパターンに「ピン留め」されたり、固まったりすることを発見しました。一度これらのスイッチが固まってしまうと、ロボットは新しい複雑な回路を構築するためにそれらを再構成することができなくなります。それは、部屋のすべての家具が床に接着剤で固定されているようなものです。新しいパーティーのレイアウトに合わせて部屋を模様替えすることはできません。論文は、これがロボットがデータで「いっぱい」になったからではなく、新しい回路を構築するために必要な特定のパーツが、古い習慣によって占拠され、接着されてしまったために起こるのだと証明しています。

決定的なことに、論文は標準的なモニタリングツール（エラー率のチェックなど）では、この現象を見逃してしまうことを示しています。ロボットのエラー率は滑らかに改善しているように見えるかもしれませんが、その内部では、新しいことを学ぶ能力が静かに死に絶えている可能性があるのです。著者らは、もし新しいスキルを教えようとするタイミングを逃しすぎると、どれほど努力しても学習が不可能になるという「デッドライン（期限）」さえも見出しました。

治療法：スイッチのリセット

しかし、良いニュースもあります。著者らは問題を指摘しただけでなく、その治療法も見つけました。ロボット全体を再学習させる必要はありません。固まってしまった特定のスイッチを「リセット」するだけでよいのです。実験において、新しいスキルを学ぶ能力を失った「高齢の（学習が進みすぎた）」ロボットに対し、そのアテンション・メカニズムの「クエリ（Query）」と「キー（Key）」の部分（何に注意を払うかを決定する部分）を単にリセットしたところ、ロボットは即座に学習能力を取り戻しました。それは、接着された家具のロックを解除し、再び部屋を模様替えできるようにしたようなものでした。

興味深いことに、ロボットの他の部分（「バリュー（Value）」の部分）をリセットしても、効果はありませんでした。これは、どこに「接着剤」があるのかを明確に示しています。それは記憶の部分ではなく、意思決定の回路の部分にあるのです。これは、力任せの再起動ではなく、精密で標的を絞った修正です。

コントロールパネル：加熱と冷却

最後に、この論文はトレーニングプロセスを、金属を扱う冶金学者（メタラジスト）のように扱います。金属加工において、金属を加熱して柔らかくしたり（焼きなまし）、急速に冷却して硬くしたり（焼き入れ）、あるいは特定の状態を維持するために一定の温度に保ったりします。著者らは、トレーニングプロセスに特定の種類の「ノイズ（ランダム性）」を注入することで、AI回路に対しても同様のことが可能であることを示しています。

適切な量のノイズを加えることで、困難なスキルの学習を加速させられる（曲線の「鼻」の部分）ことがわかりました。ノイズを加えすぎると、回路を破壊してしまいます。逆に、適切なタイミングでノイズを止めれば、回路を溶けさせずに「ピン留め」することができます。彼らはさらに、複雑な回路の単純なパーツはそのままに、複雑な回路だけを選択的に「溶かす（破壊する）」こともできることを示しました。これは、チョコレートの彫刻を溶かしながら、その型は残しておくようなものです。これにより、トレーニングはブラックボックスから、回路がいつ形成され、いつ壊れ、どのように修復するかをスケジュールできる、制御可能なプロセスへと変わります。

これが意味すること

この論文は、単に「AIは学習する」と言っているわけではありません。それは、私たちにストップウォッチと温度計、そして修理マニュアルを与えてくれます。学習とは、時間との戦いであり、「固まった」パーツとの戦いであることを教えてくれます。スキルが現れる時期を予測でき、なぜそれが決して現れないことがあるのか、そしてそれが壊れたときに正確にどう直すべきかを、私たちは理解できるのです。著者らは、これらが制御された実験において証明され、実際のモデルでも測定されたものであるものの、あらゆるタイプのAIに対する完全な数学的証明はまだ研究段階にある、と慎重に述べています。しかし、彼らがテストしたモデルにおいては、ルールは明確です。学習とは稀で、オール・オア・ナッシングのイベントであり、もしそれをコントロールしたいのであれば、時計と、底（フロア）と、接着剤（グルー）を理解する必要があるのです。