想像してみてください。あなたは、目、耳、そして声を通じて世界を理解する超スマートなロボットに教えているところです。このロボットは「マルチモーダル」学習という基礎の上に築かれており、犬の画像と「dog」という言葉、そして鳴き声の音を一致させる方法をすでに習得しています。ロボットは、異なる感覚が完璧に結びついた共有のメンタルスペースの中に生きています。しかし、現実の世界は止まりません。新しい音、新しい画像、新しい言葉が毎日やってきます。「継続学習（continual learning）」という課題は、過去のレッスンを忘れることなく、いかにしてこれらの新しいレッスンを吸収させるかというものです。これは繊細なバランス調整です。もしロボットが一生懸命に学びすぎると、猫の認識方法を忘れてしまうかもしれません。逆に慎重になりすぎると、新しい技術を習得できなくなります。科学者たちは、このロボットにとっての完璧な「スイートスポット」を見つけようとしてきましたが、通常、彼らは過去を記憶することと未来を学ぶことの間で一つの永続的な妥協点を見出す、単一の最終的なバージョンの脳に行き着いてしまいます。

AlphaWiSEと題されたこの論文は、まさにその問題に取り組んでいます。著者たちは、ロボットにたった一つの「完璧な」脳を選ばせるのではなく、学習中に作成された2つの異なる脳に着目することを提案しています。一つは古いことを覚えるのが得意だが新しい学習には遅い脳、もう一つは学習は早いが少し忘れっぽい脳です。論文は、これら2つの脳を混ぜ合わせるための巧妙な方法を提案しています。それは、それらをスムージーのように平均化するのではなく、それぞれの配線の特定のパーツを注意深くブレンドする方法です。その結果、古いレッスンを「慎重な脳」と同じくらいよく覚え、かつ「意欲的な脳」と同じくらい速く新しいことを学べる、超強力なロボットが誕生します。著者たちはこれを、音声、画像、テキストを接続するシステムでテストし、この「ミックス・アンド・マッチ」のアプローチが単一の脳バージョンよりも一貫して優れた性能を示し、より堅牢で適応性の高いAIを生み出すことを発見しました。

問題点： 「ワンサイズ・フィッツ・オール（万能型）」の罠

AIのトレーニングを、一連の試験に向けて学生を訓練することだと考えてみてください。まず、歴史を勉強します。次に、数学を。それから、科学です。AIの世界では、モデルが新しい主題（新しい音のセットや画像など）を学習すると、しばしば以前の主題を「忘れて」しまいます。これは**破滅的忘却（catastrophic forgetting）**と呼ばれます。

これを防ぐために、科学者たちはさまざまな学習戦略を開発してきました。EWCやLwFのような戦略は、試験に落ちることを極端に恐れている学生のようなものです。彼らは古いノートを固く握りしめ、すでに知っていることを失わないように、脳に非常に小さく慎重な変化しか加えません。これらの学生は歴史を覚えるのは得意ですが、新しい数学の概念を素早く学ぶのには苦労するかもしれません。

一方で、標準的な**ファインチューニング（微調整）**のような戦略は、新しい教材に真っ先に飛び込んでいく学生のようなものです。彼らは新しい数学をものすごく速く学びますが、その過程で、うっかり歴史のノートを消去してしまうかもしれません。

問題は、現実の世界では、両方に長けた学生が必要だということです。しかし、従来のメソッドでは、たった一人の最終的な学生を選ばなければなりません。「安全な」学生か、「速い」学生かのどちらかを選ばなければならないのです。「安全な」方を選べば、新しい知識を逃します。「速い」方を選べば、過去を失います。論文は、この「一つを選ぶ」というアプローチは、ゲームの正しいやり方ではないと主張しています。

解決策： 「スマート・ブレンダー（賢いミキサー）」 (AlphaWiSE)

著者であるSarthak Jain、Qiran Hu、Zhen Zhu、Yaoyao Liuは、AlphaWiSE（Adaptive Weight Interpolation）と呼ばれる新しいアイデアを考案しました。彼らは、どちらか一方の学生を選ぶのではなく、「安全な」学生と「速い」学生の両方を時間を止めて保存しておくことにしました。彼らは、二つの脳をぐちゃぐちゃな平均へと混ぜ合わせるのではなく、それぞれの最良の部分を取り出すことで、新しい学生を構築しようとしたのです。

例えば、2種類のケーキのレシピを持っているとしましょう。レシピAはチョコレートの味には完璧ですが、パサついています。レシピBはしっとりしていますが、チョコが足りません。これら2つの生地を盲目的に混ぜ合わせる代わりに、AlphaWiSEは、層ごとにケーキを観察するマスターシェフのように振る舞います。

• チョコレートチップ（特定の音を扱う脳の部分）については、シェフはこう言います。「レシピAからチョコレートを90%取ろう。」
• 水分量（新しい学習を扱う部分）については、シェフはこう言います。「レシピBから水分を80%取ろう。」

これがAlphaWiSEの核心である**テンソル単位の補間（Tensor-wise interpolation）**です。AIの言葉で言えば、「脳」は多くの異なるレイヤーやパーツ（これらをテンソルと呼びます）で構成されています。AlphaWiSEは、2つの脳を混ぜるために単一のつまみを使うのではありません。代わりに、脳のあらゆる個別のパーツに対して、独自の小さな「混合つまみ（係数）」を学習させます。

具体的な仕組みは以下の通りです：

1. セットアップ： 研究者たちは、凍結された2つのモデルを用意します。一つは標準的な「速い学習者」（逐次ファインチューニング）、もう一つは「安全な保持者」（EWC、LwF、またはiCaRLなどの手法で訓練されたもの）です。
2. メモリ： 彼らは、混合プロセスを教えるために、わずか840個の例（音、画像、テキストの混合）を含む小さな「メモリーバンク」を使用します。インターネットの全歴史は必要なく、小さなサンプルだけで十分なのです。
3. 学習： システムは、これら840個の例を見て、「この特定の脳のパーツに対して、最高の成果を得るためには、『速い』モデルと『安全な』モデルをそれぞれどの程度必要とするか？」と問いかけます。そして、新しい結合モデルがこれらの例に対して完璧に機能するまで、混合つまみを調整していきます。
4. 結果： 最終的なモデルは、単一の統合された脳となります。元のモデルと同じサイズと速度を持っており、実行に時間がかかることはありません。しかし、両方の親から最高の特性を厳選して取り込んでいるため、より賢くなっています。

実験結果： より優れたバランス

チームは、音声、画像、テキストを接続するAudioCLIPというシステムでこれをテストしました。彼らは、AIが古いデータを見ることができない状況（840個の例を除く）で、時間の経過とともに新しいカテゴリーの音を学習しなければならない世界をシミュレートしました。

結果は有望でした。論文は、AlphaWiSEが一貫して単一モデルの戦略を上回ったことを示唆しています。

• 音声からテキストへ： 「速い学習者」と「EWC（安全なモデル）」を組み合わせたとき、AlphaWiSEは精度を0.2900から0.3037へと向上させました（R@1という標準的な検索スコアで測定）。
• 画像からテキストへ： こちらでは改善がより顕著で、最高のAlphaWiSEのペアリングは0.4225に達し、個別のベースラインを大幅に上回りました。
• 画像から音声へ： この方向では、EWC単体での0.1988から、AlphaWiSEによって0.2309へと上昇しました。

著者たちは、「最高の」ミックスは、ロボットが何をしようとしているかに依存することを発見しました。時には、「安全な」モデルが脳の音声部分により多く貢献し、一方で「速い」モデルが画像のパーツにより多く貢献する場合もありました。これは、脳の異なる部分が、異なるタイプの学習から恩恵を受けることを証明しています。

なぜこれが重要なのか

この論文は、異なるトレーニング手法を、どちらかが勝たなければならない競合相手と見るべきではないと主張しています。それらはキッチンにおける異なる食材のようなものです。「安全な」手法は共有空間の幾何学的構造を維持し（画像とテキストの関係性を安定させる）、一方で「速い」手法は新しいデータに適応します。AlphaWiSEを使用することで、これらの食材を一つの完成した料理へと構成することができ、それは単一の食材よりも優れたものになります。

著者たちはまた、どのように混合が行われたかについても興味深い発見をしました。彼らは、「混合つまみ」がランダムではないことを突き止めました。システムは、主要な構造的重み（大きな役割を果たす部分）については「安全な」モデルから維持する傾向がありましたが、正規化のスケールとバイアス（微調整用のダイヤル）については「速い」モデルから多く借りていました。これは、「安全な」モデルが強固な土台を提供し、「速い」モデルが新しいデータに必要な微細な調整を提供するということを示唆しています。

まとめ

AlphaWiSEは、ゼロからロボットを訓練する新しい方法を編み出したわけではありません。その代わりに、巧妙なポストトレーニング（訓練後）のトリックを提供しています。すでに訓練済みの2つのバージョンのロボットを取り出し、それらを凍結させ、ごくわずかなデータを使って、それらをどのようにブレンドするかを正確に学習させるのです。その結果、元のモデルと同じ速さで動作しながら、未来を学びつつ過去をより良く記憶できるモデルが得られます。

この論文は、このアプローチが、新しい音を認識したり、新しいスラングを理解したり、新しい物体を識別したりといった、変化し続ける世界に適応し続ける必要があるAIシステムを構築するための強力なツールになり得ることを示唆しています。それは「忘却の問題」を「混合の機会」へと変えるのです。