🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

本論文は、パラメータ空間における低損失経路を追跡するために常微分方程式の視点を活用し、これにより破滅的忘却を効果的に緩和するとともに異種タスクベンチマークにおいて既存手法を上回る、ODE-M と呼ばれる新たな継続的モデルマージフレームワークを提案する。

原著者： Lihong Lin, Haidong Kang

公開日 2026-05-20

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Lihong Lin, Haidong Kang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが完璧なイタリアンパスタ料理を習得したマスターシェフを持っていると想像してください。次に、日本のお寿司の達人である第二のシェフを雇います。最後に、メキシコ料理のタコスを専門とする第三のシェフを雇います。

問題点：
AI の世界では、多くのことが得意な「基盤モデル」（私たちのマスターシェフのようなもの）をよく目にします。新しいタスク（お寿司の作り方を学ぶようなもの）が現れたとき、通常はシェフ全体を最初から再訓練するか、新しい知識を古い知識の上に無理やり押し付ける必要があります。

この論文は継続的モデルマージについて論じています。これは、イタリアンシェフ、寿司シェフ、タコスシェフのスキルを、最初から再訓練することなく、すべて完璧にこなすことができる一つの「スーパーシェフ」に組み合わせようとする試みに似ています。

従来の方法（「ジャンプ」方式）：
従来の手法は、イタリアンシェフの脳と寿司シェフの脳の「スナップショット」を取得し、それらを単純に平均化することでこれらのシェフをマージしようとしました。

欠点： イタリアンシェフの脳が谷（損失が低く、性能が良い状態）にあり、寿司シェフの脳が別の谷にあると想像してください。それらを単に直線で結ぶと、その間に急峻で岩だらけの山を登らなければならないかもしれません。
結果： AI がその直線を歩こうとすると、「損失の障壁」（山）にぶつかります。お寿司を学ぼうとして山で立ち往生している間に、パスタの作り方を忘れてしまいます。これを破滅的忘却と呼びます。シェフをさらに追加すればするほど、スーパーシェフは元のスキルを忘れやすくなります。

新しいアイデア（「ODE」方式）：
著者たちは、ODE-M（常微分方程式駆動型マージ）と呼ばれる新しい方法を提案しています。これは、あるシェフから別のシェフへジャンプするのではなく、2 つの脳をつなぐ連続的な経路、あるいは滑らかな道を描くことを想定しています。

以下に、簡単な比喩を用いてその手法を説明します。

滑らかな道（モード接続性）：
この論文は、シェフたちは一見異なっていても、両者がまだ上手に料理できる、隠れた滑らかで低い谷を走る道が脳同士を結んでいると仮定しています。目標は、山の上を渡る直線ではなく、この道を見つけることです。
速度制限付き GPS（速度場）：
著者たちは「速度場」を作成します。これは、イタリアンスタイルから寿司スタイルへとスーパーシェフを導く GPS のようなものです。
- 問題点： 時々、GPS が車を急な丘の上へ登らせようとします（これにより「損失」が増加し、料理の質が低下します）。
- 解決策： システムはリアルタイムで地形を確認します。もし道が先へ進むにつれて丘を上り始め（損失が増加し）たら、システムはその特定の方向に「ブレーキ」または「ダンパー」を適用します。忘却を引き起こす動きの部分を減速させつつ、新しいスキルへと向かう車の進行は続けさせます。
「一時停止標識」（作動点）：
必ずしも目的地（新しいシェフの脳）まで運転する必要はありません。パスタのスキルを失わずに、お寿司のスキルを一部だけ学びたい場合もあります。
- システムでは、滑らかな道の途中の任意の地点で車を停止させることができます。
- 新しいタスクが非常に重要であれば、さらに先まで進みます（新しいシェフに近づけます）。
- 古いタスクの方が重要であれば、より早く停止します（古い知識をより多く保持します）。
- これは「時間スケジュール」によって制御され、新しいスキルをどの程度取り込むか、古いスキルをどの程度保持するかを決めるダイヤルのような役割を果たします。

なぜこれが優れているのか：

山登りなし： 損失の低い滑らかな経路に従うことで、AI は古いスキルを忘却させる原因となる「山」を登る必要がありません。
制御性： ユーザーは古い知識を壊すことなく、どの程度の新しい知識を追加するかを正確に決めるためのダイヤルを持っています。
結果： 彼らのテスト（車、花、交通標識を認識する AI モデルを使用）において、この方法は以前のどの手法よりもすべてのタスクを記憶する「スーパーシェフ」を生み出しました。多くの新しいレシピを一つずつ追加しても、パスタのスキルを保持したままお寿司を学ぶことができました。

まとめ：
この論文は、物事を壊すような鈍い道具で 2 つの異なる AI の脳を無理やり結合するのではなく、滑らかで誘導された経路を使ってそれらをマージします。これは、AI を「危険地帯」（忘却を引き起こす場所）から巧みに導き、古いスキルと新しいスキルをバランスさせるために、その経路をどの程度進んでよいかを正確に決定できる、慎重なナビゲーターのように機能します。

「継続的モデルマージの可能性の解明：ODE 的視点」という論文の詳細な技術的サマリーを以下に示す。

問題定式化

本論文は、継続的モデルマージ（CMM）という設定を取り扱っている。これは、タスク適応済みモデルが逐次的に到着し、元のトレーニングデータへのアクセスなしに、新しい能力を取り込むために単一のデプロイ済みモデルを反復的に更新する必要がある状況である。標準的なモデルマージが複数のモデルを同時に組み合わせるのに対し、CMM は破滅的忘却と一貫性のない性能配分という課題に直面する。

既存の CMM 手法は通常、各マージを、現在のモデル $\Psi_k$ と流入するモデル $\psi_{k+1}$ を直接新しい終点 $\Psi_{k+1}$ に写像する固定された代数演算（例えば、重みの平均化やタスクベクトル演算）として扱う。著者らは、この「終点のみ」の視点には 2 つの決定的な欠陥があると主張している：

経路制御の欠如：パラメータ空間内をたどる軌跡を無視している。更新が高損失領域（損失バリア）を通過する場合、結果として得られるモデルは機能的な劣化や、以前学習された行動との干渉を被る可能性がある。
柔軟性の低い安定性 - 可塑性のトレードオフ：どの程度の過去の知識を保持し、どの程度の新しいタスクの専門性を採用するかについて、制御が限られている。これは、タスクの頻度や重要度重みが異なる異質的有用性シナリオにおいて特に問題となる。固定されたルールは適切に容量を配分できず、システム全体の性能が最適化されない結果を招くことが多い。

手法：ODE 駆動マージ（ODE-M）

モード接続性（独立してトレーニングされたモデルは、しばしば低損失経路で接続可能であるという観察）に触発され、著者らは継続的マージを離散的なジャンプではなく、パラメータ空間内での制御された連続的な遷移として捉えることを提案する。彼らは、時間依存の速度場を通じて接続経路を生成するフレームワークODE-Mを導入する。

1. 軌跡の視点と損失バリア

線形補間ではなく、ODE-M は現在のモデル $\theta_0$ から流入モデル $\theta_1$ までの連続的な経路 $\theta(t)$ を構築する。目的は、この経路上での損失バリアを最小化することであり、これは終点の損失の線形補間に対する最大超過損失として定義される。

2. 整流された速度場

中核的なメカニズムは、バリア認識型速度場の構築である。

基底場：モデルを目標に向かって駆動する基底ベクトル場 $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ を定義する。
勾配分解：各ステップにおいて、速度を損失勾配と一致する成分（ $u_\parallel$ ）とそれに直交する成分（ $u_\perp$ ）に分解する。
適応的整流：適応係数 $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ が勾配整合成分を調節する：
- 目標への移動が損失を減少させ、または維持する場合（ $\langle g_t, u_t \rangle \le 0$ ）、全速度が適用される（ $\gamma=1$ ）。
- 移動が損失を増加させる場合（ $\langle g_t, u_t \rangle > 0$ ）、損失増加が規定された予算（ $\Delta L = L(\theta_1) - L(\theta_0)$ ）内に留まるよう成分が減衰される。具体的には、 $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ となる。
積分：軌跡は、小さな較正セット上でオイラー積分を用いて整流された速度場 $v_t(\theta) = u_\perp + \gamma u_\parallel$ を積分することで生成される。

3. 有用性認識型時間スケジューリング

安定性 - 可塑性のトレードオフを制御するため、本手法は完全な終点（ $t=1$ ）まで積分するのではなく、経路上の動作時間 $t_k$ を選択する。時間 $t_k$ は流入タスクの相対的有用性によって決定される：
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
ここで、 $w_k$ は $k$ 番目のタスクの有用性重みである。均一な設定では、これは $t_k = 1/k$ に帰着し、ストリームが成長するにつれて新しいタスクの寄与が自然に減少し、より多くの過去の知識が保持される。

主な貢献

軌跡定式化：本論文は CMM を経路探索問題として再定義し、損失バリアの概念を線形補間から一般的な接続経路へと拡張する。
バリア認識型ダイナミクス：軽量な 1 次フィードバックを介して損失増加運動を調節する整流された速度場を用いた、新規な ODE 駆動マージ戦略を提案する。これにより、フル再トレーニングを必要とせずに高損失領域を回避する。
明示的制御：有用性重みに基づいて経路上の動作点を選択することで、保持される過去の知識と流入タスクの専門性のバランスを取る明示的なメカニズムを提供する。

実験結果

著者らは、FusionBench スイートのデータセットを用いて、長さ 8、14、20 のタスクストリームにおいて、CLIP ViT バックボーン（ViT-B/32、ViT-B/16、ViT-L/14）上で ODE-M を評価した。

性能：ODE-M は、平均精度（ACC）および後方転移（BWT）の点で、強力なベースライン（Continual Task Arithmetic、Continual Ties-Merging、OPCM などを含む）と比較して最先端の性能を達成した。例えば、8 タスクの ViT-B/32 において、ODE-M は ACC を OPCM の 75.5 から 79.6 に向上させた。
異質的有用性：非均一なタスク重要度下では、ODE-M は一貫して最も高い有用性加重精度（ $ACC_w$ ）を達成し、均一なマクロ平均に最適化された手法よりも特定のタスクの優先順位を最適化する能力を示した。
ロバスト性：アブレーション研究により、本手法は較正セットのサイズ（512 サンプル程度でも良好に機能）および数値積分のステップサイズに対してロバストであることが示された。
効率性：マージごとの計算オーバーヘッドは実用的である（例：ViT-B/32 で約 124 秒）。これは主に較正セット上の数値積分と勾配計算に支配されるが、フル再トレーニングと比較すれば無視できるレベルである。

意義と主張

本論文は、ODE-M が固定された代数更新から制御された連続的な遷移へのパラダイムシフトを通じて、継続的モデルマージの可能性を解き放つと主張している。損失ランドスケープを尊重する経路を明示的に構築し、タスク有用性に基づいて積分の速度を調節することで、ODE-M は忘却を効果的に緩和し、異質的なタスク重要度に対処する。

著者らは、この研究をよりスケーラブルで制御可能なモデルカスタマイズへの一歩として位置づけており、マルチタスクシステムの維持にかかるエンジニアリングおよび計算オーバーヘッドを削減するものである。彼らは、勾配計算に較正セットが必要であることや、現在の焦点がビジョン分類タスクにあることなどの限界を認め、将来の研究では大規模言語モデルやより効率的な統合戦略の検討を行うと述べている。