🤖 machine learning

Bayesian Model Merging

本論文は、強固なアンカー事前分布とベイズ最適化を組み合わせ、追加データや共同再学習なしに複数のタスク固有モデルを単一の高性能モデルへ効率的に統合するプラグアンドプレイ型の二階層最適化フレームワークであるベイズモデルマージ（BMM）を導入する。

原著者： Kaiyang Li, Shaobo Han, Qing Su, Shihao Ji

公開日 2026-05-14

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Kaiyang Li, Shaobo Han, Qing Su, Shihao Ji

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

8 人の異なる専門家チームがいると想像してください。一人は車の識別の達人、もう一人は花の発見の達人、さらに一人は交通標識の読み取りの達人、といった具合です。それぞれの専門家は、たった一つの任務に特化して何年も訓練を積んできました。

さて、車、花、交通標識のすべてについて一度に精通する単一の「スーパー・エキスパート」を構築したいと想像してください。

問題点:
通常、このスーパー・エキスパートを作成するには、すべてのタスクの元の訓練データをすべて収集し、システム全体を最初から再訓練する必要があります。しかし、もしそのデータがない場合はどうでしょうか？データが非公開だったり、失われたり、保存するのに高価すぎたりするかもしれません。

既存の方法は、これらの専門家の「脳」を単に「平均化」しようとするものです。8 種類の異なるスープのレシピをすべて一つの鍋に混ぜるようなものだと考えてください。時にはうまくいくこともありますが、しばしば味が衝突したり、どのオリジナルのレシピよりも劣る、味気ない平均的なスープができあがったりします。

解決策：ベイズモデルマージング（BMM）
この論文は、**ベイズモデルマージング（BMM）**と呼ばれる新しい手法を紹介しています。専門家を盲目的に混ぜ合わせるのではなく、BMM はそれらを組み合わせるための賢明な 2 段階のプロセスを使用します。

ステップ 1：「アンカー」と「補正」（内部ループ）

非常に信頼性が高く、わずかに時代遅れな「基本マップ」（これがアンカーモデルです）を持っていると想像してください。また、8 人の専門家から、それぞれ異なる地域を示す新しい具体的なマップも手元にあります。

古い方法は、ゼロから新しいマップを描こうとしました。BMM は、「基本マップから始めて、専門家からの『違い』（補正）のみを追加しよう」と言います。

しかし、すべての補正を単に追加すれば、ノイズに飲み込まれて迷子になる可能性があります。そこで、BMM はこれを数学的なパズルとして扱います。「すべての専門家のデータに適合し、過学習を招かない最も可能性の高い補正とは何か？」と問うのです。

魔法のトリック: この論文は、専門家が見た「データ」と彼らが学習した「重み」の間に隠されたリンクを発見しました。このリンクのおかげで、BMM はこの数学的なパズルを単純な数式（「閉形式解」）ですぐに解くことができます。推測と確認を繰り返す必要はなく、即座に完璧なブレンドを計算します。

ステップ 2：「チューニングノブ」の探索（外部ループ）

ここで重要な点があります。脳の異なる部分（または AI の異なる層）は、異なる量の「補正」を必要とします。ある層は大きなプッシュを必要とし、他の層はかすかなささやきしか必要としないかもしれません。

古い方法は、脳全体に対して同じ「音量ノブ」を使用していました。BMM はそれが非効率であると認識しています。BMM は、ネットワークのすべての部分に対して完璧な音量設定を見つけるための賢い探索ツールであるベイズ最適化を使用します。

アナロジー: 100 個の異なるノブを持つ巨大なサウンドシステムをチューニングすると想像してください。それらをすべてランダムに回したり、すべてを同じ音量に設定したりするのではなく、BMM は出力を聞き、各特定のノブをどのくらい回せば最高の音になるかを素早く見分ける、賢いオーディオエンジニアのようです。

「データ不要」のスーパーパワー

通常、これらのノブをチューニングするには、新しいスーパー・エキスパートがどの程度うまく機能しているかを確認するための、テストデータの小さなサンプルが必要です。

しかし、この論文は驚くべきトリックを明かします：実際には、そのテストデータは必要ありません。

前述の数学的なリンクのおかげで、BMM は専門家の最終的な「重み」（脳内の数値）を見るだけで、専門家がどのように機能するかを推定できます。まるで、料理を味わうことなく、包丁と食材を見るだけでシェフの腕前を判断できるようなものです。これにより、BMM はテストに使える追加データが全くない場合でも機能します。

結果
著者らは、この手法を画像認識タスク（写真内の物体の識別など）と言語タスク（質問への回答など）でテストしました。

結果: ほぼすべてのテストにおいて、BMM は従来の手法よりもはるかに優れたスーパー・エキスパートを作成しました。
ハイライト: 8 つの異なる画像認識タスクを含む困難なテストにおいて、彼らの単一のマージモデルは**95.1%のスコアを獲得しました。8 人の個々の専門家の平均スコアは95.8%**でした。これは、8 人の専門家を再訓練したり元のデータを見たりすることなく、8 人の専門家を一人にまとめ、それらすべてを合わせたのとほぼ同等の能力を持つ人物を作り出したことを意味します。

まとめ:
BMM は、複数の特化された AI モデルを取り込んで一つにマージするプラグ-and-play ツールです。それは、それらを効率的にブレンドするための賢い数学的数式と、ミックスを完璧にチューニングするための賢い探索アルゴリズムを使用します。何より素晴らしいのは、それを助けるための追加データが全くなくても実行できることで、現実世界で AI モデルを組み合わせるための強力なツールとなっています。

技術概要：ベイズモデルマージ（BMM）

問題定義

モデルマージは、複数のタスク固有の専門モデルを、共同再学習や元のトレーニングデータへのアクセスなしに単一のアーキテクチャに結合することを目的としている。このパラダイムは、個別の専門モデルを維持するためのストレージおよびデプロイメントのオーバーヘッド、およびデータサイロやプライバシー制約下でのマルチタスク学習の莫大なコストという課題に対処する。

既存のマージ手法は、主に以下の 2 つの限界に直面している：

帰納的バイアスの未活用：ほとんどの手法は、ゼロからマージされた重みを推定しており、強力な「アンカー」モデル（既存のマージソリューションである Task Arithmetic や TSV など）に埋め込まれた貴重な事前知識を活用できていない。
大域的最適化の欠如：高度な手法は、しばしばモジュール単位で孤立して動作するか、異質なネットワークモジュール間で共有されるハイパーパラメータに依存しており、エンドツーエンドのパフォーマンスを最大化するための正則化強度を大域的に調整する戦略が欠けている。

さらに、多くの手法は補助的な較正データ（データ支援型）を必要とするが、プライバシーやストレージの制約によりこれが利用できないことが多く、データフリー手法は活性化統計を効果的に近似するための理論的根拠を欠くことが多い。

手法

本論文は、プラグアンドプレイ型の二階層最適化フレームワークである**ベイズモデルマージ（BMM）**を導入する。

1. 活性化ベースのベイズ回帰（内側ループ）

BMM は、モジュール単位のマージをベイズ線形回帰問題として定式化する。

事前分布の誘導：ゼロから重みを推定するのではなく、BMM は強力なアンカーモデル（TA、TIES、TSV など）を使用して事前分布を定義する。マージされたタスクベクトル $U$ は、要素ごとの独立なガウス事前分布を介して、アンカータスクベクトル $U^{(0)}$ によって正則化される。
尤度：データ支援型の設定において、尤度は、小さな較正セットから収集された経験的活性化統計量（ $X$ ）と残差出力（ $Y$ ）から導出される。
閉形式解：マージされたタスクベクトルの最大事後確率（MAP）推定量は、解析的に導出される：
$U_{MAP} = (YX^\top + \lambda U^{(0)})(XX^\top + \lambda I)^{-1}$
ここで、 $\lambda$ は経験的適合とアンカー事前分布のバランスを取る正則化重みである。これにより、モジュール単位のマージに対する効率的な閉形式解が得られる。

2. 大域的調整のためのベイズ最適化（外側ループ）

ネットワークモジュールの異質性に対処するため、BMM は単一の共有ハイパーパラメータを使用しない。代わりに、**ベイズ最適化（BO）**を用いて、モジュール固有の正則化強度（ $\lambda$ ）を大域的に探索する。

目的：外側ループは、ハイパーパラメータ $\lambda$ に対する予測証拠（検証セットのパフォーマンスで近似）を最大化する。
効率性：ガウス過程（GP）の代理モデルが探索を導き、探索と利用のバランスを取る。大規模モデル（例：ViT-L/14）における計算複雑性を管理するため、著者はブロック単位のパラメータ結合戦略を提案し、機能別（例：attention-in、MLP-out）にモジュールをグループ化して探索空間の次元を削減する。

3. 理論的整合性によるデータフリー変種

補助的な較正データなしでのマージを可能にするため、著者は活性化統計量とタスクベクトルの間の理論的整合性に基づき、データフリー変種を導出した。

定理 1：微調整の最終段階（ニューラルクラスタと表現幾何学）に関する穏やかな仮定の下で、入力活性化のグラム行列（ $E[xx^\top]$ ）は、タスクベクトルのグラム行列（ $U^\top U$ ）と正の相関を持つ。
近似：この整合性により、経験的活性化統計量を、専門家の重みからのみ導出された代理変数に置き換えることが可能となる： $XX^\top \approx c \sum (U^{(t)})^\top U^{(t)}$ 。
結果：これにより、較正データを必要とせず、専門家のタスクベクトルとアンカーのみを必要とする、閉形式解を保持するデータフリー MAP 推定量が得られる。

主要な貢献

二階層最適化フレームワーク：BMM は、アンカー事前分布を活用する閉形式の内側ループ MAP 推定量と、大域的ハイパーパラメータ調整のための外側ループベイズ最適化を組み合わせる。
理論的データフリー導出：本論文は、活性化統計量とタスクベクトルの間の理論的リンク（定理 1）を確立し、閉形式解を保持するデータフリーなベイズマージ変種を可能にする。
プラグアンドプレイの柔軟性：このフレームワークはモジュール化されており、既存のマージソリューションを任意のアンカー事前分布として使用でき、データ支援型およびデータフリー型の両方の設定をサポートする。

実験結果

著者は、ビジョン（ViT-B/32、ViT-L/14）および言語（Llama-3.2-3B、Llama-3.1-8B）のベンチマークにおいて、8、14、20 タスクのマージシナリオで BMM を評価した。

性能向上：BMM は、データ支援型およびデータフリー型の両方の設定において、すべてのプラグアンドプレイアンカーベースライン（TA、TIES、RegMean、TSV、WUDI-Merging、ISO-CTS）を一貫して上回った。
- ViT-L/14 8 タスクベンチマークにおいて、単一の BMM マージモデルは、データ支援型で95.1%、データフリー型で**95.0%**の精度を達成し、8 つの個別のタスク固有専門モデルの平均性能（95.8%）にほぼ匹敵した。
- 弱いアンカー（TA、TIES など）に対する相対的改善は、最大で**27%**に達した。
スケーラビリティ：BMM は、マージされるタスクの数が増加する（最大 20 タスク）につれて有効性を維持し、タスク間の干渉を効果的に軽減した。
効率性：BO 探索にもかかわらず、BMM は計算競争力を維持した。例えば、ViT-B/32 において、BMM は 20 回の BO 試行のみで、網羅的なグリッド検索（225 設定）を必要とするベースラインを上回り、壁掛け時間を大幅に削減した。
アブレーション研究：
- 大域的調整：BO を共有- $\lambda$ またはランダム探索に置き換えると性能が低下し、モジュール固有の大域的最適化の必要性が確認された。
- データフリーの有効性：データフリー変種はデータ支援型変種と同等の性能を発揮し、活性化統計量とタスクベクトル間の理論的整合性を検証した。
- 不確実性の較正：BMM のサンプリングベース変種（完全なガウス事後分布を使用）は、精度を犠牲にすることなく、点推定と比較して期待較正誤差（ECE）の改善を示した。

意義と主張

本論文は、補助的な較正データが限られている、または利用できない場合、BMM がモデルマージへの実用的かつスケーラブルな道筋を提供すると主張している。情報豊富なアンカー事前分布と大域的ハイパーパラメータ調整を組み合わせることで、BMM は個別のタスク固有専門モデルの性能と統合されたマルチタスクモデルの性能の間のギャップを埋める。

著者は、そのアプローチが共同再学習や元のトレーニングデータへのアクセスを必要としないことを強調しており、データサイロやプライバシー制約のある環境に適している。データフリー変種の導出は、主要な理論的貢献として強調されており、タスクベクトルの幾何学的構造が経験的活性化統計量を効果的に代替し得ることを示している。結果は、マージをゼロショットな組み合わせとして扱うのではなく、既存のマージソリューションを事前分布として活用することが、最先端の性能を達成するための決定的な要因であることを示唆している。