技術的概要：任意の補助経路を伴うフローマッチング（AuxPath-FM）

問題定義

スコアベース拡散モデルやフローマッチング（FM）フレームワークを含む連続時間生成モデルは、複雑なデータ分布をモデル化する強力なツールとして確立されている。条件付き生成モデルにおいて、制御可能な合成を実現するためには、クラスラベルなどのサイド情報を組み込むことが不可欠である。しかし、既存のアプローチでは、通常、そのような情報をニューラルネットワークの条件付けを通じてのみ導入し、根本的な確率経路は変更されない。近年の理論的研究は、フローマッチングが内在的な多様体構造に適応することを示唆しているが、経路の確率的成分が軌道レベルの制御に与える影響は未だ十分に探求されていない。

さらに、確率的補間やシュレーディンガー橋渡し法などの従来の経路ベース定式化は、一般的に確率的補間にガウスノイズまたはブラウン運動に依存している。この制限は、構造化されたガイダンスのための確率経路を設計する柔軟性を制限する。最近の研究では非ガウス摂動や離散状態空間フローが探求されているが、これらの手法はしばしば特定のデータタイプに特化しており、単一の一般的なフレームワークの下で連続的および離散的な事前分布を統合することに失敗している。ネットワークレベルの変調に依存するのではなく、生成軌道を多様な補助信号によって直接的に形成することを可能にする、原理的な手法が必要とされている。

手法：AuxPath-FM

著者らは、任意の分布から抽出された補助確率変数 $\eta$ を確率経路に直接組み込むことで、条件付きフローマッチングを一般化する**任意の補助経路を伴うフローマッチング（AuxPath-FM）**というフレームワークを導入する。

1. 任意の補助確率経路

補助項をガウスノイズに制限する標準的な補間方式とは異なり、AuxPath-FM は以下の形式の軌道を構築する：
$$X_t = a(t)X_1 + b(t)X_0 + c(t)\eta$$
ここで：

• $X_0 \sim p_0$（基底分布）および $X_1 \sim p_1$（ターゲットデータ分布）。
• $\eta \sim p_\eta$ は、任意の分布（例：ガウス分布、一様分布、ラプラス分布、ラデマッハ分布、または離散分布）から抽出された補助変数である。
• $a(t), b(t), c(t)$ は、経路が $p_0$ から $p_1$ へサンプルを輸送することを保証する境界条件（$a(0)=0, b(0)=1, c(0)=0$ および $a(1)=1, b(1)=0, c(1)=0$）を満たす時間依存のスカラー関数である。

2. 理論的一貫性

本論文は、この構成が連続の方程式を保存することを立証する。定理 1は、条件付きベクトル場 $u_t(x | x_0, \eta)$ が連続の方程式を満たす場合、条件付き場を集約して得られる周辺ベクトル場 $u_t(x)$ が、周辺確率経路 $p_t(x)$ を生成することを示している。これは、補助変数を通じて複雑な経路を設計するための原理的な正当性を提供する。

3. 訓練目的と同等性

$(X_0, \eta)$ に関する積分のため、周辺フローマッチング目的を直接最適化することは非現実的である。代わりに、著者らは扱いやすい経路上で定義された条件付き目的を最適化する：
$$L_{\text{AuxPath}} = \mathbb{E}_{t, X_0, X_1, \eta} \left[ \| v_\theta(X_t, t) - \dot{X}_t \|^2 \right]$$
ここで $\dot{X}_t = \dot{a}(t)X_1 + \dot{b}(t)X_0 + \dot{c}(t)\eta$ である。定理 2は、この条件付き目的が、ネットワークパラメータ $\theta$ に依存しない定数まで、周辺フローマッチング目的と同等であることを証明する。したがって、条件付き損失を最適化することは、扱いにくい周辺目的と同じ最適解をもたらす。

4. 意味的補助変数とガイダンス

条件付き生成を可能にするため、本フレームワークは $\eta = F_\phi(Y)$ と定義する。ここで $Y$ はクラスラベルであり、$F_\phi$ はプロトタイプ学習を通じてクラスごとの重心を近似するように訓練された軽量ニューラルネットワークである（$F_\phi(Y) \approx \mathbb{E}[X_1 | Y]$）。

この定式化により、軌道レベルのクラスフリーガイダンス（CFG）が可能となる。条件付きおよび無条件の速度場は以下のように表される：
$$v(x, t, y) = v_\theta(x, t) + \dot{c}(t)F_\phi(y)$$
$$v(x, t, \emptyset) = v_\theta(x, t) + \dot{c}(t)F_\phi(\emptyset)$$
標準的な CFG を適用すると、グローバルなドリフトとして機能するガイダンス項が得られる。重要なのは、このアプローチがガイダンスをバックボーンモデルから分離することである。従来の CFG がバックボーン $v_\theta$ の 2 回の評価を必要とするのに対し、AuxPath-FM は $v_\theta$ の1 回の評価のみを必要とし、軽量モジュール $F_\phi$ を通じてガイダンスを適用する。

主な貢献

1. 確率経路の一般化：本論文は、確率経路の補助成分が任意の分布に従うことを可能にすることでフローマッチングを一般化し、確率的補間やシュレーディンガー橋渡し法に見られるガウスノイズへの制限を超えている。
2. 理論的基盤：周辺フローが連続の方程式と整合し、条件付き訓練目的が周辺目的と同等であることを示す厳密な理論的証明を提供する。
3. 軌道レベルの制御：このフレームワークは、ネットワーク条件付けにのみ依存するのではなく、構造化された意味情報（例：クラスラベル）を生成軌道そのものに直接エンコードすることを可能にする。
4. 効率的なクラスフリーガイダンス：著者らは、バックボーンネットワークの二重評価を回避することで推論計算コストを約半分にする、軌道レベルの CFG 定式化を提案する。
5. 統合的な視点：この手法は、離散的および重尾事前分布を含む様々な補間方式を単一のフレームワークの下で統合し、構造化された連続時間生成モデルに対する柔軟な視点を提供する。

実験結果

著者らは、MNIST、CIFAR-10、ImageNet-1k データセット上で AuxPath-FM を評価した。

• 条件付き生成性能：MNIST および CIFAR-10 において、標準的な条件付きフローマッチング（CFM）に学習された意味プロトタイプを用いた補助経路ガイダンスを組み合わせることで、ベースラインの CFM や補助ガイダンス単独と比較して、意味的精度（分類精度）と生成品質（FID、sFID）が一貫して向上した。
• 分布選択への頑健性：Ring-64 データセットおよび ImageNet-1k における実験は、このフレームワークが多様な補助分布（ガウス、一様、ラプラス、ラデマッハ）にわたって安定した生成性能を維持することを示した。ラベル誘導型の補助変数が最良の性能を示し、制御可能なマルチモーダル生成の向上を示唆している。
• ガイダンススケールの効果：軌道レベルの CFG におけるガイダンススケール $w$ を増加させることで、競合する生成品質を維持しつつ意味的整合性が向上した。
• 効率性：軌道レベルの CFG 定式化は、ガイダンスの有効性を維持しながら、標準的な CFG と比較して推論コスト（GFLOPs で測定）を約 50% 削減することに成功した。
• モデル適応：このフレームワークは、追加コストを最小限に抑え、アーキテクチャの変更なしに、事前学習された無条件フローモデルを条件付き生成器に変換することに成功した。

意義と主張

本論文は、AuxPath-FM が確率経路設計のための原理的かつ一般的な基盤を提供すると主張している。補助変数が任意の分布に従うことを可能にすることで、このフレームワークは理論的な一般性と実用的な柔軟性の両方を提供している。

著者らは、自らの手法が条件付き生成のパラダイムを、純粋なネットワークレベルの変調から軌道レベルの設計へとシフトさせることを強調している。これにより、ガイダンス信号を生成ダイナミクスに直接埋め込むことが可能となる。この研究の意義は、以下の点にある：

• 既存の補間方式を特殊なケースとして統合する。
• 異なる事前分布を通じて生成フローに多様な幾何学的性質を可能にする。
• クラスフリーガイダンスのための計算効率の高いメカニズムを提供する。
• 既存の無条件モデルを条件付きモデルへアップグレードするための、シンプルかつ効果的な手法を提供する。

本論文は、このアプローチが構造化された連続時間生成モデルに対する統合的な視点を提供し、広範な実験によって検証されたことを結論付けている。すなわち、意味的補助 CFG は、優れた生成品質を維持しながら計算効率を大幅に向上させることが示されている。