技術要約：Stable Velocity: Flow Matchingにおける分散の観点

1. 問題提起

Flow Matching (FM) および Conditional Flow Matching (CFM) は、前向きのSDEやPF-ODEを明示的にシミュレーションすることなく、確率流を学習することで生成モデリングの優雅なフレームワークを提供しますが、根本的な限界に直面しています。それは、学習ターゲットの高分散です。CFMにおいて、学習目的関数は、真の周辺速度場 $v_t(x_t)$ を近似するために、単一サンプルによるモンテカルロ推定を用いて、条件付き速度 $v_t(x_t | x_0)$ に依存しています。

著者らは、この単一サンプル推定値が、特にタイムステップにおいて周辺分布が事前分布に近い場合（高分散レジーム）、顕著な分散を示すことを特定しました。この高分散は以下の問題を引き起こします：

1. 最適化の不安定性: ノイズの多い勾配が収束を遅らせる。
2. 推論の非効率性: 特定のレジームにおいてフローの決定論的な性質を活用できず、不必要に小さな積分ステップを必要とする。
3. 補助的監督の非効果性: 既存の表現アライメント手法（REPAなど）は、監督を一様に適用しており、高分散（ノイズが多い）レジームでは意味的なアライメントが不良設定（ill-posed）であること、一方で低分散レジームでは非常に効果的であることを認識できていない。

2. 手法

本論文は、条件付き速度ターゲットの分散を明示的に特徴付け、それに応じて学習およびサンプリング戦略を適応させることで、これらの問題に対処する Stable Velocity フレームワークを提案しています。

2.1 分散解析

著者らは、異なるデータ分布（GMM、CIFAR-10、ImageNet）にわたって、CFMターゲット $V_{CFM}(t)$ の分散を分析しています。彼らは、二つのレジーム構造を明らかにしました：

• 高分散レジーム ($t \in [\xi, 1]$): 事前分布（ノイズ）に近い領域では、事後分布 $p(x_0|x_t)$ が多峰性となるため、条件付き速度が大きく変動します。
• 低分散レジーム ($t \in [0, \xi]$): データ分布に近い領域では、事後分布が単一のリファレンスサンプルに集中するため、条件付き速度 $v_t(x_t | x_0)$ は真の周辺速度 $v_t(x_t)$ とほぼ一致します。

2.2 学習：Stable Velocity Matching (StableVM)

分散をバイアスなしに低減するために、著者らは Stable Velocity Matching (StableVM) を提案しています。

• メカニズム: 単一のリファレンスサンプル $x_0$ を使用する代わりに、StableVMは $n$ 個のリファレンスサンプル $\{x_0^i\}_{i=1}^n$ のバッチを用いた複合条件付きパスを構築します。
• ターゲット: 学習ターゲットは、リファレンスバッチにわたる条件付き速度の、自己正規化された重要度重み付き平均です：
  $$\hat{v}_{StableVM}(x_t) = \frac{\sum_{k=1}^n p_t(x_t | x_0^k) v_t(x_t | x_0^k)}{\sum_{j=1}^n p_t(x_t | x_0^j)}$$
• 特性: 理論的に 不偏（unbiased） であることが証明されており（CFMと同じグローバルな最小値を持つ）、リファレンスバッチ内のサンプル数を増やすことで、学習ターゲットの分散を $O(1/n)$ の割合で厳密に減少させます。
• クラス条件付き拡張: クラス条件付き生成におけるスパース性を扱うため、メモリバンクを使用してクラスごとに多様なリファレンスサンプルを保持し、クラスあたりのバッチ頻度が低い場合でも混合が効果的に機能するようにします。

2.3 学習：Variance-Aware Representation Alignment (VA-REPA)

二つのレジームに関する知見に基づき、補助的な意味的監督を最適化するための VA-REPA を提案しています。

• 知見: 表現アライメント（例：潜在特徴量と学習済みエンコーダの整合）は、意味情報が保持されている低分散レジームにおいてのみ情報的です。高分散レジームでは、信号はノイズが多く、不良設定です。
• 戦略: 重み関数 $w(t)$ をアライメント損失に適用し、監督を低分散レジーム ($t < \xi$) に限定します。これにより、ノイズが多く情報を持たない信号からモデルが学習することを防ぎます。

2.4 推論：Stable Velocity Sampling (StableVS)

著者らは、ファインチューニングなしでサンプリングを加速するために、低分散レジームを活用しています。

• 知見: 低分散レジームにおいて、フローのダイナミクスは実質的に決定論的であり、軌跡は一定の速度を持つ直線に近似されます。
• メカニズム: StableVS は、このレジームにおける逆SDEおよびPF-ODEの閉形式の簡略化を導出します。線形補間（linear interpolants）の場合、更新ルールは以下のように簡略化されます：
  $$x_\tau = x_t + (\tau - t)v_t(x_t)$$
• 実装: サンプラーは、高分散レジームでは標準的なソルバー（Euler、DPM-Solver++など）を使用しますが、低分散レジームでは閉形式の StableVS 更新に切り替えます。これにより、品質を損なうことなく、大きな積分ステップ（総ステップ数の削減）が可能になります。

3. 主な貢献

1. 分散理論的視点: 本論文は、生成軌跡における次元依存の二つのレジーム構造（高分散 vs 低分散）を明らかにし、それが学習ダイナミクスと推論挙動の両方を支配していることを示す、原理的な分析を提供します。
2. StableVM: 複数のリファレンスサンプルを集約することで最適化を安定させ、標準的なCFMや既存の分散低減手法（STFなど）よりも収束速度とサンプル品質において優れた、不偏かつ分散低減された学習目的関数を提供します。
3. VA-REPA: 補助的な意味的監督を低分散レジームに選択的に適用することで、学習効率と安定性を向上させる、レジームを考慮したアライメント適応手法です。
4. StableVS: 低分散レジームの決定論的な性質を利用して、ファインチューニングなしで最新モデルに対して2倍以上のサンプリング加速を実現する戦略です。

4. 実験結果

本フレームワークは、ImageNet 256×256、および様々な大規模テキスト・トゥ・イメージ（T2I）およびテキスト・トゥ・ビデオ（T2V）モデル（SD3.5, Flux, Qwen-Image, Wan2.2）で検証されました。

• 学習効率:
  • StableVM + VA-REPA は、モデルスケール（SiT-BからSiT-XLまで）および学習期間に関わらず、バニラなREPAや他のベースライン（REG, iREPA）を一貫して上回りました。
  • ImageNetにおいて、本手法は、エンドツーエンドのファインチューニングを必要とするベースライン（例：REPA-E）と比較して、大幅に少ない学習エポック数で競争力のあるFIDおよびISスコアを達成しました。
  • アブレーション研究により、アライメントを低分散レジームに制限することが、一様な適用よりも優れたFIDをもたらすことが確認されました。
• サンプリング速度:
  • StableVS は、SD3.5、Flux、Wan2.2において、2倍以上の推論加速（例：30ステップのベースラインを約17〜20ステップで実現）を達成しました。
  • 極めて重要なことに、この加速はサンプル品質を低下させませんでした。参照指標（PSNR, SSIM, LPIPS）および生成指標（GenEval, T2V-CompBench）は、ステップ数を減らした標準的なソルバーと同等か、それ以上の結果を示しました。
  • 定性的な結果では、StableVSの出力は30ステップのベースラインと視覚的に区別がつかず、一方でナイーブなステップ削減は顕著なアーティファクトを引き起こしました。

5. 重要性と主張

本論文は、生成軌跡の分散構造を明示的にモデル化することが、より効率的な生成モデルを設計するための原理的な基礎を提供すると主張しています。

• 統一されたフレームワーク: 学習における分散低減と、サンプリングにおけるレジームを考慮した加速を、単一の理論的視点の下に統合しています。
• 実用的な影響: 本手法はモジュール式であり、既存のアーキテクチャ（SiT, DiTなど）やソルバーと互換性があり、アーキテクチャの変更や高価なファインチューニングを必要とせずに、学習の安定性と推論速度の即時的な向上を提供します。
• 理論的洞察: 本研究は、拡散/フローの軌跡を一様なプロセスとみなす見方に異を唱え、異なるレジーム（高分散 vs 低分散）には、それぞれ異なる最適化およびサンプリング戦略が必要であることを示しています。

著者らは、彼らのアプローチが、フローマッチングの目的関数に起因するリファレンスサンプルの確率性による特定の分散源に対処することで、既存の技術（次元削減や改良されたソルバーなど）を補完するものであることを強調しています。