Flow Divergence Sampler (FDS) の技術的サマリー

本論文は、フローマッチング（Flow Matching）モデルにおける生成品質の低下を引き起こす「速度場の不一致」問題を解決するため、トレーニング不要（Training-Free）かつプラグアンドプレイで動作する新しいサンプリング手法「Flow Divergence Sampler (FDS)」を提案しています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細をまとめます。

1. 問題定義：フローマッチングにおける速度場の不一致

フローマッチングは、単純な事前分布（ノイズ）から目標データ分布へ連続的な確率経路を定義し、その経路に沿う速度場（Velocity Field）を学習することで生成を行います。しかし、既存の手法には以下の根本的な限界があります。

• サンプルごとの速度の衝突（Conflicting Velocities）: 異なるサンプルペア（ソースとターゲット）が、中間状態（Intermediate State）で同じ位置に到達することがあります。このとき、各サンプルペアが持つ「サンプルごとの速度（Sample-wise velocity）」は、異なるターゲットモードを指し示すため、互いに矛盾する方向を向くことがあります。
• 平均化による誤導: フローマッチングのモデルは、これらの矛盾する速度の**平均（Marginal Velocity）**を学習します。速度が衝突する領域では、この平均速度はどの有効なモードにも向かわず、密度の低い領域（Low-density region）を指し示すことになります。
• 生成品質の低下: 生成経路がこのような「速度の不一致（Discrepancy）」が大きい領域を通過すると、画像がぼやけたり、品質が劣化したりする原因となります。

既存の解決策（HRF や VRFM など）は、この多峰性の速度分布を明示的にモデル化するためにトレーニングの再設計や大規模なアーキテクチャ変更を必要とし、既存の高性能な事前学習済みモデルを直接利用できません。

2. 手法：Flow Divergence Sampler (FDS)

FDS は、モデル自体を再トレーニングすることなく、**推論時（Inference-time）**に中間状態を修正することで、この問題を解決します。

2.1 理論的基盤：発散（Divergence）と不一致の等価性

著者たちは、以下の重要な理論的発見（定理 1）を導き出しました。

• 定理: 最適なフローマッチングの残差（Marginal Velocity と Sample-wise Velocity の二乗誤差の期待値）は、**速度場の発散（Divergence）**を用いて閉形式で表現できます。
  $$\mathcal{L}^*_{CFM}(x_t, t) \propto \beta_t \nabla_{x_t} \cdot u_t(x_t) - \dot{\beta}_t d$$
• 意味: 速度場の発散（$\nabla \cdot u$）が大きい領域は、サンプルごとの速度が衝突しており、推論時に誤った方向へ誘導されるリスクが高いことを意味します。逆に、発散が小さい領域は、速度が整合しており、信頼性が高いことを示します。
• 代理指標: 真の速度場は未知ですが、事前学習済みモデル $u_\theta$ の発散を計算することで、データに依存しない「不一致の代理指標（Surrogate）」として利用できます。

2.2 サンプリング戦略

FDS は、ソルバのステップを取る前に、現在の中間状態 $x_t$ を、発散がより小さい近傍の状態 $\tilde{x}_t$ に微調整します。

1. 候補生成: 現在の状態 $x_t$ に、スケール $\sigma_t$ で制御されたランダムな摂動（ノイズ）を加え、$M$ 個の候補状態を生成します。
2. 発散評価: 各候補に対して、事前学習済みモデルを用いて発散 $\nabla \cdot u_\theta(x, t)$ を計算します（Hutchinson 推定器を使用）。
3. 選択と更新: 発散が最小となる候補を選択し、それを新しい状態 $\tilde{x}_t$ として採用します。
4. ソルバ実行: 修正された状態 $\tilde{x}_t$ から、通常のソルバ（Euler や Heun など）を用いて次のステップへ進みます。

このプロセスは、ソルバのステップ数（NFE）を増やすことなく、空間的な補正を行うため、計算コストを最小限に抑えつつ品質を向上させます。

3. 主要な貢献

1. 理論的発見: 推論時に観測不可能な「サンプルごとの速度と平均速度の不一致」が、速度場の発散によって定量的に評価可能であることを証明しました。
2. トレーニング不要のフレームワーク: モデルの再学習やアーキテクチャ変更を必要とせず、既存のあらゆるフローベースモデル（EDM, JiT, SD3 など）とソルバにプラグアンドプレイで適用可能な FDS を提案しました。
3. 広範な性能向上: 画像生成（CIFAR-10, ImageNet）、テキストから画像への生成（SD3）、および逆問題（デブラリング、超解像）など、多様なタスクと設定において、計算リソースを同等にした場合でも、従来のソルバステップの増加を上回る生成品質の改善を実証しました。

4. 実験結果

• 合成データ: 2 次元のチェッカーボード分布において、FDS を使用することで、標準的なフローマッチングに比べて Wasserstein 距離が減少し、ターゲット分布への収束が改善されることが確認されました。また、発散マップが真の不一致マップと高い相関を持つことも示されました。
• ImageNet 256x256:
  • FID の改善: 計算量（Wall-clock time）を一致させた比較（NFE を増やしたベースライン）において、FDS を適用したモデルは、Heun ソルバなどの高度なソルバ単体よりも低い FID（高品質）を達成しました。
  • 詳細の再現: 単にステップ数を増やすだけでは得られない微細な詳細（例：ハンバーガーのゴマなど）が FDS によって鮮明に生成されました。
• テキストから画像への生成 (SD3): DrawBench データセットにおいて、FDS を適用することで、人間の好み（ImageReward, HPSv2）や美的評価、テキストとの整合性（CLIP Score）が向上しました。
• 逆問題: 画像のデブラリングや超解像タスクにおいても、ベースライン（TFG）と比較して、FID や LPIPS が改善され、より詳細でリアルな画像が生成されました。
• トレーニングベース手法との比較: 再トレーニングを必要とする競合手法（HRF など）と比較しても、FDS を適用した既存モデルの方が生成品質（FID）が優れており、かつパラメータ数も同等であることを示しました。

5. 意義と結論

本論文の FDS は、フローマッチングの生成プロセスにおける「時間的な積分誤差」の低減に焦点を当てた従来のソルバ改善アプローチとは異なり、**「空間的な経路の修正」**という新しい視点を提供しています。

• 実用性: 既存の強力な事前学習済みモデルをそのまま利用でき、追加のトレーニングコストなしに生成品質を向上させられるため、産業応用において極めて高い実用性があります。
• 計算効率: 発散の計算は高次元でも効率的に行うことができ、わずかな候補数（$M=1$）と反復回数（$N=1$）で十分な効果が得られることが示されました。
• 将来展望: 推論時における経路の空間的調整という概念は、拡散モデルやフローモデルの信頼性向上に向けた新たな研究の基盤となると期待されます。

要約すると、FDS は「速度場の発散」という物理的な指標を用いて、生成経路が不安定な領域を回避し、高品質な生成を実現する、軽量かつ強力な推論時フレームワークです。