技術的サマリー：平均に従う：参照誘導フローマッチング

問題定義

事前学習済み生成モデルの出力を制御すること（特定の属性、スタイル、または構造を強制するなど）は、依然として重大な課題です。既存のアプローチは通常、それぞれ固有の限界を持つ 3 つのカテゴリーに分類されます。

1. ファインチューニングとアダプター: 各新しいターゲットに対してモデルパラメータを変更する必要があり、計算コストが高く、動的な変化に対して柔軟性に欠けます。
2. ガイダンス手法: 生成器を凍結したままにしますが、補助的な分類器、報酬モデル、または報酬信号に依存するため、追加の計算オーバーヘッドと外部ネットワークへの依存性を生じさせます。
3. 検索ベース手法: 再学習を回避しますが、反復的なサンプリング、フィルタリング、またはプロンプトごとの最適化を通じて、高い推論コストを伴います。

これらどのアプローチも、追加の学習、補助ネットワーク、テスト時の検索を同時に回避しつつ、高品質な生成を維持するものではありません。本論文は、パラメータ更新や外部報酬信号ではなく、データ例を通じてモデルを適応させることで生成を制御する、参照誘導フローという代替的な定式化を提案します。

手法

本論文の核心的な洞察は、フローマッチング（FM）において、速度場 $u_t(x)$ は完全に条件付き終点平均 $\mu_t(x) = \mathbb{E}[x_1 | x_t = x]$ によって支配されるという点です。線形補間関数の場合、速度は以下のように与えられます。
$$u_t(x) = \frac{\mu_t(x) - x}{1 - t}$$
したがって、終点平均をシフトさせることは、フロー軌跡全体をシフトさせることになります。著者らは、この平均を画像の参照セット $R$ に条件付けることでシフトさせることができ、モデル重みを変更することなく $R$ によって誘発される分布に向けてモデルを誘導できると提案しています。

本論文はこの原理を 2 つの形態で具体化します。

1. 参照平均ガイダンス（RMG）

RMG は、凍結された事前学習済みモデルを制御するための学習不要な手法です。

• メカニズム: 参照セットの終点平均（$\hat{\mu}^\rho_t$）と事前学習済みモデルの終点平均（$\mu^\theta_t$）との差に基づき、速度場に対する閉形式の補正を計算します。
• 数式: ガイダンス付き速度は以下のように定義されます。
  $$u^\pi_t(x) \approx u^\theta_t(x) + \beta_t \frac{\hat{\mu}^\rho_t(x) - \mu^\theta_t(x)}{1 - t}$$
  ここで、$\beta_t$ はガイダンススケジュールであり、$\hat{\mu}^\rho_t(x)$ は参照セットの経験的加重平均（参照画像上のソフトマックスを通じて計算される）です。
• 特性: 勾配計算、補助ネットワーク、ベースモデル以上の追加モデル評価を必要としません。参照セットは推論時に交換可能であり、色、アイデンティティ、スタイル、または構造を変更できます。

2. 半パラメトリックガイダンス（SPG）

SPG は、参照平均ガイダンスの概念を償却する学習可能なアーキテクチャです。

• アーキテクチャ: モデル $\mu^\theta_t(x_t, R)$ は、トレーニング中に参照セット $R$ に明示的に条件付けます。クロスアテンション機構を使用して「アンカー」$\bar{x}$（閉形式の平均に相当）を計算し、学習された残差リファイナー $f^\theta$ を用いて、アンカーが誤ってコピーしてしまう可能性のあるノイズ相関（共有された背景など）を補正します。
• トレーニング: アンカーが自身の終点に注意を向けることを防ぐために、1 つ除外（leave-one-out）目的関数でモデルをトレーニングし、リファイナーがアンカーを超えた詳細を捉えるように教えるために残差損失を組み合わせます。
• 特性: SPG は、標準モデル（例：DiT-B/4）の無条件生成品質と同等の品質を維持しつつ、参照セットの交換による推論時の制御を可能にします。

主要な貢献

1. ガイダンスとしての平均シフト: 著者らは、ガイダンスをトレーニングセットの確率経路と参照セットの確率経路との間の幾何学的補間として定義します。結果として得られるガイダンス項は、2 つの分布の終点平均の差のみに依存することを証明しています。
2. 参照平均ガイダンス（RMG）: 参照バンクを使用して閉形式で速度シフトを計算する学習不要な手法です。勾配、分類器、または報酬モデルなしで、凍結されたモデル（FLUX.2-klein 上で実証）の制御を可能にします。
3. 半パラメトリックガイダンス（SPG）: 参照平均アンカーと残差補正を近似することを学習する制御可能なアーキテクチャです。参照セットを推論時に交換可能にし、共有背景などのノイズ相関を効果的に抑制しながら、無条件生成品質を維持します。

結果

本論文は、メカニズム分析と広範な実験を通じてアプローチを検証しています。

• メカニズム的検証: 2 つの月分布と MNIST において、参照セットの構成を変更することが、フロー場と最終的なアトラクタを直接シフトさせ、事後平均の因果的な役割を分離することを著者らは実証しました。
• 学習不要な制御（RMG）: 凍結された FLUX.2-klein（4B）モデルに適用した RMG は、色（ピンク/青の象）、アイデンティティ（キリン/シマウマ）、スタイル（ゴッホ/スケッチ）、構造（鍵穴形状、手のポーズ）の生成を正常に誘導しました。
  • GenEval ベンチマーク: RMG は、単一のサンプリング軌跡と補助モデルを使用せずに、構成的なテキストから画像へのタスク（位置、2 物体生成など）において、検索ベース（Best-of-4、SMC）および勾配ベース（ReNO）のベースラインを上回りました。平均スコアはベースラインの80.10に対して91.17を達成し、推論時間を大幅に短縮し、外部モデル呼び出しを不要にしました。
• 半パラメトリックガイダンス（SPG）: AFHQv2 でトレーニングされた SPG は、DiT-B/4 ベースラインの無条件品質（FID 23.26 対 23.11）と一致しました。
  • 制御: 参照セットの交換（例：猫のみ対犬のみ）は、出力分布を体系的にシフトさせます。生成されたクラスの比率は、参照セットの構成に密接に追従します。
  • アーティファクト抑制: 参照画像すべてからの白い背景など、ノイズ相関を転送する可能性がある RMG と異なり、SPG の残差リファイナーは、そのようなアーティファクトを抑制しつつ、オブジェクトレベルのガイダンスを正常に維持します。

意義と主張

本論文は、生成モデルをパラメータ更新ではなくデータを通じて適応させることができることを主張しています。制御を終点平均のシフトという問題として枠組みづけることで、著者らはファインチューニング、補助ガイダンス、または検索に対するシンプルで原理的な代替案を提供します。

• 凍結モデルに対して: RMG は、事前学習済みモデルが暗黙的に追従する参照セットを変更することで効果的に誘導可能であることを示しており、「報酬ではなく例で誘導する」というパラダイムを提供します。
• 学習可能モデルに対して: SPG は、このメカニズムが、柔軟な推論時制御を可能にしながら高品質な生成を維持する学習可能なアーキテクチャに償却可能であることを示しています。
• より広範な方向性: この研究は、制御可能な生成のための再学習や複雑な報酬設計の必要性を減らす、データ参照を通じて動的に適応する生成モデルへの道筋を示唆しています。

著者らは限界を認め、RMG は参照セットの品質を引き継ぐこと（ノイズのある参照はアーティファクトを導入する）と、大規模なセットにわたって平均を計算することがコストがかかること（ただし、部分サンプリングが対策となり得る）を指摘しています。また、誤用を防ぐための責任ある参照セットのキュレーションの必要性を強調しています。