技術要約：空間的に接地されたフロー・マッチング (StructFlow)

問題提起

現在の画像生成用フロー・マッチング・モデルは、通常、単純で等方的なガウス源分布（$p_0 = \mathcal{N}(0, I)$）から自然画像の複雑なデータ分布へとサンプルを輸送するように学習されます。この標準的な定式化は効果的ではあるものの、根本的なミスマッチを抱えています。すなわち、自然画像は強い空間的局所性（近接するピクセルは高度に相関しており、一貫した領域を形成する）を示すのに対し、i.i.d.（独立同一分布）ガウス事前分布は空間的な位置間の完全な独立性を仮定しているという点です。

著者らは、この不一致により、モデルが空間的局所性を帰納バイアスとして継承するのではなく、学習された速度場を通じて暗黙的に再構成することを強いていると仮定しています。これはモデルに不要な負担を課し、学習効率を阻害し、制御性を制限する可能性があります。具体的には、モデルはソース分布が画像ドメイン固有の帰納バイアスに逆らっている状況下で、局所的な構造をゼロから「学習」しなければなりません。

手法：StructFlow

これに対処するため、著者らはStructFlowを提案します。これは、標準的な等方性ガウス源を、空間的局所性を明示的に符号化した構造化されたソース分布に置き換えるフレームワークです。

コアメカニズム：階層的ノイズサンプリング

すべてのピクセルに対して独立にノイズをサンプリングする代わりに、StructFlowは、小さな空間領域（セグメント）内のピクセルが共通のノザ成分を共有する階層的ガウス事前分布を構築します。

1. セグメンテーション： 画像空間を、SLICセグメンテーション（または推論時のプロキシ）を用いて $K$ 個の領域（スーパーピクセル）に分解します。
2. 階層的サンプリング：
   • レベル1（アンカー）： 各セグメント $k$ に対して、共有されるアンカーベクトル $z_k$ をサンプリングします。
   • レベル2（ローカルノイズ）： セグメント $k$ に属する各ピクセル $(i, j)$ について、ノイズ $\epsilon_{i,j}$ はアンカーを中心とするガウス分布からサンプリングされます：$\epsilon_{i,j} \sim \mathcal{N}(z_k, \lambda_\varsigma^2 I)$。
   • 再スケーリング： 単位周辺分散を確保するために、ノイズはグローバルに再スケーリングされます。
3. 相関制御： パラメータ $\lambda_\varsigma$ は局所性の強さを制御します。$\lambda_\varsigma \to 0$ となるにつれ、同一セグメント内のピクセルは高度に相関し、$\lambda_\varsigma \to \infty$ となるにつれ、分布は標準的なi.i.d.ガウスノイズに近づきます。

学習の安定化戦略

構造化されたノイズを用いた学習は、勾配の分散が増大するため、最適化の不安定性を招きます。著者らは、学習を安定させるための3つの補完的な戦略を提案しています。

1. コサイン誘導型空間アンカリング (CISA)： アンカー $z_k$ をランダムにサンプリングする代わりに、空間格子上の決定論的な対角コサイングリッドから派生させます。これにより、確率的な変動が軽減され、一貫した空間的キューが提供されるため、速度場の学習が安定します。
2. 漸進的コヒーレンス・アニーリング： $\lambda_\varsigma$ が大きな値（i.i.d.ガウスに近い状態）から始まり、ターゲット値に向かって線形に減少するカリキュラムを用いてモデルを学習させます。これにより、モデルはまず容易な近ガウス的なソースから学習し、段階的に構造化された制約に適応することができます。極めて重要な点として、これは大きな $\lambda_\varsigma$ から開始してアニーリングダウンすることで、既存の学習済みフロー・マッチング・モデルへの**事後学習（ポストトレーニング）**を可能にします。
3. 混合コヒーレンス学習： 生成品質（高い $\lambda_\varsigma$）と局所的な編集可能性（低い $\lambda_\varsigma$）の二者択一のトレードオフを避けるため、学習の終盤において $\lambda_\varsigma$ を $[\lambda_{min} - \delta, \lambda_{min} + \delta]$ の範囲内で一様にサンプリングして学習を行います。これにより、単一のモデルが推論時に様々なコヒーレンスレベルにわたって動作できるようになります。

主な貢献

1. ソースのミスマッチの特定： 本論文は、標準的なi.i.d.ガウス源分布における空間構造の欠如が、フロー・マッチングの主要な限界であることを特定し、局所性はデータから完全に学習されるべきではなく、ソースに組み込まれるべきであると主張しています。
2. StructFlowフレームワーク： 画像の局所性という帰納バイアスを直接符号化するために、ノイズを局所領域内で相関させる、空間的に構造化されたソース分布を導入しました。
3. 安定化技術： 構造化されたノイズに伴う最適化の不安定性を解決するために、CISA、漸進的アニーリング、および混合コヒーレンス学習を開発しました。
4. 創発的能力： この単純な変更が、生成品質を損なうことなく、きめ細かな局所編集、構造保持、滑らかな意味的補間などの新しい特性を解放することを実証しました。

結果と評価

著者らは、ImageNetおよびFFHQデータセットを用い、DiTアーキテクチャを使用して、無条件、クラス条件付き、およびテキスト条件付きのレジームにわたりStructFlowを評価しています。

• 生成品質： StructFlowは、FID、sFID、Precision、Recall、およびImageRewardなどの指標において、標準的なフロー・マッチングと同等またはそれを上回る競争力のある画像生成品質を達成しています。
• きめ細かな編集： 選択されたセグメント内のみでノイズを再サンプリングし、他のセグメントを固定することで、StructFlowは精密な局所再合成を可能にします。定量的分析によれば、より低い $\lambda_\varsigma$ で学習されたモデルは、編集領域の多様性を維持しつつ、未選択の領域を著しく良好に保持（LPIPS/RMSEの「ブリード」が低い）します。
• 構造保持： 生成された画像は提供されたセグメンテーションマスクに自然に従い、ユーザーはテクスチャや詳細を変化させながら、グローバルなレイアウトをガイドすることができます。
• 初期特徴の創発： 中間表現の分析により、StructFlowモデルは標準的なモデルと比較して、デノイジングプロセスのより早い段階で空間的に一貫した特徴（例：物体の境界）を発達させることが明らかになりました。
• 事後学習への適用可能性： 本手法は、コヒーレンス・アニーリングを用いた軽量な事後学習を通じて、既存の学習済みモデル（例：SANA text-to-image）に正常に組み込むことができ、その利点が基盤モデルにも及ぶことを示しています。

意義と主張

本論文は、ソース分布のデザインが、生成モデルを向上させるための強力かつ未開拓の軸であることを主張しています。ソース分布をターゲットドメインの帰納バイアス（空間的局所性）に適合させることで、StructFlowは以下を実現します：

• 局所構造を再構成するための学習済み速度場への負担を軽減します。
• 標準的なi.i.d.事前分布では達成が困難な、制御可能性と解釈性（例：局所的な編集、構造保持）を解放します。
• これらの利点が、軽量な事後学習を通じて既存の基盤モデルに統合できることを示し、現在の大規模な生成システムにおける実用性を証明しています。

著者らは、これらの能力が、特別な編集アーキテクチャや複雑なインバージョン技術を必要とせず、構造化されたソースから自然に創発するものであることを強調しています。