技術要約：Trajectory Forcing (TF)

1. 問題提起

現在の拡散モデルおよびフローベースの生成モデルは、高品質な画像の生成には優れているが、「エンドポイント中心（終点重視）」のシステムとして動作している。ユーザーは条件（クラスラベルなど）を指定して最終的な出力を得るが、その中間的な生成ダイナミクスは隠蔽されており、構造化されておらず、計算的に不透明である。近年の手法では、生成順序を利用してサンプル品質を向上させているものの、中間状態を単なる内部的な計算上の副産物（周波数成分やトークンの補完など）として扱っており、人間による検査や介入が可能な「意味のあるオブジェクト」としては扱っていない。

これは、グローバルな構成を確立してから局所的な詳細を精緻化するという、粗から密へと進む人間の視覚的創作プロセスとは対照的である。後者では、各中間段階が検査可能であり、かつ修正可能である。本論文は、生成の軌跡（トラジェクタリ）自体を、解釈可能で、意味的に構造化され、編集可能なものにできると主張し、焦点の対象を最終画像から「生成の経路」へと転換する。

2. 手法：Trajectory Forcing (TF)

Trajectory Forcingは、画像の合成を、グローバルなレイアウトからオブジェクト、パーツ、そしてディテールレベルの表現へと進展する、意味的に構造化された一連のステージとして整理する、軌跡中心のフレームワークである。

2.1 表現空間と階層構造の構築

幾何学的な構造が意味的な構造と一致しない可能性がある生のピクセル空間や標準的な潜在空間（VQ-VAEなど）ではなく、TFは学習済みビジュアルエンコーダであるDINOv2の特微量空間において動作する。

• 教師による階層化（Teacher Hierarchy）: 本フレームワークは、教師なし学習の手法を用いてDINOv2の潜在トークンをクラスタリングすることで、粗から密への階層を導出する。
  • オブジェクト／背景: 中心事前分布に基づくK-means（$K=2$）により、画像をオブジェクトと背景に分離する。
  • パーツおよびサブパーツ: 意味的・空間的な距離を組み合わせた指標（$\mathcal{D} = \cos \langle \mathbf{z}_i, \mathbf{z}_j \rangle + \alpha \|\mathbf{p}_i - \mathbf{p}_j\|_2$）を用いた凝集型クラスタリングにより、オブジェクトをパーツおよびサブパーツへと分解する。
• レベル・キャンバス（Level Canvases）: これらのクラスターは「レベル・キャンバス」（$z^{(l)}$）を定義する。粗いレベル（$l=0$）は領域の区分的に一定な平均特徴量を表し、細かいレベル（$l=L-1$）はフル解像度の潜在特徴量を表す。

2.2 階層条件付きワンステップ・フローマッチング

多段階の拡散による高い推論コスト（$L \times T$）を回避するため、TFは階層条件付きワンステップ・フローマッチングモデルを採用している。

• アーキテクチャ: 単一の共有ネットワーク（DiT）が、すべての階層レベルにわたって訓練される。
• 条件付け: 各訓練ステップにおいて、レベル $l$ がサンプリングされる。ネットワークは以下を受け取る：
  1. ノイズが付加された現在のレベルのキャンバス $z^{(l)}(t)$。
  2. 前のレベルのキャンバス $z^{(l-1)}$（空間的条件として、チャネル結合と投影を介して融合される）。
  3. 標準的なグローバル条件（クラスラベル、時間間隔、ガイダンススケール）。
• 訓練目的関数: モデルは以下の複合損失を最小化する：
  • フロー損失（Flow Loss）: ワンステップ生成を可能にするため、MeanFlow (iMF) に基づく $v$-loss 目標関数を用いた $x$ 予測（デノイズされた潜在変数の予測）を使用する。
  • 構造損失（Structural Loss）: 予測された領域内のトークンが、その領域の正解の平均特徴量と一致することを保証するコサイン距離ペナルティを用い、構造的一貫性を強制する。

2.3 階層的サンプリングと編集

• 推論: 生成は $l=0$ から $L-1$ へと逐次的に進行する。各レベルはネットワーク関数の評価をわずか1回（1 NFE）しか必要としないため、総コストは $L$-NFE（例：$L=4$ の場合は 4 NFE）となる。すべての中間出力は、共有の表現オートエンコーダ（RAE）デコーダを介して視覚的な画像へとデコード可能である。
• インタラクティブな編集: ユーザーは任意のレベル $l^*$ においてデコードされた画像を検査し、キャンバス（特徴量の入れ替えや形状・領域の再割り当てを通じて）を修正し、それ以降のレベルを再生成することができる。プロセスのマルコフ的な性質により、レベル $l^*$ での編集はより細かいレベルへと伝播するが、より粗いレベルには影響を与えないため、修正の範囲を制御することが可能である。

3. 主な貢献

1. 軌跡中心のフレームワーク: 画像合成を、構造化され解釈可能な粗から密への軌跡としてモデル化し、あらゆる意味レベルでの検査と編集を可能にするTFを提案した。
2. 階層条件付きワンステップ・フロー: レベルごとの条件付けと構造的一貫性の監督を通じて、ワンステップ生成を多レベルの軌跡へと拡張し、$L$-NFE で競争力のある品質を実現した。
3. 軌跡を考慮したメトリクス: FIDを超えた指標として、局所不変性（Local Invariance）（編集が未編集の領域にどのように影響するか）および構造的一貫性（Structural Consistency）（親領域と子領域の間の整合性）を導入した。
4. 実証的検証: ImageNetにおいて、TFが競争力のあるサンプル品質（FID）を達成しつつ、一貫した中間状態を露呈させ、局所的な編集をサポートできることを示した。

4. 実験結果

実験は、DINOv2の特徴量とViT-XLデコーダを用い、ImageNetの $256 \times 256$ 解像度で実施された。

• サンプル品質: TFは競争力のあるFIDスコアを達成している。例えば、TF-L/16+FD-loss バリアントは、わずか80エポックの訓練と4 NFE で、数百のエポックとNFEを必要とする多段階のベースラインに匹敵する FID 2.02 および IS 259.3 を達成している。
• 効率性: NVG（約184 NFEを必要とする）のような階層的ベースラインとは異なり、TFはわずか $L=4$ NFE を必要とする。
• 軌跡メトリクス:
  • 局所不変性スコア (LIS): 粗いレベル（オブジェクト／背景）での編集は最終画像への伝播が強く、細かいレベル（サブパーツ）での編集は局所的な範囲に留まることを示している。
  • 親の誤ルーティング率 (PMR): 空間的および特徴的な両方のPMRが低く保たれており、これは子領域が親領域内に空間的に包含され、かつ意味的な一貫性を維持していることを示している。

5. 意義と主張

本論文は、焦点を最終画像から生成経路へと移すことで、TFが制御可能で、軌跡を意識した画像合成への道を開くと主張している。

• 解釈可能性: 標準的な拡散モデルでは中間状態が破棄されるのに対し、TFはすべての中間状態を視覚的にデコード可能にし、意味のあるものにしている。
• 編集可能性: ユーザーが特定の意味的な粒度（グローバルなレイアウトか局所的な詳細か）で介入し、最終出力に対して予測可能な効果をもたらすことを可能にする。
• 効率性: 高品質で構造化された生成には、各レベルでの高価な多段階反復デノイジングは必要なく、ワンステップのフローマッチングを活用できることを実証している。

著者らは、階層が中心事前分布を用いた教師なしクラスタリングに依存していること（中心にないオブジェクトに対して困難が生じる可能性がある）、および現在の結果が初期の訓練エポック（40–80）に基づいていることを認め、さらなるスケーリング分析は保留としている。しかし、生成の軌跡そのものがユーザー向けのコントロール・インターフェースとして機能するという、TFの核心的な貢献は揺るぎないものである。