技術的サマリー：適応的修正スケジューリングによる生成サンプリングにおける制約の強制

問題定義

生成モデルは、軌道合成、ロボット計画、構造化生成など、出力が厳密な制約を満たすことを要求される分野で、ますます応用されるようになっている。これらの設定において、サンプルは、幾何学的、物理的、またはタスク固有の構造によって定義された特定の多様体上に存在しなければならない。標準的なアプローチは、周囲空間で生成プロセスを実行し、射影演算子を通じて実現可能性を強制するものである。

現在の慣行は、通常、この射影のタイミングに関する 2 つの二元的戦略に依存している：

1. 終端修正：サンプリングロールアウトの終了時にのみ 1 回射影を適用する。
2. ステップごとの修正：各生成更新の後に射影を適用する。

本論文は、この二元的な枠組みが根本的な課題を見落としていると主張する。すなわち、生成更新は状態依存性を持つという点である。ロールアウトが制約集合から外れると、その後の更新は、制約付き軌道が決して訪れない状態から計算される。後続の射影によって終点での実現可能性を回復させることはできても、これらの多様体外の中間状態によって引き起こされた分布のシフトを元に戻すことはできない。その結果、終端で修正されたサンプルは実現可能であっても、意図されたサンプリングダイナミクスと動的に不一致となる場合が多い。核心的な問題は、単に終点の実現可能性を確保するのではなく、軌道の整合性を維持するために、ロールアウト全体にわたって限られた射影操作の予算をどのように配分するかという修正スケジューリング問題として再定義される。

手法：適応的修正スケジューリング

著者らは、制約強制を資源配分問題として扱う状態依存ポリシーである適応的修正スケジューリングを提案する。本手法は、射影演算子を通じた勾配を必要とせず、生成モデルの再トレーニングも行うことなく、オンラインで動作する。

中核メカニズム

スケジューラは、長さ $T$ のロールアウト全体にわたって、射影呼び出しの固定予算 $B$ を配分する。各ステップ $t$ において、スケジューラは以下の処理を行う：

1. 学習された生成演算子を用いて、状態更新 $\tilde{x}_{t+1} = \Phi_h(x_t)$ を提案する。
2. 提案された状態と制約集合 $\mathcal{M}$ との距離を測定する1 ステップ制約欠損 $s_t = d(\tilde{x}_{t+1}, \mathcal{M})$ を計算する。
3. 残存予算 $b$ に依存する予算認識型閾値 $\lambda_{t,b}$ に基づき、射影を行うかどうかを決定する。

更新規則は以下の通りである：
$$x_{t+1} = \begin{cases} \Pi(\tilde{x}_{t+1}) & \text{if } b > 0 \text{ and } s_t \ge \lambda_{t,b} \\ \tilde{x}_{t+1} & \text{otherwise} \end{cases}$$

閾値の構築

閾値 $\lambda_{t,b}$ は、保持された校正用ロールアウトを用いて事前に計算される。これらは、時刻 $t$ において $b$ 回の修正が残っている状況で修正を費やすことの限界価値を表す。具体的には、$\lambda_{t,b}$ は将来の欠損分布の分位点に設定され、これによりスケジューラはロールアウトの後半で発生する高欠損事象に対して予算を確保する。これにより、一定の閾値ルールに見られる「失敗モード」、すなわち中程度の初期欠損に予算を使い果たしてしまい、後で発生するより重大で大きな逸脱を修正できなくなる事態が防止される。

特殊ケース

この枠組みは、既存の戦略を極限ケースとして統合する：

• 終端修正：すべての閾値を $+\infty$ に設定することで達成される（終端まで射影を行わない）。
• ステップごとの修正：実行可能なすべての閾値を $0$ に設定することで達成される（各ステップで射影を行う）。
• 周期的修正：均等配分戦略であり、主要なベースラインとして機能する。

主要な貢献

1. タイミングを設計変数として：本論文は、遅延修正が将来の更新の分布を変化させ、終端射影のみでは解決できない終端逸脱を生み出すことを実証する。制約のタイミングは、生成サンプリングにおける第一級の設計変数として特定された。
2. 予算配分定式化：制約強制は、時間的予算配分問題として形式化される。これにより、計算予算を一致させた条件下で、終端、周期的、および適応的戦略を直接比較することが可能となる。
3. 欠損を価値代理変数として：著者らは、1 ステップ制約欠損が、下流の軌道歪みに対する効果的なオンライン代理変数として機能することを示す。高欠損ステップに修正を費やすことで、スケジューラは限られた射影資源の最適配分を近似する。
4. コスト - 精度フロンティアの改善：提案された適応的スケジューリングは、射影コストと軌道精度のトレードオフを改善する。これは、大幅に少ない射影呼び出し回数で、ステップごとの忠実度に近い回復を実現する。

実験結果

本手法は、制御された多様体ロールアウト（SO(3)、SE(3)、および地形ドメイン）と、学習された射影拡散モデル（PDM）サンプリャーにおいて評価された。

• 多様体ロールアウト：欠損が集中するドメイン（エラーが特定のバーストで発生する「インパルス」や「リッジ」バリエーションなど）において、適応的スケジューリングは周期的修正を大幅に上回った。固定予算 $B/T \approx 0.25$ において、適応的スケジューリングは SE(3)-レバードメインで、周期的修正と比較して正規化過剰経路誤差（NEPE）を 41% 削減した。
• 射影拡散モデル：既存の PDM サンプリャーに適用した際、適応的スケジューリングは、射影呼び出し回数をわずか 25%（コスト 75% 削減）で使用しながら、完全なステップごとのベネフィットの**71.2%**を回復させた。これに対し、同じ予算での周期的修正はベネフィットの 51.4% しか回復できなかった。
• 汎化性：結果は、制約違反が時間的に高度に不均質であることを示している。高欠損ステップを選択的に修正することは、特に欠損プロファイルが変動する場合、均等戦略を一貫して上回る。

意義と主張

本論文は、実現可能性の強制のみでは、意図された制約付きサンプリングダイナミクスを維持するには不十分であると主張する。主な貢献は、制約のタイミングが生成サンプリングにおける根本的な自由度であることを実証した点にある。

著者らは以下を主張する：

• 射影は単なる実現可能性操作ではなく、ダイナミクスへの介入である。これを遅延させることは、将来の更新が計算される状態を変化させる。
• 適応的スケジューリングにより、実務家は均等に、あるいは終端でのみではなく、最も重要な部分（高欠損領域）に修正の労力を費やすことができる。
• このアプローチはモデル非依存であり、射影を通じた勾配計算を必要とせず、欠損評価以外のオーバーヘッドは negligible（無視できる）である。

本研究は、将来の制約付き生成において、実現可能性操作を軌道レベルの介入として扱い、実現可能なサンプルに到達するまでの経路自体がサンプルと同様に重要であることを認識すべきであることを示唆している。