技術概要：再帰的フローマッチング（RecFM）

問題提起

生成モデルは、物理システムの解決や複雑な時空間ダイナミクスのモデル化における強力なパラダイムとなり、不完全な支配方程式や疎な観測データを処理する点で、従来の数値ソルバーよりも優位性を示しています。しかし、根本的な課題が残されています：それは、莫大な計算コストを伴わずに高い物理的精度を達成することです。既存のアプローチは、速度と忠実性の間の重要なトレードオフに直面しています。

拡散ベースのモデルは効果的ですが、数十から数百の逐次的なノイズ除去ステップを必要とする本質的に反復的な推論手順に起因し、大きな計算オーバーヘッドを伴います。一方、連続正規化フロー（CNF）やフローマッチング（FM）は、訓練中にシミュレーションを行わず連続ベクトル場を学習することで、より効率的な代替手段を提供します。しかし、決定的な限界が存在します：これらのモデルにおける推論ステップ数の削減は、特に長期的なダイナミックなロールアウトにおいて、精度の低下や不安定性を招く傾向があります。一貫性モデルや蒸留技術における過激なステップ削減は、正確な科学シミュレーションに不可欠な高周波構造を平滑化し、スペクトルの豊かさと時空間的な忠実性を損ないます。軌道の忠実性と安定性を維持しつつ、効率的な少数ステップ（通常 1〜4 ステップ）生成を可能にするフレームワークが必要です。

手法：再帰的フローマッチング（RecFM）

これらの課題に対処するため、著者は離散化スケール全体で自己整合性を強制するように設計された生成フレームワークである**再帰的フローマッチング（RecFM）**を導入します。

核心的な直感

壁に跳ね返る振り子の再帰的な運動に触発され、RecFM は異なるスケールにおける軌道が結合可能であると仮定します。標準的なフローマッチングのセットアップでは、単一の軌跡がデータ分布 $p_0$ からノイズ分布 $p_1$ へサンプルを輸送します。RecFM はこれを拡張し、推論時の通過スケールを横断する軌跡のファミリーを導入します。

定式化

データサンプル $x_0$ とノイズサンプル $x_1$ が与えられたとき、標準的な線形補間関数は $x_t = (1-t)x_0 + tx_1$ と定義され、速度は $v^* = x_1 - x_0$ です。RecFM は深度 $D$ を持つ再帰的な定式化を導入し、時間スケール対 $\{(\tau^{(i)}, \alpha^{(i)})\}_{i=1}^D$ によって $D$ 個の軌跡を定義します。

• 再スケーリングされた時間: $\tau^{(i)} = t / \alpha^{(i)}$。ここで $\alpha^{(1)} = 1$ かつ $\alpha^{(i)} = \alpha^{i-1}$ です。
• クロススケール一貫性: すべての軌跡は、対応して整列された時刻において、同じ空間点 $x_t$ を通過します。モデルは、$i$ 番目の軌跡の予測速度 $\hat{v}^{(i)}$ が、スケーリング因子を介して主要な速度 $\hat{v}^{(1)}$ と関連する一貫性関係を強制します：$\hat{v}^{(i)} = \alpha^{(i)} \hat{v}^{(1)}$。

訓練目的

速度ネットワーク $v_\theta(x, t, \alpha)$ は、時間 $t$ とスケール $\alpha$ の両方に条件付けられます。総訓練目的は、すべてのスケールにわたって監督を集約し、一貫性を強制します：
$$L_{total} = \sum_{i=1}^D L_{traj}^{(i)} + \lambda \sum_{i=2}^D L_{cons}^{(i)}$$
ここで：

• $L_{traj}^{(i)} = \|\hat{v}^{(i)} - \alpha^{(i)}v^*\|_2^2$（軌跡監督）。
• $L_{cons}^{(i)} = \|\hat{v}^{(i)} - \alpha^{(i)}\hat{v}^{(1)}\|_2^2$（クロススケール一貫性）。

このマルチスケール結合は追加の監督を提供し、条件付け空間におけるデータ拡張として効果的に機能します。これは ODE 軌跡を「まっすぐにし」、打ち切り誤差を削減するとともに、加速度項 $a(x,t)$ を最小化し、オイラー積分の誤差範囲を狭めます。

推論

RecFM は、著しく少ないステップ数での高忠実度生成を可能にします。単一ステップ生成の場合、モデルはノイズサンプルをデータ多様体へ 1 回の関数評価でマッピングします。多ステップ生成の場合、強制された一貫性により、学習された速度場はより大きな積分ステップ下でも安定したままです。

主な貢献

1. 再帰的フローマッチングフレームワーク: 明示的な PDE によって支配されるシステムと、暗黙的に学習されたデータ駆動型ダイナミクスを統一的に扱う、複雑な物理ダイナミクスの予測のための新規フレームワーク。
2. マルチスケール軌道整列: サンプリングスケール全体で軌道の一貫性を強制するメカニズム。これにより、ダイナミックなロールアウトが安定化し、複数の推論ステップにわたる誤差蓄積が軽減され、正確な少数ステップ生成が可能になります。
3. 高効率エミュレーション: シミュレーションおよび実世界のベンチマークでの検証により、RecFM が最先端の拡散ベースのエミュレーターと比較して、著しく少ないサンプリングステップで最先端の精度を達成することが示されました。

実験結果

著者は、海面水温（SST）、ナビエ - ストークス流、ヘルムホルツ階段方程式の 3 つの動的物理データセットで RecFM を評価しました。

• 拡散モデルとの比較: RecFM は、予測精度を向上させながら、最先端の拡散ベースのエミュレーター（例：VideoPDE）に対して最大20 倍の高速化を達成しました。ヘルムホルツ階段方程式において、RecFM は最高性能のベースライン（VideoPDE）と比較して10 倍の誤差削減を達成しました。
• バニラ FM との比較: バニラフローマッチングと比較して、RecFM は平均二乗誤差（MSE）を15% 以上削減し、より優れたスプレッド - スキル比（SSR）スコアを提供し、より良い較正を示しています。
• ステップ効率: RecFM はわずか1〜2 ステップで高品質な結果を生成しますが、バニラフローマッチングでは通常約 5 ステップが必要です。興味深いことに、1 または 2 を超えるステップ数を増やしても性能が一貫して向上するわけではなく、これらの決定論的システムにおける反復的ロールアウトでは誤差蓄積が発生しうることを示唆しています。
• 訓練の安定性: RecFM は拡散ベースのベースラインよりも速く収束し、訓練全体を通じて一貫して低い検証誤差を維持します。

意義と主張

本論文は、サンプリング効率と忠実性の間の従来のトレードオフに挑戦することで、科学エミュレーションにおける重要な進展として RecFM を位置づけています。著者は、スケール全体での軌道の整合が、推論ステップ数の削減を実際に安定性と精度の向上に寄与させることを主張しており、特に物理ベースのアプリケーションにおいて顕著です。

主な主張には以下が含まれます：

• RecFM は、最先端の多ステップソルバーと同等の性能を持つ科学システム向けの高忠実度 1 ステップおよび少数ステップ（2〜4 ステップ）動的生成を達成した最初の手法です。
• この手法は、物理的忠実性を犠牲にすることなく計算オーバーヘッドを削減する、リアルタイム科学エミュレーションのためのスケーラブルで効率的なソリューションを提供します。
• このフレームワークは物理を超えて一般化され、訓練および推論コストの削減により競争力のある画像生成能力を示しますが、主な焦点は科学システムにあります。

著者は、RecFM が決定論的 PDE 支配タスクにおいて優れている一方で、少数ステップフローマッチングが本質的により決定論的であるため、SST のような高度に確率的なデータにおける利点はわずかに鈍化すると指摘しています。また、標準的なフローマッチング軌道には存在しない豊かな意味論的および時間的変動のため、このフレームワークを高複雑な実世界動画に拡張することは依然として課題であると認めています。