技術的概要：加速された逐次フローマッチング：ベイズ的フィルタリングの視点

1. 問題定義

本論文は、リアルタイムストリーミング環境における逐次確率推論の課題に取り組む。気象予報、流体力学、自律制御などの動的システムにおいて、新たな観測が継続的に到着し、モデルは将来の軌道に関する信念（$p(x_t | z_{\le t})$）を効率的に更新する必要がある。

拡散モデルやフローマッチングモデルは高次元で多峰性の分布を捉えることに優れているが、ストリーミング文脈での展開には推論遅延という重大なボトルネックが存在する。既存のアプローチは通常、各時間ステップを新たな条件付き生成問題として扱い、蓄積されたすべての観測を条件とした非情報源分布（例えばガウスノイズ）から将来の軌道を繰り返しサンプリングする。この「リスタート」戦略は、更新ごとに数十から数百のネットワーク評価（ソルバーステップ）を必要とし、低遅延アプリケーションには現実的ではない。さらに、予測分布を特徴付けるには複数のサンプルが必要となる場合が多く、計算コストがさらに増大する。

2. 手法：逐次ベイズフローマッチング（SBFM）

著者は、ベイズ的フィルタリングの再帰的構造に着想を得た**逐次ベイズフローマッチング（SBFM）**を提案する。以前の生成を破棄して最初から再サンプリングするのではなく、SBFM は現在の事後分布を表す粒子の集合を維持し、新たな観測が到着するにつれてそれらを進化させる。

中核的概念

この手法は、フローマッチングの常微分方程式（ODE）における標準的な非情報源分布を、以前の事後分布（$p(x_{t-1} | z_{\le t-1})$）に置き換える。フロー ODE は以下のように定義される：
$$\frac{d}{d\tau} x_t(\tau) = v(x_t(\tau), \tau; z_{\le t}), \quad x_t(0) \sim p(x_t | z_{\le t}), \quad x_t(1) \sim p(x_{t-1} | z_{\le t-1})$$
この ODE を $\tau=1$ から $0$ へ解くことで、モデルは粒子を以前の信念から更新された信念へ輸送する。この「ウォームスタート」アプローチは、物理システムの時間的整合性を利用する。すなわち、以前の事後分布は次の分布について非常に有益な情報を含むため、フローが移動しなければならない距離を短縮し、より高速なサンプリングを可能にする。

学習戦略：事前学習と微調整

$z_{\le t}$ を条件とした連続する真の状態 $(x^*_{t-1}, x^*_t)$ に直接フローモデルを学習させる素朴なアプローチは失敗する。なぜなら、これにより分布の不一致が生じるからである。すなわち、ソースサンプル $x^*_{t-1}$ は $p(x_{t-1} | z_{\le t})$（現在の観測を条件とした分布）から抽出されるのに対し、ベイズ的フィルタはソースが $p(x_{t-1} | z_{\le t-1})$（過去の観測のみを条件とした分布）から来ることを要求する。

これを解決するため、著者は事前学習と微調整の戦略を採用する：

1. 事前学習： ガウスノイズを目標分布 $p(x_t | z_{\le t})$ へ輸送する標準的なフローベースモデル（$v_{pre}$）を学習する。
2. 微調整： 事前学習済みモデルを用いて、以前の事後分布からのソースサンプルを生成する（$x^{pre}_{t-1} \sim p_{pre}(x_{t-1} | z_{\le t-1})$）。次に、新しい観測 $z_{\le t}$ を条件として、これらの生成されたソースサンプルを真の目標 $x^*_t$ へ輸送するように SBFM モデル（$v_\theta$）を微調整する。

リノイジング機構

事前学習済みモデルの近似と真の事後分布との間の不一致に起因する誤差の蓄積を軽減するため、著者はリノイジング機構を導入する。学習と推論の両方の段階で、制御されたノイズを以前の推定値に注入する：
$$\tilde{x}_{t-1} = \alpha(\tau_{renoise}) \cdot x_{t-1} + \sigma(\tau_{renoise}) \cdot \mathcal{N}(0, I)$$
ハイパーパラメータ $\tau_{renoise}$ は、速度のための歴史的情報の保持と、堅牢性のための不確実性の受容とのバランスを取る。

3. 主要な貢献

• フレームワーク： 事後分布から事後分布への更新プロセスを学習された確率フローとして明示的にパラメータ化し、ベイズ的信念更新を反映する、粒子ベースのフレームワークである SBFM の導入。
• アルゴリズム的革新： 学習データの分布をベイズ的フィルタリングの再帰と正しく整合させ、素朴な逐次学習に内在する分布の不一致を回避する、新規の事前学習・微調整パイプライン。
• 効率性： 完全ステップの拡散やフローマッチングと比較して、サンプリングステップ数を大幅に削減（多くの場合 1〜3 ステップ）しつつ、競争力のある分布精度を達成することを示し、推論遅延を劇的に低減。
• 粒子進化： 粒子を新たな観測と整合する領域へ輸送し、不一致なモードを徐々にフィルタリングするメカニズム。これにより、従来の粒子フィルタで一般的な粒子の劣化問題を回避する。

4. 実験結果

著者は、科学的予測および意思決定のベンチマークにおいて SBFM を評価した：

• ビームスプレ dynamics（Mu2e 加速器）： 超低遅延を必要とするリアルタイム監視タスクにおいて、SBFM（Rectified Flow を使用）はわずか1〜2 のサンプリングステップで、最高のエネルギースコアと RMSE を達成し、完全ステップの拡散（5 ステップ）やウォームスタートヒューリスティックを上回った。また、予測カバレッジにおける優れた較正も示した。
• 流体力学および気象予報： Burgers 方程式および WeatherBench2 タスクにおいて、SBFM は単一のサンプリングステップで競争力のあるエネルギースコアと RMSE を維持したのに対し、非同期デノイジングやウォームスタートのベースラインは性能が低下した。
• 計画と制御： 迷路計画および煙制御タスクにおいて、SBFM はより高速な閉ループ再計画を可能にした。1〜3 のサンプリングステップで、完全ステップの拡散ベースライン（例：256 ステップの Diffusion Forcing）と同等かそれ以上の報酬を達成し、一方ウォームスタート手法は汎化に苦労した。
• 状態推定： ローレンツアトラクタにおいて、SBFM は環境の確率的な変動レベルが変化しても堅牢性を維持したのに対し、ウォームスタート手法は不確実性が増大するにつれて著しく性能が低下した。

5. 意義と主張

本論文は、SBFM が逐次確率推論における遅延ボトルネックに対する原理的な解決策を提供すると主張する。「最初からサンプリングする」パラダイムから「信念を輸送する」パラダイムへ移行することで、この手法は高忠実度生成モデルのリアルタイムストリーミング環境への展開を可能にする。

著者は、自らのアプローチが既存のヒューリスティックな「ウォームスタート」手法（明示的な事後分布更新モデル化なしに以前の予測を再利用することが多い）や、部分的にデノイズされた軌道を維持しノイズが残存しうる非同期デノイジングとは明確に異なることを強調する。SBFM は新たな観測によって誘発される特定のフローを学習し、より正確かつ効率的な再帰的信念更新を実現する。

限界と今後の課題：
著者は、再帰的な事後分布から事後分布への更新が時間とともに誤差を蓄積する可能性があることを認めている。今後の方向性としては、この蓄積を調節するための適応的リノイジング戦略の開発、または累積誤差からの回復のためにガウスノイズからサンプリングしてモデルをリセットする基準の設計が含まれると示唆している。