Energy Generative Modeling: A Lyapunov-based Energy Matching Perspective

技術的概要：エネルギー生成モデル化：リアプノフに基づくエネルギー整合の視点

問題定義
生成モデル化は通常、単純なノイズ分布を目標データ分布へ輸送するために、時間依存ベクトル場（例えば拡散モデル、フローマッチング）に依存する。最近のパラダイムであるエネルギー整合は、単一の静的なスカラーエネルギー関数 $U_\theta: \mathbb{R}^d \to \mathbb{R}$ を学習することにより、時間条件付けを排除する。サンプルは、確率微分方程式（SDE）$dx_t = -\nabla U(x_t)dt + \sqrt{2}dW_t$ によって支配されるこの静的なランドスケープ上でダイナミクスを実行することで生成される。しかし、訓練フェーズ（$U_\theta$ の学習）とサンプリングフェーズ（サンプル生成）との間の理論的関係は断片的なままである。さらに、なぜ分布生成のために確率的ランジェヴィンダイナミクスが必要なのかは不明瞭である。なぜなら、同じエネルギーランドスケープ上の決定論的勾配流は、目標分布を保持するのではなく、「モード崩壊」（局所最小値への集中）へと至ることが多いためである。

手法：制御理論的再定式化
著者は、訓練とサンプリングを単一の枠組み、すなわちワッサーシュタイン空間 $\mathcal{P}_2(\mathbb{R}^d)$ 上の密度輸送として統合し、非線形制御問題として定式化する。

• 状態と制御: 状態変数は確率密度 $\rho_t \in \mathcal{P}_2(\mathbb{R}^d)$ である。ダイナミクスは連続の方程式 $\partial_t \rho = -\nabla \cdot (\rho u)$ によって支配され、ここで速度場 $u$ が制御入力として機能する。
• リアプノフ設計: クルバック・ライブラー（KL）ダイバージェンス $V(\rho) = \text{KL}(\rho \| \rho^*)$ が、目標分布 $\rho^*$ に対してリアプノフ関数の候補として選択される。
• 最適制御: 収束（$\dot{V} \leq 0$）を確保するために、著者は最適制御則 $u^* = -\nabla U^* - \nabla \log \rho$ を導出する。これを連続の方程式に代入すると、フォッカー・プランク方程式が得られ、その粒子レベルの実現がランジェヴィン SDEとなる。
• 訓練対サンプリング:
  • 訓練: ニューラルネットワークは目標を近似するために $U_\theta$ を学習する。目標 $\rho^*$ は、スコアの存在と有限の KL ダイバージェンスを確保するために、カーネル密度推定を介した経験的データの滑らかな版として定義される。
  • サンプリング: 訓練されたエネルギー $U^*_\theta$ は、ノイズ事前分布 $\rho_0$ から目標 $\rho^*_\theta$ へランジェヴィンダイナミクスを駆動するために使用される。

主要な貢献と解析的結果

1. 統合された枠組み: 本論文は、訓練、サンプリング、および平滑化が、特定の制御則によって支配される連続の方程式に従う $\mathcal{P}_2(\mathbb{R}^d)$ 上の同一の密度輸送ダイナミクスという 3 つの事例であることを確立する。
2. 決定論的サンプリングの不可能性:
   • 著者は、決定論的勾配流 $\dot{x}_t = -\nabla U^*_\theta(x_t)$ に対して、非負性、目標におけるゼロ、および軌道に沿った非増加性を同時に満たすリアプノフ汎関数は存在しないことを証明する。
   • これはモード崩壊の現象を形式的に説明する。エントロピー勾配項（ブラウンノイズによって実現される）なしでは、決定論的流は定常解として目標ギブス分布を維持できず、必然的に臨界点に質量を集中させる。
3. 有限ステップ停止基準:
   • ランジェヴィンサンプリング: ログ・ソボレフ不等式の下で、KL ダイバージェンスは指数関数的に収束する。本論文は、目標精度 $\epsilon$ を達成するための十分なサンプリング時間 $\tau^*_{\text{Lang}}$ を導出する。この時間を超えてサンプリャーを実行しても、境界は劣化しない。
   • 決定論的サンプリング: 大域的リアプノフ証明書が存在しないため、著者はラプラシアン項とドリフト誘起散逸の比率 ($R_t$) に基づく有限ステップ停止則を提案する。最適停止時間 $\tau^*_{\text{det}}$ は $R_t = 1$ となる瞬間であり、ドリフト支配の散逸（収束）からラプラシアン支配の集中（モード崩壊）への遷移を示す。
4. 構成的生成:
   • この枠組みは、訓練されたスカラーエネルギーの加法的合成（$U_{\text{comp}} = \alpha_+ U_+ + \alpha_- U_-$）が明示的なギブス不変測度を保持することを示す。
   • この合成は閉ループリアプノフ証明書を継承するため、再訓練や不変測度の構造的損失なしに、「専門家」モデル（例えば、論理積、論理和、否定）を組み合わせることが可能になる。
5. 診断的 OOD スコアリング:
   • 本論文は、分布外（OOD）検出のために閉ループダイナミクスから導出された 3 つのスコアを評価する。エネルギー値（$U_\theta$）、勾配ノルム（$\|\nabla U_\theta\|$）、および軌道変位である。
   • CIFAR-10 における実験は、自然な OOD データセット（SVHN、DTD）において、勾配ノルム（$S_2$）がエネルギー値や他のベースライン（PixelCNN++ や GLOW など）を大幅に上回ることを示し、平均 AUROC 0.763 を達成した。

結果と検証

• 合成実験: 8 成分ガウス分布を目標とした場合、決定論的流はステップ $k=50$ で準最適分布に到達した後、臨界点におけるディラック質量へと崩壊する。予測された停止時間（$k^*=49$）は経験的最適値と一致する。対照的に、ランジェヴィンサンプリャーは $k \approx 100$ までにギブス分布に収束し、それを維持する。これは 2 つの停止則間の理論的区別を検証する。
• 構成的実験: 互いに素なガウス混合モデル上で 2 つの独立したエネルギーモデルを訓練し、加算、減算、否定を通じて（再訓練なしに）結合することで、論理演算に対応するサンプルを正常に生成した（例えば、論理積は妥協地点のリングを生成し、否定は 1 つのモードセットからサンプルを効果的に反発させた）。
• OOD 検出: 勾配ノルムスコアは、既存の生成モデルベースラインと比較して、CIFAR-10 の分布内データを SVHN やテクスチャデータセットから区別する能力において優れていた。

意義と主張
本論文は、静的スカラーエネルギー生成モデル化と非線形制御理論の完全なツールキットを架橋すると主張する。

• 生成モデル化を並行する分野ではなく、非線形制御の一章として再定義し、訓練とサンプリングをリアプノフ安定性の原理の下で統合する。
• ランジェヴィンダイナミクスの確率的性質が単なるヒューリスティックではなく、分布リアプノフ証明書の存在に対する必要条件であることを初めて厳密に証明する。ノイズを除去すると安定性の保証が失われる。
• 高度な制御概念を生成モデルに応用する扉を開く。具体的には、安全制約付き生成（例えば、生成されたサンプルが危険領域を避けることを保証する）のための制御バリア関数（CBF）や、加速サンプリングのための収縮メトリックである。
• 著者は、静的エネルギーパラダイムを自律制御システムとして扱うことで、安全性保証や加速サンプリングなどの将来の拡張を可能にする基盤層としてこの作業を位置づけている。