A convergence rate for the entropic JKO scheme

この論文「A CONVERGENCE RATE FOR THE ENTROPIC JKO SCHEME（エントロピック JKO スキームの収束率）」は、確率測度の空間における勾配流（Gradient Flow）を数値的に近似するための JKO スキーム（Jordan-Kinderlehrer-Otto scheme）と、そのエントロピー正則化版（エントロピック JKO スキーム）の間の収束性について研究したものです。

以下に、論文の技術的な要約を問題設定、手法、主要な貢献、結果、意義の観点から詳細に記述します。

1. 問題設定と背景

• JKO スキーム: 確率測度の空間（Wasserstein 距離 $W_2$ を備えた空間）における汎関数 $F$ の勾配流は、偏微分方程式（PDE）として記述されます。この PDE の解を構成するための離散時間近似法として、JKO スキームが知られています。これは、各時間ステップで $W_2^2/(2\tau) + F(\rho)$ を最小化する変分問題として定義されます。
• 数値的課題: 実用的な計算において、Wasserstein 距離 $W_2$ の評価は計算コストが高く、大規模な問題では困難です。
• エントロピック正則化: この問題を解決するため、Wasserstein 距離をそのエントロピー正則化版（シュレーディンガーコスト、$Sch_{\alpha\tau}$）に置き換える手法が提案されています。これにより、効率的な Sinkhorn アルゴリズムが利用可能になります。
• 既存研究の限界:
  • 正則化パラメータ $\varepsilon$ が時間ステップ $\tau$ に比例する場合（$\varepsilon = \alpha\tau$）、極限として元の PDE に追加の線形拡散項 $\frac{\alpha}{2}\Delta\rho$ が現れることが知られています（[4] 参照）。
  • しかし、既存の研究（[11], [4]）では、エントロピック JKO スキームと元の PDE の解（あるいは古典的 JKO スキーム）の間の**明示的な収束率（誤差評価）**が与えられていませんでした。
  • 特に、エントロピック設定における「測地線凸性」のような安定性の性質が確立されていないため、収束率の導出が困難でした。

2. 手法とアプローチ

著者らは、以下の仮定と手法を用いて、古典的 JKO スキームとエントロピック JKO スキームの間の距離を評価しました。

• 主要な仮定 (Hypothesis 1.1):

  1. 汎関数 $F$ は狭い収束（narrow convergence）に関して下半連続。
  2. $F$ は一般化された測地線に沿って $\lambda$-凸（$\lambda$-convex along generalized geodesics）。
  3. 熱核 $\sigma_t$ による畳み込みに対する $F$ の増加が制御可能（$F(\mu * \sigma_t) \le F(\mu) + K t/2$）。
  • これらの仮定は、多くの物理的に重要な汎関数（ポテンシャル項、相互作用項、エントロピー項など）で満たされます。

• 比較戦略:

  • 古典的 JKO スキームの解 $J^0_{\tau}(\mu)$ と、エントロピック JKO スキームの解 $J^\alpha_{\tau}(\mu)$ の間の Wasserstein 距離 $W_2$ を評価します。
  • 離散的 EVI（Evolution Variational Inequality）: 古典的 JKO スキームの安定性は、離散的 EVI によって保証されます。著者らは、エントロピックスキームを古典的スキームの「摂動」と見なし、古典的スキームの安定性のみを利用して評価を行います（エントロピック側での安定性証明は不要）。
  • 競合関数の構成: エントロピック問題の解を評価するために、古典的解 $J^0_{\tau}(\mu)$ に熱核 $\sigma_{\alpha\tau}$ を畳み込んだもの（$J^0_{\tau}(\mu) * \sigma_{\alpha\tau}$）を競合関数（competitor）として用います。これは、短時間では $F$ の流と $\frac{\alpha}{2}H$（エントロピー）の流を順に追うことが、$F + \frac{\alpha}{2}H$ の流に漸近的に等しいという直感に基づいています。

3. 主要な貢献と結果

定理 1.3: 収束評価 (Convergence Estimate)

古典的 JKO スキームの $n$ 回反復 $J^0_{n,\tau}(\mu_0)$ と、エントロピック JKO スキームの $n$ 回反復 $J^\alpha_{n,\tau}(\mu_0)$ の間の Wasserstein 距離について、パラメータ $\alpha$ と $\tau$ に依存する明示的な上界を導出しました。

• $\lambda = 0$ の場合:
  $$W_2(J^0_{n,\tau}, J^\alpha_{n,\tau}) \le \sqrt{2\tau(F(\mu_0) - F(J^0_{n,\tau}))} + \sqrt{n\tau\alpha(H(\mu_0) - H(J^\alpha_{n,\tau}) + Kn\tau)}$$
• $\lambda \neq 0$ の場合:
  同様に、$\lambda$ と $\tau$ の関係を含むより複雑な式で評価されます。

この結果は、古典的 JKO スキームの既知の収束率と組み合わせることで、エントロピック JKO スキームの解と、元の PDE（1.2）の解 $\rho^0(t)$ の間の誤差評価を導くことを可能にします。

系 1.3.1: エントロピックスキームと PDE 解の収束率

時間 $t$ において、時間ステップ $\tau = t/n$ と正則化パラメータ $\alpha$ を 0 に近づけたとき、エントロピック JKO スキームの解は PDE の解に収束し、その誤差は以下のように評価されます：
$$W_2(J^\alpha_{n,t/n}(\mu_0), \rho^0(t)) \le C \left( \sqrt{\alpha} + \sqrt{\frac{1}{n}} \right)$$
ここで $C$ は定数です。これは、エントロピック正則化が $\sqrt{\alpha}$ のオーダーで誤差を生むことを示しています。

最適性の検討 (Section 5)

• 連続レベルとの比較: 連続的な PDE 解間の距離の評価（定理 1.4）と比較し、離散評価が $\alpha$ に関してほぼ最適（sharp）であることを示しました。具体的には、ガウス分布の例を用いて、評価式の主要項が一致することを証明しています。
• $\tau$ に関する非最適性: 評価式は $\tau \to 0$ で 0 に収束しないため、$\tau$ に関しては最適ではないことが指摘されています。これは、評価の過程で用いた「離散的グロンワル補題」や「競合関数の構成」によるものではなく、本質的な構造に起因する可能性が示唆されています。

4. 意義と結論

• 理論的貢献: エントロピック正則化が導入された JKO スキームについて、初めて $\alpha$ と $\tau$ の両方に依存する明示的な収束率を提供しました。これにより、エントロピック正則化が数値計算の効率化だけでなく、理論的な誤差制御も可能であることが示されました。
• 実用的意義: エントロピック JKO スキーム（Sinkhorn アルゴリズム等）を用いる際、正則化パラメータ $\alpha$ と時間ステップ $\tau$ をどのように設定すれば、所望の精度が得られるかを理論的に裏付ける基準を提供します。
• 手法の革新: エントロピック設定における安定性の欠如という困難を回避するため、古典的スキームの安定性（EVI）のみを駆使し、エントロピック項を摂動として扱うという戦略は、類似の問題に対する新しいアプローチを示唆しています。

総じて、この論文は、Wasserstein 勾配流の数値解析において、エントロピック正則化の理論的基盤を強化し、その収束挙動を定量的に記述した重要な成果です。