Practical and Scalable Hamiltonian Monte Carlo Without the Metropolis Test

問題設定
ハミルトニアン・モンテカルロ（HMC）およびアンダーダンプド・ランジュバン・モンテカルロ（LMC）は、微分可能な密度を持つ高次元分布からサンプリングするための最先端の手法である。しかし、これらの手法は数値積分に依存しており、それが期待値推定における漸近的なバイアスを導入する原因となる。これは、サンプラーの定常分布（$\tilde{p}$）がターゲットとなる分布（$p$）から逸脱するためである。伝統的に、このバイアスはメトロポリス・ヘイスティングス（MH）拒絶ステップを追加することで排除される。これにより、連鎖が詳細釣合いを満たし、漸近的バイアスが除去されることが保証されるが、MHステップは高次元において大きな計算コストを強いる。具体的には、受容確率は全パラメータにわたるエネルギー誤差の和に依存するため、ステップサイズを次元 $d$ の増加（$d^{1/4}$ に比例）に合わせて減少させなければならない。これは、有限の長さの連鎖において、混合速度の低下と分散の増大を招く。

あるいは、「未調整（unadjusted）」スキームは、このスケーリングによるペナルティを回避するためにMHステップを省略する。これらの手法は、より大きなステップサイズで動作でき、次元に関わらず一定の効率性を維持できる。しかし、これらは漸近的バイアスを抱えることになる。実用化における主な障壁は、有限サンプル集合の分散と漸近的バイアスのバランスを取るための、ステップサイズを選択する自動化された原理的な手法が欠如していたことである。このようなスキームがなければ、実務家は未調整の手法を「ブラックボックス」的に使用することができない。

手法
著者らは、ユーザーが指定した漸近的バイアス許容度に基づいてステップサイズを選択する、未調整のHMC、LMC、およびマイクロカノニカル・ランジュバン・モンテカルロ（MCLMC）のための自動チューニング・スキームを提案している。本手法の核心は、**エネルギー誤差の次元あたりの分散（EEVPD）**と漸近的バイアスとの間の関係性に依拠している。

1. 指標の定義: 著者らは、数値積分によって誘発される1ステップのエネルギー誤差（$\Delta H$）の分散を次元 $d$ で正規化したものとして、EEVPDを定義する。この量は、サンプリング過程におけるオンラインの移動平均として、計算コストを抑えて推定できる。
2. 理論的境界:
   • ガウス型ターゲット分布に対して、著者らはEEVPDが共分散行列の漸近的バイアス（$b^2_{cov}$）およびワッサースタイン距離（$W_2$）の上界を与えるという、厳密な解析的関係を導出している。具体的には、EEVPDが特定の閾値を下回る場合、$b^2_{cov} \leq \phi^{-1}(\text{EEVPD})$ であることを証明している。
   • 等方的なガウス分布において、この境界がシャープであることを示している。
3. 経験的検証: 非ガウス型のベンチマーク（Rosenbrock、Funnel、およびブラウン運動を含む）を用いた数値実験により、ガウス分布から導かれた上界が、ブラウン運動のケース（バイアスが予測よりわずかに高い）を除いて、非ガウス型ターゲットに対しても概ね成立することが確認された。
4. チューニング・アルゴリズム: 提案するアルゴリズムは、ウォームアップ・フェーズ中に、特定のEEVPD値をターゲットとするようにステップサイズ $\epsilon$ を適応的に変化させる。このターゲットEEVPDは、ユーザーが指定した相対的な平方根平均二乗誤差（RMSE）許容度から導出される。ガウス型ターゲットにおけるバイアスと分散のトレードオフ分析に基づき、著者らは、二乗バイアスを全平均二乗誤差許容度の約5分の1に設定することを推奨している。

主要な貢献

• 自動チューニング・スキーム: 手動のハイパーパラメータ・チューニングを必要とせず、未調整のHCT、LMC、MCLMCに対してステップサイズを自動的に選択するブラックボックス・アルゴリズム。
• 理論的正当化: エネルギー誤差がガウス分布の共分散バイアスを上界で抑えることを確立する厳密な証明を提供し、バイアス制御のプロキシとしてエネルギー誤差を用いることの理論的基礎を築いた。
• スケーラビリティ: 本スキームによってチューニングされた未調整の手法が、メトロポリス調整済み手法の $d^{1/4}$ スケーリング・ペナルティを回避し、次元が増加しても一定の計算コストを維持できることを実証した。

結果
提案手法を、メトロポリス調整済みの対応手法（NUTSおよびMALTを含む）およびグリッドサーチで最適化された調整済み手法と比較して、複数のベンチマークで評価した。

• ベイズ推論ベンチマーク: 標準的な問題（標準ガウス分布、Rosenbrock、German Credit、Item Response、Stochastic Volatility）において、未調整の手法は、ターゲット誤差（$b^2_{avg} < 0.01$）に到達するために必要な勾配呼び出し回数の点で、調整済み手法やNUTSを一貫して上回った。ほとんどの場合、未調整の手法は大幅に少ない勾配評価を必要とした。
• 高次元物理モデル:
  • $\phi^4$ 場理論（$>10^6$ 次元）: 未調整のMCLMCは、収束にわずか1,344回の勾配呼び出ししか必要としなかった。これはNUTS（133,266回）に対して100倍の改善であり、調整済みMCLMC（39,240回）に対しても大幅な改善であった。
  • U(1) 格子ゲージ理論（$\approx 2 \times 10^6$ 次元）: 未調整のMCLMCは198回の勾配呼び出しで収束したが、調整済みNUTS、HMC、およびMCLMCは、それぞれ127,875回、17,699回、および15,578回を要した。
• バイアス制御: 「Funnel」問題において、未調整のMCLMCは非常に長いNUTSの連鎖と区別がつかない周辺事後分布を生成し、離散化バイアスが無視できるレベルまで正常に抑制されたことが示された。

意義と主張
著者らは、本研究が未調整の勾配ベース・サンプラーを、手動のハイパーパラメータ・チューニングを必要としない完全自動化されたスケーラブルなツールへと変貌させると主張している。彼らは、このチューニング・スキームを用いることで、未調整の手法が、メトロポリス・テストのコストが禁止的になる高次元の設定において、調整済み手法を一貫して、かつ大幅に上回ると断言している。本論文は、これらの手法を、確率的プログラミングから計算科学（特に統計および量子場理論）に至る幅広いアプリケーションのためのスケーラブルな代替案として位置づけている。

著者らは、自らの主張の範囲について慎重な姿勢を保っている。

• 理論的境界はガウス分布に対して厳密に証明されており、非ガウス分布へ経験的に拡張されているが、ブラウン運動のようにバイアスが予想より大きくなる例外があることを認めている。
• 標準的なネットワークに対する優位性に関する議論があるため、純粋な機械学習アプリケーション（例：ベイズニューラルネットワーク）における優位性は主張していない。
• 手法は「ブラックボックス」であるが、初期化バイアスを確認する際の標準的な手法と同様に、離散化バイアスが無視できることを確認するために、ステップサイズを半分にした連鎖を実行するなどの診断を行うべきであると強調している。