Lattice Configuration Generation with a Self-Learning Diffusion Model

技術要約：自己学習型拡散モデルによる格子構成生成

問題提起
格子場理論において、ボルツマン分布 $\pi(\phi) \propto \exp[-S(\phi)]$ からの場構成の生成は、非摂動計算を行う上で不可欠である。ハイブリッドモンテカルロ（HMC）のような標準的なアルゴリズムは、臨界点付近や格子体積が増大する際に、積分自己相関時間が著しく増大する「臨界スローイングダウン」の問題に直面する。これらを緩和するために、自己学習モンテカルロ（SLMC）やニューラルサンプラー（正規化流や拡散モデルなど）が提案されているが、これらは通常、ターゲットとなる結合定数における既成の平衡状態のデータセットをニューラルネットワークの学習に必要とする。ここに循環依存関係が生じる。すなわち、より優れたサンプラーを得るためには、そのための学習データを生成できる優れたサンプラーが必要になるという点である。さらに、参照チェーンが低周波モードをカバーできていない場合、学習されたプロポーザルもその欠陥を継承してしまう。

手法：SLDiffusion
著者らは、ターゲットの結合定数に対する外部学習データを必要としない、自己学習型拡散サンプラーであるSLDiffusionを提案する。この手法は、「自己ブートストラップ・ベータ・ラダー（self-bootstrap beta ladder）」上で動作し、完全にメトロポリス補正されたノイズ条件付きメトロポリス・アジャステッド・ランジュバン・アルゴリズム（MAALA）の変種を利用している。

1. 自己ブートストラップ・ベータ・ラダー:

   • プロセスは $\beta = 0$ から開始される。ここでは作用（action）が消失するため、構成を一様分布から正確に抽出できる。
   • 手法は、$\beta_0 < \beta_1 < \dots < \beta_K$ という一連の結合定数のシーケンスを通じて進行する。
   • 各ステージ $k$ において、前のステージで生成されたメトロポリス・ハスティング（MH）補正済みチェーンから保存された構成からなる「リプレイバッファ」$R_k$ 上でスコアネットワークが学習される。
   • 学習されたネットワークは、その後凍結され、新たな $\beta_{k+1}$ を対象とするMH補正済みチェーンを生成するために使用される。統計的基準（定常性、自己相関の境界、およびシュヴィンガー・ダイソン温度との整合性）を満たす構成のみが、次のリプレイバッファ $R_{k+1}$ に昇格される。
   • この再帰的プロセスにより、すべての学習構成が正確な $\beta=0$ の分布まで遡ることができ、外部のターゲット分布からのサンプリングの必要性を排除している。

2. SLDiffusion-MAALA プロポーザル:

   • 従来の拡散サンプラー（Zhuらによるものなど）が、高ノイズ領域で非調整の輸送を行い、最終的な低ノイズステップでのみMH補正を適用するのに対し、SLDiffusionはすべてのノイズレベルにおいて、同一の物理的ターゲット $\pi_\beta$ に対してMH補正を適用する。
   • プロポーザルは、ノイズラダー $\sigma_1 > \dots > \sigma_M$ を伴う。各レベルにおいて、学習されたスコア $s_\phi$ を用いたラップド・ガウス型ランジュバン・ステップが提案される。
   • 遷移カーネルは完全にメトロポリス化されている：受容確率は、順方向および逆方向のプロポーザル密度（ラップド・ガウス分布）の比と、作用の差を含む。これにより、学習されたスコアの精度に関わらず、チェーンの不変分布が正確にターゲットのボルツマン分布となることが保証される。

3. アーキテクチャと学習:

   • スコアネットワークは、格子の $U(1)$ 対称性と周期境界条件を尊重する、フーリエ–FiLM周期等変畳み込みニューラルネットワークである。
   • 学習には、周期的なガウスノイズによって摂動を与えられた構成を用いたデノイジング・スコアマッチングが用いられる。

主な結果
本手法は、高温度相（$\beta \in [0.30, 0.50]$）の二次元コンパクトXYモデル（ベレジンスキー・コステリッツ・トルツ現象（BKT）から離れた領域）に対してテストされた。

• 自己学習の実現可能性: 著者らは、格子サイズ $L=4$ において、自己生成されたリプレイのみを用いてベータ・ラダーを $\beta=0.30$ から $\beta=0.50$ まで進めることに成功した。シュヴィンガー・ダイソン温度 $\beta_{SD}$ は各ステージでターゲットの $\beta$ と一致しており、系統的なドリフトは見られなかった。
• HMCに対する検証: $L=4, 6, 8, 12$ の体積において、SLDiffusion-MAALAチェーンから測定された観測量（エネルギー密度 $E$ および渦密度 $\rho_v$）は、独立したHMC計算の結果と $1.35\sigma$ 以内で一致した。
• 自己相関時間: エネルギーおよび渦密度の積分自己相関時間（$\tau_{int}$）は、検討されたすべての体積（$L=4$ から $12$）において 2 未満であった。$L=12$ において、自己相関関数は保存された軌跡の単位で見ると、HMCよりも速く減衰した。
• 体積転送と再学習:
  • $L=4$ で学習されたネットワークを、再学習なしでより大きな体積（$L=8, 12$）に直接転送すると、受容率の低下と自己相関時間の増大を招いた。
  • 体積固有の再学習（ターゲット体積で生成されたMH補正リプレイを用いてネットワークを再学習すること）は、性能を大幅に改善し、受容率を回復させ、$\tau_{int}$ をHMCと同等かそれ以上のレベルまで減少させた。
• コントロール実験: 正確な解析的作用の力を用いた32レベルのMAALAとの比較では、マルチレベルのノイズラダーがこの結合定数において単一ステップのMALA更新よりも本質的に優れているわけではないことが示された。これは、主要な貢献が特定のマルチレベル・アーキテクチャではなく、自己学習メカニズムにあることを示唆している。

意義と主張
本論文は、外部の学習構成を用いずに、拡散モデルを格子構成生成に適用するためのブートストラップ・メカニズムを確立したことを控えめに主張している。

• 循環依存の除去: 主要な新規性は自己ブートストラップ・ベータ・ラダーであり、これにより、ターゲットの結合定数における平衡状態のサンプルを必要とせず、正確な $\beta=0$ の分布から学習データを生成することが可能となった。
• 厳密性: すべてのノイズレベルでメトロポリス補正されたカーネルを採用することで、正確なターゲット分布が保持される。これにより、学習されたスコアは直接的な独立サンプルの生成器としてではなく、プロポーザルの加速器として機能する。
• 適用範囲: 著者らは、本研究が臨界スローイングダウンに対する一般的な解決策や、マルチレベル・ノイズラダーの普遍的な性能優位性を実証するものではないことを明記している。代わりに、自己学習型拡散サンプラーの実現可能性を示すものであるとしている。
• 今後の課題: 論文では、BKT転移付近への適用や、より大きな体積への適用には、体積に適応したベータおよびノイズ・ラダー、ならびに赤外線観測量やワインディング・セクターの混合に関する直接的なテストが必要であると述べている。

要約すると、SLDiffusionは、メトロポリス補正された拡散サンプラーが、自律的に（trivialな分布から開始して）自己学習可能であり、統計的に妥当な格子構成を低い自己相関時間で生成できることを実証している。