A Finite Expression Method for Solving High-Dimensional Committor Problems

技術要約：高次元コミッター問題を解くための有限式法（Finite Expression Method）

問題設定
本論文は、高次元の確率系、特に過減衰ランジュバン過程におけるコミッター問題を解く際の計算上の課題に取り組んでいる。コミッター関数 $q(x)$ は、ある点 $x$ から出発して、状態 $A$ に到達する前にメタステーブルな状態 $B$ に到達する確率を表す。数学的には、$q(x)$ は特定の境界条件に従う後退コルモゴロフ方程式の解である。これは、遷移経路理論（TPT）において、稀な事象、遷移速度、および反応チャネルを定量化するために極めて重要であるが、高次元（$d > 3$）においてこの方程式を数値的に解くことは非常に困難である。従来のメッシュベースの手法（有限差分法、有限要素法など）は、次元が増加するにつれて計算コストが膨大になる。既存の機械学習アプローチ、主に深層ニューラルネットワーク（DNN）に基づく手法は、メッシュフリーの代替案を提供するが、多くの場合「ブラックボックス」として機能し、解の背後にある代数的な構造を特定することができず、解釈性に欠ける。

手法：有限式法（FEX）
著者らは、Liang and Yang (2022) によって一般的な偏微分方程式（PDE）に対して導入された有限式法（FEX）を、コミッター問題に適応させることを提案している。固定されたアーキテクチャを持つ連続微分可能な関数を用いて解を近似するDNNとは異なり、FEXは、固定された有限個の非線形関数と二項演算からなる記号的な数学的表現として解を探索する。

コアとなるワークフローは以下の通りである：

1. 表現（Representation）: 解は、あらかじめ定義された深さ（通常は4〜6）を持つ二分木の形式で表現される。木の中の各ノードは、単項演算子（例：$\sin, \exp, \text{Id}$）または二項演算子（例：$+, \times, \div$）に対応する。リーフノードには、入力変数または定数が含まれる。
2. 最適化定式化（Optimization Formulation）: コミッター問題を、不変密度によって重み付けされたディリクレエネルギーに基づく、変分最小化問題として定式化する。目標は、最小の損失を与える最適な演算子のシーケンスと、それに関連する数値係数（スケーリングおよびバイアスパラメータ）を見つけることである。
3. 混合組合せ最適化（Mixed Combinatorial Optimization）: 最適な木の構造を求めることは、混合組合せおよび連続最適化問題である。
   • 組合せ的側面: FEXは、強化学習（RL）コントローラー（ニューラルネットワーク）を用いて、演算子の最適なシーケンスを探索する。コントローラーは、各ツリーノードで演算子を選択するための確率分布を出力する。
   • 連続的側面: 演算子のシーケンスがサンプリングされると、その数値係数は勾配ベースの手法（AdamおよびBFGS）を用いて最適化される。
   • 学習ループ: コントローラーは、生成された式の「スコア」（損失の逆数）を最大化するように、方策勾ラジエント法を用いて更新される。トップクラスの性能を示す式の候補プールが維持され、微調整が行われる。
4. 特異性の処理（Handling Singularities）: 境界付近で特異な挙動を伴う問題（例：同心球）の場合、正しい漸近挙動を捉えるために、既知の基本解（例：$1/|x|^{d-2}$）にFEXツリーを乗じた形で解のモデルを拡張する。

主な貢献と結果
著者らは、ハイパープレーン境界や劣レベル集合境界を持つダブルウェルポテンシャル、同心球、ラギッドなミュラー・ポテンシャル、およびブタンを含む、いくつかの高次元ベンチマーク問題に対してFEXを評価した。結果は、主に以下の2つの貢献を強調している。

1. 競争力のある精度: ベンチマークテスト問題において、FEXは最先端のニューラルネットワークベースのソルバーと同等、あるいはそれを上回る精度を達成している。例えば、$\beta=10.0$ の場合の劣レベル集合境界を持つダブルウェルポテンシャルにおいて、FEXはニューラルネットワーク法による相対 $L_2$ 誤差 $0.021$に対し、$0.009$ という誤差を達成した。
2. 構造の特定と次元削減: 最も重要な発見は、FEXが解の代数的な構造を正しく特定できるという独自の能力である。この手法は、コミッターがどの変数に依存し、どの変数に依存しないかを自動的に決定する。
   • ハイパープレーン境界を持つダブルウェルポテンシャルの場合、FEXは、問題が10次元で定義されているにもかかわらず、解が第1座標 $x_1$ のみに依存することを正しく特定した。
   • 劣レベル集合境界のケースでは、$x_1$ と半径距離 $r = \sqrt{\sum x_i^2}$ への依存性を特定した。
   • この能力により、高次元の問題を低次元の問題（例：1Dまたは2D）に削減することができる。一度削減されれば、チェビシェフ・スペクトル法や有限要素法などの従来の高精度手法を適用して、マシン精度（$10^{-16}$）を達成することが可能となる。これは、解の関数形式を明示的に明らかにしない標準的なDNNアプローチでは不可能なことである。

意義と主張
著者らは、本研究の主要な意義は、FEXの解釈性と構造発見能力にあると主張している。他の高次元ソルバー（DNNやテンソル・トレイン法を含む）は、解の値を近似することはできるが、一般に、基礎となる代数的な依存関係や対称性を明らかにすることはできない。FEXは、データ駆動型の近似と記号学習の間の溝を埋め、研究者が以下を行うことを可能にする：

• 複雑な高次元問題を、扱いやすい低次元の問題へと削減する。
• 削減された問題に対して古典的な数値手法を用いることで、任意の精度を得る。
• 特定された代数式を分析することで、遷移メカニズムに関する物理的な洞察を得る。

結論として、FEXは慎重なセットアップ（ツリーの深さ、演算子の集合、および学習パラメータの選択）を必要とするものの、コミッター関数の「真の」代数的構造を明らかにする能力により、高次元の確率系における稀な事象を分析するための強力なツールとなる。