Interpretable Neural Marked Statistics for Cosmological Inference

技術要約：コントラスティブ宇宙論的推論のための解釈可能な等変マーク

問題提起
パワースペクトルを超えた宇宙論情報の回収は、次世代の大規模構造（LSS）サーベイ（SPHEREx、DESI、Euclidなど）における中心的な目標である。パワースペクトルはガウス場に対しては最適であるが、後期の物質密度は、二点統計量だけでは捉えきれない非ガウス信号を示す。これらの情報を抽出するための従来のアプローチは、以下のような重大な障壁に直面している：

• 高次相関関数： 実空間における$n$点相関関数の階層を登ることは計算コストが高く、摂動論は非線形領域において破綻する。
• 場レベルの推論： シミュレーションベースの推論や場レベルのニューラルサマリーは、明示的な統計量をバイパスするが、しばしば解釈可能性を犠牲にし、高忠実度のシミュレーションを必要とする。
• 古典的なマーク統計： 既存の手法は、密度場を空間的なマーク$M(x)$で重み付けすることで、高次の相関を高次の二点レベルへと折り畳む。しかし、これらのマークは通常、固定された関数形式（例：平滑化された密度応答）を用いて手動で設計されており、パラメータ空間全体における適応性や解釈可能性に制限がある。

手法
著者らは、手動で設計されたマークを、学習可能で、宇宙論に依存せず、かつ解釈可能なニューラル・マーキング・スキームに置き換えるフレームワークを提案している。このフレームワークは、主に2つのコンポーネントで構成される：

1. 解釈可能な学習型マーク・アーキテクチャ：

   • マーク$M(x)$は、物質密度場$\delta(x)$から導出される、並進等変なスカラー応答として構築される。
   • 球面調和フィルタリング： 密度場は、フーリエ空間における球面調和を考慮したフィルタ（$\ell \in \{0, 1, 2\}$）を用いてチャネルに分解される。これらのフィルタは、回転不変なスカラーチャネルを生成する：
     • $\ell=0$：符号付きモノポール応答（$E_0$）。
     • $\ell=1$：不変な振幅を持つベクトル状の応答（$E_1$）。
     • $\ell=2$：無跡対称テンソルから導出される2つのスカラー不変量（異方性の強さを示す$E_2$、およびプロレート/オブレートの形状を区別する$I_3$）。
   • 処理： これらの不変チャネルは独立した多層パーセプトロン（MLP）によって処理され、相互作用項と共に加算的に結合される。出力は、正値を保証するためにsoftplus活性化関数を通過する。
   • 初期化： ネットワークは$M(x) \approx 1$となるように初期化されており、これは学習が「マークなしの場」から開始することを意味する。これにより、学習されたマークを明確な形態学的寄与へと分解することが可能になる。

2. コントラスティブ学習の目的関数：

   • 本フレームワークは、共有潜在空間において、マーク付きのサマリーと宇宙論パラメータ$\theta$を整合させるために、コントラスティブ学習の目的関数（InfoNCE）を採用している。
   • サマリーベクトル： サマリーには、マークなしの場のパワースペクトル（$P_{\delta\delta}$）、マーク付きの場のパワースペクトル（$P_{\Delta\Delta}$）、および交差スペクトル（$P_{\delta\Delta}$）と相関係量が含まれる。
   • 残差化： マークが単にパワースペクトルを再現するのではなく、補完的な情報を学習することを確実にするため、マーク付きサマリーの埋め込み（$z_M$）は、マークなしの埋め込み（$z_\delta$）に対して残差化され、直交成分$z_\perp$を生成する。
   • 損失関数： 損失関数は、学習されたマハラノビス距離を用いて$z_\perp$をパラメータ埋め込み$z_\theta$に整合させると同時に、事前分布からサンプリングされた負の候補（実際のデータ、グローバルな合成データ、ローカルな合成データ）から分離する。
   • 学習戦略： マークなしのブランチを事前学習して固定した後、マーカーネットワークとパラメータエンベッダーをコントラスティブ損失を用いてファインチューニングする。

主な貢献

• マーク統計の一般化： 本論文は、固定された関数形式を超えて、構成空間において検査可能な学習された変換へと、マーク統計の概念を一般化するニューラルアーキテクチャを導入している。
• 等変性による解釈可能性： 局所的なSO(3)-等変性を強制し、球面調和フィルタを使用することで、物理的な意味（モノポール、ダイポール、クアドラポール応答）が明確な特徴を抽出する。
• コントラスティブな整合： 残差化を用いたコントラスティブな目的関数を使用することで、学習されたマークが標準的なパワースペクトルとは直交する情報を明確に対象とし、従来の統計量では解消できない縮退を打破することを保証する。

結果
手法は、Quijote N体シミュレーションスイート（$z=0$）を用いて評価された（5つの変数：$\Omega_m, \Omega_b, h, n_s, \sigma_8$）。

• フィッシャー情報量による制約： $k_{\max} = 0.2 \, h\text{Mpc}^{-1}$において、学習されたマークは、古典的なマークと比較して、$\sigma_8$に対して2.9倍、$\Omega_m$に対して1.8倍、周辺化された制約を厳しくした。決定的なことに、これは典型的な$\Omega_m - \sigma_8$の縮退を打破し、両方のパラメータに対して同時改善を可能にするよう、結合事後分布の輪郭を回転させた。
• 一般化（MSE）： ラテン超格子のテストセットにおいて、学習されたマークは、最良の古典的マークに対してパラメータの平均二乗誤差（MSE）を1.45倍減少させた。特に$\sigma_8$において堅牢な一般化を示したが、特定の$(p, \delta_s)$構成においては、古典的なマークの方がわずかに安定していた。
• 潜在幾何学： 学習された埋め込みの主成分分析（PCA）により、第1および第2主成分が$\sigma_8$および$\Omega_m$の方向とほぼ完全に一致していることが明らかになり、コントラスティブな目的関数が主要な宇宙論情報の軸を正常に回収していることが確認された。
• 内省： 学習されたマークの分析により、等方的な（$\ell=0$）チャネルが応答を支配しており、実質的に非線形に重み付けされた密度を回収していることが示された。一方で、異方的なチャネルは構造の境界においてサブドミナントな補正を提供している。

意義
本論文は、このアプローチがより強力で解釈可能なサマリー統計への扉を開くものであると主張している。手作業による変換を、物理的に動機付けられた学習可能なアーキテクチャに置き換えることで、本手法は、場レベルのニューラルネットワークの高い制約能力と、伝統的な統計量の解釈可能性との間のギャップを埋めている。学習されたマークを構成空間で検査できる能力により、研究者はどの局所的な形態学的特徴（例：ボイド、フィラメント、異方的構造）が最も豊かな宇宙論的信号を保持しているかを理解することができる。著者らは、これを、シミュレーションコストを削減し、銀河サーベイの科学的成果を向上させるための、柔軟な推論ツールのためのステップとして位置づけており、原始的な非ガウス性のような他のパラメータへの拡張の可能性も示唆している。