Accurate neural network emulator for primordial light element abundances

技術要約：BBNet – 初期軽元素存在量を正確に予測するニューラルネットワーク・エミュレータ

問題提起
ビッグバン元素合成（BBN）は、初期宇宙の物理学に対する重要なプローブであり、標準的な$\Lambda$CDMモデルおよび標準模型を超える（BSM）シナリオに対して厳格な制約を与えます。しかし、高精度な数値的BBN計算は、数十の核種と数百の反応を含む複雑な核反応ネットワークを解く必要があるため、計算コストが非常に高いものです。従来の第一原理ソルバー（例：PArthENoPE、AlterBBN）は、1回の実行に0.1秒から数十秒を要します。この計算上の負担は、数千から数百万回の評価を必要とするマルコフ連鎖モンテカルロ（MCMC）サンプリングのような、大規模な宇宙論パラメータ推論タスクにおけるボトルネックとなっています。

これを軽減するために、既存のアプローチでは、簡略化された数値的処方箋（例：核種や反応を減らした簡略化された核ネットワーク）や、精度の低い常微分方程式（ODE）積分アルゴリズムに頼ることがよくあります。これらの手法は速度を向上させますが、系統的なバイアスを導入し、宇宙論的推論の精度を損なう可能性があります。観測精度が向上するにつれ（例：ELT-ANDESによる重水素/水素比の将来的な測定）、簡略化されたソルバーによって導入される理論的誤差が観測の不確かさに匹敵、あるいはそれを上回る可能性があり、近似の速度を維持しつつフル数値計算の精度を維持できる解決策が必要とされています。

手法
著者らは、原始的な軽元素存在量（ヘリウム4の質量分率 $Y_P$ および重水素のD/H比）を高精度かつ高速に予測するために設計されたディープラーニング・エミュレータであるBBNetを提案しています。

• 学習データの生成: エミュレータは、2つの独立した公開BBNコードであるPArthENoPE v3.0およびAlterBBN v2.2によって生成されたデータを用いて学習されます。一貫性を確保するため、著者らは両方のコードを修正し、主要なプロセス（$p+n \leftrightarrow \gamma+^2\text{H}$ など）に対して同一の核反応率を使用し、拡張された宇宙論モデルに対応させました。
• 宇宙論モデル: 学習データは、標準的なパラメータ（バリオン密度 $\Omega_b h^2$、中性子寿命 $\tau_n$）およびBSMパラメータ（有効な追加相対論的種の数 $\Delta N_{\text{eff}}$、および状態方程式が $w=1$ である前BBN期の「硬い」相（キネーション）を記述するパラメータ $\kappa_{10}$）を含む、4次元のパラメータ空間をカバーしています。
• ニューラルネットワーク・アーキテクチャ: BBNetは残差マルチヘッド・アーキテクチャを利用しています。入力ベクトルは、ガウス誤差線形ユニット（GeLU）活性化関数を備えた線形層によって投影されます。続いて、物理パラメータ間の複雑で非線形な依存関係を捉えるために、**マルチヘッド自己注意（MHSA）**モジュールが用いられます。ネットワークの核となる部分は、$N$ 個の残差多層パーセプトロン（MLP）ブロックとドロップアウト正則化で構成されています。
• 学習戦略: モデルは、勾配クリッピングを伴うAdamWオプティマイザを使用して学習されます。損失関数は、存在量に対する平均絶対誤差（MAE）と、2つの正則化項を組み合わせたものです。一つは、小さな入力摂動に対しても安定性を確保するための平滑化ペナルティであり、もう一つは、D/Hの広いダイナミックレンジを扱うために特別に設計された対称平均絶対パーセント誤差（sMAPE）項です。

主な貢献

1. BBNetの開発: フルBBN数値ソルバーの代理として機能し、ミリ秒単位で原始元素存在量を出力できるディープラーニング・フレームワーク。
2. 拡張された宇宙論的サポート: ダーク放射（$\Delta N_{\text{eff}}$）や硬い流体相（$\kappa_{10}$）を含むBSM物理学を明示的に扱うように訓練されており、これらは簡略化された解析的近似では組み込むことが困難な場合が多いものです。
3. デュアルコード検証: エミュレータは、2つの異なる高精度BBNコードに対して学習および検証されており、単一のソルバーの特定の実装詳細ではなく、基礎となる物理的マッピングを学習していることを示しています。
4. 系統的バイアスの排除: BBNetは、簡略化された数値的手法（例：縮小されたネットワークや低次積分器）に固有の系統的なオフセットを回避することを実証しています。

結果

• 精度: BBNetは、PArthENoPEおよびAlterBBNのグラウンドトゥルース出力を無視できる程度の誤差で再現します。PArthENoPEのデータを用いた場合、平方根平均二乗パーセント誤差（RMSPE）は $Y_P$ で $\sim 0.016\%$、$D/H$ で $\sim 0.05\%$ であり、現在の観測の不確かさを十分に下回っています。平均パーセント誤差（MPE）は実質的にゼロ（$< 0.002\%$）であり、エミュレータにバイアスがないことを示しています。
• 速度: エミュレータは、フル第一原理ソルバーと比較して $O(10^3)$ から $O(10^4)$ の高速化を実現しています。NVIDIA A100 GPU上でのバッチ処理による推論時間は、従来のコードが数十秒かかるのに対し、サンプルあたり $\sim 2.5$ ミリ秒です。
• MCMC効率: MCMC収束テストにおいて、BBNetは収束に要する時間を、フルソルバーを用いた場合の数日間から数秒へと短縮しました（2パラメータモデルで $\sim 47$ 秒、4パラメータモデルで $\sim 81$ 秒）。これは、簡略化された数値的手法（例：PArthENoPEの「スモール」ネットワーク）をも速度において $\sim 100$ 倍上回っています。
• 誤差分布: 系統的なドリフト（例：存在量の過小評価）を示す簡略化されたソルバーとは異なり、BBNetの残差誤差はゼロを中心に分布しており、偏り（スキュー）がなく、ベンチマークとなる解を忠実に再現しています。

意義
本論文は、BBNetが、計算速度と理論的精度の間の伝統的なトレードオフを効果的に解決し、原始元素存在量の理論的予測に対する最適なソリューションを提供すると主張しています。簡略化された数値的処方箋を置き換えることで、BBNetは、計算誤差が観測の不確かさに匹敵することがあることなく、精密宇宙論および新物理学の探索（特にダーク放射や硬い相に関するもの）を可能にします。著者らは、このツールがELT-ANDES分光器によって予想されるような将来の高精度解析に不可欠であり、拡張された宇宙論モデルにおけるベイズ推論のための信頼性と柔軟性に優れたフレームワークとして機能すると結論付けています。また、他の軽元素（$^3\text{He}, ^7\text{Li}$）や変化する核反応率へと拡張できる潜在的な枠組みについても言及しています。