Physically Consistent Parameter Inference: Transparent Machine Learning Emulation in High Energy Physics and Cosmology

技术摘要：通过透明机器学习实现物理一致性的参数推断

问题陈述
高能物理（HEP）和宇宙学中的全局拟合经常面临挑战，即如何在受数百个相关测量值约束的高维参数空间中进行探索。这些领域的似然函数通常表现出复杂的拓扑结构，包括强参数相关性、非高斯行为、多个局部极小值以及拉长的“弯曲”简并。此外，评估这些似然函数所需的理论预测在计算上非常昂贵，通常涉及重整化群演化、数值距离积分或数百个可观量的计算。传统的统计方法（如马尔可夫链蒙特卡洛 MCMC 或嵌套采样）依赖于重复的似然评估，使得详尽的参数扫描变得不切实际或极其缓慢。因此，迫切需要一种快速、可解释的代理模型，能够在不牺牲统计严谨性或物理可解释性的前提下，模拟这些复杂的似然景观。

方法论
作者提出了一种统一的机器学习（ML）框架，旨在利用 XGBoost（极端梯度提升，一种梯度提升回归树集成算法）来模拟对数似然函数（或 $\chi^2$）。该框架集成了三个核心组件：

1. 代理构建：

   • 训练数据生成： 训练数据集通过混合策略构建。它结合了覆盖全先验体积的空间填充设计（使用拉丁超立方采样或 Sobol 序列）以及围绕由拟合 Hessian 矩阵确定的最佳拟合区域的密集高斯云。这确保了既能覆盖广泛的参数空间，又能捕捉狭窄且各向异性的简并。
   • 主动学习： 对于似然函数稀疏或表现出尖锐结构的区域，通过主动学习循环来优化数据集。高斯过程（GP）代理用于预测不确定性，而采集函数（期望改进 Expected Improvement）则选择新的点进行精确评估，从而逐步集中采样于最能改善模拟似然值的区域。
   • 目标变换： 为了处理 $\chi^2$ 值的巨大动态范围（从 $\sim 10^3$ 到 $10^6$）并确保模型能够解析极小值附近的狭窄置信区域，作者采用了特定的目标变换。这些方法包括用于味物理拟合的直接对数似然、使用 Sigmoid 变换用于类轴子（ALPs）的分类器加回归器两阶段策略，以及用于宇宙学的 偏移对数 10 变换 ($y = \log_{10}(\chi^2 - \chi^2_{\min} + 1)$)。这种偏移将极小值映射到变换中一致的陡峭区域，无论绝对 $\chi^2$ 值是多少。

2. 通过 SHAP 实现的可解释性：

   • 为了确保 ML 预测保持物理一致性，该框架利用了 SHAP（Shapley 加性解释） 值。基于合作博弈论，SHAP 量化了每个特征（模型参数）对预测的边际贡献。
   • 使用 TreeSHAP 算法可以在多项式时间内为树集成模型计算精确的 SHAP 值。这提供了模型无关的参数重要性排序，并揭示了非线性依赖关系，确保代理模型捕捉的是底层物理而非数值噪声。

3. 后验探索：

   • 使用并行随机游走 Metropolis–Hastings 算法对模拟的 $\chi^2$ 进行采样。提议协方差设置为拟合协方差的 Cholesky 分解因子，以提高在相关空间中的混合度。
   • 闭合测试（Closure Tests）： 该框架通过将接受点上的 $\Delta\chi^2$ 分布与预期的 $\chi^2$ 分布（威尔克斯定理 Wilks' theorem）进行比较，并在宇宙学案例中，通过直接将模拟后验与通过多个独立后端（Astropy, CPU, GPU）采样的精确似然进行比较，来验证代理模型的有效性。

关键应用与结果
该框架在三个具有不同维度和复杂性的全局拟合应用中得到了验证：

1. 半轻子 B 介子衰变中的味异常（SMEFT19）：

   • 背景： 分析使用 SMEFT19 框架（情景 III）中 $b \to c\tau\nu$、$b \to s\nu\bar{\nu}$ 和 $b \to s\ell^+\ell^-$ 跃迁的偏差。
   • 性能： XGBoost 代理实现的 Pearson 相关系数为 $r=0.99$，与精确似然高度一致。
   • 加速比： 评估速度提高了约 $10^5$ 倍（从每点约 3 秒增加到约 34 微秒）。
   • 物理洞察： 代理成功重现了 $C_1 = C_3$ 简并的破缺以及 $(C_1, \beta_q)$ 平面中的弯曲脊线。SHAP 分析正确地对参数进行了排序（$C_3 > C_1 > \beta_q$），这与底层算符结构一致。至关重要的是，它揭示了在 $C_1$ 和 $C_3$ 独立变化时，先前情景中发现的 $R_D$ 与 $BR(B^+ \to K^+\nu\bar{\nu})$ 之间的强相关性会消失。

2. 类轴子（ALPs）与 Belle II 异常：

   • 背景： 利用轻质量类轴子（$m_a \approx 2$ GeV）解释 $B^+ \to K^+\nu\bar{\nu}$ 中的 $2.8\sigma$ 过剩现象。由于运动学阈值和依赖寿命的衰变概率，其似然函数是非高斯且不连续的。
   • 策略： 使用了两阶段方法：首先通过分类器（Sigmoid 变换）隔离相关的低 $\chi^2$ 区域，随后进行回归。
   • 性能： 分类器的 AUC 达到 0.974，回归器的相关系数 $r=0.929$。
   • 加速比： 评估速度提高了约 $5.3 \times 10^5$ 倍（从约 1.9 秒增加到约 3.5 微秒）。
   • 物理洞察： SHAP 识别出类轴子质量 ($m_a$) 是最关键的参数，其次是第三代左手夸克的 PQ 电荷 ($X^3_{qL}$) 和衰变常数 ($f_a$)。后验分布正确地倾向于 $m_a \approx 1.8$ GeV 和 $f_a \in [10^6, 10^7]$ GeV。

3. 宇宙学（$\Lambda$CDM 和 $w_0w_a$CDM）：

   • 背景： 通过拟合 Ia 型超新星（Pantheon+, DES）、重子声学振荡（DESI）以及压缩后的 CMB 先验来约束暗能量参数（$w_0, w_a$）。
   • 验证： 与前两个案例不同，精确的宇宙学似然计算成本较低，足以直接采样。作者使用四个不同的后端（Astropy, CPU, GPU 以及 ML 代理）在精确似然上运行了 MCMC，并确认其后验分布在统计上是不可区分的。
   • 加速比： 代理模型的速度比向量化 CPU 实现快 $3.6$–$22.4\times$，比 GPU 内核快 $7.2$–$12.1\times$。
   • 物理洞察： 代理模型捕捉到了超新星+BAO 数据对动力学暗能量（$w_0 > -1, w_a < 0$）的偏好，以及加入 CMB 先验后回归至 $\Lambda$CDM 的过程。SHAP 分析正确识别了约束层级：在没有 CMB 时，背景参数（$H_0, \Omega_m$）占主导地位；加入 CMB 后，暗能量参数（$w_0, w_a$）变得最为受限，这反映了物理轮廓的收紧。

意义与主张
本文声称提出了一个通用、可解释且物理一致的基于似然的推断框架。其主要意义在于证明了：

• 效率： ML 代理可以将参数空间探索的速度提高数个数量级（高达 $10^5$），同时保持极高的精度。
• 鲁棒性： 通过自适应训练设计和目标变换，该方法可以处理多样化的似然拓扑，从平滑的高斯型曲面到非高斯、不连续且高度结构化的景观。
• 透明度： 通过集成 SHAP 值，该框架避免了典型 ML 的“黑箱”性质，确保推断的参数层级和相关性在物理上是可解释且与底层理论一致的。
• 验证： 宇宙学应用作为一个受控基准，证明了加速并不以牺牲统计准确性为代价，因为模拟出的后验分布与通过精确计算得到的后验分布是不可区分的。

作者总结道，该框架易于迁移到其他全局拟合问题中，并为未来开发自动化主动学习和可微化模拟器奠定了基础。