🔭 astrophysics

Machine Learning Techniques for Astrophysics and Cosmology: Simulation-Based Inference

本文提供了面向天体物理学和宇宙学的基于模拟的推断技术的教学综述，涵盖核心方法、实用选择指南、诊断验证、近期应用以及利用有限模拟预算进行训练这一关键挑战。

原作者： Leander Thiele

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Leander Thiele

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗语言和日常类比对论文《天体物理学与宇宙学中的机器学习技术：基于模拟的推断》的解释。

宏观图景：“黑箱”问题

想象你是一名侦探，试图弄清楚一台复杂机器是如何运作的。你能看到输入（你调节的设置）和输出（它发出的噪音），但你看不见内部的齿轮。

在天体物理学和宇宙学中，科学家们正面临完全相同的问题。他们拥有一个宇宙模型（机器），上面有许多可调节的旋钮（参数，如暗能量的量或宇宙膨胀的速度）。他们可以运行超级计算机模拟，看看在这些设置下宇宙会呈现何种模样，但他们无法写下一个简单的数学公式来确切解释为什么宇宙会呈现那种模样。这个缺失的公式被称为“似然函数”，在许多情况下，它是“难以处理的”（过于混乱而无法计算）。

基于模拟的推断（SBI） 就是解决方案。科学家们不再试图写出数学公式，而是训练一个神经网络（一种人工智能），仅通过观察成千上万次模拟来学习设置与输出之间的关系。这就像通过向狗展示 1000 次“坐下”的动作来教它识别“坐下”指令，而不是去解释腿部肌肉的物理学原理。

三大主要工具

该论文解释了人工智能解决这一谜团的三种主要方式。可以将它们想象为侦探可能使用的三种不同策略：

1. 神经后验估计（NPE）：“直接答案”

工作原理：AI 被训练为观察数据（噪音）并立即猜测设置（旋钮）。
类比：想象一个天气应用程序，它观察云层并立即告诉你：“有 90% 的概率会下雨。”它跳过了中间环节，直接给出概率。
优点：速度快，能立即给出答案。
缺点：如果你有多个独立的数据点（例如观察两个不同城市的云层），这种方法可能会感到困惑，因为它已经“内嵌”了自己对天气的假设。

2. 神经似然估计（NLE）：“规则手册”

工作原理：AI 学习规则手册：“如果旋钮设置为 X，噪音将呈现为 Y 的样子。”它不直接给你答案，而是给你计算答案的公式。
类比：AI 不是直接告诉你天气，而是给你一本完美的天气手册。你仍然需要做数学计算来确定是否会下雨，但这本手册如此出色，你可以信任其结果。
优点：非常灵活，适用于需要处理许多不同参数的情况。
缺点：你需要做额外的工作（运行采样算法）才能获得最终答案。

3. 神经比率估计（NRE）：“法官”

工作原理：AI 被训练成一名法官。它被展示两种情景：一种是数据来自真实模型，另一种是数据和设置只是随机配对的。AI 学习识别其中的差异。
类比：想象一位品酒师。你给他一杯酒，问：“这是 2015 年的年份酒，还是随机混合的？”AI 学会回答：“是的，这符合 2015 年的设置”或“不，这不匹配”。
优点：通常是最有效且灵活的方法。
缺点：与 NLE 一样，你需要执行额外步骤才能获得最终概率。

“训练预算”问题

该论文强调了一个关键挑战：模拟非常昂贵。
运行一次宇宙模拟需要大量的计算能力和时间。科学家们通常只有几千次模拟的“预算”来训练他们的 AI。

风险：如果你只用三本教科书训练一名学生，他们可能会完美地背诵这三本书，但在面对新主题的测试时却会失败。同样，如果 AI 在太少的模拟上进行训练，它可能会给出自信但完全错误的答案。
解决方案：论文建议使用“诊断”（测试）来检查 AI 是否在撒谎。
- “秩检验”：想象你把真实答案藏在一堆猜测中。如果 AI 工作完美，真实答案出现在袋子顶部、中间或底部的可能性应该是相等的。如果 AI 总是把真实答案放在最顶部，那它就是“过度自信”的，而且可能是错误的。

这用在哪里？

该论文指出，这项技术目前正应用于两个主要领域：

宇宙学（宏观图景）：用于研究整个宇宙，例如分析星系巡天或引力透镜。这里的主要问题是数学太难写出公式。
天体物理学（具体细节）：用于引力波或恒星形成等事物。这里的主要问题是速度。科学家们需要快速得到答案（例如实时），因此他们利用 AI 跳过缓慢的数学计算。

结论

该论文总结道，虽然这些 AI 工具非常强大，但最大的障碍是确保在我们无法运行数百万次模拟的情况下，它们仍然是准确的。如果科学家能够解决这个“预算”问题并证明 AI 是值得信赖的，它将成为理解宇宙的标准工具，其可靠性将与传统的数学方法一样。

技术摘要：天体物理学与宇宙学中的机器学习技术：基于模拟的推断

1. 问题陈述

本文探讨了在天体物理学和宇宙学中，当传统方法失效时，如何执行贝叶斯参数推断的挑战。在贝叶斯范式中，参数估计需要计算后验分布 $p(\theta|x_o)$ ，这取决于似然函数 $p(x_o|\theta)$ 。作者指出了使用基于模拟的推断（SBI）的两个主要动机：

不可处理的似然函数：在许多物理模型中，前向过程 $m(\theta, \eta, \zeta)$ （将参数 $\theta$ 、干扰参数 $\eta$ 和初始条件 $\zeta$ 映射到数据 $x$ ）过于复杂，无法进行解析积分。似然函数涉及对干扰参数和初始条件的高维积分，无法简化为简单的高斯或泊松形式。因此，似然函数是未知的或不可处理的。
昂贵的似然函数：即使存在简化的似然函数（例如文中的公式 3），对干扰参数进行边缘化并通过马尔可夫链蒙特卡洛（MCMC）采样后验分布的计算成本也可能是 prohibitive（难以承受的）。这在需要实时推断的场景（例如粒子物理）或对大型数据集（例如天体物理目录）进行重复推断的场景中尤为关键。

SBI 通过在模型的前向模拟上训练神经网络，而不是依赖显式的似然函数，从而规避了这些问题。

2. 方法论

本文重点介绍了三种用于 SBI 的主要神经网络技术，假设训练数据集 $\mathcal{D}$ 由从联合分布 $p(\theta, x)$ 中采样的 $(\theta, x)$ 对组成。

2.1 神经后验估计 (NPE)

目标：使用代理密度 $q_\phi(\theta|x)$ 直接近似后验密度 $p(\theta|x)$ 。
架构：通常采用离散时间归一化流（具有可处理雅可比行列式的可逆变换），并以数据 $x$ 为条件。连续时间流被视为一种替代方案，但由于宇宙学后验分布相对简单以及摊销推断的优势，离散时间流仍是标准方法。
优化：最小化负对数似然损失： $L[\phi] = \langle -\log q_\phi(\theta|x) \rangle_{\theta,x \in \mathcal{D}}$ 。在数据量趋于无限的极限下，这收敛于最小化真实后验与代理后验之间的 Kullback-Leibler (KL) 散度。
优势：无需进一步采样，即可为任何数据向量 $x$ 提供对后验分布的直接、摊销访问。

2.2 神经似然估计 (NLE)

目标：使用代理 $q_\phi(x|\theta)$ 近似似然函数 $p(x|\theta)$ 。
架构：与 NPE 类似，通常利用归一化流。
优化：最小化给定参数下的数据负对数似然： $L[\phi] = \langle -\log q_\phi(x|\theta) \rangle_{\theta,x \in \mathcal{D}}$ 。
用途：通过将学习到的似然函数与先验结合并进行 MCMC 采样来恢复后验分布。当参数空间维度较高，或需要在多个独立数据集上对后验分布进行分解时，这种方法更受青睐。

2.3 神经比率估计 (NRE)

目标：估计似然 - 证据比率 $r(\theta, x) \equiv p(x|\theta)/p(x)$ 。
架构：利用分类器 $f_\phi$ ，训练其区分来自联合分布 $p(\theta, x)$ 的样本与来自边缘分布乘积 $p(\theta)p(x)$ 的样本。
优化：使用二元交叉熵损失。最优分类器输出通过 $r(\theta, x) = f_\phi(\theta, x) / (1 - f_\phi(\theta, x))$ 与比率相关联。
用途：与 NLE 类似，通过将比率与先验结合并运行 MCMC 来获得后验分布。NRE 通常比基于流的方法计算效率更高，因为分类器仅需前向变换。

2.4 其他技术

序列方法：这些方法不使用固定的训练集，而是基于中间后验近似迭代地细化模拟先验。当后验分布比先验分布包含的信息量大得多时，它们非常高效，但会使校准测试变得复杂。
压缩：对于高维数据，本文推荐压缩技术。线性方法（例如 MOPED、分数压缩）建议用于汇总统计量，而嵌入网络（与推断网络联合训练）用于结构化数据（例如场、图像），以尊重对称性。

3. 主要贡献与诊断

本文提供了 SBI 技术的教学指南，并强调了鉴于神经网络的“黑盒”性质，诊断对于验证结果至关重要。

3.1 失效模式

识别出两种主要的失效模式：

模型误设：前向模拟器本身的系统性误差。
训练不足：由于模拟预算有限或超参数次优导致的神经网络训练不佳。

3.2 诊断框架

基础测试：
- 数据屏蔽：移除部分数据，检查后验分布是否按预期做出定性响应。
- 后验预测检查：从推断出的后验分布中模拟新数据，并将其与观测数据进行比较，以确保观测数据是“典型的”。
校准测试（内部诊断）：通过在从同一先验分布中抽取的独立模拟集上进行测试，隔离训练不足的问题。
- 秩检验 (SBC)：检查真实参数在后验样本中的秩是否呈均匀分布。偏差表明过度自信或信心不足。
- 覆盖率检验：使用最高后验密度 (HPD) 区域或随机点准确性检验 (TARP)，验证可信度水平是否与经验覆盖率相匹配。
真实值验证：当存在显式似然算法时，C2ST（双样本分类器）、最大均值差异 (MMD) 或 PQMASS 等方法可以将神经后验分布与真实值样本进行比较。

4. 在宇宙学和天体物理学中的应用

本文回顾了 SBI 应用于真实数据的近期案例：

宇宙学：主要用于处理不可处理的似然函数。应用包括星系红移巡天（BOSS 数据）、弱引力透镜（DES、KiDS、HSC）以及涉及难以显式建模的复杂系统效应的分析。
天体物理学：由不可处理的似然函数和速度需求共同驱动。显著的应用包括引力波源推断、超新星种群分析、测光红移推断、恒星参数推断以及银河系中心伽马射线超量分析。

5. 意义与当前挑战

本文结论指出，虽然 SBI 是一个强大的工具，但其在宇宙学和天体物理学中的采用面临一个关键瓶颈：在有限的模拟预算下进行训练。

关键问题：宇宙学模拟极其昂贵，通常只允许少量训练样本。在这种模式下，推断出的后验分布可能会出现显著偏差或不准确。
未来方向：该领域正朝着两个方向发展：
1. 提高模型表达能力（例如，超越离散时间流），尽管本文指出宇宙学后验分布通常足够简单，因此这一点并非当务之急。
2. 在有限预算下提高后验保真度。提出的策略包括：
  - 集成多个网络。
  - 学习直接针对覆盖率的目标函数。
  - 多保真度训练（结合昂贵的精确模拟和廉价的近似模拟）。
  - 混合方法，对似然函数的部分使用解析近似。

作者断言，如果能够在有限预算下实现稳健的训练，SBI 将赢得社区的信任，成为与传统的显式似然采样方法并驾齐驱的工具。本文将 SBI 定位为未来宇宙学推断的关键，特别是针对目前没有其他技术可行的问题，同时指出，由于拥有大量近似独立的数据向量目录，天体物理学可能会更自然地采用 SBI。