🔭 astrophysics

Improving Generalization and Uncertainty Quantification of Photometric Redshift Models

本文表明，通过复合训练或迁移学习将光谱红移与光度红移数据相结合，能够显著改善针对 LSST 和 Euclid 等未来巡天任务的光度红移模型的泛化能力、偏差、散射以及离群率，同时还利用贝叶斯神经网络和符合预测来增强不确定性量化。

原作者： Jonathan Soriano, Tuan Do, Srinath Saikrishnan, Vikram Seenivasan, Bernie Boscoe, Jack Singal, Evan Jones

发布于 2026-01-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Jonathan Soriano, Tuan Do, Srinath Saikrishnan, Vikram Seenivasan, Bernie Boscoe, Jack Singal, Evan Jones

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：猜测恒星的距离

想象一下，你从很远的地方观察一群人。你可以看到他们的颜色（红衬衫、蓝衬衫）以及他们有多亮，但你看不清他们的脸。你想通过观察来猜测每个人站得有多远。

在天文学中，这被称为估计光度红移（或称“photo-z”）。天文学家观察的对象不是人，而是星系；观察的依据也不是衬衫，而是星系通过不同颜色滤光片（如红、绿、蓝）发出的光。

问题在于：仅凭颜色很难猜出准确的距离。 为了获得精确的距离，你通常需要一种特殊的、昂贵的工具（光谱学），它就像一个高倍缩放的透镜。但这种工具速度很慢，且只能观测到少数明亮、易于观察的星系。大多数星系对于这种工具来说要么太暗，要么长得太奇怪。

因此，天文学家使用机器学习（人工智能）来学习这种模式：“如果一个星系看起来像这样，那么它可能离我们有那样远。”

问题所在：AI 存在偏见

论文解释说，我们通常构建的 AI 模型有一个重大缺陷。它们是使用“缩放透镜”数据（光谱数据）进行训练的。

类比： 想象你在教一个学生识别动物，但你只给他看金毛寻回犬的照片。这个学生就会学到“所有的狗都是金毛寻回犬”。
现实情况： 当你给这个学生看一张吉娃娃或大丹犬的照片时（这些在真实宇宙中很常见，但在“缩放透镜”数据中却很罕见），学生就会感到困惑并做出错误的判断。

在天文学中，“缩放透镜”数据充满了明亮、常见的星系，但遗漏了那些微弱、奇特的或遥远的星系。如果我们只用这些数据来训练 AI，那么当我们要将其应用于像 LSST（一个大规模望远镜项目）这样即将到来的巨型巡天观测时，它就会失效。

解决方案：两种新的教学策略

作者尝试了两种新的方法来教授 AI，使其能够处理所有类型的星系，而不仅仅是那些容易识别的星系。他们使用了两本不同的“教科书”（数据集）：

“金标准”书 (GalaxiesML)： 非常准确的距离，但仅适用于明亮、常见的星系。
“草稿版”书 (TransferZ)： 距离测量不够精确，但涵盖了极其多样的星系，包括微弱和奇特的星系。

他们测试了两种结合这两本书的策略：

策略 1：“混合课堂”（复合数据集）

他们没有只用一本书来教 AI，而是将两本书的页面混合在一起，组成了一本巨大的教科书。

类比： 你把学生放在一个既有“完美”的金毛寻回犬，又有“草稿版”吉娃娃的教室里。学生通过学习同时识别它们的差异和相似之处。
结果： 这项工作效果非常好。在混合书籍上训练的 AI 在预测所有类型星系的距离方面变得更加出色。它减少了偏见，也比仅使用“金标准”训练的 AI 犯下的离谱错误更少。

策略 2：“学徒制”（迁移学习）

首先，他们使用“草稿版”书（包含多种星系类型的书）来教授 AI。然后，他们将训练好的 AI 交给“金标准”书进行“进阶课程”，以精炼其准确性。

类比： 你教一名木工学徒如何使用廉价、粗糙的木材来盖房子（这样他们可以学习基础结构）。然后，你用昂贵、完美的木材给他们进行最后的考试，以提升他们的技能。
结果： 这对“完美木材”（明亮星系）非常有效，但学徒忘记了如何处理“粗糙木材”（微弱星系）。它在某一方面变得非常出色，但在另一方面却变差了。

“不确定性”问题：知道自己何时不知道

在科学领域，仅仅做出一个猜测是不够的；你还需要知道你对这个猜测有多大的把握。

类比： 如果气象预报员说“会下雨”，你会希望知道他是 99% 确定，还是仅仅在瞎猜。
论文中的工具： 作者使用了一种称为分拆共形预测 (Split Conformal Prediction) 的数学技巧。可以把它想象成一个“安全网”。即使 AI 不是 100% 确定，这个工具也会在答案周围画一个框，并说明：“我们有 68% 的把握真实答案就在这个框内。”
发现： 他们发现，虽然“混合课堂”AI 在预测数值方面表现最好，但“学徒制”AI（以及其他模型）在表达“我不确定”时表现得更好。

最终结论

论文得出结论：如果你想要一个能够应对宇宙中混乱、多样化现实（如即将到来的 LSST 巡天）的 AI，那么**混合数据源（混合课堂）**是最好的方法。

获胜者： 在复合数据集（混合了两本书）上训练的 AI 最为一致。它不会被奇特的星系搞混，并且满足了未来空间观测任务的大部分严格要求。
权衡： 虽然它是预测距离的最佳选择，但它在“安全网”（不确定性）方面仍需帮助。作者指出，对于最复杂的概率模型，AI 有时会在不该自信的时候表现得过于自信。

简而言之： 要构建一个更好的望远镜 AI，不要只喂给它“完美”的数据。也要喂给它一点“杂乱”的数据，这样它才能学会识别整个宇宙，而不只是那些容易识别的部分。

技术摘要：改进光度红移模型的泛化能力与不确定性量化

问题陈述
准确的光度红移（photo-z）估计对于像 LSST 和 Euclid 这样的第四阶段宇宙学巡天至关重要，这些巡天需要精确测量星系分布以约束暗能量和暗物质。目前的机器学习（ML）光度红移估计模型通常使用光谱红移进行训练，后者作为高精度地面真值（ground truth）。然而，光谱样本往往偏向于明亮的发射线星系，并不能充分代表目标宽场巡天中所针对的多样化暗弱星系群体。这种分布不匹配限制了机器学习模型在应用于更广泛星系群体时的泛化能力。此外，虽然确定性神经网络（NN）可以提供点估计，但它们缺乏内在的不确定性量化能力，而这对于避免弱引力透镜研究中的偏差至关重要。

方法论
作者通过使用两种不同的地面真值来源开发并评估了机器学习模型：

GalaxiesML： 一个包含约 286,000 个星系的数据集，具有光谱红移，代表了明亮且经过光谱观测的目标群体。
TransferZ： 一个新构建的数据集，包含约 116,000 个利用 COSMOS2020 星表（使用 LePhare 模板拟合）和 HSC-PDR2 光度数据推导出的光度红移星系。该数据集覆盖了更暗的星等和更广的红移范围，是对光谱样本的补充。

研究对比了三种训练策略：

单一地面真值（Single Ground Truth）： 仅在 GalaxiesML 或 TransferZ 上进行训练。
复合数据集（Composite Dataset）： 在一个包含光谱和光度地面真值的合并“Combo”数据集上训练单个模型。
迁移学习（Transfer Learning）： 在更广泛的 TransferZ 数据集上进行预训练，然后在精确的 GalaxiesML 数据集上进行微调。

采用了两种模型架构：

确定性神经网络（NNs）： 提供点估计。
贝叶斯神经网络（BNNs）： 输出概率分布以量化不确定性。

为了解决确定性模型缺乏不确定性的问题，并提高 BNNs 的校准度，作者实现了分裂共形预测（split conformal prediction）。该方法使用校准集来生成具有保证统计覆盖度（例如 68%）的预测区间，从而允许计算两种模型（NNs 和 BNNs）的离群率（3 $\sigma$ ）。

核心贡献

TransferZ 数据集： 创建并发布了一个基准数据集，该数据集结合了 COSMOS2020 光度红移与 HSC-PDR2 光度数据，旨在优化机器学习模型在训练更暗、更多样化星系群体方面的表现。
比较框架： 系统地评估了复合数据集训练与迁移学习在光度红移估计中的表现，特别测试了它们在不同地面真值分布下的泛化能力。
不确定性量化： 将分裂共罚预测应用于确定性 NNs 和 BNNs 以生成校准后的预测区间，从而实现与 LSST 科学需求进行直接的离群率对比。

结果

泛化能力： 在单一地面真值（光谱或光度）上训练的模型在评估另一种数据集时表现出显著的性能下降。例如，一个在 GalaxiesML 上训练的模型在测试 TransferZ 时，其偏差增加了 127 倍。
复合数据集的优越性： NN-Combo 模型（在复合数据集上训练）展示了最稳健的泛化能力。在红移范围 $0.3 < z < 1.5$ $0.3 < z < 1.5$ 内，NN-Combo 实现了：
- 与仅使用光谱数据的模型相比，在评估 TransferZ 时偏差降低了 4.5 倍。
- 与仅使用光谱数据的基准相比，散射（scatter）降低了 1.1 倍，离群率降低了 1.4 倍。
- 在 GalaxiesML 测试集上满足了三项 LSST 科学需求中的两项（偏差和离群率），并在 TransferZ 集上满足了一项需求。
迁移学习的局限性： 虽然迁移学习提高了在微调数据集（GalaxiesML）上的性能，但导致了性能的不对称性，未能维持在光度数据集 TransferZ 上的准确性。
不确定性量化：
- BNNs： 对光谱源（GalaxiesML）产生了可靠且校准良好的不确定性估计，但对分布偏移较为敏感，在 TransferZ 上表现出校准失灵。
- 确定性 NNs： 在辅以分裂共形预测后，它们达到了与 BNNs 相当的统计覆盖水平，但倾向于产生过度离散（overdispersed）的概率密度函数（PDFs）。
架构对比： 确定性 NNs 在保持不同地面真值之间一致的点估计方面通常优于 BNNs，而 BNNs 则为光谱数据提供了更优的不确定性表征。

意义与主张
本文主张，对于开发能够跨多样化星系群体进行泛化的光度红移模型，使用复合数据集进行训练比使用迁移学习更为有效。作者认为，将光度红移（来自 COSMOS2020 等星表）与光谱数据结合使用，可以使模型学习完整的星系属性分布，从而减轻由有偏光谱采样引起的系统性差距。

研究结论指出，尽管 NN-Combo 模型目前尚未完全满足所有数据集下的所有 LSST 科学需求，但它代表了迈向能够处理精密宇宙学所需之更广泛星系群体模型的关键一步。作者强调，准确表征光度红移 PDF 的表现与点估计性能对于宇宙学约束同样重要。作者还指出了局限性，包括可能低估了 TransferZ 地面真值的误差，以及在不确定性分析中假设了高斯误差分布，建议未来的工作应探索非高斯 PDF 以及针对迁移学习的进一步超参数优化。