PERTURB-c: Correlation Aware Perturbation Explainability for Regression Techniques to Understand Retrieval Black-boxes

技术摘要：PERTURB-c：用于理解检索黑盒的回归技术中具有相关性感知能力的扰动解释法

问题陈述
系外行星大气特征表征领域正从传统的、计算密集型的基于物理学的检索向基于机器学习（ML）的方法转型。虽然机器学习提供了显著的速度优势，但也引入了“黑盒”不透明性，使得验证预测是基于物理上合理的特征还是训练数据的伪影变得困难。采用机器学习解决该领域问题的关键障碍在于光谱数据中固有的高相关性（由于谱线展宽和分子传输结构所致）。

标准的解释性方法，如 ceteris paribus（在其他条件不变下）剖面图和 SHAP（SHapley Additive exPlanations），依赖于对单个输入特征（波长箱/wavelength bins）进行扰动，同时保持其他特征不变或从训练分布中随机采样。在高度相关性的光谱数据中，这些方法经常会生成“分布外”（OOD）样本——即物理上不可能存在的光谱（例如，在某一波长处具有高吸收，但相邻波长的相关特征却不匹配）。当模型被查询这些非物理输入时，其响应会变得不稳定且缺乏信息量，从而导致标准的特征重要性指标在光谱检索任务中变得不可靠。

方法论：PERTURB-c
作者提出了 PERTURB-c（Perturbation Explainability for Regression Techniques to Understand Retrieval Black-boxes，用于理解检索黑盒的回归技术扰动解释法），该框架旨在为具有相关性的光谱数据生成物理一致的扰动。

1. 相关性感知扰动： 与修改单个波长箱的标准方法不同，PERTURB-c 同时扰动一组相邻的波长箱。它利用了光谱相关性随波长间距增加而衰减的物理知识。
2. 高斯掩模（Gaussian Masking）： 扰动通过一个以目标波长为中心的高斯窗函数（$w_{gauss}$）进行应用。这确保了对特定波长箱的修改会伴随着相邻波长箱较小的、相关的修改，从而使生成的光谱保持在训练数据的物理分布内。
3. 噪声约束采样： 扰动的幅度是从由每个波长处的已知仪器噪声轮廓（$\sigma_m$）缩放的正态分布中提取的，确保修改后的观测值仍处于合理的物理测量范围内。
4. 两层分析：
   • 第一层 (T1)： 一种快速、粗采样模式（50 个样本），通过拟合扰动响应的线性近似来确定特征重要性的符号（正/负）和量级。
   • 第二层 (T2)： 高保真模式（2,000 个样本），用于同时可视化多个波长的非线性响应曲线。
5. 可视化： 作者引入了一种用于 T2 分析的热图表示法。他们绘制的不是原始响应量（其在零扰动处消失），而是响应梯度（$\delta r / \delta \xi$）。这使得直观地观察模型预测如何随连续波长和扰动水平的变化变得可能，将高维特征重要性浓缩为单一的可读图表。

案例研究与结果
该框架在一个模拟的 WASP-107b 检索任务中进行了测试，该任务使用了一个在 50,000 个模拟行星观测数据上训练的密集神经网络。该模型的目标是从低分辨率光谱（100 个波长箱）中检索分子丰度（包括 $SO_2$、$SiO$、$PH_3$ 等）。

• 与 SHAP 的比较： 标准的 SHAP 分析未能使特征重要性与 $SO_2$ 已知的物理光谱特征对齐。SHAP 生成的样本很大程度上处于分布外，导致解释性输出与实际谱带之间的相关性较差。
• PERTURB-c 性能： PERTURB-c 成功识别了模型依赖 $SO_2$ 光谱特征的具体波长区域（例如 13 $\mu$m 附近）。热图可视化清晰地展示了模型如何聚焦于 $SO_2$ 波带的前缘以及 12 $\mu$m 处的波带间隙。
• 效率： 由于生成分布内样本的高效性，PERTURB-c 仅需大约 SHAP 数量 1/200 的样本即可提取等效的信息量。因此，PERTURB-c 的执行时间（T2 层）大约比 SHAP 快 22 倍（针对特定测试用例，分别为 0.2456s 和 5.3159s）。
• 退化消除（Degeneracy Breaking）： 分析显示，模型利用特定的 $SO_2$ 波带来打破检索 $SiO$ 时的简并性，证明了该框架揭示复杂非线性模型行为的能力。

意义与主张
论文声称 PERTURB-c 解决了现有解释性工具在应用于具有相关性的光谱数据时的根本局限性。通过高斯掩模强制执行物理一致性，该方法避免了生成会导致模型响应不稳定的非物理样本。

作者将 PER TURB-c 定位为并非替代贝叶斯检索，而是实现系外行星科学大数据时代所需的“低延迟”策略的必要工具。其核心贡献包括：

• 模型无关性： 该框架适用于任何处理具有高相关性的一维结构化输入的回归模型。
• 提案工具： 作者展示了可以使用 PERTURB-c 来反向工程观测约束。通过模拟一个假设（例如，潮汐加热导致高 $SO_2$ 含量），研究人员可以使用 PERTURB-c 来确定验证该假设所需的每个波长箱的必要不确定度，从而为望远镜提案准备和目标选择提供帮助。
• 透明度： 与标准的条形图或瀑布图相比，热图可视化提供了一种更直观、信息密度更高的特征重要性表示方法，适用于处理大量输入特征。

论文得出结论，虽然机器学习检索正变得至关重要，但其采用取决于能否验证其“推理”过程。PERTURB-c 提供了一种稳健、高效且具有物理基础的方法来实现这种透明度，减轻偏差风险并确保预测是由物理上合理的谱特征驱动的。