PERTURB-c: Correlation Aware Perturbation Explainability for Regression Techniques to Understand Retrieval Black-boxes

技術要約：PERTURB-c：回帰手法における相関を考慮した摂動による説明可能性：リトリーバル・ブラックボックスを理解するために

問題提起
系外惑星の大気特性評価の分野は、従来の計算負荷の高い物理ベースのリトリーバルから、機械学習（ML）ベースの手法へと移行しつつある。MLは大幅な速度向上をもたらす一方で、「ブラックボックス」的な不透明性を導入する。これは、予測が物理的に妥当な特徴に基づいているのか、それとも訓練データのアーティファクト（人工的な特徴）に基づいているのかを検証することを困難にする。この領域におけるML採用の大きな障壁は、スペクトルデータに内在する高い相関性（スペクトル線の広がりや分子の透過構造によるもの）である。

SHAP（SHapley Additive exPlanations）やceteris paribusプロファイルといった標準的な解釈可能性手法は、他の特徴量を一定に保つか、あるいは訓練分布からランダムにサンプリングしながら、個々の入力特徴量（波長ビン）を摂動させることに依存している。高度に相関したスペクトルデータにおいて、これらの手法は頻繁に「分布外（OOD）」のサンプル、すなわち物理的に不可能なスペクトル（例：隣接する波長での相関した特徴を伴わずに、特定の波長だけで高い吸収を示すもの）を生成してしまう。モデルがこれらの非物理的な入力に対してクエリを投げられると、その応答は不安定かつ無情報となり、標準的な特徴量の重要度指標を信頼できないものにしてしまう。

手法：PERTURB-c
著者らは、相関のあるスペクトルデータに対して物理的に一貫した摂動を生成するために設計されたフレームワークであるPERTURB-c（Perturbation Explainability for Regression Techniques to Understand Retrieval Black-boxes）を提案する。

1. 相関を考慮した摂動： 単一のビンを修正する標準的な手法とは異なり、PERTURB-cは隣接する波長ビンのクラスターを同時に摂動させる。これは、スペクトル間の相関は波長分離に伴って減衰するという物理的知識を活用している。
2. ガウス・マスキング： 摂動は、ターゲットとなる波長を中心としたガウス窓関数（$w_{gauss}$）を用いて適用される。これにより、特定のビンの修正に伴い、隣接するビンにも相関したより小さな修正が加えられ、生成されたスペクトルが訓練データの物理的分布内に留まることが保証される。
3. ノイズ制約付きサンプリング： 摂動の大きさは、各波長における既知の観測装置ノイズプロファイル（$\sigma_m$）によってスケールされた正規分布から抽出される。これにより、修正された観測値が妥当な物理的測定の範囲内に収まるようにしている。
4. 二段階分析：
   • ティア1 (T1)： 高速な粗いサンプリングモード（50サンプル）。摂動への応答に対して線形近似を適合させ、特徴量の重要度の符号（正/負）と大きさを決定する。
   • ティア2 (T2)： 高忠実度モード（2,000サンプル）。複数の波長の非線形応答曲線を同時に可視化する。
5. 可視化： 著者らはT2分析のためのヒートマップ表現を導入している。生の応答量（摂動がゼロになると消失するもの）をプロットするのではなく、応答勾配（$\delta r / \delta \xi$）をプロットする。これにより、連続的な波長と摂動レベルにわたってモデルの予測がどのように変化するかを直感的に可視化でき、高次元の特徴量の重要度を単一の読みやすいプロットへと凝縮することができる。

ケーススタディと結果
本フレームワークは、50,000個のシミュレーションされた惑星観測データで訓練された高密度ニューラルネットワークを用いた、WASP-107bのシミュレーション・リトリーバルにおいてテストされた。モデルは、低解像度スペクトル（100波長ビン）から分子存在量（$SO_2$, $SiO$, $PH_3$などを含む）をリトリーバルする任務を負っていた。

• SHAPとの比較： 標準的なSHAP分析は、$SO_2$の物理的なスペクトル特徴と特徴量の重要度との整合性に失敗した。SHAPによって生成されたサンプルは大部分が分布外であり、解釈可能性の出力と実際のバンドとの間の相関を損なわせた。
• PERTURB-cの性能： PERTURB-cは、$SO_2$の具体的な波長領域（例：13 $\mu$m付近）において、モデルが$SO_2$のスペクトル特徴に依存していることを特定することに成功した。ヒートマップ可視化は、モデルが$SO_2$バンドのリーディングエッジ（前縁）と12 $\mu$mのバンドギャップに焦点を当てていることを明確に示した。
• 効率性： 分布内のサンプルを生成する高い効率性により、PERTURB-cはSHAPと同等の情報量を抽出するために、SHAPよりも約200倍少ないサンプル数で済んだ。その結果、PERTURB-cの実行時間（ティア2）は、SHAPよりも約22倍高速であった（特定のテストケースにおいて0.2456秒対5.3159秒）。
• 縮退の解消： この分析は、モデルが$SiO$をリトリーバルする際に、$SO_2$の特定のバンドを利用して縮退を解いていることを明らかにした。これは、複雑で非線形なモデルの挙動を解明する本フレームワークの能力を示している。

意義と主張
本論文は、PERTURB-cが、相関のあるスペクトルデータに適用された際の既存の解釈可能性ツールの根本的な限界に対処することを主張している。ガウス・マスキングを通じて物理的一貫性を強制することで、モデルの応答を不安定にする非物理的なサンプルの生成を回避している。

著者らは、PERTURB-cをベイズ・リトリーバルの代替物としてではなく、系外惑星科学のビッグデータ時代に必要とされる「低レイテンシ」戦略のための不可欠なツールとして位置づけている。主な貢献は以下の通りである：

• モデル非依存性： 本フレームワークは、相関の高い一次元構造化入力を取り扱うあらゆる回帰モデルに適用可能である。
• プロポーザル・ツールとしての活用： 著者らは、PERTURB-cを用いて観測制約を逆設計できることを示している。例えば、潮汐加熱による高い$SO_2$含有量といった仮説をシミュレートし、その仮説を検証するために必要な波長ビンごとの誤差（不確かさ）を決定することで、望遠鏡のプロポーザル準備やターゲット選定を支援できる。
• 透明性： ヒートマップ可視化は、標準的な棒グラフやウォーターフォール図と比較して、大量の入力特徴量に対する特徴量の重要度を、より直感的かつ情報密度の高い表現で提供する。

結論として、MLリトリーバルが不可欠になりつつある一方で、その採用は「推論」を検証できる能力にかかっている。PERTURB-cは、物理的に妥当なスペクトル特徴によって予測が駆動されていることを保証し、バイアスのリスクを軽減するための、堅牢で効率的、かつ物理的根拠に基づいた方法を提供するものである。