Measuring the Vertical Structure of Active Galactic Nuclei Disks with Transformer Models and the Vera C. Rubin Observatory

技術要約：TransformerモデルとVera C. Rubin天文台を用いた活動銀河核ディスクの垂直構造の測定

問題提起
活動銀河核（AGN）の降着円盤は、通常、連続波リバーブレーション・マッピングを通じて研究されており、これは放射半径構造を決定するために「短いラグ」（光が横断するタイムスケール）を測定するものである。しかし、「長い負のラグ」（粘性または流入のタイムスケールによる変動の内側への伝播に起因するもの）を検出することは、AGNディスクの垂直構造（スケールハイト）を知るための独自の窓となる。現在の観測キャンペーンは、これらの長いラグを検出する上で大きな障害に直面している：

1. 季節的なギャップ： Vera C. Rubin天文台のライトカーブには約6ヶ月の季節的ギャップが含まれ、これが長いラグと同等のタイムスケールにおけるエイリアシングや偽信号の検出を引き起こす。
2. 信号強度： 長いラグの信号は、しばしい短ラグの信号よりも著しく弱いことが多く、従来の検出手法を混乱させる。
3. データ量： 数百万ものAGNから流入する膨大なデータには、効率的な処理技術が必要である。
   補間相互相関関数（ICCF）や javelin（マルコフ連鎖モンテカルロ法の一種）などの従来の手法は、特に季節的ギャップや弱い長ラグ信号が存在する場合において、これらの特定の課題への対処に苦慮することが示されている。

手法
著者らは、模擬的なRubin AGNライトカーブにおける短ラグおよび長ラグの両方の事後分布を予測するために、Transformerベースの機械学習モデルを開発し、訓練を行った。

• データのシミュレーション： チームは、AGNの変動を減衰ランダムウォーク（DRW）としてモデル化するために EzTao を用いて $2 \times 10^6$ 個の模擬ライトカーブを生成した。ガウス応答関数を介して、短ラグ（$\tau_{short} \in [0.05, 10]$ 日）と長い負のラグ（$\tau_{long} \in [-3650, -10]$ 日）を導入した。モデルが長ラグの有無を区別できるように、約50%の曲線に $\tau_{long} = 0$ を割り当てた。長ラグと短ラグの振幅比（$r$）は、対数一様分布（$10^{-3}$ から $1$）から抽出された。その後、これらの曲線は、現実的なケイデンス、ノイズ、および季節的ギャップを組み込んだディープドリル領域用のRubin Operations Simulator (OpSim) を用いて「観測」された。
• モデルアーキテクチャ： Transformerモデルは、時間および輝度データ（0–1に正規化され、日単位の間隔に集約され、観測されていないステップは -2 とマークされる）を処理する。アーキテクチャには以下が含まれる：
  • 時間に基づく位置エンコーディングを備えた埋め込み層。
  • 8つのTransformerブロック（256次元、16ヘッド）。
  • グローバル平均プーリングと全結合層。
  • 出力は、長ラグがない場合（$\phi=1$）と長ラグがある場合（$\phi=0$）の2つのガウス混合分布をパラメータ化する。
• 訓練： モデルは、単一のNVIDIA A100 GPU上で、コサイン減衰を伴うAdamオプティマイザを使用して13時間訓練された。ハイパーパラメータは、Tree-structured Parzen Estimatorアルゴリズムを用いたベイズ最適化（75試行）によって最適化された。損失関数は、長ラグの確率（$p$）とラグ時間の条件付き分布を学習するためにKLダイバージェンスを最小化する。
• ベースライン： 同様の模擬データセットに対して適用されたICCFおよび javelin と性能を比較した。

主な結果
Transformerモデルは、従来のメソッドと比較して、長い負のラグの検出および特性評価において優れた性能を示した：

• 検出精度： $2 \times 10^4$ 個の模擬ライトカーブのテストセットにおいて、モデルは確率閾値 $(1-p_\phi) > 0.906$ を使用した場合、96%の再現率（完全性）かつわずか0.04%の汚染（偽陽性）で、長い負のラグの存在を特定した。
• ラグ予測： 長いラグを持つと特定されたライトカーブについて、モデルは真の値の20%以内で98%の精度で、また10%以内で92%の精度でその持続時間を予測した。
• 弱い信号への堅牢性： 振幅比（$r$）が低い場合（$r < 0.01$）でも、モデルは長いラグを正常に検出し、そのようなケースの欠落はわずか13%であった。対照的に、ICCFはこの低比率領域において、長いラグの87%の検出に失敗した。
• ベースラインとの比較：
  • ICCF： 真のラグの20%以内の精度を持つのは、ケースのわずか54%のみであった。短ラグの信号が支配的な場合に著しく苦戦する。
  • javelin： 20%以内の精度を持つのは、ケースのわずか21%のみであった。深刻なエイリアシングに悩まされ、季節的ギャップ（180日）の奇数倍のラグを頻繁に予測する。また、Transformerと比較して高い偽陽性率（4.0%）を示す。
• 効率性： 学習済みのTransformerは、単一のGPUで1,000個のライトカーブを0.9秒で処理する。比較として、同じボリュームに対してICCFは単一のCPUで12時間を、javelin は5日間を必要とする。

意義と主張
本論文は、TransformerモデルがVera C. Rubin天文台のデータ氾濫への準備における「革命的」な一歩であることを主張している。欠損データ（季節的ギャップ）や混同信号（短ラグ）を周辺化することを暗黙的に学習することで、モデルは従来のリバーブレーション・マッピング技術の特定の限界を克服している。

著者らは、この能力が以下の事項に極めて重要であることを強調している：

1. 垂直構造の測定： 長い負のラグはディスクのアスペクト比（$h/r$）の直接的なプローブを提供し、標準的な薄いディスクモデルと磁気的に隆起したディスクモデルの検証を可能にする。
2. スケーラビリティ： モデルの速度により、Rubinから期待される数百万のAGNライトカーブの分析が可能になる。これは現在のMCMCベースの手法では不可能なタスクである。

著者らは、モデルが特定の仮定に基づいて生成された模擬データのみで訓練およびテストされたことを指摘し、実世界への適用に関しては控えめなトーンを維持している。彼らは、実際のRubinのライトカーブには予期せぬ課題が生じる可能性があること、また、経験的な制約が不足しているため、現在のモデルは物理パラメータ間（例：ブラックホール質量とラグの持続時間）の潜在的な相関を考慮していないことを認めている。今後の課題として、Zwicky Transient Facility (ZTF) のデータを用いてモデルを検証すること、および、より多くの実際の長ラグ検出が得られるにつれてモデルを洗練させることが提案されている。