Applying Vision Transformers on Spectral Analysis of Astronomical Objects

기술 요약: 천체 물체 스펙트럼 분석에 비전 트랜스포머 적용

문제 제기
천체 분광학은 천체의 물리적 및 화학적 특성을 규명하고 우주의 대규모 구조를 이해하는 데 필수적입니다. 그러나 현대의 슬로언 디지털 스카이 서베이 (SDSS) 나 대형 다중 객체 광섬유 분광 망원경 (LAMOST) 과 같은 관측 프로젝트에서 발생하는 데이터 양의 기하급수적 증가로 인해 스펙트럼 데이터 분석은 중대한 도전에 직면해 있습니다. 템플릿 피팅과 같은 전통적인 방법들은 종종 데이터의 복잡성을 단순화하여 정밀도를 제한하고, 참조 템플릿 선택에 크게 의존합니다. 수동 검사가 대안이 될 수 있지만, 이는 불확실성에 취약하며 수백만 개의 객체로 확장되지 못합니다. 기존 딥러닝 접근법은 가능성을 보였으나, 종종 시뮬레이션 데이터에 의존하거나, 스펙트럼을 1 차원 신호로만 취급하여 멀티채널 이미지 처리 능력을 활용하지 못하거나, 다양한 객체 유형에 걸쳐 잘 일반화되지 않는 특정 아키텍처 설계를 요구합니다.

방법론
저자들은 이미지 인식을 위해 원래 설계된 비전 트랜스포머 (ViT) 아키텍처를 1 차원 천체 스펙트럼 분석에 적응시키는 새로운 프레임워크를 제안합니다. 핵심 혁신은 1 차원 스펙트럼 데이터 (파장 대 플럭스) 를 2 차원 이미지 표현으로 변환하여 사전 훈련된 ViT 모델의 사용을 가능하게 하는 데 있습니다.

• 데이터 소스: 본 연구는 SDSS(데이터 릴리스 18) 와 LAMOST(데이터 릴리스 10, 버전 2.0) 의 실제 분광 데이터를 활용했습니다. 데이터셋은 저품질 항목을 제거하고 정규화하여 처리되었습니다. 저자들은 "Medium"(균형 잡힌 클래스 표현) 과 "Big"(전체 서베이 볼륨) 데이터셋을 구성하여 이를 "SLOMOST"라는 통합 데이터셋으로 결합했습니다.
• 이미지 표현: 스펙트럼을 224 × 224 픽셀 이미지로 인코딩하기 위해 세 가지 다른 방법이 탐구되었습니다:
  1. 심플 플롯 (Simple Plot): 스펙트럼의 직접적인 2 차원 라인 플롯.
  2. 오버랩 플롯 (Overlap Plot): 스펙트럼을 세 개의 동일한 세그먼트로 나누어 각각 RGB 색상 채널에 매핑하여 세부 사항의 가시성을 높임.
  3. 2D 맵 (2D Map): 1 차원 플럭스 데이터를 정사각형 그리드로 재구성 (데이터 포인트당 3×3 픽셀 블록 사용) 하고 강도에 따라 색상을 입힌 히트맵과 같은 표현으로, 스펙트럼 특징의 밀집된 공간 인코딩 생성.
• 모델 아키텍처: 저자들은 ImageNet 에서 원래 훈련된 사전 훈련된 ViT 백본 (DINO, 구체적으로 facebook/dino-vitb16) 을 사용했습니다. 이 모델은 처음부터 스펙트럼으로 사전 훈련되지 않은 채 스펙트럼 이미지 데이터셋에 대해 미세 조정되었습니다.
  • 분류: 형태학적 분류 (별, 퀘이사, 은하) 를 위해 커스텀 헤드가 추가되었습니다.
  • 회귀: 적색편이 ($z$) 와 항성 파라미터 (유효 온도 $T_{eff}$, 표면 중력 $\log g$, 금속성 $[Fe/H]$) 를 추정하기 위해 CLS 토큰에 선형 회귀 헤드가 연결되었습니다.
• 훈련: 모델은 회귀에는 평균 제곱 오차 (MSE) 를, 분류에는 범주형 교차 엔트로피를 사용하여 미세 조정되었으며, 하이퍼파라미터는 튜닝을 통해 최적화되었습니다.

주요 기여

1. 실제 스펙트럼에 대한 대규모 ViT 적용 최초: 저자들의 지식 범위 내에서, 이는 합성 입력이 아닌 실제 관측을 사용하여 대규모 천체 분광 데이터에 비전 트랜스포머를 적용한 첫 사례입니다.
2. 크로스-모달 적응: 공간 변환을 통해 1 차원 과학 데이터에 이미지 기반 파운데이션 모델을 재사용할 수 있음을 입증하며, 자기 주의 메커니즘을 활용하여 국소 및 전역 스펙트럼 특징을 모두 포착합니다.
3. 종합 벤치마킹: 본 연구는 여러 인코딩 전략을 평가하고, 확립된 베이스라인에 대해 분류, 적색편이 회귀, 항성 파라미터 회귀 등 다양한 작업 간의 성능을 비교합니다.

결과

• 분류: 모델은 별, 은하, 퀘이사를 구분하는 데 높은 정확도를 달성했습니다. 2D 맵 표현이 가장 좋은 결과를 냈으며, SLOMOST-Big 데이터셋에서 99.4% 정확도와 0.991 F1 점수를 기록했습니다. 이는 약 96% 의 정확도를 기록한 서포트 벡터 머신 (SVM) 과 랜덤 포레스트 (RF) 를 포함한 기존 머신러닝 베이스라인을 능가했습니다. 특히 2D 맵 표현은 퀘이사와 은하 간의 혼동을 줄였습니다.
• 적색편이 추정: 모델은 적색편이 회귀에서 강력한 성능을 보였으며, 2D 맵 표현을 사용하여 SLOMOST-Big 데이터셋에서 $R^2$ 0.992를 달성했습니다. 이 성능은 AstroCLIP 의 스펙트럼 인코더가 보고한 $R^2 = 0.990$과 비교할 수 있지만, 훨씬 더 크고 다양한 데이터셋 (약 20 만 개 대비 140 만 개 이상) 에서 단일 NVIDIA 4090 GPU 를 사용하여 9 일 동안 훈련하여 달성되었습니다. 모델은 또한 광범위한 신호 대 잡음비 (SNR) 에서 높은 정확도를 유지했습니다.
• 항성 파라미터 회귀: 모델이 항성 파라미터를 성공적으로 추론했지만, 결과는 더 변동적이었습니다. 심플 플롯 표현이 $T_{eff}$와 $\log g$에 대해 가장 잘 수행되었으며 ($R^2 \approx 0.79$), 오버랩 플롯은 대규모 데이터셋에서 금속성 ($[Fe/H]$) 에 대해 우세했습니다 ($R^2 \approx 0.78$). 2D 맵은 분류와 적색편이에는 탁월했지만 이러한 특정 파라미터 회귀에는 덜 효과적이었으며, 이는 서로 다른 물리적 특성에 대해 서로 다른 인코딩 전략이 최적일 수 있음을 시사합니다.

의의 및 주장
본 논문은 스펙트럼 데이터를 2 차원 이미지 표현으로 변환함으로써 비전 트랜스포머가 전통적인 1 차원 모델이나 템플릿 피팅 방법이 놓칠 수 있는 복잡한 스펙트럼 패턴을 효과적으로 포착할 수 있다고 주장합니다. 결과는 사전 훈련된 비전 모델이 분광학 작업에 성공적으로 미세 조정될 수 있음을 보여주며, 현재 파이프라인에 대한 확장 가능하고 유연하며 데이터 기반의 대안을 제공합니다.

저자들은 그들의 접근 방식이 합성 데이터에 의존하지 않으며, 천문학의 이전 딥러닝 응용 프로그램에서 존재하던 격차를 해소했다고 강조합니다. 결론적으로 분류와 적색편이 추정에서 "강력한 성능과 확장성"을 보이지만, 항성 파라미터 회귀는 추가적인 아키텍처 개선이나 하이브리드 접근 방식이 필요할 수 있는 추가적인 과제를 제시한다고 결론지었습니다. 이 연구는 MSE, 4MOST, DESI 와 같은 미래의 서베이에서 증가하는 데이터 양과 이질성을 처리할 수 있는 범용 스펙트럼 과학 도구를 향한 기초적인 단계로 위치합니다.