Comparison of symbolic regression algorithms in Star/galaxy/quasar separation

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 대규모 천문 관측 데이터 (예: SDSS DR17) 에서 항성 (Star), 은하 (Galaxy), 퀘이사 (Quasar) 를 분류하는 작업은 우주론 및 은하 진화 연구의 핵심입니다. 기존에는 딥러닝 (DNN) 이나 그래디언트 부스팅 트리 (GBDT) 와 같은 '블랙박스' 머신러닝 모델이 높은 정확도 (95% 이상) 를 보이며 널리 사용되었습니다.
• 문제점: 블랙박스 모델은 예측 성능은 우수하지만, 천체물리학적 관계 (적색편이 진화, 인구 밀도 기울기 등) 를 설명할 수 있는 **해석 가능성 (Interpretability)**이 부족합니다. 즉, 왜 특정 천체가 특정 클래스로 분류되었는지에 대한 수학적, 물리적 근거를 제공하지 못합니다.
• 목표: 본 연구는 **기호 회귀 (Symbolic Regression, SR)**를 도입하여, 블랙박스 모델과 동등한 예측 성능을 유지하면서도 해석 가능하고 수학적으로 간결한 분석 함수를 도출하여 항성/은하/퀘이사 분리를 수행하는 것을 목표로 합니다. 특히 입력 변수를 **분광 적색편이 (Spectroscopic Redshift, $z$)**로만 제한하여 1 차원 공간에서의 분류 능력을 평가합니다.

2. 방법론 (Methodology)

연구는 SDSS DR17 의 10 만 개 객체 (은하 59.45%, 항성 21.59%, 퀘이사 18.96%) 를 대상으로 진행되었습니다.

• 데이터 및 전처리:
  • 결측치가 없는 100,000 개 객체를 사용하며, 기호 발견 (Symbolic Discovery) 을 위해 10,000 개 (10%) 의 대표 샘플을 추출하여 학습했습니다.
  • 최종 평가는 100,000 개 전체 데이터에 대한 **5 폴드 계층적 교차 검증 (5-fold stratified cross-validation)**을 통해 수행했습니다.
• 비교 대상 알고리즘 (4 가지 SR 프레임워크):
  1. PySR: 섬 모델 (Island-model) 기반의 진화 알고리즘 (Genetic Programming) 을 사용. 복잡도 정규화 및 L2 손실 최소화.
  2. ESR (Exhaustive Symbolic Regression): 결정론적 완전 탐색 방식. MDL (최소 설명 길이) 원리를 기반으로 모델 선택.
  3. PhySO (Physical Symbolic Optimization): 딥 강화학습 (RL) 기반. LSTM 제어기를 사용하여 수학적 일관성을 유지하며 표현식을 생성.
  4. MvSR (Multi-View Symbolic Regression): 입력 도메인을 저적색편이 (항성), 중적색편이 (은하), 고적색편이 (퀘이사) 로 분할하여 각 뷰에 특화된 함수를 학습 후 통합.
• 비교 기준 (Baseline):
  • 해석 불가능한 3 가지 머신러닝 모델 (Random Forest, SVM, MLP) 을 동일한 1 차원 적색편이 특징 공간에서 학습시켜 성능 상한선 (Information-Theoretic Ceiling) 을 설정했습니다.
• 평가 지표:
  • Cohen's Kappa ($\kappa$): 클래스 불균형을 고려한 일치도 지표.
  • Balanced Accuracy, Macro-F1 Score.
  • 매개변수 안정성: 최적화된 임계값 ($t_1, t_2$) 의 표준 편차 ($\sigma$).
  • 물리적 실패 분석: 적색편이 구간별 재현율 (Recall) 및 오분류 지점을 분석.

3. 주요 기여 및 발견 (Key Contributions & Results)

A. 성능 비교 결과

• MvSR 의 우수성: Multi-View Symbolic Regression (MvSR) 이 모든 지표에서 가장 높은 성능을 보였습니다.
  • Cohen's Kappa: $0.8948 \pm 0.0030$
  • 정확도 (Accuracy): $94.11\%$
  • Balanced Accuracy: $92.51\%$
  • 이는 Random Forest ($\kappa \approx 0.8953$) 나 SVM ($\kappa \approx 0.8954$) 과 같은 블랙박스 모델의 성능과 통계적으로 유의미한 차이가 없는 수준으로, 기호 회귀가 복잡한 신경망과 동등한 예측 능력을 가짐을 입증했습니다.
• PhySO 의 안정성: PhySO 는 가장 낮은 임계값 변동성 ($\sigma < 0.002$) 을 보여 매개변수 안정성이 탁월함을 보였습니다.
• PySR 및 ESR: 각각 $\kappa \approx 0.85$ 및 $0.86$ 수준으로 양호한 성능을 보였으나, MvSR 에 비해 퀘이사 분류 성능이 다소 낮았습니다.

B. 발견된 수학적 표현식 (Analytic Expressions)

모든 알고리즘은 복잡도 (노드 수) $\le 10$의 간결한 분석 함수를 도출했습니다. 예를 들어 MvSR 의 경우 다음과 같은 형태를 발견했습니다:
$$s(z) = 3.134 - \frac{2.320}{z + e^{-2.904z}}$$
이러한 함수는 적색편이 ($z$) 를 입력받아 연속적인 점수를 출력하며, 이를 임계값으로 나누어 3 클래스로 분류합니다.

C. 물리적 통찰 및 실패 분석

• 분류 한계점: 모든 모델 (블랙박스 포함) 은 $z \approx 1.25$ 부근에서 은하와 퀘이사의 스펙트럼 중첩으로 인해 분류 오류가 발생했습니다. 이는 모델의 부재가 아니라, 1 차원 적색편이 특징 공간 내의 **고유한 물리적 퇴적 (Intrinsic Physical Degeneracy)**으로 인한 베이지안 오차 한계임을 시사합니다.
• 해석 가능성: 블랙박스 모델이 수천 개의 파라미터를 사용하는 반면, SR 모델은 10 개 미만의 노드로 동일한 성능을 달성하여 물리적으로 간결한 결정 경계가 존재함을 증명했습니다.

4. 의의 및 결론 (Significance & Conclusion)

1. 해석 가능한 AI (XAI) 의 실용성 증명: 천체 분류와 같은 과학적 문제에서 블랙박스 모델의 성능을 잃지 않으면서도, 수학적으로 간결하고 물리적으로 해석 가능한 식을 도출할 수 있음을 입증했습니다.
2. 자동화된 워크플로우 통합: 도출된 분석 함수는 대규모 모델 저장 없이도 자동 분광 워크플로우에 직접 통합될 수 있어, 계산 효율성과 배포 용이성이 뛰어납니다.
3. 과학적 발견 도구: SR 은 단순히 분류기를 넘어, 천체물리학적 인구 분포의 경계를 정의하는 물리 법칙을 발견하는 도구로 활용될 수 있음을 보여줍니다.
4. 향후 과제: 본 연구는 1 차원 적색편이만 사용했으나, 향후 광도 색상 (Photometric colors) 및 다중 파장 데이터를 SR 에 통합하여 고적색편이 영역의 퇴적 문제를 해결하는 방향으로 연구가 확장될 것입니다.

요약하자면, 이 논문은 SDSS DR17 데이터를 기반으로 한 항성/은하/퀘이사 분류 문제에서, 최신 기호 회귀 알고리즘 (특히 MvSR) 이 블랙박스 머신러닝과 동등한 성능을 내면서도 해석 가능한 수학적 모델을 제공할 수 있음을 체계적으로 입증한 연구입니다.