Comparative Evaluation of Restoration Schemes as Preprocessing for Deep Learning Detection and Deblending of Astronomical Point Sources in Ground-Based Optical Imaging Systems

기술 요약: 딥러닝 기반 천문 점광원 탐지를 위한 복원 기법의 비교 평가

문제 정의
가까이 붙어 있는 천문 점광원(예: 쌍성 또는 중첩된 카탈로그 항목)을 탐지하는 것은 지상 광학 영상 처리에서 지속적인 과제이다. 두 광원 사이의 거리가 시스템의 유효 점 퍼짐 함수(PSF) 폭에 근접할 때, 이들의 프로파일은 크게 중첩된다. 이러한 시나리오에서는, 특히 신호 대 잡음비(SNR)가 낮을 때, 한 쌍의 구성 요소 중 더 어두운 쪽이 더 밝은 광원의 날개(wings) 부분에 묻혀 소실되는 경우가 빈번하다. 영상 복원과 자동 광원 탐지는 천문 영상 파이프라인에서 상호 보완적인 단계이지만, 서로 다른 고전적 및 모델 기반 복원 방법들이 독립적으로 훈련된 합성곱 신경망(CNN) 탐지기의 성능에 어떻게 영향을 미치는지에 대한 통제되고 체계적인 비교 연구는 부족한 실정이다. 또한, 전통적인 영상 재구성 품질 지표(예: 픽셀 단위 오차)의 개선이 소스 탐지 및 쌍 분해(pair-resolution) 능력의 향상으로 직접 연결되는지 여부도 불분명하다.

연구 방법론
본 연구는 CNN 기반 탐지를 위한 다섯 가지 서로 다른 입력 조건을 평가하기 위해 통제된 합성 데이터셋을 사용한다:

1. 복원되지 않은 영상 (기준점/Baseline).
2. 위너 필터링(Wiener filtering).
3. 리처드슨-루시(Richardson–Lucy, RL) 디컨볼루션.
4. 최대 사후 확률(MAP) 복원 (비규제화, $\lambda=0$).
5. 희소성 규제(Sparsity-regularized) MAP 복원 ($\lambda=0.01$).

데이터셋 및 순방향 모델:
데이터셋은 16,613개의 시뮬레이션된 항성을 포함하는 1,000개의 합성 $128 \times 128$ 픽셀 영상을 구성하며, 여기에는 지정된 근접 쌍(separations of 3–5 pixels)이 포함된다. 순방향 관측 모델은 Moffat PSF(FWHM = 3.5 px), 유한한 픽셀 샘플링, 포아송-가우시안 잡음 모델(광자 잡음 + 가우시안 읽기 잡음), 그리고 공간적으로 균일한 하늘 배경을 사용하여 지상 광학 시스템을 시뮬레이션한다. 정밀한 제어를 위해 제작된 생성기를 사용하여 광원 간의 거리와 플럭스 대비(최대 30:1)를 정밀하게 제어하였으며, 정량적 평가를 위한 정확한 그라운드 트루스(ground truth)를 확보하였다.

복원 기술:

• MAP 복원: 혼합 포아송-가우시안 관측 모델을 처리하기 위해 이동 포아송 근사(shifted-Poisson approximation)를 활용한다. 국부적인 플럭스 피크를 촉진하기 위해 $\ell_1$ 희소성 사전 확률(sparsity prior)을 포함하며 비음수 제약 조건을 적용한다. 최적화는 근사 구배 하강법(proximal-gradient descent)을 통해 수행된다.
• RL 디컨볼루션: 순수 포아송 모델 하에서의 비규제화된 최대 가능도 해를 목표로 하는 고전적인 반복법으로, 가우시안 잡음 보정이나 희소성 페널티가 없는 MAP 공식의 기준점으로 사용된다.
• 위너 필터링: 매개변수적 잡음 대 신호 비율을 사용하는 선형적이고 비반복적인 기준 방식이다.

탐지 프레임워크:
두 가지 서로 다른 CNN 아키텍처가 각 입력 방식에 대해 5-겹 교차 검증 프로토콜 하에 독립적으로 훈련되었다:

1. 잔차 CNN (Residual CNN): 잔차 블록을 포함하며 약 112k 개의 학습 가능한 파라미터를 가진 컴팩트한 네트워크.
2. 컴팩트 U-Net (Compact U-Net): 스킵 연결을 포함하는 인코더-디코더 구조로, 약 467k 개의 학습 가능한 파라미터를 가짐.

두 네트워크 모두 평균 제곱 오차(MSE) 손실을 사용하여 타겟 히트맵(소스 위치의 가우시안 피크)을 회귀하도록 훈련되었다. 탐지 성능은 정밀도(precision), 재현율(recall), F1-score, 그리고 엄격한 "쌍 분해율(pair-resolution rate)"(근접 쌍에서 두 구성 요소를 모두 별도로 탐지해야 함)을 사용하여 평가되었다.

주요 결과

• 전반적인 성능: 두 아키텍처 모두에서 MAP 및 RL 입력은 복원되지 않은 영상 및 위너 필터링 입력보다 일관되게 높은 재현율과 F1 점수를 달성했다. Residual CNN은 MAP/RL 입력에 대해 95.70–95.95%의 평균 F1 점수를 기록한 반면, 복원되지 않은/위너 입력에 대해서는 92.95–93.05%를 기록했다. U-Net은 유사한 경향을 보였으나, Residual CNN보다 복원되지 않은 베이스라인에서 더 나은 성능을 보였다.
• 플럭스 및 분리도 의존성: 복원의 이점은 작은 분리도($[3, 4)$ px)를 가진 어두운 소스($F < 250$ counts)에서 가장 두드러졌다. 가장 까다로운 범주(플럭스 $F < 150$, 분리도 $[3, 4)$ px)에서 RL은 Residual CNN의 재현율을 13.8%(복원 전)에서 33.9%로 향상시켰다.
• 쌍 분해 (Pair Resolution): 복원은 특히 고대비 영역에서 근접 쌍의 분해 능력을 크게 향상시켰다. 분리도 $[3, 4)$ px 및 플럭스 대비 $4 \le C < 10$인 쌍의 경우, RL은 Residual CNN 기준으로 쌍 분해율을 37.3%(복원 전)에서 71.8%로 높였다. 극단적인 영역($C \ge 10$)에서도 복원 방법은 베이스라인보다 실질적으로 더 많은 수의 쌍을 회복했다.
• 재구성 품질와 탐지 유용성: 중요한 발견은 픽셀 단위 재구성 품질 지표(특히 정규화된 평균 제곱 오차, NMSE)가 탐지 유용성을 완전히 예측하지 못한다는 점이다. MAP 복원은 피크의 예리함이 불완전하여(에너지가 주변 픽셀로 분산됨) 상대적으로 높은 NMSE를 보였음에도 불구하고, RL과 경쟁할 만한 수준의 CNN 탐지 성능을 지원했다. 이는 복원이 탐지를 위한 전처리 단계로 사용될 때 작업 특화적(task-specific) 지표가 필요함을 시사한다.

의의 및 주장
본 논문은 고전적 및 모델 기반 복원 방법(특히 MAP 및 RL)이 근접한 어두운 천문 점광원의 CNN 기반 탐지 및 디블렌딩(deblending)을 효과적으로 강화할 수 있다고 주장한다. 본 연구는 다음을 입증한다:

1. 전처리 가치: 복원은 단순한 재구성 작업이 아니라, PSF 중첩 및 잡음으로 인해 소실될 수 있는 소스의 탐지 가능성을 높이는 가치 있는 전처리 단계이다.
2. 아키텍처 독립성: 관찰된 복원의 이점은 서로 다른 네트워크 아키텍처(Residual CNN 및 U-Net) 전반에 걸쳐 견고하게 나타나며, 이는 이러한 이점이 특정 디텍터 설계에 국한된 것이 아니라 입력 데이터 자체의 품질에서 기인함을 시사한다.
3. 지표의 괴리: 픽셀 단위 오차 지표(NMFR 등)는 소스 탐지를 목적으로 하는 복원 파이프라인을 평가하는 데 불충분하다. 작업 특화 지표(재현율, 쌍 분해율)는 픽셀 단위 오차 지표가 가릴 수 있는 성능 향상을 명확히 드러낸다.
4. 운용 영역: 본 연구는 복원이 가장 큰 운영 가치를 제공하는 특정 영역(낮은 플럭스, 작은 분리도, 높은 대비)을 식별하였으며, 이를 통해 어려운 탐지 문제를 중간 또는 높은 회복 시나리오로 전환할 수 있음을 보여준다.

저자들은 비록 합성 설계에 통제된 단순화(예: 공간 불변 PSF)가 포함되어 있으나, 본 결과가 혼잡한 영역의 광학 영상 시스템에서 복원 전처리의 유용성에 대한 강력한 근거를 제공한다고 결론짓는다.