AnomalyMatch: Discovering Rare Objects of Interest with Semi-supervised and Active Learning

기술 요약: AnomalyMatch

문제 정의
대규모 이미지 데이터셋에서 이상치(anomalies)—드물고 특이한 외곽값(outliers)—을 식별하는 것은 천문학 및 컴퓨터 비전 분야의 핵심적인 과제입니다. Euclid 및 Vera C. Rubin 천문대와 같은 차세대 관측소들은 전례 없는 규모의 데이터(수십억 개의 은하)를 방출할 것이나, 희귀 천체에 대한 레이블링된 사례의 부족(종종 데이터셋의 0.1% 미만)은 전통적인 지도 학습(supervised learning) 방식의 실행을 불가능하게 만듭니다. 기존의 접근 방식들은 상당한 난관에 봉착해 있습니다. 비지도 학습(unsupervised methods)은 고차원 이미지 데이터의 복잡성을 다루는 데 어려움을 겪는 경우가 많으며, 지도 학습은 많은 희귀 형태의 데이터에 존재하지 않는 대규모 레이블 데이터가 필요합니다. 또한, 시민 과학 이니셔티브는 유용하지만, 일관된 이상치 기준을 정의하는 데 어려움이 있으며 현대적 조사(surveys)의 방대한 데이터 볼륨을 수동으로 검사할 만큼 확장될 수 없습니다. 핵심 문제는 최소한의 초기 레이블 데이터만을 활용하면서도 풍부한 미레이블 데이터를 이용하고, 탐지 성능을 정교화하기 위해 전문가의 인간 피드백을 통합할 수 있는 확장 가능하고 효율적인 프레임워크를 개발하는 것입니다.

방법론: AnomalyMatch
저자들은 이상 탐지를 심각하게 불균형한 이진 분류 문제("정상" 대 "이상")로 취급하도록 설계된 준지도 학습(semi-supervised) 이상 탐지 프레임워크인 AnomalyMatch를 제시합니다. 이 방법론은 세 가지 주요 구성 요소를 통합합니다:

1. 준지도 학습 (FixMatch): 핵심 학습 전략은 FixMatch 알고리즘(Sohn et al. 2020)을 변형한 것입니다. 이는 소수의 레이블된 데이터($D_L$)와 대규모의 미레이블 데이터($으로의$D_U$)를 활용합니다. EfficientNet 백본(구체적으로 EfficientNetLite0)을 기반으로 하는 이 모델은 다음의 결합된 손실 함수를 사용하여 학습됩니다:

   • 지도 학습 손실 (Supervised Loss): 레이블된 집합에 대한 표준 교차 엔트로피(cross-entropy).
   • 비지도 학습 손실 (Unsupervised Loss): 미레이블 데이터에 적용되는 일관성 정규화(consistency regularisation). 약하게 증강된(weakly augmented) 이미지는 높은 신뢰도(모델의 신뢰도가 임계값 $\tau=0.95$를 초과하는 경우)를 가진 의사 레이블(pseudo-labels)을 생성하는 데 사용됩니다. 이 의사 레이블은 동일한 이미지의 강하게 증강된 버전에 대해 모델의 예측에 페널티를 주는 데 사용됩니다.
   • 불균형 처리 (Imbalance Handling): 프레임워크는 가중치 무작위 샘플러(weighted random sampler)를 통한 오버샘플링을 채택하여 심각한 클래스 불균형 문제를 해결하며, 이를 통해 희귀한 이상 샘ле들이 학습 과정에서 적절히 표현되도록 보장합니다.

2. 능동 학습 루프 (Active Learning Loop): 레이블된 이상치의 희소성을 완화하기 위해, AnomalyMatch는 반복적인 인간 참여형(human-in-the-loop) 프로세스를 포함합니다. 초기 학습 후, 모델은 미레이블 풀(pool)에 대한 점수를 매깁니다. 사용자 인터페이스(GUI)를 통해 도메인 전문가는 다음과 같은 작업을 수행할 수 있습니다:

   • 높은 점수를 받은 후보들을 시각적으로 검사.
   • 실제 이상치를 확인하고 거짓 양성(false positives, 예: 불량 CCD나 초점이 맞지 않은 영역과 같은 영상 아티팩트와 실제 이상치를 구분)을 수정.
   • 검증된 샘플들로 레이블된 학습 세트를 반복적으로 확장.
   • 확장된 세트로 모델을 재학습.

3. 확장 가능한 구현: 시스템은 단일 GPU에서 수억 개의 이미지를 처리할 수 있는 고성능을 위해 구축되었습니다. 다양한 입력 형식(PNG, JPEG, TIFF, FITS)을 지원하며, 천문학적 데이터 저장 표준(HDF5, Zarr) 및 ESA Datalabs 플랫폼과 통합됩니다. ipywidgets로 구축된 GUI는 Jupyter notebook 내에서의 대화형 탐색을 용이하게 합니다.

주요 기여

• 새로운 파이프라인: FixMatch(심각한 클래스 불균형에 최적화됨), EfficientNet, 그리고 능동 학습을 결합하여 레이블 데이터 요구량을 크게 줄인 준지도 이상 탐지 파이프라인을 제공합니다.
• 대화형 GUI: 전문가가 직접적인 백엔드 상호작용 없이도 이상치 선택을 반복적으로 가이드하고, 모델 오류를 수정하며, 성능을 정교화할 수 있도록 하는 사용자 친화적인 인터페이스를 제공합니다.
• 통합: 확립된 천문학 도구(Astropy 정규화, FITS 지원)의 원활한 통합과 ESA Datalabs 생태계 내 배포를 실현합니다.
• 포괄적인 벤치마킹: 극도로 제한된 초기 레이블(5~10개의 이상치) 환경에서도 성능을 입증하는 다양한 데이터셋(miniImageNet, GalaxyMNIST, Galaxy Zoo 2)에 대한 광범한 평가를 수행했습니다.
• 확장성: 향후 대규모 조사에 적합하도록, 며칠 내에 1억 개의 이미지를 분석할 수 있는 구현 능력을 갖추었습니다.

실험 결과
프레임워크는 심각한 클래스 불균형 조건 하에서 세 가지 데이터셋에 대해 평가되었습니다:

• miniImageNet: 특정 객체 클래스(예: Hourglass, Guitar)를 이상치로 간주함(데이터의 1%). 단 5개의 레이블된 이상치로 시작하여, AnomalyMatch는 평균 AUROC 0.96 및 AUPRC 0.82를 달성했습니다. 3회의 능동 학습 사이클 이후, 상위 1% 랭킹 이미지에서 **76%의 정밀도(precision)**를 달성했습니다.
• GalaxyMNIST: 한 클래스가 이상치로 취급된 은하 형태 데이터셋(데이터의 25%). 10개의 레이블된 이상치로 시작하여, 시스템은 평균 AUROC 0.89 및 AUPRC 0.77을 달성했습니다. 상위 1%에서의 정밀도는 **94%**에 도달했습니다.
• Galaxy Zoo - The Galaxy Challenge: "odd" 분류가 포함된 약 65,000개의 은하 서브셋. 기존의 Astronomaly 소프트웨어와 비교했을 때, AnomalyMatch는 평균 AUROC 0.83으로 대등한 성능을 보였습니다. 저자들은 이 소프트 랩벨(soft-label) 데이터셋에서 성능이 "이상치"의 정의(투표 비율 컷오프)에 민다는 점을 언급했습니다.

절제 연구 (Ablation Studies)

• 초기 레이블: 초기 레이블 샘플 수를 늘리는 것(100개에서 1000개로)은 수익 체감의 법칙을 보였으며, 최소한의 초기 레이블만으로도 성능 지표는 견고하게 유지되었습니다.
• 학습 반복 횟수: 능동 학습 사이클당 최적의 학습 반복 횟수는 약 100회로 나타났습니다. 더 긴 학습 사이클(250~500회)은 초기 레이블 데이터에 대한 과적합(overfitting)을 유발하여 전반적인 탐지 효율을 감소시켰습니다.

의의 및 주장
본 논문은 AnomalyMatch가 천문학과 같이 레이블 희소성이 심각한 도메인에서 이상 발견을 위한 탁월한 유용성과 확장성을 제공한다고 주장합니다. 준지도 학습과 능동 학습을 결합함으로써, 이 프레임워크는 도메인 전문가가 단순한 통계적 외곽치가 아닌 과학적으로 흥미로운 이상치를 정의하고 탐지할 수 있게 합니다. 저자들은 이 방법이 미레이블 데이터를 효과적으로 활용하여 수동 검토 부담을 줄임으로써, 데이터가 풍부한 하늘 조사(sky surveys) 시대에 실질적인 도구가 될 수 있음을 강조합니다. 결과는 인간의 전문성과 효율적인 머신러닝을 결합한 특화된 접근 방식이 레이블 데이터가 본질적으로 희귀한 분야의 이상 탐지를 진전시키는 핵심임을 뒷받침합니다. 논문은 이 방법이 매우 효과적이지만, 향-후 연구에서 설명 가능한 AI(XAI), 다중 모달 데이터 통합, 그리고 레이블링 오류의 영향에 대한 탐구를 통해 견고성을 더욱 높여야 한다고 결론짓습니다.