기술 요약: 소량의 레이블을 이용한 초분광 표적 탐지용 SupCon-Mamba

1. 문제 정의

초분광 표적 탐지(HTD)는 사전 스펙트럼 정보를 사용하여 복잡한 배경 내에서 특정 표적을 식별하고 위치를 찾아내는 것을 목표로 합니다. 초분광 영상은 재료 식별을 위한 높은 분광 해상도를 제공하지만, HTD는 실제 응용 분야에서 두 가지 결정적인 문제에 직면해 있습니다:

1. 레이블 데이터의 부족: 레이블이 지정된 샘플을 획득하는 것은 어렵고 비용이 많이 들며, 이는 모델이 완전 지도 학습(fully supervised deep learning)으로 훈련될 때 일반화 성능이 저하되는 "퓨샷(few-shot)" 시나리오로 이어집니다.
2. 기존 대조 학습의 한계: 현재의 퓨샷 HTD 방법들은 종종 비지도 대조 학습(unsupervised contrastive learning)에 의존합니다. 이러한 방법들은 단일 픽셀의 스펙트럼 증강으로부터 양성 쌍(positive pairs)을 구성하고 그 외의 모든 픽셀을 음성 샘플(negative samples)로 취급합니다. 이 방식은 동일 범주의 픽셀을 음성으로 잘못 분류하는 문제(거짓 음성, false negatives)를 빈번하게 발생시켜, 특징 공간을 왜곡하고 표적과 배경 사이의 경계를 흐릿하게 만듭니다.
3. 모델링 효율성 문제: 전통적인 CNN은 긴 스펙트럼 시퀀스의 전역적 의존성을 모델링하는 데 어려움을 겪으며, 트랜스포머(Transformer)는 시퀀스 길이가 증가함에 따라 이차 복잡도(quadratic complexity)를 갖게 되어 미세한 국소 특징과 다중 스케일의 전역 스펙트럼 특징을 동시에 모델링하는 데 비효율적입니다.

2. 방법론: SupCon-Mamba

저자들은 앞서 언급한 문제들을 해결하기 위해 피라미드 Mamba 구조와 지도 대조 학습(Supervised Contrastive Learning, SupCon)을 결합한 SupCon-Mamba 프레임워크를 제안합니다. 워크플로우는 훈련 단계와 추론 단계로 구성됩니다.

2.1 스펙트럼 이웃 인코딩 및 데이터 증강

레이블 데이터의 부족을 완화하고 스펙트럼 노이즈를 억제하기 위해, 이 방법은 국부 문맥 인코딩 메커니즘을 사용합니다:

• 이웃 인코딩(Neighborhood Encoding): 중심 픽셀에 대해 $w \times w$ 크기의 공간 윈도우를 추출합니다. 중심 픽셀의 스펙트럼과 이웃들의 코사인 유사도를 계산합니다. 이러한 유사도는 Softmax를 통해 정규화되어 가중치 계수를 생성하며, 이는 이웃 스펙트럼의 가중 합을 만드는 데 사용됩니다. 이를 통해 중심 픽셀의 스펙트럼 벡터를 보완하는 "이웃 인코딩 벡터"가 생성됩니다.
• 가우시안 노이즈 증강(Gaussian Noise Augmentation): 퓨샷 시나리오에서의 과적합을 방지하기 위해, 중심 벡터와 인코딩된 벡터 모두에 가우시안 노이즈를 추가합니다. 증강된 벡터는 $[0, 1]$ 범위로 클리핑(clipping)된 후 결합되어 모델의 입력이 됩니다.

2.2 피라미드 Mamba 특징 추출 네트워크

핵-백본(core backbone)은 선형 계산 복잡도로 다중 스케일 스펙트럼 의존성을 포착하도록 설계된 인코더-디코더 피라미드 Mamba 네트워크입니다:

• 스펙트럼 그룹 컨볼루션(Spectral Grouped Convolution): 시퀀스 모델링 전에 1D 그룹 컨볼루션을 입력 스펙트럼에 적용하여 인접한 밴드 간의 국부적인 스펙트럼 상관관계를 명시적으로 모델링합니다.
• 피라미드 구조: 네트워크는 하향 샘플링 브랜치와 상향 샘플링 브랜치를 갖춘 탑다운(top-down) 및 바텀업(bottom-up) 구조를 활용합니다.
  • 다운샘플링(Downsampling): 스펙트럼 시퀀스는 4단계의 점진적인 다운샘플링을 거칩니다. 각 단계에서 특징은 뎁스와이즈 컨볼루션(depthwise convolution)과 **선택적 상태 공간 모델(Selective State Space Model, Mamba)**을 통해 처리됩니다. 이를 통해 모델은 선형 복잡도로 미세한 국부적 세부 사항부터 전역적인 스펙트럼 윤곽까지의 의존성을 포착할 수 있습니다.
  • 업샘플링 및 융합(Upsampling & Fusion): 특징은 점진적으로 업샘플링되며, 다운샘플링 경로의 대응하는 SSM 출력과 교차 스케일 잔차 연결(cross-scale residual connections)을 통해 융합됩니다.
  • 게이트 융합(Gated Fusion): 최종 출력을 내기 전, 게이팅 메커니즘이 다중 스케일 특징을 적응적으로 필터링하고 융합합니다.

2.3 지도 대조 학습 (SupCon)

비지도 방식과 달리, SupCon-Mamba는 가용한 레이블 정보(표적 vs 배경)를 사용하여 샘플 쌍을 정의합니다:

• 양성 쌍(Positive Pairs): 동일한 클래스에 속하는 샘플(예: 표적-표적 또는 배경-배경)은 양성 쌍으로 취급됩니다.
• 음성 쌍(Negative Pairs): 서로 다른 클래스의 샘플은 음성 쌍으로 취급됩니다.
• 손실 함수(Loss Function): 모델은 SupCon 손실을 사용하여 최적화되며, 이는 특징 공간에서 양성 쌍의 유사도는 최대화하고 음성 쌍의 유사도는 최소화합니다. 이는 비지도 대조 학습의 고유한 문제인 거짓 음성 문제를 근본적으로 제거하여, 클래스 내 응집(intra-class aggregation)과 클래스 간 분리(inter-class separation)를 촉진합니다.

3. 주요 기여

본 논문은 세 가지 주요 혁신을 강조합니다:

1. 고품질 양성 샘플 구축: 코사인 유사도를 통한 국부 문맥 인코딩과 가우시안 노이즈 증강을 결합한 전략을 제안합니다. 이는 단일 픽셀 노이즈를 억제하고, 지도 학습을 위한 충분한 양성 샘플을 제공하며, 스펙트럼 변동에 대한 강건성을 높입니다.
2. 피라미드 Mamba 아키텍처: 선형 복잡도로 긴 스펙트럼 시퀀스를 모델링하는 인코더-디코더 네트워크를 설계했습니다. 이는 다중 스케일 다운샘플링 및 업샘플링을 통해 미세한 국부 스펙트럼 특징과 전역적 스펙트럼 프로파일을 효과적으로 포착합니다.
3. 지도 대조 최적화: SupCon 손실을 통합함으로써, 제한된 레이블 정보를 활용하여 거짓 음성을 제거하고, 퓨샷 시나리오에서 특징 식별력과 일반화 성능을 크게 향상시켰습니다.

4. 실험 결과

이 방법은 4개의 공개 데이터셋(Sandiego I, Sandiego II, Los Angeles I, Los Angeles II)과 1개의 자체 구축 지상 기반 데이터셋에서 평가되었습니다. 훈련 설정에는 단 10쌍의 레이블 샘플(10개의 표적 픽셀과 10개의 배경 픽셀)만이 사용되었습니다.

• 성능 지표: 제안된 방법은 모든 데이터셋에서 평균 AUC 0.9984를 달 기록했습니다.
• 비교 분석:
  • 시각적 결과: 전통적인 방법(CEM, OSP, ACE) 및 딥러닝 베이스라인(DSC, CTTD, UEML, TSTTD)과 비교했을 때, SupCon-Mamba는 우수한 표적 강조 및 배경 억제 능력을 보여주었습니다. 그림자가 없는 영역에서 거의 제로에 가까운 오탐(false alarm)을 기록하며 저대비 표적을 성공적으로 탐지했습니다.
  • 정량적 결과: 이 방법은 모든 5개 데이터셋에서 가장 높은 AUC($P_{fd}$)를 달성했습니다. 일부 경쟁 모델들은 특정 데이터셋에서 낮은 오탐률($P_f$)을 보였으나, 종종 미탐(missed detections, $P_d$) 문제가 발생했습니다. SupCon-Mamba는 탐지 능력과 배경 억제 사이의 탁월한 균형을 유지했습니다.
• 절제 연구(Ablation Studies):
  • 피라미드 층(Pyramid Layers): 성능은 4개의 피라미드 층에서 정점에 도달했습니다. 층이 적으면 모델링 능력이 부족하고, 너무 많으면 과적합 및 그래디언트 문제가 발생했습니다.
  • 윈도우 크기(Window Size): $9 \times 9$ 인코딩 윈도우가 문맥 융합과 배경 간섭 사이의 균형을 맞추는 데 최적임을 확인했습니다.
  • 손실 함수: SupCon 손실이 Cross-Entropy, SimCLR, InfoNCE보다 우수한 성능을 보여, 퓨샷 HTD에서 지도 대조 학습의 필요성을 입증했습니다.

5. 의의 및 주장

본 논문은 SupCon-Mamba가 퓨샷 초분광 표적 탐지를 위한 효율적이고 실용적인 솔루션을 제공한다고 주장합니다. 대조 학습의 거짓 음성 문제를 해결하고 긴 스펙트럼 시퀀스를 모델링하는 계산 비효율성을 해결함으로써, 이 방법은 극도로 제한된 레이블 데이터로도 최첨단(state-of-the-art) 성능을 달성합니다. 저자들은 이 접근 방식이 레이블 데이터가 부족한 군사 정찰 및 환경 모니터링과 같은 복잡한 원격 탐사 시나리오의 정보 마이닝을 위한 견고한 기술적 솔루션을 제공한다고 밝히고 있습니다. 이 방법은 단 10쌍의 레이블 샘플만으로도 높은 탐지 정확도를 달성할 수 있음을 보여주며, 기존의 주류 방식들을 크게 능가합니다.