Needles in the Landscape: Semi-Supervised Pseudolabeling for Archaeological Site Discovery under Label Scarcity

기술 요약: 풍경 속의 바늘: 레이블 부족 하의 고고학적 유적지 발견을 위한 준지도식 가짜 레이블링

문제 제기
고고학적 예측 모델링 (APM) 은 근본적인 난관에 직면해 있습니다: 고고학적 유적지는 극히 드물며 (조사 지역의 0.004% 미만), 이질적인 풍경에 희소하게 분포합니다. 전통적인 지도 학습은 풍경의 대부분이 확인된 부정이 아닌 레이블이 없는 상태로 존재하기 때문에 실패합니다. 레이블이 없는 지역을 부정으로 취급하면 심각한 편향이 발생합니다. 이는 양성 - 비지도 (PU) 학습 문제를 구성합니다. 기존 통계적 방법 (예: LAMAP) 은 수동으로 설계된 특징과 유적지 부재에 대한 강력한 가정에 의존하는 반면, 표준 딥러닝 접근법은 양성 데이터만으로 훈련할 때 붕괴 (어디서나 유적지를 예측) 하거나, 불확실한 부정 데이터로 훈련할 때 치명적으로 실패 (확률 순위 반전) 합니다. 핵심적인 어려움은 레이블이 없는 지역에서 유적지의 부재를 가정하지 않고 희소한 양성 레이블로부터 학습하는 데 있습니다.

방법론
저자들은 레이블 부족과 PU 불확실성을 수동 특징 공학 없이 해결하기 위한 엔드 - 투 - 엔드 딥러닝 프레임워크인 **비대칭 이중 가짜 레이블링 (DPL)**을 제안합니다.

• 아키텍처: 이 모델은 공유 인코더와 이중 독립 디코더를 갖춘 UNet 아키텍처를 활용합니다. 이 이중 분기 구조는 계산 효율성을 유지하면서 가짜 레이블링에 필요한 다양한 예측을 생성할 수 있게 합니다.
• 비대칭 가짜 레이블링 전략: 핵심 혁신은 훈련 중에 적용되는 비대칭 임계값 메커니즘입니다:
  • 양성 가짜 레이블: 높은 확신 (보수적) 을 요구합니다. 두 디코더 분기가 모두 높은 확률로 동의할 때만 (최소 예측값 > $\tau_{pos}$) 해당 지역을 양성 유적지로 레이블링합니다. 이러한 레이블은 온도 매개변수를 사용하여 소프트 스케일링됩니다.
  • 부정 가짜 레이블: 약한 증거만으로도 충분합니다 (허용적). 적어도 한 분기가 회의적일 때 (최소 예측값 < $\tau_{neg}$) 해당 지역을 부정 (비유적지) 으로 레이블링합니다. 이러한 레이블은 0 으로 하드 코딩됩니다.
  • 동적 스케줄링: 임계값은 시그모이드 램프 - 업 함수를 통해 훈련 중에 진화하며, 허용적인 부정 임계값으로 시작하여 시간이 지남에 따라 더 선택적으로 변합니다.
• 손실 함수: 총 손실은 네 가지 항을 결합합니다:
  1. 지도 학습 손실 ($L_{SL\_Pos}$): 불확실한 배경으로부터 학습하는 것을 방지하기 위해 확인된 양성 픽셀에서만 계산됩니다.
  2. 가짜 레이블 손실 ($L_{pseudo}$): 불확실한 픽셀에 초점을 맞추기 위해 생성된 가짜 레이블에 대해 Focal Loss 를 사용하여 계산됩니다.
  3. 일관성 정규화 ($L_{cons}$): 두 디코더 분기 간의 합의를 강제합니다.
  4. 엔트로피 정규화 ($L_{ent}$): 분기 간 이견이 있는 픽셀에 적용되어 불확실성을 최소화합니다.
• 훈련 전략: 이 모델은 하이브리드 샘플링 (알려진 유적지 중심 패치 10%, 무작위 90%) 을 채택하며, 수동 특징 공학 없이 다중 밴드 지리 공간 이미지 (DEM 기반 특징 및 역사적 인프라 지도) 로 훈련됩니다.

주요 기여

1. 정식화: 극심한 레이블 부족과 PU 불확실성 하의 준지도식 시맨틱 세그멘테이션 작업으로 APM 을 재구성합니다.
2. 알고리즘: 고고학적 위험을 반영하는 비대칭 가짜 레이블링 전략을 도입합니다. 즉, 위양성에 대해서는 보수적 (합의 요구) 이고 위음성에 대해서는 허용적 (이의 제기만 요구) 인 방식으로, 배경이 진정한 부정이라고 가정하지 않고 학습할 수 있게 합니다.
3. 실증적 경계: 표준 지도 학습 (SL) 이 부정 불확실성 하에서 실패 (순위 반전) 하며, 양성 전용 훈련 (SL_Pos) 은 어디든 예측하도록 붕괴한다는 것을 입증합니다. DPL 은 이러한 실증적 경계 사이에서 효과적으로 작동합니다.
4. 검증: 상호 보완적인 전략을 가진 두 데이터셋에 대한 엄격한 평가를 제공합니다: 사갈라소스 (독립 현장 조사 검증) 와 키프로스 (공간 k-폴드 검증을 통한 순수 PU 설정).
5. 재현성: 모든 코드, 전처리 스크립트 및 키프로스 데이터셋을 공개합니다. 사갈라소스 데이터는 독점적이지만 코드는 공유됩니다.

실험 결과

• 사갈라소스 데이터셋 (터키): 훈련을 위해 Survey 1 을 사용하고 독립 현장 조사 (Survey 2) 에 대해 평가했습니다.
  • 성능: DPL 은 일곱 가지 역사적 기간에 걸쳐 최신 LAMAP 베이스라인보다 F1 에서 12.5%, 재현율 (Recall) 에서 29.3% 더 높은 성능을 보였습니다.
  • 비교: DPL 은 발견 지표 (F1, 재현율) 에서 뛰어났지만, 명시적 확률 모델링에 기인하여 LAMAP 은 우월한 확률 순위 (PR-AUC 및 ROC-AUC) 를 유지했습니다.
  • 베이스라인: 표준 SL 은 유적지의 85% 를 놓쳤으며, SL_Pos 은 구별 능력 없이 100% 재현율로 붕괴했습니다.
• 키프로스 데이터셋 (순수 PU 설정): 확인된 부정 없이 균일한 유적지 수준 및 공간 k-폴드 교차 검증을 통해 평가했습니다.
  • 성능: DPL 은 실증적 경계 (SL 및 SL_Pos) 사이에서 명목상 작동했으나 높은 분산과 훈련 불안정성을 보였습니다. 개별 유적지를 광범위한 해안 지형 경사도에서 구별하지 못했습니다.
  • LAMAP 비교: LAMAP 은 이 설정에서 모든 딥러닝 방법을 크게 능가했습니다 (ROC-AUC 0.765 대 DPL 의 약 0.51). 이는 거친 지형 경사도만 존재할 때 특징 유사성 기반 방법이 가짜 레이블 부스팅보다 더 강력함을 시사합니다.
  • 분석: 특징 분리성 분석에 따르면, DPL 의 사갈라소스에서의 성공은 도로 거리와 같은 공간적으로 구체적인 역사적 인프라 특징에 의존했으며, 이는 키프로스 데이터셋에는 부재했습니다.

의의 및 주장
이 논문은 DPL 이 확인된 부재나 클래스 사전 확률 추정이 필요 없이 공간적으로 구조화된 영역 (생태학, 역학, 원격 탐사에 관련됨) 에서 불완전하고 양쪽으로 편향된 레이블로부터 학습할 수 있는 실현 가능한 경로를 제공한다고 주장합니다.

저자들은 공간적으로 구체적인 보조 특징 (예: 역사적 인프라 지도) 이 세밀한 구별을 제공할 때 DPL 이 가장 효과적임을 강조합니다. 키프로스 사례 연구와 같이 광범위한 지리적 경사도만 존재하는 풍경에서는 이 방법이 안정적인 가짜 레이블을 부스팅하는 데 어려움을 겪으며, LAMAP 과 같은 전통적인 특징 유사성 접근법이 더 적합합니다. 이 연구는 고고학적 발견에서 가짜 레이블링의 적용 범위를 규정합니다: 특정 구별 신호가 존재할 때 유적지 발견을 위한 강력한 도구이지만, 데이터가 부족하고 특징이 빈약한 환경에서는 표적 현장 조사나 도메인 보정 모델의 필요성을 대체할 수 없습니다.