기술 요약: 교차 도메인 비지도 이상 탐지를 위한 Multi-AD

문제 정의

이상 탐지(Anomaly Detection, AD)는 의학 분야의 조기 질병 진단과 산업 제조의 결함 탐지에 있어 매우 중요합니다. 그러나 주요 병목 현상은 레이블이 지정된 이상 데이터의 부족입니다. 이상 사례는 본질적으로 희귀하며, 특히 의료 영상에서 레이블이 지정된 데이터를 확보하는 것은 노동 집약적이고 비용이 많이 들며 관찰자 간의 변동성(inter-observer variability) 문제도 수반됩니다. 자기 지도 학습(Self-Supervised Learning, SSL)이 레이블이 없는 "정상" 데이터로 학습함으로써 해결책으로 등장했지만, 학습 데이터가 제한적이거나 클래스 내 변동성(예: 다양한 해부학적 구조 또는 복잡한 산업 환경)이 높은 시나리오에서는 성능이 저하되는 경우가 많습니다. 또한, 기존의 지식 증류(Knowledge Distillation, KD) 방식은 단일 도메인 애플리케이션에 국한되는 경우가 많으며, 교차 모달리티 또는 교차 도메인 전이에서의 견고함이 부족합니다.

방법론: Multi-AD 프레임워크

저자들은 의료 및 산업 도메인 모두에서 강력한 비지도 이상 탐지를 위해 설계된 CNN 프레임워크인 Multi-AD를 제안합니다. 이 방법은 도메인 불가지론적(domain-agnostic) 특징 학습과 도메인 특화 적응을 통합하며, 세 가지 핵심 구성 요소로 강화된 교사-학생(Teacher-Student, T-S) 아키텍처를 사용합니다.

1. Squeeze-and-Excitation(SE)이 적용된 강화된 백본

백본은 다음을 포함하는 수정된 WideResNet-50 아키텍처입니다:

• 확장 컨볼루션(Dilated Convolutions): 공간 해상도를 유지하면서 수용 영역(receptive field)을 확장하기 위해 점진적으로 증가하는 팽창률($r=1, 2, 4, 8$)을 적용하여 4개의 잔차 단계(residual stages)에 걸쳐 적용되었습니다. 이를 통해 모델은 국소적 세부 사항(예: 미세 균열)과 전역적 문맥(예: 구조적 왜곡)을 모두 포착할 수 있습니다.
• Squeeze-and-Excitation (SE) 블록: 채널별 특징 재보정(channel-wise feature recalibration)을 수행하기 위해 각 잔차 단계에 통합되었습니다. 이 메커니즘은 전역 평균 풀링을 통해 채널별 통계량을 계산하고 완전 연결 계층(fully connected layers)을 사용하여 스케일링 인자를 생성함으로써, 네트워크가 유익한 특징을 강조하고 무관한 특징을 억제할 수 있도록 합니다.
• 다중 스케일 특징 융합(Multi-scale Feature Fusion): 컨볼루션 레이어가 하위 레이어와 상위 레이어의 특징을 융합하여 미세한 세부 정보와 고수준의 의미론적 정보를 결합합니다.

2. 특징 정렬을 통한 지식 증류 (Knowledge Distillation, KD)

프레임워크는 사전 학습된 교사(Teacher, T) 모델(동결됨)이 학습 가능한 학생(Student, S) 모델로 지식을 전달하는 T-S 아키텍처를 채택합니다.

• 학습 체계: 모델은 오직 정상(이상이 없는) 데이터로만 학습됩니다.
• 특징 정렬: S 모델은 T 모델의 특징 표현을 모방하도록 학습됩니다. 주요 레이어의 특징들은 L2 정규화됩니다.
• 손실 함수: 특징 생성 손실($\mathcal{L}_G$)은 여러 레이어에 걸쳐 T 모델과 S 모델의 정규화된 활성화 벡터 사이의 유클리드 거리(코사인 유사도를 통해)를 최소화합니다. 이는 S 모델이 정상 데이터의 고유한 분포를 학습하도록 보장합니다.

3. 판별기(Discriminator, D) 네트워크 및 적대적 학습

정상과 이상 데이터를 더욱 정밀하게 구분하기 위해 판별기(Discriminator, D) 네트워크가 도입됩니다:

• 아키텍처: 입력이 "실제"(T 모델 특징)인지 "가짜"(S 모델 특징)인지를 나타내는 확률 점수를 출력하도록 특징 맵을 처리하는 컨볼루션 네트워크입니다.
• 적대적 목적 함수: D 네트워크는 이진 교차 엔트로피(Binary Cross-Entropy, BCE) 손실을 사용하여 T 특징과 S 특징을 구별하도록 최적화됩니다. 반대로, S 모델은 D 네트워크를 속리기 위한 적대적 항($\mathcal{L}_{adv}$)을 사용하여 학습되며, 이를 통해 S 모델이 T 모델의 정상 분포와 구별할 수 없는 특징 맵을 생성하도록 강제합니다.
• 전체 손실: S 모델의 전체 손실은 특징 정렬과 적대적 항의 결합입니다: $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$.

4. 컨볼루션 강화 다중 스케일 특징 융합 (MFF)

추론 과정 중에는 여러 레이어($M_1$부터 $M_4$까지)에 걸친 T와 S 특징 간의 픽셀 단위 코사인 비유사성을 계산하여 이상 맵(anomaly maps)을 생성합니다.

• 정제(Refinement): 단순 합산과 달리, 제안된 MFF는 융합 전 각 스케일의 이상 맵에 1×1 컨볼루션, 배치 정규화(Batch Normalization), ReLU를 적용하여 특징 맵을 정제합니다. 이 단계는 스케일 변화와 공간적 불일치를 해결하기 위해 특징 맵을 정제합니다.
• 집계: 정제된 맵들은 쌍선형 보간법(bilinear interpolation)을 통해 결합되고 가우시안 필터로 평활화되어 최종 이상 맵을 생성합니다. 이미지 수준의 이상 점수는 이 맵의 최대 응답값으로부터 도출됩니다.

주요 기여

본 논문은 네 가지 주요 기여를 설명합니다:

1. 교차 도메인 프레임워크: 도메인 불가지론적(공유된) 특징과 도메인 특화(적응형) 특징 학습을 분리하여 의료(MRI, CT, OCT) 및 산업 데이터셋 전반에 걸쳐 일반화 성능을 입증한 통합 AD 프레임워크입니다.
2. Convolution-Enhanced MFF: 다중 스케일 특징을 융합하기 전에 특징을 정제함으로써 작고 큰 이상치를 모두 더 잘 국지화할 수 있는 새로운 모듈입니다.
3. 적응형 판별기: 다양한 이미징 모달리티에 걸쳐 정밀한 이상 국지화를 가능하게 하는 적응형 어텐션 메커니즘이 결가된 D 네트워크의 통합입니다.
4. 정밀한 국지화: 광범적인 실험을 통해 검증된, 질병 및 제품 결함을 국지화하기 위한 정확한 이상 맵 제공입니다.

실험 결과

Multi-AD는 세 가지 의료 데이터셋(뇌 MRI를 위한 BraTS2021, 망막 OCT를 위한 RESC, 간 CT를 위한 BTCV/LiTs)과 MVTec AD 산업 벤치마크에서 평가되었습니다.

• 의료 성능: Multi-AD는 평균 이미지 수준 AUROC 81.4% 및 **픽셀 수준 AUROC 97.0%**를 달성하였으며, 이는 PaDiM, PatchCore, SimpleNet, STFPM, RD4AD, MKD를 포함한 최신 모델들을 능가하는 성능입니다.
• 산업 성능: MVTec AD에서 모델은 평균 이미지 수준 AUROC 99.6% 및 **픽셀 수준 AUROC 98.4%**를 달성하여, 클러스터링 기반 및 재구성 기반 방법들을 지속적으로 앞질렀습니다.
• 절제 연구(Ablation Studies):
  • SE 블록을 제거하면 픽셀 수준 AUROC가 감소하여, 유익한 특징에 집중하는 데 있어 SE 블록의 역할을 확인했습니다.
  • **판별기(D)**를 제거하면 성능이 크게 저하되었습니다 (예: 의료 픽셀 수준 AUROC가 97.0%에서 93.2%로 하락). 이는 적대적 정제의 중요성을 강조합니다.
  • MFF를 제거하면 국지화 정확도가 눈에 띄게 감소하여, 다중 스케일 융합을 위한 컨볼루션 정제의 필요성을 입증했습니다.

의의 및 주장

저자들은 Multi-AD가 레이블이 지정된 이상 데이터가 부족한 실제 응용 분야에 대한 강력한 솔루션을 제공한다고 주장합니다. KD와 적대적 학습을 활용함으로써, 모델은 학습 중에 이상 레이블 없이도 정상 데이터의 분포를 효과적으로 학습하고 미세한 편차를 탐지할 수 있습니다.

논문은 Multi-AD가 선명하고 집중된 이상 히트맵을 생성하여 오탐(false positives)을 최소 최소화한다는 점을 강조하며, 이는 넓고 퍼진 맵을 생성하는 경향이 있는 클러스터링 기반 방법이나 복잡한 텍스처 처리에 어려움을 겪는 재구성 기반 방법보다 우수함을 보여줍니다. Multi-AD의 입증된 교차 도메인 일반화 능력은 광범위한 재학습 없이도 다양한 의료 및 산업 환경에 배포될 수 있음을 시사하며, 이는 확장 가능하고 신뢰할 수 있는 이상 탐지 시스템에 대한 중요한 요구를 충족합니다. 다만, 저자들은 MFF와 적대적 네트워크의 통합이 계산 복잡성을 증가시켜 자원이 제한된 환경에서의 실시간 구현에 과제가 될 수 있음을 겸허히 언급하였습니다.