Unsupervised Deep Generative Models for Anomaly Detection in Neuroimaging: A Systematic Scoping Review

본 논문은 2018 년부터 2025 년까지 뇌 영상 분야에서 라벨 없이 병변을 탐지하기 위해 적용된 비지도 딥 생성 모델 연구 33 건을 체계적으로 검토하여, 이러한 방법론의 잠재력과 방법론적 이질성 및 외부 검증 부족과 같은 한계점을 종합적으로 분석했습니다.

핵심

1. 핵심 아이디어: "건강한 뇌의 기억"을 가진 AI

이 연구의 주인공은 **비지도 학습 (Unsupervised Learning)**이라는 기술을 쓴 AI 입니다.

• 기존 방식 (지도 학습): 마치 의사가 "이건 뇌종양, 이건 뇌출혈"이라고 라벨이 붙은 수천 장의 사진을 보고 "병의 모양"을 외우는 것과 같습니다. 하지만 희귀병이나 라벨이 없는 병은 못 찾습니다.
• 이 연구의 방식 (비지도 학습): AI 에게는 오직 '건강한 뇌' 사진만 보여줍니다. AI 는 "아, 뇌는 보통 이런 생김새구나"라고 정상적인 뇌의 모양을 완벽하게 기억하게 됩니다.
  • 이제 AI 에게 새로운 환자를 보여줍니다.
  • AI 는 기억하고 있는 '정상 뇌'를 머릿속으로 그려냅니다 (가상 재구성).
  • 실제 환자 사진과 AI 가 그린 정상 뇌를 비교합니다.
  • "어? 여기가 다르네? 여기가 튀어나왔네?" 하는 부분이 바로 **병 (이상)**이라고 판단하는 것입니다.

비유:

마치 완벽한 기억력을 가진 예술가가 있다고 상상해 보세요. 그는 '정상적인 얼굴'을 수만 번 그려본 뒤, 그 기억을 바탕으로 새로운 사람의 초상화를 그립니다.
만약 그 사람이 코에 반점이 있거나 눈이 하나 작다면, 예술가는 "내 기억 속의 정상적인 얼굴과 비교했을 때 이 부분이 이상해!"라고 바로 알아챕니다. 라벨이 붙어 있지 않아도, '정상'과 '비정상'의 차이를 찾아내는 원리입니다.

---

2. 조사 내용: 어떤 AI 들을 비교했나?

저자들은 2018 년부터 2025 년까지 발표된 33 편의 연구를 모아서, 어떤 AI 기술이 가장 잘 작동하는지 비교했습니다. 주요 기술 4 가지를 비교했는데, 각각의 특징은 다음과 같습니다.

1. 오토인코더 (AE): 데이터를 압축했다가 다시 원래대로 펼치는 기술. (가장 기본형)
2. 변분 오토인코더 (VAE): 확률을 섞어서 더 다양한 뇌 모양을 상상해내는 기술.
3. GAN(생성적 적대 신경망): 한 AI 가 가짜 뇌를 만들고, 다른 AI 가 진짜와 가짜를 구별하며 서로 경쟁하는 기술. (화질이 선명함)
4. 확산 모델 (Diffusion): 소음을 점점 제거하며 뇌를 만들어내는 최신 기술. (가장 최신 트렌드)

---

3. 주요 발견: "병의 크기"가 성능을 좌우했다

이 연구에서 가장 중요한 결론은 **"어떤 병을 찾느냐에 따라 AI 의 실력이 천차만별"**이라는 것입니다.

• 큰 병 (뇌종양 등): AI 가 아주 잘 찾습니다.
  • 비유: 거대한 바위를 놓아두면 누구나 금방 찾습니다. 뇌종양처럼 크고 뚜렷한 병은 AI 가 "여기가 다르다!"라고 쉽게 알아챕니다.
• 작고 퍼진 병 (다발성 경화증, 작은 뇌출혈 등): AI 가 매우 어려워합니다.
  • 비유: 모래알처럼 작고 흩어진 병을 찾으려면, AI 가 "이 모래알이 정상 모래알과 뭐가 다르지?"라고 고민해야 합니다. AI 는 건강한 뇌의 미세한 차이까지 기억해야 하므로, 작은 병은 놓치기 쉽습니다.

결론: 어떤 AI 기술 (GAN 이냐, 확산 모델이냐) 을 쓰느냐보다, 찾는 병이 얼마나 크고 뚜렷한지가 성능을 결정하는 더 큰 요소였습니다.

---

4. 문제점과 한계: "완벽하지 않은 현실"

이 기술은 아직 완벽하지 않습니다. 몇 가지 걸림돌이 있습니다.

• 기준점의 문제: AI 가 기억하는 '정상 뇌'가 진짜로 모든 사람의 정상인지 의문입니다. (예: AI 가 젊은 사람만 보고 배웠는데, 노인 환자를 보면 노화로 인한 변화를 병으로 오인할 수 있습니다.)
• 작은 병의 한계: 위에서 말했듯, 작고 희미한 병은 여전히 찾기 어렵습니다.
• 비교의 어려움: 각 연구마다 사용하는 데이터나 평가 방법이 달라서, "A 기술이 B 기술보다 10% 더 좋다"라고 단정 짓기 어렵습니다.

---

5. 미래 전망: 어디로 가고 있나?

이 연구는 **"라벨이 없는 데이터만으로도 병을 찾을 수 있는 가능성"**을 보여주지만, 아직 임상 현장에서 바로 쓰기엔 무리가 있다고 말합니다.

• 현재 역할: 의사가 "혹시 여기 이상한 게 있나?"라고 눈여겨보게 해주는 초기 스크리닝 (Triage) 도구로 유용합니다.
• 미래 방향:
  • 더 작고 복잡한 병을 찾기 위해 AI 의 '기억력'을 더 정교하게 다듬을 것입니다.
  • 단순히 병을 찾는 것뿐만 아니라, **"이 환자가 건강했다면 어땠을지"**를 시각적으로 보여주는 가상 재구성 기술을 발전시켜 의사의 진단을 돕는 방향으로 나아갈 것입니다.

한 줄 요약

**"건강한 뇌만 보고 배운 AI 가, 환자와의 차이점을 찾아 병을 의심하게 해주는 기술"**을 조사한 결과, 큰 병은 잘 찾지만 작은 병은 여전히 어려워하며, 앞으로 더 정교한 '기억'과 '시각화' 기술이 필요하다는 결론입니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 뇌 MRI 는 뇌종양, 뇌졸중, 다발성 경화증 (MS), 백질 고신호 (WMH) 등 다양한 신경학적 질환의 진단과 모니터링에 필수적입니다. 그러나 수동으로 병변을 분할 (Segmentation) 하고 탐지하는 것은 전문의의 시간이 많이 소요되며, 판독자 간/내 편차가 존재합니다.
• 지도 학습의 한계: 기존 딥러닝 기반의 자동화 도구는 대부분 지도 학습 (Supervised Learning) 에 의존합니다. 이는 병변에 대한 픽셀 단위 (voxel-level) 의 정밀한 라벨링 데이터가 대량으로 필요하다는 전제하에 작동합니다. 그러나 희귀 질환이나 이질적인 병변의 경우 고품질 라벨 데이터 확보가 어렵고, 모델은 학습된 특정 병변 유형 외의 새로운 이상 (Distribution Shift) 을 탐지하는 데 어려움을 겪습니다.
• 문제 정의: 라벨 데이터 없이도 뇌의 정상 해부학적 분포를 학습하여, 학습된 '정상' 분포에서 벗어난 병변을 탐지할 수 있는 비지도 이상 탐지 (Unsupervised Anomaly Detection, UAD) 방법론의 필요성이 대두되었습니다. 최근 생성 모델 (Generative Models) 의 발전으로 이러한 접근이 가능해졌으나, 구조적 신경영상 (Structural Neuroimaging) 에 적용된 다양한 생성 모델들의 성능을 체계적으로 비교·종합한 연구는 부족했습니다.

2. 연구 방법론 (Methodology)

• 연구 설계: PRISMA-ScR 가이드라인에 따른 체계적 스코핑 리뷰 (Systematic Scoping Review) 를 수행했습니다.
• 검색 범위: 2018 년 1 월부터 2025 년 12 월까지 발표된 논문을 대상으로 PubMed, Web of Science, ArXiv 등 주요 데이터베이스를 검색했습니다.
• 포함 기준:
  • 구조적 뇌 MRI(또는 CT) 를 대상으로 한 비지도 딥러닝 생성 모델 연구.
  • 학습 시 병변 레이블을 사용하지 않고 건강한 데이터만으로 정상 해부학을 모델링한 경우.
  • 탐지 (Detection) 또는 분할 (Segmentation) 을 위한 정량적 지표 (Dice, AUROC, AUPRC 등) 를 보고한 연구.
• 분석 대상: 총 33 개의 연구가 최종 선정되었으며, 이를 4 가지 주요 아키텍처 패밀리로 분류하여 분석했습니다:
  1. 오토인코더 (Autoencoders, AE)
  2. 변분 오토인코더 (Variational Autoencoders, VAE)
  3. 생성적 적대 신경망 (Generative Adversarial Networks, GAN)
  4. 확산 모델 (Diffusion Models)
• 평가 지표:
  • 분할 정확도: Dice Similarity Coefficient (Dice).
  • 탐지 정확도: AUROC (Area Under the Receiver Operating Characteristic Curve), AUPRC (Area Under the Precision-Recall Curve).
  • 평가 수준: 픽셀/보크셀 (Voxel), 슬라이스 (Slice), 환자 단위 (Subject).
  • 임계값 전략: 검증 세트 기반, 사후 최적화 (Post-hoc), 고정 임계값 등.

3. 주요 기여 및 발견 (Key Contributions & Results)

A. 아키텍처별 성능 종합

• 뇌종양 (Brain Tumours): 모든 모델 패밀리에서 가장 높은 성능을 보였습니다.
  • Dice 점수: 대략 0.30 ~ 0.75 범위. 확산 모델 (Diffusion) 이 일부 연구에서 0.85 이상의 높은 점수를 기록했으나, 임계값 최적화 여부에 따라 편차가 큽니다.
  • AUROC: 0.58 ~ 0.97 범위로, 슬라이스 단위 평가 시 0.9 이상을 기록한 사례가 많았습니다.
  • 원인: 뇌종양은 크기가 크고 대비가 뚜렷하여 생성 모델이 '정상'과 '비정상'을 구분하기 용이하기 때문입니다.
• 다발성 경화증 (MS) 및 백질 고신호 (WMH): 성능이 현저히 낮았습니다.
  • Dice 점수: 종종 0.30 미만, 심한 경우 0.10 대까지 떨어졌습니다.
  • 원인: 병변이 작고 희소하며 (Sparse), 뇌 전체 부피 대비 비율이 낮아 클래스 불균형 (Class Imbalance) 문제가 심각하고, 생성 모델이 작은 병변을 '정상'으로 재구성해버리는 (False Negative) 경향이 있습니다.
• 뇌졸중 (Stroke): 급성기보다는 만성기 뇌졸중에서 성능이 낮았으며, 병변의 경계가 불명확하고 강도 프로파일이 이질적인 것이 주요 장애요인이었습니다.

B. 아키텍처 간 비교

• 패밀리 간 우위 부재: 특정 아키텍처 (AE, VAE, GAN, Diffusion) 가 모든 병변에서 일관되게 우월한 성능을 보인 것은 아닙니다.
• 성능 결정 요인: 모델의 종류보다는 병변의 특성 (크기, 대비, 형태) 과 데이터셋의 구성이 성능에 더 큰 영향을 미쳤습니다.
• 확산 모델의 역할: 최근 확산 모델 (Diffusion Models) 이 높은 재구성 품질을 보여주지만, 작은 병변에 대한 분할 성능은 기존 AE/VAE/GAN 과 큰 차이가 없거나 오히려 계산 비용이 큰 편입니다.

C. 방법론적 한계 및 이슈

• 임계값 선정의 불일치: 많은 연구가 테스트 세트에서 최적의 Dice 를 얻기 위해 사후적으로 임계값을 조정 (Post-hoc optimisation) 하여 보고했습니다. 이는 실제 임상 적용 가능한 성능을 과장할 수 있으며, 연구 간 직접적인 비교를 어렵게 만듭니다.
• 2D vs 3D: 2D 슬라이스 기반 처리가 여전히 우세하지만, 3D 볼륨 처리가 공간적 맥락을 제공한다는 장점이 있음에도 불구하고 성능 향상이 일관되게 나타나지는 않았습니다.
• 데이터 편향: 학습에 사용된 건강한 데이터셋 (UK Biobank, HCP 등) 의 인구통계학적 편향이나, 학습 데이터에 병변이 섞여 있는 경우 (Contamination) 모델 성능이 급격히 저하될 수 있음이 확인되었습니다.

4. 의의 및 시사점 (Significance)

• 임상적 가치: 비지도 생성 모델은 라벨 데이터가 부족한 희귀 질환이나 이질적인 병변에서 병변-무관 (Pathology-agnostic) 한 이상 탐지 및 시각화 도구로 잠재력이 큽니다. 특히 '가상-정상 (Pseudo-healthy)' 이미지를 생성하여 환자와의 비교를 통해 의사의 진단을 보조하는 '대조적 시각화' 기능을 제공합니다.
• 성능의 한계: 현재 기술 수준에서는 작은 병변 (MS, WMH 등) 에 대한 분할 정확도가 임상적 사용에 충분하지 않으며, 지도 학습 기반의 최첨단 모델 (Supervised Baselines) 을 아직 따라가지 못합니다.
• 미래 방향성:
  • 평가 지표의 혁신: 단순한 Dice/AUROC 를 넘어, 재구성된 이미지의 질을 평가하는 새로운 지표 (Restoration Quality Index, Anomaly-to-Healthy Index 등) 의 도입이 필요합니다.
  • 아키텍처 개선: 해부학적 지식을 반영한 모델 (Symmetry constraints, Atlas guidance) 과 확산 모델의 효율성 개선이 필요합니다.
  • 벤치마크: BraTS 와 같은 표준 데이터셋 외에, 희귀 및 이질적인 병변을 포함하는 새로운 벤치마크 (예: NOVA) 를 통한 일반화 능력 검증이 필수적입니다.

5. 결론

이 리뷰는 2018~2025 년 간의 비지도 딥러닝 생성 모델 기반 신경영상 이상 탐지 연구를 체계적으로 분석했습니다. 뇌종양과 같은 큰 병변에서는 유망한 성능을 보이지만, 작고 희소한 병변에 대해서는 여전히 낮은 성능을 보이며, 모델 아키텍처의 차이보다는 병변 특성과 데이터 품질이 성능을 좌우함을 밝혔습니다. 향후 연구는 작은 병변 탐지 성능 향상, 표준화된 평가 프로토콜 수립, 그리고 임상적 유효성을 입증하기 위한 전향적 연구를 통해 진행되어야 합니다.