💻 computer science

Swin Transformer Based Multi-Label Chest Disease Classification

본 논문은 NIH ChestX-Ray14 데이터셋에 대한 포괄적인 벤치마킹 연구를 제시하며, 클래스 불균형 및 임계값 최적화를 위한 특정 전략에 의해 강화된 Swin Transformer V2-B 프레임워크가 다중 레이블 흉부 질환 분류에서 기존의 최첨단 딥러닝 모델들을 능가함을 입증한다.

원저자: Abdullah Bakr, Ashraf Ullah, Abdul Jabbar

게시일 2026-09-08

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Abdullah Bakr, Ashraf Ullah, Abdul Jabbar

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

매일 수백만 명의 사람들이 단순한 흉부 X선 촬영을 위해 클리닉과 병원을 찾으며, 이 절차는 의사들이 인간의 몸 내부를 들여다보는 가장 흔한 방법이 되었습니다. 이러한 영상들은 폐렴, 폐 주변의 액체 저류, 또는 심비대와 같은 질환을 찾아내는 데 필수적이지만, 이를 판독하는 것은 매우 까ền한 작업입니다. 단 하나의 영상 안에 여러 질병이 동시에 숨어 있을 수 있으며, 숙련된 전문가조차 미세한 징후를 놓치거나 거의 동일해 보이는 질환들을 구별하는 데 어려움을 겪을 수 있습니다. 인공지능이 의사들의 영상 해석을 돕는 데 큰 가능성을 보여주었지만, 한 가지 주요한 장애물이 남아 있습니다. 바로 이 컴퓨터들을 학습시키는 데 사용되는 데이터가 종종 불균형하다는 점입니다. 어떤 질병은 의료 기록에 빈번하게 등장하는 반면, 다른 질병들은 드물게 나타나는데, 이로 인해 표준적인 컴퓨터 프로그램들은 흔한 문제들을 찾아내는 데는 전문가가 되지만 희귀한 문제들에 직면했을 때는 실패하게 됩니다.

한 연구팀은 새로운 세대의 인공지능을 기존의 확립된 방법들과 테스트하여 이 문제를 해결하고자 했습니다. 그들은 3만 명 이상의 환자로부터 얻은 11만 2천 개 이상의 흉부 X선 사진이 담긴 방대한 컬렉션에 집중했으며, 이 데이터셋에는 최대 14가지의 서로 다른 질병이 라벨링되어 있습니다. 목표는 단순히 하나의 모델을 구축하는 것이 아니라, 여섯 가지 유형의 서로 다른 딥러닝 시스템 간의 공정한 정면 승부를 진행하는 것이었습니다. 이 시스템들은 인간의 눈이 페이지 위를 움직이는 것처럼 작은 필터로 이미지를 스캔하며 처리하는 전통적인 설계부터, '어텐션(attention)'이라 불리는 메커니즘을 사용하여 이미지 전체를 한 번에 보고 어느 부분이 중요한지 결정하는 더 새로운 구조에 이르기까지 다양했습니다. 연구진은 또한 컴퓨터가 희귀한 질병에 특별히 더 주의를 기울이도록 강제하여, 흔한 질병들을 선호하느라 희귀한 질병들을 단순히 무시하지 않도록 설계된 특정 학습 기법을 도입했습니다.

연구 결과, 스윈 트랜스포머(Swin Transformer)로 알려진 새로운 유형의 구조가 테스트된 모든 다른 방법보다 성능이 월등히 뛰어난 것으로 나타났습니다. 숲을 보지 못하고 나무를 보거나, 혹은 전체 그림은 보지만 미세한 세부 사항에서 어려움을 겪는 기존 모델들과 달리, 이 우승한 시스템은 두 세계의 장점을 결합했습니다. 이 시스템은 이미지를 작은 창(window) 단위로 나누어 국소적으로 분석한 다음, 그 창들을 서로 연결하기 위해 초점을 이동시킴으로써, 작은 폐 결절의 미세한 세부 사항과 비대해진 심장의 넓은 형태를 동시에 볼 수 있게 해줍니다. 동일한 이미지 세트로 테스트했을 때, 이 모델은 수년간 표준이었던 유명한 벤치마크 모델을 포함한 나머지 다섯 가지 시스템보다 더 높은 정확도 점수를 달ей했습니다. 이 모델은 전반적인 질병의 존재를 성공적으로 식별해 냈으며, 이는 시각 정보를 처리하는 이 특정한 방식이 흉부 X선의 복잡하고 다층적인 특성에 더 적합하다는 것을 증명했습니다.

결과의 신뢰성을 확보하기 위해, 연구진은 컴퓨터가 정답을 암기하는 것을 방지하는 데 세심한 주의를 기울였습니다. 그들은 동일한 환자의 이미지가 훈련 그룹과 테스트 그룹 양쪽 모두에 나타나지 않도록 데이터를 분리함으로써, 시스템이 단순히 특정 인물을 인식하는 것이 아니라 진정으로 질병 패턴을 인식하는 법을 배우도록 보장했습니다. 또한 각 질병에 대해 시스템의 의사 결정 과정을 개별적으로 조정하여, 희귀한 질병이라는 이유로 이를 놓치지 않도록 민감도를 미세하게 조정했습니다. 결과에 따르면, 이 새로운 모델은 일부 더 단순한 시스템들보다 학습하는 데 시간이 더 오래 걸렸지만, 그 추가적인 시간은 더 신뢰할 수 있는 진단으로 이어졌습니다. 연구진은 또한 모델의 '마음' 내부를 들여다보기 위해 시각화 도구를 사용하였으며, 모델이 질병을 지목했을 때 무작위적인 배경 소음이 아니라 실제로 폐나 심장의 관련 부위에 집중하고 있음을 확인했습니다.

이러한 발견은 자동화된 의료 진단의 미래가 이와 같이 더 정교한 어텐션 기반 시스템에 있을 수 있음을 시사합니다. 비록 이 새로운 모델이 모든 과제를 해결한 것은 아니며(찾아내기 어려운 일부 질병들은 여전히 까다로운 것으로 드러났고, 최고 수준임에도 불구하고 개선의 여지가 있는 전체 정확도 점수), 기존의 전통적인 방식보다 명확한 우위를 보여주었습니다. 국소적인 세부 사항과 전역적인 맥락을 모두 이해할 수 있는 시스템이 여러 질병이 동시에 발생하는 복잡한 현실을 더 잘 다룰 수 있음을 보여줌으로써, 이 연구는 언젠가 전 세계 환자들을 위해 더 빠르고 정확한 결정을 내리는 의사들을 도울 수 있는 도구를 구축하기 위한 강력한 토대를 제공합니다.

기술 요약: Swin Transformer 기반 다중 라벨 흉부 질환 분류

문제 정의
본 논문은 흉부 X선(CXR)의 자동 다중 라벨 분류에 내재된 도전 과제, 특히 **클래스 불균형(class imbalance)**과 **다중 라벨 예측(multi-label prediction)**의 복잡성에 초점을 맞춥니다. 임상 현장에서는 단일 흉부 방사선 사진이 여러 가지 동반 병변(예: 심비대, 흉수, 폐렴이 동시에 나타남)을 제시하는 경우가 많으므로, 모델은 단일 클래스가 아닌 여러 독립적인 라벨을 예측해야 합니다. 또한, 의료 데이터셋의 질병 분포는 매우 편향되어 있어, "이상 소견 없음(No Finding)" 사례가 지배적이고 희귀 질환은 데이터의 극히 일부만을 차지합니다. 기존 연구들은 일관되지 않은 학습 조건 하에서 모델을 비교하거나 특정 아키텍처에만 집중하는 경우가 많아 공정한 벤치마킹이 어렵습니다. 본 연구의 목표는 14가지의 서로 다른 흉부 질환을 정확하게 분류하면서 데이터 불균형의 영향을 완화하고 데이터 누수(data leakage)를 방지하는 강력한 프레임워크를 개발하는 것입니다.

방법론
본 연구는 30,805명의 환자로부터 얻은 112,120장의 정면 보기 방사선 사진으로 구성된 NIH ChestX-Ray14 데이터셋을 통해 평가된 종합적인 벤치마킹 프레임워크를 제시합니다. 방법론은 다섯 가지 핵심 모듈로 구성됩니다:

데이터 처리 및 전처리:
- 환자 단위 분할(Patient-Level Splitting): 데이터 누수를 방지하기 위해 데이터셋을 환자 단위로 분할하였습니다 (학습: 69,219; 검증: 17,305; 테스트: 25,596). 이는 동일 환자의 이미지가 학습 세트와 테스트 세트에 모두 등장하지 않도록 보장합니다.
- 전처리: 이미지는 아키텍처별 규격(예: ResNet-50의 경우 224×224, Swin Transformer V2-B의 경우 256×256)으로 크기가 조정되며, ImageNet 통계치를 사용하여 정규화됩니다.
- 증강(Augmentation): 과적합을 완화하기 위해 학습 데이터에 무작위 수평 뒤집기, 회전(±10°), 색상 지터링(color jittering)을 적용합니다.
모델 아키텍처 및 학습:
- 비교 연구: 여섯 가지 딥러닝 아키텍처를 동일한 조건 하에서 평가합니다: 4개의 CNN(ResNet-50, VGG-19, DenseNet-121, Inception V3)과 2개의 트랜스포머 기반 모델(ViT-B/16, Swin Transformer V2-B).
- 출력층: 모든 모델은 최종 레이어를 14개 출력의 시그모이드 헤드(sigmoid head)로 교체하여 다중 라벨 분류에 적합하도록 수정되었습니다.
- 손실 함수: 클래스 불균형을 해결하기 위해 표준 이진 교차 엔트로피(Binary Cross-Entropy) 대신 포컬 로스(Focal Loss) ( $\alpha=1, \gamma=2$ )를 채택했습니다. 이는 쉬운 예제의 가중치를 낮추고 모델이 분류하기 어려운 사례에 집중하도록 강제합니다.
- 최적화: 모델은 AdamW 옵티마이저, OneCycleLR 학습률 스케줄링, 혼합 정밀도(AMP)를 사용하여 학습됩니다.
후처리 및 평가:
- 임계값 최적화: 각 질환에 대해 F1-score를 독립적으로 최대화하도록 검증 세트에서 클래스별 임계값을 최적화합니다.
- 지표: 성능은 AUC-ROC, F1-score, 정밀도(Precision), 재현율(Recall), 혼동 행렬(Confusion Matrix)을 사용하여 평가됩니다.
- 설명 가능성: 제안된 Swin Transformer 모델에 **Grad-CAM++**를 적용하여 히트맵을 생성함으로써, 모델이 임상적으로 유의미한 해부학적 영역에 주의를 기울이는지 검증합니다.

주요 기여
본 논문은 다음과 같은 구체적인 기여를 주장합니다:

엄격한 벤치마킹: NIH ChestX-Ray14 데이터셋에 대해 엄격하게 동일한 학습 조건 하에서 6가지 최신 딥러닝 모델을 검증하여, CNN과 트랜스포머 간의 공정한 비교를 제공합니다.
제안된 프레임워크의 우수성: 동일한 단일 모델 조건에서 평가했을 때, Swin Transformer V2-B가 다른 최신 벤치마크 딥러닝 기술 및 CheXNet 베이스라인보다 뛰어난 성능을 보임을 입증했습니다.
데이터 무결성: 환자 단위 데이터 분할 구현을 통해 의료 영상 연구의 흔한 함정인 데이터 누수를 제거했습니다.
최적화 전략: 클래스 불균형을 위한 포컬 로스 적용과 모든 6개 모델에 대한 클래스별 임계값 최적화는 분류 성능을 향상시켰습니다.
설명 가능성: 커스텀 다중 라벨 타겟과 함께 Grad-CAM++를 통합하여 모델의 의사 결정 과정에 대한 시각적 근거를 제공합니다.

결과
광범적인 실험을 통해 다음과 같은 결과를 얻었습니다:

성능: Swin Transformer V2-B는 가장 높은 평균 AUC인 0.8495를 달성하여 다른 모든 벤치마크 모델을 앞질렀습니다. 이는 두 번째로 우수한 모델인 VGG-19(AUC 0.8341)와 트랜스포머 베이스라인인 ViT-B/16(AUC 0.8312)을 능가하는 수치입니다.
아키텍처 비교: 트랜스포머 기반 아키텍처(평균 AUC 0.8409)는 모든 지표에서 CNN 기반 아키텍처(평균 AUC 0.8214)보다 일반적으로 우수한 성능을 보였으며, 이는 어텐션 메커니즘이 흉부 질환 분석에 필요한 장거리 공간 의존성을 더 잘 포착함을 시사합니다.
클래스별 성능: Swin V2-B는 시각적으로 뚜렷하고 데이터가 풍부한 질환(예: 탈장 AUC 0.935, 심비대 AUC 0.915)에서는 강력한 성능을 보였으나, 침윤(Infiltration, AUC 0.729)이나 결절(Nodule, AUC 0.792)과 같이 시각적으로 미묘한 병변에서는 어려움을 겪었습니다.
효율성 트레이드오프: Swin V2-B는 가장 높은 정확도를 제공하지만, ViT-B/16(2.57시간) 및 기타 CNN들과 비교했을 때 가장 긴 학습 시간(5.83시간)이 소요되어, 계산 비용과 성능 이득 사이의 트레이드오프를 보여줍니다.
CheXNet과의 비교: 본 연구의 DenseNet-121 구현은 AUC 0.8163을 기록하여, 원래의 CheXNet(AUC 0.8410)보다 낮았습니다. 저자들은 이를 CheXNet이 모델 앙상블과 추가적인 학습 자원을 사용했기 때문이라고 설명하며, 본 연구의 Swin V2-B 결과는 단일 모델, 단일 실행 설정에서 달성되었음을 언급했습니다.

의의 및 주장
본 논문은 Swin Transformer V2-B가 다중 라벨 흉부 질환 분류 분야에서 중요한 진전을 이루었다고 결론짓습니다. 저자들은 Swin Transformer의 계층적 이동 윈도우 어텐션(hierarchical shifted-window attention) 메커니즘이 글로벌 어텐션(ViT)이나 순수 합성곱 필터(CNN)보다 미세한 국소적 세부 사항(예: 결절)과 광범위한 구조적 맥락(예: 심비대)을 모두 효과적으로 포착하기 때문에 의료 영상에 특히 효과적이라고 주장합니다.

연구는 포컬 로스와 임계값 최적화가 클래스 불균형을 완화하긴 하지만, 시각적으로 모호한 병변을 구별하는 어려움은 여전히 과제로 남아 있으며, 이는 모든 모델에서 나타난 상대적으로 낮은 F1-score(0.23–0.31)를 통해 입증됩니다. 저자들은 자신들의 연구가 앙상블 기법에 의존하지 않고도 이 영역에서 트랜스포머 아키텍처의 우수성을 입증함으로써 향후 연구를 위한 강력한 베이스라인을 제공한다고 겸허히 주장합니다. 또한 다른 데이터셋에 대한 외부 검증의 부재와 방사선사 주석에 대한 정량적 설명 가능성 평가의 부재를 한계점으로 인정합니다.

기술 요약: Swin Transformer 기반 다중 라벨 흉부 질환 분류

유사한 논문