WaveInvNet: A Wavelet-Separated Dynamic Involution Network for Multimodal Skin Lesion Classification

기술 요약: WaveInvNet

문제 정의
본 논문은 특히 흑색종(melanoma)의 사망률을 줄이기 위해 조기 및 정확한 피부암 진단이 절실히 필요하다는 점을 다룹니다. 딥러닝, 구체적으로 합성곱 신경망(CNN)이 자동화된 더모스코피 이미지 분석을 발전시켜 왔으나, 기존의 아키텍처는 한계에 직면해 있습니다. 표준 CNN은 공간적으로 공유된 커널에 의존하여 모든 이미지 영역을 균일하게 처리하므로, 피부 병변(예: 변화하는 중심부, 경계 및 주변 피부)의 이질적인 구조에 적응하지 못합니다. 또한, 전통적인 특징 추출 방식은 구조적 정보와 미세한 진단 세부 사항을 함께 처리하기 때문에 다운샘플링 과정에서 미묘한 패턴을 놓칠 위험이 있습니다. 추가적으로, HAM10000과 같은 피부 병변 데이터셋은 심각한 클래스 불균형을 보일 수 있으며, 이는 모델이 다수 클래스 쪽으로 편향되게 만들 수 있습니다.

방법론
저자들은 더모스코피 이미지와 환자 메타데이터(연령, 성별, 해부학적 위치)를 통합하도록 설계된 경량 멀티모달 아키텍처인 WaveInvNet을 제안합니다. 핵심 혁신은 4단계 계층적 인코더 내에 구성된 웨이브릿 분리 동적 인볼루션(Wavelet-Separated Dynamic Involution, WSDI) 블록에 있습니다.

1. WSDI(Wavelet-Separated Dynamic Involution) 블록:

   • 정지 Haar 웨이브릿 분해(Stationary Haar Wavelet Decomposition): 입력 특징 맵은 정지 Haar 웨이브릿 변환을 거칩니다. 이는 데이터를 저주파 구조 성분($F_{LL}$)과 세 가지 고주파 세부 성분($F_{LH}, F_{HL}, F_{HH}$)으로 분리합니다. 이산 웨이브릿 변환(DWT)과 달리, 이 방법은 다운샘플링 없이 원래의 공간 해상도를 보존합니다.
   • 주파수별 커널 생성: 블록은 구조, 세부 사항 및 게이팅을 위한 별도의 생성기를 채택합니다.
     • **구조 브랜치(Structure branch)**는 저주파 서브밴드를 사용하여 로우 커널 로짓(raw kernel logits)을 생성하며, 이는 Softmax를 통해 비음수(non-negative) 단위 합 커널($K_{str}$)로 정규화되어 구조적 집합(structural aggregation)을 수행합니다.
     • **세부 사항 브랜치(Detail branch)**는 연결된 고주 frequência 서브밴드를 처리합니다. 결과 로짓은 하이퍼볼릭 탄젠트(hyperbolic tangent)에 의해 경계가 정해지고, 평균 중심화 및 L1 정규화를 거쳐 국소적 변화를 강조하는 부호가 있는 영합(zero-sum) 커널($K_{det}$)을 생성합니다.
     • **게이팅 브랜치(Gating branch)**는 절대값 고주파 계수를 사용하여 세부 커널의 기여도를 조절하는 공간 가변 게이트($\beta$)를 생성합니다.
   • 적응형 커널 통합: 최종 커널은 $K_{wsdi} = K_{str} + \beta \odot K_{det}$로 계산됩니다. 이를 통해 네트워크는 각 공간 위치에서 미세한 세부 사항이 집합에 얼마나 영향을 미칠지를 동적으로 조정할 수 있습니다.
   • 그룹화된 인볼루션(Grouped Involution): 이러한 적응형 커널은 로컬 이웃에 그룹화된 인볼루션 연산자를 사용하여 적용되며, 여기서 커널은 채널 그룹 간에는 공유되지만 공간 위치에 따라 달라집니다.
   • 잔차 정밀화(Residual Refinement): 출력은 채널 확장, GELU 활성화, 투영(projection), LayerScale 및 스토캐스틱 뎁스(stochastic depth)를 거친 후 잔차 입력에 더해집니다.

2. 멀티모달 퓨전(Multimodal Fusion):

   • 환자 메타데이터는 표준화되고 인코딩됩니다.
   • 4단계 시각적 인코더가 주파수 인지 특징을 추출한 후, 전역 평균 풀링(global average pooling)이 적용됩니다.
   • 생성된 시각적 표현은 인코딩된 메타데이터와 결합되어, 최종 분류를 위한 소프트맥스 활성화 함수가 포함된 밀집 층(dense layer)을 통과합니다.

3. 데이터 처리:

   • 모델은 HAM10000 데이터셋(10,015개 이미지, 7개 클래스)으로 학습되었습니다.
   • 클래스 불균형을 해결하기 위해 과소 대표된 클래스(예: VASC 및 DF 샘플을 대폭 증강)에 표적 데이터 증강을 적용했습니다.
   • 누락된 연령 값은 중앙값(median)으로 대체되었습니다.

주요 기여

• 새로운 WSDI 블록: 본 논문은 웨이브릿 유도 구조 및 세부 성분을 사용하여 위치별 인볼루션 커널 생성을 직접 가이드하는 메커니즘을 적용한 첫 사례를 소개합니다.
• 경량 아키텍처: WaveInvNet은 주파수 인지 및 공간 적응형 표현을 점진적으로 학습하는 4단계 계층적 인코더이며, 낮은 파라미터 수를 유지합니다.
• 포괄적 평가: 본 연구는 성능, 계산 효율성 및 모델 복잡성을 평가하기 위해 기존 CNN 아키텍처(EfficientNetB0, DenseNet121, ResNet50, ConvNeXt-Base, InceptionV3) 및 최신 SOTA(state-of-the-art) 접근 방식들과 통합적인 비교를 제공합니다.

결과
HAM10000 테스트 세트(70/10/20 분할, 5회 실행 평균)에서 평가된 WaveInvNet의 성능은 다음과 같습니다:

• 정확도(Accuracy): 93.63%
• AUC: 98.46%
• F1-Score: 94.81%
• 정밀도(Precision): 94.45%
• 재현율(Recall): 95.20%

모델은 실행 시 낮은 표준 편차와 함께 일관된 성능을 보여주었습니다. 효율성 측면에서 WaveInvNet은 단 254만 개의 학습 가능한 파라미터(가중치 10.16 MB)만을 필요로 했으며, 이는 가장 작은 베이스라인인 EfficientNetB0 대비 약 42.6%, InceptionV3 대비 약 88.7% 감소한 수치입니다.

혼동 행렬(Confusion matrix) 분석 결과, 모델은 AKIEC, DF, VASC를 오류 없이 분류했습니다. 주요 혼동은 멜라노마(MEL)와 모반(NV) 사이, 그리고 양성 각화증 유사 병변(BKL)과 NV 사이에서 발생했으며, 이는 피부과 분야의 알려진 진단적 난제와 일치합니다.

의의 및 주장
본 논문은 주파수 인지 시각 처리(웨이브릿 분리를 통해)와 공간 적응형 집합(동적 인볼루션을 통해), 그리고 환자 메타데이터를 결합하는 것이 정확하고 파라미터 효율적인 다중 클래스 피부 병변 분류를 가능하게 한다는 것을 WaveInvNet이 입증한다고 주장합니다. 저자들은 자사의 접근 방식이 동일한 실험 조건 하에서 기존의 딥러닝 베이스라인보다 우수한 성능을 보이면서도 훨씬 작은 모델 규모를 유지한다고 단언합니다. 이들은 본 연구를 피부 병변의 이질성과 임상 데이터셋의 불균형을 처리할 수 있는 더 적응적이고 효율적인 진단 지원 시스템을 향한 단계로 포지셔닝합니다.

저자들은 결과가 유망하지만, 향-후 연구에서는 다양한 임상 조건에 대한 일반화 검증을 위해 추가 데이터셋 테스트, 계층적 k-폴드 교차 검증 탐색, 그리고 다른 임상 변수를 포함한 메타데이터 브랜치의 확장이 필요하다고 언급했습니다. 또한, 임상적 해석력을 높이기 위해 설명 가능성(explainability)과 불확실성 추정(uncertainty estimation)을 향후 조사 분야로 식별했습니다.