Lung-SRAD: Spectral-Aware Regularized Audio DASS with Dual-Axis Patch-Mix Contrastive Learning for Respiratory Sound Classification

기술 요약: Lung-SRAD

문제 정의
호흡음 분류(RSC)는 폐렴, 만성 폐쇄성 폐질환(COPD), 천식과 같은 질환을 진단하는 데 매우 중요하며, 이러한 질환에서는 수축음(crackles)이나 천명음(wheezes)과 같이 짧은 지속 시간을 가진 국소적인 시공간적 구조가 비정상적인 소리로 나타납니다. 최근 고성능을 보이는 RSC 방법론들은 오디오 스펙트로그램 트랜스포머(AST)와 같은 트랜스포머 기반 아키텍처에 의존하고 있으나, 저자들은 두 가지 주요 한계를 지적합니다:

1. 스펙트럼 편향(Spectral Bias): 이론적 분석에 따르면, 트랜스포머의 소프트맥스(softmax) 기반 셀프 어텐션은 특징 영역에서 저역 통과 필터(low-pass filter)로 작용합니다. 이는 고주파수 간 토큰 변동을 점진적으로 억제하여, 비정상적인 호흡 이벤트의 특징인 국소적이고 급격한 공간적 변화에 대한 민감도를 저하시킬 가능성이 있습니다.
2. 계산 복잡도: 셀프 어텐션의 이차 시간 및 메모리 복리 복잡도로 인해, 긴 오디오 시퀀스에 대해 트랜스포머는 계산 비용이 많이 듭니다.

방법론: Lung-SRAD
본 논문은 이러한 한계를 해결하기 위해 상태 공간 모델(SSM)을 기반으로 구축된 Lung-SRAD(Spectral-Aware Regularized Audio DASS) 프레임워크를 제안합니다. 이 방법론은 세 가지 핵심 구성 요소로 이루어집니다:

1. SSM 백본 (DASS):
   저자들은 AudioSet의 트랜스포머 앙상블(AST 및 HTS-AT)로부터 증류된 가중치로 초기화된 Distilled Audio State Space 모델(DASS)을 활용합니다. 트랜스포머와 달리, DASS는 2D 선택적 상태 공간 스캐닝(SS2D)을 갖춘 계층적 아키텍처를 채택합니다. 이를 통해 단일 CLS 토큰에 의존하는 대신 공간적 풀링을 통해 전체 시-주파수 맵으로부터 특징을 집계하며, 분산된 표현을 유지하면서 선형 복잡도를 유지할 수 있습니다.

2. 스펙트럼 인식 레이어 정규화(Spectral-Aware Layer Regularization):
   스펙트럼 응답 곡선 분석을 통해, 저자들은 DASS가 AST보다 중-고주파 공간 성분을 더 잘 보존하지만, 특정 중간 레이어(특히 Stage 2)에서 미세한 국소 패턴에 과적합될 수 있는 과도한 고주파 응답을 보인다는 것을 관찰했습니다. 이를 완화하기 위해, 이들 레이어에 선택적으로 **가우시안 컨볼루션(Gaussian convolution)**을 적용합니다. 이 정규화는 전반적인 하모닉 구조를 유지하면서 지배적인 스펙트럼 피크를 감쇠시켜, 민감도를 희생하지 않으면서 특이도(specificity)를 개선하는 것을 목표로 합니다.

3. 이축 패치 믹스 대조 학습(Dual-Axis Patch-Mix Contrastive Learning):
   AST를 위해 설계된 표준 패치 믹스 대조 학습은 스펙트로그램 패치를 순서가 없는 집합으로 취급합니다. 그러나 VMamba와 같은 SSM은 입력을 방향성 상태 전이를 가진 구조화된 2D 그리드로 처리합니다. 단순한 패치 믹싱은 이러한 순차적 상태 진화를 방해합니다. SSM 아키텍처에 맞추기 위해, 저자들은 Dual-Axis Patch-Mix를 제안합니다:

   • 시간적 패치 믹스(Temporal Patch-Mix): 주파수 측의 상태 연속성을 보존하면서 연속적인 시간적 세그먼트를 교체합니다.
   • 주파수 패치 믹스(Frequency Patch-Mix): 시간적 연속성을 보존하면서 연속적인 주파수 대역을 교체합니다.
   • 비대칭 그래디언트 전략(Asymmetric Gradient Strategy): 모델은 혼합된 샘플에 스톱 그래디언트(stop-gradient) 연산을 사용하여, 백본의 구조화된 상태 공간 역학을 붕괴시키지 않으면서 이러한 축 정렬된 섭동에 대한 불변성을 유도합니다.

주요 기여

• RSC를 위한 최초의 DASS 적용: 본 논문은 호흡음 분류를 위해 증류된 상태 공간 모델을 사용한 첫 사례를 제시하며, 단순 파인튜닝을 통해 ICBKI 데이터셋에서 61.06%의 베이스라인 점수를 달 achieved 했습니다.
• 스펙트럼 분석 및 정규화: 저자들은 SSM과 트랜스포머의 중간 표현에 대한 경험적 분석을 제공하여, DASS가 중-고주파 공간 성분을 보존하는 데 우월함을 입증했습니다. 또한, 이러한 고주파 응답의 균형을 맞추기 위한 표적 가우시안 정규화 전략을 도입했습니다.
• 아키텍처 정렬 대조 학습: SSM의 다방향 스캐닝 특성에 맞게 설계된 Dual-Axis Patch-Mix 지도 대조 학습 전략을 제안하여, 기존 패치 믹싱 기술에 의한 구조적 붕괴를 방지했습니다.

실험 결과
실험은 공식적인 60% 훈련 및 40% 테스트 분할(환자 독립적)을 사용하는 ICBHI 벤치마크에서 수행되었습니다.

• 4-클래스 평가: 최종 Lung-SRAD 모델은 **ICBHI 점수 64.48%**를 달성하여, AST 베이스라인(Patch-Mix CL 적용 시 62.37%)보다 약 2.1%포인트 높았으며, 표준 AST 파인튜닝 베이스라인보다는 5%포인트 높았습니다. 이러한 향상은 민감도(Se)를 유사하게 유지하면서 특이도(Sp)를 74.68%에서 79.53%로 크게 높인 것에 기인합니다.
• 2-클래스 평가: 이진 분류 설정(정상 vs 비정상)에서 모델은 **72.57%**의 점수를 기록하여, 논문에서 보고된 이전의 최첨단(SOTA) 성능(72.08%)을 초과했습니다.
• 절제 연구(Ablation Studies): 실험 결과, 스펙트럼 인식 정규화가 특이도를 개선하고, Dual-Axis Patch-Mix 전략이 단일 축 믹싱 또는 AST 스타일의 믹싱보다 우수한 정규화 효과를 제공함을 확인했습니다.

의의 및 주장
본 논문은 Lung-SRAD가 호흡음 분류를 위한 효율적이고 효과적인 대안으로서 상태 공간 모델의 생존 가능성을 입증한다고 주장합니다. SSM의 국소적 시공간 패턴 보존 능력을 활용하고 아키텍처 특화 정규화 및 대조 학습을 도입함으로써, 이 방법은 민감도와 특이도 사이의 유리한 균형을 달성합니다. 저자들은 이 접근 방식이 희소한 비정상 호흡 이벤트를 탐지하는 맥락에서 어텐션 기반 모델의 특정 스펙트럼 한계를 해결하며, 임상 오디오 분석을 위한 계산 효율적인 경로를 제공한다고 강조합니다.