Meta-Ensemble Learning with Diverse Data Splits for Improved Respiratory Sound Classification

[기술 요약] 다양한 데이터 분할을 이용한 메타-앙상블 학습 기반 호흡음 분류 성능 향상

1. 문제 정의 (Problem Statement)

호흡음 분류(Respiratory Sound Classification, RSC)는 천식, 폐렴 등 폐 질환 진단에 매우 중요하지만, 다음과 같은 기술적 난제가 존재합니다.

• 데이터 부족 및 다양성 결여: 개인정보 보호, 높은 수집 비용, 전문가 라벨링의 어려움으로 인해 학습 데이터셋의 규모가 작고 환자군이 제한적입니다. 이는 모델의 과적합(Overfitting)과 일반화 성능 저하를 야기합니다.
• 앙상블의 한계: 기존 앙상블 방법은 동일한 데이터 분포로 학습된 모델들을 결합하기 때문에, 모델 간 예측 결과가 매우 유사(Highly Correlated)하여 앙상블을 통한 성능 향상 효과가 제한적입니다.
• 고정된 결합 방식의 문제: 단순 로짓 평균(Logit Averaging)과 같은 방식은 각 베이스 모델의 신뢰도 차이를 반영하지 못합니다.

2. 제안 방법론 (Methodology)

본 논문은 데이터 분할 방식에 다양성을 부여하여 베이스 모델 간의 예측 차이를 극대화하고, 이를 학습 가능한 **메타 모델(Meta-model)**로 결합하는 '메타-앙상블 학습' 프레임워크를 제안합니다.

A. 데이터 분할 전략 (Data Strategy)
데이터의 다양성을 확보하기 위해 두 가지 차원의 분할을 적용했습니다.

1. 분할 방식 (Split Method):
   • Fixed Split (고정 분할): 전체 데이터의 80%를 베이스 모델 학습용으로, 20%를 메타 모델 학습용으로 고정하여 사용합니다.
   • 5-Fold Cross-Validation (5-겹 교차 검증): 80%의 데이터를 다시 5개로 나누어, 각 베이스 모델이 서로 다른 데이터 조합으로 학습되도록 하여 모델 간 다양성을 극대화합니다.
2. 분할 세분화 수준 (Split Granularity):
   • Patient-Level (환자 단위): 특정 환자의 모든 샘플을 베이스 모델 또는 메타 모델 중 한 곳에만 할당합니다. 환자 특유의 신호에 의존하는 것을 방지하여 실제 임상 환경에서의 일반화 능력을 평가합니다.
   • Sample-Level (샘플 단위): 환자 구분 없이 무작위로 샘플을 나눕니다. 동일 환자의 데이터가 양쪽에 모두 포함될 수 있어 성능이 높게 나올 수 있으나, 정보 누출(Information Leakage)의 위험이 있습니다.

B. 학습 파이프라인 (Training Procedure)

1. 1단계 (Base Model Training): 최신 모델인 BTS(Audio-CLAP 기반)를 베이스 모델로 사용하여 5개의 모델을 학습시킵니다.
2. 2단계 (Meta-Model Training): 학습된 베이스 모델들을 고정(Freeze)한 후, 메타 모델 학습용 데이터(20%)에 대한 베이스 모델들의 로짓(Logit) 값을 추출합니다. 이 로짓 벡터를 입력으로 받아 최종 예측을 수행하는 메타 모델(1-Hidden, 2-Hidden, BTS-Meta 등)을 학습시킵니다.

3. 주요 기여 (Key Contributions)

• 데이터 다양성 활용: 데이터 분할 전략(Fixed vs 5-Fold, Patient vs Sample)을 통해 베이스 모델 간의 상호 보완적 관계를 명시적으로 유도했습니다.
• 메타 모델 아키텍처 검증: 단순 선형 결합보다 가벼운 비선형 변환(2-Hidden Layer)이 다양한 로짓을 통합하는 데 더 효과적임을 입증했습니다.
• 임상적 유효성 증명: ICBHI 벤치마크에서의 SOTA(State-of-the-art) 달성뿐만 아니라, 실제 임상 데이터(SNUBH) 및 외부 데이터(SPRSound)에서의 강건한 일반화 성능을 보여주었습니다.

4. 실험 결과 (Results)

• ICBHI 벤치마크 성능: 제안된 Meta-Ensemble (Fixed Split + S-level + 2-Hidden) 방식이 **66.49%**의 Score를 기록하며 기존 SOTA(65.69%)를 경신했습니다.
• 분할 전략의 영향:
  • **S-level(샘플 단위)**은 ICBHI 내부 데이터에서 높은 점수를 보였으나,
  • **P-level(환자 단위)**은 외부 데이터(OOD) 및 실제 임상 데이터에서 훨씬 더 우수한 일반화 성능을 보였습니다.
• OOD(Out-of-Distribution) 성능:
  • SPRSound 데이터셋: P-level 메타 앙상블이 모든 기존 방법론을 제치고 가장 높은 성능을 기록했습니다.
  • SNUBH(임상 데이터): P-level 설정이 베이스라인(BTS)보다 높은 성능(79.14%)을 기록하며, 환자 간 독립성을 보장하는 분할이 실제 의료 현장에서 매우 중요함을 입증했습니다.

5. 결론 및 의의 (Significance)

본 연구는 단순히 모델 구조를 복잡하게 만드는 대신, **"데이터를 어떻게 나누어 학습시키느냐"**라는 데이터 전략의 변화가 앙상블의 효과를 극대화할 수 있음을 보여주었습니다. 특히, 학습 시 환자 단위(Patient-level) 분할을 사용하는 것이 모델의 과적합을 막고, 실제 의료 현장의 미지의 환자 데이터에 대응할 수 있는 강건한(Robust) AI 모델을 구축하는 핵심 요소임을 기술적으로 증명했다는 점에서 큰 의의가 있습니다.