A Hybrid Machine Learning Framework for Air Quality Classification Using Variational Mode Decomposition and Feature Optimization

기술 요약: 변분 모드 분해 및 특징 최적화를 이용한 공기 질 분류를 위한 하이브리드 머신러닝 프레임워크

문제 정의
인도와 같이 급격히 발전하는 국가에서 대기 오염은 심각한 환경 및 건강 위협을 초래하며, 이에 따라 정확하고 신속한 공기 질 분류가 필수적입니다. 그러나 기존의 모니터링 데이터는 전통적인 분류 방법론에 상당한 도전 과제를 제기합니다. 공기 질 시계열 데이터는 기상 변화, 배출량 가변성, 센서 불확실성으로 인해 본질적으로 비선형적이고 비정상적(non-stationary)이며, 고차원적이고 노이즈가 많습니다. 또한, 데이터셋은 종종 클래스 불균형 문제를 겪는데, 즉 '심각(Severe)' 또는 '매우 나쁨(Very Poor)'과 같은 극단적인 오염 수준은 '보통(Moderate)' 수준에 비해 과소 대표되는 경향이 있습니다. 기존의 통계적 방법이나 단일 도메인 특징 추출 방식은 이러한 오염 물질의 복잡한 시간적 및 공간적 역학을 포착하는 데 실패하여, 분류 작업에서 제한된 일반화 능력과 신뢰성을 보이는 경우가 많습니다.

방법론
본 논문은 인도 10개 도시의 중앙 오염 통제 위원회(CPCB) 데이터를 활용한 견고하고 통합된 공기 질 분류 프레임워크를 제안합니다. 방법론은 다음과 같은 다단계 파이프라인을 따릅니다:

1. 데이터 전처리: 다변량 시계열 데이터(PM2.5, PM10, NOx, SO2, CO, O3 등 포함)는 클리닝, 선형 보간법을 통한 결측치 대체, 정규화 과정을 거칩니다.
2. 신호 분해 (VMD): 비정상성과 노이즈를 해결하기 위해, 저자들은 변분 모드 분해(Variational Mode Decomposition, VMD)를 채택합니다. 이 기술은 원래의 오염 물질 신호를 유한한 집합의 대역 제한 내재 모드 함수(Intrinsic Mode Functions, IMFs)로 분해합니다. 다른 분해 방법들과 달리, VMD는 모드 혼합(mode mixing)을 방와하며, 노이즈와 급격한 변동(고주파 IMF)을 기저의 오염 트렌드(저주파 IMF)로부터 효과적으로 분리합니다.
3. 다중 도메인 특징 추출: 분해된 IMF로부터 세 가지 도메인에 걸친 종합적인 특징 세트를 추출합니다:
   • 시간 도메인 (Time-Domain): 통계적 기술자(평균, 분산, 왜도, 첨도) 및 Hjorth 파라미터(활동성, 이동성, 복잡성).
   • 주파수 도메인 (Frequency-Domain): 초저주파, 저주파, 중주파, 고주파 대역의 에너지 분포.
   • 시간-주파수 도메인 (Time-Frequency-Domain): 복잡한 변화를 포착하기 위한 RMS 에너지, Teager 에너지 및 스펙트럼 엔트로피.
     이 과정은 초기에 944개의 특징을 가진 고차원 특징 공간을 생성합니다.
4. 특징 선택: 중복성을 제거하고 가장 변별력 있는 특징을 식별하기 위해 네 가지 기법(Mutual Information, LightGBM, ExtraTrees, Recursive Feature Elimination)을 평가합니다. 연구 결과 RFE가 가장 우수한 방법으로 식와되었으며, 이를 통해 특징 집합을 가장 정보량이 많은 상위 20개 변수로 축소했습니다.
5. 클래스 불균형 처리: 소수 클래스(예: '심각' 오염)를 위한 합성 샘플을 생성하기 위해 특징 선택 프로세스 이후에 SMOTE(Synthetic Minority Over-sampling Technique)를 적용하여, 균형 잡힌 훈련 분포를 확보하고 희귀 사건에 대한 모델의 민감도를 향상시킵니다.
6. 하이브리드 분류: CatBoost와 **SVM(Support Vector Machine)**을 결합한 2단계 하이브리드 분류기를 사용합니다.
   • 1단계: CatBoost는 복잡한 비선형 상호작용을 모델링하고 노이즈를 처리하는 능력을 활용하여 조립(coarse-level) 분류를 수행합니다.
   • 2단계: SVM은 최적의 초평면을 사용하여 유사한 AQI 범주를 구분함으로써 미세(fine-level) 분류를 위한 결정 경계를 정교화합니다.
     프레임워크는 k-폴드 교차 검증(5개 및 10개 폴드)을 통해 검증되며, 정확도, 정밀도, 재현율, F1-score 및 Cohen's Kappa와 같은 지표를 사용하여 베이스라인 모델들과 비교 평가됩니다.

주요 기여

• VMD 기반 분해: 본 연구는 공기 질 데이터의 비선형 및 비정상적 특성을 효과적으로 다루기 위해 VMD 접근 방식을 도입하여, 다른 분해 방법에서 흔히 발생하는 모드 혼합 문제를 극복했습니다.
• 다중 도메인 특징 엔지니어링: 분해된 모드로부터 시간, 주파수 및 시간-주파수 도메인 특성을 결합한 통합된 특징 표현을 추출합니다.
• 최적화된 특징 선택: 네 가지 특징 선택 기법에 대한 체계적인 평가는 Recursive Feature Elimination(RFE)이 차원을 축소하면서도 변별력을 유지하는 가장 효과적인 부분 집합을 제공함을 입증했습니다.
• Hybrid CatBoost-SVM 아키텍처: CatBoost의 전역 학습 능력과 SVM의 국소 식별 강점을 결리한 2단계 하이브리드 분류기를 개발했습니다.
• 불균형 완화: SMOTE의 통합은 극단적인 오염 데이터 포인트의 희소성을 해결함으로써 모든 AQI 범주에 대해 공평한 성능을 보장합니다.

실험 결과
제안된 프레임워크는 인도 10개 주요 도시를 포괄하는 방대한 CPCB 데이터셋을 통해 테스트되었습니다. 결과는 다음과 같습니다:

• 정확도: 하이브리드 CatBoost-SVM 모델은 비교 평가 표(Table 8)에서 평균 **97.09%**의 분류 정확도를 달 기록하며, 본 연구에서 평가된 다른 하이브리드 조합(GNB+SVM, LightGBM+Decision Tree, LightGBM+Naive Bayes, GNB+XGBoost 포함)을 능가했습니다.
• 성능 지표: 모델은 높은 정밀도, 재현율 및 F1-score를 보여주었으며, 특히 인접한 AQI 단계(예: 보통 vs 나쁨)를 구분하는 데 있어 매우 강력한 성능을 보였습니다.
• 절제 연구 (Ablation Studies): 핵심 특징, 특히 엔트로피 기반 기술자와 PM2.5 관련 특징을 제거했을 때 정확도가 눈에 띄게 감소(PM2.5 그룹의 경우 최대 5.71%)하였으며, 이는 해당 특징들의 결정적인 역할을 확인시켜 줍니다.
• 해석 가능성: LIME(Local Interpretable Model-agnagostic Explanations)의 통합은 사례별 수준의 투명한 통찰력을 제공하여, 모델이 물리적으로 의미 있는 오염 물질 특성(예: PM2.5, NOx, SO2 통계)에 기반하여 결정을 내린다는 것을 확인시켜 주었습니다.

의의 및 주장
본 논문은 제안된 프레임워크가 지능형 공기 질 분류를 위한 신뢰할 수 있고 확장 가능한 솔루션을 제공한다고 주장합니다. 적응형 신호 분해(VMD), 다중 도메인 특징 엔지니어링, 엄격한 특징 선택 및 하이브리드 학습을 통합함으로써, 시스템은 환경 데이터에 내재된 노이즈, 비정상성 및 클래스 불균형 문제를 효과적으로 해결합니다. 저자들은 이 접근 방식이 전통적인 단일 도메인 또는 단일 모델 방식보다 유의미한 개선을 제공하며, 실세계의 환경 모니터링 및 의사결정 지원 시스템에 적합하다고 단언합니다. 본 연구는 이러한 기술들의 결합이 높은 정확도뿐만 아니라 해석 가능성까지 갖춘 시스템을 생성하여, 자동화된 공기 질 평가에 대한 신뢰를 높인다는 점을 강조합니다.