From Raw Data to Reliable Predictions: The Significance of Data Processing in COVID-19 Modelling

이 연구는 Our World in Data 의 COVID-19 데이터를 활용하여 주간 총계를 일간 데이터로 변환하고, 지역별 이상치 처리, 열 간 의존성 보정, 반복적 특징 선택을 포함한 맞춤형 전처리 파이프라인을 적용함으로써 기존 표준 파이프라인보다 MLP 회귀 모델의 예측 정확도 (RMSE 66.556, R² 0.991) 를 크게 향상시켰음을 입증했습니다.

핵심

🍳 요리사 (연구자) 와 재료 (데이터) 의 이야기

이 연구는 **"코로나19 사망자 수를 예측하는 요리 (모델)"**를 만들었습니다. 그런데 두 가지 다른 방식으로 재료를 손질했습니다.

1. 일반적인 요리사 (표준 처리 방식): 재료를 대충 씻고, 잘 보이는 나쁜 부분만 잘라낸 뒤 바로 요리합니다.
2. 세심한 요리사 (이 논문이 제안한 맞춤형 처리 방식): 재료를 아주 정성스럽게 다듬고, 숨겨진 결함을 고치고, 재료들 사이의 관계를 정확히 파악한 뒤 요리합니다.

결과는? 세심한 요리사가 만든 요리 (예측 모델) 가 훨씬 맛있습니다 (정확합니다).

---

🛠️ 세심한 요리사가 한 4 가지 특별한 손질법

이 논문은 일반 요리사들이 놓친 4 가지 중요한 손질법을 소개합니다.

1. "주말에 한 번씩 몰아서 보고하는 것"을 고쳤다 (주간 패턴 보정)

• 상황: 코로나 데이터는 보통 일주일 치를 모아서 일요일에 한 번씩 보고합니다. 그래서 월~토요일은 사망자 수가 '0'으로 나오고, 일요일에만 갑자기 폭등하는 이상한 패턴이 생깁니다.
• 일반적 방법: 이 이상한 패턴을 그대로 믿고 요리합니다. (예: "월요일엔 아무도 안 죽었네?"라고 착각함)
• 세심한 방법: "아, 이건 보고 방식이 문제구나!"라고 생각해서, 일주일 치 총량을 7 일로 나누어 매일 고르게 분배합니다.
• 비유: 일주일에 한 번씩 대량으로 배달되는 피자를, 매일 조금씩 나누어 먹는 것처럼 자연스럽게 만들어서 진짜 흐름을 파악한 것입니다.

2. "전체 기준"이 아닌 "그때그때 기준"으로 이상한 점을 잡았다 (국소 이상치 처리)

• 상황: 데이터에 갑자기 튀는 숫자 (이상치) 가 있을 때, 전체 평균을 기준으로 "이건 이상하니까 잘라내자"라고 합니다.
• 일반적 방법: 전체 평균을 기준으로 잘라내면, 실제로는 중요한 변화 (예: 급격한 확산) 를 '이상한 숫자'로 오해해서 잘라버립니다.
• 세심한 방법: "지금 이 시점에서는 이 정도가 정상일 수도 있겠네?"라고 **그때그때의 상황 (로컬)**을 고려해서 이상치만 골라냅니다.
• 비유: 전체 학교의 키 평균을 보고 "너는 너무 커서 이상해"라고 잘라내는 게 아니라, "너는 지금 운동 중이라 키가 커진 거야"라고 이해하고 중요한 변화는 남겨둔 것입니다.

3. "재료들 사이의 관계"를 계산으로 맞춰주었다 (계산적 의존성 처리)

• 상황: '새로 확진된 사람 수'와 '누적 확진자 수'는 서로 1:1 관계로 연결되어 있습니다. 하나를 고르면 다른 하나도 자동으로 맞춰져야 합니다.
• 일반적 방법: 결손된 데이터를 무작위로 채우거나 0 으로 채우면, 두 숫자 사이의 논리적 연결이 끊어집니다. (예: 누적 확진자가 줄어든다거나...)
• 세심한 방법: "A 가 변하면 B 는 이렇게 변해야 해"라는 **공식 (계산)**을 적용해서 데이터끼리 서로 모순되지 않게 맞춰줍니다.
• 비유: 레시피에서 "설탕 1 스푼 넣으면 소금 0.5 스푼 넣어야 한다"는 규칙을 지켜서, 맛이 깨지지 않도록 완벽하게 조화시킨 것입니다.

4. "필요 없는 재료"를 골라내어 맛을 살렸다 (반복적 특징 선택)

• 상황: 요리할 때 쓸데없는 재료가 너무 많으면 요리가 망칩니다. (너무 많은 양념, 중복된 재료)
• 일반적 방법: 그냥 많은 재료를 다 넣거나, 간단한 기준만 거칩니다.
• 세심한 방법: 어떤 재료가 요리에 가장 중요한지, 어떤 재료가 서로 겹치는 역할을 하는지 수차례 반복해서 테스트하며 가장 핵심적인 재료 5 개만 남깁니다.
• 비유: 100 가지 재료를 다 넣는 게 아니라, 정말 맛을 내는 5 가지 핵심 재료만 골라내서 요리의 맛을 극대화한 것입니다.

---

🏆 결과: 얼마나 달라졌나요?

이 두 가지 방식을 비교한 결과는 놀라웠습니다.

• 일반적인 방법 (표준): 예측 오차가 크고, 실제와 많이 달랐습니다. (예측 정확도 81.7%)
• 세심한 방법 (맞춤형): 예측 오차가 매우 작고, 실제와 거의 똑같았습니다. (예측 정확도 99.1%!)

비유하자면:
일반적인 방법은 "내일 비가 올 것 같아"라고 대충 예측하는 반면, 세심한 방법은 "내일 오후 2 시에 5mm 의 비가 내릴 것"이라고 정확하게 예측한 것입니다.

💡 결론: 왜 이 연구가 중요할까요?

이 논문은 **"모델 (요리법) 이 아무리 좋아도, 데이터 (재료) 를 제대로 손질하지 않으면 좋은 결과를 낼 수 없다"**는 것을 증명했습니다.

특히 코로나처럼 데이터가 매일 변하고, 보고 방식이 꼬이는 복잡한 상황에서는, **데이터를 정성스럽게 다듬는 과정 (전처리)**이 예측의 성패를 가릅니다. 이 방법은 코로나뿐만 아니라 주식, 날씨, 질병 등 어떤 데이터를 예측할 때도 적용할 수 있는 훌륭한 비법이 됩니다.

한 줄 요약:

"좋은 예측을 하려면, 먼저 데이터를 '정성스럽게 손질'하는 요리사가 되어야 합니다."

기술 요약

논문 요약: COVID-19 사망률 예측을 위한 포괄적 데이터 전처리의 영향

1. 연구 배경 및 문제 제기 (Problem)

• 배경: COVID-19 팬데믹은 전 세계적으로 심각한 인명 피해와 의료 자원 부족을 초래했으며, 특히 인도에서는 4,500 만 명 이상의 확진자와 53 만 명 이상의 사망자가 발생했습니다. 효과적인 의료 계획 수립을 위해서는 정확한 사망률 예측 모델이 필수적입니다.
• 문제점: 기존 예측 모델링 연구들은 모델 아키텍처 개발에 치중하여 데이터 전처리 (Data Preprocessing) 의 중요성을 간과하는 경향이 있습니다. 이로 인해 다음과 같은 한계점이 발생합니다.
  • 보고 편향 (Reporting Bias): 주간 집계 데이터를 일일 데이터로 변환하지 않아 발생하는 데이터 왜곡.
  • 전역 이상치 처리 (Global Outlier Processing): 고정된 임계값 (예: Z-score) 을 사용하여 시계열 데이터의 국소적 변이 (Local Variability) 를 무시하고 중요한 데이터 패턴을 제거함.
  • 계산적 의존성 무시: 열 간의 논리적 관계 (예: 총 사망자 수와 일일 사망자 수의 관계) 를 고려하지 않아 데이터 일관성이 깨짐.
  • 특성 선택 부족: 다중공선성 (Multicollinearity) 과 중복 특성을 적절히 제거하지 못해 과적합 (Overfitting) 또는 과소적합 (Underfitting) 발생.

2. 방법론 (Methodology)

이 연구는 Our World in Data (OWID) 의 데이터를 기반으로 인도 (2020 년 1 월~2024 년 8 월) 의 COVID-19 데이터를 분석했습니다. 기존 표준 전처리 파이프라인과 비교하여 **4 가지 핵심 단계를 포함한 맞춤형 전처리 파이프라인 (Custom Pipeline)**을 제안했습니다.

A. 데이터 전처리 파이프라인 비교

1. 주간 패턴 보간 (Weekly Pattern Imputation):
   • 문제: 많은 국가에서 일일 보고가 누락되고 7 일 단위로 총계만 보고되는 경향이 있음.
   • 해결: 주간 총계를 일주일의 7 일로 균등하게 분배하여 일일 업데이트로 변환. 이를 통해 보고 편향을 제거하고 데이터의 연속성을 확보함.
2. 국소 이상치 처리 (Local Outlier Processing):
   • 문제: 고정된 Z-score 를 사용한 전역 이상치 탐지는 시계열 데이터의 자연스러운 변이를 이상치로 오인하여 제거함.
   • 해결: 30 일 이동 윈도우 (Rolling Window) 를 적용한 국소 Z-score를 사용하여 데이터의 국소적 맥락에 따라 이상치를 탐지 및 처리. 데이터 분산을 보존하면서 실제 이상치만 제거.
3. 계산 처리 (Computation Processing):
   • 문제: 열 간의 계산적 의존성 (예: new_deaths 와 total_deaths, positive_rate 계산 등) 을 무시하고 결측치를 단순 0 또는 평균으로 채움.
   • 해결: 열 간의 논리적 의존 관계를 정의하여 순차적으로 계산.
     • 예: positive_rate 를 결측치로 채우는 대신, new_cases 와 new_tests 의 비율로 계산하여 자연스러운 변이를 반영.
     • new 컬럼과 total 컬럼 간의 누적 합/차분 관계를 명시적으로 적용.
4. 반복적 특성 선택 (Iterative Feature Selection):
   • 기법: 상관관계 필터링 (Correlation Filtering) 후, Permutation Feature Importance (PFI), Mutual Information (MI), **Single Feature Impact (SFI)**를 결합하여 중요도를 산출.
   • 다중공선성 제거: **Variance Inflation Factor (VIF)**를 사용하여 VIF > 10 인 특성을 식별하고, 중요도가 낮은 특성을 반복적으로 제거.
   • 정규화: 최종적으로 정규화 (Normalization) 및 스케일링을 수행.

B. 모델 평가

• 모델: 10 가지 회귀 모델 (Linear, Ridge, Lasso, ElasticNet, SVR, Random Forest, Gradient Boosting, Decision Tree, KNN, MLP) 을 학습 및 평가.
• 평가 지표: RMSE (평균 제곱근 오차), $R^2$ (결정 계수), 그리고 RMSE Variance (학습/검증/테스트 세트 간 성능 일관성 측정).

3. 주요 기여 및 결과 (Key Contributions & Results)

A. 성능 비교 결과

• 최고 성능 모델: 맞춤형 파이프라인을 적용한 MLP Regressor가 압도적인 성능을 보임.
  • Test RMSE: 66.556 (표준 파이프라인 대비 약 3.3 배 감소)
  • Test $R^2$: 0.991 (표준 파이프라인의 0.817 대비 크게 향상)
  • RMSE Variance: 52.125 (표준 파이프라인의 13,739.921 대비 극도로 낮아, 모델의 안정성과 일반화 능력 입증)
• 표준 파이프라인의 한계: 표준 파이프라인에서 가장 성능이 좋았던 DecisionTree Regressor 는 RMSE 222.858, $R^2$ 0.817 을 기록하여 맞춤형 파이프라인에 비해 현저히 낮은 성능을 보임.

B. 기술적 발견

1. 데이터 변이 보존의 중요성: 표준 파이프라인의 전역 이상치 처리는 데이터의 자연스러운 변이를 제거하여 인위적으로 높은 성능 지표를 생성했으나, 이는 실제 예측 능력을 과장한 것이었음. 맞춤형 파이프라인은 변이를 보존하여 더 신뢰할 수 있는 평가를 가능하게 함.
2. 계산적 일관성: 열 간 의존성을 기반으로 한 계산 처리는 특성 간의 관계를 안정화시켜 VIF 값을 최적화하고 모델의 신뢰성을 높임.
3. 효율적인 특성 선택: 맞춤형 파이프라인은 더 적은 수의 특성 (5 개) 으로 더 높은 정확도를 달성함. 이는 다중공선성을 효과적으로 제거하고 핵심 특성의 중요도 (Combined Importance Score) 를 극대화했기 때문임.

4. 의의 및 결론 (Significance & Conclusion)

• 핵심 통찰: COVID-19 와 같은 복잡한 시계열 데이터의 예측 정확도는 모델의 복잡성보다 데이터 전처리의 질에 더 크게 의존함.
• 실용적 기여:
  • 주간 보고 편향을 보정하는 방법, 국소적 맥락을 고려한 이상치 처리, 열 간 논리적 의존성을 활용한 계산적 전처리는 다른 도메인의 시계열 예측에도 적용 가능한 보편적인 기법임.
  • RMSE Variance와 같은 일관성 지표를 도입하여 모델의 과적합 여부를 더 정밀하게 진단할 수 있음을 제안함.
• 미래 전망: 이 연구는 인도 데이터를 기반으로 했으나, 제안된 맞춤형 전처리 파이프라인은 다른 국가의 데이터나 다양한 의료/비의료 도메인의 예측 모델링에서도 성능을 획기적으로 개선할 수 있는 잠재력을 가짐.

요약하자면, 이 논문은 단순한 모델 튜닝을 넘어, 데이터의 본질적 특성 (보고 패턴, 이상치, 열 간 관계) 을 이해하고 이를 전처리 단계에서 체계적으로 반영하는 것이 예측 모델의 성공을 결정짓는 가장 중요한 요소임을 입증했습니다.