기술 요약: SHAP 기반 협력 앙상블 학습을 활용한 전력 소비량 예측

문제 제기

교육 기관의 전력 소비량 관리는 기관 확장, 학생 수 변동, 기후 조건 등 다양한 영향 요인에 대한 자원의 취약성으로 인해 상당한 어려움을 겪습니다. 대학에서는 수요가 급격히 증가하고 있어, 지속 가능성과 운영 경쟁력을 위해 효율적인 에너지 관리가 필요합니다. 그러나 정확한 예측은 장비 고장, 전력망 불안정, 고정된 방학 기간, 교대 일정, 학술 대회와 같은 드문 행사와 같은 고유한 기관적 행동 양식에 따른 소비 패턴의 취약성으로 인해 복잡해집니다.

기존 문헌은 협력 앙상블 학습 모델을 사용하여 교육 기관의 전력 수요를 예측하는 연구를 다루는 경우가 드뭅니다. 또한, 전통적인 시계열 모델과 표준 기계 학습 접근법은 이러한 환경에서 관찰되는 비정상성, 불규칙성, 그리고 매우 변동성이 큰 소비 패턴, 특히 12 개월과 같은 장기 예측 시에 어려움을 겪는 경우가 많습니다.

방법론

본 연구는 파라나 연방 대학교 (IFPR) 의 두 캠퍼스, 팔마스 (데이터셋 1) 와 코로넬 비비다 (데이터셋 2) 의 데이터를 활용하여 12 개월 ahead 전력 소비량을 예측하는 새로운 프레임워크를 제안합니다. 방법론은 세 가지 주요 단계로 구성됩니다:

1. 데이터 준비 및 특징 선택

• 데이터셋: 2017 년 9 월부터 2024 년 3 월까지 (79 개월) 의 역사적 소비 데이터 (kWh) 를 분석했습니다.
• 외생 변수: 데이터셋에 기후 변수 (기온, 강수량, 습도, 풍속, 일사량), 팬데믹 기간 식별자 (COVID-19), 그리고 시간적 더미 변수 (월, 년) 를 추가했습니다.
• 특징 선택: 복잡성을 줄이고 효율성을 향상시키기 위해 Shapley Additive Explanations (SHAP) 를 활용했습니다. XGBoost 와 Random Forest (RF) 모델에서 도출된 중요도 값을 기반으로 순차적 특징 제거 과정을 수행했습니다. 이를 통해 초기 47 개의 예측 변수를 11 개로 축소하여 소비량 지연 변수, 특정 기온 지표, 시간적 식별자 등 가장 중요한 특징들을 유지했습니다.

2. 모델 훈련 및 하이퍼파라미터 최적화

검증된 효율성을 가진 네 가지 기계 학습 모델을 선정했습니다: Long Short-Term Memory (LSTM), Random Forest (RF), Support Vector Regression (SVR), 그리고 Extreme Gradient Boosting (XGBoost).

• 최적화: 각 모델의 하이퍼파라미터를 두 가지 메타휴리스틱 알고리즘인 유전 알고리즘 (GA) 과 입자 군집 최적화 (PSO) 를 사용하여 미세 조정했습니다. 목표는 평균 절대 오차 (MAE) 를 최소화하는 것이었습니다.
• 선정: GA 는 최적 구성을 찾는 데 PSO 보다 일관되게 우수하게 작동했으며, 특히 RF 와 XGBoost 의 경우 PSO 가 수렴에 어려움을 겪었습니다. 최적화된 모델은 GA-LSTM, GA-RF, GA-SVR, GA-XGBoost 로 명명되었습니다.
• 검증: 최종 12 개월을 테스트용으로 예약하고 훈련에는 5-fold 교차 검증을 사용하는 하이브리드 데이터 분할 접근법이 사용되었습니다.

3. 약한 분리기 부스터 (WSB) 앙상블

최고의 개별 예측기 (GA-LSTM) 의 성능을 향상시키기 위해 약한 분리기 부스터 (Weaker Separator Booster, WSB) 라는 새로운 협력 앙상블 학습 접근법이 제안되었습니다.

• 개념: WSB 는 "무공짜 점심 (no-free-lunch)" 정리를 활용하여 "약한" 모델들 (GA-RF, GA-SVR, GA-XGBoost) 의 예측을 평균화합니다. 이 모델들은 수평선에 가까운 선형적이고 안정적인 예측을 생성하는 경향이 있었습니다.
• 메커니즘: 이 평균은 복잡한 패턴을 "학습하지 못하는 능력"을 나타내는 안정적인 기준점으로 작용합니다. 적응형 부스팅 메커니즘은 이 기준점을 통합하여 가장 강력한 학습자인 GA-LSTM 의 예측을 조정합니다. 이 조정은 재귀적 예측에서의 오차 누적을 완화하기 위해 예측 구간 전반에 걸쳐 동적으로 증가하고 감소하는 가중치 매개변수에 의해 통제됩니다.

주요 결과

제안된 접근법은 평균 절대 오차 (MAE) 와 대칭 평균 절대 백분율 오차 (sSMAPE) 를 사용하여 평가되었습니다.

• 데이터셋 1 (팔마스 캠퍼스):

  • WSB 모델이 sSMAPE 13.90% 및 MAE 1990.87 kWh로 최고의 성과를 달성했습니다.
  • 단독 GA-LSTM 모델은 sSMAPE 15.35% 및 MAE 2264.50 kWh 로 그 뒤를 이었습니다.
  • 두 모델 모두 전통적인 시계열 모델 (예: ARIMA, Holt-Winters) 과 다른 신경망 (CNN, ESN) 보다 훨씬 우수한 성과를 보였습니다.

• 데이터셋 2 (코로넬 비비다 캠퍼스):

  • WSB 모델이 sSMAPE 18.72% 및 MAE 464.93 kWh로 다시 한번 우수한 성능을 입증했습니다.
  • GA-LSTM 모델은 sSMAPE 18.80% 및 MAE 466.92 kWh 를 기록했습니다.
  • 전통적인 모델과 다른 신경망은 sSMAPE 값이 최대 41.59% 에 달하는 더 높은 오차율을 보였습니다.

• SHAP 분석:

  • 특징 중요도 분석 결과, 지연된 시계열 값 (역사적 소비량) 이 두 캠퍼스 모두에서 지배적인 예측 변수임이 밝혀졌습니다.
  • 기후 변수는 시간적 및 역사적 요인에 비해 미미한 영향을 미쳤습니다.
  • 뚜렷한 패턴이 나타났습니다: 팔마스에서는 지연된 값이 예측에 긍정적인 영향을 미쳤으나, 코로넬 비비다에서는 음의 상관관계를 보여 해당 특정 지역에서 과거와 현재의 소비량 사이에 역의 관계가 있음을 시사했습니다.

중요성 및 주장

본 논문은 제안된 약한 분리기 부스터 (WSB) 접근법이 교육 기관의 전력 소비량 예측의 복잡성을 효과적으로 해결한다고 주장합니다. 그 중요성은 다음과 같은 세 가지 주요 기여에 있습니다:

1. 외부 변수의 통합: 팬데믹, 기후, 캘린더 이벤트와 같은 외부 변수를 체계적으로 통합하고 SHAP 를 사용하여 엄격한 특징 선택을 수행함으로써, 모델이 가장 관련성 높은 입력으로 훈련되도록 보장합니다.
2. 비교 최적화: GA 와 PSO 를 통해 최적화된 다양한 AI 모델 (신경망, 앙상블 방법, SVM) 에 대한 포괄적인 비교를 제공하여, 이 특정 도메인에 가장 적합한 아키텍처에 대한 통찰력을 제공합니다.
3. 새로운 앙상블 전략: WSB 방법은 최고의 예측자와 약한 모델 간의 격차를 해소하는 독특한 전략을 도입합니다. 약하고 안정적인 예측자들의 평균을 사용하여 가장 강력한 예측자를 조정함으로써 편향을 줄이고 일반화를 개선하여 개별 모델이나 전통적인 통계 방법보다 낮은 오차율을 달성합니다.

저자들은 WSB 접근법이 성능을 향상시켰지만, 재귀적 전략에서의 오차 누적과 예기치 않은 사건 (예: 2023 년 소비량 피크) 으로 인해 12 개월 ahead 예측은 여전히 어렵다고 인정합니다. 연구는 제안된 방법이 유망하지만, 향후 연구는 더 짧은 예측 구간을 탐구하고 방법론을 지리적으로 다양한 기관으로 확장하여 적용 가능성을 더 검증해야 한다고 결론지었습니다.