🤖 machine learning

Adaptive Online Learning with LSTM Networks for Energy Price Prediction

본 논문은 캘리포니아 에너지 시장의 익일 전력 가격 예측 정확도를 크게 향상시키기 위해 새로운 커스텀 손실 함수와 포괄적인 특징 통합을 사용한 LSTM 네트워크 기반의 적응형 온라인 학습 프레임워크를 제시한다.

원저자: Salih Salihoglu, Ibrahim Ahmed, Afshin Asadi

게시일 2026-08-13

📖 3 분 읽기☕ 가벼운 읽기

원저자: Salih Salihoglu, Ibrahim Ahmed, Afshin Asadi

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

매일 열리는 콘서트 티켓 가격을 맞히려고 노력 중이라고 상상해 보세요. 하지만 이 티켓 가격은 얼마나 많은 사람이 가고 싶어 하는지, 날씨가 얼마나 더운지, 그리고 밴드의 사운드 시스템에 전력이 얼마나 필요한지에 따라 매 시간 변합니다. 이것이 바로 전력 시장의 혼란스러운 세계입니다. 빵 한 덩이를 사는 것이 보통 일정한 가격인 것과 달리, 전력 가격은 태양이 빛을 멈추거나(태양광 발전 저하) 폭염으로 인해 모두가 동시에 에어컨을 켜는 상황처럼 롤러코스터처럼 급등락하며 매우 변화무쌍합니다. 전등을 계속 켜두고 요금을 공정하게 유지하기 위해, 전력망 운영자와 전력 회사들은 다음 날, 그리고 시간 단위별로 이 가격들을 예측해야 합니다. 그들은 "머신러닝"을 사용하는데, 이는 기본적으로 컴퓨터에게 과거의 방대한 데이터를 통해 패턴을 찾는 법을 가르치는 것으로, 마치 탐정이 새로운 사건을 해결하기 위해 오래된 범죄 현장을 연구하는 것과 비슷합니다. 목표는 단순히 평균 가격을 추측하는 것이 아니라, 그 미친 듯한 급등과 급락이 일어나기 전에 이를 이해하는 수정구슬을 만드는 것입니다.

이 논문은 LSTM(Long Short-Term Memory)이라는 인공지능의 한 종류를 사용하여 캘리포니아의 전력 가격을 예측하는 초스마트 수정구슬을 구축하는 것에 관한 것입니다. LSTM은 지난주, 지난달, 심지어 작년에 무슨 일이 있었는지 기억하고 그것을 이용해 현재 무슨 일이 일어나고 있는지 이해할 수 있는 놀라운 기억력을 가진 학생이라고 생각하세요. 연구진인 살리 살리호글루(Salih Salihoglu)와 그의 팀은 단순히 이 학생에게 과거를 공부하게 한 것이 아니라, 학습할 수 있는 특별한 규칙 세트를 제공했습니다. 첫째, 그들은 모델이 과거의 가격뿐만 아니라 날씨와 그날 어떤 발전소(태양광, 풍력, 가스, 원자력)가 가동 중이었는지까지 살펴보도록 가르쳤습니다. 둘째, 그들은 새로운 "숙제 채점 방식"(커스텀 손실 함수)을 발명했습니다. 이는 단순히 숫자가 근접했는지만 확인하는 것이 아니라, 가격 곡선의 '모양'이 들쭉날쭉하고 이상하지 않고 현실적이며 매끄러운지를 확인하는 방식이었습니다. 마지막으로, 학생이 시험을 한 번 보고 다시는 공부하지 않는 대신, 그들은 학생이 매일 퀴즈를 보는 시스템을 설정했습니다. 만약 새로운 날의 데이터를 공부한 후 퀴즈 성적이 좋아졌다면 노트를 업데이트할 수 있고, 성적이 나빠졌다면 기존의 노트를 그대로 유지하도록 했습니다.

팀은 이 "적응형 온라인 학습(adaptive online learning)" 방식이 승자라는 것을 발견했습니다. 매일 신중하게 스스로를 업데이트하는 그들의 모델은, 가만히 앉아 변하지 않는 모델(정적 모델)이나 매일 처음부터 완전히 다시 훈련되는 모델(동적 모델)보다 훨씬 뛰어났습니다. 구체적으로, 이 스마트하게 업데이트되는 모델은 정적 모델에 비해 예측 평균 오차를 약 23% 줄였습니다. 또한, 그들은 모델에게 어떤 에너지원이 활성화되어 있는지에 대한 목록(발전 믹스)을 제공하는 것이 결정적인 역할을 한다는 것을 발견했습니다. 이 정보 없이는 모델이 훨씬 더 혼란스러워했습니다. 나아가, 들쭉날쭉하고 비현식적인 가격 급등에 대해 페널티를 부여하는 그들의 특별한 채점 시스템은 모델이 까다로운 피크 시간대를 훨씬 더 정확하게 예측하도록 도왔습니다. 요컨대, 이 논문은 이 거친 전력 가격을 예측하는 최선의 방법은 한 번 완벽한 모델을 만들어 두고 잊어버리는 것이 아니라, 매일 조금씩 배우고, 자신의 작업을 스스로 점검하며, 자신이 더 똑똑해졌다고 확신할 때만 생각을 바꾸는 유연한 모델을 만드는 것이라고 제안합니다.

기술 요약: 에너지 가격 예측을 위한 LSTM 네트워크 기반 적응형 온라인 학습

문제 정의

익일 전력 가격의 정확한 예측은 그리드 운영자, 생산자, 소비자 등 규제된 에너지 시장의 이해관계자들에게 매우 중요합니다. 그러나 전력 시장 특유의 고빈도 변동성, 비선형성 및 휘발성으로 인해 예측은 여전히 도전적인 과제입니다. 이러한 특성은 기상 조건, 수요 패턴, 발전 믹스와 같은 동적인 요인들에 의해 발생합니다. 전통적인 통계 모델(예: ARIMA, GARCH)은 복잡한 시간적 의존성과 비정상적(non-stationary) 시장 행동을 포착하는 데 어려움을 겪는 경우가 많으며, 이는 최적이 아닌 의사결정으로 이어집니다. 또한, 정적인 머신러닝 모델은 변화하는 시장 조건에 적응하지 못하며, 기존의 온라인 학습 방식은 엄격한 검증 메커니즘이 부족하여 노이즈가 많거나 대표성이 없는 데이터에 민감할 수 있습니다.

방법론

본 연구는 캘리포니아(CAISO) 시장, 특히 NP-15 가격 노드를 대상으로 하는 익일 전력 가격 예측을 위한 종합적인 프레임워크를 제안합니다. 이 방법론은 세 가지 핵심 구성 요소의 통합을 특징으로 합니다.

1. 모델 아키텍처

핵심 예측 엔진은 재귀적 단일 단계 예측(recursive single-step forecast)에 의존하는 대신, 24시간 가격 벡터를 동시에 예측하도록 설계된 장단기 메모리(LSTM) 네트워크입니다.

입력: 모델은 마지막 $N$ 일 동안의 특징(features)이 포함된 슬라이딩 윈도우와, 대상일의 알려진 당일 특징(예: 예측된 날씨, 발전 믹스 등)을 결합하여 활용합니다.
구조: 아키텍처는 과적합을 방기하기 위해 0.3의 드롭아웃 비율을 적용한 두 개의 스택된 LSTM 레이어(각 256 유닛)와 24시간 가격 벡터를 생성하는 밀집 출력층(dense output layer)으로 구성됩니다.
특징: 입력 데이터에는 과거 가격, 부하 수요, 천연가스 가격, 상세 기상 데이터(온도, 풍속, 습도 등) 및 에너지 발전 믹스(태양광, 풍력, 원자력, 가스 등)가 포함됩니다.

2. 커스텀 손실 함수

예측의 견고성과 해석력을 높이기 위해, 저자들은 세 가지 구성 요소를 결합한 새로운 커스텀 손실 함수를 도입했습니다.

평균 절대 오차 (MAE): 지점별 예측 오차를 최소화합니다.
젠슨-샤논 발산 (JSD): 예측된 24시간 가격 프로파일과 실제 프로파일 사이의 확률 분포 유사도를 측정합니다. 이는 형상 기반 정규화제(shape-based regularizer) 역할을 하여, 모델이 단순히 절대적인 크기뿐만 아니라 일중 트렌드(피크 및 저점)를 포착하도록 보장합니다.
매끄러움 페널티 (SM): 연속적인 시간당 예측값 사이의 급격한 변화에 페널티를 부여하여 현실적이고 매끄러운 가격 궤적을 보장합니다.
전체 손실은 다음과 같은 가중 합계입니다: $Loss = MAE + \alpha \cdot JSD + \beta \cdot SM$ .

3. 검증 기반 적응형 온라인 학습 프레임워크

개념 표류(concept drift)와 시장 변동성에 대응하기 위해, 본 연구는 검증 기반의 선택적 온라인 학습 메커니즘을 구현합니다.

프로세스: 새로운 일일 데이터 배치가 사용 가능해질 때마다, 모델은 파라미터를 업데이트하는 것이 검증 세트에서의 성능을 개선하는지 평가합니다.
선택적 업데이트: 경사 하강법을 통해 임시 파라미터 업데이트( $\theta'$ )가 계산됩니다. 현재 모델( $\theta^*$ )에 비해 검증 손실이 미리 정의된 마진( $\delta$ )보다 감소한 경우에만 업데이트가 수락됩니다.
부분 동결 (Partial Freezing): 업데이트 중에 초기 LSTM 레이어는 학습된 시간적 표현을 보존하기 위해 동결되며, 마지막 밀집 레이어만 업데이트됩니다. 이 전략은 단기 노이즈에 대한 과적합을 완화하면서 새로운 트렌드에 적응할 수 있게 합니다.

주요 기여

본 논문은 네 가지 주요 기여를 식별합니다:

24차원 벡터 예측: 익일 예측을 24-벡터 예측 작업으로 공식화함으로써, 모델이 일중 시간적 의존성을 명시적으로 학습할 수 있게 하여 재귀적 단일 단계 접근 방식에서 흔히 발생하는 오차 누적을 방지합니다.
새로운 커스텀 손실 함수: MAE를 JSD 및 매끄러움 페널티와 결합함으로써, 현실적이고 안정적이며 분포적으로 정확한 가격 궤적을 유도하는 손실 지형(loss landscape)을 생성합니다.
검증 기반 선택적 온라인 학습: 지속적인 전체 재학습 전략과 달리, 이 프레임워크는 새로운 데이터가 일반화 성능을 입증적으로 향상시킬 때만 모델을 업데이트하여 노이즈나 이상치 데이터에 대한 견고성을 제공합니다.
체계적인 특징 평가: 본 연구는 정적 및 적응형 학습 설정 모두에서 기상 조건 및 에너지 발전 믹스 데이터와 같은 외생 변수의 영향을 엄격하게 평가합니다.

실험 결과

프레임워크는 IISE ESD/QCRE/PG&E 에너지 분석 챌린지에서 제공한 2020년부터 2024년 중반까지의 데이터셋을 사용하여 평가되었습니다.

손실 함수의 영향: 전체 커스텀 손실 함수(MAE + JsD + SM)가 가장 낮은 오차 지표를 달축했습니다. 표준 MSE 손실 베이스라인(MSE 315.82 기록)과 비교했을 때, 커스텀 손실은 MSE를 약 50%(158.76으로) 감소시켰고, MAE는 38%(12.68에서 7.76으로) 감소시켰으며, RMSE는 29%(17.77에서 12.60으로) 감소시켰습니다.
적응형 vs 정적 vs 동적:
- 적응형 온라인 학습 모델은 정적 모델(한 번 학습됨)과 동적 모델(매일 처음부터 재학습됨) 모두보다 우수한 성능을 보였습니다.
- 정적 모델과 비교했을 때, 적응형 온라인 학습 모델은 MSE를 약 23.0%, MAE를 약 3.4%, RMSE를 약 12.2% 감소시켰습니다.
- 동적 모델은 정적 모델보다 성능이 낮았는데, 이는 검증 없는 빈번한 전체 재학습이 과적합과 불안정성을 초래함을 시사합니다.
특징 중요도:
- 발전 믹스: 연료 믹스 데이터를 포함하는 것이 성능을 크게 향 향상시켰습니다. 온라인 학습 모델의 경우, 발전 믹스가 없을 때의 MSE는 230.38이었으나 포함 시 122.25로 감소했습니다.
- 당일 특징: 당일 운영 데이터(예: 현재 날씨, 부하 예측)를 포함하는 것은 오차를 획기적으로 줄였습니다. 온라인 학습 모델의 MSE는 당일 특징을 포함했을 때 286.42에서 122.25로 감소했습니다.
벤치마크 비교: 제안된 프레임워크는 SVR, 결정 트리, 그래디언트 부스팅, ARIMA, SARIMA, MARIMA를 포함한 전통적인 벤치마크를 능가했습니다. 특히, MARIMA(179.47) 및 ARIMA(396.27)보다 현저히 낮은 122.25의 MSE를 달성했습니다.
통계적 유의성: 쌍체 윌콕슨 부호 순위 검정(Paired Wilcoxon signed-rank tests)과 블록 부트스트랩 신뢰 구간을 통해, 온라인 학습 모델이 정적 베이스라인 및 MARIMA에 비해 보여준 개선 사항이 특히 MAE와 RMSE 측면에서 통계적으로 견고함을 확인했습니다.

의의 및 주장

저자들은 본 연구가 고급 머신러닝 기법과 실질적인 시장 요구 사이의 간극을 메우는 견고한 전력 가격 예측 프레임워크를 제공한다고 주장합니다. 본 연구의 의의는 다음과 같습니다:

의사결정 지원: 역동적인 시장을 탐색하는 이해관계자들에게 신뢰할 수 있는 도구를 제공하여, 수요 반응, 최적 입찰 및 비용 절감을 돕습니다.
방법론적 발전: 벡터 기반 예측, 분포 인지형 손실 함수, 그리고 선택적 온라인 업데이트를 결합하는 것이 단순한 정적 또는 맹목적 적응형 모델보다 우수한 성능을 낸다는 것을 입증했습니다.
일반화 가능성: 캘리포니아 시장에서 테스트되었지만, 저자들은 충분한 역사적 데이터와 관련 외생 변수가 확보된다면 이 프레 framework가 다른 전력 시장에도 적용 가능하도록 설계되었다고 언급했습니다.

본 연구는 변동성이 큰 에너지 시장에서 높은 정확도와 견고성을 달리는 데 있어 종합적인 특징 세트(특히 발전 믹스), 커스텀 정규화, 그리고 적응형 학습 전략의 통합이 필수적이라는 결론을 내립니다.