Active Learning for Optimal Experimental Design in Machine Learning-Based Building Energy System Identification

기술 요약: 머신러닝 기반 건물 에너지 시스템 식별을 위한 최적 실험 설계용 능동 학습

문제 정의
기계 학습(ML) 기술은 물리 기반 모델링에 비해 유연성 덕분에 건물 에너지 시스템(BES), 특히 HVAC 열 역학을 식별하는 데 점점 더 많이 채택되고 있습니다. 그러나 이러한 데이터 기반 모델의 성능은 훈련 데이터의 품질에 크게 의존합니다. 표준적인 접근 방식은 종종 균일하게 무작위적인 제어 입력(예: PRBS, 백색 잡음)을 사용하는 수동 학습(Passive Learning, PL)에 의존하며, 이는 비선형 시스템 역학을 정확하게 추정하기 위해 방대한 데이터셋을 필요로 하여 비효율적일 수 있습니다. 본 논문은 가장 정보가 많은 데이터를 수집하기 위해 어떤 실험을 수행할지 결정하는 **최적 실험 설계(Optimal Experimental Design, OED)**의 필요성을 다룹니다. OED와 능동 학습(Active Learning, AL)은 근본적인 메커니즘을 공유하지만, 기존의 건물 에너지 연구들은 체계적인 비교 없이 단일하고 임의적인 획득 함수(Acquisition Function)를 주로 적용해 왔습니다. 또한, 많은 선행 연구는 현실적인 제어 제약 조건 하에서의 온라인 동적 시스템 식별보다는 정적 예측이나 분류에 집중해 왔습니다.

방법론
본 연구는 건물 열 역학 식별에 적용되는 14가지 AL 기법에 대한 체계적인 비교를 제안합니다. 방법론은 다음 구성 요소들을 중심으로 구조화되었습니다:

1. 시스템 정식화: 문제를 이산 시간 동적 시스템으로 모델링하며, 목표는 상태 $x_k$와 제어 입력 $u_k$로부터 다음 상태 $x_{k+1}$로 전이되는 미지의 비선형 함수 $f$에 대한 근사치를 학습하는 것입니다.
2. 모델 클래스: 두 가지 구별되는 ML 아키텍처가 평가됩니다:
   • 결정론적(Deterministic): 점 예측(Point Prediction)을 통해 역학을 근사하는 피드포워드 신경망(NN).
   • 확률론적(Stochastic): 고유한 불확실성 추정치를 제공하는 사후 예측 분포인 가우시안 프로세스(GP).
3. 능동 학습 분류 체계: 14가지 기법은 획득 함수의 논리에 따라 네 가지 그룹으로 분류됩니다:
   • 데이터 공간(Data Space): 기하학적 구조에 의존하는 방법 (Greedy Sampling, Inverse Distance Weighting).
   • 불확실성(Uncertainty): 높은 예측 불확실성 영역을 타겟팅하는 방법 (NN의 경우 Query-by-Committee, Monte Carlo Dropout; GP의 경우 Maximize Variance, Integrated Variance Reduction).
   • 정보 이득(Information Gain): 하이퍼파라미터 추정을 타겟팅하는 방법 (GP의 경우 Fisher Information, Shannon Entropy).
   • 모델 변화(Model Change): 모델 파라미터의 가장 큰 예상 업데이트를 타겟팅하는 방법 (NN의 경우 Expected Model Change Maximization, Maximize Last Layer Change; GP의 경우 Upper Confidence Bound, Probability of Improvement).
4. 실험 설정: 모든 알고리즘은 현실적인 HVAC 역학을 모델링하기 위해 Modelica를 사용하는 고충실도 시뮬레이터인 BOPTEST에서 구현 및 평가됩니다. 본 연구는 배치 업데이트(10개 샘플마다 재학습)를 포함하는 온라인 학습 프레임워크를 채택합니다.
5. 테스트 시나리오: 성능은 다음 사항들이 변하는 6가지 시나리오를 통해 평가됩니다:
   • 초기 데이터셋 크기: 2개의 데이터 포인트(데이터 부족 상황) 대 10개의 데이터 포인트.
   • 제어 제약 조건: 엄격한 램프(Ramp) 제약(현실적인 HVAC 제한 시뮬레이션) 대 넓은 램프 제약.
   • 평가 지표: 세 가지 시간 창(0–2h, 0–12h, 0–24h)에 대해 계산된 평균 제곱근 오차(RMSE)이며, 윈도우 평균값과 최종 타임스텝 값 모두 보고됩니다.

주요 기여
본 논문은 세 가지 주요 기여를 합니다:

1. 체계적 분류: 본 연구는 앞서 언급한 네 가지 범주 내에서 결정론적(NN) 및 확률론적(GP) 모델 클래스 모두에 걸쳐 14가지 AL 기법에 대한 획득 함수를 공식적으로 분류하고 도출했습니다.
2. 고충실도 평가: 정적 데이터셋이나 단순한 가상 테스트베드에 의존하는 기존 연구와 달리, 본 연구는 현실적인 HVAC 역학 및 제어 제약 조건을 포함하여 모든 기법을 BOPTEST 시뮬레이터에서 구현하고 평가합니다.
3. 포괄적 경험적 비교: 본 연구는 다양한 초기 데이터 크기와 운영 제약 조건에 걸쳐 모든 AL 방법을 균일하게 무작위적인 입력을 사용하는 수동 학습 베이스라인과 벤치마킹하며 광범위한 경험적 분석을 제공합니다.

결과
시뮬레이션 결과는 AL 기반 모델이 일반적으로 균일하게 무작위적인 제어 입력을 사용하는 수동 학습(PL)보다 우수한 성능을 보이며, 특정 시나리오에서 최대 **54%**의 오차 감소를 달enc하는 것을 보여줍니다. 그러나 이러한 개선의 크기와 일관성은 획득 함수, 모델 클래스 및 운영 체제에 따라 크게 달라집니다:

• 데이터 부족 체제 (초기 2개 포인트, 엄격한 제약): AL 기반 방법들이 가장 큰 이점을 보입니다.
  • GP 모델의 경우, **Integrated Variance Reduction (IVR)**와 **Inverse Distance Weighting (IDWGP)**가 강력한 성능을 보였으며, 특히 IDWGP는 0–12h 윈도우에서 54%의 RMSE 감소를 달성했습니다.
  • NN 모델의 경우, **Query-by-Committee (QBC)**와 그래디언트 기반 Model Change 방법들(EMCM, MLLC)이 가장 큰 개선을 제공했으며, QBC는 초기 윈도우에서 평균 RMSE를 27–42% 감소시켰습니다.
• 데이터 풍부 체제 (초기 10개 포인트, 완화된 제약): PL 대비 AL의 이점이 줄어듭니다. 여러 중·장기 호라이즌 시나리오에서 PL이 특정 AL 방법(예: GP의 GSGP 및 SE; NN의 MCD)과 비슷하거나 더 나은 성능을 보였습니다.
• 모델별 관찰 사항:
  • 가우시안 프로세스(GP): 램프 제약이 완화되면 Information Gain 범주(Fisher Information)가 가장 강력한 성능을 보였습니다. Data Space 방법인 GSGP는 모든 시나리오에서 PL보다 개선되지 못하는 모습을 일관되게 보였습니다.
  • 신경망(NN): Uncertainty Sampling(특히 QBC)이 가장 일관되게 경쟁력 있는 범주로 남았습니다. **Monte Carlo Dropout (MCD)**은 데이터 부족 시나리오에서 PL보다 개선되지 못했는데, 이는 이 맥락에서의 캘리브레이션 문제를 시사합니다.
• 일반적 경향: OED의 이점은 초기 훈련 데이터가 부족하고 허용 가능한 제어 범위가 엄격하게 제한될 때 가장 두드러지고 신뢰할 수 있습니다.

의의 및 주장
본 논문은 능동 학습 기반의 실험 설계가, 특히 데이터를 수집하는 비용이나 시간이 많이 드는 데이터 부족 체제에서 건물 에너지 시스템 식별을 위한 가치 있는 도구라고 주장합니다. 본 연구는 단일한 획득 함수가 보편적으로 우월하지 않으며, 최적의 선택은 모델 클래스(결정론적 vs. 확률론적)와 특정 운영 제약 조건(데이터 가용성 및 제어 램프 제한)에 따라 달라진다는 점을 확립합니다.

본 연구는 향-후 연구를 위한 베이스라인 벤치마크 역할을 하며, AL이 모델 오차를 크게 줄일 수 있음에도 불구하고(최선의 경우 최대 54%), 그 이점이 모든 조건에서 보장되는 것은 아니라는 점을 강조합니다. 저자들은 자신들의 작업이 상대적으로 단순한 시스템(4개 입력, 1개 출력)을 대상으로 하고 있으며 계산 비용을 평가하지 않았음을 겸허히 밝히며, 향후 연구가 이러한 발견을 더 복잡한 비선형 시스템으로 확장하고 계산 오버헤드에 대한 통계적 분석을 포함해야 한다고 제언합니다.