Hierarchical Bayes meets hierarchical forecasting: A flexible framework for level-focused forecasts

기술 요약: 계층적 베이즈 모델과 계층적 예측의 결해

문제 정의
계층적 예측은 하위 수준의 예측치가 상위 수준으로 일관되게 합산되어야 하는(예: 지역별 수요의 합이 국가 총합과 일치해야 함) 복잡한 시스템의 의사결정에 필수적입니다. 최소 추적법(Minimum Trace, MinT)과 같은 현재의 최첨단 방법론들은 대개 사후 처리 단계로서 작동합니다. 이들은 독립적인 기초 예측치를 생성한 후, 이를 일관되도록 조정(reconciliation)합니다. 이러한 접근 방식은 다음과 같은 몇 가지 한계를 가집니다:

1. 추정과 일관성의 분리: 일관성 요구 사항이 근본적인 파라미터 추정 과정에 포함되지 않으므로, 모델이 학습 과정 중에 계층 구조로부터 정보를 배우지 못합니다.
2. 공분산 추정의 어려움: 확률적 조정(예: MinT를 분포로 확장하는 것)은 예측 오차의 공분산 행렬을 추정해야 하는데, 이는 다단계 예측 지평(multi-step horizons)에 대해 계산적으로 매우 어렵고 불안정할 수 있습니다.
3. 의사결정 중심의 부재: 기존 방법들은 모든 수준을 동일하게 취급하거나 전역적 오차 감소를 최적화하는 경향이 있으며, 특정 수준이 의사결정 결과에 더 중요하거나 특정 수준에서의 정확도가 엄격한 일관성보다 더 중요한 시나리오를 고려하지 못합니다.
4. 교정(Calibration) 문제: 사후 조정은 모델이 잘 지정되었더라도(well-specified), 일관성을 강제하는 과정에서 확률적 예측의 교정 성능을 저하시킬 수 있습니다.

방법론
저자들은 정보 공유, 일관성 제약, 그리고 의사결정 중심의 가중치 부여를 모델 학습 과정에 직접 통합하는 완전 베이지안 계층적 예측 프레임워크를 제안합니다. 이 방법론은 세 가지 핵심 구성 요소로 이루어집니다:

1. 베이지안 계층적 사전 분포 (Bayesian Hierarchical Priors):
   각 시계열의 파라미터를 독립적으로 추정하는 대신, 저자들은 개별 시계열의 파라미터($\theta_i$)가 하이퍼파라미터($\phi$)로 정의된 모집단 분포에서 추출되는 계층적 사전 구조를 채택합니다. 이는 **부분적 정보 풀링(partial information pooling)**을 용이하게 하여, 동일한 수준에 있거나 서로 다른 수준(부모-자식 노드)에 있는 시계열들이 정보를 공유할 수 있게 합니다. 이는 데이터가 노이즈가 많거나 불완전한 시계열에 특히 유익하며, 관련 시계열로부터 정보를 얻을 수 있게 합니다.

2. 연성 일관성 페널티 (Soft Coherence Penalty):
   엄격한 제약을 부과하는 대신, 프레임워크는 가능도 함수(likelihood function) 내에 불일치에 대한 연성 페널티를 도입합니다. 하위 수준 시계열들의 합과 그에 대응하는 상위 수준 시계열 간의 차이($d_t$)는 가우시안 분포 $N(0, \sigma^2_{coh})$로 모델링됩니다.

• 가능도는 이 페널티 항 $p(d|\sigma^2_{coh}I_T)$에 의해 곱해집니다.
• 파라미터 $\sigma_{coh}$는 페널티의 엄격함을 조절합니다. $\sigma_{coh}$가 작을수록 더 엄격한 일관성을 강제합니다.
• 이 "연성(soft)" 접근 방식은 모델이 잘못 지정되었을 때(misspecified) 정확도와 일관성 사이의 균형을 맞출 수 있게 하여, 비현실적인 예측을 방지합니다. 또한 MinT에서 요구되는 복잡한 다단계 공분산 행렬 추정의 필요성을 제거합니다.

3. 수준 가중치 부여 (Level Weighting - Power Posteriors):
   의사결정에 따른 다양한 수준의 중요도를 다루기 위해, 저자들은 특정 시계열이나 수준의 가능도에 가중치 $\lambda_i$를 적용합니다.

• $\lambda_i > 1$로 설정함으로써, 모델은 특정 수준(예: 국가 총합 또는 특정 여행 목적)의 정확도를 우선시합니다.
• 이는 파워 포스테리어(power posterior) 접근 방식을 통해 구현되며, 집중하고자 하는 수준의 데이터를 다른 데이터에 비해 효과적으로 가중치를 높입니다.
• 이를 통해 글로벌 모델은 특정 의사결정 결과에 최적화되면서도 연성 일관성 제약을 유지할 수 있습니다.

전체 사후 분포는 계층적 사전 분포, 가중치가 적용된 가능도, 그리고 일관성 페널티를 결합합니다.

주요 기여

• 통합된 프레임워크: 본 논문은 파라미터 추정, 정보 풀링, 일관성 강제를 사후 수정이 아닌 통합된 모델링 과정으로서 수행하는 통일된 베이지안 프레임워크를 소개합니다.
• 연성 일관성: 분포적 제약을 통해 불일치에 연성 페널티를 부여함으로써, 다단계 지평에 대한 공분산 행렬 추정 없이도 모델 적합도와 집계 제약 사이의 유연한 절충안을 제시합니다.
• 의사결정 인지형 집중화: 의사결정 결과와 관련된 계층적 수준에 차등적인 가중치를 부여하여, 관심 있는 특정 수준에 대해 정확도를 최적화하는 메커니즘을 도입했습니다.
• 진단 능력: 이 접근 방식은 진단 도구로서도 기능합니다. 매우 엄격한 페널티 하에서도 모델이 일관성을 달성하지 못한다면, 이는 단순한 조정 실패가 아니라 모델의 오지정(misspecification)을 나타냅니다.

결과
프레임워크는 시뮬레이션 데이터(잘 지정된 및 잘못 지정된 ARMA/ETS 모델)와 실제 호주 국내 관광 데이터(지역, 구역, 주, 여행 목적의 5단계 계층 구조)를 통해 평가되었습니다.

• 일관성: 베이지안 계층적 접근 방식은 페널티를 적용하기 전에도 독립 모델에 비해 평균 및 분포적 불일치를 본질적으로 감소시켰습니다. 연성 페널티를 적용했을 때 불일치가 더욱 크게 감소했습니다.
• 정확도 (시뮬레이션 데이터):
  • 잘 지정된(well-specified) 모델에서는 독립적인 베이지안 모델이 가장 우수한 성능을 보였습니다(계층적 수축이 참 파라미터로부터 추정치를 약간 편향시키기 때문). 그러나 일관성 페널티를 적용한 베이지안 방식은 확률적 커버리지 측면에서 MinT보다 뛰어난 성능을 보였습니다.
  • 잘못 지정된(misspecified) 모델에서는 계층적 접근 방식이 이점을 보였으며, 특히 데이터 품질이 좋은 수준(예: 하위 수준)에 가중치를 두었을 때 효과적이었습니다. 잘못 지정된 시나리오에서 상위 수준에 가중치를 두는 것은 전체 성능을 악화시켰으며, 이는 집중된 수준의 데이터/모델 품질이 중요함을 시사합니다.
• 정확도 (호주 관광 데이터):
  • 계층적 베이지안 모델은 대부분의 지표(RMSSE, ES, CRPS)에서 독립 베이지안 모델 및 MinT 조정을 능가했습니다.
  • 수준 가중치: 특정 수준(예: "Total" 또는 "Purposes")에 가중치를 둔 모델은 해당 수준에서 최고의 성능을 달utation했으며, 가중치를 두지 않은 모델에 비해 인접한 수준의 성능도 개선하는 경우가 많았습니다.
  • 교정(Calibration): MinT 조정은 상위 수준에서 상당한 과소 커버리지(낮은 교정 성능)를 보였습니다. 제안된 베이지안 방식은 더 나은 교정 성능을 유지했으나, 수준 가중치 모델은 집중된 수준에서 신뢰도 상승으로 인해 약간의 과소 커버리지를 보였으나 이는 허용 범위(95% 목표치의 5% 이내) 안에 있었습니다.
  • 오지정 탐지: 매우 엄격한 일관성 페널티를 적용했을 때 관광 데이터에서 모델이 수렴하지 못하는 현상은 모델의 오지정(아마도 ETS 모델의 미모델링된 공변량 때문)을 시사하며, 이는 모델의 한계를 진단하는 데 있어 프레임워크의 유용성을 입증합니다.

의의 및 주장
본 논문은 계층적 예측을 사후 처리 조정 작업에서 통합된 모델링 프로세스로 전환했다는 점에 주요 의의가 있다고 주장합니다. 계층적 베이즈 파라미터 추정에 일관성과 의사결정 우선순위를 내재화함으로써 다음을 달성합니다:

1. 계층 내 및 계층 간 정보 공유를 개선하여, 특히 데이터가 부족하거나 노이즈가 많은 상황에서 더 나은 파라미터 추정을 이끌어냅니다.
2. 정확도와 일관성 사이의 절충안에 대한 유연한 제어를 제공하여, 모델의 품질을 저하시키는 경직된 일관성 강제 없이 의사결정에 중요한 수준을 우선시할 수 있게 합니다.
3. 확률적 다단계 조정을 위한 공분산 행렬 추정의 계산적, 통계적 난점을 피합니다.
4. 진단적 관점을 제공합니다. 연성 페널티가 일관성을 달성하지 못할 경우, 이는 모델의 오지정을 나타내며, 단순한 조정 실패가 아닌 모델 선택의 재검토를 촉구하는 신호가 됩니다.

저자들은 본 방식이 정확도와 일관성 사이의 균형을 잡는 데 탁exel하지만, 기본 모델이 적절히 잘 지정되어 있거나 높은 품질의 데이터가 있는 수준에 집중할 때 가장 효과적이라고 결론짓습니다. 표본 크기가 작은 경우 가중치 적용 방식이 일부 사후 교정 오류를 초래할 수 있음을 인정하면서도, 집중된 예측 성능의 이득이 그 비용보다 크다고 주장합니다.