Interpretable models for forecasting high-dimensional functional time series

1. 연구 배경 및 문제 제기 (Problem)

• 고차원 함수형 시계열 (HDFTS) 의 복잡성: 최근 데이터 저장 및 기록 기술의 발전으로 수백 개의 관측치 (예: 수백 개의 기상 관측소, 수백 개의 주식) 에서 시간에 따라 변화하는 함수형 데이터가 생성되고 있습니다. 이러한 데이터는 시간적 의존성 (temporal dependence) 과 횡단면적 상관관계 (cross-sectional dependence) 를 동시에 가지며, 횡단면 개수 ($N$) 가 시간 관측치 수 ($T$) 를 초과하는 경우가 많습니다.
• 기존 방법론의 한계: 기존 HDFTS 모델링은 주로 주성분 분석 (PCA) 이나 요인 모델 (Factor Model) 에 기반한 차원 축소 기법을 사용합니다. 그러나 이러한 방법들은 계산 효율성은 높지만, 생성된 요인 (factors) 과 로딩 행렬 (loading matrices) 이 수학적 구성물에 그쳐 해석 가능성 (interpretability) 이 낮습니다. 즉, 데이터의 변동 원인이 되는 구체적인 요인 (예: 지역별, 성별 차이) 을 직관적으로 파악하기 어렵다는 "블랙박스" 문제가 존재합니다.
• 목표: 본 연구는 예측 정확도를 유지하면서도 데이터의 변동 원인을 명확히 해석할 수 있는 구조적이고 해석 가능한 (interpretable) 모델링 프레임워크를 개발하는 것을 목표로 합니다.

2. 제안된 방법론 (Methodology)

저자들은 HDFTS 를 결정론적 (deterministic) 구조와 확률론적 (stochastic) 잔차 과정으로 분해하는 3 단계 접근법을 제시합니다.

(1) 2-방향 함수형 분산 분석 (Two-way Functional ANOVA, TWA)

• HDFTS 를 대평균 효과 (grand mean), 행 효과 (prefecture/region effect), 열 효과 (sex/gender effect) 로 분해합니다.
• 수식: $Y_{it}^g(u) = \mu(u) + \alpha_i(u) + \delta^g(u) + \gamma_{ig}(u) + X_{it}^{g,\dagger}(u)$
  • 여기서 $\gamma_{ig}(u)$는 지역과 성별 간의 상호작용 항 (interaction term) 입니다.
• 이 단계는 데이터의 체계적인 평균 패턴을 추출하여 결정론적 구조를 형성합니다.

(2) 1-방향 함수형 분산 분석 (One-way Functional ANOVA, OWA)

• TWA 에서 추출된 상호작용 항 ($\gamma_{ig}$) 과 잔차 ($X_{it}^{g,\dagger}$) 를 합친 $X_{it}^{g,\dagger}$를 다시 분석합니다.
• 성별 ($g$) 별로 1-방향 FANOVA 를 적용하여 대평균 효과와 지역별 평균 효과 (row effect) 를 추가로 분해합니다.
• 이를 통해 성별 간 이질성을 고려한 더 정교한 결정론적 구조를 확보합니다.

(3) 함수형 요인 모델 (Functional Factor Model, FFM)

• 위 두 단계 (TWA + OWA) 를 거친 후 남은 잔차 성분은 여전히 시간적 변동성을 포함하고 있습니다.
• 이 잔차 성분을 모델링하기 위해 함수형 요인 모델을 적용합니다. 이는 공통적인 시간적 요인 (common time-varying factors) 과 요인 부하량 (factor loadings) 을 추정하여 잔차의 확률적 동역학을 포착합니다.
• 최종 예측값은 결정론적 구조 (TWA + OWA) 와 예측된 잔차 (FFM) 를 합산하여 구합니다.

(4) 예측 구간 구성 (Prediction Intervals)

• 모델 오차의 불확실성을 정량화하기 위해 합의 예측 (Conformal Prediction) 기법을 사용합니다.
  • Split Conformal: 데이터를 훈련/검증/테스트 세트로 나누어 조정 파라미터를 calibrate 합니다.
  • Sequential Conformal: 검증 세트 없이 새로운 데이터가 도착할 때마다 자기회귀 (AR) 모델을 통해 예측 분위수를 동적으로 업데이트합니다. 이는 모델 의존적이지 않고 (model-agnostic) 튜닝 파라미터가 필요 없다는 장점이 있습니다.

3. 주요 기여 (Key Contributions)

1. 해석 가능한 구조적 분해 프레임워크: 기존 "블랙박스" 요인 모델의 한계를 극복하고, FANOVA 를 통해 지역 (Prefecture) 과 성별 (Sex) 과 같은 관측 가능한 요인이 데이터 변동에 미치는 영향을 직접적으로 분리하고 해석할 수 있게 했습니다.
2. 상호작용 항의 통합 모델링: 기존 연구 (Jiménez-Varón et al., 2024) 와 달리, 2-방향 FANOVA 의 상호작용 항을 1-방향 FANOVA 를 통해 추가적으로 모델링하여 그룹 간 이질성을 더 유연하게 포착했습니다.
3. 확실한 불확실성 정량화: 모델 misspecification 에 취약할 수 있는 전통적 통계적 접근 대신, Sequential Conformal Prediction을 도입하여 유한 표본에서의 예측 구간을 보다 견고하게 구성했습니다.
4. 실증적 검증: 1975 년부터 2023 년까지의 일본 지역별 성별 사망률 데이터를 활용하여 제안된 방법의 유효성을 입증했습니다.

4. 실험 결과 (Results)

• 데이터: 일본 47 개 현 (Prefectures) 의 19752023 년 연도별, 성별, 연령별 (0100 세 이상) 사망률 데이터.
• 점 예측 정확도 (Point Forecast Accuracy):
  • RMSFE (제곱근 평균 제곱 오차) 및 MAFE (평균 절대 오차) 기준, 제안된 TWA + OWA + FFM 모델이 기존 방법 (TWA + FFM, TWA + MFTS) 보다 일관되게 낮은 오차를 보였습니다.
  • 특히 상호작용 항을 포함한 OWA 단계가 예측 정확도 향상에 기여함이 확인되었습니다.
• 구간 예측 정확도 (Interval Forecast Accuracy):
  • ECP (실제 커버리지 확률) 와 IS (Interval Score) 를 평가했습니다.
  • Split Conformal 방법은 장기 예측 시 실제 커버리치가 명목 커버리지보다 낮아지는 (under-estimation) 경향이 있었습니다.
  • 반면, Sequential Conformal 방법은 실제 커버리치가 명목보다 약간 높거나 (over-estimation) 유사하게 유지되었으며, Interval Score 측면에서 가장 우수한 성능을 보였습니다. 이는 새로운 데이터가 들어올 때 예측 구간을 동적으로 조정하는 방식의 효과 때문입니다.

5. 의의 및 결론 (Significance)

• 정책 결정 지원: 본 연구의 모델은 사망률 변화의 원인이 '지역적 차이'인지 '성별 차이'인지, 혹은 '시간에 따른 공통 추세'인지 명확히 구분해 줍니다. 이는 연금, 의료, 고령화 정책 등 증거 기반 (evidence-based) 정책 결정에 필수적인 통찰력을 제공합니다.
• 예측 성능 향상: 해석 가능성을 희생하지 않으면서도, 기존 방법론보다 높은 예측 정확도와 신뢰할 수 있는 예측 구간을 제공합니다.
• 확장성: 본 프레임워크는 사망률 데이터뿐만 아니라 기후 곡선, 금융 수익률 등 다양한 고차원 함수형 시계열 데이터에 적용 가능한 범용적인 방법론으로 평가됩니다.

요약하자면, 이 논문은 FANOVA 기반의 구조적 분해와 함수형 요인 모델, 그리고 Sequential Conformal Prediction을 결합하여 고차원 함수형 시계열의 해석 가능성과 예측 정확도를 동시에 달성한 획기적인 연구입니다.