Bias-Corrected Adaptive Conformal Inference for Multi-Horizon Time Series Forecasting

1. 문제 정의 (Problem Definition)

배경:
적응형 컨포멀 추론 (Adaptive Conformal Inference, ACI) 은 분포 이동 (distribution shift) 하에서도 점근적 커버리지 (coverage) 보장을 제공하는 시간 계열 예측을 위한 강력한 방법론입니다. 그러나 기존 ACI 는 예측 구간 (prediction interval) 의 중심을 이동시킬 수 없고, 오직 임계값 (quantile threshold, $\alpha_t$) 만을 적응시킵니다.

핵심 문제:
배포된 예측 모델이 분포 이동 (예: 데이터의 평균 레벨 변화) 을 겪고 재학습되지 않을 경우, 모델은 지속적인 예측 편향 (persistent prediction bias, $b$) 을 갖게 됩니다.

• ACI 의 한계: 편향이 존재할 때 ACI 는 대칭적인 구간을 유지하기 위해 구간 폭을 비대칭적으로 늘려야 합니다. 이는 편향의 크기에 비례하는 불필요한 폭 증가 ($2|b|$) 를 초래하여 예측 효율성 (interval width) 을 저하시킵니다.
• 예시: 편향이 5 인 경우, ACI 는 이를 커버하기 위해 구간 폭을 크게 늘리지만, 편향을 보정한 오라클 (oracle) 은 더 좁은 구간으로 동일한 커버리지를 달성할 수 있습니다.

2. 제안 방법: BC-ACI (Methodology)

저자들은 편향을 보정하여 구간 중심을 이동시키는 경량 확장 방법인 BC-ACI (Bias-Corrected ACI) 를 제안합니다.

주요 메커니즘:

1. Horizon 별 온라인 편향 추정 (Per-Horizon Online Bias Estimation):
   • 각 예측 구간 (horizon $h$) 마다 지수 가중 이동 평균 (EWM) 을 사용하여 잔차 (residuals) 의 편향 ($\hat{b}_t$) 을 실시간으로 추정합니다.
   • $\hat{b}_{t+1} = (1-\lambda)\hat{b}_t + \lambda e_t$
2. 편향 보정된 비동일성 점수 (Bias-Corrected Nonconformity Scores):
   • 구간을 구성하기 전에, 보정된 잔차 $\tilde{e}_i = e_i - \hat{b}_t$ 를 사용하여 비동일성 점수를 계산합니다.
   • 예측 구간 중심을 $\hat{y}_t$ 에서 $\hat{y}_t + \hat{b}_t$ 로 이동시킵니다.
   • 핵심 통찰: 보정은 사후 (post-hoc) 가 아니라, 컨포멀 점수 계산 전 에 적용되어 구간 폭 자체를 줄입니다.
3. 적응형 데드존 (Adaptive Dead-Zone) 임계값:
   • 편향이 없는 데이터 (안정적인 상태) 에서 추정 오차 (noise) 로 인해 불필요하게 구간이 흔들리는 것을 방지하기 위해 MAD (Median Absolute Deviation) 기반의 임계값을 도입합니다.
   • $|\hat{b}_t| > k \cdot \text{MAD}(B)$ 일 때만 보정을 적용합니다.
   • 이 메커니즘은 편향이 없는 경우 BC-ACI 가 기존 ACI 와 거의 동일한 성능을 내도록 하여 "해를 끼치지 않는 (do no harm)" 특성을 보장합니다.

3. 주요 기여 (Key Contributions)

1. 구조적 한계 규명: 임계값 적응만으로는 위치 편향 (location bias) 을 보정할 수 없으며, 이로 인해 구간 폭에 $\Theta(|b|)$ 의 오버헤드가 발생함을 이론적으로 증명했습니다 (Theorem 2).
2. BC-ACI 알고리즘 제안: Horizon 별 독립적인 편향 추정과 적응형 데드존을 포함한 새로운 알고리즘을 제안했습니다.
3. 이론적 보장:
   • 커버리지 보장: BC-ACI 는 기존 ACI 의 점근적 커버리지 보장을 유지합니다 (Theorem 3).
   • 폭 감소: 지속적 편향이 존재할 때 구간 폭을 줄이고 Winkler 점수를 개선함을 증명했습니다 (Theorem 4).
   • 회복성: 편향이 없는 데이터에서는 기존 ACI 로 자연스럽게 회복되며, 오버헤드가 0.2% 미만임을 보였습니다 (Theorem 5).
4. 조건부 개선 특성 규명: 편향 보정이 도움이 되는 경우 (지속적 편향이 있는 Ridge 회귀 등) 와 중립적인 경우 (ARIMA 등 자기 교정 모델) 를 명확히 구분하고 실험적으로 검증했습니다.

4. 실험 결과 (Results)

실험 설정:

• 데이터: 4 가지 합성 시나리오 (평균 이동, 분산 이동, 복합 이동, 안정적) 와 3 가지 실제 데이터셋 (Electricity, Weather, ETTh1).
• 모델: Ridge 회귀 (편향 발생) 와 ARIMA (자기 교정).
• 총 실행: 688 회 (4 합성 $\times$ 2 모델 $\times$ 4 Horizon $\times$ 10 Seed + 3 실제 $\times$ 2 모델 $\times$ 4 Horizon).

주요 결과:

• 편향이 있는 경우 (Compound/Mean Shift): BC-ACI 는 Winkler 점수를 최대 32% 까지 개선했습니다 (Ridge 모델 기준).
  • 예: 복합 이동 (Compound shift) 에서 Winkler 점수 비율이 0.833 (ACI 대비 16.7% 개선, $p < 0.001$).
• 편향이 없는 경우 (Stable/Volatility Shift):
  • 안정적 데이터에서 BC-ACI 는 ACI 와 거의 동일한 성능을 보였습니다 (Winkler 비율 1.002~1.004).
  • 데드존 메커니즘이 추정 노이즈로 인한 오보정을 효과적으로 차단함을 확인했습니다.
• 실제 데이터: 실제 데이터셋에서는 분포 이동이 명확하지 않아 성능 향상이 통계적으로 유의미하지 않았으나, ACI 보다 나빠지지 않는 중립적인 결과를 보였습니다.
• 모델 의존성: 편향을 스스로 교정하는 모델 (ARIMA) 에서는 BC-ACI 가 ACI 와 동일하게 동작하여 불필요한 연산을 하지 않았습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실용적 가치: 많은 조직에서 모델을 한 번 학습하고 장기간 재학습 없이 배포하는 MLOps 패턴에서 발생하는 "지속적 편향" 문제를 해결합니다. 분포 이동 후 모델이 편향될 때, 구간 폭을 줄이면서 커버리지를 유지할 수 있습니다.
• 안전한 배포: 데드존 메커니즘을 통해 편향이 없는 상황에서는 기존 ACI 와 동등한 성능을 보장하므로, 기존 시스템에 리스크 없이 도입 가능합니다.
• 이론적 기여: 적응형 컨포멀 추론 분야에서 "임계값 적응"만으로는 부족하며 "위치 보정"이 필요함을 최초로 체계적으로 증명하고 해결책을 제시했습니다.

요약: BC-ACI 는 시간 계열 예측에서 분포 이동으로 인한 모델 편향을 실시간으로 감지하고 보정하여, 불필요한 예측 구간 폭 확대를 방지하는 효율적이고 안전한 방법론입니다.