Autorelevance function and other feature relevance measures for univariate time series

기술 요약: 단변량 시계열을 위한 자기관련성 함수 및 기타 특성 관련성 측정법

문제 정의
머신러닝 모델의 시계열 예측 채택이 증가함에 따라, 특히 지연된 관측치(lagged observations)가 예측에 어떻게 영향을 미치는지에 대한 해석 가능성에 대한 비판적 요구가 생겨나고 있습니다. 자기상관함수(ACF) 및 편자기상관함수(PACF)와 같은 고전적 통계 도구는 선형적 시간 구조를 효과적으로 설명하지만, 현대의 "블랙박스" 예측 모델(예: 신경망)의 동작을 설명하기에는 부적합합니다. 기존의 특성 중요도 방법들은 예측 변수(지연값) 간의 높은 상관관계와 연합 기반 설명(coalition-based explanations)에서 "부재한" 특성을 처리하기 위한 모델 불가지론적 전략의 부재로 인해 시계열 맥락에서 어려움을 겪는 경우가 많습니다. 표준 임퓨테이션(imputation) 기술(예: 제로 필링 또는 무조건적 평균)은 예측에 필수적인 시간적 역동성을 보존하지 못하는 경우가 많아, 잠재적으로 오해의 소지가 있는 관련성 추정치를 초래할 수 있습니다.

방법론
저자들은 단변량 시계열 예측에서 지연된 입력값의 전역적 관련성을 정량화하기 위한 모델 불가지론적 프레임워크를 제안합니다. 이 방법론은 두 가지 주요 접근 방식인 **고스트 변수(Ghost Variables)**와 **샤플리 값(Shapley Values)**을 통합하며, 입력값이 오직 시계열의 지연된 값들로만 구성되는 예측 작업에 맞게 조정되었습니다.

1. 고스트 변수 접근법 (자기관련성 함수 - ARF):

   • 고스트 변수 방법론을 응용하여, 특정 지연값 $h$의 관련성을 실제 지연값 $y_{t-h}$를 보조 임퓨테이션 모델(구체적으로 다중 선형 회귀)을 통해 예측된 "고스트" 값 $\hat{y}^*_{t-h}$로 대체함으로써 평가합니다. 이 모델은 나머지 $p-1$개의 지연값을 사용하여 $y_{t-h}$를 예측합니다.
   • 관련성은 원래 모델의 예측 오차와 고스트 값을 사용한 모델의 예측 오차를 비교함으로써 정량화됩니다. 저자들은 두 가지 지표를 정의합니다:
     • ARF$_{MSPD}$: 평균 제곱 예측 차이(Mean Squared Prediction Difference)에 기반함.
     • ARF$_{MSE}$: 평균 제곱 오차(MSE) 기여도의 변화에 기반함.

2. 샤플리 값 접근법 (부분 자기관련성 함수 - PARF):

   • 이 접근법은 지연값들을 협력 게임의 플레이어로 취급하여, 모든 가능한 연합(지연값들의 부분 집합)에 걸친 각 지연값의 평균 한계 기여도를 계산합니다.
   • 임퓨테이션 전략: 결합 내에서 부재한 특성을 처리하기 위한 핵심 혁신은, 부재한 지연값을 분석 중인 동일한 예측 모델에 의해 생성된 **1단계 앞 예측값(one-step-ahead forecast)**으로 대체하는 것입니다. 이는 시계열의 시간적 일관성을 보존합니다.
   • 가치 함수: 가치 함수는 샘플 평균에 대한 MSE 개선도를 기준으로 정의됩니다.
   • 지표:
     • PARF$_{MSE}$: MSE 기여도에 기반한 표준화된 샤플리 값.
     • PARF$_{MSPD}$: 제곱 예측 차이에 기반한 표준화된 샤플리 값.
   • 계산 효율성: 모든 관측치에 대해 순열 분석을 수행해야 하는 로컬 SHAP 방식과 달리, 이 프레임워크는 테스트 샘플 전체에 대해 평균을 내어 전역적으로 관련성을 계산함으로써 계산 부담을 크게 줄입니다.

주요 기여

• 시계열을 위한 새로운 임퓨테이션: 본 논문은 연합 기반 방법에서 부재한 특성을 처리하기 위해 모델 기반의 1단계 앞 임퓨테이션 기법을 도입합니다. 이 전략은 관련성 분석을 예측 모델의 역동성과 일치시켜, 정적인 임퓨테이션에 비해 순차적 설정에서의 연합에 대한 더 자연스러운 정의를 제공합니다.
• 모델 불가지론적 지연 관련성: 제안된 ARF 및 PARF 측정치는 고전적 통계 모델(예: ARMA)과 복잡한 블랙박스 모델(예: 순환 신경망) 모두에 적용 가능하여, 해석 가능성을 위한 통합된 프레임워크를 제공합니다.
• 가법적 중요도 측정의 통합: 본 연구는 시계열 설명 가능성의 실질적 필요성을 가법적 중요도 측정(additive importance measures, AIM)의 이론적 토대와 연결하며, 특히 예측에서 표준적인 손실 함수인 MSE를 활용합니다.

결과
저자들은 시뮬레이션 데이터(선형 ARMA, 비선형 regime-switching 모델)와 실제 데이터셋(월별 항공 승객 수)을 사용하여 제안된 방법들을 평가했습니다.

• 선형 시뮬레이션 (AR(3) 및 ARMA(3,3)): 선형 환경에서 ARF와 PARF 모두 실제 비제로 지연값(지연 1 및 3)을 성공적으로 식별하였으며, 신경망이 적합된 경우에도 무관한 지연값(지연 2)에는 미미한 관련성을 할당했습니다.
• 비선형 시뮬레이션: 비선형 regime-switching 모델에서 관련성 측정치(특히 MSE 기여도를 사용한 PARF)는 데이터를 생성하는 프로세스를 주도하는 주요 지연값(1, 12, 13)을 정확하게 식별하여 비선형성에 대한 강건성을 입증했습니다.
• 실제 데이터 (항공 승객 수): 클래식한 항공 승객 데이터셋에 적용했을 때, 이 방법들은 알려진 계절적 구조와 일치하도록 지연 1, 12, 13을 가장 관련 있는 것으로 일관되게 강조했습니다. 신경망 모델은 SARIMA 모델과 약간 다른 패턴을 보였으나, 관련성 측정치는 근본적인 지연 구조를 여전히 포착했습니다.
• 임퓨테이션 비교: 모델 기반의 1단계 앞 임퓨테이션은 비선형 및 복잡한 시나리오에서 선형 임퓨테이션보다 일반적으로 우수한 성능을 보였으며, 지배적인 지연 구조를 더 명확하게 식별했습니다.

의의 및 주장
본 논문은 제안된 프레임워크가 시계열 예측 모델을 해석하는 데 있어 실용적이고 효과적인 솔루션을 제공한다고 주장합니다. 저자들은 다음을 강조합니다:

• 방법론들이 거의 모든 테스트 케이스(블랙박스 신경망 포함)에서 기대되는 지연 구조를 성공적으로 복구합니다.
• 1단계 앞 임퓨테이션 전략은 순차적 설정에서 연합을 정의하는 자연스러운 방법을 제공하여, 일반적인 임퓨테이션의 휴리스틱한 성격을 피합니다.
• 접근 방식은 로컬 SHAP 방식보다 계산 효율성이 높으면서도 해석 가능성을 유지합니다.
• 이 프레임워크는 데이터의 시간적 순서와 역동성을 존중한다는 점에서 시계열에 특히 적합합니다.

저자들은 예측 모델이 충분히 좋은 예측 성능을 갖추고 있다는 전제하에 작동한다는 점을 언급하며, 모델의 성능이 낮을 경우 임퓨테이션 과정에서 노이즈가 유입되어 오해의 소지가 있는 관련성 추정치를 낼 수 있다는 한계를 인정하며 신중한 태도를 유지했습니다. 향후 연구로는 대안적인 관련성 공식화, 외생 변수의 포함, 그리고 다변량 시계열으로의 확장이 제안되었습니다.