Beyond Equidistant Assumptions: An Autoregressive Ordered Stereotype Model for Ordinal Time Series

기술 요약: 등간격 가정의 탈피: 서수적 시계열을 위한 자기회귀 순서 스тере오타입 모델(AR-OSM)

문제 제기
관찰값이 유한하고 순서가 있는 범주 집합의 값을 갖는 특성을 가진 서수 시계열 데이터는 의료, 환경 과학, 스포츠 등의 분야에서 빈번하게 발생한다. 마르코프 모델, 회귀 모델, 이산 ARMA 변형 모델을 포함한 다양한 모델링 접근 방식이 존재하지만, 많은 모델이 제한적인 가정에 의존한다. 구체적으로, 표준 서수 회귀 모델은 인접한 범주 간의 거리가 등간격이라고 가정하거나, 모든 임계값에 대해 공변량 효과가 비례한다고 가정하는 경우가 많다(비례 오즈 모델의 경우). 저자들은 이러한 가정이 특히 상태 간의 "거리"에 대한 해석이 의미 있는 응용 분야(예: '깨어 있음'에서 '조용한 수면'으로의 전이가 중간 수면 단계들 사이의 전이보다 다른 크기의 변화를 나타낼 수 있는 경우)에서 자주 비현실적이라고 주장한다. 부분 비례 오즈 모델과 같은 기존의 유연한 대안들은 종종 상당한 파라미터 수의 페널티를 초래한다. 본 논문은 등간격 범주 간격을 강요하지 않으면서도 직렬 의존성을 포착할 수 있는, 간결하면서도 유연한 프레임워크의 필요성을 다룬다.

방법론
본 논문은 횡단면 데이터를 위해 Anderson(1984)이 도입한 순서 스тере오타입 모델(OSM)을 시계열로 확장한 **자기회귀 순서 스тере오타입 모델(AR-OSM)**을 제안한다.

• 모델 공식화: AR-OSM은 반응 변수의 시차 값($Y_{t-1}, \dots, Y_{t-p}$)을 회귀의 체계적 성분 내에 공변량으로 포함한다. $q$개의 범주를 갖는 서수 시계열 $Y_t$에 대하여, 범주 $k$와 기준 범주(1)에 속할 로그 오즈는 다음과 같이 모델링된다:
  $$\log \left( \frac{P(Y_t = k | \mathcal{F}_{t-1})}{P(Y_t = 1 | \mathcal{F}_{t-1})} \right) = \alpha_k + \phi_k \sum_{j=1}^p \beta_j Y_{t-j} + \gamma^T X_t$$
  여기서 $\mathcal{F}_{t-1}$은 프로세스의 이력을 나타낸다.
• 핵심 특징 (스코어 파라미터): 이 모델은 단조성을 갖는 "스코어" 파라미터 집합 $\{\phi_1, \dots, \phi_q\}$를 활용한다(단, $0 = \phi_1 \le \dots \le \phi_q = 1$로 제약됨). 고정된 등간격 간격을 가정하는 표준 모델과 달리, 이 파라미터들은 데이터가 범주 간의 상대적 간격을 결정할 수 있도록 한다. 회귀 계수 $\beta_j$는 범주 전체에 공통적이지만, 범주별 스코어 $\phi_k$에 의해 스케일링된다.
• 추정: 파라미터 추정은 최대 가능도 추정법(MLE)을 통해 수행된다. 최적화 과정 중 스코어 파라미터의 단조성 제약을 처리하기 위해, 저자들은 로짓 변환과 지수 증분을 포함하는 재매개변수화 전략(Fernández et al., 2016)을 사용하여 제약된 문제를 무제약 문제로 변환한다.
• 모델 선택 및 의존성: 본 논문은 직렬 의존성을 측정하고 적절한 자기회귀 차수 $p$를 선택하기 위해 **서수 코헨의 카파(Ordinal Cohen's $\kappa$)**와 그 부분 버전을 사용한다. 이 지표는 연속형 시계열의 ACF 및 PACF에 대응하는 개념으로서 Weiss(2020)로부터 서수적 특성에 맞게 조정되었다.

주요 기여

1. 시계열으로의 확장: 주요 기여는 OSM을 서수 시계열으로 공식화하여 AR-OSM 프레임워크를 구축한 것이다.
2. 등간격 가정의 완화: 모델은 등간격 범주 가정을 명시적으로 피한다. 대신, 데이터로부터 상태 간의 잠재적 간격을 추론함으로써, 범주 간 전이가 크기 측면에서 다양하게 나타나는 프로세스를 더 현실적으로 표현한다.
3. 간결성과 유연성: AR-OSM은 제한적인 비례 오즈 모델과 더 복잡하고 파라미터가 많은 대안 사이의 절충안을 제공한다. 이는 모든 공변량-범주 상호작용에 대해 별도의 계수 벡터를 요구하지 않고도 스코어 파라미터를 통해 범주별 효과를 포착한다.
4. 공변량의 통합: 서수 시계열을 위한 일부 마르코프적 접근 방식과 달리, AR-OSM은 회귀 모델의 구조를 유지하여 자기회귀 항과 함께 외부 공변량(예: 심박수, 온도)을 포함할 수 있다.

결과

• 시뮬레이션 연구:
  • 추정량 성능: 다양한 표본 크기($T=100, 500, 1000$)에 걸친 시뮬레이션 결과, 추정량들은 효율적이었으며 표본 크기가 증가함에 따라 분산이 감소함을 보여주었다. 작은 표본 크기($T=100$)에서는 스코어 파라미터($\phi$)에서 미세한 편향이 관찰되었으나, 이 편향은 더 큰 표본 크기에서 감소하였다.
  • 직렬 의존성: 연구는 자기회귀 계수($\beta$)와 스코어 파라미터($\phi$)가 직렬 의존성에 어떻게 영향을 미치는지 조사하였다. 결과는 $\beta$의 부호가 의존성의 방향(양 또는 음)을 결정하고, 그 크기가 강도를 조절한다는 것을 보여주었다. $\beta$와 직렬 의존성(Ordinal Cohen's $\kappa$로 측정됨) 사이의 관계는 비선형적임이 밝혀졌다.
• 실제 적용 (영아 수면 데이터):
  • 모델은 30초마다 기록된 신생아의 수면 상태(깨어 있음, 조용한 수면, 불분명한 수면, 활동적 수면) 데이터셋에 적용되었다.
  • 모델 선택: 부분 Ordinal Cohen's $\kappa$ 분석은 자기회귀 차수가 1($p=1$)임을 시사했다. 우도비 검정(LRT)은 AR-OSM(모델 3)이 비례 오즈 인접 범주 로짓 모델(모델 5) 및 심박수를 공변량으로 포함하는 모델보다 유의미하게 더 나은 적합도를 제공함을 확인해주었다.
  • 간격의 해석: 추정된 스코어 파라미터는 '깨어 있음'과 '조용한 수면' 사이의 잠재적 거리가 중간 수면 단계들 사이의 거리보다 실질적으로 더 크다는 것을 드러냈다. 이 발견은 표준 모델의 등간격 가정을 반박하며, 깨어남에서 수면으로의 전이가 수면 단계 간의 이동보다 더 뚜렷한 변화라는 생물학적 타당성을 뒷받침한다.
  • 예측: 10단계 앞을 예측하는 실험에서, AR-OSM은 비례 오즈 모델보다 우수한 성능을 보였으며, 각 단계에서 실제 상태를 더 높은 확률로 예측하였다.

의의 및 주장
본 논문은 AR-OSM이 등간격 범주 가정이 비현실적인 서수 시계열을 모델링하기 위한 유연하고 간결한 프레임워크를 제공한다고 주장한다. 상태 간의 상대적 간격을 데이터가 결정하도록 허용함으로써, 모델은 수면 데이터 적용 사례에서 입증된 바와 같이 기저 프로세스에 대한 더 정확한 표현을 제공한다. 저자들은 이 모델이 서수적 구조를 존중하면서도 직렬 의존성을 성공적으로 포착한다고 단언한다.

논문은 현재의 공식화가 공변량 전반에 걸쳐 공유되는 단일 스코어 파라미터 세트를 가정하고 있다는 점을 겸허히 언급하며, 향후 연구에서 스코어 파라미터가 공변량에 따라 변하는 "부분 순서 스терео타입 모델"을 탐구할 수 있다고 밝혔다. 또한, 저자들은 이 프레임워크와 관련된 시변 파라미터의 계산적 어려움을 인정하면서도, 자기회귀 부분 모델로의 확장이 유망한 연구 경로임을 식별하였다. 본 연구는 제한적인 비례 모델과 지나치게 복잡한 대안 사이의 간극을 메우는 방법론적 발전으로 제시된다.