Dynamic Prediction of Alternating Recurrent Events via Neural Network

기술 요약: 신경망을 통한 교대 순환 사건의 동적 예측

문제 정의
교대 순환 사건(alternating recurrent events)—주요 사건(예: 입원, 우울 삽화)이 발생한 후, 해당 개인이 더 이상 주요 사건의 위험에 노출되지 않는 2차 불응기(refractory period)를 유발하는 결과—는 생물 통계학, 행동 과학 및 형사 사법 분야에서 빈번하게 발생한다. 이러한 사건을 분석하는 것은 독특한 통계적 과제를 안겨준다: 두 유형의 사건은 상호 배타적이어서 경쟁 위험(competing risks)을 형성하며, 관측치는 상관되어 있고, 데이터는 중도 절단(censoring)의 영향을 받는다. 전통적인 접근 방식은 주로 상태 기반 마르코프 과정(state-based Markov processes)이나 준모수적 강도 모델(예: Cox 기반 확장 모델)에 의존한다. 그러나 이러한 방법들은 종종 "의존적 간격 시간(dependent gap-time)" 문제를 해결하는 데 어려움을 겪거나, 공변량과 결과 사이의 모수적 관계를 분석가가 직접 지정해야 한다는 요구가 따른다. 더욱이, 기존의 동적 예측 도구들은 순환 사건에 대해 "온라인" 또는 실시간 예측, 즉 새로운 경험이 관찰됨에 따라 개인의 위험 프로필이 지속적으로 업데이트되는 상황을 다루는 경우가 드물다. 특히 교대 사건 구조의 경우 더욱 그러하다.

방법론
저자들은 의사 관측치(pseudo-observations)와 딥러닝을 결합하여 고정된 추적 관찰 기간($\tau$) 동안 다음 주요 교대 순환 사건이 발생할 시간을 예측하는 온라인 동적 예측 프레임워크를 제안한다. 이 방법론은 네 가지 주요 단계로 진행된다:

1. 데이터 변환: Tayob과 Murray(2015)의 접근 방식을 따라, 저자들은 교대 순환 사건의 타임라인을 중도 절단된 종단적 데이터셋으로 변환한다. 사전 지정된 체크인 시점 $t$에 따라, 데이터는 $t$ 이후에 처음 관찰되는 사건까지의 시간을 식별하도록 재구성된다. 결정적으로, 이 구조는 "위험 노출(at-risk)" 상태($R_i(t)$)를 고려한다. 현재 2차(불응기) 기간에 있는 대상자는 주요 사건에 대한 위험 노출 상태가 아닌 것으로 표시되며, 이로 인해 해당 시점에서의 주요 사건 시간은 관찰되지 않은 것으로 처리된다.
2. 의사 관측치: 독립적 중도 절단을 처리하기 위해, 저자들은 $\tau$-제한 평균 생존 시간 $E[\min\{T_i(t), \tau\}]$에 대한 의사 관측치를 구축한다. 잭나이프(jack-knife) 방법론(Andersen et al., 2003)을 사용하여, 이 의사 관측치는 중도 절단된 생존 결과를 대체함으로써 회귀 기반 모델링을 가능하게 한다.
3. 역확률 가중치(IPW): 교대 사건의 특성으로 인해 대상자가 "위험 노출" 집단에 비무작위적으로 선택되어 발생하는 편향을 교정하기 위해, 본 프레임워크는 역확률 가중치를 사용한다. 위험 노출 확률 $P(R_i(t)=1 | \bar{Z}_i(t))$는 장단기 메모리(LSTM) 네트워크 또는 종단적 랜덤 포레스트(Random Forest)를 사용하여 추정된다. 이 가중치들은 예측 모델의 손실 함수에 포함된다.
4. 예측 모델: 두 가지 동적 예측 모델이 제안된다:
   • LSTM 기반 모델: 역사적 공변량 데이터를 통합하기 위해 게이팅 메커니즘(gating mechanisms)을 활용하여 의사 관측치를 모델링하는 LSTM 아키텍처를 사용하는 신경망이다. 이 방식은 함수 형태를 미리 지정하지 않고도 복잡하고 비선형적인 관계를 처리할 수 있다.
   • 가중 준모수 모델: 가중치가 적용된 의사 관측치에 선형 모델을 적합시키는 일반화 추정 방정식(GEE) 접근 방식이다. 이는 해석 가능성을 제공하는 준모수적 벤치마크 역할을 한다.

주요 기여

• 새로운 프레임워크: 본 연구는 온라인 환경에서 교대 순환 사건을 위해 특별히 설계된 최초의 동적 예측 모델을 제 제안한다.
• 머신러닝과 통계학의 통합: 본 논문은 의사 관측치와 IPW를 사용하여 중도 절단된 종단 데이터에 LSTM 아키텍처를 적응시킴으로써, 통계적 생존 분석과 현대적 머신러닝 사이의 간극을 메운다.
• 불응기 처리: 본 방법은 "위험 노출" 상태를 명시적으로 다룸으로써, 2차(불응기) 상태에서 보낸 시간이 주요 사건에 대한 예측을 편향시키지 않도록 보장한다.
• 가중치 전략 비교: 본 연구는 역확률 가중치를 추정하는 데 있어 LSTM과 랜덤 포레스트 중 어느 것이 더 우수한지 평가한다.

결과
제안된 방법들은 시뮬레이션 연구와 Intern Health Study(IHS) 데이터를 활용한 적용을 통해 평가되었으며, 이는 1년 차 의사들의 저조한 기분(low mood) 기간을 예측하는 데 사용되었다.

• 시뮬레이션: 복잡한 공변량 관계와 상관된 간격 시간을 가진 시나리오에서, LSTM 기반 동적 예측 모델은 C-통계량(판별력)과 제곱 오차 합의 루트(RESS) 측면에서 준모수적 GEE 모델(둘 다 "Oracle" 및 "Main Effects" 모델)보다 우수한 성능을 보였다. 특히 역사적 데이터가 축적됨에 따라 그 차이가 두드였다. LSTM은 일부 설정에서 약간 더 높은 편향을 보였으나(전형적인 편향-분산 트레이드오프), 이는 뛰어난 예측 판별력을 보여주었으며 종종 준모수적 오라클(oracle) 모델을 능가했다. 역확률 가중치를 추정하는 데 있어 LSTM과 랜덤 포레스트 모두 유사한 성능을 보였다.
• 적용 (IHS): 실제 데이터에 적용했을 때, LSTM 모델은 약 0.97의 최대 C-통계량을 달 기록했으며, 이는 GEE Main Effects 모델(최대 C-통계량 ~0.82)을 크게 상회하는 수치이다. LSTM 유래 가중치를 사용한 LSTM 모델은 추적 관찰 300일 이후 가장 낮은 RESS를 나타냈다.

의의 및 주장
저자들은 자신들의 프레임워크가 실시간 임상 의사결정, 특히 개입(예: 의사들을 위한 모바일 앱 알림)을 위한 최적의 시점을 식별하는 데 강력한 도구를 제공한다고 주장한다. 본 연구의 의의는 딥러닝(특히 LSTM)의 예측력을 활용하면서도, 의사 관측치와 역확률 가중치를 통해 중도 절단 및 교대 사건 구조를 처리함으로써 통계적 엄밀성을 유지한다는 점에 있다.

논문은 LSTM 방식이 뛰어난 예측 정확도를 제공하지만, 준모수적 GEE 방식에 비해 "블랙박스"로 작동한다는 점을 겸허히 인정한다. 신경망 모델에는 해석 가능한 모수 추정치가 없으므로, 임베딩(embeddings)을 사용함에도 불구하고 역사적 공변량이 결과에 어떻게 영향을 미치는지에 대한 구체적인 함수 형태는 불투명하다. 저자들은 LSTM의 성공이 하이퍼파라미터의 신중한 선택과 충분한 종단적 이력의 가용성에 크게 의존하며, 무작위적인 하이퍼파라미터 선택에는 견고하지 않다는 점을 강조한다. 결론적으로, 머신러닝 방법이 예측에는 탁월하지만, 전통적인 통계 방법론을 뒷받침하는 이론적 통계 증명(일관성, 식별성 등)을 제공하는 측면에서는 여전히 뒤처져 있다고 밝히고 있다.