Can a zero-shot time-series foundation model rival task-trained models for intraoperative hypotension prediction? A two-cohort benchmark and the role of covariate-awareness

기술 요약: 수술 중 저혈압 예측을 위한 제로샷 시계열 파운데이션 모델

문제 정의
수술 중 저혈압(평균 동맥압[MAP] < 65 mmHg로 정의)은 전신 마취 중 빈번하게 발생하는 합병증으로, 수술 후 장기 손상 및 사망률과 연관되어 있다. 현재의 예측 솔루션들은 상당한 이식성(portability) 장벽에 직면해 있다. 상용 지표(예: Hypotension Prediction Index)는 침습적인 동맥 파형과 독점적인 특징들을 요구하는 경우가 많으며, 최첨단 딥러닝 모델(예: Temporal Fusion Transformer [TFT], PatchTST)은 대규모의 특정 사이트 라벨링 코호트에 대한 태스크별 학습을 필요로 한다. 이러한 맞춤형 모델들은 데이터의 시간 간격, 공변량 세트, 저혈압 유병률이 다른 기관 간에 전이되는 데 어려움을 겪는다. 또한, 기존 모델들은 약물 중재를 단순히 관찰된 이력으로만 고려하거나 아예 누락하는 경우가 많아, 예측 정확도를 향상시킬 수 있는 "알려진 미래(known-future)" 신호(계획된 약물 주입 궤적)를 활용하지 못한다.

방법론
본 연구는 두 가지 서로 다른 수술 중 코호트를 대상으로 네 가지 제로샷 시계열 파운데이션 모델을 두 가지 태스크 학습 베이스라인(TFT 및 PatchTST)과 벤치마킹한다.

1. 개발 코호트 (VitalDB): 서울대학교 병원에서 수집된 2,708 케이스(2,665 명의 피험자), 15초 간격으로 샘플링됨.
2. 외부 코호트 (MOVER): 다기관 저장소에서 수집된 1,827 케이스, 60초 간격으로 샘플링되었으며 저혈압 유병률이 2~3배 더 높음.

실험 설계:

• 태스크: 30분 컨텍스트 윈도우를 사용하여 1, 3, 5, 7, 10, 15분의 예측 지평(horizon)에 대해 MAP 궤적 및 임박한 저혈압(MAP < 65 mmHg)을 예측하는 롤링 오리진(rolling-origin) 예측 태스크.
• 평가 모델:
  • 제로샷 파운데이션 모델: TiRex-2 (다변량, 공변량 인지형), Chronos-Bolt, TimesFM-2.5, Moirai-1.1-R (모두 단변량). 이 모델들은 대상 태스크에 대해 학습되거나 미세 조정되지 않았다.
  • 태스크 학습 베이스라인: 개발 코호트에서 5-겹 피험자 수준 교차 검증을 통해 학습된 TFT 및 PatchTST.
• 공변량 처리: 본 연구는 "공변량 인지(covariate-awareness)"를 구체적으로 조사한다. TiRex-2는 과거 관측값과 알려진 미래 입력(계획된 약물 주입 궤적) 모두에 조건화할 수 있는 유일한 모델이다. 저자들은 TiRex-2를 공변량 포함 여부에 따라 비교하며(M1 vs. M0), 이를 공변량을 입력받을 수 없는 단변량 모델들과 비교한다.
• 평가 지표: 변별력(AUROC, AUPRC), 확률적 정확도(CRPS, MAE), 보정(Expected Calibration Error), 결정 곡선 분석(decision-curve analysis).

주요 결과

• 파운데이션 모델 성능: 제로샷 모델들 중 TiRex-2가 모든 예측 지평에서 다른 모델들(Chronos-Bolt, TimesFM-2.5, Moirai-1.1-R)보다 일관되게 우수한 성능을 보였다. 그 격차는 3분 시점부터 통계적으로 유의미했다.
• 최첨단(SOTA) 모델과의 비교:
  • 단기 및 중기 지평(1~7분)에서, 제로샷 TiRex-2는 태스크 학습된 TFT의 성능과 일치했다(예: 7분에서 AUROC 0.905 vs. 0.903; p = 0.34).
  • 장기 지평(>7분)에서, Ti-Rex-2는 더 강력한 지도 학습 베이스라인인 PatchTST에 뒤처졌다(예: 15분에서 AUROC 0.849 vs. 0.875).
  • 외부 MOVER 코호트에서, TiRex-2는 모든 지평에서 AUROC ≥ 0.85를 유지하며, 도메인 내 학습된 모델들과 대등한 성능을 보였고, VitalDB로부터 전이된 지도 학습 모델들보다 우수한 성능을 보였다.
• 공변량 인지의 역할:
  • 알려진 미래의 약물 주입에 조건화하는 것은 특히 "전환 구간(transition windows)"에서 (약물 주입 계획이 변경될 때) TiRex-2에 대해 작지만 유의미한 개선(약 +1.15% CRPS 감소)을 제공했다.
  • 결정적으로, TiRex-2의 기본 예측 품질은 (공변량 없이도) 다른 제로샷 모델들을 선도하기에 충분했다. 공변량 인지는 최상의 사례를 차별화하는 요소였으나, 다른 파운데이션 모델들에 비해 압도적인 우위를 결정짓는 유일한 동인은 아니었다.
  • 반면, 태스크 학습 모델들은 공변량 채널에 훨씬 더 크게 의존했다(+7% ~ +12% 개선), 이는 이들이 파운데션 모델보다 명시적인 중재 신호에 더 많이 의존함을 시사한다.
• 강건성 및 이식성: 제로샷 패러다임은 높은 이식성을 입증했다. 라벨 없이 적용된 단일 사전 학습 모델이 특정 코호트 전용 지도 학습 모델과 대등한 변별력을 가졌으며, VitalDB와 MOVER 사이의 분포 변화(distribution shift)를 가로질러 지도 학습 전이 학습보다 우수한 성능을 보였다.
• 내부 표현: 펜얼티메이트 레이어(penultimate-layer) 활성화 분석 결과, 제로샷 예측 능력은 선형적 표현 구조와 분리되어 있음이 밝혀졌다. 태스크 학습 모델과 달리, 제로샷 모델은 내부 상태에 저혈압 위험을 선형적으로 분리 가능한 특징으로 인코딩하지 않는다. 이들의 가치는 특징 추출기로서가 아니라, 다중 지평 예측을 위한 완전한 인코더-디코더 매핑에 있다.

의의 및 주장
본 논문은 제로샷, 공변량 인지 시계로 파운데이션 모델이 수술 중 저혈압 예측을 위한 경쟁력 있고 이식 가능한 대안임을 주장한다.

• 이식성: 주요 기여는 단일 사전 학습 모델이 사이트별 라벨이나 재학습 없이도 임상적으로 긴급한 지평(1~7분)에서 태스크 학습된 SOTA(특히 TFT)와 대등한 성능을 낼 수 있음을 입증한 것이다. 이는 의료 AI의 "데이터 사일로(data silo)" 문제를 해결한다.
• 알려진 미래 조건화: 알려진 미래의 조건화(계획된 약물 주입)를 제로샷 설정에서 적용할 수 있는 가능성을 확립했다. 비록 파운데이션 모델의 기본 능력에 비해 성능 향상은 미미했으나, 이는 파운데이션 모델이 미래의 중재 계획을 활용할 수 있다는 패러다임을 검증하며, 이는 기존에는 태스크 특정 아키텍처에 국한되었던 능력이다.
• 임상적 유용성: 모델은 지도 학습 베이스라인과 대등한 변별력을 갖춘 실행 가능한 조기 경고(115분 전)를 제공하며, 특히 단순 지속성 알람(persistence alarms)이 성능이 저하되고 맞춤형 모델 배포가 가장 어려운 "중간 지평(37분)"에서 유용하다.
• 한계점 인정: 저자들은 사용된 "알려진 미래" 공변량이 실제 수행된 주입(회고적 데이터)이었음을 언급하며, 이는 전향적 배치(prospective deployment)에서 계획된 주입만을 알 수 있는 상황에 비해 낙관적인 상한선임을 명시했다. 또한, 모델은 침습적 동맥 라인을 기준으로 평가되었으므로, 비침습적 모니터링이나 기타 케어 환경(ICU, 병동)으로의 이식성은 아직 검증되지 않았다. 연구는 제로샷 방식이 라벨 없이 변별력을 제공하지만, 보정(calibration)을 위해서는 소규모의 로컬 라벨 데이터 세트가 필요하다고 결론짓는다.

요약하자면, 본 논문은 대규모 맞춤형 모델 학습을 위한 인프라가 부족한 기관들에게 제로샷 파운데이션 모델이 전문적인 지도 학습 모델과 임상적으로 중요한 지평에서 대등한 성능을 보이는 실행 가능한 "오프 더 쉘프(off-the-shelf)" 솔루션을 제공한다고 주장한다.