[기술 요약] 시퀀스 모델링을 이용한 심부전 환자의 1년 임상적 불안정성 및 사망률 예측

1. 문제 정의 (Problem Statement)

심부전(Heart Failure, HF) 환자의 퇴원 계획을 세울 때, 환자가 향후 1년 내에 재입원(임상적 불안정성)하거나 사망할 위험을 정확히 예측하는 것은 매우 중요합니다. 현재는 의료진의 임상적 판단에 크게 의존하고 있으나, 이는 주관적일 수 있으며 기존의 단순 점수 체계는 복잡한 환자의 상태를 반영하는 데 한계가 있습니다.

본 연구는 전자 건강 기록(EHR)의 구조화된 데이터(진단명, 활력 징후, 검사 결과, 약물, 처치 등)를 시퀀스 데이터로 변환하여, 딥러닝 모델을 통해 환자의 미래 위험을 정밀하게 예측하고자 하는 문제를 다룹니다.

2. 연구 방법론 (Methodology)

연구진은 EHR 데이터를 시퀀스 모델링에 적합하도록 변환하는 **모듈형 3단계 프레임워크(Modular Three-Component Framework)**를 제안했습니다.

① 모듈형 파이프라인 구성

1. 토큰화 전략 (Tokenization Strategy): 범주형 데이터(ICD-10, ATC 코드 등)는 계층적 수준으로 표현하고, 연속형 수치 데이터(활력 징후, 검사치 등)는 이산화(Discretization)하여 공유된 임베딩 공간으로 변환합니다.
2. 시간적 표현 (Temporal Representation): 환자의 과거 이력을 어떻게 구성할지 결정합니다. 관찰 범위(Observation horizon)와 시간적 집계(Temporal aggregation, 예: 일 단위 평균) 방식을 실험했습니다.
3. 시퀀스 모델 구성 (Sequence Model Configuration): 다양한 아키텍처를 비교했습니다.
   • Transformers: BERT, XLNet, ModernBERT
   • Transformers++: Llama (Autoregressive 방식)
   • Mamba (State Space Models): Mamba, Mamba2 (선형 스케일링 모델)

② 예측 작업 (Prediction Tasks)

두 가지 임상적 시점(최초 진단 시점, 가장 최근 입원 시점)에서 세 가지 이진 분류 작업을 수행했습니다.

• T1: 최초 HF 진단 후 1년 내 임상적 불안정성(재입원) 예측
• T2: 최초 HF 진단 후 1년 내 사망률 예측
• T3: 가장 최근 입원 후 1년 내 사망률 예측

3. 주요 기여 (Key Contributions)

• 임상 중심의 예측 설정: 단순 위험 점수 산출을 넘어, 예측 결과를 바탕으로 **4가지 케어 경로(표준 관리, 전문 관리, 정기 홈케어, 집중 홈케어)**를 정의하여 실제 퇴원 계획에 적용 가능한 가이드를 제시했습니다.
• 체계적인 설계 요소 분석 (Ablation Studies): 토큰화의 정밀도, 시간적 집계 방식, 모델 크기, 데이터 가용성 등이 성능에 미치는 영향을 체계적으로 분석하여 최적의 설계 방향을 제시했습니다.
• 최신 아키텍처의 성능 검증: 기존 BERT 기반 모델을 넘어 Llama와 같은 최신 Autoregressive 모델과 Mamba와 같은 SSM 모델의 효용성을 EHR 데이터셋에서 입증했습니다.

4. 연구 결과 (Results)

• 최고 성능 모델: **Llama(Autoregressive Next Token Prediction 방식)**가 모든 작업에서 가장 우수한 성능(AUPRC 기준)을 보였습니다. 특히 짧은 컨텍스트(≤512 tokens) 환경에서 Llama는 Mamba나 기존 BERT 모델보다 강력한 환자 표현력을 학습했습니다.
• 학습 목표의 중요성: Masked Language Modeling(MLM)보다 Next Token Prediction(NTP) 방식이 환자의 질병 진행 경로를 더 잘 포착하여 예측 성능이 높았습니다.
• 모델 크기 vs 데이터 양: 모델의 파라미터 수를 늘리는 것(Model Size)보다, 컨텍스트 길이(Context Length, 즉 더 긴 과거 이력)를 확보하는 것이 성능 향상에 더 결정적이었습니다. 또한, 아주 작은 크기의 Llama 모델이 훨씬 큰 규모의 기존 베이스라인 모델보다 뛰어난 성능을 보였습니다.
• 데이터 효율성: Llama는 전체 데이터의 75%만 사용하더라도 전체 데이터를 사용한 다른 모델들보다 높은 성능을 보여, 데이터 효율성이 뛰어남을 입증했습니다.

5. 연구의 의의 (Significance)

1. 임상 의사결정 지원: 예측된 위험도를 기반으로 환자별 맞춤형 퇴원 후 관리 경로를 제안함으로써, 의료 자원의 효율적 배분과 환자 중심의 케어를 가능하게 합니다.
2. EHR 모델링 가이드라인 제공: EHR 데이터를 시퀀스 모델로 다룰 때 어떤 토큰화 전략과 시간적 표현 방식이 효과적인지에 대한 실질적인 기술적 지침을 제공합니다.
3. 질병 특화 모델의 가치 증명: 일반적인 인구 집단이 아닌, '심부전'이라는 특정 질환 코호트에 특화된 모델이 실제 임상 현장에서 더 유용할 수 있음을 보여주었습니다.