기술 요약: 크로노메디컬월드 (CMWM)

문제 정의

만성 질환 관리에 있어 환자의 생리학적 상태가 특정 개입 하에 수년에 걸쳐 어떻게 진화할지 예측하는 장기 임상 시뮬레이션은 매우 중요하지만, 현재 모델들은 이를 충분히 지원하지 못하고 있습니다. 기존 전자 건강 기록 (EHR) 모델 (예: RETAIN, BEHRT, Med-BERT) 은 주로 미래 사건을 예측하는 판별적 (discriminative) 모델이며, 폐루프 (closed-loop) 생리학적 궤적을 시뮬레이션하는 데는 적합하지 않습니다. 또한, 임상 맥락으로 프롬프트된 범용 대규모 언어 모델 (LLM) 은 지속적인 잠재 상태 (latent state) 가 부재하고 다단계 롤아웃 (rollout) 오차에 대해 훈련되지 않았기 때문에, 반복된 개입 단계를 거치면 "드리프트 (drift)" 현상이 발생하는 경향이 있습니다.

현재 의료 세계 모델 (medical world-model) 문헌은 다음과 같은 세 가지 특정 격차를 보이고 있습니다:

1. 아키텍처 불일치: 기존 모델들은 구조화된 개입이 자유 텍스트 커뮤니케이션과 동시에 발생하는 만성 질환 관리의 전형적인 주기적 관찰 체제에 특화되어 있지 않습니다.
2. 행동 인터페이스 제한: 개입은 일반적으로 구조화된 사건으로만 처리되며, 환자 - 건강 코치 간 텍스트 교환에서 발견되는 풍부한 의미론적 신호를 무시합니다.
3. 훈련 - 평가 불일치: 모델들은 종종 다음 단계 예측 (teacher-forced) 으로 훈련되지만, 배포 시에는 다단계 롤아웃으로 수행됩니다. 이는 오차 누적 및 드리프트의 잘 알려진 원인입니다.

방법론: 크로노메디컬월드 모델 (CMWM)

저자들은 종단적 치료 데이터에서 환자 궤적을 학습하도록 설계된 범용 행동 조건부 잠재 세계 모델 프레임워크인 CMWM 을 제안합니다.

1. 아키텍처

CMWM 은 네 가지 핵심 구성 요소로 구성된 재귀적 잠재 전이 모듈입니다:

• 상태 인코더 ($E_s$): 주기적 임상 상태 벡터 ($x_t$) 와 정적 환자 맥락 ($b_i$) 을 잠재 상태 ($z_t$) 로 매핑합니다.
• 와이드 액션 인코더 ($E_a$): 구조화된 개입 지표 ($a^m_t$) 와 자유 텍스트 커뮤니케이션의 의미론적 임베딩 ($a^c_t$) 을 단일 액션 임베딩 ($u_t$) 으로 공동 인코딩하는 새로운 구성 요소입니다. 이는 보조 메타데이터가 아닌 "1 순위 (first-class)" 액션 입력으로 커뮤니케이션을 처리합니다.
• 재귀적 전이 ($G$): 융합된 스트림 $[z_t; u_t]$ 를 숨겨진 상태 ($h_t$) 로 전파하는 게이트드 재귀 유닛 (GRU) 입니다.
• 예측 헤드 ($H$): 지도 예측을 위한 명시적 다음 관찰 예측 ($\hat{y}_{t+1}$) 과 폐루프 역학을 위한 다음 잠재 예측 ($\hat{z}_{t+1}$) 의 두 가지 출력을 생성합니다.

2. 훈련 목적 함수

모델은 생리학적 타당성을 보장하고 표현 붕괴를 방지하기 위해 6 항 목적 함수 ($L$) 하에 훈련됩니다:

• 다음 관찰 지도 ($L_y$): 대상 관측 가능 변수 (예: eGFR) 에 대한 SmoothL1 손실.
• 다음 잠재 예측 ($L_z$): 예측된 잠재 상태와 인코딩된 관찰 상태를 정렬하는 JEPA 스타일 손실.
• SIGReg 정규화 ($L_{SIGReg}$): 보조 지도 없이 잠재 붕괴를 방지하기 위해 특성 함수에 기반한 등방성 가우시안 정규화기.
• 생리학 인식 형태 사전 (Physiology-Aware Shape Priors):
  • 기울기 일관성 ($L_{slope}$): 예측된 1 주기 변화와 관찰된 변화를 정렬합니다.
  • 국소 연속성 ($L_{cont}$): 작고 지속적인 편향을 억제하는 Huber 손실.
  • 대규모 점프 페널티 ($L_{jump}$): 임상적으로 타당하지 않은 단일 주기 점프에 대한 힌지 스타일 페널티.

3. 훈련 프로토콜

훈련 - 평가 불일치를 해결하기 위해 CMWM 은 롤아웃-프리픽스 훈련 프로토콜을 활용합니다. 표준 teacher-forced 훈련 대신, 모델은 예측된 대상 관측 가능 변수가 다음 단계의 임상 상태로 피드백되는 (자기회귀적 언롤링) 궤적으로 훈련됩니다. 이는 모델이 배포 중 발생하는 동일한 다단계 오차에 대해 최적화되도록 보장합니다.

4. 추론 안정화

추론 시, 선택적 "1 단계 앵커"가 적용되어 첫 번째 예측과 최근 추세 외삽을 볼록하게 결합하고, 초기 경계 점프를 방지하기 위해 변화를 임상적으로 타당한 크기로 클리핑합니다.

사례 연구: 만성 신장 질환 (CKD)

프레임워크를 검증하기 위해 저자들은 2,232 명 환자 (15,070 환자 - 년) 코호트에서 연간 추정 사구체 여과율 (eGFR) 궤적 예측을 위해 CMWM 을 구현했습니다.

• 입력: 연간 임상 상태 (eGFR, 생체 신호, 검사실 데이터), 구조화된 개입 (62 개 이진 약물 특성), 그리고 커뮤니케이션 액션 (환자 - 건강 코치 채팅 기록의 256 차원 의미론적 임베딩).
• 베이스라인: 동일한 과거 기록 및 개입 설명을 구조화된 프롬프트로 사용하는 튜닝된 GPT-5.5 모델.

결과

동적 50% 과거 기록 롤아웃 테스트 (환자의 과거 기록 50% 를 맥락으로 사용하고 모델이 나머지 미래를 예측하는 테스트) 에서:

• 성능: CMWM 은 평균 절대 오차 (MAE) 7.384 및 제곱근 평균 제곱 오차 (RMSE) 10.256을 달성했습니다.
• 비교: GPT-5.5 베이스라인은 MAE 7.964 및 RMSE 11.069 를 달성했습니다.
• 개선: CMWM 은 MAE 에서 7.28%, RMSE 에서 **7.35%**만큼 베이스라인을 능가했습니다.
• 애블레이션: 성능 향상은 주로 커뮤니케이션 - 액션 채널의 포함에 기인했습니다. 의미론적 임베딩을 원시 커뮤니케이션 양 통계치로 대체하면 향상분을 회복하지 못했으며, 이는 예측 신호가 의미론적 내용에 있음을 시사합니다. 또한, 분리된 인코더 (구조화 및 텍스트 액션 분리) 는 장기 성능을 저하시켰으며, 이는 "와이드" 공동 인코딩이 폐루프 롤아웃에 더 안정적임을 나타냅니다.
• 효율성: CMWM 인스턴스는 약 0.79 백만 개의 학습 가능 파라미터를 가지며, 이는 GPT-5.5 베이스라인보다 수 차수 작지만 장기 일관성 측면에서 이를 능가합니다.

중요성 및 주장

이 논문은 CMWM 이 다음과 같은 이유로 의료 세계 모델링에서 중요한 진전을 나타낸다고 주장합니다:

1. 커뮤니케이션을 액션으로 공식화: 환자 - 건강 코치 텍스트 교환을 보조 맥락이 아닌 주요 개입 신호로 취급하는 최초의 의료 세계 모델입니다.
2. 훈련 - 평가 격차 해소: 롤아웃-프리픽스 프로토콜은 자기 예측 오차에 대해 견고한 자기회귀 임상 모델을 훈련하기 위한 구체적인 레시피를 제공합니다.
3. 생리학적 타당성: 형태 사전 (기울기, 연속성, 점프 페널티) 의 통합은 장기 롤아웃이 LLM 만으로 시뮬레이션할 때 흔히 발생하는 드리프트를 피하고 임상적으로 현실적으로 유지되도록 보장합니다.
4. 도메인 무관성: CKD 에서 입증되었지만, 이 프레임워크는 구조화 및 대화형 개입과 교차하는 주기적 임상 상태를 포함하는 모든 만성 질환 (예: 당뇨병의 HbA1c, 고혈압의 혈압) 에 적용 가능한 일반 템플릿으로 제시됩니다.

저자들은 CKD 구현이 가치를 입증하지만, 이 프레임워크는 인과 추정기가 아니며 임상 배포 전에 다양한 고령 인구에서 추가 외부 검증을 필요로 한다고 강조합니다. 주요 기여는 혼합 개입 유형 하에서 안정적인 장기 환자 궤적을 학습하기 위한 아키텍처 및 훈련 레시피입니다.