Disentangling Confounders from Pathology in Long-COVID Trajectory Prediction for Women: An Interpretable Large-Language-Model Approach

기술 요약: 여성의 롱코비드(Long-COVID) 궤적 예측에서 병리 현상과 교란 요인 분리하기

문제 정의
SARS-CoV-2 감염의 후유증(PASC, 또는 "롱코비드")은 특히 중년층 여성에게 불균형적으로 많이 나타납니다. 여기서 중요한 방법론적 과제는 롱코비드의 핵심 증상(예: 불면증, 피로, 심계항진, 인지적 어려움)이 흔한 동반 질환 및 생리적 변화, 특히 폐경과 상당 부분 겹친다는 점입니다. 이러한 데이터를 기반으로 학습된 예측 모델은 잘못된 상관관계를 학습할 위험이 있으며, 이는 미래의 증상 심각도를 바이러스에 의한 병리 현상이 아니라 기저의 생리적 노이즈나 폐경 및 당뇨와 같은 교란 요인에 의한 것으로 잘못 귀속시킬 수 있습니다. 저자들은 표준 예측 모델들이 낮은 오차 지표를 달성하면서도 실제로는 "잘못된 것"을 학습할 수 있으며, 이로 인해 임상 현장에서 특정 하위 집단에 대해 체계적인 과잉 진단(over-flagging)을 초래할 수 있다고 주장합니다.

방법론
본 연구는 NIH RECOVER 프로그램의 성인 여성 1,155명(중앙값 연령 61세)의 회고적 코호트를 활용합니다. 데이터셋은 세 가지 양식(modality)을 통합합니다:

1. 정적 임상 프로필: 인구통계학적 특성 및 동반 질환(예: 심장 질환, 수면 장애, 폐경 상태).
2. 종단적 증상 설문: 베이스라인 및 추적 관찰 시점의 PASC 증상 지수(0–30 척도).
3. 소비자용 웨어러블 생체 데이터: 예측 시점 전 4주간의 평균 집계된 데이터(심박수, 수면, 활동량).

모델 아키텍처:
저자들은 LoRA로 미세 조정된 Qwen2.5-0.5B 백본을 사용하는 해석 가능하고 인과적으로 분리된(causally disentangled) 대규모 언어 모델(LLM) 접근법을 제안합니다.

• 입력 표현: 각 환자는 정적 프로필, 과거 점수, 그리고 빈(bin) 처리된 웨어러블 데이터를 결합한 구조화된 자연어 서사(narrative)로 렌더링됩니다.
• 분리 메커니즘: 특정 변형 모델은 어텐션 기반 분리 계층을 도입합니다. 이 계층은 잠재 은닉 상태($h$)를 두 개의 스칼라 성분으로 게이팅(gating)합니다:
  • 인과적 성분 ($x_o$): 불변하는 병리 신호(예: "숨 가쁨", "권태감")를 포착하도록 의도됨.
  • 교란 성분 ($x_c$): 기저 노이즈(예: 폐경 상태, 당뇨, 언어적 채움말)를 포착하도록 의도됨.
• 학습 목적 함수: 모델은 환경 혼합 대조 학습 목적 함수(InfoNCE)를 사용합니다. 이는 환자 A의 인과적 특징과 환자 B의 교란 특징을 혼합하여 대조적인 표현을 생성합니다. 이를 통해 모델은 교란 환경에 관계없이 인과적 신호에 기반하여 결과를 예측하도록 강제되며, 결과적으로 가짜 상관관계에 대한 의존성을 억제합니다.
• 예측: 최종 출력은 3, 6, 9개월 예측 지평(horizon)에 대한 [0, 30] 범위로 제한된 회귀 점수입니다.

벤치마킹 프로토콜
LLM 회귀 모델은 20회의 층화 재표본 추출(stratified resamples)을 통해 다음과 같은 포괄적인 베이스라인들과 벤치마킹되었습니다:

• 이력 기반(History): 마지막 값 유지 방식(last-value carry-forward, 가장 최근에 관찰된 점수).
• 전통적 머신러닝(ML): Lasso, Ridge, XGBoost.
• 딥러닝(DL): Deep MLP, Tabular ResNet, Self-Attention Network.
  통계적 유의성은 대응 표본 윌콕슨 부호 순위 검정(Wilcoxon signed-rank test) 및 t-검정을 통해 평가되었습니다.

주요 결과

1. 베이스라인의 강력함: PASC 심각도의 강한 자기상관성(autocorrelation) 때문에, 단순한 **마지막 값 유지 방식(last-value carry-forward)**이 모든 지평(3, 6, 9개월)에서 전체 코호트에 대해 가장 정확한 예측 도구였습니다. LLM 회귀 모델은 전체 코호트의 평균 절대 오차(MAE) 측면에서 이 베이스라인을 통계적으로 능가하지 못했습니다.
2. 학습된 모델 간의 성능: (단순 마지막 값 유지 방식을 제외한) 모든 학습된 모델 중에서 LLM 회귀 모델이 모든 지평에서 가장 낮은 MAE를 달 기록했습니다. 예를 들어, 3개월 시점에서 LLM은 XGBoost의 MAE가 3.57일 때 3.11의 MAE를 달성했습니다 ($p \le 0.01$).
3. 역동적 표현형 (반응군): 학습된 모델의 가치는 조건부적입니다. "반응군(Responder)" 표현형(변화하는 증상 궤적을 가진 환자들)의 경우, LLM은 3개월과 6개월 시점에서 마지막 값 유지 방식보다도 더 정확한 종합적인 방법이었으나(표본 크기 제한으로 인해 통계적 유의성은 확보하지 못함), 역동적인 환자군에서는 가장 우수한 성능을 보였습니다.
4. 해석 가능성 및 돌출도(Saliency): 분리 계층은 직접적인 병리 토큰(예: "숨 가쁨", "권태감")에는 최대 돌출도(가중치 $\approx 1.00$)를 할당하는 동시에, 교란 요인인 "폐경" 및 "당뇨"(가중치 $< 0.27$)와 언어적 채움말(가중치 $< 0.17$)은 효과적으로 억제하는 데 성공했습니다.

의의 및 주장
저자들은 단순한 정확도 향상보다는 "정직함"과 해석 가능성에 초점을 맞추어 기여를 규정합니다:

• 벤치마킹의 무결성: 본 논문은 향후 모든 PASC 예측 모델이 이 단순한 휴리스틱(마지막 값 유지 방식)을 기준으로 평가되어야 한다고 주장합니다. 안정적인 환자들에게는 이 방식이 극복하기 매우 어렵기 때문입니다.
• 조건부 유용성: 제안된 분리 모델의 주요 가치는 보편적인 정확도 향상이 아니라 다음의 두 가지에 있습니다:
  1. 역동적 정확도: 변화하는 증상 궤적을 가진 환자(반응군)에서 더 나은 성능을 보임.
  2. 임상적 정직성: "폐경"이 "롱코비드"가 아님을 올바르게 식별하여 교란 요인의 가중치를 낮추는 해석 가능한 귀속(attribution)을 제공함. 저자들은 두 개념을 혼동하는 다소 더 정확하지만 불투명한 모델보다, 이처럼 명확히 구분해내는 모델이 여성 건강 분야에서 체계적인 오진의 위험을 줄이는 데 있어 임상적으로 더 우월하다고 주장합니다.

한계점
저자들은 다음과 같은 제약 사항을 명시했습니다:

• 본 연구는 외부 검증 없이 단일 코호트(RECOVER)에 의존합니다.
• "반응군" 하위 집단의 규모가 작아 하위 집단 주장에 대한 통계적 검정력이 제한적입니다.
• 웨어러블 데이터가 결과 설문 기간과 겹쳐 있어, 엄격한 사전 베이스라인 예측이라기보다 모니터링에 가깝습니다.
• 분리 변형 모델은 해석 가능성을 위해 3개월 지평에서만 평가되었으며, 다중 지평 정확도 결과에는 약간 다른 구성(residual-fusion)이 사용되었습니다.

결론
본 논문은 여성의 롱코비드 심각도 예측에 있어 단순한 휴리스틱이 강력한 기준점이 된다고 결론짓습니다. 제안된 접근법은 이러한 휴리스틱을 보완하는 투명성 강화 도구로서, 병리적 신호를 교란적인 생리적 노이즈(특히 역동적인 환자군에서)로부터 분리하여 "임상적으로 정직한" 귀속 메커니즘을 제공합니다.