Narrative Feature or Structured Feature? A Study of Large Language Models to Identify Cancer Patients at Risk of Heart Failure

기술 요약: 서사적 특징(Narrative Feature)인가 구조적 특징(Structured Feature)인가? 심부전 위험이 있는 암 환자 식별을 위한 대규모 언어 모델 연구

문제 제기
암 치료는 종종 심독성(cardiotoxicity)을 유발하여 심부전(HF)으로 이어지며, 이는 생존자들의 삶의 질에 부정적인 영향을 미칩니다. 심부전 위험이 있는 암 환자를 식별하는 것은 치료 안전성을 개선하는 데 매우 중요합니다. 전자 건강 기록(EHR)은 위험 예측을 위한 풍부한 데이터를 포함하고 있지만, 대규모 언어 모델(LLM) 내에서 구조화된 의료 코드(ICD 및 RxNorm)를 효과적으로 활용하는 데에는 격차가 존재합니다. 기존의 접근 방식은 희소한 원-핫 인코딩(one-hot encoding)을 사용하는 전통적인 머신러닝(ML)이나, 시간적 시퀀스를 포착하는 T-LSTM과 같은 딥러닝 모델에 의존해 왔으나, 이들 역시 여전히 희소한 구조적 코드에 기반하고 있습니다. 구조화된 EHR 데이터에 대해 LLM의 의미론적(semantic) 능력을 어떻게 가장 잘 활용하여 질병 위험을 예측할 수 있는지는 여전히 불분명합니다.

연구 방법론
본 연구는 University of Florida Health 시스템의 암 환자(폐암, 유방암, 대장암) 12,806명의 코호트(심부전 발생 사례 1,602건, 비발생 사례 11,204건)를 활용하였습니다. 연구진은 세 가지 서로 다른 특징 표현 전략을 다양한 모델 아키텍처에 걸쳐 비교하였습니다:

1. 전통적 머신러닝 (원-핫 인코딩):

   • 모델: 서포트 벡터 머신(SVM) 및 XGBoost(XGB).
   • 특징: 구조화된 ICD 및 RxNorm 코드를 PheWAS 그룹과 성분 수준의 RxCUI 코드로 집계하여 희소성을 줄였습니다. 이들은 이진 벡터(원-핫 인코딩)로 변환되었습니다.
   • 한계: 이 방식은 사건 발생 시간(time-to-event) 구조를 단순화하며 높은 특징 희소성을 초래합니다.

2. 딥러닝 (시퀀스 표현):

   • 모델: 시간 인지형 장단기 메모리(Time-Aware LSTM, T-LSTM).
   • 특징: 환자 데이터를 만남(encounter) 시간에 따라 시퀀스로 구성하여 시간적 역동성을 포착했습니다. 진단 및 약물 코드는 경과 시간 텐서(elapsed time tensors)와 함께 순차적 입력값으로 처리되었습니다.
   • 한계: 시간적 순서는 포착하지만, 입력값 자체는 여전히 희소한 구조적 코드에 기반합니다.

3. 대규모 언어 모델 (서브워드 특징):

   • 모델: BERT, GatorTron-345M, GatorTron-3.9B.
   • 특징 (새로운 전략): 본 연구는 구조화된 EHR 데이터를 "서사적 특징(narrative features)"으로 변환하는 방식을 제안했습니다. ICD 및 RxNorm 코드의 공식 설명을 만남 시간에 따라 텍스트 시퀀스로 구성하였고, 환자의 인구통계학적 정보는 서사적 설명으로 변환되었습니다. 이 텍스트는 LLM 토크나이저에 의해 서브워드(subword) 단위로 토큰화되었습니다.
   • 근거: 이 전략은 희소한 구조적 코드를 밀도 높은 텍스트로 변환함으로써, LLM이 사전 학습된 의미론적 지식(예: "급성 B형 간염"과 "급성 심근염" 사이의 관계를 "급성"이라는 공유 서브워드를 통해 이해하는 능력)을 활용하게 하고 특징 밀도를 높일 수 있게 합니다.

주요 결과
모델은 6:2:2 훈련/검증/테스트 분할을 사용하여 F1 점수, AUC, 정밀도(precision), 재현율(recall), 정확도(accuracy)로 평가되었습니다.

• 특징 밀도: "서브워드" 특징 표현은 원래의 ICD 코드나 PheWAS 그룹핑에 비해 특징 밀도(특징당 고유 환자 수)를 유의미하게 증가시켰습니다.
• 모델 성능:
  • GatorTron-3.9B는 전체적으로 가장 우수한 성능을 보였으며, F1 점수는 0.699를 기록하여 다음 모델들을 상회했습니다:
    • 전통적 SVM (F1 0.302) 대비 39% 향상.
    • T-LSTM (F1 0.622) 대비 7% 향상.
    • BERT (F1 0.643) 대비 5.6% 향상.
  • GatorTron-3.9B는 또한 가장 높은 AUC(0.896)와 정확도(0.927)를 달성했습니다.
• 특징 조합: T-LSTM과 GatorTron-345M 모두 진단, 약물, 인구통계학적 특징을 결합했을 때 최적의 성능을 보였습니다.
• 하위 그룹 분석: 성능은 암 유형에 따라 차이를 보였습니다. GatorTron-3.9B는 "두 종류 이상의 암"을 가진 환자군에서 가장 높은 F1 점수(0.824)와 재현율(0.913)을 보였으며, 유방암 환자의 경우 F1 점수는 0.735였습니다.
• 해석 가능성: LIME을 사용하여 어텐션 가중치(attention weights)를 시각화한 결과, 모델이 "이상 심전도(abnormal electrocardiogram)", "로수바스타틴(rosuvastatin)", "푸로세마이드(furosemide)"와 같은 임상적으로 관련 있는 특징들을 심부전 위험 예측의 동인으로 식별했음을 확인했습니다.

의의 및 주장
본 논문은 구조화된 의료 코드를 서사적 텍스트(서브워드 특징)로 변환하는 것이 질병 위험 예측을 위해 LLM을 활용하는 효과적인 전략이라고 주장합니다. 주요 기여는, 데이터를 서사적 형식으로 변환하기만 한다면, 특히 GatorTron과 같은 LLM이 구조화된 EHR 데이터에 적용되었을 때 전통적인 ML 및 시퀀스 기반 딥러닝 모델보다 뛰어난 성능을 발휘할 수 있음을 입증한 것입니다.

저자들은 이 접근 방식이 구조화된 EHR과 비구조화된 EHR 사이의 간극을 메우는 "간단하면서도 효율적인 전략"을 제공한다고 주장합니다. 온톨로지 기반의 그룹화(예: PheWAS)가 관련 질환들을 별개의 범주로 취급하는 것과 달리, 서브워드 특징을 사용하는 LLM은 의료 조건 간의 의미론적 유사성과 변이를 포착할 수 있습니다. 본 연구는 서브워드 특징이 LLM에서 구조적 코드의 우수한 대리물(surrogate) 역할을 하여, 심독성 유발 심부전 위험이 있는 환자를 더 잘 식별함으로써 암 치료 결과를 개선할 수 있다고 결론짓습니다.

한계점
저자들은 GatorTron 모델이 512-서브워드 입력 창(window)의 제한을 가지고 있어 긴 환자 이력이 잘릴 수 있다는 점을 인정했습니다. 또한, 데이터셋은 사례군(case group)에서 흑인 환자의 비율이 높고 유방암 사례에서 성별 편향이 나타나는 등 인구통계학적 불균형을 보였습니다. 향후 연구에서는 구조화된 데이터와 비구조화된 데이터를 더욱 통합하기 위해 생성형 LLM(GPT 아키텍처)과 자동 텍text 요약 기술을 탐구할 것을 제안했습니다.