Cohort-Anchored Foundation Models for Electronic Health Records: From Risk Scores to Auditable Peer Cohorts

기술 요약: 전자 건강 기록(EHR)을 위한 코호트 고정 기반 파운데이션 모델 (CAFM)

문제 정의
전자 건강 기록(EHR)을 위한 수십억 개의 파라미터를 가진 파운데이션 모델들이 등장하며 인상적인 제로샷(zero-shot) 및 퓨샷(few-shot) 능력을 입증하고 있음에도 불구하고, 벤치마크 정확도와 신뢰할 수 있는 임상 현장 적용 사이에는 구조적 간극이 존재한다. 현재의 모델들은 대개 스칼라 위험 점수나 잠재 표현(latent representation)을 출력하며, 환자 간의 비교를 주요한 증거 단위가 아닌 부수적인 효과로 취급한다. 이는 세 가지 결정적인 실패 모드를 초래한다:

1. 불투명성과 환각(Hallucination): 모델은 유창하지만 실질적으로는 틀린 의료 콘텐츠를 생성하는 경우가 많으며, 표준적인 설명 방식(예: 어텐션 가중치)은 기록된 결과가 있는 유사한 동료 코호트와 환자를 비교하는 데 의존하는 임상의의 실제 추론 과정을 해결하지 못한다.
2. 분포 변화(Distribution Shift)에 따른 취약성: 모델이 새로운 기관, 인구 통계 또는 프로토콜에 적용될 때 예측 성능이 크게 저하된다. 이는 근본적인 표현이 임상적으로 의미 있는 인구 구조에 고정되어 있지 않기 때문이다.
3. 감사 가능한 증거의 부재: 임상의는 코호트(유사한 환자 집단)를 통해 추론하지만, 현재의 시스템은 추론 출력으로서 "결과가 포함된 코호트"를 반환하지 않는다. 이로 인해 의사 결정 과정을 기존의 임상 인프라에 따라 감사하거나 검증하기 어렵다.

방법론: CAFM 프레임워크
본 논문은 환자 코호트를 머신러닝 파이프라인에서 "일급 객체(first-class object)"로 격상시키기 위해 설계된 cafm(Cohort-Anchored Foundation Model) 프레임을 제안한다. cafm은 기존의 백본을 새로 구축하는 대신, 기존 EHR 파운데이션 모델에 코호트 인식 능력을 통합하는 구성적 레트로핏(compositional retrofit) 역할을 수행하며, 네 가지 상호 연계된 단계를 거친다:

1. 편차 인식 코호트 구축 (1단계):
   사전 학습 전, 코퍼스는 두 가지 뚜렷한 문제인 편차(기술적 오류나 문서화 드리프트로 인한 통계적 이상 기록)와 편향(임상 워크플로우에서 발생하는 체계적 불일치, 예: 정보성 결측)을 탐지하고 처리하도록 큐레이션된다. 이 단계에서는 규칙 기반 표현형(phenotypes), 앵커-앤-런(anchor-and-learn) 방법, 또는 학습된 프로토타입을 사용하여 코호트를 구성함으로써, 훈련 데이터가 임상적으로 유효한 인구를 반영하도록 보장한다.

2. 코호트 조건부 사전 학습 (2단계):
   이 프레임워크는 표준 마스크(masked) 또는 자기회귀(autoregressive) 사전 학습 손실에 복합적인 대조 학습(contrastive objective)을 도입한다.

• 인력(Attraction): 유사한 소프트 코호트 분포를 가진 환자들의 표현을 서로 끌어당긴다.
• 반발(Repulsion, Near-Miss Negatives): 표현형은 유사하지만 결과가 상이한 환자들을 서로 밀어낸다. 이러한 "니어-미스(near-miss)" 샘플링은 코호트 경계를 날카롭게 다듬는 데 필수적이다.
• 정규화(Regularization): 모든 환자를 하나의 코호트로 붕괴시키는 것을 방지하기 위해 엔트로피 정규화를 포함한다.
• 커리큘럼 학습(Curriculum Learning): 프레임워크는 웜 스타트(warm-start) 전략과 대조 손실의 가중치를 점진적으로 높이는 커리큘럼을 채택하여, 백본 인코더와 코호트 모듈 간의 공동 학습을 안정화한다.

3. 멀티모달 코호트 정렬 (3단계):
   "모달리티 오염(modality contamination)"(자유 텍스트 노트와 같은 특정 모달리티가 결합된 표현을 지배하는 현상)을 해결하기 위해, 프레임워크는 각 모달리티(텍스트, 구조화된 코드, 영상, 생체 신호) 내에서 개별적으로 코호트 내 유사성을 강제한다. 이를 통해 약한 모달리티가 지배적인 모달리티로 붕괴되지 않고 고유의 변별력을 유지하게 함으로써, 다양한 데이터 유형 전반에 걸쳐 코호트 구조의 무결성을 보존한다.

4. 임상의 참여형 정교화 (4단계):
   추론 시, 모델은 스칼라 점수를 출력하는 대신 동료 코호트와 그와 관련된 결과 분포를 검색한다. 이 출력은 설명, 감사 단위, 그리고 드리프트 신호 역할을 한다. 프레임워크는 다음을 지원한다:

• 감사 가능한 증거: 임상의는 검색된 코호트의 통계 및 결과율을 검사할 수 있다.
• 태스크 분해: 임상의는 실시간으로 코호트 정의(예: 제약 조건 추가)를 수정할 수 있으며, 이는 전체 백본을 다시 실행하지 않고도 결과 분포의 재계산을 트리거한다.
• 라이프사이클 모니터링: 시스템은 검색된 코호트 분포의 변화를 추적함으로써 분포 변화를 모니터링하며, 이는 집계된 성능 지표보다 더 민감한 드리프트 신호를 제공한다.

주요 기여

• 구조적 재구성: 본 논문은 코호트 고정이 인컨텍스트 러닝(in-context learning), 검색 증강 생성(RAG) 또는 사후 설명 방법과는 구별되는, EHR 파운데이션 모델의 구조적 전제 조건이라고 주장한다. 저자들은 개별 임베딩이 아닌 코호트가 임상적 증거의 단위가 되어야 한다고 상정한다.
• CAFM 프레임워크: 완전히 새로운 아키텍처 설계를 요구하지 않고 기존 백본(예: BEHRT, Med-BERT)에 레트로핏할 수 있는 구체적인 4단계 방법론을 제시한다.
• 수학적 정식화: 저자들은 "니어-미스" 부정 사례의 정의와 복합 손실 함수(식 6 및 식 9)를 포함하여 대조 학습 목적 함수에 대한 명시적인 수학적 정식화를 제공한다.
• 경험적 가설: 논문은 프레임워크가 예측하는 다섯 가지 검증 가능한 가설(H1–H5)을 기술하며, 이는 코호트 커버리지 대 캘리브레이션, 니어-미스 부정 사례의 효능, 조기 드리프트 탐지, 모달리티 붕괴 완화, 그리고 높은 불확실성 상황에서의 코호트 증거에 대한 임상의 선호도를 다룬다.
• 사례 연구: 프레임워크는 급성 신손상(AKI) 예측, ECG를 통한 심혈관 위험 계층화, 안와 영상을 통한 시신경염 트리아지(triage), ERG 기반 보고서 생성의 네 가지 운영 사례를 통해 설명된다.

결과 및 예시
본 논문은 새로운 SOTA(State-of-the-Art) 점수를 가진 단일 통합 벤치마크를 제시하는 대신, 운영 환경에서 추출한 네 가지 사례 연구를 통해 프레임워크의 잠재력을 보여준다.

• AKI 예측: 코호트 고정이 어떻게 스칼라 위험을 구조화된 증거 객체로 변환하여, 임상의가 검색된 코호트 내에서 특정 요인(예: 신독성 약물 노출)을 쿼리할 수 있게 하는지 보여준다.
• 심혈관 위험 (ECG): 멀티모달 정렬이 어떻게 ECG 신호가 구조화된 EHR 데이터를 압도하는 것을 방지하고, 기관 특유의 역사적 궤적에 위험 추정을 고정하는지 보여준다.
• 시신경염 트리아지: 코호트 검색이 선별된 이전 의뢰 사례를 제공함으로써 일차 의료 환경에서의 신뢰 격차를 해결하고 트리아지 결정을 지원하는 방식을 강조한다.
• ERG 보고서 생성: 보고서가 단순히 텍론 조각이 아니라 검색된 환자 코호트에 근거하여 생성되는 접근법을 제안하며, 생성을 임상적으로 유사한 인구 집단으로 제한함으로써 환각을 줄인다.

의의 및 주장
본 논문은 인상적인 벤치마크와 신뢰할 수 있는 임상 현장 사용 사이의 간극을 메우고자 하는 관점 중심의 논문이다. 주요 주장은 다음과 같다:

1. 방법론적 필요성: 코호트 고정은 파운데이션 모델을 해석 가능하고, 분포 변화에 강건하며, 감사 가능하게 만드는 가장 직접적인 경로이다. 이는 패러다임을 "표현의 품질"에서 "인구 기반 증거"로 전환한다.
2. 실질적 실현 가능성: 프레임워크는 레트로핏으로 설계되었으므로, 완전히 새로운 백본 아키텍처를 개발하는 대신 코호트 모듈과 검색 인덱스를 통합하는 엔지니어링 노력을 요구한다.
3. 테스트 가능성: 프레임워크는 구체적이고 검증 가능한 경험적 가설에 의해 정의된다. 저자들은 코호트 고정의 타당성이 수사적 호소력이 아니라, 이러한 가설들이 전향적 평가 하에서 성립하는지에 의해 판단되어야 한다고 주장한다.
4. 운영적 현실: 논문은 장벽이 개념적인 것이 아니라 조직적인 것임을 인정한다. 이 비전을 실현하려면 데이터 큐레이션, 거버넌스, 그리고 임상 관행의 진화에 따른 코호트 정의의 유지 관리에 지속적인 노력이 필요하다.

저자들은 필요한 모델링 구성 요소는 존재하지만, 임상 AI의 다음 단계 발전은 기존 모델에 임상적 추론이 전통적으로 의존해 온 인구 기반의 기질(substrate)을 갖추는 데 달려 있다고 결론짓는다.