Ensemble learning of pathology foundation models for precision oncology

기술 요약: 정밀 종양학을 위한 병리 파운데이션 모델의 앙상블 학습

문제 정의
조직병리학은 암 진단 및 치료 선택의 골드 표준이다. 방대한 전체 슬라이드 이미지(WSI) 컬렉션에 대해 사전 학습된 병리 파운데이션 모델(PFM)들이 유망한 결과를 보여주고 있지만, 현재의 접근 방식들은 상당한 한계에 직면해 있다. 기존의 PFM들은 서로 다른 데이터셋과 다양한 전략을 사용하여 학습되므로, 일관되지 않은 성능과 다양한 과업 및 해부학적 부위에 대한 제한된 일반화 가능성을 초래한다. 벤치마크 연구에 따르면, 단일 파운데이션 모델이 모든 임상 과업에서 다른 모델보다 우수한 성능을 보이는 경우는 없다. 또한, 지식 증류(knowledge distillation)를 통해 모델을 결합하려는 시도는 종종 다양성을 감소시키고 기존 모델을 능가하지 못하는 "평균적인" 특징 표현을 생성한다. 아울러, 전통적인 타일 수준(tile-level) 접근 방식은 치료 반응 예측과 같은 특정 임상 환경에서 흔히 사용하기 어려운 대규모 레이블된 데이터셋을 하위 집계(aggregation)하는 데 필요로 한다.

방법론: ELF (Ensemble Learning of Foundation models)
저자들은 여러 사전 학습된 병리 파운데이션 모델을 통합된 슬라이드 수준 표현으로 통합하도록 설계된 앙상블 프레임워크인 ELF를 소개한다.

• 아키텍처: ELF는 다섯 개의 독립적으로 학습된 타일 수준 파운데이션 모델인 GigaPath, CONCH, Virchow2, H-Optimus-0, 그리고 UNI를 포함한다. ELF는 특징을 단순히 연결하거나 지식을 증류하는 대신, 8개의 어텐션 헤드를 가진 어텐션 기반 다중 인스턴스 학습(ABMIL)을 기반으로 하는 공유 슬라이드 인코더를 채택한다.
• 사전 학습 전략: ELF는 20개의 해부학적 부위와 11개의 공개 데이터셋에 걸친 53,699개의 WSI를 통해 사전 학습되었다. 학습 목표는 다음을 결합한다:
  1. 대조 학습(Contrastive Learning): 서로 다른 파운데이션 모델로부터 유도된 슬라이드 수준 임베딩 간의 정렬(교차 모델 일관성)과 동일한 WSI의 서로 다른 공간적 뷰 간의 정렬(교차 뷰 일관성)을 위해 모멘텀 대조 학습(MoCoV3) 프레임워크를 사용한다.
  2. 약지도 학습(Weakly Supervised Learning): 범암(pan-cancer) 표현을 강화하기 위해 이진 암 검출 및 다중 클래스 장기 분류(20개 장기)를 위한 보조 분류 헤드를 사용한다.
• 추론: 추론 시, WSI는 각의 다섯 가지 기본 모델을 통과하여 모델별 임베딩을 생성한다. 이들은 공유 슬라이드 인코더에 의해 통합된 슬라이드 수준 특징 표현으로 융합된다.
• 효율성: ELF는 사전 학습된 슬라이드 수준 파운데이션 모델로 설계되어, 전통적인 타일 수준 집계 방법과 비교했을 때 하위 과업별 레이블된 데이터셋의 필요성을 줄여준다. 이는 계산 비용과 성능의 균형을 맞추기 위해 10배 배율에서 작동한다.

주요 기여

1. 새로운 앙상블 프레임워크: ELF는 다양한 파운데이션 모델을 앙상블 전략을 통해 통합하는 것이 개별 모델이나 기존 슬라이드 수준 집계기(예: COBRAII, TITAN)보다 우수한 성능을 낸다는 것을 입증한다.
2. 데이터 효율성: 통합된 슬라이드 수준 표현을 생성함으로써, ELF는 치료 반응 예측과 같이 데이터가 제한된 환경에서 데이터 효율적인 하위 평가를 용이하게 한다.
3. 포괄적 평가: ELF는 질병 아형 분류, 분자 바이오마커 검출, 항암 요법 및 면역 요법에 대한 반응 예측을 포함한 125개의 다양한 임상 과업에 대해 평가되었다.

결과
ELF는 여러 도메인에 걸쳐 최첨단 슬라이드 수준 파운데led 모델(Prov-GigaPath, CHIEF, TITAN) 및 개별 타일 수준 모델들과 비교 평가되었다:

• 질병 분류 및 아형 분류: ELF는 모든 과업에서 가장 높은 균형 정확도(BA)를 달-성했다. 특히, BRACS 데이터셋(7개 클래스 유방암 아형)에서 ELF는 0.457의 BA를 기록하며 두 번째로 우수한 모델인 TITAN보다 16.3%의 상대적 개선을 보였다. EBRAINS 뇌종양 데이터셋에서 ELF는 TITAN보다 약 1% 상회하는 성능을 보였다.
• 분자 바이오마커 검출: TCGA 범암 코호트(28개 바이오마커, 14개 암 유형)에서 ELF는 평균 AUC 0.719를 달성하여 TITAN(0.701), CHIEF(0.676), Prov-GigaPath(0.678)를 유의미하게 앞질렀다. 갑상선암의 BRAF나 폐암의 KRAS와 같은 특정 실행 가능한 바이오마커의 경우 AUC가 0.85를 초과했다. 대장암(CRC)에 대한 외부 검증에서 ELF는 BRAF(0.806), KRAS, MSI 상태에 대해 높은 AUC를 달성했으며, 높은 음성 예측도(NPV)에서의 양성 예측도(PPV)가 베이스라인 모델보다 현저히 높았다. ELF는 또한 이배성 점수(aneuploidy scores), 전유전체 배수성(whole-genome doubling), 종양 변이 부담(TMB) 예측에서도 베이스라인을 능가했다.
• 치료 반응 예측:
  • 항암 요법: ELF는 8개 코호트에서 화학 요법 및 표적 치료제(예: 트라스트주맙, 베바시주맙)에 대한 반응을 예측하며 평균 AUC 0.759를 기록하여 베이스라인보다 7~9% 높은 성능을 보였다. Kaplan-Meier 분석은 ELF 위험 점수가 무진행 생존 및 무재발 생존을 유의미하게 층화함을 확인했다.
  • 면역 요법: 13개 코호트와 8개 암 유형에 걸쳐, ELF는 면역 관문 억제제(ICI)에 대한 지속적인 반응을 예측하는 데 평균 AUC 0.724를 달성하여 베이스라인(평균 AUC 0.612–0.664)을 능가했다. NSCLC 코호트에서 ELF를 PD-L1 및 TMB와 결합했을 때, 개별 바이오마커를 사용할 때보다 더 나은 예측 성능(Stanford 코호트에서 AUC 0.773)을 보였다. ELF 기반 위험 층화는 외부 검증(MSKCC)에서도 고위험군과 저위험군을 효과적으로 분리하며 일관성을 유지했다.
• 해석 가능성: 어텐션 히트맵은 ELF가 종양 침윤 림프구(TIL) 및 기질 반응과 같이 조직학적으로 관련 있는 특징에 집중하고 있음을 보여주었으며, 이는 치료 반응의 알려진 생물학적 메커니즘과 일치한다.

의의 및 주장
본 논문은 앙상블 학습이 새로운 타일 수준 모델을 처음부터 학습시킬 필요 없이, 다양한 병리 파운데이션 모델의 상호 보완적인 강점을 효과적으로 활용할 수 있다는 가설을 지원한다고 주장한다. 모델 불변(model-invariant) 및 뷰 일관성(view-consistent) 표현을 통합함으로써, ELF는 광범위한 종양학 과업에서 예측 성능을 향상시키는 더 풍부한 슬라이드 수준 특징을 구축한다.

저자들은 ELF를 특정 애플리케이션을 위한 단일 파운데이션 모델을 선택해야 하는 난제를 해결하는 정밀 종양학을 위한 확장 가능한 프레임워크로 제시한다. 그들은 이 접근 방식이 새로운 모델을 학습시키는 데 따르는 환경적 영향과 데이터 요구 사항을 줄여준다는 점을 강조하며, 이는 데이터가 제한된 임상 환경에서 특히 가치가 있다고 본다. 일부 코호트의 회고적 성격과 전향적 검증의 필요성을 인정하면서도, 본 연구는 앙상블 학습이 질병 진단, 바이오마커 검출 및 치료 반응 예측을 지원하기 위한 병리 파운데이션 모델을 통합하는 강력한 전략임을 결론짓는다.