Learning from Lost Provenance: Multiple Instance Learning for Cancer Registry Tumor Group Classification

기술 요약: 어텐션 기반 다중 인스턴스 학습을 통한 유실된 프로비넌스(Provenance)로부터의 학습

문제 정의
딥러닝을 활용한 암 등록 체계의 현대화는 문서 수준으로 레이블링된 개별 병리 보고서의 부족이라는 결정적인 병목 현상에 직면해 있다. 영국 컬럼비아 암 등록소(BCCR)와 같은 인구 기반 암 등록소(PBCR)는 전문가가 할당한 방대한 양의 종양 그룹 레이블을 생성하지만, 이 레이블들은 보고서 수준이 아닌 환자 수준(환자의 이력 전체에 걸쳐 집계됨)으로 존재한다. 결정적으로, 특정 환자 수준 레이블과 그 레이블의 근거가 된 개별 병리 보고서 사이의 구조적 연결 고리는 일상적인 운영 과정에서 유실된다.

기존의 이러한 "유실된 프로비넌스" 문제에 대한 접근 방식들은 다음과 같은 상당한 한계를 지닌다:

1. 단일 보고서 환자 필터링: 가용 데이터의 대부분을 폐기하며 선택 편향(selection bias)을 유발한다.
2. 레이블 전파(Label Propagation): 환자 수준의 레이블을 관련된 모든 보고서에 할당한다. 이는 임상적으로 무관한 보고서(예: 부수적 발견, 워크업 생검)를 양성으로 레이블링하여 노이로제적인 훈련 데이터를 생성하며, 특히 소수 종양 그룹에 대해 모델 성능을 저하시킨다.
3. 텍스트 결합(Text Concatenation): 모든 보고서를 하나의 텍스트 블록으로 병합하는 것은 계산 컨텍스트 창(context window)을 초과하며, 모델이 관련 문서를 격리하는 것을 방해한다.

방법론
저자들은 수동적인 보고서 단위 주석(annotation) 없이도 환자 수준 레이벨과 개별 보고서 간의 연결을 복구하기 위해 **어텐션 기반 다중 인스턴스 학습(ABMIL)**을 활용하는 2단계 프레임워크를 제안한다.

• 데이터 구조: 환자는 "백(bag)"으로, 각 백은 "인스턴스(instance)"들의 집합으로 취급된다. 각 백은 단일 등록 종양(백 레이블)을 가진 환자 건강 번호(PHN)에 해당하며, 인스턴스는 이와 관련된 병리 보고서들이다.

• 1단계: 약지도 분류 (ABMIL-WS):

  • 인코더: 보고서는 110만 개의 BCCR 병리 보고서로 사전 학습된 도메인 적응형 임상 언어 모델인 BCCRTron(GatorTron-base 기반)을 사용하여 인코딩된다. [CLS] 토큰은 1024차원의 보고서 임베딩 역할을 한다.
  • 어텐션 메커니즘: 모델은 학습 가능한 네트워크(식 1)를 사용하여 백 내부의 각 보고서에 대한 게이트 어텐션 가중치($a_i$)를 계산한다. 이를 통해 모델은 인스턴스 수준의 감독 없이도 어떤 특정 보고서가 백 수준 레이블에 기여하는지 식별할 수 있다.
  • 풀링(Pooling): 보고서 임베딩은 어텐션 점수에 따라 가중치가 부여된 방식으로 단일 백 수준 표현($z$)으로 풀링되며, 이후 종양 그룹을 예측하기 위한 분류 헤드로 전달된다.
  • 훈련: 인코더는 동결된 상태로 유지되며, 오직 어텐션 풀링 레이어와 분류 헤드만 훈련된다.

• 2단계: 데이터셋 증류 (ABMIL-DISTIL):

  • 훈련된 ABMIL-WS 모델의 어텐션 점수를 **관련성 점수(relevance scores)**로 재사용한다.
  • 특정 백분위수 임계값(예: 85번째, 95번째)을 기준으로 보고서를 필터링하여 높은 점수를 가진 보고서만을 보유한다.
  • 환자 수준의 레이블은 이 필터링된 고신뢰도 보고서에만 전파된다.
  • 이후 표준 지도 분류기를 이 증류된 고품질 데이터셋에 대해 미세 조정(fine-tuning)한다. 이 단계는 부분적으로 동결된 레이어를 사용하여 계산적으로 관리가 용이한 데이터 서브셋에 대해 엔드 투 엔드 미세 조정을 가능하게 한다.

주요 기여

1. 프레임워크 적용: 운영적으로 생성된 백 레이블을 사용하여 자유 텍스트 병리 보고서에 대한 암 등록소 종양 그룹 분류에 ABMIL을 적용한 첫 사례이다.
2. 증류를 통한 노이즈 감소: 대규모의 노이즈가 섞인 환자 수준 레이블 코퍼스를 추가적인 인간 주석 없이도 컴팩트하고 고품질인 보고서 단위 훈련 데이터셋으로 변환하는 방법을 입증하였다.
3. 실용적 접근성: 전체 엔드 투 엔드 훈련에 필요한 대규모 컴퓨팅 인프라를 피함으로써, 다양한 자원 역량을 가진 기관에서도 접근 가능하게 한다.
4. 이중 경로 평가: ABMIL을 직접적인 분류 모델로 사용하는 것과, 필터링 메커즘으로서 다운스트림 지도 분류기의 성능을 개선하는 용도로 사용하는 것 모두를 평가하였다.

결과

• 성능: 증류된 데이터셋에 대해 미세 조정된 분류기는 매크로 F1 점수 0.83을 달려냈다.
• 비교: 이 성능은 다음과 같은 확립된 베이스라인들을 상회하였다:
  • 레이블 전파: 모든 보고서에 전파된 레이블로 훈련 (어텐션 임계값 0%와 동일).
  • 결합된 백(Concatenated Bag): 더 큰 컨텍스트 창을 가진 모델(BCCRTron-2k)을 사용하여 텍스트 시퀀스를 결합하여 훈련.
• 임계값 분석: 연구는 다양한 필터링 임계값(0% ~ 99%)을 탐색하였다. 높은 임계값은 데이터셋 크기를 줄였지만, 보유된 보고서가 진단적으로 유의미할 가능성을 높였으며, 데이터 희소성이 제한 요소가 되기 전까지 일반적으로 모델 성능을 향상시켰다.
• 평가 벤치마크: 성능은 2025년에 수집된 2,057개의 보고서로 구성된 독립적인 ODS 주석 데이터셋을 통해 검증되었다. 저자들은 훈련(CAIS 매핑)과 테스트(SEER 기반 매핑) 스키마 간의 차이로 인해 이 테스트 세트에 약간의 레이블 노이즈가 있음을 언급하였다.

의의
본 논문은 ABMIL이 암 등록 워크플로우를 자동화하기 위한 실용적이고 접근 가능한 경로를 제공한다고 주장한다. 일상적인 운영 레이블을 활용하여 고품질 훈련 데이터를 증류함으로써, 이 방법은 임상 환경에서 지도 학습 기반 NLP의 주요 병목 현상인 '문서 수준 주석의 부재' 문제를 해결한다. 저자들은 이 접근 방식이 개별 보고서와의 기록된 연결 없이 환자 수준 레이블을 가진 거의 모든 PBCR에 일반화될 수 있으며, 이를 통해 암 등록 NLP를 민주화할 수 있다고 제언한다.