Multimodal domain adaptation under label shift and blockwise missing modalities

기술 요약: 레이블 시프트(Label Shift) 및 블록 단위 결측 모달리티(Blockwise Missing Modalities) 환경에서의 다중 모달 도메인 적응

문제 정의
본 논문은 레이블된 소스 데이터셋이 레이블 시프트와 블크 단위 결측 모달리티라는 두 가지 동시적인 복잡성을 보이는 상황에서, 레이블이 없는 타겟 인구 집단의 결과를 예측하는 과제를 다룹니다. 다중 모달 생물 의학 환경(예: EHR, 영상, 분자 데이터의 결합)에서는 데이터 소스마다 관찰되는 모달리티가 체계적으로 다를 수 있습니다(예: 어떤 병원은 영상 데이터는 있지만 유전체 데이터는 없고, 다른 병원은 구조화된 기록만 있는 경우). 또한, 결과값(예: 질병 유병률)의 분포는 소스 집단과 타겟 집단 사이에서 변화할 수 있습니다.

핵심적인 어려움은 표준적인 도메인 적응 방법론들이 여기서 실패한다는 점입니다. 직접적인 풀링(Direct pooling)은 결측 모달리티 블록으로 인해 불가능합니다. 반대로, 조정되지 않은 소스 데이터를 사용하여 모달리티를 정렬하는 것은 오해의 소지가 있는데, 이는 소스의 교차 모달 패턴이 타겟의 것이 아니라 소스의 결과 분포를 반영하기 때문입니다. 타겟의 레이블은 사용할 수 없으므로, 정렬 전 이 시프트를 교정하기 위해 타겟 결과 분포를 직접 측정할 수도 없습니다.

방법론
저자들은 네 단계로 구성된 **참조 앵커 기반 도领域 적응 프레임워크(reference-anchored domain adaptation framework)**를 제안합니다:

1. 표현 학습(Representation Learning): 관찰된 각 모달리티에 비지도 학습 방식(예: PCA)을 적용하여 저차원 스코어 표현을 생성합니다. 모든 도메인에서 관찰되는 참조 모달리티(Reference modality)를 풀링하여 공통 좌표계를 학습하며, 보조 모달리티(Auxiliary modalities)는 각 도메인 내에서 처리됩니다.
2. 타겟 지향적 재가중치 부여(Target-Directed Reweighting): 참조 모달리티와 가용 소스 레이블을 사용하여 타겟 결과 분포를 추정합니다. 이를 통해 소스 관측치를 타겟 결과 혼합에 맞게 재가중치 할 수 있는 레이블 시프트 가중치(밀도 비율)를 계산할 수 있습니다.
3. 타겟 교정 매치업(Target-Calibrated Match-up): 이는 핵심적인 정렬 단계입니다.
   • 타겟 앵커(Target Anchor): 타겟 도메인에서 정준 상관 분석(CCA)을 수행하여(참조 및 사용 가능한 모든 보조 모달리티를 사용하여) 타겟 특유의 앵커를 정의합니다.
   • 소스 매핑(Source Mapping): 소스의 보조 블록들을 **가중 릿지 회귀(Weighted ridge regression)**를 사용하여 이 타겟 앵커로 매핑합니다. 결정적으로, 소스 데이터는 정렬 전에 추정된 레이블 시프트 가중치에 의해 재가중치 됩니다. 이는 정렬이 소스 특유의 결과 혼합이 아닌, 타겟 인구 집단과 관련된 관계를 포착하도록 보장합니다.
   • 회전 불변성(Rotation Invariance): 이 방법은 개별 스코어 기저(Score bases)는 다를 수 있지만, 모든 도메인에서 피팅된 좌표는 단일 공통 회전까지 정렬된다는 것을 입증합니다. 이는 표현의 모호성을 해결합니다.
4. 결과 전이(Outcome Transfer): 정렬된 좌표상에서 우도비 모델(Likelihood-ratio models)을 추정합니다. 최종적인 타겟 조건부 결과 분포는 추정된 타겟 결과 분포와 정렬된 우도비를 결합하여 도출됩니다.

희소 레이블 및 대리 변수 처리
골드 스탠다드(Gold-standard) 소스 레이블이 희소하거나 사용할 수 없는 경우, 프레임워크는 **대리 변수 지원 접근법(Surrogate-assisted approach)**을 통합합니다. 소스에서 관찰되는 대리 변수(예: 알고리즘 표현형)는 작동 결과 확률(Working outcome probabilities)을 추정하는 데 사용됩니다. 이 확률들은 정렬 가중치와 우도비를 추정하는 데 용이하게 활용되어, 밀도 높은 골드 스탠다드 레이블 없이도 견고한 적응을 가능하게 합니다.

주요 기여

1. 타겟 지향적 식별 전략: 본 논문은 "정렬 전 가중치 부여" 원칙을 도입합니다. 소스 데이터를 타겟 결과 분포에 맞춰 정렬 전에 재가중함으로써, 소스 특유의 결과 혼합에 의해 발생하는 편향을 방지합니다. 이는 먼저 정렬하고 나중에 시프트를 교정하거나, 공유된 입력 공간을 가정하는 기존 방법들과 차별화됩니다.
2. 통합 회전 복구(Unified-Rotation Recovery): 저자들은 표현 학습에서의 임의적인 좌표 선택과 도메인별 보조 블록에도 불구하고, 모든 추정된 타겟 및 소스 정렬 특징이 단일 공한 공통 회전까지 복구될 수 있음을 증명합니다. 이 이론적 결과는 타겟 조건부 결과 모델의 식별 가능성을 보장합니다.
3. 대리 변수 기반 적응: 본 프레임워크는 대리 변수를 활용하여 캘리브레이션(Calibration) 및 정렬을 수행함으로써, 골드 스탠다드 레이블이 희소한 환경으로 확장되며, 골드 스탠다드 결과를 주요 추정량(Estimand)으로 유지합니다.

결과

• 시뮬레이션: 광범한 시뮬레이션을 통해 제안된 방법이 레이블 시프트, 보조 로딩 회전(Auxiliary loading rotation) 및 블록 단위 결측이 존재하는 다양한 상황에서도 우수한 캘리브레이션(낮은 MSE)과 안정적인 랭킹 성능(높은 AUC)을 달al함을 입증했습니다. 이 방법은 직접 전이(Direct transfer), 직교 프로크루스테스(Orthogonal Procrustes), RGCCA, 표준 XGBoost/LASSO 등의 베이스라인 모델을 크게 상회합니다. 대리 변수 지원 변형 모델은 전체 레이블 오라클(Full-label oracle)의 정확도 대부분을 회복하며, 샘플 크기가 증가함에 따라 성능이 수렴합니다.
• 실제 데이터 적용: Mass General Brigham 시스템의 데이터를 사용하여 12개월 신세포암(RCC) 재발을 예측하는 연구에서, 본 방법은 시간적 변화(20002016년 vs 20172022년)와 이질적인 모달리티 가용성을 처리했습니다. 제안된 방법은 베이스라인들에 비해 가장 높은 Brier Skill Score와 가장 작은 캘리브레이션 격차를 기록하며, 상당한 분포 변화에도 불구하고 타겟 이벤트 유병률을 정확하게 복구할 수 있음을 보여주었습니다.

의의 및 주장
본 논문은 생물 의학 데이터 과학의 현실적이면서도 충분히 다뤄지지 않은 시나리오, 즉 변화하는 결과 분포를 가진 이질적이고 부분적으로 관찰된 다중 모달 데이터를 통합하는 것에 대한 통합적인 솔루션을 제공한다고 주장합니다. 저자들은 이 프레임워크가 모든 도메인에 걸쳐 공유된 다중 모달 입력 공간이나 단일 공통 잠재 표현을 요구하지 않는다는 점을 강조합니다. 대신, 참조 모달리티를 활용하여 타겟 분포를 고정(Anchor)하고, 타겟 교정 과정을 통해 비교 불가능한 보조 좌표들을 정렬합니다. 이 연구는 타겟 조건부 결과 분포에 대한 이론적 일관성을 확립하고, 복잡한 데이터 제약 조건 하에서 예측 캘리브레이션을 개선하는 실질적인 유용성을 입증합니다.