기술 요약: 완전 합성 생존 훈련을 위한 필터링된 혼합 생성기 (FoGS)

문제 정의

생존 분석은 종양학 및 심장학 등의 분야에서 임상적 의사결정에 매우 중요하지만, 구조적 데이터 제약으로 인해 강력한 모델을 훈련하는 데 어려움이 있습니다. 이벤트는 장기적인 추적 관찰 기간에 걸쳐 축적되므로 코호트 크기가 작아지는 문제가 발생하며, 개인정보 보호 규정은 기관 간의 데이터 공유를 제한합니다. 합성 표 형식 데이터(tabular data) 생성은 데이터 증강 및 개인정보 보호를 고려한 공유를 위한 잠재적 해결책이 될 수 있지만, 기존 방식들은 이러한 환경에서 고전하고 있습니다. 소규모 생존 코호트에 훈련된 단일 생성 모델은 기저의 모집단 분포를 충실하게 특징짓지 못하는 경우가 많습니다. 결과적으로, "합성 데이터로 훈련하고 실제 데이터로 테스트하는"(TSTR) 파이프라인은 실제 데이터로 훈련할 때보다 성능이 일관되게 낮게 나타나는데, 이는 합성 데이터 세트가 다운스트림 모델의 일반화에 필요한 데이터 매니폴드의 특정 영역을 제대로 커버하지 못하기 때문입니다.

방법론: FoGS 파이프라인

저자들은 합성 데이터 구축을 단순한 생성 문제가 아니라, 이질적인 생성기 풀(pool)로부터 최적의 샘플을 선택하는 샘플 선택 문제로 재정의하는 2단계 최적화 파이프라인인 FoGS(Filtered Mixture-of-Generators for Survival analysis)를 제안합니다. 목표는 개별 샘플의 타당성(plausibility) 신호에 기반하여, 이질적인 생성기 풀에서 최적의 샘플을 선택함으로써 유용성이 높은 합성 훈련 세트를 구축하는 것입니다.

1. 생성기 풀 및 후보 생성

FoGS는 특정 아키텍처의 귀납적 편향(inductive bias)에 종속되지 않도록, 네 가지의 구조적으로 구별되는 표 형식 생성기로부터 후보 샘플 풀을 추출합니다:

• ARF: 적대적 랜덤 포레스트(Adversarial Random Forests, 비모수적 밀도 추정).
• Bayesian Network: 힐 클라이밍 구조 학습을 통한 명시적 인수 분해.
• TabDDPM: 혼합형 범주형 및 수치형 특징을 위한 디노이징 확산 모델(Denoising diffusion models).
• SurvivalCTGAN: 코변리에이트(covariates)는 GAN을 통해, 이벤트 시간은 생존 헤드(survival head)를 통해 생성하도록 변형된 CTGAN 변형 모델.

각 생성기 $g$는 실제 훈련 분할 $D_r$에 대해 훈련되며, 크기가 $N_g = \lceil \kappa N_r \rceil$ (실험에서 $\kappa=100$)인 후보 풀 $D_g$를 생성합니다. 이 풀들의 합집합이 후보 세트 $D_{synth}$를 형성합니다.

2. 개별 샘플 타당성 점수 산출

단일 메트릭을 사용하는 대신, FoGS는 실제 데이터 $D_r$에 의해 훈련된 7개의 생존 모델 앙상블(Cox, DeepSurv, DeepHit, RSF, FPBoost, XGBoost-Cox 및 가중 앙상블 포함)을 사용하여 모든 합성 샘플을 평가합니다. 각 스코어러(scorer)는 샘플에 대해 두 가지 적절한 점수 규칙(proper scoring rule) 손실을 할당합니다:

• 통합 브리어 점수(Integrated Brier Score, IBS): 시간에 따른 예측 정확도를 측정합니다.
• 음의 로그 가능도(Negative Log-Likelihood, NLL): 확률적 교정(probabilistic calibration)을 측정합니다.

낮은 손실 값은 해당 합성 샘플이 실제 모집단 분포와 비교했을 때 타당함을 의미합니다.

3. 선택 정책

필터링된 합성 데이터 세트 $D^*_s$는 정책 벡터 $\pi$에 의해 정의되는 선택 연산자 $\Phi$를 통해 구축됩니다. $\pi$에는 다음이 포함됩니다:

• 생성기 할당량 ($p_g$): 각 생성기의 풀에서 추출할 샘플의 비율.
• 스코어러 가중치 ($w_{m,k}$): 7개 스코어러의 IBS 및 NLL 손실에 대한 집계 가중치.
• 무작위 보완 ($\rho$): 풀에서 균등하게 무작위로 선택되는 샘플의 비율. 나머지 비율 $(1-\rho)$는 가장 낮은 집계 손실을 기준으로 결정론적으로 선택됩니다. 이는 타당성(고품질 샘플 선택)과 모집단 커버리지(희귀 사례 유지) 사이의 균형을 맞춥니다.
• 층화 플래그 ($b_{alt}, b_{alc}$): 선택된 세트가 실제 데이터의 이벤트 시간 분포 및 검열율(censoring rate)과 일치하도록 하는 선택적 제약 조건.

4. 2단계 최적화

파이프라인은 다음의 중첩 루프를 통해 $\pi$를 최적화합니다:

• 내부 루프(Inner Loop): 필터링된 세트 $D^*_s$에 대해 다운스트림 생존 모델(본 실험에서는 XGBoost-Cox로 인스턴스화)을 훈련시키고, 별도의 실제 검증 분할(held-out real validation split)에서 복합 검증 점수($C_{val} - 2 \cdot IBS_{val}$)를 최대화하도록 하이퍼파라미터 $\theta$를 튜닝합니다.
• 외부 루프(Outer Loop): 결과적인 다운스트림 모델의 IBS를 최소화하도록 선택 정책 $\pi$를 최적화합니다. 이는 선택 정책이 다운스트림 유용성을 위해 구체적으로 튜닝되도록 보장합니다.

주요 기여

1. FoGS 파이프라인: 이질적인 생성기 풀 위에서 샘플 선택 문제로 재구성하여, 생존 분석을 위한 합성 데이터 구축을 최적화하는 최초의 파이프라인입니다. 이는 개별 샘플의 타당성 신호에 의해 구동됩니다.
2. 포괄적인 벤치마킹: 16개의 공개 생존 데이터 세트에 대해 평가를 수행하여, FoGS가 대부분의 코호트에서 실제 데이터 훈련 성능과 대등하거나 이를 능가함을 입증했습니다.
3. 구조적 통찰: 합성 데이터 선택의 두 가지 지배적 현상을 식별했습니다:
   • 품질-커버리지 트레이드오프: 모집단 커버리지를 보존하고 밀집 지역의 과잉 대표를 방지하기 위해 상당한 수준의 무작위 샘플 비율을 유지하는 것이 필요합니다.
   • 데이터 세트 의존성: 단일 스코어러 가중치 전략이 모든 코호트에 통용되지 않으며, 최적의 가중치는 데이터 세트마다 튜닝되어야 합니다.

결과

XGBoost-Cox를 다운스트림 모델로 사용하여 16개의 공개 데이터 세트에서 TSTR 패러다임으로 평가했습니다:

• 성능 향상: FoGS는 16개 중 9개 데이터 세트에서 C-index와 IBS를 모두 개선했으며, 16개 중 13개에서 적어도 하나의 메트릭을 개선했습니다.
• 통계적 유의성: 평균 개선 수치는 C-index에서 +2.17, IBS에서 +0.67이었습니다. 일방향 윌콕슨 부호 순위 검정(Wilcoxon signed-rank test) 결과, C-index는 $p=0.039$, IBS는 $p=0.035$로 나타났습니다.
• 절제 연구(Ablation Studies):
  • 단일 생성기(가장 성능이 좋은 ARF 포함)로 FoGS를 제한할 경우, 전체 4개 생성기 풀을 사용할 때보다 집계 유용성이 낮았습니다.
  • 튜닝된 선택 정책을 동일한 풀에서의 무작위 추출로 대체하면 성능이 실제 데이터 베이스라인 미만으로 떨어졌습니다 ($\Delta C = -0.50$). 이는 개선이 생성기 자체가 아닌 선택 정책에서 기인함을 확인시켜 줍니다.
• 개인정보 보호: 필터링된 세트는 필터링되지 않은 무작위 샘플링 대비 최근접 이웃 개인정보 보호 마진(NNDR)에서 유의미한 저하를 보이지 않았습니다 ($p=0.087$).

의의

본 논문은 샘플 필터링을 이질적인 생성기 풀 위에서 수행하는 것이 개인정보 보호가 엄격한 임상 환경에서 실제 데이터 훈련을 대체할 수 있는 실행 가능한 방법임을 주장합니다.

그 의의는 "더 나은 데이터를 생성하는 것"에서 "더 나은 데이터를 선택하는 것"으로 패러다임을 전환하는 데 있습니다. 샘플 선택 문제로 합성 구축을 다룸으로써, FoGS는 단일 생성기가 복잡한 분포를 포착하지 못하는 소규모 코호트의 한계를 극 nghiệm합니다. 이 프레임워크를 통해 기관들은 환자 수준의 기록을 공개하지 않고도 안전하게 합성 코호트를 공유할 수 있으며, 실제 데이터만으로 훈련할 때와 대등하거나 혹은 더 나은 다운스트림 생존 모델의 유용성을 유지할 수 있습니다. 이 접근 방식은 모듈화되어 있어, 핵심 파이프라인을 변경하지 않고도 새로운 생성기나 스코어러를 통합할 수 있습니다.