💻 computer science

TITAN: A Diversity-Driven Stacked Ensemble with a Multi-Branch Neural Network for Predicting Live Birth in IVF

이 논문은 HFEA 레지스트리를 사용하여 IVF 주기의 실시간 출생 결과를 예측하는 데 있어 최첨단 정확도를 달달성하기 위해, 다섯 개의 트리 기반 학습기와 엄격한 누수 탐지 및 베이지안 최적화를 결합한 커스텀 멀티 브랜치 신경망을 통합한 다양성 중심의 스택 앙상블 모델인 TITAN을 소개한다.

원저자: Bala Shiwangi¹, Shailesh D. Kamble², Brijesh Kumar¹

게시일 2026-08-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bala Shiwangi¹, Shailesh D. Kamble², Brijesh Kumar¹

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

생식 의학의 조용하고도 중대한 세계에서, 부모가 되기 위한 여정은 종종 하나의 어렵고도 근본적인 질문에서 시작됩니다. "이 치료 사이클이 살아있는 아기의 탄생으로 이어질 것인가?" 하는 질문입니다. 불임에 직면한 커플들에게 체외 수정(IVF)은 주요한 전진 경로이지만, 수십 년간의 의학적 개선에도 불구하고 임상 현장에서 성공률이 회당 40%를 넘는 경우는 드뭅니다. 이러한 사이클의 결과를 정확하게 예측할 수 있는 능력은 혁신적인 변화를 가져올 것입니다. 이는 의사들이 개별적인 필요에 맞춰 치료를 맞춤화할 수 있게 하고, 가족들에게 치료를 시작하기 전 더 명확하고 정직한 가이드를 제공할 수 있기 때문입니다. 그러나 이러한 예측을 수행하는 컴퓨터 프로그램을 구축하는 일은 '데이터 누수(data leakage)'라고 알려진 특유의 미묘한 위험을 안고 있습니다. 의료 기록에서 정보는 흔히 사건이 발생하는 순서대로 기록되지만, 때로는 최종 결과에 대한 정보(예: 아기의 몸무게나 출산 날짜)가 예측 모델을 훈련하는 데 사용되는 데이터셋에 실수로 포함되기도 합니다. 만약 컴퓨터가 이러한 미래의 사실로부터 학습한다면, 새로운 사례를 예측해야 할 때 그 성능이 사라져 버리는, 마치 천재처럼 보이는 높은 점수를 기록할 수 있습니다. 따라서 과제는 단순히 데이터에서 올바른 패턴을 찾는 것이 아니라, 의사가 결정을 내리는 시점에 실제로 알 수 없는 정보를 엄격하게 제거하는 것입니다.

연구진은 배아 이식 전에 이용 가능한 정보만을 사용하여 생존 출산 결과를 예측하도록 설계된 TITAN이라는 새로운 시스템을 통해 이 과제를 해결했습니다. 연구진은 약 17만 건의 IVF 사이클 기록을 포함하는 영국의 방대한 데이터베이스로 시작했습니다. 그들의 첫 번째이자 가장 중요한 단계는 필터 역할을 수행하여, 데이터를 자동으로 스캔하고 '누수'가 있는 정보(즉, 치료가 끝난 후에야 알 수 있는 임신이나 출산에 관한 세부 사항)가 포함된 열을 식별하고 제거하는 것이었습니다. 이러한 숨겨진 단서를 탐지하는 스마트 알고 알고리즘을 사용하여, 연구진은 모델을 속일 수 있었던 22개의 변수를 제거하고 환자의 연령, 채취된 난자 수, 사용된 치료 유형과 같은 38개의 진정한 예측 변수만을 남겼습니다. 이 과정은 시스템이 지름길이 아닌 현실로부터 학습하도록 보장했습니다.

데이터가 정제된 후, 팀은 예측을 위해 단 한 종류의 컴퓨터 모델에만 의존하지 않았습니다. 대신, 각기 다른 방식으로 문제에 대해 사고하는 여섯 가지의 다양한 '학습자(learnors)' 팀을 구축했습니다. 이 중 다섯 개는 예 또는 아니오라는 일련의 질문을 통해 환자를 그룹으로 분류하는 트리 기반 모델이었으며, 나머지 하나는 뇌가 정보를 처리하는 방식을 모방하도록 설계된 복잡한 신경망이었습니다. 모델들이 모두 동일한 실수를 저지르지 않도록, 연구진은 '아웃 오브 폴드 스태킹(out-of-fold stacking)'이라는 기술을 사용하여 이들을 훈련시켰습니다. 이는 전문가 집단에게 사례를 검토해 달라고 요청하되, 모든 전문가에게 전체 파일을 한꺼번에 보여주는 대신, 각 전문가에게 약간씩 다른 버전의 증거를 주고 그들이 보는 것에 기반하여 결과를 예측하도록 하는 것과 같습니다. 이 방법은 각 모델이 서로 다른 각도에서 학습하도록 강제하여, 서로 동일하기보다는 상호 보완적인 예측 세트를 만들어냅니다.

TITAN의 진정한 혁신은 이 여섯 가지의 서로 다른 의견을 결합하는 방식에 있습니다. 단순히 답변의 평균을 내는 것이 아니라, 시스템은 각 모델의 구체적인 신뢰 수준, 오차 범위, 그리고 불확실성 점수를 가져와 최종 마스터 모델에 입력합니다. 최적의 설정을 찾기 위해 정교한 탐색 과정을 거쳐 미세 조정된 이 마스터 모델은 각 전문가의 고유한 강점을 가중하여 판단하는 판사 역할을 합니다. 또한 연구진은 다섯 개의 병렬 경로를 가진 맞춤형 신경망을 도입했는데, 각 경로는 다른 것들이 놓칠 수 있는 패턴을 포착할 수 있도록 서로 다르게 구조화되었습니다. 이 네트워크는 시간이 흐름에 따라 자신의 학습 단계를 평균화하는 방식을 사용하여 학습되었으며, 이를 통해 국소 최적점(local optimum)에 갇히지 않고 안정적이고 신뢰할 수 있는 상태로 자리 잡을 수 있었습니다.

시스템이 한 번도 본 적 없는 별도의 환자 그룹에 대해 테스트했을 때, TITAN은 89.19%의 정확도를 달 기록하며 10건 중 거의 9건의 사례를 정확하게 예측했습니다. 이 성능은 단일 모델을 단독으로 사용했을 때보다 유의미하게 높았으며, 가장 흔한 결과에 기반한 단순한 추측보다 훨씬 뛰어났습니다. 또한 시스템은 성공과 실패를 구분하는 표준 척도에서 0.72의 점수를 얻었으며, 연구진은 이 결과가 숨겨진 데이터에 의해 부풀려지지 않았음을 확인했습니다. 시스템의 한 부분을 한 번에 하나씩 제거하는 일련의 테스트에서, 연구진은 '누수' 데이터를 제거하는 초기 단계가 가장 중요한 요소임을 발견했습니다. 이 단계가 없었다면 시스템의 성능은 무작위 추측 수준으로 급락했을 것입니다. 또한 연구는 다섯 개의 트리 기반 모델이 사고 방식에서 상당히 유사했지만, 신경망의 포함이 독특한 관점을 더해 최종 결과를 개선했다는 것을 밝혀냈습니다.

이러한 결과는 복잡한 생물학적 요인으로 인해 IVF의 성공을 예측하는 것이 본질적으로 어렵지만, 의료 데이터의 타임라인을 존중하며 정교하게 구축된 시스템이 매우 신뢰할 수 있는 예측을 제공할 수 있음을 시사합니다. 연구진은 이 시스템이 특히 생존 출산으로 이어지지 않을 사이클을 식별하는 데 탁령하여, 실패한 시도의 대다수를 정확하게 표시했다는 점에 주목했습니다. 그러나 성공적인 결과를 예측하는 것은 여전히 더 어려운 과제로 남았는데, 저자들은 이를 초기 등록 데이터에 항상 기록되어 있지는 않은 배아의 구체적인 질과 같은 생물학적 세부 사항의 부재 때문이라고 설명했습니다. 궁극적으로 TITAN은 임상의들에게 실용적이고 투명하며 견고한 도구를 제공하며, 다양한 방법을 결합하고 데이터를 엄격하게 정제함으로써, 아직 존재하지 않는 정보에 의존하지 않고도 치료 사이클의 미래에 대한 진정한 통찰력을 제공하는 시스템을 구축하는 것이 가능하다는 것을 보여줍니다.

기술 요약: TITAN – IVF 생존 출생 예측을 위한 다양성 중심의 스택드 앙상블(Stacked Ensemble)

문제 정의
체외 수정(IVF) 주기에서 생존 출생(live birth) 결과를 예측하는 것은 매우 중요하지만 통계적으로 까다로운 과제입니다. 영국의 인간 수정 및 배아 발생 권위(HFEA) 레지스트리와 같은 기존 데이터셋은 고차원적이지만 세 가지 주요 방법론적 장벽에 직면해 있습니다: (1) 모델이 사후 변수(예: 출생 체중, 출생 날짜)를 사전 치료 모델에 부적절하게 포함하여 성능을 인위적으로 부풀리는 데이터 누수(data leakage) 현상; (2) 고차원적이고 이질적인 임상 데이터; (3) 심각한 클래스 불균형(음성 대 양성 사례 비율 약 3.13:1). 단순한 모델들은 예측 시점에 가용하지 않은 정보로부터 학습하기 때문에 전향적 임상 환경에서 일반화에 실패하는 경우가 많습니다.

방법론: TITAN 파이프라인
저자들은 데이터 누수를 제거하고 예측 다양성을 극대화하기 위해 설계된 7단계 엔드 투 엔드(end-to-end) 처리 파이프라인인 TITAN(Total Intelligence Through Aggregated Networks)을 제안합니다.

적응형 누수 탐지(Adaptive Leakage Detection): 수동 검토 대신, TITAN은 적응형 임계값 알고리즘을 사용합니다. 단일 특성 결정 트리 대리 모델(surrogate)을 학습시켜 각 특성의 예측력을 점수화합니다. 적응형 임계값( $\tau^* = 0.90$ )을 초과하는 특성은 "누수 항목"(사후 지표)으로 식별되어 제거됩니다. 이 과정에서 22개의 사후 변수가 제거되었으며, 38개의 유효한 사전 치료 예측 변수가 남았습니다. 분석 결과, 초기에는 7개의 특성이 높은 예측력(누수)을 가진 것으로 나타났으나, 더 넓은 범위의 22개 변수를 제거하기 위해서는 이 적응형 임계값 전략이 필수적이었습니다.
전처리 및 특성 공학(Preprocessing & Feature Engineering):
- 결측치 처리: 왜도(skewness)가 있는 수치 데이터에는 중앙값(median)을, 정규 분포 데이터에는 평균(mean)을, 범주형 데이터에는 최빈값(mode) 또는 'Unknown'을 적용하는 계층적 전략을 사용합니다.
- 인코딩: 범주형 변수는 폴드 간 누수를 방지하기 위해 라플라스 평활화( $\lambda=10$ )가 적용된 타겟 인코딩(target encoding)을 거칩니다.
- 특성 공학: 상위 순위 특성들로부터 통계적 집계, 다항 변환(polynomial transformations) 및 쌍별 상호작용(pairwise interactions)을 생성합니다.
- 가지치기(Pruning): SHAP(SHapley Additive exPlanations) 값을 사용하여 최대 중요도의 1% 미만으로 기여하는 특성을 제거함으로써 노이즈를 줄입니다.
- 스케일링: 이상치 민감도를 완화하기 위해 RobustScaler를 적용합니다.
다양성 우선 스택드 앙상블(Diversity-First Stacked Ensemble):
- 기본 학습기(Base Learners): 5개의 이질적인 트리 기반 모델(XGBoost, LightGBM, CatBoost, Random Forest, ExtraTrees)을 5-폴드 교차 검증(Out-of-Fold, OOF) 스태킹을 사용하여 학습시킵니다.
- 신경망 구성 요소: 커스텀 **5개 분기 딥 뉴럴 네트워크(five-branch deep neural network)**가 여섯 번째 기본 학습기로 기능합니다. 이 네트워크의 분기에는 Deep Dense, Double Residual, Wide+Attention, Hadamard Interaction, 그리고 MLP-Mixer 아키텍처가 포함됩니다. 이 네트워크는 안정성과 뚜렷한 경사 기반 유도 편향(gradient-based inductive bias)을 보장하기 위해 확률적 가중 평균(SWA) 및 **코사인 웜 리스타트(Cosine Warm Restarts)**를 사용하여 학습됩니다.
- 메타 학습기(Meta-Learner): 6개 기본 모델의 OOF 예측값은 풍부한 21차원 메타 특성 행렬로 결합됩니다. 이 행렬에는 개별 예측 확률뿐만 아니라 마진(margin), 섀넌 엔트로피(Shannon entropy), 그리고 모델 간 통계치(평균, 표준편차, 범위)가 포함됩니다.
- 최종 모델: 베이지안 튜닝된 XGBoost 모델이 21차원 특성 집합을 바탕으로 메타 학습기로서 작동합니다.
최적화: 트리 기반 모델의 하이퍼파라미터는 Optuna(TPE 샘플러)를 사용하여 최적화되며, 최종 결정 임계값은 민감도와 특이도의 균형을 맞추기 위해 별도의 홀드아웃 검증 세트에서 최적화됩니다.

주요 기여

적응형 누수 탐지: 수동 개입 없이도 사후 결과 특성을 탐지하고 제거하는 원칙적이고 자동화된 방법을 제공하여, 모델이 오직 사전 치료 데이터에만 의존하도록 보장합니다.
다양성 우선 앙상블 설계: 5개의 서로 다른 트리 알고리즘과 커스텀 다분기 신경망을 통합하여 예측 다양성을 극대화하고 상관된 오류를 최소화합니다.
새로운 신경망 아키텍처: SWA와 코사인 어닐링(cosine annealing)을 포함하며, 트리 기반 학습자와 구별되는 경사 기반 신호를 제공하도록 설계된 5개 분기 신경망을 도입했습니다.
풍부한 메타 특성 표현: 확률뿐만 아니라 모델의 확신도, 마진, 엔트로피를 포착하는 21차원 메사 특성 집합을 구축했습니다.
포괄적인 절제 연구(Ablation Study): 파이프라인의 각 구성 요소의 기여도를 정량화하는 체계적인 연구를 통해, 누수 탐지와 베이지안 최적화가 가장 핵심적인 요소임을 입증했습니다.

결과
HFEA 레지스트리( $N=169,616$ 주기)와 홀드아웃 테스트 세트( $N=25,428$ 주기)를 대상으로 평가되었습니다:

성능: TITAN은 깨끗한 사전 치료 특성 세트를 기준으로 89.19%의 정확도와 0.7202의 AUC-ROC를 달 achieved 했습니다.
비교: TITAN은 다수 클래스 베이스라인(정확도 75.81%)보다 13.38 퍼센트 포인트 높은 성능을 보였으며, 모든 개별 트리 기반 구성 모델을 능가했습니다. 그러나 딥 러닝 베이스라인(DNN, ResNet, CNN)은 TITAN의 0.7202보다 높은 AUC(0.889)를 기록했습니다. 저자들은 DNN 베이스라인이 레이블 인코딩된 범주형 변수를 포함한 특성 세트로 학습되어 수치적 아티팩트(numerical artifacts)를 생성했기 때문이며, 반면 TITAN의 낮은 AUC는 SHAP으로 가지치기되고 타겟 인코딩된 엄격한 사전 치료 특성만을 사용하는 더 보수적이고 임상적으로 유효한 평가를 반영한 결과라고 설명합니다.
절제 연구 통찰:
- 누수 탐지를 제거하면 모델이 더미 분류기(AUC 0.500)로 붕괴되었으며, 이는 데이터셋이 누수된 특성에 크게 의존하고 있음을 확인시켜 줍니다.
- OOF 스태킹을 단순 평균법으로 대체했을 때 정확도가 11.39 퍼센트 포인트 하락했습니다.
- Optuna를 통한 베이지안 최적화는 기본 파라미터 대비 1.07 퍼센트 포인트의 이득을 가져왔습니다.
클래스별 성능: 모델은 음성 클래스(생존 출생 없음: 재현율 90%)에 대해 높은 특이도를 보였으나, 양성 클래스(생존 출생: 재현율 24%)에 대해서는 보수적인 민감도를 보였습니다. 저자들은 이를 레지스트리 데이터에 배아 형태 발생론(embryo morphokinetics)과 같은 핵심적인 사후 생물학적 예측 변수가 부재하기 때문으로 보며, 이는 사전 치료 예측에서 피할 수 없는 불확실성을 나타냅니다.

의의 및 주장
본 논문은 TITAN이 ART 결과를 예측하기 위한 실용적이고 해석 가능하며 확장 가능한 프레임워크를 제공한다고 주장합니다. TITAN의 주요 의의는 많은 임상 머신러닝 연구를 괴롭히는 "데이터 누수" 문제를 해결하여, 보고된 성능 지표가 데이터 아티팩트가 아닌 실제 전향적 역량을 반영하도록 보장한다는 점에 있습니다. 데이터 누수 탐지를 우선시하고 앙상블 설계에서 다양성을 강조함으로써, TITAN은 견고한 임상 배포를 위한 경로를 제공합니다. 저자들은 모델이 성공하지 못한 주기에 대해서는 매우 정확하지만, 생존 출생을 예측하는 능력은 배아 이식 전 가용한 생물학적 데이터의 부재로 인해 본질적으로 제한적이라는 점을 인정하며, 이는 해당 분야의 근본적인 도전 과제임을 명시했습니다. 향후 연구로는 다중 모달(multimodal) 이미지 통합 및 비영국 레지스트리를 통한 전향적 검증이 제안되었습니다.

유사한 논문