HGGT：Heterogeneous Gated Graph Transformer for Predicting Clinical Trial Success

기술 요약: 임상 시험 성공 예측을 위한 이종 게이트형 그래프 트랜스포머(Heterogeneous Gated Graph Transformer)

문제 정의
임상 시험은 신약 개발의 핵심적인 병목 구간으로, 높은 실패율과 막대한 비용(승인된 약물 하나당 20억 달러 이상으로 추정)이라는 특징을 가집니다. 유전적 근거는 임상 성공의 결정 요인으로 알려져 있습니다. 즉, 강력한 유전적 지지가 없는 시험은 효능이나 안전성 문제로 인해 실패할 가능성이 더 높습니다. 그러나 기존의 예측 모델들은 생물학적 엔티티(약물, 질병, 유전자)와 시험 특화 엔티티(선정 기준, 연구 설계) 사이의 복잡한 상호 의존성을 간과하는 경우가 많습니다. 전통적인 머신러닝 접근 방식과 표준 그래프 신경망(GNN)은 종종 동질적 그래프 구조나 고정된 비적응형 관계 가중치에 의존하며, 이는 임상 환경에서의 다양한 유형별, 맥락 의존적 중요성을 포착하지 못합니다. 또한, 현재의 임상 데이터셋은 통합된 유전 정보를 결여하고 있는 경우가 많아 질병 메커니즘에 대한 불완전한 이해를 초래합니다.

방법론
저자들은 시험, 질병, 약물, 유전자, 타겟, 초록(abstract), 선정 기준 간의 풍부하고 이종적인 관계를 모델링하기 위해 설계된 딥러닝 아키텍처인 **이종 게이트형 그래프 트랜스포머(Heterogeneous Gated Graph Transformer, HGGT)**를 제안합니다.

• 데이터 구축 (TOP-gene): 본 연구는 기존의 TOP 임상 시험 결과 예측 벤치마크를 확장한 새로운 결합 데이터셋인 TOP-gene을 도입합니다. 저자들은 TRIALPANORAMA 데이터베이스를 활용하여 약물 식별자 및 작용 기전(MoA) 데이터를 통해 연결된 타겟, 유전자 및 초록 정보를 기존 데이터셋에 통합함으로써 데이터를 풍부하게 만들었습니다. 최종 데이터셋은 임상 1상, 2상, 3상을 아우르는 12,465개의 시험으로 구성됩니다.
• 그래프 구축: 모델은 6가지 노드 유형(시험, 기준, SMILES, ICD 코드, 유전자, 타겟)과 9가지 도메인 특화 엣지 유형(예: "유전자가 타겟을 인코딩함", "시험이 질병을 가짐")을 가진 이종 그래프를 구축합니다.
• 입력 인코딩 및 유형별 투영(Type-Specific Projection): 모든 입력 차원이 동일하다고 가정하는 표준 이종 그래프 트랜스포머(HGT)와 달리, HGGT는 유형별 투영 블록을 사용합니다. 이 블록은 다양한 모달리티(예: 텍스트를 위한 768차원 BioBERT 임베딩, SMILES를 위한 50차원 MPNN 임베딩, ICD 코드를 위한 128차원 GRAM 임베딩)로부터 오는 원시 특징들을 Linear, LayerNorm, GELU, Dropout으로 구성된 시퀀스를 통해 공유 잠재 공간(shared latent space)으로 매핑합니다.
• 게이트형 어텐션 메커니즘: 핵심 혁신은 **시험 인식 어텐션 집계(Trial-Aware Attention Aggregation)**와 학습 가능한 게이팅 메커니즘의 결합에 있습니다.
  • 시험 노드 임베딩이 쿼리(Query) 역할을 수행하며, 이웃 표현(예: 유전자, 타겟)이 키(Key) 및 값(Value) 역할을 합니다.
  • 노이즈를 필터링하고 이종 이웃으로부터 정보가 풍부한 특징을 강조하기 위해 게이팅 점수가 계산됩니다. 이를 통해 모델은 무관한 정보(예: 흔하지만 정보력이 낮은 ICD 코드)를 적응적으로 억제하고 중요한 신호를 증폭할 수 있습니다.
  • 이러한 계층적 집계는 매우 관련성이 높은 관계를 덜 판별력이 있는 구조적 연결보다 우선시합니다.
• 분류: 모델은 얕은 선형 분류기 대신 더 깊은 다층 퍼셉트론(MLP)을 활용합니다. MLP는 시험 자체의 임베딩과 어텐션으로 집계된 이웃 표현의 결합을 입력으로 받으며, 비선형 특징 변환과 유형 간 의미론적 융합을 강화하기 위해 LayerNorm, GELU, Dropout을 사용합니다.
• 훈련: 모델은 클래스 불균형을 처리하기 위해 바이너리 포컬 손실(binary focal loss) 함수를 사용하여 훈련되며, AdamW와 OneCycleLR 스케줄러를 통해 최적화됩니다.

주요 기여

1. TOP-gene 데이터셋: 기존 데이터셋의 누락된 유전적 맥락 문제를 해결하기 위해 종합적인 유전자 관련 및 타겟 특화 정보를 임상 시험 데이터에 통합한 새로운 벤치마크 데이터셋을 개발했습니다.
2. HGGT 아키텍처: 시험 중심의 게이트형 특징 필터링과 유형별 특징 투영을 특징으로 하는 새로운 이종 게이트형 그래프 트랜스포머를 제안했습니다. 이 설계는 생물학적 엔티티의 이질성을 명시적으로 다루며, 기존 모델에서 발견되는 균일하고 비적응적인 관계 가중치의 한계를 극복합니다.
3. 실증적 검증: 유전적 요인을 통합하고 제안된 아키텍처를 사용하는 것이 모든 시험 단계에서 기존의 최첨단(SOTA) 베이스라인보다 예측 성능을 유의미하게 향러시킨다는 것을 입증하는 포괄적인 평가를 수행했습니다.

결과
HGGT 모델은 정밀도-재현율 AUC(PR-AUC), F1 스코어, ROC-AUC를 사용하여 임상 1상, 2상, 3상 시험에 대해 평가되었습니다.

• 성능: HGGT_aug 변체(유전자 수준의 정보가 탑재된 HGGT)는 세 단계 모두에서 일관되게 가장 높은 점수를 기록했습니다.
  • 1상: HGGT_aug는 PR-AUC 0.6849, F1 0.7126, ROC-AUC 0.6425를 달성하여, 강력한 메타 학습 베이스라인인 SPOT(PR-AUC 0.689)보다 F1 및 ROC-AUC 측면에서 우수한 성능을 보였습니다.
  • 2상: HGGT_aug는 PR-AUC 0.7114, F1 0.7155, ROC-AUC 0.6787에 도달하여 SPOT을 포함한 모든 베이스라인을 능가했습니다.
  • 3상: HGGT_aug는 PR-AUC 0.8689, F1 0.8516, ROC-AUC 0.7192를 달성하여 SPOT 및 HINT, COMPOSE와 같은 다른 신경망 베이스라인보다 우수한 성능을 입증했습니다.
• 절제 연구(Ablation) 통찰: 결과는 유전자 정보를 포함하는 것이 성능을 일관되게 향상시킨다는 것을 나타냅니다. 또한, HGGT 아키텍처(게이팅 및 유형별 투영 포함)는 유전자 데이터로 보강되었을 때 표준 HGT 아키텍처보다 더 나은 성능을 보였으며, 이는 게이트형 어텐션 메커니즘의 효용성을 검증합니다.

의의
본 논문은 HGGT 모델이 임상 시험 성공의 다면적인 결정 요인을 포착하는 데 있어 이종 그래프 표현의 가치를 입증한다고 주장합니다. 생물학적 엔티티(유전자, 타겟)를 시험 특화 정보(초록, 기준)와 통합함으로써, 이 접근 방식은 구조화된 데이터와 비구조화된 데이터를 모두 활용하여 견고한 예측을 수행합니다. 저자들은 이 방법이 임상 시험 설계 및 자원 배분을 최적화하는 유망한 도구가 되어 약물 개발의 비용과 시간을 줄일 수 있을 것으로 보고 있습니다. 본 연구는 유전적 요인이 이 분야에서 AI 모델 성능을 개선하는 효과적인 수단임을 확립했습니다. 다만, 저자들은 공공 임상 데이터에 의존함에 따라 보고 편향(reporting bias)으로 인해 실패한 시험이 과소 대표될 수 있다는 한계를 언급하며, 임상의와 규제 기관의 신뢰를 높이기 위해 향후 연구에서 설명 가능성(explainability) 방법을 탐구해야 한다고 제언합니다.