From Cellular Responses to Pharmacological Domains: Multimodal Zero-Shot Drug Representation Learning

기술 요약: 멀티모달 제로샷 약물 표현 학습을 위한 PMRD

문제 정의
멀티모달 신약 개발은 미지의 화합물에 대한 특성을 예측하기 위해 화학적 구조와 세포 반응(예: 유전자 발현, 세포 형태)을 통합하여 약물 표현을 학습하는 것을 목표로 합니다. 그러나 기존 방식은 제로샷 시나리오에서 두 가지 결정적인 한계에 직면합니다:

1. 노이즈 및 편향: 모달리티 간의 직접적인 융합은 메커니즘 관련 신호를 모달리티별 노이즈 및 데이터셋 편향과 혼합할 수 있습니다. 이는 모델이 우연한 공존 현상을 유효한 약리학적 신호로 오인하게 만들 수 있습니다.
2. 부적절한 분리: 표준 대조 학습(Contrastive alignment)은 구조적으로는 서로 다르지만 생물학적으로 연관된(예: 동일한 타겟을 공유하는) 화합물을 잘못 분리하여, 미지의 약물 특성을 예측하는 데 필요한 전이 가능한 메커니즘 패턴을 가릴 수 있습니다.
   핵리적인 과제는 특정 작업에 대한 지도 학습 레이블에 의존하지 않고, 복잡하고 다각적인 관측으로부터 약물 작용 메커니즘을 반영하는 안정적인 반응 인자를 식별하는 것입니다.

방법론: PMRD 프레임워크
저자들은 메커니즘 일관적 인자를 모달리티별 정보로부터 분리하는 데 기반을 둔 PMRD(Pharmacological Mechanism Representation Domain) 프레임워크를 제안합니다. 이 프레임워크는 세 단계로 작동합니다:

1. 교차 모달 반응 모델링 (Cross-Modal Response Modeling, CRM):

   • CRM은 특정 모달리티($m \in \{mol, gene, cell\}$)에서의 각 약물 표현을 두 개의 브랜치로 분해합니다:
     • 메커니즘 일관적 표현 (Mechanism-Consistent Representation, MCR): 이질적인 모달리티 전반에 걸쳐 일관되게 나타나는 전이 가능한 약리학적 지식을 포착합니다.
     • 모달리티 특이적 표현 (Modality-Specific Representation, MSR): 소스 특유의 변동성을 보존하며 원래의 모달리티만을 재구성합니다.
   • 분리 손실($L_{sep}$)은 MCR과 MSR 사이의 중첩을 최소화하며, 재구성 손실은 무의미한 분리를 방지합니다.
   • 합의 유도 정렬 (Consensus-Guided Alignment, CGA): 세 가지 모달리티로부터 정규화된 MCR들의 평균을 통해 약물 특이적 "PMRD 센터"를 구축합니다. CGA는 개별 MCR을 이 센터 및 서로와 정렬시켜, 지원되지 않는 변동성은 억제하면서 공유된 반응 방향을 강화합니다.

2. 안정성 유도 최적화 (Stability-Guided Optimization, SGO):

   • 표현이 부수적인 특징에 대해 강건함을 보장하기 위해, SGO는 두 가지 메커니즘을 채택합니다:
     • 후보 증강 메커니즘 (Candidate Augmentation Mechanism, CAM): 피처 드롭아웃과 적응형 노이즈를 사용하여 MCR을 섭동(perturbation)시킵니다. 의미론적 의미, 교차 모달 일관성 및 국소 분포를 보존하는 후보만을 유지하여 원래의 MCR을 정규화하는 데 사용합니다.
     • 데이터 속성 메커니즘 (Data Attribution Mechanism, DAM): 정렬(CGA)과 증강(CAM) 목적 함수를 동적으로 재가중치화합니다. 이는 검색 기하학 참조($L_{geo}$)를 사용하여 업데이트가 약물 간 변별력을 유지하는지 평가합니다. 만약 업데이트가 변별적 검색 신호와 충돌하면 그 가중치를 억제합니다.

3. 신뢰도 인식 검색 (Reliability-Aware Retrieval, RAR):

   • 미세 조정을 위한 타겟 특성 레이블이 없는 제로샷 설정에서는 검색을 통해 예측이 수행됩니다.
   • RAR은 다섯 가지 상호 보완적인 뷰(세 개의 MCR, PMRD 센터, 그리고 융합 표현)에 걸쳐 훈련 세트 내의 유사한 상위-$K$개 약물을 검색합니다.
   • 예측은 예측 신뢰도, 뷰 간 합의, 이웃 중첩, 레이블 커버리지로부터 추정된 특성별 신뢰도에 따라 집계됩니다. 이를 통해 모델은 단일 고정 표현에 의 না 의존하지 않고 정보가 풍부한 교차 뷰 증거를 활용할 수 있습니다.

주요 기여

• PMRD 프레임워크: 고정된 멀티모달 융합에서 벗어나 이질적인 관측으로부터 안정적인 약물-반응 증거를 학습하는 데 초점을 맞춘 새로운 접근 방식을 제시합니다.
• 분리 및 정제: MCR-MSR 분리를 통해 모달리티 특이적 편향의 영향을 줄이고, 국소 안정성과 약물 간 변별력을 위해 정제된 교차 모달 지원 표현을 구축하는 CRM 및 SGO 모듈을 개발했습니다.
• 적응형 검색: 특정 특성에 대한 신뢰도에 따라 다중 검색 뷰를 적응적으로 집계하여 강건한 제로샷 추론을 가능하게 하는 RAR을 도입했습니다.

실험 결과
프레임워크는 두 가지 공개 데이터셋인 ChEMBL2K(약물 2,355개, 태스크 41개)와 Broad6K(약물 6,567개, 태스크 32개)에서 평가되었습니다.

• 제로샷 성능: ChEMBL2K에서 PMRD는 평균 AUROC **77.8%**를 달성하여, 가장 강력한 지도 학습 기반 단일 모달 베이스라인(Morgan FP, 76.8%)과 CLIP(71.1%), CCL(71.5%) 같은 제로샷 베이스라인을 능가했습니다. 또한 AUROC > 0.85를 기록한 태스크 비율(37.1%)과 > 0.90을 기록한 태스크 비율(25.4%)에서도 가장 높은 수치를 보였습니다. Broad6K에서는 평균 AUROC **67.9%**를 달성하여 CLIP과 JOAO를 앞섰습니다.
• 하드 네거티브 분석: PMRD는 구조적으로는 다르지만 타겟을 공유하는 화합물을 "하드 네거티브"로 선택하는 비율을 크게 줄였습니다(동일 타겟 비율 약 10.4% vs 베이스라인 20–29%). 이는 구조적으로는 구별되지만 생물학적으로 연관된 화합물 간의 충돌이 적음을 나타냅니다.
• 어블레이션 연구 (Ablation Studies): MCR-MSR 분리 또는 CGA를 제거했을 때 성능이 약 3.4–3.6% 감소했습니다. RAR을 제거했을 때 가장 큰 하락(77.8%에서 67.8% AUROC로)이 발생하여, 적응형 검색의 결정적인 역할을 입증했습니다.
• 표현 분석: t-SNE 시각화 결과, PMD-센터 표현이 생물학적으로 일관된 국소 클러스터(예: CNS 수용체 조절, 키나아제 신호 전달)를 형성함을 보여주었습니다. 이는 모델이 단순히 구조가 아닌 메커니즘에 따라 약물을 조직화하는 데 성공했음을 시사합니다.

의의 및 주장
본 논문은 PMRD가 메커니즘 인지형 멀티모달 약물 표현 학습을 위한 효과적인 프레임워크를 제공한다고 주장합니다. 메커니즘 일관적 인자를 모달리티 특이적 노이즈로부터 분리하고 속성 기반의 손실 재가중치를 활용함으로써, 이 방법은 태스크별 지도 학습 없이도 미지의 약물 특성 태스크로의 약물 표현 전이성을 향상시킵니다. 실험 결과는 안정적인 교차 모달 반응 인자를 식별하는 것이 직접적인 융합이나 표준 대조 학습 방식보다 더 생물학적으로 일관된 약물 이웃과 더 신뢰할 수 있는 제로샷 예측을 이끌어낸다는 가설을 뒷받침합니다. 저자들은 향후 연구에서 추가적인 프로파일링 모달리티로 프레임워크를 확장하고, 외부 생물학적 증거를 통해 검색된 메커니즘 관계를 검증할 예정이라고 밝혔습니다.