SynLaD: Latent Diffusion for Generating Synthesizable Molecules Conditioned on 3D Pharmacophore Profiles

기술 요약: SynLaD

문제 정의

리간드 기반 약물 설계(LBDD)는 수소 결합 공여체, 수용체, 소수성 부위와 같은 상호작용 특징의 공간적 배치인 파마코포어 프로파일(pharmacophore profiles)에 의존하여 새로운 생성 활성 분자 발견을 유도합니다. 현재의 생성 모델들은 원하는 3D 분자 형태와 파마코포어 분포를 효과적으로 포착할 수 있지만, 합성 불가능한 분자를 생성하는 경우가 빈번합니다. 반대로, 합성을 고려한 생성 방법들은 풍부한 3D 화학적 특징을 조건화하는 데 실패하여, 특정 결합 특성을 가진 분자를 설계하는 능력이 제한됩니다. 이는 모델이 형상을 최적화하면 합성 가능성을 희생하거나, 그 반대의 상황이 발생하는 병목 현상을 초래하며, 결과적으로 점수가 높으면서도 실험적으로 실행 가능한 히트(hit) 화합물 발견을 저해합니다.

방법론

저자들은 3D 분자 설계와 합성 가능성을 통합하는 조건부 잠재 확산(conditional latent diffusion) 프레임워크인 SynLaD(Synthesis-aware Latent Diffusion)를 제안합니다. 이 아키텍처는 두 가지 별도의 단계로 작동합니다.

1. 다중 헤드 변이형 오토인코더 (Stage 1)

공유 인코더는 3D 분자(이산적 원자 유형과 연속적 좌표로 표현됨)를 연속적인 잠재 공간(latent space)으로 매핑합니다. 이 잠재 표현은 두 개의 특화된 헤드에 의해 디코딩됩니다.

• 3D 디코더: 양방향 마스크를 사용하는 트랜스포머로, 원자 유형과 3D 좌표를 재구성하여 기하학적 충실도를 보장합니다.
• 합성 디코더: 직향 비순환 그래프(DAG) 형태의 반응을 나타내는 선형 토큰 시퀀스인 합성 경로를 자기회귀(autoregressive) 트랜스포머를 통해 생성합니다. 이 디코더는 크로스 어텐션(cross-attention)을 사용하여 잠재 벡터에 조건화됩니다.
• 훈련 목적 함수: 디코더들은 3D 재구성을 위한 교차 엔트로피 및 MSE 손실과 합성 시퀀스 재구성을 위한 교차 엔트로피를 결합한 가중치 적용 손실 함수를 사용하여 공동 훈련되며, 잠재 공간을 표준 정규 분포와 정렬하기 위해 KL-발산(KL-divergence) 항에 의해 규제됩니다.

2. 조건부 잠재 확산 (Stage 2)

Stage 1에서 학습된 잠재 공간에 대해 확산 트랜스포머(Diffusion Transformer, DiT)가 훈련됩니다.

• 조건화(Conditioning): 확산 과정은 이산적 특징 유형(예: 공여체, 수용체, 방향족 고리)과 그 3D 좌표로 표현되는 파마코포어 프로파일에 의해 조건화됩니다. 이들은 트랜스포머 인코더를 통해 임베딩되며 크로스 어텐션을 통해 DiT에 주입됩니다.
• 생성: 추론 단계에서 DiT는 타겟 파마코포어를 조건으로 하여 새로운 잠재 벡터를 샘플링합니다. 생성된 잠재 벡터는 이후 3D 헤드와 합성 헤드에 의해 각각 디코딩됩니다.
• 반응 예측: 합성 디코더는 생성 과정에서 반응물과 반응 유형의 시퀀스는 출력하지만 최종 생성물의 정체는 직접 출력하지 않으므로, 생성된 반응물로부터 구조를 추론하기 위해 별도의 반응 예측 오라클(BART 기반)이 사용됩니다.

주요 기여

1. 이중 제약 잠재 공간: 본 논문은 3D 분자 구조와 합성 경로라는 두 가지 상보적이지만 종종 상충하는 표현을 결합하는 잠재 공간을 도입합니다. 공동 훈련은 잠재 벡터가 유효한 기하학적 구조와 실행 가능한 합성 경로로 동시에 디코딩될 수 있도록 독려합니다.
2. 파마코포어 조건부 잠재 생성: 고정된 반응 템플릿에 의존하거나 원시 3D 특징에 조건화되지 않는 기존의 합성 제약 모델들과 달리, SynLaD는 확산 모델을 사용하여 풍부한 3D 파마코포어 프로파일에 조건화된 잠재 공간을 샘플링합니다. 이를 통해 미리 정의된 좁은 화학 공간에 국한되지 않고 목표 지향적인 설계를 가능하게 합니다.
3. 엔드 투 엔드 평가 프로토콜: 저자들은 다양성, 합성 가능성, 타겟 조건부 히트 발견을 공동으로 평가하는 프로토콜을 제안하며, 이를 라이브러리 스크리닝 및 다른 아모티즈(amortized)/비아모티즈(non-amortized) 베이스라인 모델들과 명시적으로 대조합니다.

실험 결과

모델은 훈련을 위해 USPTO 데이터셋을, 생체 활성 히트 다양화를 위해 Lit-PCBA 벤치마크를 사용하여 평가되었습니다.

• 무조건부 생성: SynLaD는 별도로 훈련된 대응 모델들과 분자 품질(유효성, 다양성, 신규성) 면에서 대등한 성능을 보이면서도, 그럴듯한 합성 경로를 가진 샘플의 비율을 일관되적으로 향상시켰습니다. 공동 훈련이 3D 헤드로 디코딩된 분자의 합성 가능성을 개선한다는 점이 발견되었으며, 이는 합성 헤드가 더 실행 가능한 잠재 영역으로 생성을 유도함을 시사합니다.
• 파마코포어 조건부 생성: 인-디스트리뷰션(in-distribution) 작업에서, SynLaD는 무작위로 선택된 훈련 분자들보다 쿼리 분자와의 3D 파마코포어 및 형상 유사도가 현저히 높은 샘플을 생성하면서도 높은 합성 가능성을 유지했습니다.
• 스크리닝 사례 연구: 약 67k개의 분자가 포함된 라이브러리에 대한 브루트 포스(brute-force) ROCS 스크리닝과 비교했을 때, SynLaD는 훨씬 적은 수의 샘플(생성된 1,000개 vs 스크리닝된 67,000개)을 사용하여 더 높은 히트 수를 달-성했습니다.
• 생체 활성 히트 다양화: Lit-PCBA 벤치마크에서 SynLaD는 ShEPhERD(3D 확산), SynFormer(합성 인식 2D), REINVENT(RL 기반)를 포함한 베이스라인들을 능가했습니다. 구체적으로, SynLaD의 합성 디코더는 SynFormer보다 높은 ROCS 형상/컬러 중첩도와 더 많은 히트를 가진 후보 물질을 생성했으며, 3D 출력물은 히트 수와 합성 가능성 측면에서 ShEPhERD보다 우수한 성능을 보였습니다.
• 절제 연구(Ablation Studies): 3D VAE와 확산 모듈을 제거하고(합성 디코더를 파마코포어에 직접 조건화), SynLaD는 히트 수와 다양성에서 상당한 하락을 보였으며, 이는 구조 인식 잠재 구성 요소의 필요성을 입증했습니다. 마찬가지로 3D VAE를 SMILES 기반 VAE로 대체했을 때 히트 품질이 감소하였으며, 이는 명시적 3D 표현 학습의 가치를 확인시켜 주었습니다.

의의 및 주장

본 논문은 Syn-LaD가 단일 모델을 통해 형상이 정렬된 분자와 실행 가능한 합성 계획을 모두 생성할 수 있음을 보여주며, 3D 화학적 특징 조건화와 합성 가능한 분자 생성 사이의 간극을 효과적으로 메운다고 주장합니다. 저자들은 이 접근 방식이 반응 템플릿 기반 방법의 "템플릿 병목 현상"을 완화하고 브루트 포스 스크리닝의 계산적 제약을 피한다고 주장합니다.

이 연구는 3D 구조와 합성 경로를 위한 디코더를 공동 훈련하는 것이 상호 보완적임을 강조합니다: 이는 3D로 디코딩된 분자의 합성 가능성을 높이고, 형상 제약을 만족시키는 합성 디코더의 능력을 향상시킵니다. 저자들은 조건부 자기회귀 합성 디코더를 3D 정보가 포함된 잠재 표현을 통해 조건화함으로써, 다양하고 합성 가능하며 파마코포어에 정렬된 높은 수의 히트를 얻을 수 있다고 결론지으며, 이를 통해 비용이 많이 드는 실험적 스크리닝 파이프라인에 대한 의존도를 줄여 초기 단계 약물 발견을 가속화할 수 있다고 제안합니다.

저자들은 외부 반응 예측기에 의존한다는 점(이는 잠재적 편향을 유발할 수 있음)과 USPTO 데이터셋에 국한되어 있다는 점을 언급하며 프레임워크의 한계에 대해 겸허한 태도를 유지했습니다. 이들은 향-후 연구로서 더 큰 규모의 반응 데이터셋(예: Pistachio)으로 확장하고 크로스-디코더 간의 일치성을 개선하는 것을 제안했습니다.