MolMiner: Toward Controllable, 3D-Aware, Fragment-Based Molecular Design

기술 요약: MolMiner

문제 정의

심층 생성 모델은 특정 속성에 맞춤화된 후보 분자를 생성하기 위해 고처리량 스크리닝(HTS) 파이프라인에서 점점 더 많이 활용되고 있습니다. 그러나 기존의 무제한 모델들은 훈련 신호가 제한적이거나 표현력의 모호성이 높은 경우, 특히 화학적으로 타당하지 않은 분자 공간을 탐색하는 경우가 많습니다. 현재의 접근 방식들은 다음과 같은 구체적인 한계에 직면해 있습니다:

1. 기하학적 인식 결여: 많은 자기회귀(autoregressive) 프레임워크가 생성 과정 중에 동적인 3차원(3D) 기하 구조를 통합하지 못하며, 대개 고정되거나 정적인 구조에 의존합니다.
2. 고정된 구축 순서: 많은 모델이 고정된 롤아웃 순서(예: 사전 정의된 원자로부터 성장)에 의존하는데, 이는 분자 그래프의 내재적 대칭성을 반영하지 못하며 일반화 능력을 제한합니다.
3. 제한된 조건부 제어: 대부분의 모델은 단일 타겟 조건부 지원에 그치지만, 실제 신약 개발에는 여러 물리화학적 및 구조적 속성을 동시에 제어하는 것이 필요합니다.
4. 유효성 및 편향: 무제한 생성은 화학적으로 유효하지 않은 구조를 생성하거나 화학 공간의 편향된 탐색으로 이어질 수 있습니다.

방법론

저자들은 강력한 귀납적 편향(inductive bias)을 분자 생성에 부여하도록 설계된, 단편 기반(fragment-based), 기하학 인식형(geometry-aware), 순서 불가지론적(order-agnostic) 자기회귀 모델인 MolMiner를 소개합니다. 이 방법론은 네 가지 핵심 구성 요소로 이루어집니다:

1. 단편 기반 표현 (Fragment-Based Representation)

분자는 화학적으로 의미 있는 단편(고리 구조는 RDKit의 Smallest Set of Smallest Rings를 통해 식별)과 고립된 결합으로 분해됩니다. 이러한 단편들은 이산적인 토큰(discrete tokens)으로 취급됩니다. 단편화 과정에서 발생하는 연결 정보의 손실을 처리하기 위해, 모델은 원래의 원자 인덱스와 로컬 단편 인덱스 간의 매핑을 추적합니다.

2. 대칭 인식 부착 (Symmetry-Aware Attachment)

화학적 대칭성(예: 모든 탄소가 동일한 벤젠 고리)에도 불구하고 일관된 단편 부착 표현을 보장하기 위해, MolMiner는 대칭 인식 표준화 절차를 채택합니다. 이는 대칭적으로 동등한 부착 구성들을 열거하고 정준 참조 매핑(canonical reference mapping)을 구축하는 과정을 포함합니다. 이를 통해 부착 결정이 원자 인덱싱 및 단편 자기동형성(automorphisms)에 불변하도록 보장합니다.

3. 순서 불가지론적 롤아웃 (Order-Agnostic Rollout)

고정된 트래버설 순서(너비 우선 또는 깊이 우선 탐색)를 사용하는 모델과 달리, MolMiner는 순서 불가지론적 전략을 채택합니다. 각 단계에서, 현재 열려 있는 사이트 집합으로부터 초점 부착 사이트(focal attachment site)를 균등하게 샘플링합니다. 모델은 해당 사이트에 부착할 단편을 예측하거나 해당 사이트에 대한 종료 결정을 내립니다. 이 접근 방식은 다음과 같은 효과를 가집니다:

• 동일한 분자에 대해 여러 개의 유효한 구축 궤적을 허용합니다.
• 훈련 과정에서 데이터 증강 및 정규화 역할을 합니다.
• 분자가 완전히 조립될 때까지 부착 지점들이 독립적으로 닫히는 분산된 종료(decentralized termination)를 가능하게 합니다.

4. 기하학 인식 아키텍처 (Geometry-Aware Architecture)

모델은 디코더 전용 트랜스포머 아키텍처를 사용합니다. 매 단계마다 좌표를 명시적으로 생성하지 않고도 3D 구조 정보를 통합하기 위해, 아키텍처는 단편 중심점(centroid) 간의 유클리드 거리에 기반한 **글로벌 어텐션 바이어스(global attention bias)**를 통합합니다. 이 중심점들은 힘의 장(force-field)으로 완화된(예: UFF) 중간 구조로부터 도출됩니다. 어텐션 메커니즘은 거리 기반 커널에 의해 변조되어, 모델이 물리적으로 타당한 중간 기하 구조에 기반하여 예측을 수행할 수 있도록 합니다.

5. 훈련 및 조건화 (Training and Conditioning)

• 훈련 목표: 모델은 타겟 속성에 조건화된 순서 불가지론적 롤아웃 인수분해 하에서 분자의 로그 가능도(log-likelihood)를 최대화합니다. 타겟 속성에 적합한 시작 단편을 예측하기 위해 보조 피드포워드 네트워크가 훈련됩니다.
• 암묵적 조건화: 타겟 속성은 훈련 중에 입력으로 제공되지만, 보조 속성 손실(auxiliary property losses)은 적용되지 않습니다. 모델은 데이터 분포로부터 유기적으로 속성 정렬을 학습합니다.
• 다중 속성 제어: 시스템은 12가지 물리화학적 및 구조적 속성(예: logP, QED, SAS, 분자량)의 부분 집합에 대한 조건화를 지원합니다. 누락된 속성은 훈련 데이터의 경험적 결합 분포에 대해 훈련된 가우시안 혼합 모델(GMM) 사전 확률을 사용하여 완성됩니다.

주요 결과

무조건 생성 (Unconditional Generation)

ZINC 데이터셋의 일부(~200,000개 분자)에 대해 평가한 결과, MolMiner는 다음과 같은 성능을 보였습니다:

• 유효성: 구조적으로 100% 화학적 유효성을 보장합니다(GDSS와 같은 확산 기반 베이스라인이 약 39%의 경우에서 단편화된 출력을 생성한 것과 대조적임).
• 다양성 및 신규성: 높은 고유성(98.5%)과 신규성(99.9%)을 나타내며, 이는 최첨단 단편 기반(HierVAE) 및 확산 기반(GDSS) 모델과 대등한 수준입니다.
• 분포 충실도: 모델은 12가지 속성에 대해 참조 분포와 밀접하게 일치합니다. 분자량, 몰 굴절률, TPSA에서 미세한 편차가 관찰되었는데, 이는 롤아웃 과정에서의 조기 종료 편향에 기인하며, 이는 손실 재가중(loss reweighting)을 통해 부분적으로 교정되었습니다.

조건부 생성 (Conditional Generation)

• 보정(Calibration): MolMiner는 명시적인 속성 손실 없이도 12가지 속성에 대해 낮은 평균 절대 오차(MAE)와 높은 $R^2$를 달-성했습니다. 모델은 구조-속성 관계를 성공적으로 학습했습니다.
• 다중 속성 제어: 모델은 12가지 모든 속성에 대한 동시 조건화를 지원합니다. 단일 속성에 특화된 "전문가(specialist)" 모델이 해당 특정 지표에서 약간 더 우수한 성능을 보이지만, "일반가(generalist)" 12D 모델은 모든 축에 대해 높은 제어 가능성을 유지하며, 복잡한 다중 제약 사양을 충족하기 위해 각 속성당 작은 비용을 감수합니다.

타겟 다중 속성 생성 (Targeted Multi-Property Generation)

특정 "속성 윈도우"(예: 리핀스키의 법칙 5, CNS 약물 기준, 3D-풍부-강직 스캐폴드)를 타겟팅하는 실험에서:

• MolMiner는 무조건적 베이스라인(HierVAE, GDSS 및 무조건적 MolMiner)을 크게 능가했습니다.
• 히트율 상승: 조건화는 무조건적 베이스라인 대비 최대 5.25배, 훈련 분포 자체 대비 3.5배 높은 히트율 상승을 이끌어냈습니다.
• 편향 극복: 모델은 자연적으로 과소 표현되는 영역(예: 3D-풍부-강직 분자)으로 생성을 유도하는 데 성공했으며, 이는 조건화가 모델의 내재적 편향을 극복할 수 있음을 입증합니다.

의의 및 주장

본 논문은 MolMiner가 동적 기하학, 대칭 처리, 순서 불가지론적 생성, 그리고 확장 가능한 다중 속성 조건화를 단일 프레임워크 내에 통합한다고 주장합니다. 그 의의는 다음과 같습니다:

1. 보조 손실 없는 제어 가능성: 명시적인 속성 기반 손실 함수나 생성 중 오라클 평가 없이도 고차원 조건부 제어가 데이터 분포로부터 유기적으로 나타날 수 있음을 입증했습니다.
2. 운영적 관련성: 다중 속성 제약을 동시에 만족하는 분자를 생성하여 초기 후보 생성 시 모델의 내재적 편향을 효과적으로 극복할 수 있는 실용적인 도구를 제공합니다.
3. 해석 가능성 및 공동 설계: 단계적인 단편 기반 조립 과정은 해석 가능성을 지원하며, 사용자가 롤아웃 중에 단편이나 부착 지점을 제한함으로써 인간 참여형(human-in-the-loop) 설계로 나아갈 수 있는 경로를 열어줍니다.

저자들은 MolMiner를 다운스트림 최적화를 대체하는 모델이 아니라, 초기 후보 생성을 위한 화학적 유효성, 구조적 다양성 및 신뢰할 수 있는 속성 제어를 보장하는 견고한 생성 기초로서 포지셔닝하고 있습니다.