Multi-view biomedical foundation models for molecule-target and property prediction

이 논문은 그래프, 이미지, 텍스트 등 다양한 관점을 통합한 'MMELON'이라는 다중 뷰 분자 임베딩 기반 모델을 개발하여, 120 개 이상의 다양한 작업에서 단일 뷰 모델과 견줄 만한 성능을 입증하고 알츠하이머병 관련 GPCR 표적에 대한 강력한 결합체 후보를 발굴했음을 보여줍니다.

핵심

이 논문은 **"약물을 개발하는 데 있어 분자 (작은 화학 물질) 를 어떻게 더 잘 이해할 수 있을까?"**라는 질문에 대한 새로운 답을 제시합니다.

기존의 연구들은 분자를 이해할 때 보통 한 가지 방법만 사용했습니다. 예를 들어, 분자를 '문자열 (텍스트)'로만 보거나, '그래프 (연결된 점)'로만 보거나, '이미지 (그림)'로만 보는 식이었습니다. 하지만 분자는 매우 복잡해서, 한 가지 눈으로만 보면 중요한 정보를 놓치기 쉽습니다.

이 논문은 IBM 연구소와 클리블랜드 클리닉 연구팀이 **세 가지 눈을 동시에 사용하는 새로운 인공지능 모델 'MMELON'**을 개발했다고 발표합니다.

🧐 핵심 비유: "분자를 보는 세 가지 안경"

이 모델은 분자를 볼 때 세 가지 서로 다른 '안경'을 동시에 끼고 봅니다.

1. 문자 안경 (Text): 분자를 SMILES 라는 화학적 문자열로 봅니다. (예: "C-C-O"처럼 원자들이 어떻게 이어져 있는지 문자로 읽음)
2. 그림 안경 (Image): 분자를 2 차원 그림으로 봅니다. (예: 원자들이 어떤 모양으로 배치되어 있는지 시각적으로 파악)
3. 연결도 안경 (Graph): 분자를 점과 선으로 이루어진 네트워크로 봅니다. (예: 원자 (점) 와 결합 (선) 의 구조적 관계를 분석)

기존 모델은 이 중 하나만 선택해서 사용했지만, MMELON은 이 세 가지 정보를 모두 받아서 **"늦은 합성 (Late Fusion)"**이라는 방식으로 섞어줍니다. 마치 요리사가 재료의 맛 (문자), 모양 (그림), 그리고 식감 (구조) 을 모두 고려해서 최고의 요리를 만드는 것과 같습니다.

🚀 이 모델이 한 일 (주요 성과)

1. 2 억 개의 분자를 공부한 '대장' (Foundation Model)
이 모델은 2 억 개가 넘는 분자 데이터를 미리 학습했습니다. 마치 어린아이가 수백만 권의 책을 읽고 세상을 이해하는 것처럼, 이 모델은 다양한 분자 패턴을 스스로 배웠습니다.

2. 120 가지 이상의 다양한 시험에서 만점
이 모델은 용해도, 독성, 체내 대사 등 120 가지 이상의 복잡한 화학/생물학 시험을 치렀습니다. 결과는 놀라웠습니다.

• 한 가지 안경만 쓴 모델들도 각자 특정 시험에서는 잘했지만, 모든 시험에서 좋은 것은 아니었습니다.
• 세 안경을 다 쓴 MMELON은 어떤 시험에서도 가장 잘하는 모델과 거의 동급의 성적을 냈습니다. 즉, **"어떤 상황에서도 실수하지 않는 튼튼한 모델"**이 된 것입니다.

3. 알츠하이머병 치료제 후보를 찾아냈다 (실전 적용)
이 모델의 가장 큰 활약은 알츠하이머병과 관련된 단백질 (GPCR) 들을 찾아내고, 그 단백질에 잘 붙는 약 후보 물질을 찾아낸 것입니다.

• FPR1이라는 단백질에 잘 붙는 물질로 **'아세틸 - 글루타민'**이라는 장내 미생물 대사물질을 찾아냈습니다.
• ADA2A라는 단백질에는 **'이소소르비드 디니트레이트'**라는 기존 약물도 잘 붙는다는 것을 발견했습니다.
• 이 발견들은 컴퓨터 시뮬레이션 (분자 도킹) 으로도 검증되어, 실제 약으로 개발될 가능성을 높였습니다.

💡 왜 이것이 중요한가요?

약물 개발은 실패 확률이 매우 높고 비용이 많이 듭니다. 이 새로운 모델은 분자를 더 입체적이고 정확하게 이해함으로써, 실패할 확률을 줄이고 성공할 확률을 높여줍니다.

간단한 요약:

"기존에는 분자를 볼 때 '문자'나 '그림' 중 하나만 봤는데, 이제 '문자 + 그림 + 연결도'를 한 번에 보는 AI를 만들었습니다. 이 AI 는 약 2 억 개의 분자를 공부해서, 알츠하이머병 치료에 쓸 만한 새로운 약 후보들을 찾아냈습니다. 이는 마치 세 가지 감각을 모두 갖춘 명탐정이 사건을 해결하는 것과 같습니다."

이 기술은 앞으로 더 많은 질병을 치료할 새로운 약을 찾는 데 큰 역할을 할 것으로 기대됩니다.

기술 요약

논문 개요

이 논문은 바이오의학 연구에서 분자 표현 (Molecular Representation) 의 중요성을 강조하며, 단일 뷰 (Single-view) 기반의 한계를 극복하기 위해 그래프 (Graph), 이미지 (Image), 텍스트 (Text) 세 가지 관점을 통합한 새로운 파운데이션 모델 MMELON (Multi-view Molecular Embedding with Late Fusion) 을 제안합니다. 이 모델은 대규모 데이터로 사전 학습된 후 다양한 하위 작업 (분자 용해도, ADME 특성, GPCR 결합 등) 에서 강력한 성능을 입증했습니다.

---

1. 문제 정의 (Problem)

• 단일 표현의 한계: 기존의 분자 파운데이션 모델은 주로 SMILES 와 같은 텍스트 시퀀스, 분자 그래프, 또는 2D 이미지 중 하나의 표현 방식에 의존해 왔습니다. 각 표현 방식은 고유한 강점과 약점을 가지며, 특정 작업에서는 우수할 수 있지만 다른 작업에서는 성능이 떨어질 수 있습니다.
• 복잡한 화학적 특성: 분자의 본질적인 기하학적 구조, 대칭성, 그리고 화학적/생물학적 특성은 단일 표현만으로는 완전히 포착하기 어렵습니다.
• 데이터 부족 및 일반화: 레이블이 지정된 데이터의 부족과 방대한 화학 공간, 분자 구조의 이질성으로 인해 유용하고 일반화된 잠재 표현 (Latent Representation) 을 학습하는 것이 어렵습니다.
• 확장성 부재: 기존 멀티모달 접근법들은 소규모 데이터셋에 국한되거나, 대규모 사전 학습 (>1 억 개 분자) 과 하류 약물 발견 작업에서의 가치 정량화가 부족했습니다.

2. 방법론 (Methodology)

가. 아키텍처: MMELON

MMELON 은 세 가지 단일 뷰 (Single-view) 인코더와 이를 통합하는 지연 융합 (Late Fusion) 어그리게이터 모듈로 구성됩니다.

1. 단일 뷰 인코더 (Single-view Encoders):

   • Image (이미지): ImageMol 아키텍처 (CNN 기반, ResNet-18) 를 사용. 분자의 2D 시각적 표현을 학습.
   • Text (텍스트): MolFormer 아키텍처 (Transformer 기반) 를 사용. SMILES 문자열 시퀀스를 처리.
   • Graph (그래프): TokenGT 아키텍처를 기반으로 한 Graph-Transformer 를 사용. 화학 결합 그래프를 토큰 시퀀스로 변환하여 처리.
     • 혁신적 사전 학습 태스크: 노드 특징 마스킹, 엣지 예측, 그리고 Betti 수 예측 (위상학적 특징 예측) 을 도입하여 그래프의 위상적 구조를 학습하도록 함.

2. 사전 학습 (Pre-training):

   • 데이터: PubChem 과 ZINC22 에서 선별된 2 억 개 (200M) 의 분자 데이터셋 사용.
   • 전략: 각 단일 뷰 모델은 2 억 개의 분자 데이터셋에서 각각 3 에포크 (Epoch) 동안 사전 학습됨.

3. 지연 융합 (Late Fusion) 전략:

   • 사전 학습된 세 가지 인코더의 임베딩을 어텐션 (Attention) 기반 어그리게이터를 통해 통합합니다.
   • 각 뷰의 기여도는 학습 가능한 가중치 ($\alpha_m$) 로 결정되며, 이는 하류 작업에 따라 동적으로 조정됩니다.
   • 공식: $z^{mv}_i \propto \sum_{m \in M} \alpha_m z^m_i$
   • 2 단계 사전 학습: 어그리게이터 모듈 자체도 1 천만 개의 분자 데이터로 임베딩 재구성 (Reconstruction) 태스크를 통해 사전 학습하여 초기 가중치를 최적화합니다.

나. 하류 작업 (Downstream Tasks)

• 벤치마크: MoleculeNet, CYP (Cytochrome P-450) 억제, ComputationalADME 등 120 개 이상의 다양한 작업에 대해 미세 조정 (Fine-tuning) 수행.
• 케이스 스터디: 알츠하이머병 (AD) 관련 33 개의 GPCR (G 단백질 연결 수용체) 타겟에 대한 결합력 예측 및 약물/대사체 스크리닝 수행.

---

3. 주요 기여 (Key Contributions)

1. 대규모 멀티뷰 파운데이션 모델 개발: 2 억 개의 분자 데이터로 사전 학습된 최초의 통합 멀티뷰 (이미지, 그래프, 텍스트) 분자 파운데이션 모델을 제시했습니다.
2. 지연 융합 아키텍처의 효과 입증: 단일 뷰 모델들 중 최상위 성능을 내는 모델의 성능과 견줄 만한 강건한 (Robust) 성능을 보이며, 어떤 작업에서도 열성적인 결과를 내지 않는 것을 증명했습니다.
3. 해석 가능한 가중치: 각 뷰 (이미지, 그래프, 텍스트) 의 기여도를 학습된 가중치 ($\alpha$) 를 통해 시각화하고 해석할 수 있게 하여, 특정 작업에 어떤 표현이 중요한지 통찰을 제공합니다.
4. 새로운 그래프 사전 학습 태스크: 그래프의 위상학적 특징을 학습하는 Betti 수 예측 태스크를 도입하여 그래프 모델의 표현력을 향상시켰습니다.
5. 실제 약물 발견 적용: 알츠하이머병 관련 GPCR 타겟에 대한 강력한 결합체 (Strong binders) 를 발굴하고, 분자 도킹 (Molecular Docking) 을 통해 결합 모드를 검증했습니다.

---

4. 결과 (Results)

가. 벤치마크 성능

• 강건성 (Robustness): MMELON 은 120 개 이상의 다양한 작업 (용해도, 결합 활성, ADME-Tox 등) 에서 단일 뷰 모델들 (Graph, Text, Image) 과 비교해 일관된 상위권 성능을 보였습니다.
• 단일 뷰 비교: 전체적으로 Graph 모델이 단일 뷰 중 가장 우수한 성능을 보였으며, MMELON 은 Graph 모델의 성능을 거의 그대로 따라가는 결과를 얻었습니다.
• 상호 보완성: 이미지와 그래프 표현은 서로 다른 정보를 제공하며 (상관관계가 낮음), 텍스트는 그래프와 높은 상관관계를 보였습니다. 멀티뷰 모델은 이러한 보완적 정보를 활용하여 성능을 안정화했습니다.

나. GPCR 및 알츠하이머병 케이스 스터디

• 타겟 식별: Mendelian Randomization(MR) 및 멀티오믹스 데이터를 통해 알츠하이머병과 관련된 33 개의 GPCR 타겟을 식별했습니다.
• 결합체 발견:
  • FPR1 타겟: 장내 대사체인 아세틸 - 글루타민 (Acetyl-glutamine) 과 항산화제 글루타티온 (GSH) 이 강력한 결합체로 예측되었습니다.
  • ADA2A 타겟: 프락토스 1,6-이인산 (Fructose 1,6-biphosphate) 과 이소소르비드 디니트레이트가 예측되었습니다.
• 검증: 예측된 결합체들에 대해 분자 도킹 (Molecular Docking) 을 수행하여, 모델이 예측한 주요 결합 부위 (Attention Heatmap) 가 실제 단백질의 활성 부위 및 약물 결합 모드와 일치함을 확인했습니다. 특히, 이미지 뷰가 기능적 그룹 (아미드, 인산기 등) 에 높은 주의를 기울이는 것을 확인했습니다.

---

5. 의의 및 결론 (Significance)

• 약물 발견 워크플로우의 혁신: MMELON 은 다양한 화학적 표현을 통합하여 단일 표현의 편향을 줄이고, 신뢰할 수 있는 분자 특성을 예측할 수 있는 강력한 도구를 제공합니다.
• 확장성: 현재는 2D 기반 (그래프, 이미지, 텍스트) 이지만, 이 아키텍처는 3D 컨포머 (3D Conformers) 나 단백질 시퀀스 등 다른 모달리티로 쉽게 확장 가능합니다.
• 해석 가능성: 모델이 어떤 분자 특징 (이미지의 기능기, 그래프의 연결성 등) 에 기반하여 결정을 내리는지 가중치를 통해 해석할 수 있어, 신약 개발자의 의사결정을 지원합니다.
• 미래 전망: 이 연구는 컴퓨터 시뮬레이션 (In silico) 기반의 가상 스크리닝을 통해 실험실 (Wet-lab) 검증이 필요한 후보 물질을 효율적으로 선별하는 새로운 패러다임을 제시하며, 알츠하이머병을 포함한 난치성 질환의 치료제 개발에 기여할 것으로 기대됩니다.

이 논문은 분자 표현 학습의 새로운 표준을 제시하며, 멀티모달 접근법이 대규모 바이오의학 데이터에서 어떻게 더 풍부하고 정확한 예측을 가능하게 하는지를 체계적으로 증명했습니다.