Toward Closed-loop Molecular Discovery via Language Model, Property Alignment and Strategic Search

이 논문은 분자 언어 모델, 강화 학습, 몬테카를로 트리 탐색을 통합한 'Trio' 프레임워크를 제안하여, 기존 생성 모델의 한계를 극복하고 결합 친화도, 약물 유사성, 합성 접근성을 모두 향상시키면서도 분자 다양성을 4 배 이상 확장하는 폐쇄 루프형 표적 분자 설계 패러다임을 제시합니다.

핵심

이 논문은 **"새로운 약을 만드는 과정"**을 훨씬 더 똑똑하고 빠르며 이해하기 쉽게 바꾸는 새로운 인공지능 방법론인 **'Trio(트리오)'**를 소개합니다.

기존의 약물 개발은 마치 거대한 도서관에서 실수로 책 한 권을 뽑아보는 것처럼 비효율적이고, 비용이 많이 들며 실패할 확률이 높았습니다. Trio 는 이 문제를 해결하기 위해 세 명의 전문가가 팀을 이루어 일하는 방식을 도입했습니다.

이 세 명의 전문가를 쉽게 설명해 드릴게요.

1. Trio 의 세 명의 전문가 (핵심 구성 요소)

이 시스템은 세 가지 핵심 기술이 협력하여 작동합니다.

• 전문가 1: 'FRAGPT' (유능한 건축가)

  • 역할: 약을 만드는 '레고 블록'을 잘 아는 언어 모델입니다.
  • 비유: 기존 AI 들은 약을 만들 때 알파벳 하나하나를 나열하듯 원자 하나하나를 붙였기 때문에, 문법 오류가 나거나 이상한 모양의 분자가 만들어지곤 했습니다. 하지만 FRAGPT 는 이미 완성된 '레고 블록(분자 조각)' 단위로 말을 배우고 만듭니다. 마치 우리가 단어를 조합해 문장을 만들듯, 이 AI 는 이미 검증된 화학 조각들을 조합해 새로운 분자를 만듭니다. 그래서 실제 화학 법칙에 어긋나는 엉터리 분자를 만들 확률이 매우 낮습니다.

• 전문가 2: 'DPO' (엄격한 품질 관리팀)

  • 역할: 만들어진 분자가 '약'으로서 가치가 있는지 검사합니다.
  • 비유: 건축가가 멋진 건물을 지었더라도, 그 건물이 **사람이 살기 좋은지 (약효), 시공이 가능한지 (합성 용이성)**를 따져봐야 합니다. 이 품질 관리팀은 AI 가 만든 분자가 너무 복잡하거나 독성이 있거나, 실험실에서 만들 수 없는지 체크합니다. 약처럼 잘 작동하고, 실제로 만들 수 있는 분자만 통과시킵니다.

• 전문가 3: 'MCTS' (전략적 탐험가)

  • 역할: 수많은 가능성 중에서 가장 좋은 길을 찾아내는 지도자입니다.
  • 비유: 새로운 도시를 탐험할 때, 무작정 돌아다니는 게 아니라 지도와 나침반을 사용합니다. 이 AI 는 "이 방향으로 가면 좋은 결과가 나올까?"라고 수만 번 시뮬레이션을 돌려봅니다. 어떤 분자 조각을 먼저 붙여야 병균 (바이러스) 을 가장 잘 잡을지 전략적으로 계산하며, 좋은 방향은 더 깊이 파고들고 (Exploitation), 새로운 가능성은 넓게 탐색합니다 (Exploration).

---

2. Trio 가 어떻게 작동하나요? (창의적인 비유)

Trio 는 **마치 '마법 같은 요리 대회'**를 연상시킵니다.

1. 재료 준비 (FRAGPT): 요리사 (AI) 는 수백만 가지의 '완성된 소스'와 '재료'를 기억하고 있습니다. 그는 무작위로 재료를 섞는 게 아니라, 맛있는 조합을 알고 있는 레시피를 바탕으로 새로운 요리를 만들어냅니다.
2. 맛보기와 수정 (DPO): 요리사가 만든 요리를 맛봅니다. "이건 너무 짜다", "이건 만들기 너무 어렵다"라고 지적합니다. 요리사는 이 피드백을 받아 약처럼 효과 있고, 만들기 쉬운 요리로 다시 만듭니다.
3. 최고의 메뉴 선정 (MCTS): 이제 수많은 요리 후보들 중에서, 특정 질병 (예: 암세포) 을 가장 잘 공격할 수 있는 메뉴를 찾아야 합니다. AI 는 "이 재료를 추가하면 더 맛있을까? 아니면 저 재료를 빼는 게 나을까?"를 수천 번 시뮬레이션하며 최고의 조합을 찾아냅니다.

3. 기존 방법과 무엇이 다른가요?

• 기존 방법:

  • 블랙박스: "왜 이 약이 좋은지" 알 수 없었습니다. (마치 요리를 시켰는데 "맛있어"만 하고 레시피는 알려주지 않는 것)
  • 비효율: 수만 가지의 약을 무작위로 만들어서 하나씩 테스트해야 했습니다.
  • 실패: 만들어지는 약 중 실제 실험실에서 만들 수 없는 것들이 많았습니다.

• Trio 의 장점:

  • 해석 가능 (Interpretability): AI 가 어떤 '레고 블록'을 어떤 순서로 붙였는지 단계별로 보여줍니다. 그래서 과학자들이 "아, 이 부분이 약효를 높이는구나!"라고 이해할 수 있습니다.
  • 높은 성공률: 약효 (Binding Affinity) 는 약 8%, 약처럼 보이는 정도 (Drug-likeness) 는 11%, 실제로 만들기 쉬운 정도 (Synthetic Accessibility) 는 **12%**나 향상되었습니다.
  • 다양성: 기존에 없던 완전히 새로운 형태의 약을 4 배 이상 더 많이 찾아냈습니다.

4. 결론: 왜 이것이 중요한가요?

이 논문은 **"약 개발의 미래"**를 보여줍니다. Trio 는 단순히 약을 '발견'하는 것을 넘어, 과학자가 AI 와 함께 대화하며 (해석 가능), 실제로 만들 수 있는 (품질 관리), 최고의 약을 전략적으로 찾아내는 (탐색) 새로운 패러다임을 제시합니다.

마치 수천 년 걸리던 약물 개발 과정을, 똑똑한 AI 팀이 도와주어 훨씬 짧고 확실하게 만들어주는 것과 같습니다. 이제 우리는 더 빠르고, 더 안전하며, 더 혁신적인 약들을 만날 수 있게 되었습니다.

기술 요약

논문 제목: 언어 모델, 속성 정렬 및 전략적 탐색을 통한 폐루프 (Closed-loop) 분자 발견을 위한 Trio 프레임워크

1. 연구 배경 및 문제 정의 (Problem)

신약 개발은 시간과 비용이 많이 소요되며, 기존의 고처리량 스크리닝 (HTS) 및 도킹 기반 가상 스크리닝은 낮은 성공률과 확장성 한계에 직면해 있습니다. 최근 생성 모델 (Autoregressive, Diffusion, Flow-based 등) 이 등장하여 새로운 리간드 설계가 가능해졌으나, 다음과 같은 한계점이 존재합니다:

• 일반화 능력 부족: 단백질 - 리간드 복합체 데이터의 부족으로 인해 실제 적용 시 일반화 성능이 떨어집니다.
• 해석 가능성 (Interpretability) 결여: 블랙박스 모델로 인해 최적화 경로를 이해하거나 화학자가 신뢰하기 어렵습니다.
• 속성 간 균형 실패: 결합 친화도 (Binding Affinity) 만을 극대화하는 과정에서 약물 유사성 (Drug-likeness, QED) 과 합성 접근성 (Synthetic Accessibility, SA) 이 희생되는 경우가 많습니다.
• 구조적 비현실성: 분자를 원자 단위나 심볼 단위로 생성하는 방식은 화학적 문맥을 무시하여 비현실적인 분자 구조를 생성할 수 있습니다.

2. 제안된 방법론: Trio 프레임워크 (Methodology)

저자들은 Trio라는 새로운 폐루프 분자 생성 프레임워크를 제안합니다. 이는 세 가지 핵심 구성 요소의 통합으로 이루어집니다:

가. 분자 기반 언어 모델 (FRAGPT)

• 분자 언어 모델 (MLM): 기존 SMILES 기반이 아닌, FragSeq (BRICS 알고리즘을 통해 분해된 분자 조각 시퀀스) 을 기반으로 학습된 GPT 아키텍처 (FRAGPT) 를 사용합니다.
• 장점: 분자 전체를 한 번에 생성하거나 복잡한 링 인덱스를 사용하는 대신, 문맥을 인식한 조각 (Fragment) 단위로 점진적으로 분자를 조립합니다. 이는 화학적 문법 오류를 줄이고 생성된 분자의 유효성 (Validity) 을 높입니다.

나. 속성 정렬을 위한 직접 선호도 최적화 (DPO)

• 문제 해결: 학습된 FRAGPT 는 단순히 데이터 분포를 따를 뿐, 특정 약물 속성 (QED, SA) 을 최적화하지는 못합니다.
• 해결책: Direct Preference Optimization (DPO) 알고리즘을 적용하여 모델을 미세 조정 (Fine-tuning) 합니다.
  • 동일한 프래그먼트 접두사 (Prefix) 에서 시작하여 생성된 분자들 중 QED 와 SA 점수가 높은 것 (Positive) 과 낮은 것 (Negative) 을 쌍으로 구성합니다.
  • 이를 통해 모델이 결합 친화도뿐만 아니라 합성 가능성과 약물 유사성을 동시에 만족하는 분자를 생성하도록 선호도를 정렬합니다.

다. 전략적 탐색을 위한 몬테카를로 트리 탐색 (MCTS)

• 개념: 정렬된 FRAGPT 를 정책 (Policy) 으로 사용하여, 단백질 결합 주머니 (Pocket) 내에서 분자 생성 경로를 탐색합니다.
• 작동 원리:
  • Selection/Expansion: UCB(Upper Confidence Bound) 전략을 사용하여 새로운 화학적 유형 (Exploration) 과 유망한 중간체 (Exploitation) 사이의 균형을 맞춥니다.
  • Simulation: 생성된 분자에 대해 도킹 점수 (Vina Score) 를 계산하여 보상을 부여합니다.
  • Backpropagation: 보상을 트리 노드에 전파하여 최적의 분자 조립 경로를 찾습니다.
• 장점: 생성 과정이 단계별로 기록되므로, 어떤 분자 조각이 결합 친화도 향상에 기여했는지 해석 가능 (Interpretable) 한 경로를 제공합니다.

3. 주요 기여 (Key Contributions)

1. 폐루프 생성 패러다임: 분자 언어 모델링, 속성 정렬 (DPO), 전략적 탐색 (MCTS) 을 통합하여 일반화, 타당성, 해석 가능성을 동시에 달성하는 새로운 아키텍처를 제시했습니다.
2. FragSeq 기반 표현: 기존 SAFE 나 SMILES 의 한계를 극복하고, 문맥을 인식한 조각 단위 생성을 통해 화학적으로 타당한 분자 구조를 효율적으로 생성합니다.
3. 다목적 최적화: 결합 친화도만 추구하는 기존 모델과 달리, QED 와 SA 를 포함한 다목적 보상을 통해 실제 신약 개발에 적용 가능한 분자를 생성합니다.
4. 해석 가능성 제공: MCTS 탐색 트리를 통해 분자 최적화의 단계적 경로를 시각화하여, 화학자가 설계 의도를 이해하고 신뢰할 수 있게 합니다.

4. 실험 결과 (Results)

다양한 단백질 타겟 (PARP1, FA7, 5HT1B, BRAF, JAK2) 에 대한 실험을 통해 SOTA(State-of-the-Art) 모델들과 비교 평가되었습니다.

• 결합 친화도 (Binding Affinity): Trio 는 평균 Vina 점수에서 기존 최첨단 모델들보다 약 7.85% 향상된 성능을 보였습니다. 특히 Trio*(DPO 미적용) 는 모든 타겟에서 최고 성능을 기록했습니다.
• 약물 유사성 및 합성 접근성: DPO 를 적용한 전체 Trio 모델은 약물 유사성 (QED) 이 11.10%, 합성 접근성 (SA) 이 12.05% 개선되었습니다. 이는 성능 저하 없이 약물 특성이 향상되었음을 의미합니다.
• 분자 다양성 (Diversity): Trio 는 기존 방법들보다 4 배 이상 더 넓은 화학 공간 (Chemical Space) 을 탐색하여 더 다양한 화학적 구조를 생성했습니다.
• 유효성 및 유일성: 생성된 분자의 화학적 유효성 (Validity) 은 거의 100% 에 근접했으며, SAFEGPT 나 GenMol 과 같은 기존 모델보다 구조적 다양성 (Uniqueness, Diversity) 에서 우위를 보였습니다.
• 상호작용 분석: 생성된 리간드들은 표적 단백질의 결합 주머니에서 수소 결합, $\pi$-$\pi$ 적층, 소수성 상호작용 등 중요한 비공유 결합을 형성하며, 기존 리간드 대비 평균 46% 높은 결합 친화도를 예측받았습니다.

5. 의의 및 결론 (Significance)

이 연구는 Trio를 통해 AI 기반 신약 개발의 새로운 지평을 열었습니다.

• 실용성: 단순히 결합 친화도만 높은 분자가 아닌, 합성 가능하고 약물 특성을 갖춘 분자를 생성하여 실제 신약 개발 파이프라인에 바로 적용 가능한 솔루션을 제공합니다.
• 신뢰성: 블랙박스 모델의 한계를 극복하고, 분자 생성의 단계적 경로를 투명하게 보여주어 화학자의 의사결정을 지원합니다.
• 확장성: 분자 언어 모델의 일반화 능력과 MCTS 의 전략적 탐색 능력을 결합함으로써, 특정 단백질 타겟에 맞춰 유연하게 화학 공간을 탐색할 수 있는 강력한 도구가 되었습니다.

결론적으로, Trio 는 생성 모델의 해석 가능성과 실용성을 획기적으로 개선하여 차세대 AI 기반 신약 발견의 핵심 기술로 자리 잡을 것으로 기대됩니다.