🤖 machine learning

Controllable Molecular Generative Foundation Models

이 논문은 원자 수준의 행동 공간 과제를 극복하고 사후 필터링 없이 다양한 재료 및 신약 개발 작업에서 우수한 성능과 유효성을 달성하기 위해 모티프 인식 그래프 확산 파이프라인과 강화 학습을 활용하는 제어 가능한 분자 생성 기반 모델인 CoMole 을 소개합니다.

원저자: Yihan Zhu, Yuhan Liu, Weijiang Li, Tengfei Luo, Meng Jiang

게시일 2026-05-18

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yihan Zhu, Yuhan Liu, Weijiang Li, Tengfei Luo, Meng Jiang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇 셰프에게 "매운 토마토 수프"와 같은 특정 요리를 가르치려 한다고 상상해 보세요. 하지만 로봇에게 소금 한 알이나 기름 한 방울씩만 지시한다면 어떨까요? 로봇이 소금 한 알을 넣고, 기름 한 방울을 넣고, 다시 소금 한 알을 넣는다면, 수프가 전혀 아닌 짠맛과 기름기가 섞인 엉망진창을 만들어낼지도 모릅니다. 요리가 먹을 수 있는지조차 알기 전에 로봇은 수천 번의 작고 위험한 결정을 내려야 합니다. 이것이 바로 과학자들이 AI 를 이용해 새로운 분자 (약물과 재료의 구성 요소) 를 설계하려 할 때 직면하는 문제와 정확히 같습니다.

이 논문은 로봇의 사고 방식을 변경함으로써 이 문제를 해결하는 새로운 AI 시스템인 CoMole을 소개합니다.

문제: "원자 단위"의 함정

현재 분자 설계를 위한 AI 모델들은 저 clumsy 로봇 셰프처럼 작동합니다. 즉, 하나의 탄소 원자를 추가한 다음 하나의 수소 원자를 추가하는 식으로 분자를 하나씩 만들어냅니다.

위험성: 너무 많은 작은 단계가 존재하기 때문에, AI 는 종종 초기에 작은 실수를 저지릅니다 (예: 화학 법칙을 위반하는 방식으로 두 원자를 연결하는 경우). 일단 그런 일이 발생하면 전체 분자가 무효화되고 AI 는 처음부터 다시 시작해야 합니다.
결과: AI 는 갇히게 됩니다. AI 는 보상 (예: "이 분자는 좋은 약물이다") 을 통해 학습하려 하지만, 실수를 깨닫는 순간에는 이미 늦은 경우가 많습니다. 논문은 이를 "궤적 붕괴 (trajectory collapse)"라고 부릅니다. 즉, AI 는 다시 올라갈 수 있기 전에 화학적 가능성의 절벽에서 떨어지는 것입니다.

해결책: "레고 블록" 전략

저자들은 화학자들이 개별 원자에 대해 생각하지 않고, 벤젠 고리나 특정 작용기처럼 함께 작동하는 원자 군집에 대해 생각한다는 사실을 깨달았습니다. 이들을 **"모티프 (motifs)"**라고 부릅니다.

이를 레고 조립에 비유해 보세요:

구식 방식 (원자 단위): 개별 플라스틱 알갱이를 접착제로 붙여 성을 짓는 것입니다. 한 알갱이를 잘못 붙이면 벽이 무너집니다.
CoMole 의 방식 (모티프 단위): 미리 만들어진 레고 블록 (벽, 창문, 탑) 으로 조립하는 것입니다. 이 크고 안정적인 블록들을 서로 끼워 맞춥니다.

CoMole은 이러한 레고 블록의 언어를 배우는 "기초 모델 (Foundation Model, 사전 학습된 지능형 기반)"입니다. "여기에 탄소를 추가한다"고 결정하는 대신, "여기에 벤젠 고리를 부착한다"고 결정합니다.

작동 원리: 3 단계 학습 과정

이 논문은 이를 실현하기 위한 3 단계 학습 과정을 설명합니다.

사전 학습 (도서관): 먼저 AI 는 수백만 개의 기존 분자를 읽어서 유효한 "레고 블록"(모티프) 이 어떤 모습인지 학습합니다. 이를 통해 안정적인 화학 구조에 대한 정신적 도서관을 구축합니다.
파인튜닝 (레시피 책): 다음으로, AI 는 구체적인 지시를 따르는 법을 학습합니다. "산소를 여과하는 데 좋은 분자가 필요하다"고 말하면, AI 는 그 목표에 맞춰 레고 블록을 배열하는 법을 배웁니다.
강화 학습 (맛보기 테스트): 마지막으로 AI 는 게임을 합니다. 분자를 만들고 목표 (예: "좋은 약물인가?") 를 충족하는지 확인한 후 점수를 받습니다.
- 마법 같은 점: 작은 알갱이 대신 큰 레고 블록으로 조립하기 때문에, 자주 붕괴하지 않습니다. 따라서 성공과 실패로부터 훨씬 더 빠르고 신뢰성 있게 학습할 수 있습니다.

결과: 더 좋고, 빠르며, 안전함

저자들은 CoMole 을 가스 필터용 신소재 설계, 특정 전자적 특성을 가진 고분자 생성, 새로운 약물 후보 물질 발굴이라는 세 가지 다른 과제로 테스트했습니다.

성능: 테스트한 9 가지 다른 작업 모두에서 CoMole 은 목표 달성에 가장 뛰어났습니다. 예를 들어, 특정 가스 투과성을 가진 고분자를 설계하라고 요청했을 때, CoMole 은 다음으로 가장 좋은 방법보다 거의 50% 더 정확했습니다.
유효성: 가장 인상적인 점은 CoMole 이 사람이 나중에 실수를 수정할 필요 없이 94% 의 확률로 유효한 분자를 생성한다는 것입니다. 다른 방법들은 종종 폐기해야 하는 깨진 분자를 만들어냅니다.
일반화: CoMole 은 이전에 본 적 없는 특성 (예: 특정 유형의 전기 에너지) 을 위해 설계하라고 요청받았을 때도, 작업의 "레시피"를 이해하기만 하면 처음부터 모든 것을 다시 학습할 필요 없이 여전히 훌륭한 결과를 낼 수 있었습니다.

결론

이 논문은 AI 가 원자 단위로 분자를 조립하려는 시도를 멈추고, 대신 사전 승인된 화학적으로 의미 있는 "조각"(모티프) 으로 조립하게 함으로써 훨씬 더 신뢰할 수 있고 제어 가능한 시스템을 만들 수 있다고 주장합니다. 이는 개별 모래 알갱이를 쌓아 집을 짓는 시도와, 사전 제작된 벽과 지붕을 끼워 맞추는 것의 차이와 같습니다. CoMole 은 분자 설계를 위한 범용 AI 기초 모델에 이 "레고" 접근법을 성공적으로 적용한 최초의 시스템입니다.

기술 요약: 제어 가능한 분자 생성 기반 모델 (CoMole)

문제 제기

특정 기능적 특성을 가진 구조를 생성하는 분자 역설계는 과학적 발견의 핵심적인 과제로 남아 있습니다. 최근 그래프 확산 방법이 분자 생성을 발전시켰지만, 이러한 방법들은 대부분 목표 특성에 대한 제어 가능성이 제한된 작업별 모델로 작동합니다. 이 분야는 재료 및 신약 발견을 아우르는 이질적인 설계 작업을 신뢰할 수 있는 제어 가능성과 함께 처리할 수 있는 통합 프레임워크가 부족합니다.

후속 훈련을 위해 강화 학습 (RL) 을 사용하여 이 격차를 해소하려는 시도는 원자 단위 그래프 확산에 적용될 때 치명적인 병목 현상에 직면합니다. 광범위한 저수준 원자별 행동 공간은 화학적으로 의미 있는 하위 구조 (모티프) 와 잘 정렬되어 있지 않아, 화학자들이 구조 - 특성 논리를 수립하는 데 사용하는 모티프와 괴리가 발생합니다. 논문에서 입증된 바와 같이, 원자 단위 RL 은 종종 "궤적 붕괴"로 고통받는데, 이는 단일 유효하지 않은 원자 선택이 생성을 실현 가능한 화학 다양체에서 벗어나게 만들어 회복을 어렵게 합니다. 이러한 취약성은 유효성 저하와 불안정한 신용 할당으로 이어져, 모델이 구조적 변화를 특성 보상과 신뢰성 있게 연관 짓는 것을 방해합니다.

방법론

저자들은 CoMole(제어 가능한 분자 생성 기반 모델) 을 제안합니다. 이는 모티프 인식 그래프 확산 파이프라인을 기반으로 구축된 통합 프레임워크입니다. 핵심 혁신은 그래프 확산 RL 프로세스를 원자 단위 의사결정 공간에서 모티프 인식 의사결정 공간으로 재매개변수화하는 것입니다.

1. 모티프 인식 그래프 토큰화

CoMole 은 사전 훈련 데이터에서 어휘를 학습하는 노드 쌍 인코딩 (NPE) 기반 토큰라이저를 사용합니다. 이 토큰라이저는 화학적으로 유효한 분자 그래프를 모티프 그래프( $z_0$ ) 로 매핑하며, 여기서 노드는 원자 불연속 단위를 나타냅니다:

단일 원자.
보존된 고리 단위.
데이터 기반 병합 하위 구조 (고수준 모티프).

이 표현은 부착 수준 정보와 모티프 간 결합 라벨을 보존하여 손실 없는 재구성을 가능하게 하면서 그래프 상태를 크게 압축합니다.

2. 3 단계 훈련 파이프라인

CoMole 은 다음 세 단계를 포함하는 기반 모델 패러다임을 따릅니다:

사전 훈련 (PT): 무조건부 확산을 사용하여 모티프 그래프 공간에서 전이 가능한 구조적 사전 지식을 학습합니다.
지도 미세 조정 (SFT): 모델에 여러 특성 (수치 및 범주형) 을 조건부로 부여하여 작업별 정렬을 도입합니다.
강화 학습 (RL): 조건부 역확산 정책을 근접 정책 최적화 (PPO) 를 통해 최적화하여 최종 목표 특성 보상에 정렬합니다. 핵심적으로, RL 은 모티프 인식 행동 공간에서 작동하며, 여기서 행동은 개별 원자 편집이 아닌 화학적으로 의미 있는 결정 (예: 벤젠 고리 부착) 에 해당합니다.

3. 이론적 정당성

이 논문은 원자 단위 RL 의 병목 현상을 특징짓는 이론적 분석을 제공합니다. 의사결정 복잡성을 역 커널의 범주적 요인의 수로 정의함으로써, 저자들은 모티프 인식 표현이 원자 - 모티프 압축 비율 ( $\chi$ ) 의 제곱에 비례하는 비율로 행동 공간 크기를 줄임을 보여줍니다. 이 감소는 KL 정규화 정책 최적화를 안정화하여 보상을 특성 관련 행동에 더 직접적으로 신용 할당하게 하고 궤적 붕괴를 방지합니다.

주요 기여

통합 기반 모델: CoMole 은 이질적인 역설계를 위해 설계된 최초의 제어 가능한 분자 생성 기반 모델 계열로 제시되며, 현재 작업별 방법과 실제 필요 사이의 격차를 해소합니다.
모티프 인식 RL: 이 연구는 의사결정 공간을 원자에서 화학적으로 의미 있는 모티프로 전환하여 그래프 생성에 대한 RL 을 안정화하는 새로운 접근법을 도입하며, 이것이 의사결정 복잡성을 줄이고 신용 할당을 개선하는 이유를 이론적으로 정당화합니다.
전이 가능한 제어 가능성: 이 프레임워크는 생성기를 고정하고 작업 임베딩만 최적화함으로써 보이지 않는 특성 목표에 대한 제어 가능성을 전이할 수 있음을 보여주며, 작업별 기준선과 경쟁력 있는 성능을 달성합니다.

실험 결과

CoMole 은 세 가지 이질적 벤치마크인 고분자 가스 투과성, 고분자 DFT 특성, 신약 발견 작업 (FreeSolv, BACE, BBBP) 에서 평가되었습니다.

제어 가능성: CoMole 은 모든 9 개 목표에서 제어 가능성 1 위를 기록했습니다.
- 고분자 벤치마크에서 최상의 기준선 대비 평균 절대 오차 (MAE) 를 44% 이상 감소시켰습니다.
- 신약 작업에서 FreeSolv MAE 를 13.1% 감소시켰으며, BACE 분류에서 1.0 정확도를 달성했습니다.
- 가장 강력한 기준선 (예: Graph DiT, FREED) 과 비교할 때 CoMole 은 MAE 를 최대 48.2% 감소시켰습니다.
유효성: 모델은 규칙 기반 수정이나 사후 필터링 없이 모든 데이터셋에서 0.94 이상의 유효성률을 유지했습니다. 반면, 원자 단위 RL 변형은 유효성 감소 (예: 0.95 에서 0.07 로) 를 겪고 제어 가능성을 유지하지 못했습니다.
일반화: 생성기를 고정하고 새로운 작업 임베딩만 학습하여 보이지 않는 DFT 목표 ( $E_i$ , $\epsilon_s$ ) 에 대해 테스트했을 때, CoMole 은 해당 목표에서 직접 훈련된 기준선과 경쟁력 있는 성능을 달성했습니다.
절대 실험: 모티프 토큰라이저를 원자 단위 표현으로 대체하면 유효성과 제어 가능성 모두에서 치명적인 실패가 발생하여 모티프 인식 설계의 필요성을 확인시켰습니다.

중요성 및 주장

이 논문은 CoMole 이 통합적이고 확장 가능하며 제어 가능한 분자 역설계를 위한 실용적인 기반을 제공한다고 주장합니다. 모티프 인식 정책 최적화를 통해 사전 훈련된 구조적 사전 지식을 제어 가능한 생성으로 전이함으로써, 모델은 다양한 역설계 작업을 지원하는 전이 가능한 구조 - 특성 지식을 학습합니다.

저자들은 그들의 설계가 그래프 생성에서 원자 단위 RL 의 근본적인 취약성을 해결한다고 강조합니다. 화학적으로 의미 있는 결정을 통해 최적화 기하학을 안정화함으로써, CoMole 은 화학적 유효성을 유지하면서 높은 제어 가능성을 달성하여, 가상의 생성과 실제 과학적 발견 사이의 격차를 해소할 수 있는 분자 및 고분자를 위한 기반 모델 기반 설계 시스템으로 가는 길을 제시합니다. 이 연구는 이러한 모델이 연구자들이 값비싼 시뮬레이션이나 실험에 착수하기 전에 이질적 제약 하에서 유망한 후보를 우선순위로 정하는 데 도움이 될 수 있음을 시사합니다.