Back to Basics: Improving Molecular Understanding in LLMs via SMILES-Graph Translation

기술 요약: 기본으로 돌아가기: SMILES–그래프 변환을 통한 LLM의 분자 이해도 향상

문제 정의
분자 이해 및 생성 작업에서 거대 언어 모델(LLM)이 강력한 성능을 보임에도 불구하고, 현재의 접근 방식은 신뢰할 수 있는 구조적 근거(structural grounding)가 부족하다는 문제점을 안고 있다. 본 논문은 결정적인 괴리를 식별한다. 즉, 모델들이 다운스트림 작업에서는 성공적인 성과를 거두지만, 정규(canonical) SMILES 문자열로부터 중원자(heavy atom)나 결합 수를 세는 것과 같은 기본적인 구조 인식 작업에서는 실패한다는 점이다. 이는 "구조가 기능을 결정한다"는 근본적인 화학 원칙에 위배된다. 예비 평가 결과, 일반 목적의 LLM(예: GPT, Qwen)과 분자 특화 LLM(예: MolT5, ChemLLm) 모두 이러한 기초적인 작업에서 저조한 성능을 보였으며, 이는 모델들이 순차적인 SMILES 텍스트와 기저의 2D 분자 그래프 사이의 명시적 등가성을 포착하지 못하고 있음을 시사한다. 저자들은 단순한 텍스트 사전 학습 이후 곧바로 고차원적 추론으로 도약하려는 현재의 패러다임이 논리적 해석 가능성이 부족하며, 신뢰할 수 있는 추론에 필요한 구조적 인지 능력을 구축하는 데 실패했다고 주장한다.

방법론: MolBasic 프레임워크
이를 해결하기 위해 저자들은 근본적인 구조 이해에 분자 이해의 기반을 두도록 설계된 "구조 우선(structure-first)" 프레임워크인 MolBasic을 제안한다. 이 방법론은 세 가지 핵심 구성 요소로 이루어진다:

1. 다단계 구조 이해 벤치마크 (MSC):
   저자들은 2D 그래프 지각을 평가하고 훈련하기 위해 세 단계로 조직된 8개의 작업으로 구성된 벤치마크를 구축하였다:

   • 노드 수준 (Node Level): 중원자 수 세기 및 원소별 개수 세기.
   • 에지 수준 (Edge Level): 총 결합 수 세기 및 특정 결합 유형 세기.
   • 그래프 수준 (Graph Level): 분자식 변환, 부분 구조 인식, 그리고 정규 SMILES와 텍스트 형태의 그래프 인접 리스트 간의 양방향 변환.
     핵심 작업은 양방향 SMILES–그래프 변환이며, 이는 모델이 순차적 표현과 위상적 표현 사이의 등가성을 학습하도록 강제한다.

2. 계단식 학습 프레임워크 (Staircase Learning Framework):
   훈련은 인간 화학자의 인지 과정을 모방하여 점진적이고 선형적인 경로($v_{struct} \rightarrow v_{prop} \rightarrow v_{opt}$)를 따른다. 이 DAG 구조의 접근 방식은 고차원적 추론 능력이 신뢰할 수 있는 구조적 이해 위에 구축되도록 보장한다:

   • 1단계 (구조 이해): 근본적인 그래프 지각 확립.
   • 2단계 (구조적 특성 예측): 구조적 특징으로부터 특성(예: LogP, MW) 도출.
   • 3단계 (목적 기반 분자 최적화): 원하는 특성을 달성하기 위한 분자 수정.
     이 커리큘럼 학습 방식은 복잡한 작업이 기초 학습을 방해하는 것을 방지한다.

3. 사고의 사슬 (CoT) 감독:
   정확도와 해석 가능성을 높이기 위해, 본 프레임워크는 LoRA 미세 조정을 사용하여 각 작업에 대해 2단계 훈련 전략을 채택한다:

   • 1단계 (정답 학습): 모델이 도메인 지식 앵커를 확립하기 위해 올바른 정답($a$)을 예측하도록 학습한다.
   • 2단계 (추론 학습): 모델이 강력한 추론 모델(특히 GPT-5)로부터 추출된 사고의 사슬($z$)을 포함한 전체 응답을 학습한다.
     훈련 목적 함수는 추론 과정과 최종 결과를 공동으로 모델링한다: $P_\theta(a, z | S, q) = P_\theta(z | S, q) \cdot P_\theta(a | S, z, q)$. 여기서 CoT는 회귀 작업(예: 명시적 원자 파싱)을 위한 결정론적 중간 결과와 최적화 작업을 위한 "분석–전략–검증" 파이프라인을 포함한다.

주요 결과
실험은 PubChemSTM 데이터셋과 다양한 다운스트림 벤치마크에서 수행되었으며, MolBasic을 일반 LLM, 분자 특화 LLM, 그리고 전통적인 딥러닝 모델과 비교하였다.

• 구조 이해: MolBasic은 모든 MSC 작업에서 상당한 개선을 달와냈다. 특히, SMILES-to-Graph 변환에서 **94.65%**의 정확도를, Graph-to-SMILES에서 **85.66%**의 정확도를 달성하였는데, 이는 모든 베이스라인 모델(특화된 LLM 포함)이 이러한 양방향 변환 작업에서 거의 0에 가까운 성능을 보인 것과 대조적이다.
• 특성 예측: 구조적 특성 예측(MW, LogP, TPSA 등)에서 MolBasic은 LLM 기반 방법 중 최고의 성능을 보였으며, 대부분의 특성에 대해 0.97 이상의 피어슨 상관계수를 기록했고, 평균 절대 오차(MAE)는 Chemprop와 같은 특정 작업 전용 모델과 비슷하거나 더 우수했다.
• 분자 최적화: LogP를 증가시키는 작업에서 MolBasic은 LLM 기반 모델 중 가장 높은 LogP 개선치(2.27)를 달성하면서도 높은 유효성(98.7%)과 다양성(0.86)을 유지했다.
• 절제 연구 (Ablation Studies):
  • 구조 이해 단계를 제거했을 때("w/o Struct"), 다운스트림 성능이 단조 감소하여 구조적 지각이 필수적인 토대임을 확인하였다.
  • 훈련 순서를 무작위화했을 때("Mixed SFT"), 계단식 접근법보다 낮은 성능을 보여, 점진적 순서가 작업 간 간섭을 방지하는 데 매우 중요하다는 것을 나타냈다.
  • CoT 감독을 제거했을 때("w/o CoT"), 일관된 성능 저하가 발생하여 명시적인 중간 추론 가이드의 필요성을 입증하였다.

의의 및 주장
본 논문은 기초적인 구조 이해의 결여가 현재 분자 LLM의 근본적인 병목 현상이라고 주장한다. 구조를 우선시하고 순차적 텍는 위상적 그래프 구조와 정렬함으로써, MolBasic은 모델이 신뢰할 수 있고 해석 가능하며 일반화 가능한 분자 추론을 수행할 수 있게 한다. 저자들은 구조 우선 패러다임이 다운스트림의 성공과 구조적 실패 사이의 모순을 해결하며, 미래의 "AI 화학자" 애플리케이션을 위한 견고한 토대를 제공한다고 단언한다. 이 연구는 분자 그래프를 정확하게 지각하지 못한다면 고차원적 추론 작업 또한 본질적으로 신뢰할 수 없음을 강조한다.

한계점
저자들은 현재의 계단식 설계가 추론을 선형적인 사슬로 모델링한다는 점을 인정한다. 작업이 초기 구조 이해 단계에서 멀어질수록 구조적 지각의 직접적인 영향력이 약화될 수 있으며, 이로 인해 최적화 작업에서의 개선 정도가 특성 예측에 비해 덜 뚜렷하게 나타날 수 있다. 그들은 향ar 연구에서 LLM이 혼합 작업 훈련에서 관찰되는 간섭 없이 다양한 작업을 위한 기초로서 분자 구조를 명시적으로 활용할 수 있도록 하는, 더 유연하고 비선형적인 추론 프레임워크를 탐구해야 한다고 제언한다.