기술 요약: 속성 기반 합성 계획을 위한 마진 보정 분류기 안내

문제 제기

합성 계획은 목표 분자를 생산하기 위한 효율적인 화학 반응 시퀀스를 생성하는 것을 목표로 합니다. 데이터 기반의 단일 단계 (자기회귀) 역합성 모델은 크게 발전했지만, 일반적으로 견고한 반응 유형 (예: C-C 크로스 커플링) 을 선호하거나 위험한 중간체를 피하는 것과 같은 특정 화학자의 선호도를 고려하지 않고 작동합니다. 이러한 제약을 통합하기 위한 기존 접근법은 제한적입니다: 속성별로 생성기를 재학습하는 것은 계산 비용이 많이 들고 제약 조건 변경에 취약하며, 사후 필터링은 기본 모델이 이미 생성한 시퀀스로 탐색을 제한하여 유효하지만 탐색되지 않은 경로를 도달 불가능하게 만듭니다.

분류기 안내 (Classifier guidance) 는 보조 신호를 사용하여 추론 시 사전 학습된 생성기의 출력을 유도함으로써 경량 대안을 제공합니다. 그러나 저자들은 표준 분류기가 역합성 데이터에 교차 엔트로피 (CE) 손실로 훈련될 때 필요한 토큰 수준의 판별력을 제공할 수 없다는 근본적인 이론적 및 경험적 실패 모드를 확인했습니다. 희소한 단일 분해 반응 데이터셋에서 특정 접두사가 목표 속성으로 이어지지만 생성기가 선호하는 토큰으로 이어지는 "희소 셀"의 훈련 예제는 구조적으로 과소 대표됩니다. 결과적으로 CE 기반 분류기는 목표 속성으로 향하는 토큰 연속과 반대 방향으로 향하는 토큰 연속에 의미 있게 다른 확률을 할당하지 못하여 빔 탐색 중 생성기의 무조건적 분포를 무효화하는 데 비효율적이게 됩니다.

방법론: 시퀀스 완성 순위 매기기 (SCR)

교차 엔트로피 훈련의 한계를 극복하기 위해 저자들은 디코딩 중 연속을 판별할 수 있도록 토큰 수준 분류기를 보정하는 새로운 훈련 절차인 **시퀀스 완성 순위 매기기 (Sequence Completion Ranking, SCR)**를 제안합니다.

1. CE 실패의 이론적 분석

저자들은 CE 기반 분류기가 필요한 판별력 간격 ($\Delta_k > G_k$) 을 달성하기 위해 필요한 샘플 복잡성을 공식적으로 분석합니다. 역합성 데이터에서 목표 속성이 생성기가 선호하지 않는 토큰을 요구하는 접두사인 "희소 셀" 예제의 수는 샘플링 분산을 극복하기에 불충분함을 보여줍니다. 대규모 데이터셋을 사용하더라도 CE 추정량은 생성기의 선호도로 수렴하여 빔 탐색을 유도하는 데 필요한 신호를 제공하지 못합니다.

2. SCR 훈련 파이프라인

SCR 은 두 가지 상호 보완적인 수정을 통해 이를 해결합니다:

• 대조적 증강 (Contrastive Augmentation): 각 부분 시퀀스에 대해 마지막 토큰을 균일하게 무작위 어휘 토큰으로 대체하여 부정적 예제를 구성합니다. 이 토큰은 모든 반응 클래스와 구별되는 "catch-all" 레이블을 할당받습니다. 이러한 합성 증강은 오프-정책 위치에서 "희소 셀"을 채워 표준 주석이缺乏하는 클래스 간 경계 신호를 제공합니다.
• 마진 기반 순위 손실 (Margin-Based Ranking Loss): 사후 확률 추정에만 의존하는 대신, SCR 은 안내된 로그-점수에 직접적인 마진 제약을 부과합니다. 정답 토큰 $r^*_k$와 생성기의 최상위 대안 $\hat{r}_k$에 대해 손실은 다음을 강제합니다:
  $$\tilde{s}_\alpha(r^*_k) - \tilde{s}_\alpha(\hat{r}_k) \geq \gamma$$
  여기서 $\tilde{s}_\alpha$는 생성기의 로그 확률과 분류기의 로그 확률의 합입니다. 이 손실은 안내에 필요한 판별력 간격을 직접 설치하여 접두사별 샘플 수와 이를 분리합니다.

3. 이론적 보장

저자들은 이러한 단계별 요구 사항을 만족하는 분류기 (특히, 분기 접두사에서 속성 만족 연속에 확률 $c_1$을, 비만족 연속에 $c_2$를 할당하는 분류기) 가 안내된 빔 탐색 하에서 도달 가능한 속성 만족 시퀀스 집합을 확장함을 증명합니다 (명제 1). 이는 SCR 이 안내되지 않은 디코딩이 폐기할 목표들을 복구할 수 있음을 입증합니다.

주요 기여

1. CE 의 이론적 한계: 단일 분해 코퍼스에서 희소한 토큰 - 클래스 조합의 구조적 희소성으로 인해 교차 엔트로피 훈련이 역합성 데이터에 대한 분류기 안내에 필요한 토큰 수준의 판별력을 제공할 수 없음을 규명했습니다.
2. SCR 알고리즘: 대조적 증강과 마진 기반 순위 손실을 결합하여 분류기를 구성적으로 보정하여 판별력 간격을 충족시키는 시퀀스 완성 순위 매기기를 제안했습니다.
3. 도달 가능성 증명: SCR 기반 분류기가 안내된 빔 탐색으로 도달 가능한 화학 공간을 확장하여 이전에 도달 불가능했던 속성 만족 시퀀스를 이론적으로 보장하는 공식적 증명을 제시했습니다.
4. 경험적 검증: SCR 이 특정 반응 유형과 출발 물질로 생성을 효과적으로 유도하여 템플릿 기반 및 템플릿 프리 기반 방법 모두를 크게 능가함을 광범위한 평가를 통해 입증했습니다.

실험 결과

이 방법은 반응 유형 및 출발 물질 유사성 (Tanimoto) 을 안내 목표로 사용하여 USPTO-190 및 USPTO-50k 데이터셋에서 평가되었습니다.

• 단일 단계 역합성: USPTO-190-Steps(640 개 제품) 에서 SCR 은 모든 기준 방법 중 가장 넓은 유도 범위를 달성했습니다. 안내되지 않은 생성기가 완전히 실패한 287 개 제품 중 231 개에 대해 유효한 유도 전구체를 복구했습니다. SCR 은 유도 범위 0.64 를 달성하여 최상의 템플릿 기반 방법 (RetroKNN, 0.51) 을 능가하고 템플릿 프리와 템플릿 기반 방법 간의 다양성 격차를 해소했습니다.
• 다단계 합성: 190 개 표적에 대한 Retro* 탐색 사용:
  • 반응 유형 안내: 해결률을 안내되지 않은 경우 16.8% 에서 78.4% 로 높여 4.7 배 개선되었으며, 최상의 템플릿 프리 기준 방법보다 12.6 퍼센트 포인트를 초과했습니다.
  • Tanimoto 안내: 95.3% 의 해결률을 달성하면서 가장 높은 경로 다양성을 보였습니다.
  • 신규성: 두 신호 모두에서 안내는 어떤 기준 방법도 해결할 수 없었던 33 개 표적 (17.4%) 에 대해 유효한 경로를 해제했습니다.
• 다양성: 안내된 샘플과 안내되지 않은 샘플은 39% 의 자카드 중첩만 보여 SCR 이 기존 후보를 단순히 재순위 매기기가 아니라 진정한 새로운 화학 공간을 탐색함을 확인했습니다.
• 효율성: SCR 안내 탐색은 더 높은 해결률을 달성하면서도 템플릿 기반 방법보다 훨씬 적은 탐색 노드와 모델 호출을 필요로 했습니다.

중요성 및 주장

이 논문은 SCR 이 유도 가능한 합성 계획 문제에 대해 이론적으로 근거 있고 경험적으로 검증된 해결책을 제공한다고 주장합니다. 교차 엔트로피 훈련의 한계를 넘어선 SCR 은 화학자가 지정한 제약 조건 (반응 유형, 출발 물질) 을 재학습 없이 추론 시 자기회귀 모델에 통합할 수 있게 합니다.

저자들은 그들의 접근 방식이 사후 필터링이나 검색 수준 개입만으로는 불가능한 것보다 도달 가능한 화학 공간을 확장한다고 강조합니다. 이 방법은 화학적 유효성과 특정 사용자 선호도를 모두 존중하는 유연한 속성 기반 합성 계획 프레임워크를 제공하여 템플릿 프리와 템플릿 기반 접근법 간의 오랜 다양성 격차를 효과적으로 연결합니다. 이 연구는 하드 필터링이 탐색 프런티어를 너무 공격적으로 잘라내는 경우가 많다는 점에 비추어 볼 때, 토큰 수준 안내가 제약 조건을 부과하기 위한 더 우수한 세분화임을 시사합니다.