Physics-Aware Auxiliary Losses Improve Out-of-Distribution Generalization of a GNN Synthesizability Filter

기술 요약: 물리 기반 보조 손실(Physics-Aware Auxiliary Losses)을 통한 GNN 합성 가능성 필터의 분포 외(OOD) 일반화 성능 향상

문제 정의
신약 개발용 생성 모델(예: VAE, GFlowNet, 확산 모델)은 종종 다운스트림 합성 가능성 필터에 사용된 학습 데이터 분포를 크게 벗어나는 새로운 분자 구조를 제안한다. 기존의 표준 필터들(SAScore, SCScore, RAscore, DeepSA)은 "제작 가능한" 분자와 "제작이 어려운" 분자로 라벨링된 코퍼스를 기반으로 학습된 순수 통계적 모델이다. 결과적으로, 이러한 필터들은 창의적인 모델이 생성한 새로운 구조를 평가해야 하는 시점, 즉 가장 필요할 때 성능이 저하된다. 저자들은 순수 통계적 베이스라인이 새로운 화학 공간(특히 약물 유사 분자에서 복잡한 천연물로 이동할 때)으로 확장하기 위해 필요한 귀납적 편향(inductive bias)이 부족하다고 주장한다.

방법론
저자들은 물리 정보 신경망(PINN)을 사용하는 대신, 저렴하고 폐쇄형(closed-form)인 물리적 사전 지식을 표준 그래프 신경망(GNN) 백본에 보조 감독 신호로 통합하는 방식을 제안한다. 저자들은 합성 가능성의 영역이 연속적인 공간이 아닌 이산적인(discrete) 분자 그래프이며, 합성 가능성을 결정하는 지배적인 미분 방정식(이는 시약, 반응 속도론, 인간의 판단에 의존함)이 존재하지 않기 때문에 PINN은 적합하지 않다고 논한다.

• 백본: 에지 특징(edge features)을 포함한 4층 GINE(Graph Isomorphism Network with edge features). 모델은 합성 가능성에 대한 분류 로짓(classification logit, 쉬움/어려움)과 스칼라 보조 값을 출력한다.
• 보조 손실(Auxiliary Losses): 두 가지 특정 물리 인식 손실이 학습 목적 함수에 추가된다:
  1. 위상적 복잡도(Topological Complexity): RDKit에 의해 계산되는 폐쇄형 복 복잡도 지표인 Bertz 지수를 감독하는 Huber 회귀 손실. 이는 인코더가 보정된 구조적 복잡도를 학습하도록 강제한다.
  2. 변형 에너지(Strain Energy): MMFF94 포스 필드 에너지를 사용하는 소프트 페널티 손실. 이는 변형 에너지가 높은 분자에 대해 확신을 가지고 "쉬움"이라고 예측하는 것에 대해 페널티를 부여하며, 비대칭 라그랑주 스타일의 제약 조건 역할을 한다.
• 학습 목적 함수: 전체 손실은 이진 교차 엔트로피(BCE)와 보조 손실들의 가중 합($L = BCE + \lambda_c L_{complexity} + \lambda_s L_{strain}$)이다. 결정적으로, 보조 헤드는 학습 중에만 사용되며, 추론 시에는 분류 헤드만을 사용하여 배포 비용의 증가를 방지한다.
• 실험 프로토콜:
  • 데이터: HIV 및 Tox21(약물 유사 분자)과 COCONUT(천연물)을 결합한 65,177개의 분자 코퍼스. 라벨은 SAScore 임계값(<4는 쉬움, >5는 어려움)으로부터 유도된다.
  • OOD 분할: 단일 소스 공변량 변화(single-source covariate shift) 프로토콜을 적용하여, HIV+Tox21 데이터로 학습하고 COCONUT 천연물 데이터로만 테스트한다.
  • 평가: 단일 시드 평가의 함정을 피하기 위해, 통계적 유의성을 평가하는 5-시드 멀티 런(multi-run) 실험과 쌍별 부트스트랩 신뢰 구간(paired bootstrap confidence intervals)을 사용한다.

핵심 기여

1. 물리 인식 보조 손실의 공식화: 두 가지 저렴하고 폐쇄형인 물리적 사전 지식(Bertz 지수 및 MMFF94 변형)을 표준 GNN의 정규화 도구로 구현한 깔끔한 방법론을 제시한다.
2. 소스 기반 OOD 평가: 합성 가능성 필터의 코퍼스 전이를 격리하여 테스트함으로써, 약물 유사 분자와 천연물 사이의 간극을 구체적으로 검증하는 엄격한 프로토콜을 제공한다.
3. OOD 개선에 대한 실증적 증거: 멀티 시드 및 신뢰 구간 기반의 실험을 통해, 물리 인식 변형 모델이 순수 통계적 베이스라인보다 OOD 성능에서 통계적으로 유의미하게 우수함을 입증한다.
4. 방법론적 경고: 저자들은 단일 시드 평가 시 발생할 수 있는 비단조적(non-monotone)이고 오도하는 서사가 생성될 수 있음을 기록하며, 이를 멀티 시드 평가를 통해 바로잡음으로써 AI 기반 화학 연구에서 견고한 통계적 검증의 필요성을 강조한다.

결과

• In-Distribution 성능: 모든 변형 모델(베이스라인, +복잡도, +변형, +둘 다)은 분포 내 데이터에서 거의 동일한 성능을 보인다(Test AUC $\approx$ 0.996). 저자들은 GNN이 사실상 폐쇄형 라벨링 함수(SAScore)를 암기하고 있기 때문에 이는 당연한 결과라고 언급한다.
• Out-of-Distribution 성능: COCONUT 테스트 세트에서, 세 가지 물리 인식 변형 모델 모두 베이스라인을 유의미하게 능가한다(평균 OOD AUC 0.9774):
  • +Complexity: $\Delta = +0.0060$ (95% CI [+0.0023, +0.0102])
  • +Strain: $\Delta = +0.0032$ (95% CI [+0.0008, +0.0052])
  • +Both: $\Delta = +0.0066$ (95% CI [+0.0038, +0.0093])
  • 두 손실을 모두 결합했을 때 가장 좋은 성능을 보였다. 모든 신뢰 구간이 0을 포함하지 않으므로 통계적 유의성이 확인된다.
• 비교: SAScore 자체는 테스트 세트에서 완벽한 AUC(1.000)를 달s하지만, 이는 라벨이 SAScore로부터 유도되었기에 순환 논리적이다. SCScore와 같은 독립적인 학습 스코어러는 이 분할에서 낮은 성능(AUC 0.656)을 보이는데, 이는 공유된 지상 실재(ground truth)의 부재와 천연물이 가진 특유의 어려움을 보여준다.

의의 및 주장
본 논문은 결과가 미미하지만 통계적으로 유의미하다는 점을 명시적으로 주장한다. 주요 의의는 모델이 절대적인 정확도에서 최첨단(SOTA) 성능을 달하는 것이 아니라, 물리에 근거한 귀납적 편향이 순수 통계 모델이 실패하는 환경에서 효과적인 정규화 도구로 작용한다는 것이다.

저자들은 다음을 강조한다:

1. 효과는 OOD 평가 하에서만 관찰되며, 분포 내 지표는 차이가 없다.
2. 이 접근 방식은 추론 비용을 베이스라인과 동일하게 유지하므로, 즉시 적용 가능한(drop-in) 개선책이다.
3. "PINN 잔차로서의 물리가 아닌, 감독으로서의 물리" 패러다임은 연속적인 장(field) 가정이 성립하지 않는 이산적, 조합적 영역에서 유효하고 일반화 가능한 전략이다.
4. 본 연구는 단일 시드 평가에 의존하는 AI 기반 과학 파이프라인이 어떻게 잘못된 서사를 만들어낼 수 있는지에 대한 방법론적 경고를 제공한다.