On Improving Graph Neural Networks for QSAR by Pre-training on Extended-Connectivity Fingerprints

기술 요약: 확장 연결 지문으로 사전 학습하여 QSAR 을 위한 그래프 신경망 개선

문제 제기
분자 그래프 신경망 (GNN) 은 신약 개발을 위한 정량적 구조 - 활성 관계 (QSAR) 연구에서 보편화되었으나, 고전적인 분자 특성화 방법 대비 우월성은 여전히 논쟁의 대상입니다. GNN 은 분자 그래프에서 추상적이고 비선형적인 패턴을 학습할 잠재력을 제공하지만, 경험적 결과는 종종 신약 개발에서 흔히 발생하는 작고 노이즈가 많으며 이질적인 실험 데이터셋에서 고전적인 위상 지문보다 성능이 떨어지는 것으로 나타납니다. 또한, 기존 GNN 평가는 강력한 베이스라인에 대한 엄격한 통계 검정이 부족하고, 사전 학습과 벤치마크 데이터셋 간의 하위 구조 수준 데이터 누수를 고려하지 않으며, 분포 외 (OOD) 일반화를 충분히 테스트하지 못할 수 있는 벤치마크 분할에 의존하는 경향이 있습니다.

방법론
저자들은 위상 지문에 대한 자기지도 학습 사전 학습을 통해 QSAR 을 위한 GNN 성능을 개선하는 일반적인 전략을 제안합니다. 구체적으로, 확장 연결 지문 (ECFP) 을 예측하도록 사전 학습된 그래프 동형사상 네트워크 (GIN) 를 활용합니다.

• 사전 학습 전략: GIN 은 66 만 5 천 개의 분자로 구성된 QMugs 데이터셋에서 해시된 ECFP4 지문 (2048 비트 벡터) 을 예측하도록 사전 학습됩니다. 분자 그래프는 "하위 구조 토큰화"접근법을 사용하여 특성화되는데, 여기서 지역 원형 하위 구조 (Morgan 식별자) 가 열거되고 Sort & Slice(S&S) 알고리즘을 통해 학습 가능한 토큰으로 매핑됩니다. 이를 통해 모델은 원자 유형뿐만 아니라 하위 구조의 표현을 학습할 수 있습니다.
• 하류 평가: 사전 학습된 임베딩은 고정되어 분자 특성을 예측하기 위한 Light Gradient-Boosted Machines(LightGBM) 의 입력 특징으로 사용됩니다. 이 설정은 예측 헤드와 분자 표현의 품질을 분리합니다.
• 벤치마크 및 분할: 이 접근법은 Biogen(6 개의 ADMET 회귀 작업), MoleculeNet(3 개의 회귀, 2 개의 분류), ChEMBL(결합 친화도) 의 세 가지 데이터셋에 걸친 40 개의 작업에서 평가됩니다. 견고한 OOD 평가를 보장하기 위해 저자들은 Tanimoto 거리를 기반으로 한 Butina 클러스터링을 사용하여 균일한 크기의 도전적인 OOD 분할을 생성하고 최소한의 분자 중복을 확보하는 반복 교차 검증 전략 (5 폴드 CV 의 200 회 반복) 을 사용합니다.
• 데이터 누수 분석: 이 연구는 벤치마크 분자에 대한 다양한 Tanimoto 유사도 임계값 (0.5 에서 1.0) 을 사용하여 사전 학습 데이터셋 (QMugs) 을 필터링함으로써 하위 구조 수준의 데이터 누수 영향을 조사합니다.
• 통계적 엄밀성: 성능 차이는 200 회 CV 반복에 걸쳐 비모수 통계 검정 (Wilcoxon 부호 순위 검정) 과 Bonferroni 보정 및 효과 크기 추정 (순위 - 이분 상관, $r_{rb}$) 을 사용하여 통계적 유의성을 판단합니다.

주요 결과

• 동질적 데이터에서의 성능: 동질적인 약물 유사 분자로 구성된 Biogen 데이터셋에서, ECFP 사전 학습 GIN(PT-GIN) 은 6 개 회귀 작업 중 5 개에서 모든 평가된 베이스라인 (스크래치 학습 GNN 및 고전적 지문 포함) 보다 통계적으로 유의미한 개선을 달성했습니다. 효과 크기는 일관되게 최대 ($r_{rb} = 1.00$) 였으며, 이는 해당 작업에서 PT-GIN 이 모든 CV 반복에서 베이스라인을 능가했음을 나타냅니다.
• 이질적이고 복잡한 데이터에서의 성능: 사전 학습의 이점은 보편적이지 않았습니다. 이질적인 데이터 소스를 가진 MoleculeNet 작업 (예: 지용성, FreeSolv) 과 결합 친화도 예측 작업 (DRD2, Factor XA) 에서 PT-GIN 은 고전적 방법보다 성능이 낮거나 유의미한 이점을 보이지 않았습니다. 저자들은 데이터 이질성과 2D ECFP 가 결여된 3D 상호작용 정보의 필요성이 이러한 엔드포인트에 대한 특정 사전 학습 전략의 효능을 제한한다고 제안합니다.
• 데이터 누수 영향: 데이터 누수 분석은 반직관적인 결과를 드러냈습니다. 사전 학습과 벤치마크 데이터 간의 유사도를 높이는 것 (즉, 더 많은 "누수"를 허용하는 것) 이 일관되게 성능을 향상시키지 못했으며, 일부 경우 (예: Human CLint) 성능 저하로 이어졌습니다. 이는 사전 학습 코퍼스가 화학적 하위 구조의 다양한 어휘를 포함하는 한, 모델이 새로운 하위 구조 조합에 일반화하는 법을 배우므로, 이 특정 사전 학습 목표에서는 엄격한 하위 구조 필터링이 덜 중요할 수 있음을 시사합니다.
• 가상 스크리닝: 도전적인 MUV 가상 스크리닝 작업에서 모델은 종종 음성만 예측하여 낮은 매튜스 상관 계수 (MCC) 를 보였습니다. 단일 방법이 모든 표적에서 명확한 이점을 보인 사례는 없어 2D 위상 특징만으로는 OOD 가상 스크리닝의 어려움을 강조합니다.

의의 및 주장
본 논문은 위상 지문에 대한 자기지도 학습 사전 학습이 핵심 QSAR 작업, 특히 동질적인 ADMET 데이터를 포함하는 작업에서 GNN 의 OOD 성능을 향상시키는 간단하고 견고하며 효과적인 전략이라고 주장합니다. 저자들은 이러한 개선이 모델 복잡성을 증가시키거나 크고 노이즈가 많으며 레이블이 지정된 사전 학습 데이터셋을 요구하지 않고 달성된다고 강조합니다.

중요하게도, 이 연구는 사전 학습의 성공이 작업에 의존적임을 강조합니다. 동질적인 회귀 작업에는 효과적이지만, 데이터 이질성이나 3D 구조 정보가 필요한 엔드포인트가 제기하는 도전을 보편적으로 극복하지는 못합니다. 이 연구는 또한 엄격한 평가 프레임워크를 기여하여, 소표본 QSAR 설정에서 성능 차이를 검증하기 위해 통계적 검정과 효과 크기 추정이 필수적임을 보여줍니다. 마지막으로, 이 발견들은 위상 사전 학습의 경우 사전 학습 세트 내 화학적 하위 구조 어휘의 다양성이 벤치마크와 유사한 분자의 엄격한 배제보다 더 중요하며, 하위 구조 조합이 새로운 것으로 남아 있다면 가능하다고 시사합니다.