Physics-Aware Auxiliary Losses Improve Out-of-Distribution Generalization of a GNN Synthesizability Filter

Sintesi Tecnica: Le perdite ausiliarie "physics-aware" migliorano la generalizzazione Out-of-Distribution di un filtro di sintetizzabilità basato su GNN

Problematica
I modelli generativi nel drug discovery (ad esempio, VAE, GFlowNet, modelli di diffusione) propongono frequentemente strutture molecolari innovative che si collocano ben al di fuori della distribuzione dei dati utilizzati per i filtri di sintetizzabilità a valle. Gli attuali filtri standard — SAScore, SCScore, RAscore e DeepSA — sono modelli puramente statistici addestrati su corpora etichettati di molecole "realizzabili" rispetto a quelle "difficili". Di conseguenza, questi filtri degradano proprio quando sono più necessari: quando valutano strutture innovative e out-of-distribution (OOD) generate da modelli creativi. Gli autori sostengono che i baseline puramente statistici manchino del bias induttivo necessario per generalizzare a nuovi spazi chimici, in particolare quando si passa dalle molecole simili ai farmaci (drug-like) ai complessi prodotti naturali.

Metodologia
Gli autori propongono l'integrazione di prior fisici economici e a forma chiusa come segnali di supervisione ausiliari in un backbone standard di una rete neurale a grafi (GNN), piuttosto che utilizzare le Physics-Informed Neural Networks (PINN). Essi argomentano che le PINN non siano adatte alla sintetizzabilità poiché il dominio è discreto (grafi molecolari) e non continuo, e non esiste un'equazione differenziale governante per la sintetizzabilità (che dipende da reagenti, cinetica e giudizio umano).

• Backbone: Una Graph Isomorphism Network a 4 strati con feature degli archi (GINE). Il modello produce un logit di classificazione per la sintetizzabilità (facile/difficile) e un valore scalare ausiliario.
• Perdite Ausiliarie (Auxiliary Losses): Due perdite specifiche "physics-aware" vengono aggiunte all'obiettivo di addestramento:
  1. Complessità Topologica: Una perdita di regressione Huber che supervisiona la testa ausiliaria con l'indice di Bertz (una metrica di complessità a forma chiusa calcolata tramite RDKit). Ciò costringe l'encoder a apprendere una complessità strutturale calibrata.
  2. Energia di Tensione (Strain Energy): Una perdita di penalità "soft" che supervisiona il modello utilizzando l'energia del campo di forza MM94, penalizzando le predizioni sicure di "facilità" su molecole con alta energia di tensione, agendo come un vincolo asimmetrico di tipo lagrangiano.
• Obiettivo di Addestramento: La perdita totale è una somma pesata della Binary Cross-Entropy (BCE) per il compito principale di classificazione e delle perdite ausiliarie ($L = BCE + \lambda_c L_{complexity} + \lambda_s L_{strain}$). Fondamentalmente, le teste ausiliarie vengono utilizzate solo durante l'addestramento; l'inferenza si basa esclusivamente sulla testa di classificazione, garantendo che non vi sia un aumento dei costi di implementazione.
• Protocollo Sperimentale:
  • Dati: Un corpus di 65.177 molecole che combinano HIV e Tox21 (drug-like) e COCONUT (prodotti naturali). Le etichette derivano dalle soglie di SAScore (<4 facile, >5 difficile).
  • Split OOD: Un protocollo di spostamento covariante a singola sorgente, addestrando su HIV+Tox21 e testando esclusivamente sui prodotti naturali COCONUT.
  • Valutazione: Un esperimento multi-run a 5 seed con intervalli di confidenza bootstrap accoppiati per valutare la significatività statistica, evitando le trappole della valutazione a singolo seed.

Contributi Chiave

1. Formulazione di Perdite Ausiliarie Physics-Aware: Un'implementazione pulita di due prior fisici a forma chiusa ed economici (indice di Bertz e tensione MM94) come regolarizzatori su una GNN standard.
2. Valutazione OOD Basata sulla Sorgente: Un protocollo rigoroso che isola il trasferimento del corpus per i filtri di sintetizzabilità, testando specificamente il divario tra molecole drug-like e prodotti naturali.
3. Evidenza Empirica del Miglioramento OOD: Una dimostrazione multi-seed, basata su intervalli di confidenza, che mostra come le varianti physics-aware producano miglioramenti OOD statisticamente significativi rispetto a un baseline puramente statistico.
4. Esempio Metodologico di Avvertimento: Gli autori documentano un fallimento del tipo "single-seed" in cui è stata generata una narrativa non monotona e fuorviante, che è stata smentita solo dalla valutazione multi-seed, evidenziando la necessità di una robusta validazione statistica nella chimica assistita dall'IA.

Risultati

• Performance In-Distribution: Tutte le varianti (baseline, +complessità, +tensione, +entrambi) performano in modo quasi identico sui dati in-distribution (Test AUC $\approx$ 0.996). Gli autori notano che questo è previsto, poiché la GNN sta essenzialmente memorizzando una funzione di etichettatura a forma chiusa (SAScore).
• Performance Out-of-Distribution: Sul set di test COCONUT, tutte e tre le varianti physics-aware superano significativamente il baseline (Mean OOD AUC 0.9774):
  • +Complexity: $\Delta = +0.0060$ (95% CI [+0.0023, +0.0102])
  • +Strain: $\Delta = +0.0032$ (95% CI [+0.0008, +0.0052])
  • +Both: $\Delta = +0.0066$ (95% CI [+0.0038, +0.0093])
  • La combinazione di entrambe le perdite fornisce le prestazioni migliori. Ogni intervallo di confidenza esclude lo zero, confermando la significatività statistica.
• Confronto: Sebbene il SAScore stesso raggiunga un'AUC perfetta (1.000) sul set di test, ciò è circolare poiché le etichette sono derivate dal SAScore. I valutatori indipendenti appresi come SCScore performano scarsamente (AUC 0.656) su questo split, evidenziando la mancanza di una verità fondamentale condivisa e la specifica sfida dei prodotti naturali.

Significatività e Rivendicazioni
Il paper rivendica esplicitamente risultati modesti ma statisticamente significativi. La significatività primaria non è che il modello raggiunga una precisione assoluta allo stato dell'arte, ma che il bias induttivo basato sulla fisica agisce come un efficace regolarizzatore per la generalizzazione OOD in un contesto in cui i modelli puramente statistici falliscono.

Gli autori sottolineano che:

1. L'effetto è visibile solo sotto valutazione OOD; le metriche in-distribution sono indistinguibili.
2. L'approccio mantiene costi di inferenza identici al baseline, rendendolo un miglioramento "drop-in".
3. Il paradigma "fisica come supervisione, non come residuo PINN" è una strategia valida e generalizzabile per domini discreti e combinatori dove le assunzioni di campi continui non valgono.
4. Lo studio funge da avvertimento metodologico contro l'affidamento a valutazioni a singolo seed nei pipeline scientifici guidati dall'IA, che possono produrre narrazioni false e non monotone.