Sintesi Tecnica: Adattamento di Reti Neurali Evidenziali per la Fusione dei Vicini al Tempo di Test

Definizione del Problema

I modelli di deep learning per la predizione delle proprietà molecolari spesso forniscono stime puntuali senza una sufficiente quantificazione dell'incertezza (UQ) per guidare i flussi di lavoro sperimentali. Sebbene esistano metodi bayesiani e basati sull'incertezza, essi si concentrano tipicamente sulla calibrazione degli intervalli di predizione piuttosto che sul miglioramento attivo delle predizioni stesse. Gli approveri di apprendimento attivo tradizionali possono raffinare i modelli acquisendo nuovi dati, ma richiedono cicli di riaddestramento costosi e computazionalmente intensivi dopo ogni acquisizione.

La sfida centrale affrontata è come raffinare un modello di proprietà molecolari addestrato al tempo di test senza riaddestrarlo. Nello specifico, gli autori indagano se molecole di addestramento strutturalmente simili con etichette note possano servire come segnali correttivi per affinare le predizioni di una molecola di query. Un limite critico degli approcci basati sui vicini esistenti (ad es. $k$-NN) è la dipendenza dalla somiglianza strutturale (ad es. la somiglianza di Tanimoto dei fingerprint) come proxy della somiglianza di proprietà. Nei paesaggi QSAR ("Quantitative Structure-Activity Relationship") "ruvidi", caratterizzati da "activity cliffs" (scogliere di attività), molecole strutturalmente simili possono avere proprietà vastamente diverse, rendendo la somiglianza strutturale una guida inaffidabile per la selezione dei vicini.

Metodologia

Il documento propone PG-EVIKAL (Property-guided Evidential Kalman), un framework di raffinamento al tempo di test che integra reti neurali evidenziali con la fusione dei vicini tramite processi gaussiani (GP). La metodologia procede in tre fasi:

1. Baseline di Rete Neurale Evidenziale

La base è un modello di regressione evidenziale (utilizzando AttentiveFP come encoder) che restituisce i parametri di una distribuzione Normal-Inverse-Gamma. Ciò consente al modello di scomporre l'incertezza in due componenti da un singolo passaggio in avanti (forward pass):

• Incertezza aleatoria ($u_a$): Rumore irreducibile inerente alla relazione struttura-proprietà (ad es. rumore di misurazione sperimentale, flessibilità conformazionale).
• Incertezza epistemica ($u_e$): Ignoranza del modello dovuta a dati di addestramento limitati, che può essere ridotta incorporando osservazioni rilevanti.

2. Fusione dei Vicini tramite Filtro di Kalman

Il framework tratta l'insieme di addestramento come una fonte di segnali correttivi. Per una molecola di query $q$, il modello evidenziale fornisce una media prior ($\mu_0$) e una varianza prior ($P_0 = u_e$). Le molecole vicine del set di addestramento sono trattate come osservazioni rumorose della vera proprietà della query.

• Modello di Rumore: Il rumore di osservazione $R_k$ per un vicino $k$ è modellato come $R_k = u_a + C(1 - \text{sim}_k)^2$, dove $\text{sim}_k$ è la somiglianza di Tanimoto. Ciò assicura che anche un vicino strutturalmente identico non possa ridurre l'incertezza al di sotto del pavimento aleatorio, mentre i vicini strutturalmente distanti contribuiscono con un rumore maggiore.
• Meccanismo di Fusione:
  • EVIKAL: Un filtro di Kalman scalare che elabora i vicini sequenzialmente. Assume che i vicini siano indipendenti, il che può portare a un conteggio eccessivo di evidenze correlate.
  • GP-EVIKAL: Un approccio Gaussian Process a batch che elabora tutti i $K$ vicini simultaneamente. Utilizza un kernel di covarianza di Tanimoto per modellare esplicitamente le correlazioni tra i vicini, penalizzando le informazioni strutturali ridondanti.

3. Selezione dei Vicini Guidata dalle Proprietà (PG-EVIKAL)

Gli autori identificano che la sola somiglianza strutturale è insufficiente per selezionare vicini informativi. Per affrontare questo, introducono PropDist, un MLP (Multi-Layer Perceptron) leggero addestrato a predire la distanza assoluta delle proprietà tra coppie di molecole basandosi sui loro fingerprint (operazioni bitwise AND e XOR dei fingerprint ECFP4).

• Selezione a Due Fasi: All'inferenza, i 500 vicini strutturalmente più simili vengono recuperati tramite somiglianza di Tanimoto. PropDist poi riclassifica questi candidati in base alla loro predetta rilevanza di proprietà.
• Fusione Finale: I top $K$ vicini (selezionati dalla rilevanza di proprietà riclassificata) vengono fusi utilizzando l'aggiornamento del posteriore GP-EVIKAL. Ciò garantisce che l'algoritmo di fusione riceva vicini le cui etichette sono coerenti con il modello di rumore assunto.

Contributi Chiave

1. Framework PG-EVIKAL: L'introduzione di un meccanismo di selezione dei vicini guidato dalle proprietà che apprende una metrica di distanza delle proprietà per riclassificare i candidati strutturalmente simili. Questo affronta il problema delle "activity cliffs" dove la somiglianza strutturale non garantisce la somiglianza di proprietà.
2. Unificazione Teorica: Il lavoro formalizza la connessione tra la decomposizione dell'incertezza evidenziale e la fusione dei vicini al tempo di test. Dimostra che l'incertezza epistemica funge da prior che può essere raffinata dai vicini, mentre l'incertezza aleatoria stabilisce un limite inferiore rigido sulla precisione raggiungibile.
3. Metrica Diagnostica (Smoothness QSAR): Gli autori definiscono un rapporto di fluidità QSAR ($s$) per diagnosticare quando la fusione dei vicini è probabile che abbia successo. Stabiliscono una soglia empirica ($s < 0.65$) in cui i vicini strutturali forniscono un segnale correttivo affidabile, e mostrano come le prestazioni degradino su paesaggi rugosi o quando la copertura strutturale è scarsa.
4. Confronto tra Algoritmi di Fusione: Il documento confronta sistematicamente il filtraggio di Kalman sequenziale (EVIKAL), i processi gaussiani in batch con vicini correlati (GP-EVIKAL) e la selezione guidata dalle proprietà (PG-EVIKAL), identificando la qualità della selezione dei vicini come il collo di bottiglia primario per l'accuratezza del raffinamento.

Risultati

I metodi sono stati valutati su 16 dataset molecolari che spaziano per solubilità, lipofilia, inibizione della chinasi, legame ai recettori, tossicità e target di chimica quantistica.

• Miglioramenti dell'Accuratezza: PG-EVIKAL ha ridotto l'Errore Quadratico Medio (RMSE) rispetto alla baseline evidenziale in 14 dei 16 dataset. La riduzione mediana è stata del 19,4%.
  • Sono stati osservati guadagni significativi su dataset "smooth" (ad es. CDK2: $-42,4\%$, BACE: $-38,9\%$, LD50: $-38,2\%$).
  • Su dataset con "tetto di accuratezza" (QM8, QM9) dove il modello base cattura già quasi tutta l'informazione apprendibile dalla sua rappresentazione topologica, i guadagni sono stati trascurabili o inesistenti.
  • Sul dataset FreeSolv, il metodo è fallito a causa dell'estrema scarsità strutturale (bassa somiglianza di Tanimoto tra la query e i vicini più prossimi), evidenziando che la copertura strutturale è un prerequisito per il successo.
• Calibrazione: PG-EVIKAL ha migliorato la calibrazione (misurata tramite la Probabilità di Copertura dell'Intervallo di Predizione al 90%, PICP@90) in 14 dei 16 dataset. Selezionando vicini rilevanti per le proprietà, il metodo ha evitato l'eccessiva confidenza spesso vista nella semplice media dei vicini o nella selezione basata solo su Tanimoto.
• Scenari di Saggio Sequenziale: In uno scenario di saggio sequenziale simulato (incorporando nuovi dati senza riaddestramento), PG-EVIKAL ha eguagliato o superato le prestazioni del pieno riaddestramento del modello su paesaggi smooth, particolarmente quando i dataset iniziali erano piccoli.
• Costo Computazionale: Il metodo aggiunge circa $3\times$ di overhead a un singolo passaggio in avanti del modello (dominato dal lookup dei vicini e dalla risoluzione del GP), il che è significativamente più economico rispetto al Monte Carlo Dropout o agli ensemble profondi.

Significato e Rivendicazioni

Il documento sostiene che la decomposizione dell'incertezza evidenziale non sia meramente un obiettivo di calibrazione, ma una risorsa di inferenza azionabile. Trattando l'insieme di addestramento come una fonte di segnali correttivi al tempo di test, i professionari possono raffinare le predizioni delle proprietà molecolari senza il costo computazionale o i requisiti di dati richiesti dal riaddestramento.

Gli autori sottolineano che il successo di questo approccio è contingente su due fattori:

1. Smoothness QSAR: Il paesaggio struttura-proprietà sottostante deve essere abbastanza fluido affinché i vicini strutturali siano informativi.
2. Qualità dei Vicini: La somiglianza strutturale deve essere integrata dalla rilevanza delle proprietà. Il documento dimostra che l'algoritmo di fusione (GP vs. Kalman) è secondario alla qualità della selezione dei vicini; senza la selezione guidata dalle proprietà, anche gli algoritmi di fusione sofisticati falliscono nel migliorare l'accuratezza su paesaggi complessi.

Questo lavoro fornisce un meccanismo pratico per migliorare le predizioni delle proprietà molecolari e la calibrazione dell'incertezza interamente al tempo di test, offrendo un'alternativa valida all'apprendimento attivo per scenari in cui il riaddestramento è impraticabile o i dati sono scarsi.