Data-driven sparse identification of governing PDEs via knockoff filters and multi-criteria trade-offs

Sintesi Tecnica: Identificazione sparsa guidata dai dati delle PDE governative tramite filtri knockoff e compromessi multi-criterio

Enunciato del Problema
La scoperta di equazioni differenziali alle derivate parziali (PDE) parsimoniose da dati osservativi rumorosi rappresenta una sfida centrale nella scienza guidata dai dati. I framework esistenti, come l'Identificazione Sparsa delle Dinamiche Non Lineari (SINDy), costruiscono tipicamente grandi librerie sovracomplete di termini candidati (polinomi e derivate spaziali) e applicano regressioni sparse per identificare l'equazione governativa. Tuttavia, queste librerie di candidati soffrono intrinsecamente di multicollinearità estrema. Questa proprietà rende gli algoritmi standard di regressione sparsa suscettibili al rumore osservativo, portando spesso alla selezione di termini spurii (falsi positivi) anziché dei veri meccanismi fisici. Inoltre, i metodi convenzionali che si basano su soglie euristica, validazione incrociata o criteri di informazione (ad es. AIC, BIC) mancano di garanzie statistiche formali riguardo al Tasso di Falsi Positivi (FDR). Di conseguenza, i praticanti non possono garantire matematicamente che un'equazione scoperta catturi una fisica genuina piuttosto che artefatti del rumore. Sebbene gli approcci bayesiani e le architetture simboliche profonde offrano quantificazione dell'incertezza o flessibilità, non forniscono un controllo del FDR su campioni finiti.

Metodologia: KO-PDE-IDENT
Gli autori propongono KO-PDE-IDENT, un framework a tre stadi che sposta la scoperta delle PDE dall'ottimizzazione euristica all'inferenza statistica fondata. Il metodo integra il filtraggio knockoff per un screening rigoroso, l'eliminazione ricorsiva delle caratteristiche per il raffinamento e la presa di decisioni multi-criterio (MCDM) per la selezione finale.

1. Screening Controllato dal FDR tramite Filtri Knockoff Model-X:
   Il primo stadio affronta i problemi di multicollinearità e rumore costruendo un insieme di supporto di termini candidati con un FDR su campioni finiti garantito.

   • Formulazione Debole: Per mitigare l'amplificazione del rumore intrinseca nella differenziazione numerica, la PDE è formulata in senso debole (integrale) utilizzando funzioni di peso lisce, trasferendo le derivate sulle funzioni di prova prive di rumore.
   • Costruzione Knockoff: Per ogni termine candidato nella libreria, viene generata una copia sintetica "knockoff". Queste copie sono statisticamente indistinguibili dagli originali nelle loro correlazioni con altri termini, ma sono condizionalmente indipendenti dalla risposta (la derivata temporale). Ciò permette loro di fungere da controlli negativi.
   • Statistiche delle Caratteristiche (SHAP-DS): Il framework introduce una nuova statistica delle caratteristiche, SHAP-DS, che accoppia un solver di selezione adattiva del miglior sottoinsieme vincolato da $\ell_0$ (abess) con le Spiegazioni Additive SHapley (SHAP). La statistica è definita come la differenza tra l'importanza SHAP del termine originale e quella del suo knockoff ($W_j = Z_j - \tilde{Z}_j$). Questo approccio è computazionalmente efficiente e soddisfa la proprietà "flip-sign" richiesta per un'inferenza knockoff valida.
   • Aggregazione: Per ridurre la casualità intrinseca nelle singole realizzazioni knockoff, il metodo aggrega multiple realizzazioni utilizzando la procedura e-value-based Benjamini–Hochberg (e-BH). Questo rende il filtro deterministico preservando il controllo del FDR. Il framework regola adattivamente il FDR target per garantire che l'insieme di supporto rimanga sovracompleto (contenente tutti i termini veri) minimizzando al contempo i falsi positivi.

2. Raffinamento tramite Eliminazione Ricorsiva delle Caratteristiche (RFE):
   Anche con il controllo del FDR, termini spurii altamente correlati possono persistere. Il secondo stadio raffina l'insieme di supporto utilizzando la RFE nello spazio di attribuzione delle caratteristiche.

   • Classificazione SHAP: I termini sono classificati in base ai loro valori SHAP assoluti medi.
   • Test di Ipotesi Perturbati da Knockoff: Per i termini a classifica inferiore, il metodo esegue un test di rango con segno di Wilcoxon a una coda. Confronta la perdita dei minimi quadrati penalizzata del modello originale con quella di un modello perturbato in cui il termine candidato è sostituito dalla sua copia knockoff. Se il modello sostituito con knockoff performa significativamente meglio (o ugualmente bene), il termine originale è considerato statisticamente non necessario e rimosso. Questo stadio garantisce che vengano mantenuti solo i termini con contributi marginali genuini.

3. Selezione del Modello tramite Presa di Decisioni Multi-Criterio (MCDM):
   Lo stadio finale seleziona l'unica equazione governativa ottimale dall'insieme raffinato di candidati. Riconoscendo che singoli criteri di informazione sono insufficienti per bilanciare complessità, accuratezza e incertezza, gli autori formulano questo come un problema MCDM.

   • Generazione dei Candidati: La selezione del miglior sottoinsieme enumera tutte le possibili alternative PDE sul supporto ridotto.
   • Criteri di Valutazione: Ogni alternativa è valutata su sei criteri distinti: (1) accuratezza predittiva distribuzionale (tramite regressione quantile conformalizzata), (2) complessità strutturale, (3) complessità informativa robusta (RICOMP-MM), (4) incertezza dei coefficienti (tramite regressione della funzione di influenza ricalibrata), (5) mancata calibrazione (tramite decomposizione Murphy–Ehm) e (6) un criterio di larghezza-copertura.
   • Aggregazione della Classifica: Un insieme di cinque algoritmi MCDM (TOPSIS, VIKOR, COMET, PROMETHEE-II e CoCoSo) genera classifiche individuali. Queste vengono aggregate utilizzando metodi di consenso (conteggio Borda, Schulze, ecc.) per identificare l'equazione governativa ottimale che bilancia al meglio i compromessi.

Contributi Chiave

• Prima Applicazione dei Filtri Knockoff alla Scoperta di PDE: Il documento introduce il primo framework per applicare filtri knockoff Model-X all'identificazione di PDE guidata dai dati, fornendo il primo limite esplicito, su campioni finiti, sulla proporzione di falsi positivi.
• Statistica SHAP-DS: Gli autori propongono una nuova statistica delle caratteristiche, computazionalmente efficiente, che combina abess e SHAP, superando le statistiche di tipo swap tradizionali in velocità pur mantenendo l'efficacia contro i termini spurii.
• RFE con Perturbazioni Knockoff: Una nuova procedura di raffinamento che utilizza test di ipotesi perturbati da knockoff per validare la necessità statistica dei termini, eliminando efficacemente i falsi positivi che sopravvivono allo screening iniziale.
• MCDM per la Selezione del Modello: Il framework riformula la scelta finale dell'equazione come un problema multi-criterio, aggregando metriche diverse (accuratezza, complessità, incertezza, calibrazione) per selezionare in modo robusto il modello ottimale, una capacità precedentemente inesplorata in questo dominio.

Risultati Empirici
Il framework è stato validato su cinque sistemi PDE canonici in condizioni di rumore severo: equazioni di Burgers 1D, Korteweg–de Vries (KdV) e Kuramoto–Sivashinsky (KS) (50% di rumore); un sistema di Reazione-Diffusione 2D (10% di rumore); e un sistema Gray–Scott 3D (0,1% di rumore).

• Recupero Strutturale: KO-PDE-IDENT ha raggiunto un FDR empirico (eFDR) di zero e una potenza empirica (ePOWER) di uno su tutti i benchmark. Ha recuperato esattamente la struttura PDE vera, eliminando i falsi positivi e mantenendo tutti i termini sottostanti veri.
• Accuratezza dei Coefficienti: Il metodo ha raggiunto bassi errori di stima dei coefficienti (sotto il 5% per i sistemi 1D e sotto l'1% per i sistemi multidimensionali).
• Confronto: Il framework ha costantemente superato notevoli baseline come i Minimi Quadrati Soglia Sequenziale (STLSQ), SR3 e SSR, che non sono riusciti a controllare il FDR e hanno selezionato un eccesso di termini spurii sotto alto rumore.

Significato
Il documento afferma che KO-PDE-IDENT avanza la scoperta di PDE guidata dai dati trasformandola da un esercizio di ottimizzazione della perdita e sintonizzazione degli iperparametri in una procedura di inferenza statistica rigorosa. Garantendo che l'insieme di candidati che entra nello stadio di selezione del modello porti un limite esplicito, teoricamente garantito, sulla sua proporzione di falsi positivi, il framework porta il rigore dell'inferenza ad alta dimensionalità in un dominio in cui è stato notevolmente assente. La combinazione di una fase di screening statisticamente rigorosa con un raffinamento empirico fondato permette la scoperta affidabile di leggi fisiche governative in sistemi dinamici complessi e rumorosi, fornendo ai praticanti la garanzia matematicamente rigorosa che le equazioni scoperte catturino meccanismi genuini piuttosto che artefatti del rumore.