SINDyG: Sparse Identification of Nonlinear Dynamical Systems from Graph-Structured Data, with Applications to Stuart-Landau Oscillator Networks

Sintesi Tecnica: SINDyG – Identificazione Sparsa di Sistemi Dinamici Non Lineari da Dati Strutturati a Grafo

Enunciazione del Problema
L'estrazione di equazioni governative dai dati mediante tecniche di identificazione sparsa, come l'Identificazione Sparsa delle Dinamiche Non Lineari (SINDy), ha rivoluzionato la modellazione in ambiti che vanno dalle neuroscienze alla scienza del clima. Tuttavia, gli approcci SINDy standard trattano tipicamente i sistemi dinamici come entità monolitiche, ignorando la topologia di rete sottostante che governa le interazioni tra i sottosistemi. Quando applicati a sistemi strutturati a grafo (ad esempio, reti neurali, reti elettriche o reti sociali), lo SINDy standard tratta tutti i termini di interazione candidati in modo uguale. Questa mancanza di priori strutturali porta spesso alla selezione di "termini spurii" – interazioni che non riflettono la connettività effettiva tra nodo e nodo – risultando in modelli distorti, meno accurati e eccessivamente complessi che non riescono a catturare comportamenti emergenti sottili.

Metodologia: SINDyG
Per affrontare queste limitazioni, gli autori propongono SINDyG (Identificazione Sparsa di Sistemi Dinamici Non Lineari da Dati Strutturati a Grafo). Questo metodo estende il framework SINDy standard incorporando esplicitamente la struttura di adiacenza della rete nel processo di regressione sparsa.

L'innovazione centrale è una strategia di regolarizzazione informata dal grafo. Invece di applicare una penalità uniforme a tutti i termini candidati, SINDyG utilizza una matrice di penalità $P$ derivata dalla matrice di adiacenza $A$ della rete. Il processo prevede:

1. Analisi della Connettività: Per ogni termine candidato nella libreria di funzioni, l'algoritmo identifica le variabili sorgente (i nodi coinvolti nel termine) e calcola la connettività media ($m_{ck}$) tra queste sorgenti e il nodo pozzo (il nodo la cui dinamica viene modellata) utilizzando la matrice di adiacenza.
2. Formulazione della Penalità: Viene costruita una funzione di penalità basata sulla sigmoide $P[c,k]$. I termini con bassa connettività media tra le variabili sorgente e pozzo ricevono una penalità più alta (più vicina a 1), scoraggiando efficacemente la selezione di interazioni che violano la topologia di rete nota. Al contrario, i termini coerenti con connessioni forti ricevono penalità più basse.
3. Ottimizzazione: Il metodo impiega un algoritmo modificato di Minimi Quadrati con Soglia Sequenziale (STLSQ). La funzione obiettivo minimizza l'errore di ricostruzione delle derivate incorporando la penalità consapevole del grafo:
   $$\min_{\Xi} \frac{1}{2} \| \dot{X} - \Theta(X)\Xi \|_2^2 + \lambda \| P \odot \Xi \|_2^2$$
   Per risolvere questo in modo efficiente, la matrice delle caratteristiche e i coefficienti vengono scalati per trasformare il problema in un framework standard di regressione ridge, che viene poi risolto iterativamente con sogliatura dura per imporre la sparsità.

Contributi Chiave

• Regressione Sparsa Consapevole del Grafo: L'introduzione di una matrice di penalità modulare che integra la conoscenza preliminare della connettività di rete direttamente nel processo di stima dei coefficienti.
• Migliorata Parsimonia e Accuratezza: Biasando la regressione verso interazioni strutturalmente plausibili, SINDyG riduce la selezione di termini spurii, portando a modelli più semplici e interpretabili.
• Framework Modulare: La penalità informata dal grafo proposta è progettata per essere integrata facilmente con altri solver di regressione simbolica oltre a SINDy.

Risultati Sperimentali
Gli autori hanno validato SINDyG utilizzando reti di oscillatori di Stuart-Landau (SL), un modello frequentemente usato per descrivere l'oscillazione macroscopica delle popolazioni neuronali. Gli esperimenti sono stati condotti sia su reti semplici a tre nodi sia su casi generali complessi che coinvolgono topologie Erdős-Rényi (ER) e Scale-Free (SF) con dimensioni e forze di accoppiamento variabili.

• Caso Semplice: In una rete a tre nodi, SINDyG ha raggiunto una complessità del modello ($\gamma$) di 32, corrispondente al modello vero, mentre lo SINDy standard ha prodotto una complessità di 62. SINDyG ha dimostrato una superiore accuratezza dei coefficienti (Errore Assoluto Medio di 0,0033 contro 0,0155 per SINDy) e punteggi $R^2$ predittivi più elevati su traiettorie non viste.
• Caso Generale: Le analisi di sensibilità hanno rivelato che, all'aumentare della dimensione della rete e della forza di accoppiamento, le prestazioni dello SINDy standard si degradavano significativamente, mostrando maggiore complessità ed errore. Al contrario, SINDyG ha mantenuto la robustezza, producendo costantemente modelli con minore complessità e maggiore accuratezza di generalizzazione (più alto $R^2$ di test, più basso MSE di test) attraverso dimensioni della rete e pesi degli archi variabili.
• Efficienza Computazionale: Sebbene SINDyG richieda passaggi aggiuntivi per calcolare la matrice di penalità, il tempo complessivo di addestramento è rimasto comparabile a quello dello SINDy standard, con il metodo che dimostra una maggiore resilienza ai dati di addestramento limitati.

Significato e Affermazioni
Il documento afferma che SINDyG rappresenta un passo significativo in avanti nella modellazione guidata dai dati di sistemi interconnessi. Sfruttando la topologia di rete per guidare la scoperta delle equazioni governative, il metodo produce modelli che non sono solo più accurati, ma anche più fisicamente interpretabili. Gli autori posizionano SINDyG come un passo fondamentale verso una classe più ampia di "algoritmi di scoperta informati dalla rete". Suggeriscono che integrare questa regolarizzazione della sparsità strutturata a grafo nei solver di regressione simbolica esistenti (come PySR) potrebbe migliorare le prestazioni in ambienti rumorosi o reali attraverso diversi domini, incluse le neuroscienze, l'ecologia, la finanza e l'epidemiologia. Gli autori notano modestamente che, sebbene il metodo sia stato validato sui modelli di Stuart-Landau, è necessario un lavoro futuro per valutarne l'efficacia su altri sistemi non lineari come i modelli di Kuramoto o FitzHugh–Nagumo.