MATLAB-Based Layerwise Self-Adaptive Physics-Informed Neural Network in Applications to Multidimensional Coupled Burgers' Equations with High Reynolds Numbers

Sintesi Tecnica: LSAAL-PINN basata su MATLAB per le Equazioni di Burgers Multidimensionali Accoppiate con Auto-Adattamento per Livelli

Definizione del Problema
Il documento affronta le sfide computazionali associate alla simulazione dei profili di soluzione spazio-temporali delle equazioni di Burgers accoppiate multidimensionali (MCBE) ad alti numeri di Reynolds. Con l'evolversi del tempo, queste equiano generano fronti d'urto acuti e gradienti di soluzione ripidi. I metodi numerici convenzionali basati su griglia, come le differenze finite e gli elementi finiti, faticano a gestire queste caratteristiche a causa della scarsa stabilità, della forte dipendenza dalla griglia e delle proibizioni computazionali legate alla "maledizione della dimensionalità" quando sono necessari griglie estremamente fini. Inoltre, le classiche Reti Neurali Informate dalla Fisica (PINN) spesso non riescono a risolvere questi problemi ad alto numero di Reynolds perché i termini convettivi dominanti creano un paesaggio di perdita (loss landscape) "stiff" (rigido). Questa rigidità causa il blocco degli ottimizzatori in minimi locali, impedendo alla rete di catturare accuratamente i gradienti ripidi caratteristici della soluzione.

Metodologia
Gli autori propongono un framework migliorato denominato LSAAL-PINN (LSAAL-PINN addestrata con Adam e L-BFGS), implementato in MATLAB tramite il Deep Learning Toolbox per la differenziazione automatica, progettato per risolvere le CBE $d$-dimensionali ($d=1, 2, 3$).

I componenti metodologici chiave includono:

1. Architettura della Rete: Una Rete Neurale Profonda (DNN) approssima la soluzione $u(x, t)$. La rete utilizza una struttura feedforward con $k$ strati nascosti, impiegando la funzione di attivazione tangente iperbolica ($\tanh$) per garantire la fluidità necessaria al calcolo delle derivate di ordine superiore tramite differenziazione automatica.
2. Ponderazione Auto-Adattiva per Livelli (Layerwise Self-Adaptive Weighting): A differenza delle PINN standard che utilizzano pesi fissi per diverse componenti di perdita, questo framework impiega una strategia dinamica. La funzione di perdita totale $L(\theta, \lambda)$ è una somma pesata del residuo della PDE ($L_{PDE}$), del residuo della condizione iniziale ($L_{IC}$) e del residuo della condizione al contorno ($L_{BC}$). I pesi $\lambda = [\lambda_{PDE}, \lambda_{IC}, \lambda_{BC}]$ sono parametri addestrabili aggiornati tramite ascesa del gradiente per massimizzare la perdita totale, garantendo che nessun singolo termine di residuo domini il processo di addestramento. Questi pesi sono mappati attraverso una trasformazione logaritmica per mantenere la stretta positività e la stabilità numerica.
3. Ottimizzazione a Due Fasi (Dual-Phase Optimization): Il processo di addestramento utilizza una strategia in due fasi:
   • Fase 1 (Ottimizzazione Globale): I parametri della rete $\theta$ e i pesi adattivi $\lambda$ vengono aggiornati iterativamente utilizzando l'ottimizzatore Adam.
   • Fase 2 (Raffinamento): I pesi adattivi $\lambda$ vengono congelati e l'ottimizzazione transita verso l'algoritmo di secondo ordine L-BFGS per raffinare la soluzione e accelerare la convergenza verso una tolleranza prestabilita.
4. Campionamento: Per catturare efficacemente i gradienti ripidi, il framework utilizza il campionamento Latin Hypercube (LHS) per generare punti di collocazione, assicurando che i punti siano distribuiti vicino alle regioni di transizione.

Contributi Chiave e Setup Sperimentale
Lo studio introduce il framework LSAAL-PINN e ne valida l'efficacia confrontandolo con due varianti di base:

• AL-PINN: PINN standard con ottimizzatori Adam e L-BFGS ma senza ponderazione auto-adattiva.
• A-PINN: PINN standard addestrata solo con l'ottimizzatore Adam.

Gli autori hanno condotto esperimenti numerici sulle equazioni di Burgers accoppiate 1D, 2D e 3D con alti numeri di Reynolds (bassa viscosità $\nu$). L'accuratezza è stata misurata utilizzando la norma dell'errore relativo $L_2$.

Risultati

• Equazione di Burgers 1D: L'LSAAL-PINN ha ottenuto un errore relativo $L_2$ di $1.79 \times 10^{-4}$, superando l'AL-PINN ($3.10 \times 10^{-4}$) e l'A-PINN ($8.65 \times 10^{-3}$). I risultati hanno dimostrato che l'LSAAL-PINN si allinea più precisamente con la soluzione esatta, in particolare al fronte d'urto.
• Equazioni di Burgers Accoppiate 2D (Alto Numero di Reynolds): Per $\nu = 0.0001$, l'LSAAL-PINN ha fornito risultati circa 8 volte più accurati rispetto all'AL-PINN e 1385 volte più accurati rispetto all'A-PINN per la componente di velocità $v$ al tempo $t=1$. L'A-PINN non è riuscita a catturare la discontinuità simile a uno shock, mentre l'LSAAL-PINN è riuscita a risolvere i gradienti ripidi.
• Equazioni di Burgers Accoppiate 3D: L'LSAAL-PINN ha costantemente prodotto gli errori $L_2$ più bassi attraverso vari livelli temporali rispetto alle altre varianti. Il framework ha anche risolto con successo le CBE 3D con un numero di Reynolds $Re=100$, mantenendo un'accuratezza nell'ordine di $10^{-3}$.
• Comportamento di Convergenza: I grafici della perdita hanno indicato che, mentre l'A-PINN ristagnava o oscillava, l'ottimizzazione a due fasi (Adam seguito da L-BFGS) in entrambi AL-PINN e LSAAL-PINN ha portato a una significativa riduzione della perdita. L'aggiunta della ponderazione auto-adattiva in LSAAL-PINN ha ulteriormente minimizzato la perdita totale rispetto ad AL-PINN.

Significatività e Rivendicazioni
Il documento afferma che l'integrazione di una strategia di ponderazione auto-adattiva per livelli con un approccio di ottimizzazione a due fasi è sufficiente per catturare i profili di soluzione a gradiente ripido nelle MCBE senza richiedere strategie di ponderazione puntuale computazionalmente costose. Gli autori sostengono che questo framework sia più efficace, accurato e robusto rispetto alle PINN standard per simulare la dinamica spazio-temporale in flussi ad alto numero di Reynolds.

Lo studio evidenzia come la letteratura esistente si sia concentrata ampiamente sulle equazioni di Burgers 1D a numeri di Reynolds moderati (spesso in Python), mentre questo lavoro fa avanzare il campo risolvendo con successo le CBE 2D e 3D ad alti numeri di Reynolds utilizzando un'implementazione basata su MATLAB. Gli autori concludono che il framework proposto affronta efficacemente la rigidità del paesaggio di perdita, consentendo la previsione accurata di fronti d'urto ripidi che i metodi standard faticano a risolvere. Il lavoro futuro suggerito consiste nell'estendere questo framework ad altre PDE dipendenti dal tempo particolarmente impegnative.