Accelerating an ensemble of variational data assimilations with randomized preconditioning

Sintesi Tecnica: Accelerazione di un Insieme di Assimilazioni Variazionali di Dati con Precondizionamento Randomizzato

Enunciato del Problema
Gli insiemi di Assimilazioni Variazionali di Dati (EDA) sono fondamentali per la previsione numerica del tempo operativa, fornendo molteplici stati iniziali per le previsioni d'insieme e stimando le covarianze di errore dipendenti dal flusso. Un EDA comporta la risoluzione in parallelo di problemi di assimilazione variazionale perturbati, tipicamente utilizzando un approccio incrementale in cui una funzione di costo quadratica è minimizzata tramite la soluzione iterativa di sistemi lineari. Un vincolo operativo comune è l'uso di una singola iterazione esterna per controllare il costo computazionale.

Le prestazioni dei solutori iterativi (come il Gradiente Coniugato, CG) per questi sistemi dipendono fortemente dalla distribuzione degli autovalori della matrice Hessiana. Sebbene i Precondizionatori a Memoria Limitata (LMP), in particolare gli LMP spettrali costruiti a partire da coppie approssimate di autovalori-autovettori, siano efficaci per accelerare la convergenza, i metodi di costruzione tradizionali si basano su ricorrenze derivanti da iterazioni esterne precedenti. Ciò li rende inapplicabili a contesti EDA con una singola iterazione esterna. Inoltre, sebbene i metodi randomizzati offrano un modo per calcolare queste coppie senza iterazioni precedenti, la qualità dell'approssimazione risultante è altamente sensibile alla scelta della matrice di schizzo randomizzata. Le matrici random standard (ad esempio Gaussiane) potrebbero non produrre approssimazioni sufficientemente accurate per un precondizionamento efficace senza costosi prodotti sequenziali matrice-vettore (metodi delle potenze), che sono spesso proibitivi in contesti operativi.

Metodologia
Gli autori propongono un approccio "sketch-and-precondition" (schizzo e precondizionamento) adattato alla struttura specifica dell'EDA. La metodologia centrale comprende:

1. Decomposizione Spettrale Randomizzata (REVD): Utilizzo di algoritmi randomizzati per calcolare un'approssimazione a rango basso della matrice Hessiana $A$ (in particolare la parte a rango basso dell'Hessiana precondizionata). Ciò comporta lo schizzo della matrice $A$ mediante una matrice random $\Omega$ per formare una matrice più piccola, seguita da una decomposizione spettrale deterministica.
2. Costruzione Innovativa della Matrice di Schizzo: Invece di utilizzare una matrice random Gaussiana standard, gli autori sfruttano la struttura EDA per costruire una matrice di schizzo $\Omega$ utilizzando le differenze dei vettori del lato destro (RHS) dei sistemi lineari perturbati.
   • Per un membro dell'insieme $j$, la differenza RHS è definita come $\gamma_j = U_B^T G_j^T R_j^{-1} d_j - U_B^T G^T R^{-1} d$, dove $d$ è il vettore di innovazione.
   • L'analisi teorica sotto ipotesi semplificative (differenze trascurabili negli stati di linearizzazione, perturbazioni Gaussiane) suggerisce che la covarianza di questi vettori di differenza approssima $A + A^2$. Ciò implica che le colonne della matrice di schizzo $\Gamma = [\gamma_1, \dots, \gamma_\ell]$ sono efficacemente campionate da una distribuzione che incorpora informazioni sugli autovettori principali dell'Hessiana, in modo simile a un'iterazione del metodo delle potenze ma senza il costo sequenziale.
3. Costruzione di LMP Spettrali: La decomposizione spettrale randomizzata dell'Hessiana viene utilizzata per costruire un LMP spettrale scalato ($P_\theta$). Questo precondizionatore mira ai più grandi autovalori dell'Hessiana, raggruppandoli per migliorare il tasso di convergenza del solutore PCG.
4. Applicazione: L'LMP costruito, derivato esclusivamente dall'approssimazione dell'Hessiana del membro di controllo, viene applicato per precondizionare sia il membro di controllo che tutti i membri dell'insieme perturbati.

Contributi Chiave

• Indagine sugli LMP Spettrali in EDA: Il documento indaga la fattibilità e l'efficacia dell'uso di LMP spettrali randomizzati in un contesto EDA in cui viene eseguita una sola iterazione esterna.
• Matrice di Schizzo che Sfrutta la Struttura: Il contributo principale è la proposta e l'analisi dell'uso delle differenze RHS dei sistemi lineari dell'insieme come matrice di schizzo. Gli autori dimostrano che questo approccio è computazionalmente economico (non richiede integrazioni di modello aggiuntive oltre alla configurazione standard dell'insieme) e cattura teoricamente informazioni sull'Hessiana superiori rispetto allo schizzo Gaussiano standard.
• Implementazione Algoritmica: Lo studio implementa un algoritmo di approssimazione di Nyström a $q$ passaggi (Algoritmo 3.1) per calcolare il precondizionatore, analizzando l'impatto del sovracampionamento e dei parametri di scala ($\theta$).

Risultati
Sono stati condotti esperimenti numerici utilizzando il modello di Lorenz-96 con un'implementazione interna di 4D-Var.

• Approssimazione degli Autovalori: La matrice di schizzo proposta ($\Omega = \Gamma$) ha prodotto approssimazioni degli autovalori di qualità simile al metodo computazionalmente costoso che utilizza un passo del metodo delle potenze ($\Omega = A\Psi$), e significativamente migliore rispetto allo schizzo Gaussiano standard ($\Omega = \Psi$) o allo schizzo basato sulla covarianza dell'errore di fondo ($\Omega = B\Psi$).
• Accelerazione della Convergenza: L'LMP spettrale costruito con $\Omega = \Gamma$ ha accelerato con successo la riduzione della funzione di costo quadratica per il membro di controllo.
• Prestazioni dell'Insieme: Crucialmente, l'LMP costruito dal solo membro di controllo è stato efficace nell'accelerare il processo di soluzione per tutti i membri dell'insieme perturbati.
• Sensibilità: I risultati hanno evidenziato la sensibilità delle prestazioni del precondizionatore al parametro di scala $\theta$ e al numero di coppie di autovalori ($k$) utilizzate. Gli autori hanno rilevato che l'uso del sovracampionamento (scartando le coppie di autovalori approssimate più piccole, ad esempio utilizzando $k=15$ invece di $k=20$) ha fornito prestazioni più sicure e robuste, in particolare nelle iterazioni iniziali del solutore PCG.

Significato e Affermazioni
Il documento afferma che l'approccio proposto offre una strategia fattibile per accelerare l'EDA in contesti operativi in cui le risorse computazionali sono limitate e le singole iterazioni esterne sono la norma. Sfruttando la casualità intrinseca delle perturbazioni dell'insieme (in particolare i vettori RHS), il metodo costruisce un precondizionatore di alta qualità senza il costo proibitivo delle iterazioni sequenziali del metodo delle potenze.

Gli autori sottolineano che, sebbene l'analisi teorica si basi su ipotesi semplificative (ad esempio, perturbazioni Gaussiane, differenze di linearizzazione trascurabili), i risultati numerici con il modello di Lorenz-96 validano l'utilità pratica dell'approccio. Osservano che l'efficacia può variare a seconda del specifico sistema di assimilazione dei dati e del decadimento degli autovalori dell'Hessiana. Il lavoro funge da prova di concetto, con gli autori che affermano che la fase successiva consiste nel validare questi risultati in un contesto EDA realistico e ad alta dimensionalità, specificamente per il sistema globale di assimilazione dei dati di Météo-France. Il documento non rivendica una superiorità universale su tutti i metodi esistenti, ma posiziona questo approccio come un'alternativa promettente e a basso costo per il precondizionamento di problemi d'insieme.