Spectral decomposition-assisted multi-study factor analysis

Sintesi Tecnica: Decomposizione Spettrale assistita da Analisi Fattoriale Multi-studio (BLAST)

Problema
Il documento affronta la sfida della stima della covarianza in dati multi-studio, in particolare in contesti ad alta dimensionalità come l'omica, dove una sostanziale variazione tra gli studi ostacola spesso la replicazione dei risultati. L'obiettivo è analizzare congiuntamente i dati provenienti da più studi ($S$) per distinguere tra componenti comuni (condivise) e specifiche di ogni studio. Gli autori si concentrano sul modello di analisi fattoriale:
$$y_{si} = \Lambda \eta_{si} + \Gamma_s \phi_{si} + e_{si}$$
dove $\Lambda$ rappresenta i carichi condivisi, $\Gamma_s$ i carichi specifici dello studio, $\eta_{si}$ e $\phi_{si}$ i fattori latenti, ed $e_{si}$ il rumore residuo.

Gli approoli esistenti presentano limitazioni significative:

1. Colli di bottiglia computazionali: I metodi di Massima Verosimiglianza (EM) e Bayesiani (Gibbs sampling) soffrono di lentezza nella convergenza e problemi di mixing quando il numero di variabili ($p$) è elevato.
2. Inferenza Variazionale (VI): Sebbene più veloce, gli algoritmi VI spesso mancano di garanzie teoriche, sottostimano l'incertezza e forniscono una precisione di stima insoddisfacente.
3. Identificabilità e Metodi Spettrali: I precedenti approcci spettrali spesso non riescono a fornire la quantificazione dell'incertezza o richiedono assunzioni restrittive (ad esempio, carichi ortogonali o $p$ estremamente grande) per essere competitivi. Inoltre, il modello non è identificabile senza vincoli specifici, e tali vincoli (ad esempio, richiedere il rango pieno dei carichi combinati) non vengono spesso imposti nella stima, portando a prestazioni scarse.

Metodologia: BLAST
Gli autori propongono BLAST (Bayesian Latent Analysis through Spectral Training), una metodologia che combina la decomposizione spettrale per la stima dei fattori con la regressione bayesiana surrogata per l'inferenza. La procedura evita l'oneroso campionamento Markov chain Monte Carlo (MCMC).

1. Stima Spettrale dei Fattori Latenti:

   • Separazione tra Condiviso e Specifico: Il metodo calcola la decomposizione in valori singolari (SVD) per la matrice dei dati di ciascuno studio per ottenere le matrici di proiezione sui sottospazi dominanti.
   • Media delle Proiezioni: Queste proiezioni specifiche dello studio vengono mediate. Il segnale lungo gli assi condivisi viene preservato, mentre le direzioni specifiche dello studio vengono attenuate. Gli autovettori singolari principali di questa matrice media stimano il sottospazio condiviso ($\Lambda$).
   • Proiezione Ortogonale: Il sottospazio condiviso viene proiettato per isolare la variazione specifica dello studio, permettendo la stima dei fattori specifici dello studio ($\phi_{si}$). Viceversa, i fattori specifici dello studio vengono rimossi tramite regressione per isolare la variazione condivisa per la stima dei fattori condivisi ($\eta_{si}$).
   • Selezione della Dimensione: Le dimensioni latenti ($k_0$ per il condiviso, $q_s$ per lo specifico) sono stimate utilizzando una combinazione di un Criterio di Informazione Congiunto (JIC) e una regola del gap spettrale (metodo del gomito) sulla matrice di proiezione media.

2. Regressione Bayesiana Surrogata:

   • Condizionati sui fattori latenti stimati, il problema si riduce a $p$ problemi di regressione separati per le matrici di carico ($\Lambda$ e $\Gamma_s$).
   • Prior: Sono poste prior normali inverso-gamma coniugate sulle righe delle matrici di carico e sulle varianze residue.
   • Computazione della Posterior: Le distribuzioni a posteriori sono derivate analiticamente. La media a posteriori corrisponde a una soluzione di regressione ridge.
   • Parallelizzazione: Grazie all'indipendenza delle righe nella specifica della prior, la posterior si fattorizza tra i risultati, consentendo una massiccia parallelizzazione e bypassando l'MCMC.

3. Quantificazione dell'Incertezza e Calibrazione:

   • Gli autori notano che gli intervalli di credibilità standard dalla posterior surrogata soffrono di una lieve sottocopertura.
   • Inflazione della Varianza: Per ottenere una copertura frequentista asintoticamente valida, un fattore di inflazione della varianza ($\rho$) viene derivato analiticamente in base ai rapporti segnale-rumore dei carichi stimati. Questo fattore è tarato per garantire che gli intervalli di credibilità abbiano una copertura asintotica corretta.
   • Empirical Bayes: Gli iperparametri (varianze delle prior) sono stimati tramite Empirical Bayes per garantire l'adattività ai dati.

Contributi Teorici Chiave
Il documento stabilisce forti garanzie frequentiste in un regime di doppio asintotico in cui sia la dimensione del campione ($n$) che la dimensione ($p$) divergono:

• Consistenza: Gli stimatori puntuali per le componenti a basso rango ($\Lambda\Lambda^\top$ e $\Gamma_s\Gamma_s^\top$) sono consistenti.
• Tassi di Contrazione: La posterior si contrae attorno ai parametri reali con tassi di $O(1/\sqrt{n} + 1/\sqrt{p})$.
• Teorema del Limite Centrale (CLT): Gli stimatori entry-wise sono asintoticamente normali.
• Teorema di Bernstein-von Mises: La distribuzione a posteriori indotta sui componenti a basso rango converge a una distribuzione gaussiana centrata sul parametro reale con una specifica struttura di varianza, giustificando l'uso dei fattori di inflazione della varianza per intervalli di credibilità validi.
• Benedizione della Dimensionalità: L'errore di approssimazione diminuisce all'aumentare sia del campione che della dimensione dei dati, formalizzando una "benedizione della dimensionalità" per questa classe di modelli.

Risultati Empirici
Gli esperimenti numerici confrontano BLAST con l'Inferenza Variazionale (SVI, CAVI), lo stimatore spettrale di Ando & Bai (2017) e approcci basati su MCMC (nei materiali supplementari).

• Accuratezza: BLAST supera sostanzialmente i metodi variazionali nella stima sia delle componenti di varianza a basso rango che dei fattori latenti. È competitivo o superiore allo stimatore spettrale di Ando & Bai, particolarmente quando i carichi non sono strettamente ortogonali o quando $p$ non è estremamente grande.
• Quantificazione dell'Incertezza: BLAST fornisce intervalli di credibilità al 95% ben calibrati (copertura vicina al 95%), mentre i metodi variazionali soffrono di una grave sottocopertura (spesso inferiore al 30-50%).
• Velocità Computazionale: BLAST è significativamente più veloce di MCMC e competitivo o più veloce di VI e dei metodi spettrali, scalando efficientemente a migliaia di variabili.
• Applicazione su Dati Reali: Il metodo è stato applicato per integrare tre studi di espressione genica (progetto ImmGen) riguardanti cellule immunitarie. BLAST è riuscito a scalare a migliaia di geni (2.846 e 7.870 geni), superando i competitor in termini di accuratezza della predizione out-of-sample (MSE) e log-likelihood, fornendo al contempo intervalli predittivi affidabili.

Significato e Rivendicazioni
Gli autori affermano che BLAST offre un "algoritmo veloce per ottenere stime puntuali e intervallari accurate nell'analisi fattoriale multi-studio" senza la fragilità computazionale dell'MCMC. La significatività del lavoro risiede in:

1. Scalabilità: Permettere l'analisi di dati multi-studio ad alta dimensionalità (migliaia di geni) che prima erano computazionalmente proibitivi per i metodi bayesiani.
2. Rigore Teorico: Fornire il primo insieme di forti garanzie frequentiste (CLT, BvM, tassi di contrazione) per un modello fattoriale multi-studio bayesiano con componenti condivise e specifiche, formalizzando la "benedizione della dimensionalità".
3. Utilità Pratica: Dimostrare che la decomposizione spettrale può essere combinata efficacemente con l'inferenza bayesiana per separare la variazione condivisa da quella specifica, offrendo un'alternativa robusta all'inferenza variazionale che spesso sottostima l'incertezza.

Il documento conclude che la metodologia è particolarmente adatta per integrare dataset genomici per ottenere stime robuste delle associazioni geniche e migliorare le inferenze sulla covarianza intra- e tra-studio nei dati clinici.