Bayesian Image-on-Image Regression via Deep Kernel Learning based Gaussian Processes

1. Il Problema e il Contesto

Nel campo delle neuroscienze e della neuroimaging, è sempre più cruciale studiare le associazioni tra diverse modalità di imaging (es. risonanza magnetica strutturale e funzionale). Un problema specifico di grande interesse è la Regressione Immagine-su-Immagine (IIR), dove sia le variabili predittive che quelle di risposta sono immagini ad alta risoluzione.

Il caso studio motivante di questo lavoro è la previsione dell'attività fMRI evocata da compiti specifici (task-based fMRI) utilizzando dati fMRI a riposo (resting-state fMRI) provenienti dal Human Connectome Project (HCP).
Le sfide principali includono:

• Eterogeneità dei dati: Combinare predittori di diversa natura (es. mappe voxel-wise come fALFF e matrici di connettività regionale) con risoluzioni e domini spaziali differenti.
• Interpretabilità: Molti metodi di deep learning (come CNN o GAN) agiscono come "scatole nere", rendendo difficile identificare quali caratteristiche delle immagini di riposo guidano le previsioni.
• Inferenza statistica: La necessità di fornire misure di incertezza valide e di gestire l'alta dimensionalità dei parametri e la dipendenza spaziale tra i voxel.
• Costi: La raccolta di dati fMRI basati su compiti è costosa e richiede un design sperimentale complesso, rendendo desiderabile la previsione di tali dati basandosi su dati a riposo più economici e facili da acquisire.

2. Metodologia: BIRD-GP

Gli autori propongono BIRD-GP (Bayesian Image-on-image Regression via Deep Kernel Learning Gaussian Processes), un modello gerarchico bayesiano che integra le Reti Neurali Profonde (DNN) e i Processi Gaussiani (GP) con apprendimento del kernel.

Il framework si articola in due fasi principali:

Fase 1: Proiezione delle Immagini (Basis Expansion)

Le immagini predittive ($X$) e di risposta ($Y$) vengono proiettate in spazi vettoriali euclidei a dimensionalità ridotta utilizzando un approccio di espansione in basi.

• Le immagini sono modellate come realizzazioni di Processi Gaussiani.
• Vengono introdotte funzioni di base ortonormali ($\psi_x$ e $\psi_y$) per rappresentare le immagini.
• Innovazione Chiave: A differenza dei kernel fissi (es. squared-exponential), le funzioni di base vengono apprese in modo adattivo dai dati utilizzando una DNN. Questo permette di catturare strutture spaziali complesse e non lineari.

Fase 2: Regressione Non Lineare

Una volta proiettate le immagini nei loro coefficienti di base ($x_i$ e $y_i$), viene modellata l'associazione complessa tra predittori e risposta.

• Viene utilizzata una DNN feed-forward per modellare la distribuzione condizionale dei coefficienti di risposta dati i coefficienti predittori: $(y_i | x_i) \sim N(\mathcal{N}(x_i; \theta_{xy}), \Lambda_y)$.
• Il modello è completamente bayesiano, permettendo di ottenere distribuzioni posteriori per tutti i parametri.

Apprendimento del Kernel e Computazione Posteriore

• Kernel Learning: Le funzioni di base $\psi_x(v)$ sono stimate risolvendo un problema di ottimizzazione che proietta l'output di una DNN sullo spazio delle immagini osservate, seguito da un processo di ortonormalizzazione (Gram-Schmidt o SVD). Questo approccio è più robusto al rumore rispetto alla PCA classica e permette l'interpolazione.
• Algoritmo Ibrido: Per la computazione della distribuzione posteriore, gli autori sviluppano un algoritmo ibrido:
  1. Stage 1: Un campionatore Gibbs per i parametri lineari e le varianze (proiezione delle immagini).
  2. Stage 2: Stein Variational Gradient Descent (SVGD) per i parametri della DNN e del kernel. SVGD è un metodo di inferenza variazionale basato su gradienti che è scalabile, efficiente e parallelizzabile, ideale per dataset neuroimaging su larga scala.

Importanza delle Immagini Proiettate

Il metodo introduce una misura di importanza ($IM$) basata sulla derivata logaritmica della densità di probabilità predittiva rispetto ai predittori proiettati. Questo permette di identificare quali dimensioni del predittore proiettato contribuiscono maggiormente alla previsione, offrendo interpretabilità.

3. Risultati Sperimentali

Simulazioni su Dati Sintetici (MNIST e Fashion MNIST)

• Performance: BIRD-GP ha superato tutti i metodi concorrenti (DNN, CNN, RBDN, GAN) in termini di accuratezza di previsione e Mean Squared Error (MSE).
• Efficienza dei Parametri: Nonostante un numero di parametri inferiore rispetto alle architetture CNN/RBDN, BIRD-GP ha ottenuto prestazioni superiori (es. accuratezza >99.5% su MNIST).
• Interpretabilità: Le immagini di base apprese (basis images) hanno mostrato chiaramente le strutture semantiche dei dati (es. forme di cifre o vestiti), dimostrando la capacità del modello di catturare le caratteristiche rilevanti.
• Robustezza: Il modello ha mostrato robustezza anche in scenari di specifica errata del modello (mis-specification).

Analisi su Dati Reali (Human Connectome Project - HCP)

Gli autori hanno applicato BIRD-GP per prevedere mappe di contrasto fMRI per due compiti:

1. Linguaggio: Contrasto "storia-matematica".
2. Riconoscimento Sociale: Contrasto "casuale-baseline".

Predittori utilizzati:

• Mappe fALFF (Fractional Amplitude of Low Frequency Fluctuation) a livello di voxel.
• Matrici di connettività regionale.
• Combinazione di entrambi.

Risultati Chiave:

• Superiorità Predittiva: BIRD-GP ha dimostrato una correlazione diagonale dominante nella matrice di correlazione predittiva, indicando che le previsioni per un soggetto sono più simili alla sua vera mappa di risposta rispetto a quelle di altri soggetti, superando nettamente la regressione lineare e la regressione voxel-wise.
• Confronto Modali: La matrice di connettività si è rivelata molto più predittiva delle mappe fALFF per entrambi i compiti. L'aggiunta di fALFF alla connettività ha migliorato leggermente le prestazioni, ma la connettività da sola ha dominato.
• Compiti: Il compito di linguaggio è risultato più prevedibile rispetto al compito di riconoscimento sociale.
• Interpretabilità Neurobiologica: Analizzando le immagini di base più importanti, gli autori hanno identificato le reti funzionali chiave:
  • Rete Visiva (VS), Rete di Attenzione Dorsale (DAT) e Rete Sottocorticale (SC): Sono risultate cruciali per entrambi i compiti.
  • Rete di Modo Default (DM): Ha mostrato un coinvolgimento specifico nel compito di linguaggio (ma non nel riconoscimento sociale), coerentemente con la letteratura esistente.

4. Contributi Chiave

1. Nuovo Framework Statistico: Sviluppo di BIRD-GP, un modello bayesiano gerarchico che combina GP e DNN per la regressione immagine-su-immagine, risolvendo il problema della scalabilità e dell'interpretabilità.
2. Apprendimento Adattivo del Kernel: Introduzione di un metodo basato su DNN per apprendere le funzioni di base (kernel) dei Processi Gaussiani, superando i limiti dei kernel fissi e della PCA.
3. Algoritmo di Inferenza Scalabile: Implementazione di un algoritmo ibrido (Gibbs + SVGD) che rende fattibile l'inferenza bayesiana su grandi dataset neuroimaging.
4. Misura di Importanza: Proposta di una metrica per quantificare l'importanza delle dimensioni proiettate dei predittori, permettendo di mappare le caratteristiche spaziali rilevanti.
5. Applicazione Neuroscientifica: Dimostrazione empirica che la connettività funzionale a riposo è un predittore superiore rispetto alle statistiche voxel-wise (fALFF) per l'attività cerebrale evocata da compiti, con implicazioni per la riduzione dei costi nella ricerca neuroimaging.

5. Significato e Conclusioni

Il lavoro di Ma et al. rappresenta un avanzamento significativo nell'analisi neuroimaging multimodale. BIRD-GP colma il divario tra la potenza predittiva del deep learning e la necessità di inferenza statistica rigorosa e interpretabilità scientifica.

La capacità di prevedere con successo l'attività cerebrale durante compiti cognitivi utilizzando solo dati a riposo apre nuove possibilità per:

• Ridurre i costi e il tempo di acquisizione nei studi clinici e di ricerca.
• Identificare biomarcatori neurali specifici per diverse funzioni cognitive.
• Fornire modelli statistici che non solo prevedono, ma spiegano come e dove nel cervello le informazioni a riposo si traducono in attività evocata.

Il metodo si dimostra robusto, scalabile e superiore alle tecniche attuali, offrendo uno strumento potente per la ricerca futura nelle neuroscienze computazionali.