Multi-Modal Graph Neural Network with Transformer-Guided Adaptive Diffusion for Preclinical Alzheimer Classification

Technische Samenvatting: Multi-Modale Grafische Neurale Netwerken met Transformer-gestuurde Adaptieve Diffusie voor Preklinische Alzheimer-classificatie

Probleemstelling
De grafische representatie van de hersenen, geconstrueerd uit regio's van belang (Regions of Interest, ROI's) en hun connectoomkenmerken, biedt cruciale inzichten voor het diagnosticeren van neurodegeneratieve ziekten zoals de ziekte van Alzheimer (AD). Bestaande Grafische Neurale Netwerken (GNN's) kampen echter met inherente beperkingen bij het interpreteren van deze netwerken. Traditionele convolutionele benaderingen hebben moeite met het aggregeren van informatie van verre buurten, terwijl aandacht-gebaseerde methoden vaak er niet in slagen voldoende node-centrische informatie te vangen, met name met betrekking tot kritieke kenmerken van cruciale nodes. Deze tekortkomingen belemmeren de identificatie van ziektespecifieke variaties bij het gebruik van diverse kenmerken uit meerdere beeldvormingsmodaliteiten (bijv. MRI, PET). Bovendien compliceert de heterogeniteit die wordt geïntroduceerd door meerdere biomarker-magnitudes de analyse van lokale versus globale grafische eigenschappen.

Methodologie: GTAD-framework
De auteurs stellen GTAD voor (GNN met Transformer-gestuurde adaptieve diffusie), een geïntegreerd framework ontworpen om zowel kort-bereik (lokale) als lang-bereik (globale) grafische eigenschappen te aggregeren. De architectuur bestaat uit drie primaire componenten:

1. Modality-wise Adaptive Convolution Block:

   • Het model behandelt het hersennetwerk als een ongerichte graaf $G$ met een genormaliseerde Laplaciaan $\hat{L}$.
   • Voor elke beeldvormingsmodaliteit $m$ verwerkt een encoder de node-kenmerken $x^m$ met behulp van een heat-kernel convolutie. De convolutie-operatie wordt gedefinieerd als $H^m_z = \sigma_z(e^{-s^m \hat{L}} H^m_{z-1} W^m_z)$, waarbij $s^m$ een leerbaar, node-wise schaalvector is die specifiek is voor elke modaliteit.
   • In tegenstelling tot vaste kernels zijn deze schalen leerbaar om de lokale kenmerken van individuele nodes voor verschillende modaliteiten adaptief te vangen. Dit stelt het model in staat om de optimale buurt-range voor elke ROI te bepalen op basis van de specifieke beeldgegevens.

2. Modality-wise Self-Attention Block:

   • De embeddings $\{H^m_Z\}$ uit de convolutie-block worden gevoed aan een Transformer-gebaseerd self-attention mechanisme.
   • In tegenstelling tot standaard Transformers die vaak alle tokens uniform behandelen, wijst GTAD een specifieke attention head toe aan elke modaliteit. Dit stelt het model in staat om lang-bereik informatie over de graaf te integreren die niet door de lokale convolutie wordt gevangen.
   • De multi-head self-attention berekent globale kenmerken door gezamenlijk aandacht te schenken aan informatie van verschillende modaliteiten over diverse ROI's heen. De block bevat residual verbindingen en layer normalisatie om het leerproces te stabiliseren.

3. Transformer-Guided Scale Update:

   • De globale representatie $B_P$ uit de attention block wordt doorgegeven aan een downstream classifier om het ziekte-label te voorspellen.
   • De loss-functie (cross-entropy) wordt niet alleen gebruikt voor het updaten van gewichten, maar ook voor het updaten van de modaliteit-specifieke schalen $s^m$.
   • Een $\ell_1$-norm regularisatie wordt toegepast om positieve schalen voor de heat-kernel te garanderen. Dit mechanisme stelt de Transformer in staat om het adaptieve diffusieproces te sturen, waardoor de lokale receptieve velden effectief worden afgestemd op de globale classificatietaak.

Belangrijkste Bijdragen

1. Nieuw Framework: Het artikel stelt een framework voor dat kort-bereik eigenschappen aggregeert via adaptieve diffusie-kernels en lang-bereik eigenschappen via multi-head attention, waarmee de beperkingen van puur convolutionele of puur aandacht-gebaseerde GNN's worden aangepakt.
2. Superieure Prestaties: Het model vertoont state-of-the-art prestaties in grafische classificatietaken voor preklinische AD, waarbij het diverse baselines overtreft, waaronder convolutie-gebaseerde GNN's (GCN, GAT), diffusie-gebaseerde GNN's (GraphHeat, GDC, ADC, LSAP) en Graph Transformers (NodeFormer, DIFFormer, SGFormer).
3. Interpreteerbaarheid: Het framework biedt interpreteerbaarheid door het leren van node-wise schalen en attention scores. Dit maakt de identificatie van sleutel-ROI's mogelijk die geassocieerd zijn met preklinische AD-stadia, wat inzichten biedt in welke anatomische regio's het meest kritiek zijn voor specifieke beeldvormingsmodaliteiten.

Experimentele Resultaten
Experimenten werden uitgevoerd op de Alzheimer's Disease Neuroimaging Initiative (ADNI) dataset, bestaande uit 919 preklinische subjecten geclassificeerd als Controle (CN), Significante Geheugenproblemen (SMC) en Vroeg Mild Cognitief Impairment (EMCI). De studie maakte gebruik van structurele hersennetwerken uit Diffusion Tensor Imaging (DTI) en ROI-maten van FDG-PET, Amyloid-PET en MRI (corticale dikte).

• Classificatie-nauwkeurigheid: GTAD behaalde de hoogste nauwkeurigheid over alle experimentele combinaties van modaliteiten. Opvallend genoeg bereikte het 96,3% nauwkeurigheid bij het gebruik van alle beeldkenmerken, waarmee het de op één na beste Transformer-gebaseerde methode (SGFormer met 95,1%) versloeg.
• Robuustheid: Het model behield een hoge prestatie zelfs onder moeilijke omstandigheden, zoals het voorspellen van vroege AD-stadia met corticale dikte en $\beta$-amyloïd, waarbij de nauwkeurigheid 94,5% bereikte.
• Ablatie-studie: Het verwijderen van de adaptieve convolutie-laag of het multi-modale aandachtmechanisme resulteerde in significante prestatiedalingen, wat bevestigt dat de gezamenlijke training van lokale adaptieve schalen en globale aandacht essentieel is voor de effectiviteit van het model.

Interpretatiebevindingen
De studie analyseerde de geleerde schalen en attention scores om ziektespecifieke variaties te identificeren:

• Adaptieve Schalen: Het model identificeerde dat ROI's met kleine getrainde schalen zwaar leunen op naburige informatie, terwijl die met grote schalen behoefte hebben aan verre kenmerken. De schalen varieerden significant tussen modaliteiten voor dezelfde hersenregio, wat een multidimensionaal begrip van sub-netwerken biedt.
• Sleutel-ROI's: Het model benadrukte specifieke regio's met een hoge belangrijkheid, waaronder de linguale gyrus (gedetecteerd met de hoogste belangrijkheidsgraad over alle modaliteiten), de hippocampus (hoge belangrijkheid in FDG) en het putamen (hoog in corticale dikte en $\beta$-amyloïd). Deze regio's staan bekend als de eerste gebieden die worden aangetast bij de progressie van AD.

Betekenis
De auteurs stellen dat GTAD een praktische oplossing biedt voor de classificatie en interpretatie van preklinische AD. Door lokale en globale grafische eigenschappen effectief te combineren via een Transformer-gestuurd diffusieproces, verbetert het model niet alleen de diagnostische nauwkeurigheid, maar identificeert het ook sleutel-anatomische regio's die geassocieerd zijn met de ziekte. Deze dubbele capaciteit ondersteunt vroege diagnose en de potentie voor preventiestrategieën door de specifieke biomarker-variaties te verduidelijken die gelinkt zijn aan de preklinische stadia van Alzheimer.