Multi-Modal Graph Neural Network with Transformer-Guided Adaptive Diffusion for Preclinical Alzheimer Classification

Résumé Technique : Réseau de Neurones sur Graphes Multi-Modal avec Diffusion Adaptative Guidée par Transformer pour la Classification de l'Alzheimer Préclinique

Énoncé du Problème
La représentation graphique du cerveau, construite à partir de régions d'intérêt (ROI) et de leurs caractéristiques de connectome, offre des perspectives critiques pour le diagnostic des maladies neurodégénératives comme la maladie d'Alzheimer (MA). Cependant, les réseaux de neurones sur graphes (GNN) existants font face à des limitations inhérentes dans l'interprétation de ces réseaux. Les approches convolutionnelles traditionnelles peinent à agréger les informations provenant de voisinage distants, tandis que les méthodes basées sur l'attention échouent souvent à capturer suffisamment d'informations centrées sur les nœuds, particulièrement concernant les caractéristiques critiques des nœuds pivots. Ces lacunes entravent l'identification des variations spécifiques à la maladie lors de l'utilisation de diverses caractéristiques issues de multiples modalités d'imagerie (par exemple, l'IRM, la TEP). De plus, l'hétérogénéité introduite par les multiples magnitudes de biomarqueurs complique l'analyse des propriétés locales versus globales du graphe.

Méthodologie : Cadre GTAD
Les auteurs proposent GTAD (GNN avec Diffusion Adaptative Guidée par Transformer), un cadre intégré conçu pour agréger les propriétés de graphe à courte portée (locale) et à longue portée (globale). L'architecture se compose de trois composants principaux :

1. Bloc de Convolution Adaptative par Modalité :

   • Le modèle traite le réseau cérébral comme un graphe non orienté $G$ avec un Laplacien normalisé $\hat{L}$.
   • Pour chaque modalité d'imagerie $m$, un encodeur traite les caractéristiques des nœuds $x^m$ en utilisant une convolution par noyau de chaleur (heat-kernel convolution). L'opération de convolution est définie comme $H^m_z = \sigma_z(e^{-s^m \hat{L}} H^m_{z-1} W^m_z)$, où $s^m$ représente un vecteur d'échelle par nœud entraînable et spécifique à chaque modalité.
   • Contra\à des noyaux fixes, ces échelles sont apprises pour capturer de manière adaptative les caractéristiques locales de chaque nœud pour différentes modalités. Cela permet au modèle de déterminer la portée de voisinage optimale pour chaque ROI en fonction des données d'imagerie spécifiques.

2. Bloc d'Auto-Attention par Modalité :

   • Les plongements (embeddings) $\{H^m_Z\}$ issus du bloc de convolution sont injectés dans un mécanisme d'auto-attention basé sur un Transformer.
   • Contrairement aux Transformers standards qui traitent souvent tous les jetons (tokens) de manière uniforme, GTAD assigne une tête d'attention spécifique à chaque modalité. Cela permet au modèle d'intégrer des informations à longue portée à travers le graphe qui ne sont pas capturées par la convolution locale.
   • L'auto-attention multi-têtes calcule les caractéristiques globales en portant attention conjointement aux informations de différentes modalités à travers diverses ROI. Le bloc inclut des connexions résiduelles et une normalisation de couche pour stabiliser l'apprentissage.

3. Mise à jour de l'Échelle Guidée par le Transformer :

   • La représentation globale $B_P$ du bloc d'attention est transmise à un classificateur en aval pour prédire l'étiquette de la maladie.
   • La fonction de perte (entropie croisée) est rétropropagée non seulement pour mettre à jour les poids, mais aussi pour mettre à jour les échelles spécifiques à la modalité $s^m$.
   • Une régularisation par norme $\ell_1$ est appliquée pour garantir des échelles positives pour le noyau de chaleur. Ce mécanisme permet au Transformer de guider le processus de diffusion adaptative, ajustant efficacement les champs récepteurs locaux en fonction de la tâche de classification globale.

Contributions Clés

1. Cadre Novateur : L'article propose un cadre qui agrège les propriétés à courte portée via des noyaux de diffusion adaptatifs et les propriétés à longue portée via l'attention multi-têtes, répondant ainsi aux limites des GNN purement convolutionnels ou purement basés sur l'attention.
2. Performance Supérieure : Le modèle démontre des performances de l'état de l'art dans les tâches de classification de graphes pour l'Alzheimer préclinique, surpassant diverses lignes de base incluant les GNN basés sur la convolution (GCN, GAT), les GNN basés sur la diffusion (GraphHeat, GDC, ADC, LSAP) et les Graph Transformers (NodeFormer, DIFFormer, SGFormer).
3. Interprétabilité : Le cadre offre une interprétabilité en apprenant les échelles de nœuds et les scores d'attention. Cela permet l'identification des ROI clés associés aux stades précliniques de l'Alzheimer, offrant des perspectives sur les régions anatomiques les plus critiques pour des modalités d'imagerie spécifiques.

Résultats Expérimentaux
Les expériences ont été menées sur le jeu de données Alzheimer's Disease Neuroimaging Initiative (ADNI), comprenant 919 sujets précliniques classifiés en Contrôle (CN), Préoccupation Mémorielle Significative (SMC) et Trouble Cognitif Léger Précoce (EMCI). L'étude a utilisé des réseaux cérébraux structurels issus de l'imagerie par tenseur de diffusion (DTI) et des mesures ROI de la FDG-PET, de l'Amyloïde-PET et de l'IRM (épaisseur corticale).

• Précision de Classification : GTAD a atteint la précision la plus élevée à travers toutes les combinaisons expérimentales de modalités. Notamment, il a atteint une précision de 96,3 % lorsqu'utilisant toutes les caractéristiques d'imagerie, surpassant la méthode basée sur les Transformers la plus performante (SGFormer à 95,1 %).
• Robustesse : Le modèle a maintenu une haute performance même dans des conditions difficiles, comme la prédiction des stades précoces de l'Alzheimer en utilisant l'épaisseur corticale et la $\beta$-amyloïde, où la précision a atteint 94,5 %.
• Étude d'Ablation : Le retrait de la couche de convolution adaptative ou du mécanisme d'attention multi-modal a entraîné des baisses de performance significatives, confirmant que l'entraînement conjoint des échelles adaptatives locales et de l'attention globale est essentiel à l'efficacité du modèle.

Résultats d'Interprétabilité
L'étude a analysé les échelles apprises et les scores d'attention pour identifier les variations spécifiques à la maladie :

• Échelles Adaptatives : Le modèle a identifié que les ROI avec de petites échelles entraînées dépendent fortement des informations de voisinage, tandis que celles avec de grandes échelles nécessitent des caractéristiques distantes. Les échelles variaient considérablement selon les modalités pour une même région cérébrale, fournissant une compréhension multidimensionnelle des sous-réseaux.
• ROI Clés : Le modèle a mis en évidence des régions spécifiques avec une importance élevée, notamment le gyrus lingual (détecté avec le taux d'importance le plus élevé à travers toutes les modalités), l'hippocampe (haute importance dans la FDG) et le putamen (élevée dans l'épaisseur corticale et la $\beta$-amyloïde). Ces régions sont connues pour être parmi les premières affectées dans la progression de la maladie d'Alzheimer.

Signification
Les auteurs affirment que GTAD offre une solution pratique pour la classification et l'interprétation de l'Alzheimer préclinique. En combinant efficacement les propriétés de graphes locales et globales via un processus de diffusion guidé par Transformer, le modèle améliore non seulement la précision du diagnostic, mais identifie également les régions anatomiques clés associées à la maladie. Cette double capacité soutient le diagnostic précoce et le potentiel de stratégies de prévention de la maladie en élucidant les variations spécifiques des biomarqueurs liées aux stades précliniques de la maladie d'Alzheimer.