Résumé Technique : GeoSAE

1. Énoncé du Problème

Les modèles de base (Foundation Models ou FMs) pour l'IRM cérébrale, préentraînés par apprentissage auto-supervisé sur des dizaines de milliers de scans, produisent des représentations de haute dimension et entrelacées, difficiles à interpréter. Dans la recherche sur la maladie d'Alzheimer (MA), cette opacité est particulièrement problématique car le vieillissement est à la fois le principal facteur de risque et un facteur de confusion omniprésent ; les caractéristiques qui semblent prédire la progression de la MA peuvent simplement refléter le vieillissement normal, des comorbidités (par exemple, maladies cardiovasculaires, diabète) ou des artefacts d'acquisition.

Les méthodes d'interprétation existantes présentent des limitations spécifiques :

• Attribution a posteriori (par exemple, GradCAM, Integrated Gradients) : Produit des cartes de saillance spatiales mais échoue à décomposer les représentations internes en concepts discrets et nommables.
• Sondage linéaire et Vecteurs d'Activation de Concepts (TCAV) : Traitent l'espace latent comme un vecteur monolithique, incapable d'identifier quelles dimensions spécifiques codent quelles informations.
• Méthodes de désentanglement : Nécessitent des étiquettes prédéfinies pendant l'entraînement et des modifications architecturales, les rendant inapplicables aux FMs auto-supervisés figés.

De plus, l'application des Autoencodeurs Creux (SAE) standards aux couches profondes des transformateurs dans les FMs de neuroimagerie introduit trois défis spécifiques :

1. Mortalité des caractéristiques : Les SAE standards souffrent d'un effondrement sévère des caractéristiques dans les couches profondes, perdant plus de 98 % des éléments du dictionnaire car aucun prior géométrique ne guide la régularisation.
2. Confusion liée à l'âge : Les corrélations brutes entre caractéristiques et résultats confondent la neurodégénérescence avec le vieillissement normal.
3. Confusion liée aux comorbidités : Les caractéristiques doivent dissocier les signaux spécifiques à la maladie des facteurs de risque partagés associés aux comorbidités.

2. Méthodologie : GeoSAE

Les auteurs proposent GeoSAE (Autoencodeur Creux guidé par la Géométrie), un cadre en trois étapes conçu pour extraire des caractéristiques interprétables et déconfondues de l'âge à partir de FMs d'IRM cérébrale figés, sans modifier le modèle de base.

Étape 1 : Analyse du Prior Géométrique

Avant d'entraîner le SAE, le cadre analyse la géométrie de la variété apprise par le FM pour chaque couche de transformateur.

• Sélection de l'activation : L'analyse évalue les propriétés géométriques (par exemple, structure de classe angulaire vs radiale, homogénéité de la dimensionnalité) pour sélectionner la fonction d'activation SAE optimale. Pour le modèle BrainIAC, l'activation TopK a été sélectionnée car elle correspondait le mieux à la structure dominante angulaire des données.
• Construction du graphe de variété : Un graphe de $k$-plus proches voisins (k-NN) est construit sur les embeddings du FM. Les échantillons considérés comme similaires par le FM (voisins dans l'espace de représentation) sont connectés avec des poids de noyau gaussien. Ce graphe sert de prior géométrique pour l'étape d'entraînement suivante.

Étape 2 : Entraînement du SAE Régularisé par la Variété

GeoSAE introduit un terme de régularisation de variété dans la fonction de perte standard du SAE pour résoudre la mortalité des caractéristiques.

• Fonction de perte : La perte totale combine la perte de reconstruction standard ($\mathcal{L}_{SAE}$) avec une pénalité de lissage de variété sur les pré-activations ($a$) avant la porte de parcimonie :
  $$\mathcal{L} = \mathcal{L}_{SAE} + \lambda \sum_{(i,j) \in \mathcal{N}_k} w_{ij} \|a_i - a_j\|_2^2$$
• Mécanisme : En pénalisant les pré-activations dissimilaires pour les échantillons qui sont voisins sur la variété du FM, la régularisation fournit des signaux de gradient à tous les éléments du dictionnaire, y compris ceux mis à zéro par la porte de parcimonie (TopK). Cela empêche l'effondrement des caractéristiques vers un petit ensemble actif, un mode de défaillance courant dans les couches profondes.

Étape 3 : Annotation des Caractéristiques Déconfondues de l'Âge

Pour attribuer un sens clinique aux caractéristiques survivantes, GeoSAE emploie une approche de corrélation partielle.

• Corrélations partielles : Au lieu de corrélations brutes, la méthode calcule des corrélations de Spearman partielles ($\rho_{jc \cdot a}$) entre chaque caractéristique $j$ et les variables cliniques $c$ (diagnostic, sexe, APOE4, comorbidités), en contrôlant l'âge ($a$). Cela élimine la variance partagée avec l'âge.
• Attribution de catégorie : Les caractéristiques sont assignées à une catégorie clinique (par exemple, liée à la MA, liée au sexe, génétique, comorbidité) en fonction de la corrélation partielle significative la plus forte. Les caractéristiques avec une corrélation brute significative avec l'âge mais aucune association clinique spécifique sont étiquetées « vieillissement », tandis que les autres sont « non spécifiques ». Une correction hiérarchique du taux de fausses découvertes (FDR) est appliquée pour contrôler les tests multiples.

3. Configuration Expérimentale

• Ensembles de données : Entraînement et évaluation principale sur ADNI (13,2k scans pondérés T1) ; validation externe sur AIBL (1,2k scans).
• Modèle de base : BrainIAC, un Vision Transformer (ViT) à 12 couches préentraîné sur plus de 85k scans.
• Tâches :
  1. Test d'enrichissement : Validation des catégories de caractéristiques par rapport à 31 variables cliniques secondaires.
  2. Prédiction sélective : Prédiction de la conversion de CCL vers MA en utilisant une régression logistique sur des sous-ensembles spécifiques de caractéristiques.
  3. Réplication inter-cohortes : Application du SAE entraîné sur ADNI à AIBL sans réentraînement pour tester la stabilité.

4. Résultats Clés

Décomposition et Survie des Caractéristiques

• Nombre de caractéristiques : À la couche optimale (Couche 9), GeoSAE a produit 161 caractéristiques vivantes, soit 7 fois plus qu'un SAE standard (23 caractéristiques vivantes) entraîné sans régularisation de variété.
• Tendances par couche : Les caractéristiques vivantes ont atteint un pic dans les premières couches et se sont consolidées avec la profondeur. La spécificité clinique a augmenté avec la profondeur, la Couche 9 montrant la concentration la plus élevée de caractéristiques liées à la MA, au sexe et génétiques.

Performance Prédictive

• Conversion CCL vers MA : Un sous-ensemble des 16 meilleures caractéristiques (sélectionnées par fréquence d'activation) a atteint un AUC de 0,746.
  • Cela surpassait l'embedding FM brut de 768 dimensions (AUC 0,687).
  • Il dépassait une base de référence supervisée 3D ResNet-18 (AUC 0,729) et les SAE standards (AUC 0,737).
  • Crucialement, cette performance a été atteinte en utilisant seulement 2 % des dimensions de l'embedding (16 dimensions).
• Spécificité : Les caractéristiques annotées comme « liées à la MA » ont piloté la performance de prédiction. Les caractéristiques annotées comme « comorbidité » n'ont atteint qu'un niveau de performance aléatoire (AUC ~0,507), confirmant que le cadre a réussi à dissocier les signaux de la maladie des comorbidités.

Réplication et Localisation

• Stabilité inter-cohortes : Les 16 meilleures caractéristiques se sont répliquées entre ADNI et AIBL sans réentraînement avec une corrélation de r=0,97 pour la cohérence de l'activation. Cela représente une amélioration de 32 % par rapport aux SAE standards (r=0,74).
• Localisation anatomique : Les cartes de déploiement de l'attention ont localisé les caractéristiques vers des régions neuroanatomiquement distinctes cohérentes avec le staging de Braak :
  • Stades précoces de Braak : Lobe temporal médial (hippocampe, gyrus parahippocampique).
  • Stades avancés : Noyaux sous-corticaux et réseaux temporo-pariétaux.
• Enrichissement : Les caractéristiques liées à la MA étaient significativement enrichies pour l'utilisation de médicaments contre la MA (par exemple, mémantine, donepezil), validant la pertinence biologique des caractéristiques extraites.

5. Contributions et Signification

L'article revendique trois contributions principales :

1. Cadre GeoSAE : Une méthode novatrice utilisant l'analyse géométrique des représentations du FM pour guider la sélection de la fonction d'activation et introduisant une régularisation de variété sur les pré-activations pour empêcher l'effondrement des caractéristiques dans les couches profondes.
2. Pipeline d'annotation déconfondu : Une stratégie d'annotation rigoureuse utilisant des corrélations partielles déconfondues de l'âge et une correction hiérarchique du FDR pour attribuer des étiquettes cliniques aux caractéristiques, séparant efficacement les signaux de vieillissement, de comorbidité et de maladie.
3. Validation empirique : Démonstration qu'un ensemble compact de 16 caractéristiques interprétables issues d'une seule couche d'un FM figé peut prédire la conversion vers la MA mieux que la représentation complète, se répliquer sur des cohortes indépendantes et se localiser vers des régions cérébrales biologiquement plausibles.

Signification :
Les auteurs affirment que GeoSAE démontre que la structure géométrique inhérente aux représentations des modèles de base peut être exploitée pour extraire des caractéristiques cliniquement transparentes et mécanistiquement interprétables à partir d'embeddings boîte noire. Cette approche répond au besoin critique de biomarqueurs fiables et interprétables en neuroimagerie tout en contrôlant les confusions omniprésentes liées au vieillissement et aux comorbidités. Le travail est modestement circonscrit à un seul FM (BrainIAC) et à un seul domaine (MA), notant que la généralisation à d'autres architectures et maladies nécessite des investigations supplémentaires.