Learning spatially adaptive sparsity level maps for arbitrary convolutional dictionaries

Cet article présente une méthode de reconstruction d'images améliorée qui intègre des cartes de niveaux de parcimonie spatialement adaptatives inférées par un réseau de neurones dans une régularisation par dictionnaire convolutif, permettant ainsi une invariance aux permutations de filtres, une adaptation dynamique du dictionnaire à l'inférence et une meilleure robustesse face aux décalages de distribution des données, notamment en IRM à bas champ.

L'essentiel

🎨 Le Problème : Reconstruire une image floue comme un puzzle

Imaginez que vous essayez de reconstituer un magnifique tableau (une image médicale, comme une IRM du cerveau) à partir de quelques pièces de puzzle manquantes et un peu sales. C'est ce que font les machines d'IRM : elles ne voient pas l'image directement, mais des données brutes et bruitées.

Jusqu'à présent, les meilleures méthodes pour reconstruire ces images utilisaient des "boîtes noires" (des réseaux de neurones très complexes). C'est comme si un magicien vous donnait l'image finale sans vous expliquer comment il l'a faite. Ça marche très bien, mais si le magicien rencontre un type de puzzle qu'il n'a jamais vu (par exemple, un puzzle de genou alors qu'il a appris sur des puzzles de cerveau), il peut faire des erreurs graves. De plus, on ne sait pas pourquoi il a pris telle ou telle décision.

💡 La Solution : Un guide intelligent et flexible

Les auteurs de ce papier ont créé une nouvelle méthode, appelée CDL-Λ, qui combine la puissance de l'apprentissage automatique avec la logique mathématique.

Voici comment ça marche, avec une analogie :

1. Le Dictionnaire de "Briques" (Le Dictionary)

Imaginez que pour reconstruire l'image, vous avez une boîte de Lego. Chaque pièce de Lego est un petit motif (une texture, une ligne, un point).

• L'ancienne méthode : Le magicien apprenait avec une boîte de Lego spécifique (disons, 32 pièces rouges). Si vous lui donniez une boîte avec 64 pièces bleues ou si vous mélangiez l'ordre des pièces, il paniquait et l'image devenait moche. Il était "rigide".
• La nouvelle méthode (V3) : Les chercheurs ont créé un guide super flexible. Ce guide peut utiliser n'importe quelle boîte de Lego, qu'elle ait 16, 64 ou 128 pièces, et peu importe l'ordre dans lequel elles sont rangées.

2. La Carte de "Sparsité" (Le Sparsity Level Map)

C'est le cœur de l'invention. Au lieu de tout reconstruire d'un coup, le système demande : "Où est-ce qu'il faut utiliser beaucoup de détails ? Où est-ce qu'il faut être simple ?"

• Imaginez que vous peignez un portrait. Sur le visage, vous voulez des détails précis (yeux, bouche). Sur le fond, vous voulez juste une couleur unie.
• Le réseau de neurones de ce papier crée une "carte de consignes" (la carte de sparsité). Il dit au système : "Ici, utilise 50 pièces de Lego pour être précis. Là-bas, utilise seulement 2 pièces car c'est du flou."
• Cette carte est apprise par un petit cerveau artificiel (un réseau de neurones) qui regarde l'image et décide où mettre l'effort.

🚀 Les Trois Grands Avancées

1. L'Indépendance Totale (Permutation Invariance) :
   Avant, si vous changez l'ordre des pièces de Lego dans la boîte, le système se trompait. Avec la nouvelle version (V3), le guide est si intelligent qu'il dit : "Peu importe l'ordre, je sais quelle pièce correspond à quel besoin." C'est comme si vous pouviez mélanger votre boîte de Lego et que le guide trouvait toujours la bonne pièce sans se tromper.

2. La Flexibilité (Changer de Boîte à l'Arrivée) :
   C'est la plus grande innovation. Habituellement, on entraîne un système avec une boîte de Lego de taille fixe. Ici, on peut entraîner le guide avec une petite boîte (32 pièces) et, le jour de l'opération réelle, lui donner une boîte géante (128 pièces) qu'il n'a jamais vue !

   • Résultat : L'image est plus nette et plus précise, car le système a plus d'outils à sa disposition pour travailler.

3. La Robustesse (Moins de Panique face à l'Inconnu) :
   Quand on teste ces méthodes sur des données qu'elles n'ont jamais vues (par exemple, des images de genoux alors qu'elles ont été entraînées sur des cerveaux), les "boîtes noires" classiques s'effondrent souvent.

   • L'analogie : Un élève qui a appris par cœur ses leçons (les autres méthodes) échoue s'il pose une question différente. Notre guide, lui, comprend la logique de la reconstruction (c'est une méthode basée sur un modèle). Il s'adapte mieux aux situations nouvelles et ne panique pas.

🏥 En Pratique : L'IRM à Champ Faible

Les chercheurs ont testé cela sur des IRM à "champ faible" (des machines moins puissantes, moins chères, mais qui produisent des images très bruitées et floues).

• Résultat : Leur méthode produit des images aussi nettes que les meilleures technologies actuelles.
• Le petit plus : Comme leur système est "transparent" (on sait comment il fonctionne), on peut le faire travailler avec des outils plus puissants (plus de pièces de Lego) au moment de l'examen réel, ce qui donne un résultat encore plus net, sans avoir besoin de réapprendre tout le système.

🏁 En Résumé

Ce papier propose une méthode pour reconstruire des images médicales qui est :

• Intelligente : Elle sait où mettre les détails.
• Flexible : Elle accepte n'importe quel outil de travail, même ceux qu'elle n'a jamais vus.
• Sûre : Elle ne panique pas face aux situations nouvelles.
• Compréhensible : On sait exactement comment elle prend ses décisions (contrairement aux boîtes noires).

C'est un pas de géant vers des machines d'IRM plus accessibles, plus fiables et capables de s'adapter à n'importe quel patient ou type de blessure.

Résumé technique

1. Problématique

Les méthodes de reconstruction d'images basées sur l'apprentissage profond (Deep Learning) définissent actuellement l'état de l'art, mais elles souffrent de deux limitations majeures :

• Manque d'interprétabilité et de robustesse : Elles fonctionnent souvent comme des "boîtes noires", ce qui soulève des questions sur leur fiabilité, notamment face aux décalages de distribution des données (data distribution shifts).
• Rigidité des dictionnaires : Une méthode précédente (CDL-Λ) utilisait des réseaux de neurones pour estimer des cartes de niveaux de parcimonie (sparsity level maps) basées sur un dictionnaire convolutif pré-entraîné. Cependant, cette architecture était "agnostique" au dictionnaire : si le nombre de filtres ($K$) ou leur ordre changeait lors de l'inférence, les performances de reconstruction s'effondraient.

L'objectif de cet article est de développer un cadre flexible permettant d'apprendre des cartes de parcimonie adaptatives spatialement pour n'importe quel dictionnaire convolutif, tout en conservant les garanties de convergence et l'interprétabilité d'une approche basée sur un modèle.

2. Méthodologie

L'approche proposée repose sur une régularisation par parcimonie adaptative spatiale intégrée dans un problème de reconstruction inversée (spécifiquement pour l'IRM basse champ).

A. Formulation du problème

Le problème de reconstruction est modélisé comme $y = Ax_{true} + e$. La méthode cherche à approximer la composante haute fréquence de l'image ($x_{high}$) en résolvant un problème variationnel régularisé par une norme $\ell_1$ pondérée :
$$s^* := \arg \min_s \frac{1}{2}\|Bs - y'\|_2^2 + \|\Lambda s\|_1$$
Où :

• $D$ est le dictionnaire convolutif.
• $\Lambda$ est la carte de niveaux de parcimonie (poids de régularisation), estimée par un réseau de neurones convolutifs (CNN) $NET_\Theta$.
• La solution est obtenue par déroulement d'itérations d'un algorithme de gradient proximal accéléré (FISTA).

B. Architecture du Réseau ($NET_\Theta$)

Les auteurs comparent trois architectures pour estimer $\Lambda$ :

1. V1 (Référence) : Un U-Net standard qui prend l'image d'entrée et sort $K$ cartes. Elle est rigide : dépendante du nombre de filtres $K$ et de leur ordre.
2. V2 : L'entrée du réseau est conditionnée par le dictionnaire ($D^T x_0$). Bien que dépendante du dictionnaire, elle reste liée au nombre fixe de filtres $K$.
3. V3 (Proposition principale) : Une architecture innovante conçue pour être invariante par permutation des filtres et capable de gérer un nombre arbitraire de filtres.
   • Elle utilise des opérateurs de remodelage ($R$ et $R^{-1}$) pour transformer les tenseurs d'entrée.
   • Elle applique un même U-Net (2 vers 1) à chaque filtre individuellement, indépendamment de l'ordre ou du nombre total de filtres.
   • Cela permet d'utiliser un dictionnaire différent (avec un $K$ différent) lors de l'inférence sans réentraîner le réseau.

C. Stratégies d'Entraînement

• Variété de dictionnaires : Le réseau est entraîné sur un ensemble de dictionnaires variés (différents nombres de filtres $K$ et tailles de noyaux $k_f$) pour apprendre à généraliser.
• Rétropropagation tronquée (Truncated Backpropagation) : Étant donné que le déroulement de FISTA peut être coûteux en mémoire (surtout avec de grands dictionnaires), la rétropropagation des gradients est tronquée. On calcule d'abord quelques itérations sans gradients, puis on continue le calcul des gradients pour les itérations restantes afin de minimiser la perte (MSE).

3. Contributions Clés

1. Invariance par permutation et flexibilité du dictionnaire : La conception de l'architecture V3 permet d'utiliser n'importe quel dictionnaire convolutif (taille et nombre de filtres variables) au moment de l'inférence, résolvant la limitation majeure de l'état de l'art précédent.
2. Robustesse aux décalages de distribution : La méthode est testée sur des données hors distribution (données IRM de genou alors que l'entraînement était principalement sur des cerveaux). Elle montre une meilleure robustesse que les méthodes purement basées sur le Deep Learning (MoDL, E2E VarNet).
3. Interprétabilité et garanties : En conservant le composant de reconstruction basé sur un modèle (FISTA + parcimonie), la méthode offre des garanties de convergence et une interprétabilité physique, contrairement aux approches "end-to-end" purement neuronales.
4. Amélioration par changement de dictionnaire à l'inférence : L'étude démontre qu'il est possible d'améliorer la qualité de reconstruction sur des données réelles (in vivo) en utilisant un dictionnaire plus grand (plus de filtres) à l'inférence que celui utilisé lors de l'entraînement.

4. Résultats Expérimentaux

Les expériences ont été menées sur des données IRM basse champ (cerveau et genou), incluant des données simulées et des données in vivo T2 pondérées.

• Invariance aux permutations : Le tableau 1 montre que seule la version V3 maintient des performances stables (SSIM et MSE) lorsque l'ordre des filtres du dictionnaire est mélangé, contrairement à V1 et V2.
• Généralisation à différents $K$ : La figure 2 illustre que V3 fonctionne bien avec des dictionnaires de tailles variées ($K=16, 32, 64$), même si le réseau n'a pas été entraîné spécifiquement sur ces tailles exactes.
• Comparaison avec l'état de l'art :
  • Sur des données in-distribution (cerveau), les méthodes purement Deep Learning (MoDL, E2E VarNet) surpassent légèrement CDL-Λ en termes de métriques (SSIM/MSE).
  • Sur des données out-of-distribution (genou), l'écart de performance se réduit considérablement. CDL-Λ souffre moins du décalage de distribution, ce qui est attribué à sa composante de reconstruction basée sur un modèle physique.
• Données In Vivo : Sur une image IRM réelle de cerveau, CDL-Λ avec V3 produit des résultats comparables aux autres méthodes. Surtout, l'utilisation d'un dictionnaire plus grand ($K=128$) à l'inférence (non vu à l'entraînement) permet d'obtenir une image plus nette (meilleure résolution) que les autres méthodes.

5. Signification et Conclusion

Cet article propose une avancée significative dans le domaine de la reconstruction d'images médicales hybrides (modèle + apprentissage).

• Pragmatisme clinique : La capacité à changer de dictionnaire à l'inférence permet d'adapter la reconstruction aux spécificités de chaque patient ou type d'acquisition sans réentraîner le modèle, offrant une flexibilité cruciale pour le déploiement clinique.
• Robustesse : La méthode offre un compromis optimal entre la performance des réseaux de neurones et la robustesse des méthodes basées sur des modèles physiques, ce qui est essentiel pour les données médicales où les distributions peuvent varier considérablement.
• Futur : Les auteurs suggèrent que cette flexibilité ouvre la voie à des stratégies d'auto-supervision "zero-shot" pour rejeter ou remplacer des filtres de dictionnaire peu utiles, optimisant ainsi la représentation de l'image de manière dynamique.

En résumé, cette travail transforme une méthode de régularisation parcimonieuse rigide en un cadre adaptable et robuste, capable de tirer parti de dictionnaires arbitraires pour améliorer la reconstruction IRM, notamment dans des contextes de faible champ où le bruit est élevé.