Résumé Technique : Une Théorie Analytique des Solveurs de Problèmes Inverses par Réseaux de Neurones Convolutifs

1. Énoncé du Problème

Les réseaux de neurones convolutifs (CNN) supervisés ont atteint des performances de pointe dans la résolution de problèmes inverses d'imagerie (par exemple, débruitage, inpainting, déconvolution, IRM accélérée). Malgré leur succès empirique, ces méthodes sont souvent traitées comme des « boîtes noires » avec une compréhension théorique limitée. Le défi central abordé dans ce travail est l'absence d'un cadre analytique expliquant comment les CNN entraînés fonctionnent comme estimateurs pour les problèmes inverses, comblant spécifiquement le fossé entre les sorties empiriques des réseaux de neurones et la théorie de l'estimation statistique.

Les auteurs considèrent le problème inverse linéaire standard avec un bruit gaussien blanc additif :
$$y = Ax + e$$
où $A: \mathbb{R}^N \to \mathbb{R}^M$ est un opérateur linéaire, $x$ est le signal inconnu, et $e \sim \mathcal{N}(0, \sigma^2 I_M)$. L'objectif est de construire un estimateur $\hat{x}(y)$ de $x$. Bien que de nombreuses architectures neuronales existent (certaines agnostiques de la physique, d'autres conscientes de la physique), l'article cherche à caractériser la classe de fonctions spécifique que ces réseaux approximent sous le critère de l'Erreur Quadratique Moyenne Minimale (MMSE).

2. Méthodologie

2.1. Cadre Théorique : MMSE Contraint

Les auteurs analysent les réseaux de neurones entraînés à travers le prisme de l'estimateur à Erreur Quadratique Moyenne Minimale (MMSE), défini comme la moyenne conditionnelle $\mathbb{E}[x|y]$. Cependant, les estimateurs MMSE standards sont intraitables pour des distributions complexes. L'article introduit des Estimateurs Empiriques MMSE Contraints, où l'optimisation est restreinte à des classes de fonctions spécifiques $\mathcal{M}$ qui encodent les biais inductifs des CNN.

Les auteurs définissent trois niveaux de contraintes correspondant à différentes variantes d'estimateurs :

1. MMSE (Sans contrainte) : Correspond à la moyenne a posteriori. Sous une distribution de jeu de données empirique, cela agit comme un régresseur à noyau qui « mémorise » les données d'entraînement (reconstruction via des voisins les plus proches repondérés).
2. E-MMSE (Équivariant par translation) : Contraint l'estimateur à être équivariant par translation. Cela approxime les CNN sans contraintes de champ récepteur fini. Les auteurs montrent que cet estimateur mémorise le jeu de données augmenté (données d'entraînement sous toutes les translations cycliques).
3. LE-MMSE (MMSE Localement Équivariant) : Contraint l'estimateur à être à la fois équivariant par translation et local (champs récepteurs finis). Cette classe $\mathcal{M}_{T,loc}$ capture les CNN standards avec partage de poids et petits noyaux, ainsi que les MLP basés sur des patches.

2.2. Dérivation d'Expressions Analytiques Fermées

La contribution méthodologique principale est la dérivation de formules analytiques fermées pour ces estimateurs contraints sous la distribution d'entraînement empirique.

• Pour E-MMSE : L'estimateur est une moyenne pondérée du jeu de données augmenté $\mathcal{T}(D)$, où les poids sont déterminés par la vraisemblance gaussienne des mesures.

• Pour LE-MMSE : Les auteurs dérivent une formule pixel par pixel (Théorème 3.8). L'estimation au pixel $n'$ est une moyenne pondérée de tous les pixels dans les images d'entraînement :
  $$\hat{x}_{T,loc}(y)[n'] = \sum_{x \in D} \sum_{n=1}^N x[n] \cdot w_{n',n}(x|y)$$
  Les poids $w_{n',n}(x|y)$ sont proportionnels à une densité gaussienne mesurant la similarité entre le patch observé en $n'$ (après prétraitement $B$) et le patch en $n$ dans l'image d'entraînement $x$ (après application de l'opérateur direct $A$).

  Crucialement, le LE-MMSE est montré comme étant un patchwork de patches d'entraînement. Contrairement au MMSE sans contrainte qui reste dans l'enveloppe convexe du jeu de données, le LE-MMSE peut extrapoler en recombinant des patches locaux provenant d'échantillons d'entraînement différents.

2.3. Analyse des Opérateurs Pré-Inverses ($B$)

L'étude examine le rôle de l'opérateur linéaire $B$ (par exemple, identité pour l'agnosticisme de la physique, pseudo-inverse $A^+$ pour la conscience de la physique). L'analyse révèle un compromis :

• Discrimination du Signal : $B$ affecte la capacité à distinguer les patches similaires et dissimilaires.
• Robustesse au Bruit : $B$ affecte l'amplification du bruit.
  L'article démontre que pour des tâches comme l'inpainting, un $B=A^+$ conscient de la physique réduit la sensibilité au bruit, tandis que pour la déconvolution, il peut amplifier excessivement le bruit, suggérant qu'un inverse régularisé est souvent préférable.

3. Contributions Clés

1. Formules Analytiques : L'article fournit des expressions fermées traitables et interprétables pour l'estimateur LE-MMSE, généralisant les travaux précédents sur les modèles de diffusion à des problèmes inverses linéaires arbitraires.
2. Caractérisation Théorique des CNN : Il établit que les CNN entraînés (UNet, ResNet, PatchMLP) approximent étroitement l'estimateur LE-MMSE. Cela reformule les CNN non pas comme des boîtes noires, mais comme des généralisations structurées et adaptatives aux données des estimateurs classiques de moyennes non locales (NLM), où les patches sont tirés d'un jeu de données d'entraînement plutôt que de l'image d'entrée.
3. Mémorisation vs Généralisation : La théorie distingue les estimateurs qui se contentent de mémoriser les données (MMSE, E-MMSE) de ceux qui généralisent via la recombinaison de patches (LE-MMSE).
4. Validation à Différentes Échelles : La théorie est validée sur divers problèmes inverses (débruitage, inpainting, déconvolution), jeux de données (FFHQ, CIFAR-10, FashionMNIST, FastMRI) et architectures.

4. Résultats Expérimentaux

Les auteurs ont mené des expériences numériques extensives pour valider l'alignement entre les réseaux de neurones entraînés et la formule LE-MMSE dérivée.

• Alignement Élevé : Dans tous les paramètres, le PSNR entre les sorties des réseaux de neurones entraînés et l'estimateur analytique LE-MMSE est constamment élevé ($\gtrsim 25$ dB). Cela vaut pour différentes architectures (UNet2D, ResNet, PatchMLP) et jeux de données.
• Convergence des Architectures : Différentes architectures convergent vers la même solution, qui est bien prédite par la formule analytique.
• Comportement de Généralisation :
  • Régions à Haute Densité : L'alignement est le plus fort dans les régions de haute densité de mesures (par exemple, niveaux de bruit élevés où les mélanges gaussiens se chevauchent, ou sur le jeu de données d'entraînement).
  • Régions à Faible Densité : Un écart apparaît dans les régimes à faible bruit sur les jeux de données de test (hors distribution), attribué à la parcimonie de la distribution des patches dans ces régions. Cependant, le réseau approxime toujours le comportement LE-MMSE, exploitant des patches locaux pour reconstruire des images invisibles.
• Influence des Hyperparamètres :
  • Taille du Patch : Des patches plus grands améliorent les performances aux niveaux de bruit élevés (meilleure régularisation) mais dégradent l'alignement entre la formule et le réseau aux niveaux de bruit faibles en raison de distributions de patches plus parcimonieuses.
  • Taille du Jeu de Données : L'augmentation de la taille du jeu de données améliore légèrement l'alignement mais n'est pas le facteur principal ; la théorie tient même pour des jeux de données plus petits.
• Imagerie Scientifique : Le cadre s'étend avec succès à la reconstruction IRM accélérée (fastMRI), montrant un alignement fort ($\ge 28.6$ dB PSNR) entre ResNet et l'estimateur analytique.

5. Signification et Revendications

L'article revendique fournir une fondation théorique pour comprendre les solveurs de problèmes inverses basés sur les CNN, allant au-delà de la validation purement empirique.

• Explicabilité : En dérivant des expressions fermées, les auteurs transforment les CNN « boîtes noires » en estimateurs prévisibles. Cela permet l'analyse théorique de propriétés telles que la stabilité et la généralisation.
• Guidage de la Conception : L'analyse de l'opérateur pré-inverse $B$ offre des directives principielles pour concevoir des architectures conscientes de la physique, mettant en évidence le compromis entre la cohérence des données et l'amplification du bruit.
• Compression de Données : Les auteurs notent que les réseaux de neurones compressent et réarticulent efficacement les données d'entraînement. Alors que le jeu de données d'entraînement contient $\sim 3.1 \times 10^7$ pixels, le réseau compresse cela en $\sim 4 \times 10^6$ paramètres, permettant une évaluation efficace et quasi instantanée du complexe estimateur LE-MMSE.
• Directions Futures : L'article suggère que ce cadre peut être étendu pour analyser le biais spectral (via des contraintes de lissage), le bruit non gaussien et d'autres fonctions de perte (par exemple, perte $\ell_1$), fournissant une feuille de route pour les travaux théoriques futurs en apprentissage profond pour les problèmes inverses.

En résumé, l'article soutient que le succès des CNN dans les problèmes inverses n'est pas accidentel mais découle de leur capacité à approximer le MMSE Localement Équivariant, un estimateur statistiquement optimal qui équilibre mémorisation et généralisation par la recombinaison de patches locaux d'entraînement.