⚡ electrical engineering

Small, Bias-Free, Blind and Convolutional Denoiser: A compact ConvNeXt U-Net for blind Gaussian color-image denoising

Le papier introduit BF-ConvUNeXt, un ConvNeXt U-Net compact et sans biais qui réalise un débruitage d'images couleur gaussien aveugle avec une forte généralisation à travers les niveaux de bruit et des performances compétitives face à des modèles plus larges en exploitant une tige de Gabor gelée, un routage par pyramide de Laplacien et une homogénéité de degré 1 pour permettre à un modèle unique de gérer une large gamme d'échelles de bruit.

Auteurs originaux : Nikolas Markou

Publié 2026-07-28

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nikolas Markou

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'Art de Nettoyer un Signal Bruité

Imaginez que vous essayiez d'écouter votre chanson préférée, mais que quelqu'un ait versé un seau de statique sur les haut-parleurs. Dans le monde de la vision par ordinateur, ce « statique » est appelé bruit, et la tâche consistant à le nettoyer est appelée débruitage. Pendant des décades, des scientifiques ont construit des cerveaux numériques massifs et complexes (réseaux de neurones) pour agir comme des nettoyeurs experts, tentant de deviner à quoi ressemblait l'image originale et parfaite avant que le bruit ne la gâche. Généralement, ces experts sont entraînés pour gérer un niveau spécifique de saleté ; si vous leur donnez une image légèrement plus sale que celle pour laquelle ils se sont exercés, ils s'embrouillent souvent et échouent.

Cependant, il existe un tour de passe-passe mathématique ingénieux caché à la vue de tous. Si vous construisez une machine de nettoyage qui n'a pas d'« offsets » ou de « biais » — ce qui signifie qu'elle ne suppose pas un point de départ spécifique ou n'ajoute aucun nombre fixe à ses calculs — elle devient parfaitement invariante à l'échelle. Pensez à une photocopieuse qui fonctionne de la même manière que l'on copie une petite carte postale ou un immense panneau publicitaire ; elle adapte simplement son effort pour correspondre parfaitement à la taille de l'entrée. Cette propriété, connue sous le nom d'homogénéité, permet à un seul modèle de gérer des niveaux de bruit qu'il n'a jamais vus, simplement en « ressentant » la direction du désordre plutôt qu'en mémorisant une quantité précise de saleté. Cet article explore jusqu'où nous pouvons pousser cette idée : pouvons-nous construire un petit nettoyeur super efficace et sans biais qui rivalise avec les géants lourds du domaine ?

Le Petit Nettoyeur Aveugle

Les auteurs présentent un nouveau modèle appelé BF-ConvUNeXt. Il s'agit d'un débruiteurur compact et « aveugle », ce qui signifie qu'il n'a pas besoin qu'on lui dise à quel point l'image est bruitée ; il le comprend par lui-même. Alors que les débruiteurs d'images les plus puissants d'aujourd'hui sont des géants massifs possédant des dizaines de millions de paramètres (l'équivalent numérique de cellules de mémoire), ce nouveau modèle est un champion léger avec seulement 0,82 million de paramètres. Il y parvient en combinant quatre idées existantes dans une seule machine parfaitement réglée, où chaque partie travaille ensemble pour maintenir cette propriété spéciale d'« invariance d'échelle » du début à la fin.

Le modèle est construit comme une ligne de montage d'usine de haute technologie. D'abord, il fait passer l'image bruitée à travers une tige de Gabor gelée (frozen Gabor stem). Imaginez cela comme un ensemble de filtres pré-fabriqués et immuables qui sont déjà experts pour repérer les bords et les motifs sous différents angles. Ces filtres sont « gelés », ce qui signifie que le modèle ne les apprend jamais ; ils sont juste là, prêts à travailler, contribuant avec zéro mémoire entraînable. Ensuite, l'image est décomposée à l'aide d'une pyramide de Laplacian. C'est comme séparer un bourdonnement doux de basse fréquence d'une statique de haute fréquence vive et crépitante. Le modèle envoie la partie lisse dans un tunnel profond pour être traitée, tandis que les morceaux bruités et tranchants sont envoyés sur une « connexion de saut » (skip connection) pour être traités séparément, garantissant que le modèle ne jette pas accidentellement des détails importants.

Le cœur de la machine est un ConvNeXt U-Net, une architecture moderne connue pour son efficacité. Mais voici la recette secrète : l'ensemble du système est sans biais. Chaque couche évite d'ajouter des nombres supplémentaires (biais) qui briseraient la règle d'invariance d'échelle. Il utilise un type spécial de normalisation et une « tête » linéaire (la couche de sortie finale) pour garantir que si vous doublez le bruit, la réaction du modèle double exactement, maintenant ainsi les mathématiques parfaitement équilibrées.

Ce que le Modèle a Accompli

Les chercheurs ont entraîné ce petit modèle sur un « curriculum » de bruit, commençant par une statique très légère et augmentant progressivement jusqu'à un niveau de bruit de 64 (sur une échelle de 0 à 255). Les résultats ont été étonnamment robustes. Grâce à sa conception sans biais, le modèle n'a pas simplement cessé de fonctionner lorsque le bruit devenait plus lourd ; il a continué à nettoyer avec grâce. Testé sur des niveaux de bruit bien au-delà de son entraînement — jusqu'à 150 et même 200 — il n'a pas planté. Au lieu de cela, il a continué à produire des images claires, ne voyant sa qualité chuter que de manière fluide et lente. À un niveau de bruit de 200 (ce qui est 3,1 fois le bruit maximal qu'il a vu pendant son entraînement), il a tout de même réussi à produire une image avec un score de qualité de 20,0 dB, un exploit remarquable pour un modèle qui n'a pas été explicitement enseigné pour gérer un tel chaos.

Lorsque les auteurs ont comparé le BF-ConvUNeXt aux références standards, les résultats ont été impressionnants. Sur quatre ensembles d'images en couleur standards (CBSD68, Kodak24, McMaster et Urban100), le petit modèle égale ou bat les anciens débruiteurs classiques comme DnCNN et FFDNet à des niveaux de bruit de 15, 25 et 50. En moyenne, il est environ 0,7 dB meilleur que DnCNN. Cependant, l'article est honnête sur ses limites : bien qu'il batte les petits modèles de l'ancienne école, il reste derrière les géants massifs de l'état de l'art (comme Restormer ou SwinIR) par une petite marge (environ 0,3 à 1,7 dB selon le type d'image). L'écart est le plus large sur les images présentant des motifs répétitifs et complexes (comme l'ensemble Urban100), où la capacité des grands modèles à observer des parties distantes de l'image leur donne un avantage.

Le Piège et l'Avenir

L'article précise également ce que ce modèle ne peut pas faire. Parce que la « logique de nettoyage » du modèle est une estimation locale plutôt qu'une carte globale parfaite de la réalité, il ne peut pas être utilisé pour certaines tâches mathématiques avancées qui nécessitent un système parfaitement conservateur (comme certains algorithmes spécifiques de type « plug-and-play »). Cependant, les auteurs montrent que ce « score » local est toujours assez puissant pour piloter d'autres tâches, telles que le remplissage de parties manquantes d'une image (inpainting) ou l'accentuation de photos floues, sans avoir besoin de réentraîner le modèle.

En fin de compte, le BF-ConvUNeXt prouve que vous n'avez pas toujours besoin d'un cerveau massif et coûteux pour nettoyer une image désordonnée. En respectant des règles mathématiques strictes et en combinant le traitement du signal classique avec un design moderne, un petit modèle aveugle et sans biais peut gérer des niveaux de bruit qu'il n'était pas censé attendre, offrant une alternative hautement efficace pour un monde qui exige souvent plus de puissance de calcul que nous n'en avons.

Résumé Technique : BF-ConvUNeXt

Énoncé du Problème

L'article traite du débruitage d'images gaussien aveugle (blind Gaussian image denoising), une tâche consistant à reconstruire une image propre $x$ à partir d'une observation bruitée $y = x + \epsilon$ (où $\epsilon \sim \mathcal{N}(0, \sigma^2 I)$ ) sans connaître le niveau de bruit $\sigma$ au moment de l'inférence. Alors que les solutions de pointe (SOTA) modernes reposent sur des hybrides massifs de Transformers et de CNN (ex. : DRUNet, SwinIR, Restormer) dotés de dizaines de millions de paramètres, souvent entraînés par niveau de bruit, ce travail examine si une architecture compacte et strictement exempte de biais peut atteindre une généralisation aveugle compétitive. L'hypothèse centrale est que la suppression de toutes les constantes additives dans un CNN de débruitage le rend homogène de degré 1 ( $D(\alpha y) = \alpha D(y)$ ), permettant à un modèle unique de se généraliser sur une large gamme de niveaux de bruit là où les réseaux biaisés échouent.

Méthodologie : BF-ConvUNeXt

La solution proposée, BF-ConvUNeXt, est un U-Net ConvNeXt de 0,82 M de paramètres conçu pour préserver l'homogénéité de degré 1 de bout en bout. Il intègre quatre composants établis dans une configuration spécifique préservant l'absence de biais :

Stem Gabor Profond (Depthwise) Gelé :
- Remplace la première convolution apprenable standard par une banque fixe et non entraînable de 22 ondelettes de Gabor orientées par canal d'entrée (soit 66 canaux de sortie au total).
- Ces filtres sont initialisés avec des orientations, fréquences et phases balayées (basées sur Gabor [1946]) et restent statiques.
- Une seule convolution $1\times1$ entraînable et exempte de biais ( $66 \to 66$ ) remixe ces réponses gelées, servant de seule liberté de paramètre dans le stem.
Encodeur à Pyramide Laplacienne avec Sauts de Haute Fréquence :
- Au lieu du max-pooling, le sous-échantillonnage est effectué via une décomposition en pyramide laplacienne.
- La bande de basse fréquence descend vers le niveau suivant, tandis que le résiduel de haute fréquence à pleine résolution est acheminé vers la connexion de saut (skip connection).
- Crucialement, ce saut de haute fréquence passe par trois blocs ConvNeXt supplémentaires exempts de biais avant la fusion, imposant un biais inductif de type rétrécissement par ondelettes (wavelet-shrinkage) qui sépare la structure du signal du bruit.
Corps U-Net ConvNeXt-V1 :
- Le réseau utilise une largeur constante de 66 canaux à tous les niveaux (encodeur, bottleneck, décodeur).
- Il emploie le bloc ConvNeXt-V1 (convolution depthwise $7\times7$ , MLP à goulot d'étranglement inversé, LayerScale) plutôt que la V2, car la normalisation de réponse globale (Global Response Normalization) de la V2 introduit des termes de type biais qui brisent l'homogénéité.
- Les connexions de saut utilisent l'addition plutôt que la concaténation pour maintenir la linéarité.
Construction Exempte de Biais (Bias-Free) :
- Aucun biais additif dans aucune convolution (stem Gabor, projections $1\times1$ , convolutions de blocs ou tête de réseau).
- Activations : LeakyReLu (positivement homogène) est utilisé à la place de GELU.
- Normalisation : Une BiasFreeBatchNorm personnalisée est utilisée, qui repose uniquement sur la variance glissante (pas de moyenne glissante, pas d'offset $\beta$ ). Cela garantit que l'opération de normalisation est linéaire par rapport à l'entrée lors de l'inférence, préservant ainsi l'homogénéité de degré 1.
- Tête (Head) : Une convolution $1\times1$ linéaire et exempte de biais.

Stratégie d'Entraînement

Apprentissage par Curriculum (Curriculum Learning) : Le modèle est entraîné sur un curriculum de bruit où l'écart-type maximal du bruit ( $\sigma_{max}$ ) augmente linéairement de 0,025 à 0,25 (sur une échelle normalisée $[0, 1]$ , correspondant à $\sigma_{255} \approx 6,4 \to 64$ ) sur 100 époques.
Gestion des Entrées : Les entrées bruitées sont écrêtées (clipping) à $[0, 1]$ immédiatement après l'ajout du bruit. Ce processus d'écrêtage est appliqué de manière cohérente pendant l'entraînement et l'inférence.
Objectif : Erreur Quadratique Moyenne (MSE) standard qui, sous l'identité de Miyasawa/Tweedie, pousse le réseau vers l'estimateur MMSE où le résiduel approxime une fonction de score mise à l'échelle.

Contributions Clés

Intégration Architecturale : Une description précise d'une intégration préservant l'absence de biais d'un stem Gabor gelé, d'une décomposition de saut par pyramide laplacienne et de blocs ConvNeXt, résultant en un réseau exactement homogène de degré 1 lors de l'inférence.
Évaluation Équitable (Fair Benchmarking) : Une évaluation d'un unique checkpoint aveugle sur quatre jeux de données colorés standards (CBSD68, Kodak24, McMaster, Urban100) à trois niveaux de bruit ( $\sigma \in \{15, 25, 50\}$ ) en utilisant le protocole d'image complète.
Limites Théoriques : Une clarification explicite que bien que le résiduel agisse comme un score local (permettant la généralisation aveugle et l'échantillonnage stochastique), l'opérateur appris est non-conservatif (son jacobien n'est pas symétrique). Par conséquent, les garanties pour la convergence Plug-and-Play ou RED (ou les posteriors bayésiens calibrés) ne s'appliquent pas.

Résultats

Généralisation Aveugle : Le modèle extrapole de manière fluide au-delà de sa plage d'entraînement ( $\sigma_{255} \le 64$ ). Il atteint 22,8 dB à $\sigma_{255}=150$ et 20,0 dB à $\sigma_{255}=200$ (soit 2,3 $\times$ et 3,1 $\times$ le maximum d'entraînement), avec une dégradation monotone sans chute brutale de performance.
Performance sur le Classement (Leaderboard) :
- vs. Petits CNN : BF-ConvUNeXt égale ou bat DnCNN et FFDNet sur tous les ensembles et niveaux, avec une moyenne de +0,7 dB par rapport à DnCNN. Sur CBSD68, la marge est étroite (+0,10 à +0,15 dB) et proche de la sensibilité du protocole d'écrêtage des entrées, ce qui équivaut pratiquement à une égalité.
- vs. Modèles SOTA Lourds : Il suit les grands modèles (DRUNet, SwinIR, Restormer, SCUNet) avec un écart constant de 0,3 à 1,7 dB, selon le jeu de données. L'écart est le plus faible sur CBSD68 et le plus élevé sur Urban100, où l'auto-similarité non locale favorise les modèles basés sur l'attention.
- Efficacité : Avec 0,82 M de paramètres, il se situe entre les CNN classiques de moins de 1 M et les modèles SOTA de 12–32 M, atteignant une performance proche de 1 dB de ces derniers avec environ 1/15 à 1/39 de leur nombre de paramètres.
Problèmes Inverses : Le modèle gelé sert de prior implicite pour les solveurs de problèmes inverses stochastiques (inpainting, super-résolution, défloutage) sans réentraînement, en exploitant la propriété de score local.

Signification et Revendications

L'article positionne BF-ConvUNeXt non pas comme une découverte de nouveau composant, mais comme une intégration d'ingénierie et une évaluation démontrant l'utilité pratique d'une absence stricte de biais.

Revendications Modestes : Les auteurs précisent explicitement que le modèle ne bat pas le SOTA massif. La signification réside dans la démonstration qu'un petit modèle aveugle peut se généraliser à travers différents niveaux de bruit et approcher les performances de modèles massifs, à condition que l'architecture respecte strictement les contraintes d'homogénéité.
Limites Théoriques : L'article souligne que l'interprétation du "score" est locale. Le résiduel n'est pas le gradient d'une fonction d'énergie globale, ce qui limite son utilisation dans des méthodes nécessitant des opérateurs conservatifs (par exemple, la convergence prouvée du Plug-and-Play).
Précautions de Protocole : Les auteurs notent que leur écrêtage des entrées à $[0, 1]$ offre un léger avantage par rapport aux bases non écrêtées, particulièrement à des niveaux de bruit élevés. En tenant compte de cela, la performance sur CBSD68 contre DnCNN est une égalité, et non une victoire claire.

En conclusion, BF-ConvUNeXt valide que l'homogénéité de degré 1 est un mécanisme viable pour le débruitage aveugle, permettant à un modèle compact de couvrir un large spectre de bruit et de soutenir des problèmes inverses en aval, malgré un plafond de performance par rapport aux architectures massives et non-aveugles basées sur l'attention.