💻 computer science

Multi-AD: Cross-Domain Unsupervised Anomaly Detection for Medical and Industrial Applications

L'article propose Multi-AD, un cadre de détection d'anomalies non supervisé et trans-domaine qui intègre des blocs de type squeeze-and-excitation, la distillation de connaissances et un réseau discriminateur pour atteindre des performances de pointe dans la détection d'anomalies subtiles à travers divers ensembles de données d'imagerie médicale et industrielle.

Auteurs originaux : Wahyu Rahmaniar, Kenji Suzuki

Publié 2026-02-06

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Wahyu Rahmaniar, Kenji Suzuki

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un inspecteur de contrôle qualité dans une usine, ou un médecin examinant une radiographie. Votre travail est de repérer quelque chose d'anormal — une minuscule rayure sur une pièce métallique ou une petite tumeur dans un scanner cérébral. Le problème, c'est que les choses « anormales » sont rares. Vous avez des milliers d'images d'objets parfaits et normaux, mais seulement une poignée d'objets défectueux. Entraîner un ordinateur à repérer les objets défectueux est difficile car vous n'avez pas assez d'exemples pour lui montrer.

Ce document présente un nouveau programme informatique appelé Multi-AD qui résout ce problème. Au lieu de montrer à l'ordinateur des exemples de choses « cassées », il apprend à l'ordinateur à devenir un expert de ce à quoi ressemble la « perfection ». Ensuite, il utilise une astuce ingénieuse pour repérer tout ce qui ne correspond pas à ce modèle parfait.

Voici comment fonctionne Multi-AD, décomposé en concepts simples :

1. Le « Professeur » et l'« Élève » (Distillation de connaissances)

Imaginez un chef cuisinier expert (le Professeur) qui sait exactement à quoi doit ressembler un gâteau parfait, tant au niveau du goût que de la texture et de l'aspect. Le chef n'a jamais vu de gâteau brûlé car il ne s'entraîne qu'avec des ingrédients parfaits. Maintenant, imaginez un apprenti chef (l'Élève) qui essaie d'apprendre.

Dans Multi-AD, le « Professeur » est un modèle informatique puissant qui a étudié des milliers de scanners médicaux et de photos industrielles parfaits. Il connaît le motif « normal » sur le bout des doigts. L'« Élève » est un modèle plus petit et plus rapide qui essaie de copier le cerveau du Professeur.

L'astuce : L'Élève ne cherche pas seulement à mémoriser les images ; il essaie de mimer le processus de réflexion du Professeur. Quand le Professeur regarde un scanner de foie normal, l'Élève apprend à voir la même chose.
Le résultat : Lorsque l'Élève voit une image avec un défaut (comme une tumeur ou une rayure), il est confus. Il se dit : « Attendez, cela ne ressemble pas à ce que mon Professeur m'a enseigné ! » Cette confusion est le signal d'alarme qui dit : « Quelque chose ne va pas ici. »

2. L'« Arbitre » (Le Discriminateur)

Pour s'assurer que l'Élève apprend réellement et ne se contente pas de deviner, il y a un troisième personnage : un Arbitre strict (appelé le Discriminateur).

Le rôle de l'Arbitre est de jouer au jeu du « Vrai ou Faux ». Il examine les caractéristiques que le Professeur voit et celles que l'Élève produit.
Si l'Élève fait du bon travail, l'Arbitre ne peut pas faire la différence entre la vision du Professeur et celle de l'Élève.
Si l'Élève voit quelque chose d'étrange (une anomalie), ses caractéristiques auront l'air « fausses » pour l'Arbitre. L'Arbitre crie alors : « Ce n'est pas normal ! » Cela force l'Élève à devenir encore meilleur pour repérer les différences.

3. Les « Yeux de Super-Héros » (Blocs Squeeze-and-Excitation)

Parfois, le défaut est minuscule, comme une fissure capillaire dans une vis ou une petite tache sur la rétine. Une caméra normale pourrait passer à côté. Multi-AD utilise une lentille spéciale appelée blocs Squeeze-and-Excitation (SE).

Voyez cela comme un projecteur dans une pièce sombre. L'ordinateur regarde une image immense avec des milliers de détails. Les blocs SE agissent comme un projecteur qui dit : « Ignorez le bruit de fond ; concentrez-vous uniquement sur ce canal d'information spécifique. » Cela aide l'ordinateur à ignorer l'inutile et à zoomer sur les indices subtils et minuscules qui indiquent un problème.

4. Voir la vue d'ensemble et les petits détails (Fusion multi-échelle)

Les anomalies viennent de toutes tailles. Une pièce de machine cassée peut présenter une grosse bosse (grande échelle) ou une petite rayure (petite échelle).

Multi-AD ne regarde pas l'image d'une seule manière. Il l'observe à travers quatre niveaux de « zoom » différents en même temps :

Zoom 1 : Observe les textures fines (comme le grain du bois).
Zoom 2 & 3 : Observe les formes et les structures locales.
Zoom 4 : Observe l'image entière pour voir les grosses distorsions.

Il combine ensuite toutes ces vues en une seule carte finale. C'est comme avoir une équipe de quatre détectives : l'un cherche les empreintes digitales, l'autre les empreintes de pas, le troisième les débris de verre, et le dernier analyse la scène de crime dans son ensemble. Ils partagent tous leurs notes pour créer une seule et même carte parfaite de l'emplacement du problème.

Qu'ont-ils testé ?

Les auteurs ont testé ce système dans deux mondes très différents :

Médecine : Ils ont utilisé des scanners cérébraux (IRM), des scanners de foie (Scanner/CT) et des scanners oculaires (OCT). Ils voulaient voir s'il pouvait trouver des tumeurs ou des maladies.
Industrie : Ils ont utilisé le célèbre ensemble de données « MVTec AD », qui comprend des photos de textures (comme du tapis et du cuir) et d'objets (comme des bouteilles, des vis et des pilules) présentant divers défauts tels que des rayures, des bosses ou des pièces manquantes.

Les résultats

Le document affirme que Multi-AD est le meilleur dans son domaine par rapport aux autres méthodes de pointe.

En médecine : Il a correctement identifié les images anormales 81,4 % du temps et a localisé précisément l'emplacement du problème 97,0 % du temps.
Dans l'industrie : Il a été encore plus performant, identifiant les produits défectueux 99,6 % du temps et localisant précisément le défaut 98,4 % du temps.

Le document conclut qu'en combinant l'apprentissage « Professeur-Élève », le jeu de l'« Arbitre » et les « Yeux de Super-Héros », Multi-AD peut trouver des problèmes cachés tant dans les contextes médicaux qu'industriels sans avoir besoin de lui montrer des exemples de ce qui est « cassé » au préalable. Cela fonctionne parce qu'il connaît si bien la « perfection » que tout ce qui est moins que parfait se remarque immédiatement.

Résumé Technique : Multi-AD pour la détection d'anomalies non supervisée cross-domaine

Énoncé du problème

La détection d'anomalies (AD) est cruciale pour le diagnostic précoce des maladies en médecine et la détection de défauts dans la fabrication industrielle. Cependant, un goulot d'étranglement majeur réside dans la rareté des données d'anomalies étiquetées. Les cas anormaux sont intrinsèquement rares, et l'acquisition de données étiquetées — particulièrement en imagerie médicale — est laborieuse, coûteuse et sujette à la variabilité inter-observateur. Bien que l'apprentissage auto-supervisé (SSL) soit apparu comme une solution en s'entraînant sur des données « normales » non étiquetées, ses performances se dégradent souvent dans des scénarios avec des données d'entraînement limitées ou une forte variabilité intra-classe (par exemple, des structures anatomiques diverses ou des environnements industriels complexes). De plus, les approches existantes de distillation de connaissances (KD) sont fréquemment limitées à des applications à domaine unique et manquent de robustesse lors de transferts cross-modalité ou cross-domaine.

Méthodologie : Cadre Multi-AD

Les auteurs proposent Multi-AD, un cadre de réseau de neurones convolutifs (CNN) conçu pour une détection d'anomalies non supervisée robuste à travers les domaines médical et industriel. La méthode intègre l'apprentissage de caractéristiques agnostiques au domaine avec une adaptation spécifique au domaine via une architecture Enseignant-Étudiant (T-S) améliorée par trois composantes clés :

1. Backbone amélioré avec Squeeze-and-Excitation (SE)

Le backbone est une architecture WideResNet-50 modifiée incorporant :

Convolutions dilatées : Appliquées à travers quatre étapes résiduelles avec des taux de dilatation croissants ( $r=1, 2, 4, 8$ ) pour élargir le champ récepteur tout en préservant la résolution spatiale. Cela permet au modèle de capturer à la fois les détails locaux (ex: microfissures) et le contexte global (ex: distorsions structurelles).
Blocs Squeeze-and-Excitation (SE) : Intégrés dans chaque étape résiduelle pour effectuer un recalibrage des caractéristiques par canal. Ce mécanisme calcule des statistiques par canal via un pooling moyen global et utilise des couches entièrement connectées pour générer des facteurs d'échelle, permettant au réseau de mettre l'accent sur les caractéristiques informatives et de supprimer les non pertinentes.
Fusion de caractéristiques multi-échelles : Une couche de convolution fusionne les caractéristiques des couches inférieures et supérieures pour combiner les détails fins avec l'information sémantique de haut niveau.

2. Distillation de Connaissances (KD) avec Alignement de Caractéristiques

Le cadre emploie une architecture T-S où un modèle Enseignant (T) pré-entraîné (gelé) transfère ses connaissances à un modèle Étudiant (S) entraînable.

Régime d'entraînement : Le modèle est entraîné exclusivement sur des données normales (exemptes d'anomalies).
Alignement de caractéristiques : Le modèle S est entraîné pour imiter les représentations de caractéristiques du modèle T. Les caractéristiques des couches critiques des deux modèles sont normalisées par L2.
Fonction de perte : Une perte de générateur de caractéristiques ( $\mathcal{L}_G$ ) minimise la distance euclidienne (via la similitude cosinus) entre les vecteurs d'activation normalisés des modèles T et S à travers plusieurs couches. Cela garantit que le modèle S apprend la distribution intrinsèque des données normales.

3. Réseau Discriminateur (D) et Entraînement Adversaire

Pour affiner davantage la distinction entre les données normales et anormales, un réseau Discriminateur (D) est introduit :

Architecture : Un réseau convolutif qui traite les cartes de caractéristiques pour produire un score de probabilité indiquant si l'entrée est « réelle » (caractéristiques du modèle T) ou « fausse » (caractéristiques du modèle S).
Objectif Adversaire : Le réseau D est optimisé pour distinguer les caractéristiques de T de celles de S en utilisant une perte d'entropie croisée binaire (BCE). Inversement, le modèle S est entraîné avec un terme adversaire ( $\mathcal{L}_{adv}$ ) pour tromper le réseau D, forçant le modèle S à produire des cartes de caractéristiques indiscernables de la distribution normale du modèle T.
Perte Totale : La perte totale du modèle S combine l'alignement de caractéristiques et les termes adverses : $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$ .

4. Fusion de Caractéristiques Multi-Échelles (MFF) améliorée par Convolution

Lors de l'inférence, les cartes d'anomalies sont générées en calculant la dissimilarité cosinus pixel par pixel entre les caractéristiques T et S à travers plusieurs couches ( $M_1$ à $M_4$ ).

Raffinement : Contrairement à une simple sommation, le MFF proposé applique une convolution 1×1, une normalisation par lots (Batch Normalization) et une fonction ReLU à chaque carte d'anomalie d'échelle avant la fusion. Cette étape affine les cartes de caractéristiques pour traiter les variations d'échelle et les désalignements spatiaux.
Agrégation : Les cartes raffinées sont combinées via une interpolation bilinéaire et lissées avec un filtre Gaussien pour produire la carte d'anomalie finale. Le score d'anomalie au niveau de l'image est dérivé de la réponse maximale de cette carte.

Contributions Clés

L'article expose quatre contributions principales :

Cadre Cross-Domaine : Un cadre d'AD unifié qui sépare l'apprentissage des caractéristiques agnostiques au domaine (partagées) et spécifiques au domaine (adaptatives), démontrant une généralisation à travers les jeux de données médicaux (IRM, CT, OCT) et industriels.
MFF amélioré par Convolution : Un nouveau module qui améliore la localisation des anomalies petites et grandes en raffinant les caractéristiques multi-échelles avant la fusion.
Discriminateur Adaptatif : L'intégration de réseaux D avec des mécanismes d'attention adaptatifs pour permettre une localisation précise des anomalies à travers diverses modalités d'imagerie.
Localisation Précise : La fourniture de cartes d'anomalies précises pour localiser les maladies et les défauts de produits, validée par des expériences approfondies.

Résultats Expérimentaux

Multi-AD a été évalué sur trois jeux de données médicaux (BraTS2021 pour l'IRM cérébrale, RESC pour l'OCT rétinien, et BTCV/LiTs pour le scanner hépatique CT) et sur le benchmark industriel MVTec AD.

Performance Médicale : Multi-AD a atteint une AUROC moyenne au niveau de l'image de 81,4 % et une AUROC au niveau du pixel de 97,0 %, surpassant les modèles de pointe tels que PaDiM, PatchCore, SimpleNet, STFPM, RD4AD et MKD.
Performance Industrielle : Sur MVTec AD, le modèle a atteint une AUROC moyenne au niveau de l'image de 99,6 % et une AUROC au niveau du pixel de 98,4 %, dépassant systématiquement les méthodes basées sur le clustering et la reconstruction.
Études d'Ablation :
- Le retrait du bloc SE a réduit l'AUROC au niveau du pixel, confirmant son rôle dans la focalisation sur les caractéristiques informatives.
- Le retrait du Discriminateur (D) a considérablement dégradé les performances (par exemple, l'AUROC pixel-level médical est passé de 97,0 % à 93,2 %), soulignant l'importance du raffinement adversaire.
- Le retrait du MFF a entraîné une baisse notable de la précision de la localisation, validant la nécessité du raffinement par convolution pour la fusion multi-échelle.

Signification et Revendications

Les auteurs affirment que Multi-AD offre une solution robuste pour les applications réelles où les données d'anomalies étiquetées sont rares. En exploitant la KD et l'entraînement adversaire, le modèle apprend efficacement la distribution des données normales et détecte les écarts subtils sans nécessiter de labels d'anomalies pendant l'entraînement.

L'article souligne que la capacité de Multi-AD à générer des cartes thermiques d'anomalies nettes et focalisées avec un minimum de faux positifs le rend supérieur aux méthodes basées sur le clustering (qui produisent souvent des cartes larges et peu focalisées) et aux méthodes basées sur la reconstruction (qui peinent avec les textures complexes). La capacité de généralisation cross-domaine démontrée de Multi-AD suggère qu'il peut être déployé dans divers contextes médicaux et industriels sans réentraînement extensif, répondant ainsi à un besoin critique de systèmes de détection d'anomalies évolutifs et fiables. Cependant, les auteurs notent modestement que l'intégration du MFF et des réseaux adverses augmente la complexité computationnelle, ce qui peut poser des défis pour une mise en œuvre en temps réel dans des environnements à ressources limitées.