Résumé Technique : Perte de Reconstruction Non Linéaire Statistique pour la Détection d'Anomalies d'Images

1. Énoncé du Problème

Les méthodes basées sur la reconstruction sont une pierre angulaire de la détection d'anomalies d'images (IAD) non supervisée, particulièrement dans le cadre de l'« architecture unifiée » où un seul modèle doit gérer plusieurs catégories d'objets. Cependant, ces méthodes souffrent de deux modes de défaillance critiques :

1. Le Raccourci Identité : Les modèles apprennent souvent une application identité triviale plutôt que la variété (manifold) sous-jacente de la normalité, ce qui leur permet de reconstruire les anomalies avec une grande fidélité.
2. La Fuite d'Anomalies (Outlier Leakage) : La perte d'erreur quadratique moyenne (MSE) standard traite tous les traits de manière égale. Comme les caractéristiques extraites des réseaux pré-entraînés contiennent souvent des valeurs aberrantes de grande magnitude (anomalies potentielles), le gradient linéaire de la MSE force le modèle à donner la priorité à la reconstruction de ces valeurs aberrantes. Cette « fuite » pousse le modèle à apprendre les motifs anormaux, effaçant ainsi l'écart discriminatif entre les données normales et anormales.

Les solutions existantes, telles que l'incorporation de caractéristiques ou la génération d'anomalies synthétiques, peinent souvent à être évolutives dans des contextes unifiés ou dépendent fortement du réalisme des défauts générés. De plus, la plupart des approches basées sur la reconstruction restent vulnérables à la fuite d'anomalies car elles reposent sur des objectifs linéaires (L1/L2) ou des métriques de similitude structurelle qui ne peuvent pas supprimer l'influence des écarts de grande magnitude.

2. Méthodologie

L'approche proposée introduit une Perte de Reconstruction Non Linéaire combinée à un schéma de Calibration Statistique de la Valeur k, intégrée dans une architecture unifiée comprenant un réseau pré-entraîné et un auto-encodeur basé sur un Transformer.

Aperçu de l'Architecture

• Extraction de Caractéristiques : Un réseau pré-entraîné (ex: EfficientNet-B4) extrait des caractéristiques hiérarchiques des images d'entrée.
• Alignement et Concatenation : Les caractéristiques multi-échelles sont alignées spatialement et concaténées en un tenseur unifié $F$.
• Auto-encodeur : Un auto-encodeur basé sur un Transformer traite $F$ comme une séquence de jetons (tokens) pour produire une carte de caractéristiques reconstruite $\hat{F}$.
• Stratégie d'Entraînement : Le modèle est entraîné sur des données normales avec l'ajout de bruit aux caractéristiques alignées, encourageant la reconstruction de caractéristiques propres.

Perte de Reconstruction Non Linéaire

Au lieu de minimiser la distance euclidienne brute ($\|F - \hat{F}\|^2$), la perte proposée applique une fonction de compression basée sur une sigmoïde $\sigma(\cdot)$ aux caractéristiques d'entrée et reconstruites avant de calculer l'erreur :
$$L_{NL} = \|\sigma(kF) - \sigma(k\hat{F})\|^2$$
où $k$ est un facteur de pente.

Mécanisme de Suppression de Gradient :

• Caractéristiques Normales : Les caractéristiques proches de zéro (le cœur de la variété normale) se situent sur la pente raide et à haut gradient de la fonction sigmoïde, garantissant une reconstruction précise.
• Valeurs Aberrantes (Outliers) : Les caractéristiques de grande magnitude (anomalies potentielles) sont poussées vers les plateaux de la courbe sigmoïde où la dérivée $\sigma'(x)$ tend vers zéro.
• Résultat : Cela crée une « porte » non linéaire qui supprime les gradients pour les valeurs aberrantes. Par conséquent, le modèle est empêché d'apprendre à reconstruire les motifs anormaux, le forçant à se concentrer exclusivement sur la variété normale.

Calibration Statistique de la Valeur k

Pour garantir que la plage de suppression s'aligne sur la distribution spécifique des données, le facteur de pente $k$ n'est pas ajusté manuellement mais dérivé statistiquement de l'ensemble d'entraînement :

1. Intervalle de Confiance (IC) : Un IC spécifique (ex: 90 %) est sélectionné pour définir la plage $r$ de la distribution des caractéristiques « normales » (ex: $r = P_{95} - P_{5}$).
2. Calcul de la Pente : Le facteur $k$ est calculé comme $k = \eta / r$, où $\eta$ est une constante d'échelle fixe (fixée à 8,0 dans les expériences) qui projette la plage de données vers une fenêtre standardisée à haut gradient.
3. Adaptabilité : Cette approche pilotée par les données ajuste automatiquement la « zone d'apprentissage active » en fonction de la densité des caractéristiques. Si les caractéristiques sont étroitement regroupées, $k$ augmente pour aiguiser la sensibilité ; si elles sont dispersées, $k$ diminue pour élargir la zone. Cette calibration est effectuée une seule fois sur l'ensemble de l'ensemble d'entraînement avant l'inférence, garantissant l'absence de fuite de données provenant des ensembles de test.

3. Contributions Clés

• Perte de Reconstruction Non Linéaire : Une nouvelle fonction de perte qui atténue la fuite d'anomalies en supprimant l'influence des caractéristiques de grande magnitude lors de l'optimisation via un fenêtrage de gradient par sigmoïde.
• Schéma de Calibration Statistique : Une méthode pilotée par les données pour déterminer automatiquement la force de suppression optimale ($k$) basée sur l'intervalle de confiance de la distribution des caractéristiques d'entraînement, éliminant ainsi le besoin de réglage manuel de la plage de suppression.
• Architecture Unifiée : Un cadre intégrant les caractéristiques d'un réseau pré-entraîné avec un auto-encodeur de type Transformer, conçu pour gérer diverses catégories d'objets dans un cadre unifié sans dépendre de la génération d'anomalies synthétiques.

4. Résultats Expérimentaux

La méthode a été évaluée sur deux benchmarks industriels majeurs : MVTec-AD et VisA.

• MVTec-AD : L'approche a atteint une Image-AUROC moyenne de 99,0 % et une Pixel-AUROC de 97,3 %. Elle a atteint des scores parfaits (100 %) dans plusieurs catégories (ex: bouteille, noisette, grille, cuir) pour la détection au niveau de l'image.
• VisA : La méthode a démontré une performance supérieure avec une Image-AUROC moyenne de 95,3 % et une Pixel-AUROC de pointe de 99,0 %.
• Comparaison : Les résultats sont compétitifs ou supérieurs aux méthodes de l'état de l'art incluant UniAD, HVQ-Trans, DiAD, OneNIPs, CCL, ViTAD et MambaAD. Notamment, la méthode a surpassé les approches basées sur des anomalies synthétiques (comme OneNIPs) sur le jeu de données VisA, soulignant sa robustesse pour généraliser à travers diverses catégories sans dépendre de défauts synthétiques spécifiques au jeu de données.
• Ablation : Les expériences ont confirmé que le retrait de la perte non linéaire ou de la calibration statistique dégrade considérablement les performances, validant la nécessité des deux modules. Des intervalles de confiance optimaux ont été identifiés à 85 % pour MVTec-AD et 95 % pour VisA.

5. Signification et Revendications

L'article affirme que la suppression de gradient non linéaire est un mécanisme efficace pour traiter les problèmes de « fuite d'anomalies » et de « raccourci identité » qui affectent la détection d'anomalies basée sur la reconstruction. En garantissant que la capacité d'optimisation du modèle reste concentrée sur le cœur de la variété normale plutôt que d'être distraite par des écarts de grande magnitude, la méthode proposée améliore considérablement la précision de la détection et de la localisation.

Les auteurs positionnent ce travail comme une solution robuste pour les environnements d'inspection industrielle unifiés, où un seul modèle doit gérer efficacement diverses lignes de produits. L'approche offre une alternative économe en ressources au maintien de centaines de modèles dédiés, offrant une voie pratique vers un contrôle qualité automatisé et évolutif dans les usines intelligentes. L'implémentation est disponible publiquement pour faciliter la recherche et l'application ultérieures.