🤖 AI

AdapTS: Lightweight Teacher-Student Approach for Multi-Class and Continual Visual Anomaly Detection

AdapTS est une approche légère de type enseignant-étudiant qui unifie la détection d'anomalies visuelles multi-classes et en apprentissage continu grâce à un seul backbone gelé et des adaptateurs légers, offrant des performances élevées avec une empreinte mémoire minimale pour le déploiement sur périphérie.

Auteurs originaux : Manuel Barusco, Davide Dalle Pezze, Francesco Borsatti, Gian Antonio Susto

Publié 2026-03-19

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Manuel Barusco, Davide Dalle Pezze, Francesco Borsatti, Gian Antonio Susto

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🏭 Le Problème : L'Inspecteur Fatigué

Imaginez une grande usine de fabrication. Des caméras intelligentes (des robots) doivent inspecter des milliers de produits différents : des vis, des boîtes de conserve, des pièces de voiture, etc. Leur mission est de repérer les défauts (une rayure, un trou, une tache) sur ces produits.

Le problème actuel, c'est que la plupart de ces "robots inspecteurs" sont très rigides :

Ils ne connaissent qu'un seul produit : Si vous changez de produit, vous devez construire un nouveau robot de zéro.
Ils sont très lourds : Pour fonctionner, ils ont besoin d'énormes ordinateurs puissants et coûteux, comme des supercalculateurs, ce qui est impossible à installer directement sur la machine de l'usine (sur le "bord de la route" ou edge).
Ils oublient vite : Si on leur apprend un nouveau produit, ils oublient souvent comment inspecter les anciens.

💡 La Solution : AdapTS (Le Maître et l'Apprenti Intelligents)

Les auteurs de cet article ont créé une nouvelle méthode appelée AdapTS. Pour comprendre comment ça marche, utilisons une analogie avec un Maître artisan et un Apprenti.

1. Le Maître Gelé (Le Cerveau Commun)

Imaginez un Maître artisan très expérimenté qui connaît parfaitement à quoi ressemble un produit parfait. Dans le monde de l'IA, c'est un réseau de neurones pré-entraîné (appelé "Backbone").

L'astuce d'AdapTS : Au lieu d'avoir deux robots séparés (un pour le Maître et un pour l'Apprenti), ils utilisent le même cerveau pour les deux rôles !
Le Maître est "gelé" : on ne change jamais ses connaissances. Il reste fixe et stable.

2. Les Gants Magiques (Les Adaptateurs Légers)

C'est ici que la magie opère. Au lieu de construire un nouvel Apprenti complet (ce qui prendrait beaucoup de place), on attache de petits gants magiques (appelés adapters) aux mains du Maître.

Ces gants sont très légers et peu coûteux en mémoire.
Quand on veut inspecter un nouveau produit (par exemple, passer des vis aux boîtes de conserve), on change simplement les gants.
Résultat : Le même cerveau, mais avec des gants différents, peut inspecter n'importe quel produit sans oublier les précédents. C'est comme si vous aviez une seule paire de chaussures, mais que vous changiez de semelles selon que vous courez, marchez ou nagez.

3. L'Entraînement par le "Bruit" (Apprendre à voir l'erreur)

Comment l'Apprenti apprend-il à repérer les défauts s'il n'a jamais vu de défauts ?

Pendant l'entraînement, on prend des images parfaites et on y ajoute artificiellement du "bruit" (comme des taches ou des textures bizarres générées par ordinateur).
On demande à l'Apprenti (avec ses gants) de dire : "Où est le bruit ?".
S'il réussit à localiser le bruit ajouté, il sera capable de repérer un vrai défaut sur un produit réel. C'est comme entraîner un détecteur de mensonges en lui faisant écouter des histoires inventées.

4. Le Guide de Reconnaissance (Qui suis-je ?)

Dans une usine où circulent 15 types de produits différents, comment le robot sait-il quel "gout" (quels gants) utiliser ?

AdapTS utilise un petit système de reconnaissance rapide. Il regarde le produit et dit : "Ah, c'est une boîte de conserve ! Je mets les gants 'Boîte de conserve'."
Ce système est si précis (99% de réussite) qu'il ne se trompe jamais de gant.

🚀 Pourquoi c'est génial ? (Les Avantages)

L'article compare AdapTS aux méthodes existantes (comme STFPM, RD4AD, DeSTSeg) et le résultat est bluffant :

Économie d'espace (La valise légère) :
- Les anciennes méthodes sont comme des déménageurs qui emportent tout leur mobilier pour chaque nouvelle maison. Elles prennent beaucoup de place (des centaines de Mégaoctets, voire des Gigaoctets).
- AdapTS est comme un voyageur avec un sac à dos ultra-léger. Sa version la plus légère (AdapTS-S) ne prend que 8 Mo de mémoire supplémentaire.
- Comparaison : C'est 149 fois plus léger que la méthode concurrente la plus lourde (DeSTSeg). C'est comme comparer un camion de déménagement à un vélo électrique.
Performance :
- Malgré sa légèreté, il détecte les défauts aussi bien que les géants lourds. Il ne sacrifie pas la qualité pour la vitesse.
Continuité :
- Il peut apprendre de nouveaux produits jour après jour sans oublier les anciens, ce qui est crucial pour les usines modernes qui changent souvent de production.

🎯 En Résumé

AdapTS, c'est l'histoire d'un inspecteur industriel qui a arrêté de construire de nouveaux robots pour chaque tâche. Au lieu de cela, il a pris un cerveau expert unique et lui a donné la capacité de changer de "gants" instantanément.

C'est une solution intelligente, économe en énergie et en espace, parfaite pour être installée directement sur les machines des usines (sur le terrain), rendant l'inspection de qualité plus rapide, moins chère et accessible à tous.

1. Problématique

La Détection d'Anomalies Visuelles (VAD) est cruciale pour l'inspection industrielle, permettant d'identifier des défauts sans nécessiter d'annotations pixel par pixel (approche non supervisée). Cependant, les méthodes existantes souffrent de limitations majeures face aux réalités des environnements industriels modernes :

Limitation aux classes uniques : La plupart des modèles sont entraînés sur une seule catégorie de produit à la fois, ce qui est inefficace lorsque plusieurs types de produits circulent sur la même ligne de production.
Absence d'apprentissage continu : Les méthodes actuelles peinent à s'adapter à l'introduction séquentielle de nouveaux produits (apprentissage continu) sans oublier les connaissances précédentes (catastrophic forgetting).
Coût mémoire élevé : Les architectures Teacher-Student (TS) performantes (comme STFPM, RD4AD, DeSTSeg) nécessitent souvent deux réseaux complets ou des décodeurs lourds, rendant leur déploiement sur des dispositifs embarqués (edge devices) difficile en raison de contraintes mémoire strictes.

L'objectif est de combler le vide entre l'efficacité des méthodes TS et les besoins de l'apprentissage multi-classe et continu, tout en minimisant l'empreinte mémoire.

2. Méthodologie : AdapTS

Les auteurs proposent AdapTS, un cadre unifié basé sur l'architecture Teacher-Student, mais optimisé pour l'efficacité des paramètres.

A. Architecture Partagée et Adaptateurs Légers

Contrairement aux approches TS traditionnelles qui entraînent un réseau étudiant complet (copie du professeur) :

Un seul backbone : AdapTS utilise un seul réseau pré-entraîné (frozen) qui joue simultanément le rôle de Professeur et d'Étudiant.
Injecteurs d'adaptateurs : De petits modules d'adaptateurs (trainables) sont injectés directement dans le chemin du "student" (le backbone lui-même). Ces adaptateurs sont les seuls paramètres mis à jour lors de l'entraînement.
Fonctionnement : L'objectif est de faire en sorte que le backbone modifié (étudiant) reproduise les caractéristiques du backbone original (professeur) sur des images normales. La divergence entre les deux signale une anomalie.
Variantes d'adaptateurs : Les auteurs testent plusieurs architectures d'adaptateurs (Linéaire, Expansion, Goulot d'étranglement/Bottleneck) et proposent une quantification INT-8 pour réduire davantage la mémoire.

B. Entraînement Guidé par la Segmentation

Pour améliorer la précision de la localisation des anomalies :

Bruit de Perlin : Des anomalies synthétiques sont générées en ajoutant du bruit de Perlin et des textures aux images normales.
Objectif de segmentation : Un réseau de segmentation simple (une couche convolutive 1x1) est ajouté temporairement pour guider l'apprentissage. Il utilise les différences de caractéristiques entre le professeur et l'étudiant pour prédire un masque d'anomalie.
Perte combinée : L'entraînement utilise une perte combinée ( $L_{STFPM} + L_{seg}$ ) incluant la perte de divergence de caractéristiques, la perte Focal (pour les classes minoritaires) et la perte L1 (pour la netteté des contours).
Inférence : Le réseau de segmentation est jeté après l'entraînement ; seule la différence de caractéristiques brutes est utilisée pour la détection.

C. Identification de Tâche pour l'Apprentissage Continu

Pour gérer le multi-classe et l'apprentissage continu sans confusion :

Prototypes de tâches : Pour chaque catégorie (tâche), un prototype est calculé à partir des caractéristiques moyennes extraites par le professeur sur les données d'entraînement.
Sélection dynamique : Lors de l'inférence, la tâche (la catégorie du produit) est identifiée en comparant l'image d'entrée aux prototypes. Le jeu d'adaptateurs correspondant à la tâche la plus similaire est activé. Cette méthode atteint 99 % de précision dans l'identification de la tâche.

3. Contributions Clés

Première approche TS unifiée : AdapTS est la première méthode Teacher-Student capable de gérer nativement à la fois les scénarios multi-classe et l'apprentissage continu dans un cadre unique.
Efficacité mémoire radicale : En remplaçant un réseau étudiant complet par de légers adaptateurs, la méthode réduit drastiquement l'empreinte mémoire.
- La variante la plus légère (AdapTS-S) ne nécessite que 8 Mo de mémoire supplémentaire.
- Comparaison : 13x moins que STFPM (95 Mo), 48x moins que RD4AD (360 Mo), et 149x moins que DeSTSeg (1120 Mo).
Déploiement Edge : Grâce à la quantification INT-8 et à la réduction des paramètres, AdapTS est conçu pour être déployé sur des dispositifs à ressources limitées.
Performance compétitive : Le modèle maintient des performances de détection comparables aux méthodes de l'état de l'art (SOTA) tout en étant beaucoup plus léger.

4. Résultats Expérimentaux

Les expériences ont été menées sur les benchmarks MVTec AD et VisA dans trois scénarios : Modèle unique, Multi-classe, et Apprentissage continu.

Performance (MVTec AD) :
- Dans le scénario Multi-classe, AdapTS-M (avec quantification) égale les performances de RD4AD et dépasse STFPM, avec une fraction de la mémoire.
- Dans le scénario Continuel, AdapTS atteint des scores similaires à STFPM et DeSTSeg tout en conservant une empreinte mémoire bien inférieure.
- Sur VisA, AdapTS-L atteint un I-ROC de 0,83 avec seulement 245 Mo de mémoire totale, surpassant STFPM (0,79) et restant compétitif face à RD4AD (0,85) avec moins de la moitié de la mémoire.
Analyse d'ablation :
- Les adaptateurs de type "Linéaire" offrent le meilleur équilibre performance/poids.
- La quantification INT-8 a un impact négligeable sur la précision (baisse marginale de l'I-ROC) mais réduit considérablement la mémoire.
- L'utilisation de la segmentation guidée améliore les métriques au niveau pixel (P-ROC, P-F1).

5. Signification et Impact

Ce travail est significatif car il résout un goulot d'étranglement majeur dans l'industrie 4.0 : la scalabilité des systèmes de contrôle qualité.

Viabilité industrielle : En éliminant le besoin d'entraîner et de stocker un modèle par produit, AdapTS rend économiquement et techniquement viable le déploiement de systèmes de détection d'anomalies sur des lignes de production complexes et changeantes.
Nouveau paradigme TS : Il redéfinit l'approche Teacher-Student en montrant qu'un seul backbone partagé, enrichi par des adaptateurs, est suffisant pour des tâches complexes, ouvrant la voie à d'autres recherches sur l'efficacité des paramètres dans la vision par ordinateur industrielle.

En résumé, AdapTS offre une solution pragmatique, légère et performante pour la détection d'anomalies dans des environnements industriels dynamiques, comblant le fossé entre la recherche académique et les contraintes réelles du déploiement sur le terrain (edge computing).