Imaginez que vous soyez un inspecteur de qualité dans une usine massive qui fabrique de tout, des engrenages métalliques brillants aux vases en verre délicats. Votre travail consiste à repérer la plus petite rayure ou fissure qui ne devrait pas être là. Dans le monde réel, c'est un cauchemar car les défauts sont rares, étranges et imprévisibles. Vous pourriez voir un million d'engrenages parfaits avant d'en voir un seul cassé. Cela rend l'apprentissage extrêmement difficile pour un ordinateur : il est très difficile pour un ordinateur d'apprendre à quoi ressemble un objet « cassé » simplement en regardant des exemples de choses « cassées », car il n'y en a presque aucun à observer.

C'est pourquoi les ingénieurs utilisent une astuce ingénieuse : apprendre à l'ordinateur uniquement ce à quoi ressemble une chose « parfaite ». Si l'ordinateur voit quelque chose qui ne correspond pas au modèle parfait, il le signale comme un défaut. C'est ce qu'on appelle la détection d'anomalies. Mais attention : et si vous veniez de lancer la production d'un tout nouveau produit, comme un grille-pain futuriste, et que vous n'aviez que quatre photos de grille-toasts parfaits pour instruire l'ordinateur ? C'est le problème du « few-shot » (apprentissage à partir de peu d'exemples). L'ordinateur est comme un étudiant à qui l'on donne une seule page d'un manuel et à qui l'on demande d'écrire une thèse. Il est facile pour l'ordinateur de s'appuyer sur des raccourcis, en mémorisant les pixels exacts des quatre photos au lieu d'apprendre l'idée même d'un grille-pain parfait. S'il s'appuie sur des raccourcis, il pourrait manquer une véritable rayure parce que la rayure ressemble légèrement différemment des photos qu'il a mémorisées.

C'est ici que le papier ConceptADapt intervient. Les auteurs, une équipe de l'Université de Xidian, proposent une nouvelle façon d'enseigner aux ordinateurs comment détecter des défauts, même lorsqu'ils disposent de presque aucune donnée d'entraînement. Au lieu de simplement mémoriser des photos, leur modèle apprend un ensemble de « concepts » abstraits — pensez à eux comme aux blocs de construction fondamentaux ou au « vocabulaire » de ce à quoi ressemble un objet normal. Ils utilisent une astuce spéciale appelée attention dynamique pour s'assurer que l'ordinateur se concentre uniquement sur les parties les plus importantes de ces concepts, en ignorant le bruit. Ensuite, lorsqu'un nouveau produit arrive sur la chaîne, le modèle adapte rapidement sa compréhension de la « normalité » pour l'ajuster à cet article spécifique sans se tromper ou introduire de nouvelles erreurs. Ils ont testé leur méthode sur trois ensembles de données industrielles majeures (MVTec-AD, VisA et MPDD) et ont constaté que leur méthode détecte systématiquement plus de défauts et localise mieux leur emplacement que les meilleures méthodes actuelles, surtout lorsque les données d'entraînement sont rares.

Le Problème : Le « Raccourci » et le « Démarrage à Froid »

Imaginez que vous essayiez d'apprendre à un robot à reconnaître une pomme parfaite. Vous lui donnez un panier de pommes, et il apprend à dire : « C'est une pomme ! ». Mais ensuite, vous ne lui donnez qu'une seule photo d'une pomme parfaite pour l'étudier avant qu'il ne doive inspecter tout un verger. C'est le scénario du « few-shot ». Le robot est dans une situation de « démarrage à froid » (cold start).

Le gros problème de donner si peu de données à un robot est qu'il a tendance à s'appuyer sur des raccourcis. En apprentissage automatique, on appelle cela le problème du raccourci de caractéristiques (feature shortcut problem). Au lieu d'apprendre les règles profondes et complexes qui font qu'une pomme est une pomme (la courbe, la texture, la tige), le robot pourrait simplement mémoriser le motif exact des pixels de cette photo unique. Si la nouvelle pomme dans le verger est légèrement pivotée ou a une luminosité différente, le robot pourrait penser qu'il s'agit d'un défaut parce qu'elle ne correspond pas parfaitement à la photo. Ou pire, il pourrait penser qu'un vrai défaut est normal parce qu'il ressemble à la photo qu'il a mémorisée.

La Solution : Construire une « Bibliothèque de Concepts »

Les auteurs de ConceptADapt ont décidé d'arrêter d'essayer de mémoriser des photos pour commencer à apprendre des concepts.

Pensez à un concept comme à une brique Lego. Vous n'avez pas besoin d'une photo de chaque maison possible pour savoir ce qu'est une maison ; vous avez juste besoin de savoir à quoi ressemblent un « mur », un « toit » et une « fenêtre ». Dans ce papier, le modèle pré-apprend un ensemble de « concepts normaux » fixes à partir des quelques photos disponibles. Ce ne sont pas de simples copies floues des images ; ce sont des résumés abstraits des caractéristiques qui rendent un produit normal.

Pour s'assurer que le robot ne s'appuie pas sur des raccourcis et n'essaie pas d'utiliser tous les concepts pour chaque partie de l'image (ce qui mène au problème du raccourci), ils utilisent un mécanisme d'Attention Dynamique. Imaginez un projecteur dans une pièce sombre. Lorsque le robot regarde une partie de l'image, le projecteur ne projette la lumière que sur les « briques de concepts » spécifiques qui sont pertinentes à ce moment précis. Si le robot regarde une surface métallique lisse, le projecteur ignore le concept de « texture rugueuse ». Ce focus « parcimonieux » (sparse) force le modèle à être précis et l'empêche de s'appuyer sur des raccourcis en mémorisant l'image entière.

Le Tour de Magie : « Adaptation Rapide » avec LoRA

Une fois que le modèle a appris ces concepts, il est confronté à un nouveau défi : comment les utiliser sur un nouveau produit sans oublier ce qu'il a appris ou sans s'embrouiller ?

Habituellement, quand vous essayez d'enseigner quelque chose de nouveau à un modèle, vous devez réentraîner l'ensemble, ce qui est lent et risqué. ConceptADapt utilise un raccourci intelligent appelé LoRA (Low-Rank Adaptation). Imaginez que le modèle est une immense et lourde bibliothèque de livres (les concepts). Lorsqu'un nouveau produit arrive, au lieu de réécrire tous les livres, le modèle ajoute simplement une petite « note autocollante » légère à la dernière page du livre. Cette note autocollante ajuste l'information juste assez pour l'adapter au nouveau produit, mais le cœur de la bibliothèque reste intact.

Cela se produit au moment de « l'inférence » (lorsque le robot effectue réellement l'inspection). Le modèle fige les concepts qu'il a appris et ne met à jour que cette couche minuscule et légère. Cela lui permet de s'adapter instantanément à de nouveaux produits sans le risque de « décalage de prototype » (prototype shift) — une façon sophistiquée de dire que le modèle n'oublie pas accidentellement à quoi ressemble la « normalité » en essayant d'apprendre la nouvelle.

Comment ils l'ont testé

L'équipe a testé son idée sur trois ensembles de données industriels célèbres :

1. MVTec-AD : Une collection de 15 objets et textures différents, comme des câbles, des tapis et des bouteilles.
2. VisA : Des images à haute résolution avec des défauts très complexes et difficiles.
3. MPDD : Des pièces métalliques avec de nombreuses variations structurelles.

Ils ont mis en place un défi « few-shot » où le modèle n'a vu qu'une, 2 ou 4 photos d'un article parfait avant de devoir inspecter le reste. Ils ont comparé leur méthode aux modèles de pointe (SOTA) actuels.

Les Résultats : Détecter l'Invisible

Les résultats ont été impressionnants. Dans le cadre du « 1-shot » (où le modèle n'a vu qu'une seule photo parfaite), ConceptADapt a systématiquement surpassé les autres méthodes.

• Sur l'ensemble de données MVTec-AD, il a atteint une précision au niveau de l'image (AUROC) de 97,4 % avec 1 shot, battant le précédent meilleur score de 96,4 %.
• Sur l'ensemble de données complexe VisA, il a atteint une précision de 92,8 % avec 1 shot, contre 82,2 % pour la méthode suivante la plus performante.

Le papier suggère que le modèle est particulièrement efficace pour la « localisation », ce qui signifie qu'il ne se contente pas de dire « ceci est cassé », mais qu'il peut tracer un cadre autour de l'endroit exact où se trouve la rayure. Dans l'ensemble de données VisA, leur méthode a amélioré le score de « chevauchement par région » (PRO) de 89,0 % à 94,5 % par rapport à un concurrent de taille, ce qui signifie qu'elle a trouvé une plus grande partie de la zone défectueuse réelle.

Pourquoi c'est important

Les auteurs soutiennent que leur approche résout deux problèmes majeurs de l'inspection industrielle :

1. Le Problème du Raccourci : En utilisant une attention parcimonieuse et des concepts, le modèle apprend l'essence de la normalité plutôt que de mémoriser des pixels, ce qui rend l'utilisation de raccourcis plus difficile.
2. Le Problème de l'Adaptation : En figeant les concepts et en ne mettant à jour qu'une minuscule couche (LoRA), le modèle peut s'adapter rapidement à de nouveaux produits sans perdre la mémoire de ce à quoi ressemble la « normalité ».

Le papier conclut que cette approche « guidée par les concepts » offre une manière stable et flexible de gérer l'inspection industrielle lorsque les données sont rares. Il suggère qu'au lieu d'essayer de nourrir l'ordinateur de plus en plus de données, nous devrions lui enseigner à comprendre les blocs de construction fondamentaux de ce à quoi un produit devrait ressembler. Bien que le papier ne prétende pas résoudre tous les problèmes du monde, les expériences montrent que pour la tâche spécifique de la détection de défauts avec très peu d'exemples, cette méthode constitue une avancée significative.