🤖 machine learning

Know Yourself Better: Diverse Object-Related Features Improve Open Set Recognition

Cet article analyse le rôle de la diversité des caractéristiques dans la reconnaissance en ensemble ouvert, révélant sa forte corrélation avec la performance et proposant une nouvelle méthode qui exploite des caractéristiques discriminantes diverses pour surpasser de manière significative les approches de l'état de l'art.

Auteurs originaux : Jiawen Xu, Margret Keuper

Publié 2026-06-05

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiawen Xu, Margret Keuper

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : L'« hypothèse trop confiante »

Imaginez que vous êtes un agent de sécurité dans un club. Vous avez une liste de VIP (les classes « connues ») que vous êtes formé à reconnaître : Alice, Bob et Charlie.

Un soir, un étranger entre et ressemble un peu à Alice. Parce que votre entraînement ne portait que sur Alice, Bob et Charlie, votre cerveau tente de forcer une correspondance. Vous dites avec assurance : « C'est Alice ! », même s'il s'agit en réalité d'un inconnu. Dans le monde de l'IA, c'est ce qu'on appelle la Reconnaissance d'Ensemble Ouvert (OSR - Open Set Recognition). Le problème est que les modèles d'IA standards sont terribles pour dire : « Je ne sais pas qui c'est ». Ils se contentent de deviner la chose la plus proche qu'ils connaissent, souvent avec une confiance de 100 %, ce qui est dangereux dans la vie réelle.

L'idée centrale : Ne regardez pas qu'une seule chose

Les auteurs de cet article se sont posé une question simple : Pourquoi ces modèles échouent-ils à repérer les inconnus ?

Ils ont découvert que les modèles sont trop paresseux. Ils apprennent à reconnaître les choses en utilisant un seul attribut évident.

L'analogie : Imaginez que vous apprenez à un enfant à reconnaître un chat. Si vous ne lui montrez que des photos de chats avec une fourrure orange, l'enfant pourrait apprendre que « Orange = Chat ».
L'échec : Si un léopard (un inconnu) entre en portant un manteau orange, l'enfant s'écrie : « C'est un chat ! » parce qu'il n'a regardé que la couleur. Il a ignoré les oreilles, la queue et les taches.

L'article soutient que pour repérer les inconnus (les anomalies), un modèle doit apprendre à reconnaître de nombreuses caractéristiques différentes à la fois (couleur, forme, texture, taille), et pas seulement la plus facile. C'est ce qu'on appelle la Diversité des Caractéristiques (Feature Diversity).

L'expérience : Le test « Forme vs Couleur »

Pour prouver cela, les chercheurs ont mené un jeu simple avec un ordinateur :

Scénario A : Ils ont montré à l'ordinateur des cercles bleus et des rectangles rouges. L'ordinateur a facilement appris à les distinguer en regardant simplement la couleur (Bleu vs Rouge).
Scénario B : Ils ont ajouté un cercle rouge au mélange. Désormais, la couleur ne suffisait plus. Pour distinguer un cercle rouge d'un rectangle rouge, l'ordinateur devait aussi apprendre la forme.

Le résultat : L'ordinateur du Scénario B (qui a appris à la fois la couleur et la forme) était bien meilleur pour repérer un « inconnu » (un rectangle bleu) que l'ordinateur du Scénario A (qui ne connaissait que la couleur).

La leçon : Lorsqu'un modèle est forcé d'apprendre des caractéristiques plus diverses pour faire son travail, il devient meilleur pour repérer les choses qu'il ne connaît pas.

La recette secrète : Le bouton de « Température »

Les chercheurs ont ensuite examiné un outil spécifique utilisé pour entraîner l'IA appelé Apprentissage Contrastif Supervisé (SupCon). Cet outil aide l'IA à regrouper les choses similaires et à écarter les choses différentes.

À l'intérieur de cet outil, il y a un réglage appelé Température (pensez à un bouton de volume ou à un niveau d'épices).

Température Basse : L'IA devient très stricte. Elle se concentre intensément sur les paires les plus difficiles à distinguer. Elle dit : « Je dois trouver les infimes différences entre ces deux-là ! ».
Température Haute : L'IA est plus décontractée. Elle se concentre sur les différences faciles.

La découverte : Les chercheurs ont découvert que différents réglages de « température » font en sorte que l'IA regarde les données de manières complètement différentes.

Un modèle peut se concentrer sur la texture de la fourrure d'un chat.
Un autre modèle (entraîné à une température différente) peut se concentrer sur la forme de ses oreilles.

Ils sont comme deux détectives examinant la même scène de crime. Le Détective A regarde les empreintes de pas ; le Détective B regarde les empreintes digitales. Aucun des deux n'a l'image complète seul, mais ensemble, ils résolvent l'affaire.

La solution : L'approche par le « Travail d'équipe »

Puisqu'un modèle entraîné à une seule température ne voit qu'une partie de l'image, les auteurs ont proposé une solution simple : L'Ensemble.

Au lieu d'entraîner un seul modèle d'IA, ils en entraînent trois, chacun avec un réglage de « température » différent.

Le Modèle 1 (Température Basse) regarde les détails fins.
Le Modèle 2 (Température Moyenne) regarde les détails moyens.
Le Modèle 3 (Température Haute) regarde l'aspect général.

Lorsqu'une nouvelle image arrive, on demande l'avis des trois modèles et on combine les réponses. Parce qu'ils regardent l'objet sous des angles différents (en utilisant des caractéristiques variées), ils sont bien meilleurs pour repérer les « inconnus » qu'un seul modèle aurait manqués.

Les résultats

L'équipe a testé cela sur des ensembles de données d'images standards (comme CIFAR-100 et TinyImageNet).

Le résultat : Leur approche de « Travail d'équipe » a systématiquement battu les autres méthodes de pointe.
Pourquoi ? Ce n'est pas parce qu'ils ont utilisé un algorithme plus sophistiqué. C'est simplement parce qu'ils ont forcé les modèles à apprendre une plus grande variété de caractéristiques en utilisant différentes températures, rendant la décision finale beaucoup plus robuste.

Résumé

L'article nous enseceigne que pour rendre l'IA plus sûre et plus performante pour reconnaître l'inconnu, nous ne devrions pas seulement l'entraîner à être un maître d'un seul tour de magie. Nous devrions l'entraîner à être un généraliste qui remarque de nombreux détails différents. En combinant les « opinions » de modèles entraînés avec des réglages différents, nous obtenons un système qui connaît ses propres limites et qui est beaucoup moins susceptible de deviner avec assurance la mauvaise réponse.

Résumé Technique : Mieux se connaître : la diversité des caractéristiques liées aux objets améliore la reconnaissance en ensemble ouvert

Énoncé du Problème

Les classifieurs neuronaux conventionnels opèrent sous une hypothèse d'« ensemble fermé » (close-set), ce qui signifie qu'ils sont entraînés sur un ensemble fixe de catégories et peinent à identifier les échantillons provenant de classes précédemment inconnues. Dans les scénarios de déploiement réels, cela conduit à des prédictions trop confiantes pour les échantillons d'« ensemble ouvert » (outliers), qui sont alors mal classés comme appartenant à des classes connues d'« ensemble fermé » (inliers). La reconnaissance en ensemble ouvert (OSR - Open Set Recognition) vise à résoudre ce problème en permettant aux modèles de détecter de nouvelles classes lors de l'inférence. Bien que diverses méthodes existent, les mécanismes d'apprentissage de représentations qui pilotent le succès de l'OSR restent insuffisamment compris. Plus précisément, le rôle de la diversité des caractéristiques — l'étendue selon laquelle une représentation capture de multiples attributs sémantiques d'un objet plutôt que de s'appuyer sur un sous-ensemble limité d'indices discriminants — a reçu peu d'attention.

Méthodologie

1. Investigation de la Diversité des Caractéristiques

Les auteurs établissent d'abord un lien entre la diversité des caractéristiques et la performance de l'OSR via des expériences contrôlées :

Expériences Synthétiques : En utilisant un ensemble de données de cercles et de rectangles, ils ont entraîné des modèles sur des scénarios nécessitant soit une discrimination basée uniquement sur la couleur (E1), soit une discrimination combinant couleur et forme (E2). Les modèles entraînés sur le scénario plus complexe E2 (nécessitant des caractéristiques de forme) ont démontré une performance d'OSR supérieure lors de tests contre des valeurs aberrantes (rectangles bleus) qui partageaient des indices de couleur avec les inliers mais différaient par leur forme.
Expériences CIFAR-100 : En entraînant des classifieurs sur un nombre croissant de classes (allant de macro-classes grossières à des classes fines), les auteurs ont observé que les modèles contraints de distinguer des classes plus fines apprenaient des caractéristiques plus diverses. Ces modèles ont systématiquement obtenu une meilleure performance d'OSR (mesurée par l'AUROC) et une meilleure généralisation aux classes aberrantes par rapport aux modèles entraînés sur moins de classes.

2. Analyse de l'Apprentissage Contrastif Supervisé (SupCon)

L'article étudie le paramètre de température ( $\tau$ ) dans l'apprentissage contrastif supervisé (SupCon).

Analyse de Gradient : Les auteurs analysent les gradients de la perte SupCon par rapport aux similitudes des paires positives et négatives. Ils démontent que le paramètre de température influence de manière significative la dynamique d'optimisation :
- Les températures basses imposent une attraction plus forte sur les paires positives et assignent des gradients plus importants aux paires négatives « difficiles » (échantillons ayant une similitude élevée mais des étiquettes différentes). Cela force le modèle à apprendre des caractéristiques plus invariantes et discriminantes.
- Les températures hautes assignent des gradients relativement plus importants aux négatifs faciles et modérément difficiles.
Représentations Complémentaires : L'analyse empirique montre que les modèles entraînés avec différentes températures apprennent des représentations moins alignées (accord de prédiction plus faible) et capturent des aspects complémentaires des données. L'agrégation des représentations issues de modèles entraînés avec différentes températures produit une précision de classification plus élevée sur les données de distribution interne que l'utilisation d'un seul modèle.

3. Approche Proposée : Ensemble basé sur la Température

Motivés par la découverte que différentes températures induisent un apprentissage de caractéristiques complémentaires, les auteurs proposent un cadre d'ensemble simple :

Entraînement : Plusieurs modèles SupCon sont entraînés indépendamment en utilisant différentes valeurs de température (échantillonnées à partir d'une distribution logarithmique : $\{1, 0.5, 0.1, 0.05, 0.01, 0.005\}$ ).
Inférence : Lors de l'inférence OSR, les modèles génèrent des scores (par exemple, des normes de caractéristiques ou des distances). Ces scores sont agrégés (spécifiquement, la Somme des Scores s'est révélée être la stratégie la plus efficace parmi la concaténation, la sommation et la somme des scores) pour produire un score final de détection d'anomalies.
Architecture : La méthode utilise un squelette ResNet-18 standard sans pré-entraînement ni modèles de fondation, s'appuyant purement sur la diversité induite par le paramètre de température.

Résultats Clés

Des expériences approfondies ont été menées sur six benchmarks standards de l'OSR : MNIST, SVHN, CIFAR-10, CIFAR+10, CIFAR+50 et TinyImageNet.

Performance : La méthode proposée a systématiquement surpassé de solides bases de référence, incluant OpenMax, C2AE, APRL et GeoEnsemble.
État de l'art : L'approche a obtenu les meilleurs résultats ou des résultats comparables sur la plupart des protocoles. Notamment, elle a atteint un AUROC de 81,0 % sur le jeu de données complexe TinyImageNet, surpassant des méthodes précédentes comme SupCon-ST (80,9 %) et MEDAF (80,0 %).
Études d'Ablation :
- L'agrégation de trois représentations de différentes températures a donné la meilleure performance (par exemple, 93,12 % sur CIFAR-10), surpassant les représentations simples ou doubles.
- Le choix des combinaisons de températures a eu un impact significatif sur la performance, confirmant que les différentes températures capturent des sous-ensembles de caractéristiques distincts.
- La somme des scores (SocSum) s'est avérée légèrement plus robuste que la concaténation ou la sommation de représentations.

Signification et Revendications

L'article affirme que la principale contribution est un changement de perspective, passant de stratégies spécifiques de détection d'anomalies à l'apprentissage de la représentation lui-même.

Hypothèse de la Diversité des Caractéristiques : Ce travail fournit des preuves empiriques que le codage d'une gamme plus large de caractéristiques liées aux objets (diversité) est positivement corrélé à une amélioration de la performance de l'OSR.
La Température comme Bouton de Contrôle : Les auteurs démontrent que le paramètre de température dans SupCon n'est pas seulement un hyperparamètre de convergence, mais un mécanisme pour contrôler l'accent mis sur les paires d'échantillons faciles vs difficiles, façonnant ainsi la diversité des représentations apprises.
Simplicité et Efficacité : La solution proposée est un ensemble simple de modèles SupCon existants avec des températures variables. Elle nécessite peu de modifications aux cadres standards tout en atteignant des performances compétitives ou supérieures, suggérant que l'exploitation de la diversité des représentations est une stratégie très efficace et sous-utilisée pour l'OSR.
Implications Plus Larges : Bien que centré sur l'OSR, les auteurs notent que les principes d'induction de la diversité des caractéristiques par l'apprentissage de la représentation peuvent bénéficier à d'autres tâches telles que l'apprentissage par transfert, la robustesse des modèles et l'adaptation de domaine.

L'article conclut que si les modèles de fondation offrent des capacités étendues, les principes spécifiques de façonnage de l'apprentissage de la représentation pour capturer des caractéristiques diverses et complémentaires restent une direction de recherche critique et complémentaire pour une quantification fiable de l'incertitude et la détection d'anomalies.