🤖 AI

Relational Retrieval: Leveraging Known-Novel Interactions for Generalized Category Discovery

Ce papier propose la Cohérence des Motifs Relationnels (RPC), un cadre novateur pour la Découverte de Catégories Généralisée qui exploite un transfert de connaissances bidirectionnel entre les données étiquetées et non étiquetées par le biais de l'alignement sémantique et de la correspondance de motifs relationnels invariants afin d'atteindre des performances de pointe.

Auteurs originaux : Yulin Xu, Chunqi Guo, Yuanzhen Shuai, Jianyuan Ni

Publié 2026-05-12

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yulin Xu, Chunqi Guo, Yuanzhen Shuai, Jianyuan Ni

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'enseigner à un nouvel élève (l'ordinateur) comment reconnaître différents types d'animaux. Vous avez deux groupes de photos à lui montrer :

Le groupe « Connus » : Un album photo où chaque animal est clairement étiqueté (par exemple, « C'est un chat », « C'est un chien »).
Le groupe « Inconnus » : Un énorme tas de photos sans étiquettes. Certaines de ces photos sont des chats et des chiens que vous avez déjà vus, mais d'autres sont des animaux que vous n'avez jamais rencontrés (comme un ornithorynque ou un pangolin).

Le Problème :
La plupart des méthodes précédentes traitaient ces deux groupes comme s'ils étaient dans des pièces séparées. L'ordinateur étudiait les photos étiquetées pour apprendre à connaître les chats et les chiens, puis il tentait de deviner ce qu'il y avait dans le tas non étiqueté tout seul, espérant identifier les nouveaux animaux. L'article soutient que c'est une perte de temps. C'est comme avoir un professeur juste à côté de l'élève sans leur permettre de parler. L'élève rate l'aide du professeur lorsqu'il examine les animaux « connus » dans le tas non étiqueté, et le professeur n'a jamais l'occasion d'expliquer les animaux « nouveaux » en utilisant les connaissances existantes de l'élève.

La Solution : « Récupération Relationnelle » (RPC)
Les auteurs proposent une nouvelle méthode appelée Cohérence des Motifs Relationnels (RPC). Imaginez cela comme la mise en place d'une conversation bidirectionnelle entre les photos étiquetées et non étiquetées.

Voici comment cela fonctionne, en utilisant deux analogies simples :

1. L'astuce de la « Marionnette d'Ombre » (Garder les Connus Connus)

L'Objectif : S'assurer que l'ordinateur n'oublie pas à quoi ressemble un « chat » lorsqu'il voit un chat dans le tas non étiqueté.

L'Analogie : Imaginez que les photos étiquetées sont les « Maîtres Marionnettistes » qui savent exactement comment faire une ombre de chat. Les photos non étiquetées sont les « Apprentis ».
Au lieu de simplement laisser les apprentis deviner, la méthode utilise une technique spéciale de « fusion ». Elle prend l'ombre du Maître Marionnettiste (le chat étiqueté) et la mélange doucement avec l'ombre de l'Apprenti (le chat non étiqueté).

Comment cela fonctionne : L'ordinateur vérifie à quel point il est confiant qu'une photo non étiquetée représente un animal « connu ». S'il est assez sûr, il mélange les caractéristiques de cette photo avec la version étiquetée. Cela force l'ordinateur à apprendre que le chat non étiqueté doit se comporter exactement comme le chat étiqueté, même si la photo est floue ou prise sous un angle étrange. C'est comme si l'apprenti copiait parfaitement les mouvements du maître.

2. L'astuce de la « Boussole » (Trouver les Nouveaux Animaux)

L'Objectif : Déterminer quels animaux dans le tas non étiqueté sont nouveaux et les regrouper ensemble, même si l'ordinateur ne les a jamais vus auparavant.

L'Analogie : Imaginez que les animaux « Connus » (chats, chiens, oiseaux) sont un ensemble de Boussoles fixes ou de Repères sur une carte.

Un « Chat » pourrait être très proche du repère « Chien » mais très loin du repère « Oiseau ».
Un animal « Nouveau » (comme un ornithorynque) n'a jamais été vu, nous ne connaissons donc pas son nom. Mais, si vous regardez comment il se rapporte aux repères, vous pourriez remarquer : « Hé, cet ornithorynque est aussi proche du repère Chien et loin du repère Oiseau, tout comme un autre ornithorynque là-bas ! »

La Magie :
L'ordinateur n'a pas besoin de connaître le nom « Ornithorynque » pour les regrouper. Il regarde simplement le motif des relations.

« Ces deux animaux inconnus ont-ils la même « distance » par rapport au Chat, au Chien et à l'Oiseau ? »
Si oui, ils sont probablement de la même nouvelle espèce.
Si non, ils sont différents.

Cela transforme un jeu de devinettes confus en un jeu d'appariement simple. Au lieu d'essayer d'inventer une nouvelle catégorie à partir de zéro, l'ordinateur vérifie simplement si les nouveaux animaux partagent la même « signature relationnelle » avec les animaux qu'il connaît déjà.

Les Résultats

L'article a testé cette méthode de « conversation bidirectionnelle » sur de nombreux ensembles de données différents (des images simples de voitures et d'avions jusqu'à des images médicales complexes).

Meilleure Mémoire : L'ordinateur s'est beaucoup mieux souvenu des animaux « connus » dans le tas non étiqueté car il les comparait constamment aux étiquetés.
Meilleure Découverte : Il est devenu meilleur pour trouver et regrouper les animaux « nouveaux » car il utilisait les animaux connus comme une carte fiable pour naviguer dans l'inconnu.
Efficacité : Il a fait tout cela sans avoir besoin d'une quantité massive de puissance informatique supplémentaire. Cela ne coûtait que légèrement plus cher que les anciennes méthodes, mais était beaucoup plus intelligent.

En Résumé :
L'article dit : « Arrêtez de traiter les données étiquetées et non étiquetées comme des étrangers. Laissez-les se tenir la main. » En laissant les données étiquetées guider les parties connues des données non étiquetées, et en utilisant les données connues comme une carte pour trouver les parties nouvelles, l'ordinateur apprend plus vite et fait moins d'erreurs.

Résumé Technique : Récupération Relationnelle pour la Découverte de Catégories Généralisée

Définition du Problème

L'article aborde la Découverte de Catégories Généralisée (GCD), une tâche qui étend la classification traditionnelle à des scénarios de monde ouvert. L'objectif est de reconnaître conjointement des classes connues à l'aide de données étiquetées ( $D_L$ ) et de découvrir de nouvelles catégories au sein de données non étiquetées ( $D_U$ ). Un défi critique des approches GCD existantes est qu'elles traitent généralement les données étiquetées et non étiquetées comme des flux d'apprentissage séparés : les données étiquetées subissent un apprentissage supervisé, tandis que les données non étiquetées reposent sur des signaux auto-supervisés. Cette séparation conduit à deux limitations principales identifiées par les auteurs :

Perte de Connaissance Sémantique : Les échantillons non étiquetés appartenant à des classes connues reposent uniquement sur l'auto-supervision, ignorant les caractéristiques hautement discriminatives déjà capturées par les échantillons étiquetés des mêmes classes.
Découverte Inefficace : La découverte de catégories procède souvent sans considérer les schémas relationnels. Les échantillons d'une même nouvelle catégorie, bien que distincts des classes connues, maintiennent des relations cohérentes avec les prototypes des classes connues, un signal souvent négligé au profit d'un étiquetage pseudo-in fiable.

Méthodologie : Cohérence des Schémas Relationnels (RPC)

Le cadre proposé, la Cohérence des Schémas Relationnels (RPC), couple explicitement les données étiquetées et non étiquetées par le biais d'un transfert de connaissances bidirectionnel. La méthode s'appuie sur la ligne de base SimGCD pour l'apprentissage de représentations et intègre la décomposition Un-contre-Tous (OVA) de DebGCD pour identifier si les échantillons non étiquetés appartiennent à des classes connues (ID) ou nouvelles (OOD).

Le cœur de RPC consiste en deux mécanismes :

1. Préservation des Classes Connues via Transfert Sémantique

Pour prévenir la perte de structure sémantique dans les échantillons non étiquetés de classes connues, RPC transfère des motifs robustes des données étiquetées vers les données non étiquetées.

Décomposition Douce ID/OOD : Les classificateurs OVA génèrent des poids doux ( $w_{old}$ et $w_{new}$ ) pour estimer la probabilité qu'un échantillon appartienne à des classes connues ou nouvelles.
Fusion d'Embedding Pondérée par la Confiance : Pour les lots contenant à la fois des échantillons étiquetés et des échantillons non étiquetés à haute confiance (ID), le modèle construit une matrice de fusion. Cette matrice effectue un décalage circulaire pour injecter des informations des échantillons étiquetés vers leurs homologues non étiquetés appariés. La fusion est pondérée par $w_{old}$ , garantissant que seuls les échantillons ID à haute confiance sont significativement influencés.
Alignement Comportemental : Le cadre impose une cohérence entre les changements comportementaux induits par l'augmentation ( $\Delta$ ) des échantillons étiquetés et leurs homologues non étiquetés fusionnés. Cela garantit que les échantillons non étiquetés de classes connues héritent de représentations robustes des données étiquetées.

2. Découverte de Catégories via Correspondance Relationnelle

Pour la découverte de nouvelles catégories, RPC va au-delà du clustering mal posé en exploitant la cohérence relationnelle.

Signatures Relationnelles : La méthode postule que les échantillons d'une même nouvelle catégorie présentent des relations invariantes avec les prototypes des classes connues. Plus précisément, deux échantillons d'une même nouvelle classe devraient avoir des distances similaires (modèles de similarité) avec tous les prototypes des classes connues.
Correspondance de Motifs : Chaque échantillon est encodé comme un vecteur de similarités avec les prototypes des classes connues ( $r(x)$ ). Le modèle minimise ensuite la distance entre ces signatures relationnelles pour les échantillons aux caractéristiques similaires, pondérée par leurs scores de nouveauté ( $w_{new}$ ). Cela transforme la tâche de découverte en un problème de correspondance de motifs bien défini dans le référentiel des classes connues.

L'objectif d'entraînement total combine les pertes de base (représentation et classificateur) avec la nouvelle perte d'alignement ( $L_{align}$ ) et la perte de découverte nouvelle ( $L_{new}$ ).

Contributions Clés

Les auteurs énoncent trois contributions principales :

Couplage Bidirectionnel : RPC est le premier cadre GCD à coupler explicitement les données étiquetées et non étiquetées par le biais d'un transfert de connaissances bidirectionnel, utilisant une décomposition douce ID/OOD pour permettre des interactions ciblées plutôt que de maintenir des flux d'apprentissage disjoints.
Mécanismes Nouveaux :
- Introduction d'une fusion d'embedding pondérée par la confiance avec alignement comportemental pour préserver la sémantique des classes connues.
- Développement d'un apprentissage de cohérence relationnelle, qui découvre de nouvelles catégories basées sur leurs relations invariantes avec les prototypes des classes connues, évitant ainsi la dépendance à des pseudo-étiquettes peu fiables.
Performances de l'État de l'Art : Des expériences extensives démontrent que RPC atteint des performances supérieures sur des benchmarks génériques et fins, avec des améliorations constantes tant dans la précision des classes connues (Old) que des classes nouvelles (New).

Résultats Expérimentaux

La méthode a été évaluée sur six benchmarks : trois ensembles de données fins (CUB, Stanford Cars, FGVC-Aircraft) et trois ensembles de données généraux (CIFAR-10, CIFAR-100, ImageNet-100).

Performance : RPC a obtenu des résultats de l'état de l'art sur la plupart des benchmarks. Notamment, sur l'ensemble de données CUB, il a amélioré la précision « All » à 67,1 % (contre 66,3 % pour le meilleur précédent, DebGCD), avec des gains significatifs en précision « Old » (73,2 % contre 71,8 %) et « New » (64,8 % contre 63,5 %).
Études d'Ablation : Le retrait de la fusion d'embedding ou de la perte d'alignement ( $L_{align}$ ) a entraîné une baisse d'environ 3 % de la précision des classes connues sur CUB. Le retrait de la perte de découverte relationnelle ( $L_{new}$ ) a causé une baisse de 3,3 % de la précision des classes nouvelles, confirmant la nécessité des deux composants.
Efficacité : La méthode introduit une surcharge computationnelle minimale, ajoutant seulement 1,40 % au nombre de paramètres et 1,82 % aux FLOPs par rapport à la ligne de base SimGCD.
Visualisation : Les visualisations t-SNE indiquent que RPC produit un espace latent plus structuré avec un regroupement intra-classe plus serré et des limites inter-classes plus claires par rapport aux méthodes de base, réduisant efficacement l'emmêlement sémantique entre les catégories voisines.

Signification et Revendications

L'article revendique que RPC modifie fondamentalement le paradigme GCD, passant d'un apprentissage parallèle (où les données étiquetées et non étiquetées sont traitées séparément) à une amélioration mutuelle. En exploitant les interactions structurées entre les données connues et nouvelles, le cadre permet aux données étiquetées de guider l'apprentissage de représentations des classes connues non étiquetées tout en utilisant simultanément les signatures relationnelles collectives des données non étiquetées pour découvrir de nouvelles catégories. Les auteurs affirment que cette approche valide l'hypothèse selon laquelle les données étiquetées et non étiquetées peuvent s'améliorer mutuellement par le biais d'interactions structurées, conduisant à des représentations de caractéristiques plus robustes et à une découverte de catégories plus précise dans des contextes de monde ouvert.