DeGLIF for Label Noise Robust Node Classification using GNNs

Dans le monde de l'intelligence artificielle, les machines apprennent en étudiant des exemples, tout comme un étudiant apprend à partir d'un manuel scolaire. Mais que se passe-t-il lorsque le manuel est rempli de fautes de frappe, ou pire, lorsque les réponses à la fin sont fausses ? C'est le problème des étiquettes bruitées. Dans de nombreux scénarios réels, de la cartographie des réseaux sociaux au diagnostic de maladies à partir d'imagerie médicale, les données sont collectées de manière peu coûteuse et rapide, souvent par des foules ou des systèmes automatisés qui commettent des erreurs. Ces erreurs ne sont pas de simples petits incidents ; dans les systèmes qui reposent sur des connexions entre des morceaux d'information, une seule étiquette erronée peut se propager comme une rumeur, corrompant la compréhension de ses voisins et provoquant la défaillance de l'ensemble du système. Pendant des années, les chercheurs ont lutté pour construire des machines capables d'apprendre efficacement malgré ces erreurs, essayant souvent d'ignorer les mauvaises données ou espérant que les bonnes données soient suffisantes pour l'emporter sur le bruit.

Une équipe de chercheurs de l'Institut indien de technologie de Bombay a proposé une nouvelle façon de gérer ce problème, spécifiquement pour les données qui existent sous la forme d'un réseau de points connectés, tels que des utilisateurs de réseaux sociaux ou des molécules chimiques. Ils appellent leur méthode DeGLIF. Au lieu d'essayer de deviner quelles étiquettes sont fausses en se basant sur des modèles complexes ou en supposant un type d'erreur spécifique, leur approche pose une question simple et contre-intuitive : « Que se passerait-il pour la performance de notre modèle si nous supprimions simplement cette pièce spécifique de données d'entraînement ? » En simulant la suppression d'un point de donnée unique et en mesurant de combien la précision de notre modèle s'améliore sur un petit ensemble de données propres et fiables, ils peuvent identifier quelles étiquettes sont probablement corrompues. Si la suppression d'un nœud rend le modèle plus intelligent, c'est que ce nœud lui enseignait probablement la mauvaise leçon.

Les chercheurs ont développé un raccourci mathématique pour répondre à cette question sans la tâche impossible de réentraîner leur modèle des milliers de fois, une fois pour chaque point de donnée. Ils ont utilisé un concept connu sous le nom de fonction d'influence « leave-one-out » (laisser un élément de côté), qui estime l'impact d'un point de donnée en observant l'état actuel du modèle. Dans le contexte des réseaux connectés, cela est particulièrement délicat car supprimer un point coupe également les connexions avec ses voisins, modifiant le flux d'informations pour tous les autres. L'équipe a étendu les méthodes existantes pour tenir compte de ces changements structurels, permettant de calculer à quel point un nœud spécifique influence les prédictions du modèle sur les données propres et fiables. Si la présence d'un nœud fait que le modèle performe moins bien sur les données propres, le système le signale comme étant bruité.

Une fois qu'un nœud bruité est identifié, le système ne se contente pas de le jeter, ce qui gaspillerait des informations précieuses. Au lieu de cela, il tente de corriger l'erreur. Pour un nœud ayant une étiquette erronée, le système regarde ce que le modèle prédit actuellement pour ce nœud et inverse l'étiquette vers la classe la plus probable. Les chercheurs ont prouvé théoriquement que ce processus de correction de l'étiquette est mathématiquement supérieur à la suppression totale du nœud, car il conserve la valeur structurelle du nœud dans le réseau tout en corrigeant son identité. Ils ont testé cette approche sur plusieurs ensembles de données standards, incluant de vastes collections d'articles scientifiques et d'avis de produits, en introduisant divers niveaux d'erreurs aléatoires dans les étiquettes. Dans ces tests, leur méthode a systématiquement surpassé les techniques de pointe existantes, améliorant la précision de près de 18 % dans certains cas.

L'étude a également exploré comment la méthode se comporte sous différentes conditions. Ils ont constaté que le système fonctionne bien même lorsque l'ensemble de confiance des données propres est très petit, représentant moins de deux pour cent de l'ensemble des données. Ils ont observé que la méthode est robuste à travers différents types de structures de réseaux, que les connexions soient éparses ou denses, et qu'elle ne nécessite pas de connaissance préalable du nombre d'erreurs présentes ou du type d'erreurs. En fait, les chercheurs ont démontré qu'ils pouvaient appliquer la méthode de manière répétée ; après le premier cycle de nettoyage, les données devenaient plus propres, et un second passage pouvait identifier et corriger encore plus d'erreurs. Bien que le calcul initial nécessite une puissance de calcul significative pour analyser la structure du réseau, les chercheurs ont montré que la méthode pouvait tout de même fonctionner sur des ensembles de données à grande échelle là où d'autres algorithmes concurrents échouaient en raison de limitations de mémoire.

Les résultats suggèrent que cette approche offre un outil polyvalent pour nettoyer des données désordonnées sans avoir besoin de connaître la source du désordre. En se concentrant sur l'impact réel de chaque point de donnée sur le succès du modèle, plutôt que d'essayer de modéliser le bruit lui-même, le système peut efficacement séparer le signal du statique. Les chercheurs ont noté que, bien que la méthode soit informatiquement intensive, elle sert d'étape de prétraitement puissante qui peut être combinée à d'autres techniques d'apprentissage pour booster davantage les performances. Dans un paysage où les données de haute qualité sont coûteuses et rares, cette capacité à transformer un ensemble de données bruyantes et peu fiables en un ensemble propre et digne de confiance représente une étape importante pour l'apprentissage automatique sur des données connectées. Ce travail est une démonstration pratique que la compréhension de l'influence de chaque point de donnée peut conduire à des systèmes d'intelligence artificielle plus résilients et plus précis.