🤖 machine learning

Non-negative Matrix Factorisation with Topological Regularisation

Cet article propose un nouveau cadre de factorisation de matrices non négatives qui améliore l'interprétabilité des bases apprises en incorporant l'homologie persistante comme un régularisateur topologique stable et sans seuil, unifiant ainsi la modélisation d'images spatialement cohérentes, de séries temporelles périodiques et de signaux de graphes de type cliques.

Auteurs originaux : Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

Publié 2026-06-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez un tas géant et désordonné de briques Lego. Votre objectif est de comprendre quelles étaient les formes simples et originales qui ont été utilisées pour construire chaque structure du tas. C'est essentiellement ce qu'un algorithme informatique appelé Factorisation de Matrice Non-Négative (NMF) fait : il tente de décomposer des données complexes (comme des images, du son ou des graphes) en un ensemble de blocs de construction de base (appelés bases) qui peuvent être mélangés pour recréer la donnée d'origine.

Le problème est que la NMF standard est un peu comme un enfant jouant aux Legos : elle peut trouver un moyen de reconstruire les structures, mais les « blocs de construction » qu'elle invente peuvent être bizarres, fragmentés ou absurdes. Elle pourrait créer un bloc qui est à moitié une roue et à moitié une porte, simplement parce que cela correspond mathématiquement aux chiffres, même si cela n'a aucun sens dans le monde réel.

Ce document présente une nouvelle méthode appelée Top-NMF (NMF Topologique). Considérez cela comme si l'on donnait à l'ordinateur un ensemble de règles de « bon sens » sur ce à quoi un bon bloc de construction devrait ressembler, en se basant sur la forme des données.

Voici comment cela fonctionne, en utilisant des analogies simples :

1. Le Problème : Les « seuils » sont peu fiables

D'habitude, pour vérifier si une forme est « connectée » (comme un morceau d'argile solide) ou « brisée » (comme deux cailloux séparés), il faut tracer une ligne. « Si l'argile est plus haute que cette ligne, elle compte ; si elle est plus basse, elle ne compte pas. »

Le problème : Si vous déplacez cette ligne un tout petit peu vers le haut ou vers le bas, un seul morceau connecté peut soudainement ressembler à deux morceaux séparés, ou deux morceaux séparés peuvent ressembler à un seul. Cela rend difficile l'apprentissage fluide pour l'ordinateur car les règles changent constamment avec de minuscules ajustements.

2. La Solution : L'homologie persistante (La caméra en « accéléré »)

Au lieu de tracer une seule ligne, le Top-NMF utilise une technique appelée homologie persistante. Imaginez prendre une vidéo en accéléré d'un château de sable pendant que la marée monte.

Vous ne regardez pas seulement le château à un niveau d'eau spécifique. Vous observez tout le processus.
Vous voyez quand une tour apparaît (naît) à mesure que l'eau se retire, et quand elle disparaît (meurt) à mesure que l'eau monte.
La magie : Si une tour dure longtemps avant que l'eau ne l'emporte, c'est une structure réelle et solide. Si une petite bosse apparaît et disparaît instantanément, c'est juste du bruit.
Le Top-NMF utilise cette vue en « accéléré » pour mesurer la « forme » des données sans être perturbé par des fluctuations aléatoires et infimes. Cela donne à l'ordinateur un moyen stable et fluide de dire : « Ceci est une forme solide et connectée », ou « Ceci est un anneau », ou « Ceci est une boucle ».

3. Comment cela change l'apprentissage (Le « score topologique »)

Le document ajoute une nouvelle règle au processus d'apprentissage de l'ordinateur. Il dit : « Ne vous contentez pas d'essayer de reconstruire les données parfaitement ; essayez aussi de faire en sorte que vos blocs de construction aient la bonne forme ».

Le document teste cela sur trois types différents de données :

Images (La règle du « bloc connecté ») :
- Objectif : Si vous décomposez l'image d'un visage, vous voulez que les blocs de construction soient des parties connectées (comme un nez entier ou un œil entier), et non un nez divisé en trois petits points déconnectés.
- Résultat : Le Top-NMF apprend à créer des bases qui sont des formes solides et connectées, alors que la méthode standard crée des morceaux fragmentés et éparpillés.
Graphes (La règle du « cercle social ») :
- Objectif : Imaginez un graphe représentant des amitiés. Vous voulez trouver des groupes de personnes qui sont tous amis entre eux (un « clique »).
- Résultat : Le Top-NMF apprend à trouver ces groupes serrés et denses. La méthode standard pourrait mélanger des personnes de différents groupes. Le Top-NMF agit comme un détective qui dit : « Ces personnes forment un cercle d'amis parfait ; gardons-les ensemble ».
Séries Temporelles (La règle du « rythme ») :
- Objectif : Si vous analysez un battement de cœur ou une chanson, vous voulez séparer le « rythme » régulier (le beat) de la « tendance » (la chanson qui devient plus forte ou plus faible).
- Résultat : Le Top-NMF peut recevoir l'instruction : « Trouvez-moi un bloc qui est parfaitement circulaire (une boucle dans le temps, ce qui signifie qu'il se répète) ». Il parvient à séparer le rythme répétitif de la tendance non répétitive, alors que la méthode standard les mélange.

4. Le compromis

Le document note qu'il y a un équilibre à trouver.

La NMF standard est comme un perfectionniste qui ne se soucie que du fait que l'image finale soit exactement correcte, même si les pièces utilisées pour la fabriquer sont bizarres.
Le Top-NMF est comme un enseignant qui dit : « L'image peut être presque parfaite, mais les pièces que vous utilisez doivent être logiques et bien formées ».
Parfois, les pièces « logiques » ne reconstruisent pas l'image tout à fait aussi parfaitement que les pièces « bizarres », mais le résultat est beaucoup plus facile à comprendre pour un humain.

Résumé

En résumé, ce document apprend aux ordinateurs à ne pas regarder les données seulement comme une liste de nombres, mais comme des formes. En utilisant une caméra mathématique en « accéléré » (l'homologie persistante), l'ordinateur apprend à préférer des blocs de construction qui sont connectés, bouclés ou regroupés de manières qui font sens pour le type spécifique de données qu'il examine. Cela rend les résultats beaucoup plus interprétables et utiles pour les humains.

Résumé Technique : NMF avec Régularisation Topologique (Top-NMF)

Énoncé du Problème

La factorisation de matrices non négatives (NMF) est une technique standard pour décomposer des données additives non négatives en représentations par parties interprétables. Cependant, la NMF standard produit souvent des vecteurs de base qui, bien qu'atteignant une faible erreur de reconstruction, manquent de cohérence structurelle. Une base parcimonieuse peut être fragmentée en composantes déconnectées, et une base lisse peut estomper des régions sémantiquement distinctes. Les méthodes de régularisation existantes (par exemple, la parcimonie, la lissité ou la régularisation par graphe des coefficients) échouent à contrôler directement la structure topologique globale des supports de la base. De plus, les tentatives naïves pour imposer une topologie via des supports seuillés sont entravées par la discontinuité et la dépendance au seuil, ce qui les rend inadaptées à l'optimisation continue.

Le problème central abordé est la manière d'apprendre des fonctions de base NMF qui soient non seulement reconstructives, mais qui possèdent également des propriétés topologiques spécifiques et appropriées au domaine (par exemple, la connexité dans les images, la périodicité dans les séries temporelles, ou des structures de type cliques dans les graphes) de manière compatible avec une optimisation basée sur le gradient.

Méthodologie

Point de vue Fonctionnel et Régularisation Topologique

Les auteurs proposent Top-NMF, un cadre qui traite les vecteurs de base non pas simplement comme des lignes d'une matrice, mais comme des fonctions non négatives $v: \Omega \to \mathbb{R}_{\geq 0}$ définies sur un domaine structuré $\Omega$ (par exemple, des grilles d'images, des graphes ou des séries temporelles). La fonction objectif augmente la perte de reconstruction standard par une pénalité topologique :
$\min_{W, V \geq 0} L_{\text{recon}}(X, WV) + \lambda_{\text{top}} L_{\text{top}}(V)$
où $L_{\text{top}}(V) = \sum Q(v_j)$ est une somme de scores topologiques scalaires dérivés des fonctions de base.

L'Homologie Persistante comme Quantificateur Continu

Pour surmonter l'instabilité de la topologie dépendante du seuillage, la méthode emploie l'homologie persistante (PH). Au lieu d'analyser un seul support seuillé, Top-NMF construit une filtration de sous-niveaux supérieurs (ou une filtration dérivée pour les séries temporelles) à partir de chaque fonction de base. La PH suit la naissance et la mort des caractéristiques topologiques (composantes connectées, trous) à travers tous les seuils, fournissant un résumé stable et indépendant du seuil.

Le score topologique $Q(v)$ est un fonctionnel scalaire dérivé du diagramme de persistance. Le papier utilise la persistance au carré totale (et ses variantes pondérées) comme un proxy dérivable pour les propriétés topologiques. Minimiser ce score encourage des priors structurels spécifiques :

Connexité (Images/Signaux 1D) : Pénaliser les barres de persistance de dimension 0 finies (qui représentent des composantes connectées qui fusionnent à des seuils plus bas) encourage un support unique et connecté.
Périodicité (Séries Temporelles) : En utilisant des plongements par fenêtres glissantes et des filtrations de Vietoris–Rips, la méthode cible la persistance de dimension 1 (trous) pour identifier des structures circulaires. Une pénalité basée sur une cible $(Per(v) - a)^2$ permet aux utilisateurs de spécifier les niveaux de périodicité souhaités.
Structures de type Cliques (Graphes) : Pour les graphes à poids d'arêtes, un nouveau fonctionnel favorisant les cliques ( $CP_\alpha$ ) est introduit. Ce score est dérivé de la persistance de la filtration du graphe et peut être exprimé sous forme close via un arbre couvrant de poids maximal. Il récompense la fusion retardée des groupes de sommets (haute persistance de dimension 0) et la formation précoce de cycles (haute persistance de dimension 1), favorisant ainsi des sous-graphes denses de type cliques.

Optimisation

Le problème d'optimisation résultant est non lisse et non convexe. Les auteurs le formulent dans le cadre de la géométrie tame (structures o-minimales). Ils emploient une méthode de sous-gradient projeté (utilisant spécifiquement AdamW dans les expériences) où le sous-gradient du terme topologique est calculé via la règle de la chaîne à travers le diagramme de persistance ou la formulation explicite par arbre couvrant. Les garanties théoriques (Proposition 6 et Théorème 7) établissent que les points d'accumulation des itérations sont des points stationnaires de Clarke sous des hypothèses standards.

Contributions Clés

Formulation Fonctionnelle : Le papier formule la NMF d'un point de vue fonctionnel sur des domaines structurés, fournissant un langage unifié pour définir des priors topologiques pour les images, les séries temporelles et les graphes.
Quantificateurs Topologiques Dérivables : Il démontre comment l'homologie persistante transforme les critères d'interprétabilité discrets en régulariseurs optimisables, évitant la dépendance au seuil de l'analyse de support traditionnelle.
Instanciations Spécifiques au Domaine :
- Développement de pénalités de connexité et de absence de trous pour les bases d'images et de signaux.
- Introduction d'un score de périodicité pour les bases de séries temporelles via des plongements par fenêtres glissantes.
- Proposition d'un régularisateur favorisant les cliques ( $CP_\alpha$ ) pour les signaux de graphes, présenté comme un nouveau descripteur basé sur l'homologie persistante pour les graphes à poids d'arêtes, doté d'une utilité indépendante au-delà de la NMF.
Validation Empirique : Le cadre est évalué sur des ensembles de données synthétiques et réels, montrant que Top-NMF récupère des bases structurellement cohérentes (par exemple, des pics unimodaux, des barres connectées, des sous-graphes de type cliques et des composants rythmiques d'ECG) que la NMF standard ne parvient pas à isoler, souvent avec une erreur de reconstruction compétitive.

Résultats Expérimentaux

Les auteurs évaluent Top-NMF à travers quatre domaines :

Signaux 1D : Dans la récupération de pics gaussiens unimodaux à partir de mélanges, Top-NMF a atteint un score de récupération d'atome significativement plus élevé (0,997 contre 0,772 pour la NMF standard) en pénalisant les maxima locaux secondaires, malgré une légère augmentation de la RMSE de reconstruction.
Images : Sur des atomes de barres synthétiques et des glyphes Hangul, Top-NMF a réussi à récupérer des composantes connectées uniques (nombre de Betti $\beta_0 = 1,0$ ), tandis que la NMF standard a produit des bases fragmentées ( $\beta_0 > 1,6$ ).
Graphes : Sur des mélanges de cliques synthétiques et des données de contact réelles de type "SocioPatterns high school", Top-NMF a réussi à séparer des composantes de type clique. Dans le cadre réel, les bases de Top-NMF ont montré une masse d'arêtes intra-classe plus élevée (0,995 contre 0,966) par rapport à la NMF standard et aux baselines régularisées par réseau.
Séries Temporelles : Pour séparer les signaux périodiques des tendances, Top-NMF a réussi à isoler des composantes périodiques distinctes (sinusoïde, onde triangulaire) et une tendance, là où la NMF standard mélangeait ces caractéristiques. Appliquée aux données ECG du MIT-BIH, la méthode a produit des bases rythmiques et des composantes résiduelles ; l'utilisation des seules bases périodiques pour la reconstruction a permis d'obtenir un AUROC élevé (0,955) pour la détection des contractions ventriculaires prématurées (PVC) comme anomalies, surpassant la NMF standard (0,105).

Signification et Revendications

Le papier affirme que Top-NMF fournit un cadre modulaire pour encoder des priors structurels spécifiques au domaine directement dans l'objectif de factorisation de matrices. Sa principale signification réside dans le passage de l'homologie persistante d'un extracteur de caractéristiques post-hoc à un composant intégrable et optimisable du processus d'apprentissage.

Les auteurs soulignent que la méthode ne garantit pas l'optimalité globale ni ne résout le problème général de l'identifiabilité de la NMF ; elle sélectionne plutôt des solutions structurellement préférables parmi l'ensemble des factorisations ambiguës en fonction du prior topologique imposé. Le travail suggère que l'homologie persistante sert de langage de modélisation formel pour définir les caractéristiques structurelles souhaitées des représentations apprises, permettant l'apprentissage de bases qui sont à la fois reconstructives et topologiquement interprétables.

Le papier reconnaît des limites, notamment la surcharge de calcul de l'homologie persistante (bien que mitigée par des formulations efficaces par arbre couvrant pour les graphes) et la dépendance aux constructions de domaine spécifiées par l'utilisateur (par exemple, les types de filtration, les dimensions d'embedding). Il positionne Top-NMF comme un outil pour les chercheurs souhaitant injecter des connaissances de domaine sur les "bonnes" structures de base dans l'apprentissage non supervisé, plutôt que comme une procédure de découverte automatisée.