🤖 machine learning

Non-negative Matrix Factorisation with Topological Regularisation

Dit artikel stelt een nieuw Non-negative Matrix Factorisation-raamwerk voor dat de interpreteerbaarheid van geleerde bases verbetert door persistente homologie te incorporeren als een stabiele, drempelvrije topologische regularisator, waardoor de modellering van ruimtelijk coherente afbeeldingen, periodieke tijdreeksen en klik-achtige grafiekensignalen wordt verenigd.

Oorspronkelijke auteurs: Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

Gepubliceerd 2026-06-17

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme, rommelige stapel Lego-blokjes hebt. Je doel is om te achterhalen wat de oorspronkelijke, eenvoudige vormen waren die werden gebruikt om elk enkel structureel onderdeel in de stapel te bouwen. Dit is in essentie wat een computeralgoritme genaamd Non-Negative Matrix Factorization (NMF) doet. Het probeert complexe data (zoals afbeeldingen, geluid of grafieken) af te breken in een set basis-"bouwstenen" (genaamd bases) die samen gemengd kunnen worden om de oorspronkelijke data te recreëren.

Het probleem is dat standaard NMF een beetje is als een kind dat met Lego speelt: het kan wel een manier vinden om de structuren weer op te bouwen, maar de "bouwstenen" die het uitvindt, kunnen vreemd, gefragmenteerd of zinloos zijn. Het kan een blokje maken dat half een wiel en half een deur is, simpelweg omdat dat wiskundig gezien goed past bij de getallen, ook al maakt dat in de echte wereld geen zin.

Dit artikel introduceert een nieuwe methode genaamd Top-NMF (Topologische NMF). Denk hierbij aan het geven van een set "gezond verstand"-regels aan de computer over hoe een goede bouwsteen eruit zou moeten zien, gebaseerd op de vorm van de data.

Hier is hoe het werkt, met behulp van eenvoudige analogieën:

1. Het Probleen: "Drempels" zijn onbetrouwbaar

Normaal gesproken, om te controleren of een vorm "verbonden" is (zoals één solide stuk klei) of "gebroken" (zoals twee aparte kiezelstenen), moet je een lijn trekken. "Als de klei hoger is dan deze lijn, telt het mee; als het lager is, telt het niet mee."

Het probleem: Als je die lijn een klein beetje omhoog of omlaag beweegt, kan één verbonden stuk plotseling lijken op twee aparte stukken, of twee aparte stukjes kunnen plotseling als één geheel lijken. Dit maakt het moeilijk voor de computer om soepel te leren, omdat de regels bij kleine aanpassingen constant veranderen.

2. De Oplossing: "Persistent Homology" (De "Time-Lapse" Camera)

In plaats van één enkele lijn te trekken, gebruikt Top-NMF een techniek genaamd Persistent Homology. Stel je een time-lapse video voor van een zandkasteel dat wordt gebouwd terwijl de vloed opkomt.

Je kijkt niet alleen naar het kasteel op één specifiek waterpeil. Je bekijkt het hele proces.
Je ziet wanneer een toren verschijnt (geboren wordt) terwijl het water wegtrekt, en wanneer hij verdwijnt (sterft) terwijl het water stijgt.
De magie: Als een toren een lange tijd standhoudt voordat het water hem wegspoelt, is het een echte, sterke structuur. Als een klein bultje verschijnt en direct weer verdwijnt, is het gewoon ruis.
Top-NMF gebruikt dit "time-lapse" perspectief om de "vorm" van de data te meten zonder in de war te raken door kleine, willekeurige schommelingen. Het geeft de computer een stabiele, vloeiende manier om te zeggen: "Dit is een solide, verbonden vorm," of "Dit is een ring," of "Dit is een lus."

3. Hoe het het leren verandert (De "Topologische Score")

Het artikel voegt een nieuwe regel toe aan het leerproces van de computer. Deze zegt: "Probeer niet alleen de data perfect te reconstrueren; zorg er ook voor dat je bouwstenen de juiste vorm hebben."

Het artikel test dit op drie verschillende soorten data:

Afbeeldingen (De "Verbonden Vlek" Regel):
- Doel: Als je een afbeelding van een gezicht ontleedt, wil je dat de bouwstenen verbonden onderdelen zijn (zoals een hele neus of een heel oog), en niet een neus die is opgesplitst in drie kleine, losstaande puntjes.
- Resultaat: Top-NF leert bases te creëren die solide, verbonden vlekken zijn, terwijl de standaardmethode gefragmenteerde, verspreide stukjes creëert.
Grafieken (De "Sociale Clique" Regel):
- Doel: Stel je een grafiek voor die vriendschappen vertegenwoordigt. Je wilt groepen mensen vinden die allemaal vrienden met elkaar zijn (een "clique").
- Resultaat: Top-NMF leert deze hechte, dichte groepen te vinden. De standaardmethode kan mensen van verschillende groepen bij elkaar mengen. Top-NMF werkt als een detective die zegt: "Deze mensen vormen een perfecte cirkel van vrienden; laten we ze bij elkaar houden."
Tijdreeksen (De "Ritme" Regel):
- Doel: Als je een hartslag of een liedje analyseert, wil je de constante "beat" (het ritme) scheiden van de "trend" (het luider of zachter worden van het nummer).
- Resultaat: Top-NMF kan de opdracht krijgen: "Vind mij een blok dat perfect circulair is (een lus in de tijd, wat betekent dat het herhaalt)." Het slaagt erin om het herhalende ritme te scheiden van de niet-herhalende trend, terwijl de standaardmethode deze met elkaar vermengt.

4. De Afweging

Het artikel merkt op dat er een balans gevonden moet worden.

Standaard NMF is als een perfectionist die er alleen maar om geeft dat het eindresultaat er exact juist uitziet, zelfs als de stukjes die gebruikt worden om het te maken vreemd zijn.
Top-NMF is als een leraar die zegt: "De afbeelding kan bijna perfect zijn, maar de stukjes die je gebruikt moeten logisch en goed gevormd zijn."
Soms recreëren de "logische" stukjes de afbeelding niet net zo perfect als de "vreemde" stukjes, maar het resultaat is veel makkelijker te begrijpen voor een mens.

Samenvatting

Kortom, dit artikel leert computers om data niet alleen te zien als een lijst met getallen, maar als vormen. Door een wiskundige "time-lapse" camera (Persistent Homology) te gebruiken, leert de computer om de voorkeur te geven aan bouwstenen die verbonden, gelust of gegroepeerd zijn op manieren die logisch zijn voor het specifieke type data waar het naar kijkt. Dit maakt de resultaten veel interpreteerbaarder en nuttiger voor mensen.

Technische Samenvatting: NMF met Topologische Regularisatie (Top-NMF)

Probleemstelling

Non-negatieve Matrix Factorisatie (NMF) is een standaardtechniek voor het decomponeren van additieve non-negatieve data in interpreteerbare, part-based representaties. De standaard NMF levert echter vaak basisvectoren op die, hoewel ze een lage reconstructiefout bereiken, een gebrek aan structurele coherentie vertonen. Een ijle (sparse) basis kan gefragmenteerd zijn in disconnecteerde componenten, en een gladde basis kan semantisch onderscheidende regio's vervagen. Bestaande regularisatiemethoden (bijv. ijtheid, gladheid of graaf-geregulariseerde coëfficiënten) falen er vaak in om de globale topologische structuur van de basis-supports direct te controleren. Bovendien worden naïeve pogingen om topologie af te dwingen via gedrempelde supports gehinderd door discontinuïteit en drempelafhankelijkheid, wat ze ongeschikt maakt voor continue optimalisatie.

Het kernprobleem dat wordt geadresseerd, is hoe men NMF-basisfuncties kan leren die niet alleen reconstructief zijn, maar ook specifieke, domein-relevante topologische eigenschappen bezitten (bijv. verbondenheid in afbeeldingen, periodiciteit in tijdreeksen, of clique-achtige structuren in grafen) op een wijze die compatibel is met gradiëntgebaseerde optimalisatie.

Methodologie

Functioneel Standpunt en Topologische Regularisatie

De auteurs stellen Top-NMF voor, een framework dat basisvectoren niet louter beschouwt als rijen van een matrix, maar als non-negatieve functies $v: \Omega \to \mathbb{R}_{\geq 0}$ gedefinieerd op een gestructureerd domein $\Omega$ (bijv. beeldroosters, grafen of tijdreeksen). De objectieffunctie breidt de standaard reconstructieverlies uit met een topologische straf:
$\min_{W, V \geq 0} L_{\text{recon}}(X, WV) + \lambda_{\text{top}} L_{\text{top}}(V)$
waarbij $L_{\text{top}}(V) = \sum Q(v_j)$ een som is van scalaire topologische scores afgeleid van de basisfuncties.

Persistente Homologie als Continue Kwantificator

Om de instabiliteit van drempelafhankelijke topologie te overwinnen, gebruikt de methode persistente homologie (PH). In plaats van één enkele gedrempelde support te analyseren, construeert Top-NMF een superlevel-set filtratie (of een afgeleide filtratie voor tijdreeksen) van elke basisfunctie. PH volgt de geboorte en dood van topologische kenmerken (verbonden componenten, gaten) over alle drempels heen, wat een stabiele, drempelvrije samenvatting biedt.

De topologische score $Q(v)$ is een scalaire functional afgeleid van het persistentiediagram. Het artikel maakt gebruik van totale gekwadrateerde persistentie (en de gewogen varianten daarvan) als een differentieerbare proxy voor topologische eigenschappen. Het minimaliseren van deze score stimuleert specifieke structurele priors:

Verbondenheid (Afbeeldingen/1D-signalen): Het bestraffen van eindige 0-dimensionale persistentie-balken (die disconnecteerde componenten vertegenwoordigen die bij lagere drempels samensmelten) stimuleert een enkele, verbonden support.
Periodiciteit (Tijdreeksen): Door gebruik te maken van sliding-window embeddings en Vietoris–Rips filtraties, richt de methode zich op 1-dimensionale persistentie (gaten) om circulaire structuren te identificeren. Een doelgerichte straf $(Per(v) - a)^2$ stelt gebruikers in staat om gewenste periodiciteitsniveaus te specificeren.
Clique-achtige Structuren (Grafen): Voor randgewogen grafen wordt een nieuwe clique-promoverende functional ( $CP_\alpha$ ) geïntroduceerd. Deze score is afgeleid van de persistentie van de graaffiltratie en kan in gesloten vorm worden uitgedrukt via een maximum-weight spanning tree. Het beloont het vertraagde samensmelten van vertexgroepen (hoge 0-persistentie) en vroege cyclusvorming (hoge 1-persistentie), wat effectief dichte, clique-achtige subgrafen bevordert.

Optimalisatie

Het resulterende optimalisatieprobleem is niet-glad en niet-convex. De auteurs formuleren het binnen het kader van de tamme meetkunde (o-minimale structuren). Ze maken gebruik van een geprojecteerde subgradiëntmethode (specifiek gebruikmakend van AdamW in experimenten), waarbij de subgradiënt van de topologische term wordt berekend via de kettingregel door het persistentiediagram of de expliciete spanning-tree formulering. Theoretische garanties (Propositie 6 en Stelling 7) vestigen dat accumulatiepunten van de iteraties Clarke-stationaire punten zijn onder standaardveronderstellingen.

Belangrijkste Bijdragen

Functionele Formulering: Het artikel formuleert NMF vanuit een functioneel standpunt op gestructureerde domeinen, wat een verenigde taal biedt om topologische priors te definiëren voor afbeeldingen, tijdreeksen en grafen.
Differentieerbare Topologische Kwantificatoren: Het demonstreert hoe persistente homologie discrete interpreteerbaarheidscriteria transformeert in optimaliseerbare regularisaties, waardoor de drempelafhankelijkheid van traditionele supportanalyse wordt vermeden.
Domein-specifieke Instantiaties:
- Ontwikkeling van verbondenheids en gat-vrije straffen voor beeld- en signaalbases.
- Introductie van een periodiciteitsscore voor tijdreeks-bases met behulp van sliding-window embeddings.
- Voorstel van een clique-promoverende regularisator ( $CP_\alpha$ ) voor graafsignalen, die wordt gepresenteerd als een nieuwe, op persistente homologie gebaseerde descriptor voor randgewogen grafen met onafhankelijke bruikbaarheid buiten NMF.
Empirische Validatie: Het framework wordt geëvalueerd op synthetische en real-world datasets, waarbij wordt aangetoond dat Top-NMF structureel coherente bases herstelt (bijv. unimodale pieken, verbonden balken, clique-subgrafen en ritmische ECG-componenten) die standaard NMF niet kan isoleren, vaak met een concurrerende reconstructiefout.

Experimentele Resultaten

De auteurs evalueren Top-NMF over vier domeinen:

1D-Signalen: Bij het herstellen van unimodale Gaussische pieken uit mengsels, bereikte Top-NMF een aanzienlijk hogere atom-recovery score (0.997 vs. 0.772 voor standaard NMF) door secundaire lokale maxima te bestraffen, ondanks een lichte toename in reconstructie RMSE.
Afbeeldingen: Bij synthetische bar-atomen en Hangul-tekens herstelde Top-NMF succesvol enkele verbonden componenten (Betti-getal $\beta_0 = 1.0$ ), terwijl standaard NMF gefragmenteerde bases produceerde ( $\beta_0 > 1.6$ ).
Grafen: Op synthetische clique-mengsels en real-world SocioPatterns high school contactdata, slaagde Top-NMF erin om clique-achtige componenten te scheiden. In de real-world setting vertoonden Top-NMF bases een hogere intra-class edge mass (0.995 vs. 0.966) vergeleken met standaard NMF en netwerk-geregulariseerde baselines.
Tijdreeksen: Bij het scheiden van periodieke signalen van trends, slaagde Top-NMF erin om onderscheidende periodieke componenten (cosinus, driehoeksgolf) en een trend te isoleren, terwijl standaard NMF deze kenmerken mengde. Toegepast op MIT-BIH ECG-data, produceerde de methode ritmische bases en residuele componenten; het gebruik van enkel de periodieke bases voor reconstructie leverde een hoge AUROC (0.955) op voor het detecteren van premature ventriculaire contracties (PVC's) als anomalieën, wat beter presteerde dan standaard NMF (0.105).

Betekenis en Claims

Het artikel claimt dat Top-NMF een modulair framework biedt voor het coderen van domein-specifieke structurele priors direct in de matrixfactorisatie-objectieffunctie. De primaire betekenis ligt in de verschuiving van de rol van persistente homologie van een post-hoc feature extractor naar een integraal, optimaliseerbaar onderdeel van het leerproces.

De auteurs benadrukken dat de methode geen globale optimaliteit garandeert of het algemene identificeerbaarheidsprobleem van NMF oplost; in plaats daarvan selecteert het structureel voorkeurele oplossingen uit de verzameling van ambigue factorisaties op basis van de opgelegde topologische prior. Het werk suggereert dat persistente homologie dient als een formele modellerings-taal voor het definiëren van de gewenste structurele kenmerken van geleerde representaties, wat het leren van bases mogelijk maakt die zowel reconstructief als topologisch interpreteerbaar zijn.

Het artikel erkent beperkingen, waaronder de computationele overhead van het berekenen van persistente homologie (hoewel dit wordt verzacht door efficiënte spanning-tree formuleringen voor grafen) en de afhankelijkheid van door de gebruiker gespecificeerde domeinconstructies (bijv. filtratietypes, embedding dimensies). Het positioneert Top-NMF als een hulpmiddel voor onderzoekers om domeinkennis over "goede" basisstructuren in unsupervised learning te injecteren, in plaats van een procedure voor automatische ontdekking.