🤖 machine learning

ScaleMAP: Preserving Local Density and Neighborhood Structure in Low-Dimensional Embeddings

ScaleMAP is een nieuwe methode voor dimensionaliteitsreductie die zowel de lokale dichtheid als de buurtstructuur in laagdimensionale embeddings behoudt door paarwijze verplaatsingen te normaliseren met lokale radii, waardoor ijle structuren en brede dichtheidsvariaties effectief worden hersteld die vaak verloren gaan of worden vervormd in bestaande technieken zoals UMAP en DensMAP.

Oorspronkelijke auteurs: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

Gepubliceerd 2026-06-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gigantische, rommelige kamer hebt vol met duizenden verschillende objecten. Sommige zijn enorme rotsblokken, sommige zijn piepkleine steentjes, en sommige zijn delicate draden die twee zandhopen verbinden. Je doel is om een foto van deze kamer te maken die op een klein stukje papier past (een 2D-kaart), zodat je kunt zien hoe alles met elkaar samenhangt.

Het probleem is dat de hulpmiddelen die we gewoonlijk gebruiken om zo'n foto te maken (genaamd UMAP en t-SNE) de vreemde gewoonte hebben om elk object als te behandelen alsof het even groot is. Ze drukken de rotsblokken plat en rekken de steentjes uit totdat alles er ongeveer even groot uitziet. Dit is geweldig om te zien welke objecten bij elkaar in de buurt zijn, maar het vernietigt de informatie over hoe druk of ijl verschillende gebieden zijn. Het is alsof je een foto maakt waarbij een dicht bos en een enkele eenzame boom er allebei evenveel ruimte innemen.

Dit artikel introduceert een nieuw hulpmiddel genaamd ScaleMAP dat dit probleem oplost. Zo werkt het, met behulp van eenvoudige analogieën:

Het Probleen: Het "Equalizer"-effect

Bestaande hulpmiddelen (zoals UMAP) werken als een strikte audio-equalizer die elk geluid naar hetzelfde volume dwingt.

Het probleem: Als je een dichte menigte mensen hebt (een "cluster") en een verspreide groep mensen die een brug oversteekt, drukken de oude hulpmiddelen de menigte plat en rekken ze de brug uit totdat ze er even groot uitzien.
Het gevolg: Je verliest de "brug". In echte data vertegenwoordigen deze bruggen belangrijke overgangen (zoals een cel die verandert van het ene type naar het andere). Als het huldmiddel de brug platdrukt, verdwijnt de overgang en ziet de data er kapot uit.

De Oude Oplossing: Een "Straf" Toevoegen

Een eerder hulpmiddel genaamd DensMAP probeerde dit op te lossen door een "straf" aan de wiskunde toe te voegen. Het zei tegen de computer: "Hé, als de menigte er te klein uitziet, duw ze dan uit elkaar!"

De tekortkoming: Deze straf vecht tegen het hoofddoel om buren bij elkaar te houden. Het is alsof je hand in hand probeert te lopen met een vriend, terwijl iemand anders je constant in de tegenovergestelde richting trekt. Het resultaat? De menigte raakt verspreid en mensen belanden ver weg van hun werkelijke buren, waardoor de kaart rommelig en moeilijk leesbaar wordt.

De Nieuwe Oplossing: ScaleMAP (De Camera met "Variabele Zoom")

ScaleMAP hanteert een andere aanpak. In plaats van een straf toe te voegen die tegen het systeem vecht, verandert het de lens van de camera.

Stel je voor dat je door een stad loopt:

In een drukke markt: Neem je kleine stapjes omdat er zoveel mensen zijn.
In een leeg park: Neem je enorme passen omdat er alle ruimte is.

ScaleMAP doet dit wiskundig. Het kijkt naar hoe druk een gebied is in de originele data en vertelt de kaart: "Als dit gebied druk was, behandel de afstand tussen punten dan als 'klein'. Als dit gebied leeg was, behandel de afstand dan als 'groot'."

Het zegt in feite: "Verander niet de regels van het spel; verander alleen de grootte van het speelveld op basis van de menigte."

Wat dit bereikt

Door deze "variabele zoom"-aanpak weet ScaleMAP twee dingen tegelijk te doen die andere hulpmiddelen niet konden:

Houdt buren bij elkaar: Net als UMAP houdt het vrienden dicht bij hun vrienden.
Behoudt de groepsgrootte: Net als DensMAP zorgt het ervoor dat de dichte menigten er dicht blijven uitzien en de ijle gebieden ijler blijven.

Praktijkvoorbeelden uit het artikel

De auteurs hebben dit getest op drie soorten "kamers" (datasets):

De "Cellulaire Stad" (Transcriptomics): In data over immuuncellen zijn er "bruggen" die verschillende celtypen verbinden (zoals een pad van een babycel naar een volwassen cel). UMAP drukt deze paden zo dun dat ze verdwijnen. ScaleMAP houdt het pad breed en zichtbaar, waardoor de volledige reis van de cel wordt getoond.
Het "Spectrale Beeld" (Hyperspectrale Imaging): Stel je een foto voor van een worm waarbij het grootste deel één kleur heeft, maar er is een heel klein, scherp piekje van een andere kleur. UMAP smeert dit piekje uit in de achtergrond. ScaleMAP houdt het piekje scherp en duidelijk, als een naald in een hooiberg die je daadwerkelijk kunt zien.
De "Flow Cytometry" (Celtellingen): Deze data heeft een enorm bereik aan dichtheden — sommige gebieden hebben miljoenen cellen, andere bijna geen enkele. UMAP en DensMAP raken in de war door dit enorme verschil. ScaleMAP gaat hier perfect mee om en toont een structuur die 17 grootteordes beslaat (dat is alsof je de grootte van een zandkorrel vergelijkt met die van een berg, allemaal op één kaart).

De Kernboodschap

ScaleMAP is een slimmere manier om 3D- (of 100D-) data te platmaken tot een 2D-afbeelding. Het dwingt de data niet om uniform te lijken. In plaats daarvan respecteert het de natuurlijke "grootte" van verschillende groepen, waardoor het ervoor zorgt dat dichte menigten dicht blijven, ijle bruggen zichtbaar blijven en niemand in de menigte verdwaalt. Het combineert de beste delen van vorige hulpmiddelen zonder hun rommelige bijwerkingen.

Technische Samenvatting: ScaleMAP

Probleemstelling
Nietlineaire dimensionaliteitsreductiemethoden (DR), met name UMAP, PaCMAP en t-SNE, zijn standaardinstrumenten voor exploratieve analyse van hoogdimensionale data. Deze methoden construeren benaderde $k$ -nearest-neighbor ( $k$ NN) grafen en normaliseren lokale afstanden met behulp van adaptieve bandbreedtes om variërende lokale dichtheden te verwerken. Hoewel deze normalisatie zorgt voor robuustheid tegen variaties in dichtheid, wist het onbedoeld de absolute schaal van buurten weg. Bijgevolg falen deze methoden in het behouden van de relatieve grootte van clusters en onderdrukken ze ijle structuren, zoals bruggen tussen transcriërende celtypen, smalle spectrale pieken in hyperspectrale afbeeldingen, of dichtheidsvariaties die vele ordes van grootte beslaan (bijv. in flowcytometrie).

Bestaande pogingen om dit te corrigeren, zoals DensMAP, introduceren een strafterm in de verliesfunctie om de correlatie tussen de lokale dichtheden in de originele ruimte en de embedding-ruimte te maximaliseren. Het artikel stelt echter dat deze aanpak een concurrerend doel creëert: de dichtheidsstraf vecht tegen de inherente aantrekkings- en afstotingskrachten van UMAP. Dit conflict verspreidt punten weg van hun ware buurten, wat leidt tot een hoog aantal "losgekoppelde punten" (disconnected points) en het moeilijk maakt om ijle regio's te interpreteren.

Methodologie
ScaleMAP stelt een andere aanpak voor: in plaats van een concurrerende verliesterm toe te voegen, herintroduceert het schaalinformatie via een verandering van variabelen toegepast op de afstandsmetriek binnen de bestaande UMAP-objectief.

Definitie Lokale Straal: ScaleMAP gebruikt de "lokale straal" ( $r_i$ ), een gewogen wortel-kwadraat-gemiddelde afstand van een punt tot zijn buren in de originele ruimte, als maat voor de lokale schaal.
Herschaalde Afstand: In plaats van de Euclidische gekwadrateerde afstand $d_{ij}^2 = \|y_i - y_j\|^2$ in de verliesfunctie te gebruiken, definieert ScaleMAP een herschaalde gekwadrateerde afstand:
$\tilde{d}_{ij}^2 = \frac{d_{ij}^2}{r_i r_j}$
waarbij $r_i$ en $r_j$ de lokale radii van de twee eindpunten zijn.
Krachtmodificatie: Deze substitutie wijzigt de gradiënt van de cross-entropy verliesfunctie. De update-regels voor zowel aantrekkende (buur) als afstotende (niet-buur) krachten worden geschaald door een factor van $1/(r_i r_j)$ $1/ (r_{i} r_{j})$ .
- Symmetrie: Cruciaal is dat de herschaling symmetrisch wordt toegepast op zowel aantrekkende als afstotende krachten. Dit behoudt het lokale evenwicht dat de buurtbehoud-eigenschappen van UMAP geeft.
- Effect: Punten in ijle regio's (grote $r_i, r_j$ ) ervaren zwakkere krachten per eenheid Euclidische verplaatsing, waardoor de embedding hen uit elkaar drijft. Punten in dichte regio's blijven compact gepakt.
Normalisatie: Om de onafhankelijke afstandsschalen van de originele data en de embedding te hanteren, worden lokale radii genormaliseerd met behulp van het 95e percentiel ( $P_{95}$ ) van de radii-distributie vóór substitutie.
Extensie naar PaCMAP: Hetzelfde principe wordt toegepast op PaCMAP (genoemd Scale-PaCMAP) door het geometrisch gemiddelde van de radii te vervangen door het product van de per-punt afstandsschalen van PaCMAP ( $\sigma_i \sigma_j$ ).

Belangrijkste Bijdragen

Nieuwe Formulering: De introductie van ScaleMAP, een modificatie van UMAP die lokale schaalinformatie injecteert via een verandering van variabelen in plaats van een extra verliesterm.
Prestatiebalans: Demonstratie dat ScaleMAP een UMAP-niveau van buurtbehoud bereikt en tegelijkertijd de dichtheidsbehoud van DensMAP evenaart of overtreft, met aanzienlijk minder verspreide (losgekoppelde) punten.
Structuurherstel: Succesvolle reconstructie van ijle structuren die UMAP inklapt (bijv. transcriptomische bruggen) en behoud van multischalige dichtheidsstructuren (bijv. flowcytometrie-data die 17 ordes van grootte beslaan).
Generaliseerbaarheid: Bewijs dat het principe van de verandering van variabelen generaliseert naar andere methoden, specifiek PaCMAP.

Resultaten
De auteurs evalueerden ScaleMAP op standaard benchmarks (MNIST, Fashion-MNIST, COIL-20, Mammoth) en drie wetenschappelijke datasets (Tabula Sapiens transcriptomics, BCARS hyperspectrale beeldvorming en menselijke beenmerg-flowcytometrie).

Kwantitatieve Metrieken:
- Dichtheidsbehoud: ScaleMAP bereikt een dichtheidsbehoud ( $R^2$ van de log-log fit) die vergelijkbaar is met DensMAP over de meeste datasets (bijv. $R^2 \approx 0,51$ op Fashion-MNIST versus DensMAP's $0,58$). Op datasets met extreme dynamische bereiken presteert ScaleMAP beter dan DensMAP (bijv. Flow Cytometry: $R^2 = 0,80$ versus $0,68$; Hyperspectral Imaging: $R^2 = 0,81$ versus $0,59$).
- Buurtbehoud: ScaleMAP behoudt een kNN-recall die vergelijkbaar is met UMAP (bijv. 14,3% versus UMAP's 13,3% op Fashion-MNIST) en is significant beter dan DensMAP (7,1%).
- Losgekoppelde Punten: ScaleMAP houdt het fractie losgekoppelde punten laag en vergelijkbaar met UMAP (bijv. 0,19% versus UMAP's 0,11%), terwijl DensMAP een orde van grootte meer losgekoppelde punten vertoont (3,48%).
- Class Mixing: ScaleMAP vermindert class mixing vergeleken met beide baselines.
Kwalitatieve Observaties:
- Transcriptomics: ScaleMAP herstelt ijle bruggen tussen celpopulaties (bijv. monocyten-neutrofielen, B-T cellen) die in UMAP inklappen of onzichtbaar zijn.
- Hyperspectrale Beeldvorming: Het onthult ijle spectrale pieken en kleine clusters die UMAP comprimeert of absorbeert in de achtergrond.
- Flowcytometrie: Het representeert getrouw de multischalige structuur over 17 ordes van grootte, waarbij een dichte "bol" van marker-negatieve cellen wordt behouden die in de embedding verschijnt als een minuscuul kenmerk, in tegen tegenstelling tot UMAP/DensMAP die een gebrek hebben aan deze multischalige getrouwheid.
- Synthetische Diagnostiek: Op "XOI" en "Bridge" datasets behoudt ScaleMAP correct de relatieve grootte en ijle verbindingen, terwijl DensMAP vormen vervormt en punten verspreidt.

Betekenis en Claims
Het artikel claimt dat ScaleMAP een fundamentele verbetering is in de manier waarop buurt-behoudende embeddings met schaal omgaan. Door de herschaling te behandelen als een verandering van variabelen in plaats van een concurrerend doel, vermijdt ScaleMAP de afruil tussen dichtheidsgetrouwheid en buurtintegriteit die DensMAP teistert.

De auteurs stellen dat ScaleMAP de enige geteste methode is die geen aspect van embedding-kwaliteit opoffert voor een ander: het behoudt het buurtbehoud van UMAP, evenaart de dichtheidsgetrouwheid van DensMAP en verbetert de behoud van globale afstand-orde (het overtreft PaCMAP op datasets met een breed dynamisch bereik). Het artikel concludeert dat het herstellen van de lokale schaal een algemeen ontbrekend ingrediënt is in buurt-behoudende embeddings en suggereert ScaleMAP als een standaardmethode wanneer het getrouw representeren van schaal cruciaal is. De aanpak wordt opgemerkt als computationeel efficiënt, met slechts $O(n)$ overhead voor het voorberekenen van de radii, met een totale runtime die ongeveer twee keer zo groot is als die van UMAP.