🤖 machine learning

ScaleMAP: Preserving Local Density and Neighborhood Structure in Low-Dimensional Embeddings

ScaleMAP एक नवीन आयामी-न्यूनीकरण (dimensionality-reduction) विधि है जो स्थानीय त्रिज्याओं के साथ युग्मवार विस्थापन को सामान्य करके निम्न-आयामी एम्बेडिंग में स्थानीय घनत्व और पड़ोस की संरचना दोनों को संरक्षित करती है, जिससे प्रभावी रूप से उन विरल संरचनाओं और व्यापक घनत्व विविधताओं को पुनः प्राप्त किया जाता है जो अक्सर UMAP और DensMAP जैसी मौजूदा तकनीकों में खो जाते हैं या विकृत हो जाते हैं।

मूल लेखक: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

प्रकाशित 2026-06-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rajas Poorna (Georgia Institute of Technology), Marcus T. Cicerone (Georgia Institute of Technology)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, बिखरा हुआ कमरा है जो हजारों अलग-अलग वस्तुओं से भरा हुआ है। इसमें कुछ बहुत बड़े पत्थर हैं, कुछ नन्हे कंकड़ हैं, और कुछ रेत के ढेरों को जोड़ने वाले नाजुक धागे हैं। आपका लक्ष्य इस कमरे की एक ऐसी फोटो लेना है जो कागज के एक छोटे से टुकड़े (एक 2D मानचित्र) पर फिट हो सके ताकि आप देख सकें कि सब कुछ एक-दूसरे से कैसे संबंधित है।

समस्या यह है कि जो उपकरण हम आमतौर पर इस तरह की फोटो लेने के लिए उपयोग करते हैं (जिन्हें UMAP और t-SNE कहा जाता है), उनकी एक अजीब आदत है: वे हर वस्तु के साथ ऐसा व्यवहार करते हैं जैसे कि वह एक ही आकार की हो। वे बड़े पत्थरों को सिकोड़ देते हैं और नन्हे कंकड़ों को इतना फैला देते हैं कि सब कुछ लगभग एक ही आकार का दिखने लगता है। यह देखने के लिए तो अच्छा है कि कौन सी वस्तुएं किसके पास हैं, लेकिन यह इस जानकारी को नष्ट कर देता है कि विभिन्न क्षेत्र कितने भीड़भाड़ वाले या विरल (sparse) हैं। यह बिल्कुल वैसा ही है जैसे किसी फोटो में एक घना जंगल और एक अकेला खड़ा पेड़, दोनों एक समान जगह घेरते हुए दिखाई दें।

यह पेपर एक नया टूल पेश करता है जिसे ScaleMAP कहा जाता है जो इस समस्या को ठीक करता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

समस्या: "इक्वलाइज़र" प्रभाव (The "Equalizer" Effect)

मौजूदा उपकरण (जैसे UMAP) एक सख्त ऑडियो इक्वलाइज़र की तरह काम करते हैं जो हर ध्वनि को एक ही वॉल्यूम पर लाने की कोशिश करता है।

समस्या: यदि आपके पास लोगों की एक घनी भीड़ (एक "क्लस्टर") है और एक पुल पर चलते हुए लोगों का एक विरल समूह है, तो पुराने उपकरण उस भीड़ को सिकोड़ देते हैं और पुल को फैला देते हैं ताकि वे एक ही आकार के दिखें।
परिणाम: आप उस "पुल" को खो देते हैं। वास्तविक डेटा में, ये पुल महत्वपूर्ण बदलावों (जैसे एक कोशिका का एक प्रकार से दूसरे प्रकार में बदलना) का प्रतिनिधित्व करते हैं। यदि टूल पुल को सिकोड़ देता है, तो वह बदलाव गायब हो जाता है, और डेटा टूटा हुआ सा दिखाई देता है।

पुराना समाधान: एक "पेनल्टी" जोड़ना (Adding a "Penalty")

DensMAP नामक एक पिछले टूल ने गणित में एक "पेनल्टी" जोड़कर इसे ठीक करने की कोशिश की। इसने कंप्यूटर को बताया: "हे, अगर भीड़ बहुत छोटी दिख रही है, तो उन्हें दूर धकेलो!"

खामी: यह पेनल्टी मुख्य लक्ष्य (पड़ोसियों को साथ रखने) के खिलाफ लड़ती है। यह वैसा ही है जैसे आप अपने दोस्त का हाथ पकड़ने की कोशिश कर रहे हों, जबकि कोई दूसरा व्यक्ति लगातार आपको विपरीत दिशा में खींच रहा हो। परिणाम स्वरूप? भीड़ बिखर जाती है, और लोग अपने वास्तविक पड़ोसियों से बहुत दूर चले जाते हैं, जिससे मानचित्र अव्यवस्थित और पढ़ने में कठिन हो जाता है।

नया समाधान: ScaleMAP (एक "वेरिएबल ज़ूम" कैमरा)

ScaleMAP एक अलग दृष्टिकोण अपनाता है। सिस्टम से लड़ने के लिए पेनल्टी जोड़ने के बजाय, यह कैमरे के लेंस को बदल देता है।

कल्पना कीजिए कि आप एक शहर में घूम रहे हैं:

एक भीड़भाड़ वाले बाजार में: आप छोटे कदम उठाते हैं क्योंकि वहां बहुत अधिक लोग हैं।
एक खाली पार्क में: आप लंबे कदम उठाते हैं क्योंकि वहां काफी जगह है।

ScaleMAP गणितीय रूप से यही करता है। यह देखता है कि मूल डेटा में कोई क्षेत्र कितना भीड़भाड़ वाला है और मानचित्र को बताता है: "यदि यह क्षेत्र भीड़भाड़ वाला था, तो बिंदुओं के बीच की दूरी को 'छोटा' मानें। यदि यह क्षेत्र खाली था, तो दूरी को 'बड़ा' मानें।"

यह अनिवार्य रूप से कहता है: "खेल के नियम मत बदलो; बस भीड़ के आधार पर खेल के मैदान का आकार बदल दो।"

यह क्या हासिल करता है

"वेरिएबल ज़ूम" दृष्टिकोण का उपयोग करके, ScaleMAP एक साथ दो चीजें करने में सक्षम है जो अन्य उपकरण नहीं कर सके:

पड़ोसियों को साथ रखना: ठीक UMAP की तरह, यह दोस्तों को उनके दोस्तों के करीब रखता है।
भीड़ के आकार को बनाए रखना: ठीक DensMAP की तरह, यह घनी भीड़ को घना और विरल क्षेत्रों को विरल बनाए रखता है।

पेपर से वास्तविक दुनिया के उदाहरण

लेखकों ने तीन प्रकार के "कमरों" (डेटासेट) पर इसका परीक्षण किया:

"सेलुलर सिटी" (ट्रांसक्रिप्टोमिक्स): इम्यून सेल्स (प्रतिरक्षा कोशिकाओं) के डेटा में, विभिन्न प्रकार की कोशिकाओं को जोड़ने वाले "पुल" होते हैं (जैसे एक शिशु कोशिका से वयस्क कोशिका तक का रास्ता)। UMAP इन रास्तों को इतना पतला कर देता है कि वे गायब हो जाते हैं। ScaleMAP इस रास्ते को चौड़ा और दृश्यमान रखता है, जिससे कोशिका की पूरी यात्रा दिखाई देती है।
"स्पेक्ट्रल इमेज" (हाइपरस्पेक्ट्रल इमेजिंग): कल्पना कीजिए कि एक कीड़े की तस्वीर है जिसका अधिकांश भाग एक ही रंग का है, लेकिन उसमें दूसरे रंग की एक बहुत छोटी, तीखी चमक (spike) है। UMAP इस चमक को बैकग्राउंड में मिला देता है। ScaleMAP इस चमक को स्पष्ट और अलग रखता है, जैसे घास के ढेर में सुई, जिसे आप वास्तव में देख सकें।
"फ्लो साइटोमेट्री" (कोशिकाओं की गिनती): इस डेटा में घनत्व (density) की एक विशाल रेंज होती है—कुछ क्षेत्रों में लाखों कोशिकाएं होती हैं, जबकि कुछ में लगभग कोई नहीं होतीं। UMAP और DensMAP इस भारी अंतर के कारण भ्रमित हो जाते हैं। ScaleMAP इसे पूरी तरह से संभालता है, एक ऐसा ढांचा दिखाता है जो 17 ऑर्डर्स ऑफ मैग्नीट्यूड (यह एक रेत के कण और एक पर्वत के आकार की तुलना करने जैसा है) तक फैला हुआ है, और वह भी एक ही मानचित्र पर।

निचोड़ (The Bottom Line)

ScaleMAP 3D (या 100D) डेटा को 2D चित्र में बदलने का एक स्मार्ट तरीका है। यह डेटा को एक समान दिखाने के लिए मजबूर नहीं करता है। इसके बजाय, यह समूहों के प्राकृतिक "आकार" का सम्मान करता है, यह सुनिश्चित करता है कि घनी भीड़ घनी बनी रहे, विरल पुल दृश्यमान रहें, और कोई भी भीड़ में खो न जाए। यह अपने बुरे प्रभावों के बिना पिछले उपकरणों के सर्वोत्तम हिस्सों को जोड़ता है।

तकनीकी सारांश: ScaleMAP

समस्या विवरण (Problem Statement)
नॉनलीनियर डायमेंशनलिटी रिडक्शन (DR) विधियाँ, विशेष रूप से UMAP, PaCMAP और t-SNE, उच्च-आयामी डेटा के अन्वेषणात्मक विश्लेषण के लिए मानक उपकरण हैं। ये विधियाँ अनुमानित $k$ -निकटतम पड़ोसी (kNN) ग्राफों का निर्माण करती हैं और अलग-अलग स्थानीय घनत्वों को संभालने के लिए एडेप्टिव बैंडविड्थ का उपयोग करके स्थानीय दूरियों को सामान्य (normalize) करती हैं। जबकि यह नॉर्मलाइजेशन घनत्व के विविधताओं के प्रति मजबूती सुनिश्चित करता है, यह अनजाने में पड़ोस के पूर्ण पैमाने (absolute scale) को मिटा देता है। फलस्वरूप, ये विधियाँ क्लस्टरों के सापेक्ष आकार को बनाए रखने में विफल रहती हैं और विरल संरचनाओं (sparse structures) को दबा देती हैं, जैसे कि संक्रमणकालीन सेल प्रकारों के बीच के ब्रिज (bridges), हाइपरस्पेक्ट्रल इमेजिंग में संकीर्ण स्पेक्ट्रल स्पाइक्स, या कई ऑर्डर्स ऑफ मैग्नीट्यूड तक फैले घनत्व परिवर्तन (जैसे कि फ्लो साइटोमेट्री में)।

इसे सुधारने के प्रयास, जैसे कि DensMAP, लॉस फंक्शन में एक पेनल्टी टर्म पेश करते हैं ताकि ओरिजिनल-स्पेस और एम्बेडिंग-स्पेस के स्थानीय घनत्वों के बीच सहसंबंध (correlation) को अधिकतम किया जा सके। हालांकि, पेपर का तर्क है कि यह दृष्टिकोण एक प्रतिस्पर्धी उद्देश्य (competing objective) बनाता है: घनत्व पेनल्टी, UMAP के अंतर्निहित आकर्षण-प्रतिकर्षण बलों (attraction–repulsion forces) के विरुद्ध संघर्ष करती है। यह संघर्ष बिंदुओं को उनके वास्तविक पड़ोस से दूर बिखेर देता है, जिससे "डिस्कनेक्टेड पॉइंट्स" का एक उच्च हिस्सा बनता है और विरल क्षेत्र व्याख्या करने में कठिन हो जाते हैं।

कार्यप्रणाली (Methodology)
ScaleMAP एक अलग दृष्टिकोण प्रस्तावित करता है: एक अतिरिक्त लॉस टर्म जोड़ने के बजाय, यह मौजूदा UMAP ऑब्जेक्टिव के भीतर डिस्टेंस मेट्रिक पर एक चेंज ऑफ वेरिएबल्स (change of variables) लागू करके स्केल की जानकारी को पुन: पेश करता है।

लोकल रेडियस परिभाषा: ScaleMAP "लोकल रेडियस" ( $r_i$ ) का उपयोग करता है, जो मूल स्थान में किसी बिंदु से उसके पड़ोसियों की भारित रूट-मीन-स्क्वायर दूरी (weighted root-mean-square distance) है, जो नेबरहुड स्केल के माप के रूप में कार्य करता है।
रीस्केल्ड डिस्टेंस: लॉस फंक्शन में यूक्लिडियन स्क्वेर्ड डिस्टेंस $d_{ij}^2 = \|y_i - y_j\|^2$ का उपयोग करने के बजाय, ScaleMAP एक रीस्केल्ड स्क्वेर्ड डिस्टेंस को परिभाषित करता है:
$\tilde{d}_{ij}^2 = \frac{d_{ij}^2}{r_i r_j}$
जहाँ $r_i$ और $r_j$ दो एंडपॉइंट्स के स्थानीय रेडियस हैं।
फोर्स मॉडिफिकेशन: यह प्रतिस्थापन क्रॉस-एन्ट्रॉपी लॉस के ग्रेडिएंट को संशोधित करता है। आकर्षक (पड़ोसी) और प्रतिकर्षक (गैर-पड़ोसी) दोनों बलों के लिए अपडेट नियम $1/(r_i r_j)$ $1/ (r_{i} r_{j})$ के कारक द्वारा स्केल किए जाते हैं।
- सिमेट्री (Symmetry): महत्वपूर्ण रूप से, रीस्केलिंग आकर्षक और प्रतिकर्षक दोनों बलों पर सममित रूप से लागू होती है। यह उस स्थानीय संतुलन (local equilibrium) को बनाए रखता है जो UMAP के नेबरहुड संरक्षण गुणों को प्रदान करता है।
- प्रभाव: विरल क्षेत्रों (बड़े $r_i, r_j$ ) में बिंदु प्रति यूनिट यूक्लिडियन विस्थापन कमजोर बलों का अनुभव करते हैं, जिससे एम्बेडिंग उन्हें फैला देती है। सघन क्षेत्रों में बिंदु कसकर पैक रहते हैं।
नॉर्मलाइजेशन: मूल डेटा और एम्बेडिंग के स्वतंत्र दूरी पैमानों को संभालने के लिए, रेडियस वितरण के 95वें पर्सेंटाइल ( $P_{95}$ ) का उपयोग करके स्थानीय रेडियस को नॉर्मलाइज किया जाता है।
PaCMAP का विस्तार: इसी सिद्धांत को PaCMAP (जिसे Scale-PaCMAP कहा गया है) पर लागू किया जाता है, जिसमें रेडियस के ज्योमेट्रिक मीन के स्थान पर PaCMAP के प्रति-बिंदु डिस्टेंस स्केल ( $\sigma_i \sigma_j$ ) का उपयोग किया जाता है।

प्रमुख योगदान (Key Contributions)

नवीन फॉर्मूलेशन: ScaleMAP का परिचय, जो एक अतिरिक्त लॉस टर्म के बजाय चेंज-ऑफ-वेरिएबल्स के माध्यम से स्थानीय-स्केल जानकारी को इंजेक्ट करने वाला एक UMAP संशोधन है।
परफॉर्मेंस बैलेंस: यह प्रदर्शन करना कि ScaleMAP, UMAP-स्तर का नेबरहुड प्रिजर्वेशन प्राप्त करता है और DensMAP के समान या उससे बेहतर घनत्व संरक्षण (density preservation) प्राप्त करता है, जिसमें काफी कम बिखरे हुए (डिस्कनेक्टेड) बिंदु होते हैं।
स्ट्रक्चर रिकवरी: उन विरल संरचनाओं की सफल रिकवरी जो UMAP उन्हें कोलैप्स कर देता है (जैसे ट्रांसक्रिप्टोमिक ब्रिज) और मल्टीस्केल डेंसिटी स्ट्रक्चर का संरक्षण (जैसे फ्लो साइटोमेट्री डेटा जो 17 ऑर्डर्स ऑफ मैग्नीट्यूड तक फैला हुआ है)।
जनरलाइजेबिलिटी (Generalizability): प्रमाण कि चेंज-ऑफ-वेरिएबल्स का सिद्धांत अन्य विधियों, विशेष रूप से PaCMAP पर सामान्यीकृत होता है।

परिणाम (Results)
लेखकों ने मानक बेंचमार्क (MNIST, Fashion-MNIST, COIL-20, Mammoth) और तीन वैज्ञानिक डेटासेट्स (Tabula Sapiens ट्रांसक्रिप्टोमिक्स, BCARS हाइपरस्पेक्ट्रल इमेजिंग, और ह्यूमन बोन-मैरो फ्लो साइटोमेट्री) पर ScaleMAP का मूल्यांकन किया।

मात्रात्मक मेट्रिक्स (Quantitative Metrics):
- घनत्व संरक्षण (Density Preservation): ScaleMAP अधिकांश डेटासेट्स पर DensMAP के तुलनीय घनत्व संरक्षण ( $R^2$ of log-log fit) प्राप्त करता है (जैसे Fashion-MNIST पर DensMAP के 0.58 के मुकाबले ScaleMAP का $R^2 \approx 0.51$ )। अत्यधिक डायनेमिक रेंज वाले डेटासेट्स पर, ScaleMAP, DensMAP से बेहतर प्रदर्शन करता है (जैसे फ्लो साइटोमेट्री: $R^2 = 0.80$ बनाम DensMAP का 0.68; हाइपरस्पेक्ट्रल इमेजिंग: $R^2 = 0.81$ बनाम DensMAP का 0.59)।
- नेबरहुड प्रिजर्वेशन: ScaleMAP, UMAP (Fashion-MNIST पर 13.3% बनाम UMAP का 14.3%) के तुलनीय kNN रिकॉल बनाए रखता है और DensMAP (7.1%) से काफी बेहतर है।
- डिस्कनेक्टेड पॉइंट्स: ScaleMAP डिस्कनेक्टेड पॉइंट्स के अंश को कम और UMAP के तुलनीय रखता है (जैसे UMAP के 0.11% बनाम ScaleMAP का 0.19%), जबकि DensMAP में एक ऑर्डर ऑफ मैग्नीट्यूड अधिक डिस्कनेक्टेड पॉइंट्स दिखाई देते हैं (3.48%)।
- क्लास मिक्सिंग: ScaleMAP दोनों बेसलाइन्स की तुलना में क्लास मिक्सिंग को कम करता है।
गुणात्मक अवलोकन (Qualitative Observations):
- ट्रांसक्रिप्टोमिक्स: ScaleMAP सेल पॉपुलेशन के बीच विरल ब्रिज (जैसे मोनोसाइट्स-न्यूट्रोफिल, B-T सेल्स) को रिकवर करता है जिन्हें UMAP कोलैप्स या अदृश्य कर देता है।
- हाइपरस्पेक्ट्रल इमेजिंग: यह विरल स्पेक्ट्रल स्पाइक्स और छोटे क्लस्टरों को प्रकट करता है जिन्हें UMAP कंप्रेस या बैकग्राउंड में अवशोषित कर देता है।
- फ्लो साइटोमेट्री: यह 17 ऑर्डर्स ऑफ मैग्नीट्यूड में मल्टीस्केल स्ट्रक्चर का निष्ठापूर्वक प्रतिनिधित्व करता है, एक घने "बल्ब" (bulb) को सुरक्षित रखता है जो UMAP/DensMAP में एक बहुत छोटी विशेषता के रूप में दिखता है, जबकि वे मल्टीस्केल फिडेलिटी की कमी रखते हैं।
- सिंथेटिक डायग्नोस्टिक्स: "XOI" और "Bridge" डेटासेट्स पर, ScaleMAP सापेक्ष आकार और विरल कनेक्शनों को सही ढंग से संरक्षित करता है, जबकि DensMAP आकृतियों को विकृत और बिंदुओं को बिखेर देता है।

महत्व और दावे (Significance and Claims)
पेपर का दावा है कि ScaleMAP इस बात का मौलिक सुधार है कि नेबरहुड-प्रिजर्विंग एम्बेडिंग्स स्केल को कैसे संभालते हैं। एक चेंज-ऑफ-वेरिएबल्स के रूप में रीस्केलिंग को मानकर, ScaleMAP उस ट्रेड-ऑफ से बचता है जो डेंसिटी फिडेलिटी और नेबरहुड इंटीग्रिटी के बीच संघर्ष करता है और DensMAP की समस्या है।

लेखक दावा करते हैं कि ScaleMAP एकमात्र परीक्षण की गई विधि है जो एम्बेडिंग क्वालिटी के एक अक्ष (axis) को दूसरे के लिए बलिदान नहीं करती है: यह UMAP का नेबरहुड प्रिजर्वेशन बनाए रखता है, DensMAP की डेंसिटी फिडेलिटी से मेल खाता है, और ग्लोबल डिस्टेंस-ऑर्डर प्रिजर्वेशन में सुधार करता है (वाइड डायनेमिक रेंज वाले डेटासेट्स पर PaCMAP से बेहतर)। पेपर निष्कर्ष निकालता है कि लोकल स्केल को बहाल करना नेबरहुड-प्रिजर्विंग एम्बेडिंग्स में एक सामान्य गायब घटक है और सुझाव देता है कि जब स्केल का निष्ठापूर्वक प्रतिनिधित्व करना महत्वपूर्ण हो, तो ScaleMAP को एक डिफॉल्ट विधि के रूप में उपयोग किया जाना चाहिए। इस दृष्टिकोण को कंप्यूटेशनल रूप से कुशल बताया गया है, जो रेडियस प्रीकंप्यूट करने के लिए केवल $O(n)$ ओवरहेड जोड़ता है, और कुल रनटाइम लगभग UMAP का दोगुना है।