🤖 machine learning

Class Angular Distortion Index for Dimensionality Reduction

यह शोध पत्र क्लास एंगुलर डिस्टॉर्शन इंडेक्स (CADI) प्रस्तुत करता है, जो आंतरिक कोणों पर आधारित एक अवकलनीय (differentiable) मीट्रिक है जो आयामी न्यूनीकरण (dimensionality reduction) प्रक्षेपों में क्लस्टर संगठन की निष्ठा का मूल्यांकन करता है, और उन मौजूदा मीट्रिक्स की सीमाओं को संबोधित करता है जो सापेक्ष क्लस्टर व्यवस्थाओं को पकड़ने में विफल रहते हैं या गोलाकार आकृतियों को मान लेते हैं।

मूल लेखक: Kaviru Gunaratne, Stephen Kobourov, Jacob Miller

प्रकाशित 2026-05-04

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kaviru Gunaratne, Stephen Kobourov, Jacob Miller

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Class Angular Distortion Index for Dimensionality Reduction" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

बड़ी समस्या: "फ्लैट मैप" की दुविधा (The "Flat Map" Dilemma)

कल्पना कीजिए कि आपके पास अलग-अलग रंगों की मिट्टी की गेंदों से बनी एक विशाल, 3D मूर्ति है। कुछ गेंदें एक-दूसरे के अंदर बसी हुई हैं (जैसे रूसी गुड़िया/Russian dolls), कुछ रिंग के आकार की हैं, और कुछ जटिल गांठों में लिपटी हुई हैं।

अब, कल्पना कीजिए कि आप इस मूर्ति की एक फोटो लेना चाहते हैं ताकि आप इसे किसी ऐसे व्यक्ति को दिखा सकें जो केवल 2D चित्रों (जैसे कागज का एक टुकड़ा) को समझता है। यही डाइमेंशनलिटी रिडक्शन (DR) करता है: यह जटिल, उच्च-आयामी (high-dimensional) डेटा को एक सरल 2D या 3D चित्र में सिकोड़ देता है ताकि इंसान उसे देख सकें।

समस्या यह है कि एक 3D वस्तु को 2D पन्ने पर सिकोड़ने से उसमें विकृति (distortion) आना तय है।

पुराना तरीका: वर्षों से, t-SNE और UMAP जैसे लोकप्रिय उपकरण इस दुनिया के "कलाकार" रहे हैं। वे समान चीजों को एक साथ समूहबद्ध करने में माहिर हैं। यदि आपके पास लाल मिट्टी का ढेर और नीली मिट्टी का ढेर है, तो वे कागज पर दो अलग, घने धब्बे (blobs) बना देंगे।
पेंच (The Catch): हालांकि वे इन धब्बों को सुंदर दिखाते हैं, लेकिन वे अक्सर धब्बों के बीच के संबंध को बिगाड़ देते हैं। वे लाल धब्बे को नीले धब्बे के ठीक बगल में रख सकते हैं, भले ही मूल 3D दुनिया में वे कमरे के दूसरी ओर हों। या, वे एक लंबी, घुमावदार रिंग को एक सख्त गोले में कुचल सकते हैं, जिससे वह एक ठोस गेंद जैसा दिखने लगता है।

पुराने पैमाने: वे क्यों विफल रहे (The Old Rulers)

वैज्ञानिकों को इन "फोटोज" को ग्रेड देने के लिए एक तरीके की आवश्यकता थी ताकि वे देख सकें कि कौन सा सबसे ईमानदार है। उन्होंने सिलुएट स्कोर (Silhouette Score) और डेविस-बोल्डिन इंडेक्स (Davies-Bouldin Index) जैसे पुराने पैमानों का उपयोग किया।

इन पुराने पैमानों को उन न्यायाधीशों के रूप में सोचें जिन्हें केवल एक ही चीज़ की परवाह है: "क्या समूह घने और अलग-अलग हैं?"

यदि न्यायाधीश दो घने, गोल और अलग धब्बे देखता है, तो वह उच्च स्कोर देता है।
यदि वह एक लंबी, घुमावदार चेन या नेस्टेड रिंग्स (एक के भीतर एक रिंग) देखता है, तो वह भ्रमित हो जाता है। वह सोच सकता है कि नेस्टेड रिंग्स बस एक बड़ा बिखरा हुआ ढेर हैं, या वह एक यादृच्छिक (random), बिखरे हुए चित्र को पसंद कर सकता है क्योंकि वह गलती से अलग-अलग धब्बों जैसा दिखता है।

पेपर का तर्क है कि ये न्यायाधीश आकार (shape) और संरचना (structure) के प्रति अंधे हैं। उन्हें इस बात की परवाह नहीं है कि एक रिंग वास्तव में एक रिंग है या एक गेंद दूसरी के अंदर है; वे बस साफ, गोल, अलग घेरे देखना चाहते हैं।

नया समाधान: CADI (द "एंगल" जज)

लेखक एक नया मीट्रिक पेश करते हैं जिसे CADI (Class Angular Distortion Index) कहा जाता है।

उपमा: कैमरे के साथ पर्यटक (The Tourist with a Camera)
कल्पना कीजिए कि आप एक संग्रहालय में एक मूर्ति को देखते हुए एक पर्यटक हैं। कमरे के आकार को समझने के लिए, आप केवल वस्तुओं के बीच की दूरी नहीं देखते; आप कोणों (angles) को देखते हैं।

यदि आप बिंदु A पर खड़े हैं और बिंदु B और C को देखते हैं, तो आपकी दृष्टि रेखा B और आपकी दृष्टि रेखा C के बीच का कोण क्या है?
यदि आप दूसरी जगह जाते हैं, तो क्या वह कोण बदल जाता है?

CADI भी इसी तरह काम करता है। यह यह मापने के बजाय कि क्लस्टर कितने दूर हैं, बिंदुओं के त्रिक (triplets) द्वारा बनाए गए कोणों को मापता है।

यह एक समूह (Class A) में एक बिंदु चुनता है।
यह दूसरे समूह (Class B) में दो बिंदु चुनता है।
यह पहले बिंदु पर बनने वाले कोण को मापता है।

यदि 2D चित्र दुनिया के "आकार" को सुरक्षित रखता है, तो वे कोण समान रहेंगे। यदि चित्र एक रिंग को गेंद में सिकोड़ देता है, तो वे कोण बहुत अधिक बदल जाएंगे। CADI इन कोणों में होने वाली "त्रुटि" की गणना करता है। कम स्कोर का अर्थ है कि कोण सुरक्षित हैं, और मानचित्र अधिक ईमानदार है।

यह क्यों मायने रखता है: "रशियन डॉल" टेस्ट

पेपर इसका परीक्षण एक विशिष्ट उदाहरण के साथ करता है: नेस्टेड स्फेयर्स (Nested Spheres) (जैसे रूसी गुड़िया)।

वास्तविकता: आपके पास एक मध्यम आकार की गेंद के अंदर एक छोटी गेंद है, और उसके अंदर एक बड़ी गेंद है।
पुराने न्यायाधीश (Silhouette): वे इससे नफरत करते हैं। वे तीन अलग, गोल गेंदों को देखना चाहते हैं। वे एक यादृच्छिक, बिखरे हुए स्कैटर प्लॉट को भी "अच्छा" मान सकते हैं क्योंकि बिंदु संयोग से अलग दिखते हैं, भले ही नेस्टिंग संरचना पूरी तरह से खो गई हो।
नया न्यायाधीश (CADI): यह कोणों को देखता है। यह देखता है कि बाहरी गोले से आंतरिक गोले को किस विशिष्ट कोण पर देखा जा रहा है। यह जानता है कि यदि प्रोजेक्शन इसे एक बिखराव में बदल देता है, तो कोण गलत हो जाएंगे। यह सही ढंग से पहचानता है कि कौन सा प्रोजेक्शन "गुड़ियों" को नेस्टेड रखता है।

नया टूल: AngleEmbedding

चूंकि CADI ऐसे गणित पर आधारित है जिसे चरण-दर-चरण गणना की जा सकती है (यह "डिफरेंशिएबल" है), लेखकों ने केवल एक पैमाना नहीं बनाया; उन्होंने एक नया कलाकार बनाया।

उन्होंने AngleEmbedding नामक एक नई विधि बनाई।

इसे एक नए प्रकार के कैमरे के रूप में सोचें जो केवल चीजों को समूहबद्ध करने की कोशिश नहीं करता। इसके बजाय, यह कोण की त्रुटियों को कम करने की कोशिश करता है।
यह एक न्यूरल नेटवर्क (AI का एक प्रकार) का उपयोग करता है जो लगातार चित्र को तब तक समायोजित करता है जब तक कि समूहों के बीच के कोण मूल 3D दुनिया के जितना संभव हो सके करीब न आ जाएं।
परिणाम? ऐसे प्रोजेक्शन जो शायद t-SNE की तुलना में थोड़े "बिखरे हुए" या कम "परफेक्टली सेपरेटेड" लग सकते हैं, लेकिन वे समूहों के बीच के संबंधों के बारे में सच बताते हैं (जैसे कि एक समूह वास्तव में किसके अंदर है, या वे एक श्रृंखला कैसे बनाते हैं)।

निष्कर्ष (Summary of Findings)

पुराने मीट्रिक्स पक्षपाती हैं: वे गोल, अलग धब्बों को पसंद करते हैं और रिंग या नेस्टेड संरचनाओं जैसे जटिल आकारों से नफरत करते हैं। वे अक्सर खराब, यादृच्छिक मानचित्रों को उच्च स्कोर दे देते हैं।
CADI आकार को देखता है: कोणों को मापकर, CADI एक वास्तविक नेस्टेड संरचना और एक बिखरे हुए ढेर के बीच अंतर कर सकता है। यह उन मानचित्रों को पुरस्कृत करता है जो डेटा के "कंकाल" (skeleton) को बरकरार रखते हैं।
AngleEmbedding काम करता है: उनके द्वारा बनाए गए नए तरीके (AngleEmbedding) ने सफलतापूर्वक जटिल संरचनाओं (जैसे नेस्टेड स्फेयर्स और लिंक्ड रिंग्स) को फिर से बनाया है, जिन्हें अन्य लोकप्रिय उपकरण सही ढंग से दिखाने में विफल रहते हैं।

मुख्य बात (The Bottom Line): यदि आप यह देखना चाहते हैं कि डेटा के विभिन्न समूह कैसे अलग हैं, तो पुराने उपकरण (t-SNE/UMAP) ठीक हैं। लेकिन यदि आप उन समूहों के बीच की वास्तविक ज्यामिति और संबंधों को समझना चाहते हैं (जैसे कि कौन किसके अंदर है, या वे एक श्रृंखला कैसे बनाते हैं), तो CADI बेहतर न्यायाधीश है, और AngleEmbedding बेहतर कलाकार है।

यहाँ शोध पत्र "Class Angular Distortion Index for Dimensionality Reduction" (Gunaratne, Kobourov, और Miller द्वारा लिखित) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डाइमेंशनलिटी रिडक्शन (DR) तकनीकें (जैसे t-SNE, UMAP, PCA) उच्च-आयामी डेटा के विज़ुअलाइज़ेशन के लिए आवश्यक हैं। हालाँकि, वर्तमान DR मूल्यांकन में एक महत्वपूर्ण सीमा क्लस्टर संबंधों का भ्रामक प्रतिनिधित्व है।

मुख्य मुद्दा: जबकि कई DR विधियाँ क्लस्टर्स को अलग करने (उन्हें विशिष्ट "blobs" बनाने) में सफल होती हैं, वे अक्सर क्लस्टर्स के बीच के वैश्विक ज्यामितीय संबंधों (global geometric relationships) को विकृत कर देती हैं। उदाहरण के लिए, नेस्टेड संरचनाएं (nested structures), घुमावदार मैनिफोल्ड्स (curved manifolds), या आपस में गुंथे हुए क्लस्टर्स को प्रोजेक्शन में सपाट या मनमाने ढंग से पुनर्व्यवस्थित किया जा सकता है।
मौजूदा मेट्रिक्स की सीमाएँ: वर्तमान गुणवत्ता मेट्रिक्स इन विकृतियों को पकड़ने में विफल रहते हैं क्योंकि वे त्रुटिपूर्ण धारणाओं पर निर्भर करते हैं:
- पृथकता धारणा (Separability Assumption): सिलुएट स्कोर (Silhouette Score) और डेविस-बोल्डिन इंडेक्स (Davies-Bouldin Index) जैसे मेट्रिक्स यह मान लेते हैं कि क्लस्टर्स सघन, गोलाकार और अच्छी तरह से अलग होते हैं। वे उन प्रोजेक्शन्स को पुरस्कृत करते हैं जो घने, अलग-थलग "blobs" बनाते हैं, भले ही वे वास्तविक टोपोलॉजिकल संरचना को नष्ट कर दें (जैसे नेस्टेड स्फेयर्स को अलग-अलग सर्कल्स में बदलना)।
- सेंट्रॉइड पूर्वाग्रह (Centroid Bias): लेबल ट्रस्टवर्थनेस और कंटीन्यूटी (Label Trustworthiness & Continuity - Label-T&C) जैसे मेट्रिक्स क्लस्टर सेंट्रॉइड्स पर निर्भर करते हैं। यदि क्लस्टर्स ओवरलैप होते हैं या नेस्टेड होते हैं (सेंट्रॉइड्स एक ही स्थान पर होते हैं), तो ये मेट्रिक्स एक निष्ठावान प्रोजेक्शन और एक रैंडम प्रोजेक्शन के बीच अंतर करने में विफल रहते हैं।
- पॉइंटवाइज बनाम क्लस्टर-लेवल: अधिकांश मेट्रिक्स पॉइंट-टू-पॉइंट या पेयरवाइज दूरियों का मूल्यांकन करते हैं, जिससे बिंदुओं के समूहों के बीच उच्च-क्रम के ज्यामितीय संबंध छूट जाते हैं।

2. कार्यप्रणाली: क्लास एंगुलर डिस्टॉर्शन इंडेक्स (CADI)

लेखक CADI प्रस्तावित करते हैं, जो आंतरिक कोणों (internal angles) का उपयोग करके इंटर-क्लस्टर ज्यामितीय संबंधों के संरक्षण का मूल्यांकन करने के लिए डिज़ाइन किया गया एक नया मेट्रिक है।

मूल अवधारणा (Core Concept)

सेंट्रॉइड्स या व्यक्तिगत बिंदुओं के बीच की दूरी मापने के बजाय, CADI उन त्रिकों (triplets) के आंतरिक कोणों को मापता है जहाँ संदर्भ बिंदु (reference point) एक क्लास का है, और अन्य दो बिंदु एक अलग क्लास के हैं।

अंतर्ज्ञान (Intuition): यह देखते हुए कि क्लस्टर $C_a$ के एक बिंदु के दृष्टिकोण से क्लस्टर $C_b$ कैसा "दिखता" है (कोण $\angle jik$ के माध्यम से), यह मेट्रिक क्लस्टर्स के आकार और सापेक्ष अभिविन्यास (relative orientation) को कैप्चर करता है।
डिफरेंशिएबिलिटी (Differentiability): चूंकि यह कोणों के कोसाइन समानता (cosine similarity) पर आधारित है, इसलिए CADI डिफरेंशिएबल है, जिससे इसे अनुकूलन (optimization) के लिए लॉस फंक्शन के रूप में उपयोग किया जा सकता है।

गणितीय परिभाषा (Mathematical Definition)

एक डेटासेट $X$ और एक प्रोजेक्शन $Y$ , और क्लासेज के विभाजन $C$ के लिए:
$\text{CADI}(X, Y, C) = \frac{1}{T} \sum_{i \in C_a, j,k \in C_b, j \neq k} \left( \cos(\theta_X(j,i,k)) - \cos(\theta_Y(j,i,k)) \right)^2$
जहाँ:

$i$ क्लास $C_a$ में एक संदर्भ बिंदु है।
$j, k$ एक अलग क्लास $C_b$ के बिंदु हैं।
$\theta$ बिंदु $i$ पर $j$ और $k$ के वेक्टर्स द्वारा बनाया गया आंतरिक कोण है।
$T$ सैंपल किए गए त्रिकों (triplets) की कुल संख्या है।
लक्ष्य: CADI को कम करना (0 के करीब होना बेहतर है)।

व्यावहारिक कार्यान्वयन (Practical Implementation)

सैंपलिंग: पूर्ण योग की गणना $O(n^3)$ है। लेखक प्रदर्शित करते हैं कि $k = O(n)$ त्रिकों (विशेष रूप से $40n$ ) की सैंपलिंग करने से नगण्य विचरण (variance) के साथ स्थिर परिणाम मिलते हैं, जिससे यह मेट्रिक स्केलेबल बन जाता है।
अपरिवर्तनीयता (Invariance): CADI ट्रांसलेशन, रोटेशन और यूनिफॉर्म स्केलिंग के प्रति अपरिवर्तनीय है, क्योंकि यह केवल कोणों पर निर्भर करता है।
AngleEmbedding: लेखक एक नया DR एल्गोरिदम, AngleEmbedding पेश करते हैं, जो CADI को एक लॉस फंक्शन के रूप में उपयोग करता है। इसे एक पैरामीट्रिक न्यूरल नेटवर्क (फीडफॉरवर्ड नेटवर्क) के माध्यम से ऑप्टिमाइज़ किया जाता है ताकि ऐसे प्रोजेक्शन उत्पन्न किए जा सकें जो विशेष रूप से इंटर-क्लास एंगुलर संबंधों को संरक्षित करते हैं।

3. मुख्य योगदान (Key Contributions)

नया मेट्रिक (CADI): एक क्लस्टर-लेवल गुणवत्ता मेट्रिक जो मौजूदा मेट्रिक्स की "ग्लोबुलैरिटी" (globularity) और "सेपरेबिलिटी" (separability) धारणाओं से आगे बढ़ता है। यह विशेष रूप से नेस्टेड, घुमावदार या आपस में गुंथे हुए क्लस्टर्स जैसी जटिल संरचनाओं के संरक्षण को लक्षित करता है।
विफलता मोड का प्रदर्शन: पेपर व्यापक साक्ष्य प्रदान करता है कि मौजूदा मेट्रिक्स (Silhouette, Label-T&C, आदि) अक्सर रैंडम प्रोजेक्शन या "ब्लोब" प्रोजेक्शन को जटिल टोपोलॉजी को निष्ठापूर्वक संरक्षित करने वाले प्रोजेक्शन से बेहतर रैंक देते हैं।
AngleEmbedding एल्गोरिदम: एक नवीन सुपरवाइज्ड DR तकनीक जो CADI को ऑप्टिमाइज़ करती है, यह सिद्ध करती है कि इस मेट्रिक का उपयोग उच्च-फिडेलिटी प्रोजेक्शन बनाने के लिए प्रभावी ढंग से किया जा सकता है।
व्यापक बेंचमार्किंग: 20 से अधिक सिंथेटिक और वास्तविक दुनिया के डेटासेट्स (नेस्टेड स्फेयर्स, रिंग्स, जीन एक्सप्रेशन और टेक्स्ट डेटा सहित) पर CADI का 8 अन्य मेट्रिक्स और 8 DR एल्गोरिदम के साथ मूल्यांकन।

4. परिणाम (Results)

मूल्यांकन CADI और मौजूदा मेट्रिक्स के बीच महत्वपूर्ण विसंगतियों को उजागर करता है:

सिंथेटिक डेटा (नेस्टेड स्फेयर्स और रिंग्स):
- परिदृश्य: डेटा में 5 नेस्टेड स्फेयर्स या आपस में जुड़े हुए रिंग्स की एक श्रृंखला है।
- मौजूदा मेट्रिक्स: सिलुएट स्कोर और लेबल-T&C अक्सर t-SNE या UMAP (जो रिंग्स को अलग-अलग ब्लॉब्स में तोड़ देते हैं या स्फेयर्स को बिखेर देते हैं) को सर्वश्रेष्ठ रैंक देते हैं, या सेंट्रॉइड्स ओवरलैप होने के कारण रैंडम प्रोजेक्शन को भी उच्च रैंक देते हैं।
- CADI: सही ढंग से AngleEmbedding और PCA (जो रैखिक या नेस्टेड क्रम को बनाए रखते हैं) को सर्वश्रेष्ठ पहचानता है, और उन तरीकों को सबसे खराब स्कोर देता है जो टोपोलॉजी को नष्ट कर देते हैं।
वास्तविक दुनिया का डेटा (Liver, USPS, TREC):
- Liver Data: कैंसर कोशिकाओं (HCC) में स्वस्थ कोशिकाओं की तुलना में अधिक विचरण (variance) होता है। t-SNE समान आकार के अलग-अलग ब्लॉब्स बनाता है, जिससे यह विचरण छिप जाता है। CADI AngleEmbedding और PCA को पुरस्कृत करता है, जो सही ढंग से HCC क्लस्टर को अधिक फैला हुआ दिखाते हैं।
- USPS (Digits): क्लस्टर का आकार अंक (digit) के अनुसार काफी भिन्न होता है। t-SNE समान आकार के क्लस्टर्स बनाने के लिए मजबूर करता है। CADI उन प्रोजेक्शन को पुरस्कृत करता है जहाँ क्लस्टर का आकार वास्तविक डेटा वितरण को दर्शाता है (जिसे AngleEmbedding द्वारा संरक्षित किया गया है)।
- सहसंबंध (Correlation): CADI अन्य मेट्रिक्स (जैसे सिलुएट के साथ स्पीयरमैन सहसंबंध ~0.24) के साथ निम्न सहसंबंध दिखाता है, जो पुष्टि करता है कि यह प्रोजेक्शन गुणवत्ता के एक अलग पहलू को मापता है।
हाइपरपैरामीटर ट्यूनिंग: CADI का सफलतापूर्वक उपयोग UMAP के हाइपरपैरामीटर चयन के लिए किया गया, जिससे उन कॉन्फ़िगरेशन की पहचान हुई जो दृश्य निरीक्षण (visual inspection) अस्पष्ट होने पर भी वैश्विक संरचना को बेहतर ढंग से संरक्षित करते हैं।

5. महत्व और निष्कर्ष (Significance and Conclusion)

प्रतिमान परिवर्तन (Paradigm Shift): यह पेपर तर्क देता है कि क्लस्टर संबंध विश्लेषण (जैसे पदानुक्रम, नेस्टिंग या वैश्विक टोपोलॉजी को समझना) से जुड़े कार्यों के लिए, वर्तमान "सेपरेबिलिटी-केंद्रित" मेट्रिक्स भ्रामक हैं। CADI संरचनात्मक निष्ठा के मूल्यांकन के लिए एक आवश्यक विकल्प प्रदान करता है।
उपकरण चयन: लेखक उपयुक्त उपयोग के मामलों को स्पष्ट करते हैं:
- t-SNE/UMAP का उपयोग करें यदि लक्ष्य केवल क्लस्टर्स की संख्या की पहचान करना है या प्रारंभिक अन्वेषण (exploration) करना है।
- CADI/AngleEmbedding का उपयोग करें यदि लक्ष्य यह समझना है कि क्लस्टर्स एक-दूसरे से कैसे संबंधित हैं, उनकी सापेक्ष स्थिति क्या है, और उनका ज्यामितीय आकार क्या है।
भावी कार्य: लेखक AngleEmbedding को गैर-यूक्लिडियन स्पेस (स्फेयर्स, हाइपरबोलॉइड्स) तक विस्तारित करने और कोणीय त्रुटियों (angular errors) के एकत्रीकरण के और अधिक सैद्धांतिक विश्लेषण का सुझाव देते हैं।

संक्षेप में, CADI क्लस्टर्स के बीच की ज्यामिति के विरूपण को मात्रात्मक रूप से मापकर डाइमेंशनलिटी रिडक्शन मूल्यांकन में एक महत्वपूर्ण कमी को दूर करता है, जो जटिल, गैर-गोलाकार डेटा संरचनाओं पर काम करने वाले विश्लेषकों के लिए एक अधिक विश्वसनीय मार्गदर्शिका प्रदान करता है।