When One Point Is Not Enough: Addressing Ambiguous Instances in Dimensionality Reduction by Splitting

तकनीकी सारांश: विभाजन द्वारा आयामी न्यूनीकरण (Dimensionality Reduction) में संदिग्ध उदाहरणों का समाधान

समस्या की परिभाषा
आयामी न्यूनीकरण (Dimensionality Reduction - DR) उच्च-आयामी डेटा को विज़ुअलाइज़ करने के लिए एक मौलिक उपकरण है, फिर भी यह स्वाभाविक रूप से एक सूचनात्मक हानि (lossy) वाली प्रक्रिया है। जबकि मौजूदा साहित्य ने मैनिफोल्ड टियरिंग (manifold tearing) जैसे विभिन्न विकृतियों को सूचीबद्ध किया है, यह शोध पत्र एक पहले से अनदेखे दृश्य आर्टिफैक्ट (visual artifact) की पहचान करता है: संदिग्ध उदाहरण (ambiguous instances)। ये वे डेटा बिंदु हैं जो उच्च-आयामी स्थान में कई, परस्पर असंगत पड़ोस (neighborhoods) के प्रति अत्यधिक समान होते हैं।

मानक DR विधियाँ प्रत्येक डेटा उदाहरण को दृश्य स्थान (visual space) में एक एकल बिंदु पर मैप करती हैं। फलस्वरूप, एक संदिग्ध उदाहरण अपने कई विशिष्ट पड़ोसों में अपनी सदस्यता को एक साथ निष्पक्ष रूप से प्रदर्शित नहीं कर सकता है। इसे एक एकल स्थान में स्थापित होने के लिए मजबूर किया जाता है, जिसके परिणामस्वरूप आंशिक पड़ोस एम्बेडिंग (partial neighborhood embedding) होता है। इस अवस्था में, उदाहरण केवल एक पड़ोस (या किसी भी नहीं) का हिस्सा प्रतीत होता है, जिससे इसके अन्य असंगत समूहों के साथ वास्तविक संबंध छिप जाते हैं। यह आर्टिफैक्ट विशेष रूप से उदाहरण-स्तर के विश्लेषणों, जैसे कि व्याख्यात्मक AI (XAI) या सिंगल-सेल जीव विज्ञान (single-cell biology) के लिए समस्याग्रस्त है, जहाँ सटीक पड़ोस संरचना को समझना महत्वपूर्ण है। ट्रस्टवर्थनेस (trustworthiness) और निरंतरता (continuity) जैसे मौजूदा मेट्रिक्स आंशिक पड़ोस एम्बेडिंग को अन्य विकृतियों से अलग करने में विफल रहते हैं क्योंकि वे अंतर्निहित डेटा अस्पष्टता तक पहुँच के बिना अंतिम एम्बेडिंग पर कार्य करते हैं।

कार्यप्रणाली (Methodology)
लेखक इन संदिग्ध उदाहरणों को पहचानने और उन्हें कई बिंदुओं में "विभाजित" करके (प्रत्येक को उसके संबंधित पड़ोस में रखकर) हल करने के लिए एक ग्राफ-आधारित दृष्टिकोण प्रस्तावित करते हैं। कार्यप्रणाली पॉलविच एट अल. द्वारा प्रस्तुत दो-चरणीय DR ढांचे (संबंध और मैपिंग) का अनुसरण करती है:

1. ग्राफ निर्माण और विरलीकरण (Graph Construction and Sparsification):

   • उच्च-आयामी संबंधों को एक अनडिरेक्टेड वेटेड ग्राफ $G$ के रूप में मॉडल किया गया है।
   • सार्थक पड़ोस संरचनाओं को उजागर करने और आकस्मिक निकटता के कारण उत्पन्न होने वाले अनावश्यक किनारों (edges) को हटाने के लिए, लेखक स्पिलमैन-श्रीवास्तवा एल्गोरिदम का उपयोग करके स्पेक्ट्रल स्पारसिफिकेशन (spectral sparsification) लागू करते हैं। यह एक कम किया गया ग्राफ $\bar{G}$ बनाता है जो मूल के संरचनात्मक और बीजगणितीय गुणों को सुरक्षित रखते हुए कमजोर कनेक्शनों को हटा देता है।

2. संदिग्ध उदाहरणों की पहचान:

   • अस्पष्टता को टोपोलॉजिकल रूप से परिभाषित किया गया है। लेखक लोकल आर्टिकुलेशन पॉइंट्स (Local Articulation Points - LAPs) की अवधारणा को अनुकूलित करते हैं। एक वर्टेक्स को तब LAP माना जाता है यदि उसे हटाने से एक स्थानीय $r$-स्टेप प्रेरित पड़ोस (induced neighborhood) के भीतर जुड़े घटकों (connected components) की संख्या बढ़ जाती है।
   • एक उदाहरण को तब संदिग्ध (ambiguous) माना जाता है यदि वह स्पारसिफाइड ग्राफ $\bar{G}$ में एक LAP है। यह इंगित करता है कि वह उदाहरण उन विलगित पड़ोसों को जोड़ता है जो अन्यथा अलग होते।
   • गणना को अनुकूलित करने के लिए लेम्मा 3.1 का उपयोग किया जाता है: यदि कोई वर्टेक्स एक निश्चित त्रिज्या $r$ पर LAP नहीं है, तो वह किसी भी बड़े त्रिज्या $r' > r$ पर LAP नहीं हो सकता है।

3. वर्टेक्स स्प्लिटिंग और निर्णय नियम (Vertex Splitting and Decision Rules):

   • एक बार जब एक संदिग्ध वर्टेक्स $v_i$ की पहचान हो जाने के बाद, उसे $K$ प्रतियों में विभाजित किया जाता है, जहाँ $K$ उन जुड़े घटकों की संख्या है जो $v_i$ को उसके स्थानीय पड़ोस से हटाने के बाद शेष रह जाते हैं।
   • निर्णय नियम: सभी संभावित विभाजनों को निष्पादित नहीं किया जाता है। यह दृष्टिकोण निम्नलिखित को फ़िल्टर करता है:
     • LAP-LAP कनेक्शन: यदि एक किनारा दो पड़ोसों को जोड़ता है और दोनों छोर LAP हैं, तो कृत्रिम अलगाव पैदा करने से बचने के लिए विभाजन को रोक दिया जाता है।
     • कमजोर कनेक्शन: एक उपयोगकर्ता-निर्धारित थ्रेशोल्ड $\tau_w$ (कनेक्शन की शक्ति का सबसे मजबूत घटक के अनुपात में) उन विभाजनों को फ़िल्टर करता है जहाँ किसी पड़ोस के साथ संबंध बहुत कमजोर है। यह अपर्याप्त आकर्षण बलों के कारण विलगित बिंदुओं के निर्माण को रोकता है।

4. मैपिंग और विज़ुअलाइज़ेशन:

   • संशोधित ग्राफ, जिसमें विभाजित वर्टेक्स शामिल हैं, को मानक स्थानीय DR तकनीकों (जैसे UMAP या ForceAtlas2) का उपयोग करके दृश्य स्थान में प्रोजेक्ट किया जाता है।
   • विजुअल एनकोडिंग: विभाजित उदाहरणों को विशिष्ट मार्करों (जैसे क्रॉस) के रूप में रेंडर किया जाता है जो अपने मूल स्थान या एक-दूसरे से डैश लाइनों द्वारा जुड़े होते हैं, जिससे विश्लेषक एक ही डेटा बिंदु की कई पड़ोस सदस्यता को ट्रैक कर सकते हैं।

प्रमुख योगदान

• आंशिक पड़ोस एम्बेडिंग की परिभाषा: यह शोध पत्र औपचारिक रूप से इस विशिष्ट आर्टिफैक्ट को परिभाषित करता है जो संदिग्ध उदाहरणों से उत्पन्न होता है, और इसे सामान्य DR विकृतियों से अलग करता है।
• ग्राफ-थ्योरेटिक डिटेक्शन: यह स्पारसिफाइड पड़ोस ग्राफ पर लोकल आर्टिकुलेशन पॉइंट्स का उपयोग करके संदिग्ध उदाहरणों की पहचान करने के लिए एक विधि प्रस्तुत करता है।
• स्प्लिटिंग मैकेनिज्म: लेखक एक ठोस, लगभग रैखिक समय जटिलता (near-linear time complexity) वाला दृष्टिकोण प्रस्तावित करते हैं जो कई पड़ोस सदस्यताओं को दर्शाने के लिए संदिग्ध उदाहरणों को पुनरुत्पादित (replicate) करता है।
• अनुभवजन्य सत्यापन (Empirical Validation): इस दृष्टिकोण को विविध डेटासेट्स (SVHN, MNIST, टेक्स्ट कॉर्पोरा, और सिंगल-सेल RNA सीक्वेंसिंग) पर प्रदर्शित किया गया है, जो दिखाता है कि यह उन छिपे हुए पड़ोस सदस्यताओं को प्रकट करता है जो मानक प्रोजेक्शन में दिखाई नहीं देती हैं।

परिणाम

• गुणात्मक अंतर्दृष्टि (Qualitative Insights): SVHN डेटासेट में, एक गलत वर्गीकृत अंक '1' (जिसे '7' के रूप में अनुमानित किया गया था) को मानक UMAP में केवल '7' के पड़ोस का हिस्सा दिखाया गया था। प्रस्तावित दृष्टिकोण ने उस उदाहरण को विभाजित किया, जिससे उसकी '1' के पड़ोस के प्रति समवर्ती समानता का पता चला, जिससे क्लासिफायर की त्रुटि की अस्पष्टता स्पष्ट हुई। इसी तरह, टेक्स्ट डेटा में, "ILP-Assisted Models for Toxicology" पर एक पेपर को दोनों ILP और Case-Based Reasoning (CBR) क्लस्टर्स के सदस्य के रूप में दिखाया गया, एक द्वैतता जो मानक प्रोजेक्शन में छिपी हुई थी।
• मात्रात्मक विश्लेषण (Quantitative Analysis):
  • स्पारसिफिकेशन का प्रभाव: संरक्षित $k$-निकटतम पड़ोस ($k$NN) को मापने वाले प्रयोगों ने दिखाया कि स्पेक्ट्रल स्पारसिफिकेशन मूल ग्राफ के तुलनीय स्थानीय पड़ोस संरचनाओं को बनाए रखता है (अधिकांश डेटासेट्स के लिए अनुपात 1 के करीब), हालांकि उच्च-इंट्रिन्सिक-डायमेंशनलिटी वाले सिंगल-सेल डेटा में कुछ भिन्नता देखी गई।
  • मेट्रिक की सीमाएं: ट्रस्टवर्थनेस और निरंतरता जैसे मानक मेट्रिक्स संदिग्ध उदाहरणों की पहचान करने में अप्रभावी पाए गए, क्योंकि ये बिंदु मेट्रिक वितरण में गैर-संदिग्ध बिंदुओं के समान ही वितरित होते हैं।
  • पैरामीटर संवेदनशीलता: प्रारंभिक ग्राफ में पड़ोसियों की संख्या बढ़ाने से आमतौर पर पहचाने गए विभाजनों की संख्या कम हो जाती है, क्योंकि बढ़ी हुई कनेक्टिविटी उन पड़ोसों को जोड़ देती है जो अन्यथा विलगित प्रतीत होते।

महत्व और दावे
यह शोध पत्र तर्क देता है कि सूक्ष्म स्थानीय संरचनाओं की व्याख्या करने के लिए अस्पष्टता को पहचानना आवश्यक है। लेखक दावा करते हैं कि संदिग्ध उदाहरणों को ध्यान में न रखने से अधूरा या गलत निष्कर्ष निकल सकता है, विशेष रूप से XAI और जीव विज्ञान जैसे डोमेन में जहाँ उदाहरण-स्तर का संदर्भ महत्वपूर्ण है। इन उदाहरणों को विभाजित करके, यह विधि डेटा के उच्च-आयामी टोपोलॉजी का अधिक निष्पक्ष प्रतिनिधित्व प्रदान करती है, जो "पहले से छिपी हुई पड़ोस सदस्यताओं" को प्रकट करती है। यह कार्य सुझाव देता है कि वर्तमान DR गुणवत्ता मेट्रिक्स इस विशिष्ट प्रकार के आर्टिफैक्ट के लिए अपर्याप्त हैं और भविष्य के मूल्यांकन ढांचे को केवल मैपिंग-प्रेरित अस्थिरता के बजाय डेटा-संचालित अस्पष्टता को भी ध्यान में रखना चाहिए।