तकनीकी सारांश: अनसुपरवाइज्ड विसंगति का पता लगाने के लिए मीन शिफ्ट डेंसिटी एनहांसमेंट (MSDE)

1. समस्या विवरण

अनसुपरवाइज्ड विसंगति का पता लगाना (Unsupervised anomaly detection) मशीन लर्निंग में एक महत्वपूर्ण चुनौती बना हुआ है, विशेष रूप से इसलिए क्योंकि मौजूदा एल्गोरिदम अक्सर विविध प्रकार की विसंगतियों और शोर वाले वातावरणों में मजबूती की कमी प्रदर्शित करते हैं। जैसा कि ADBench द्वारा रेखांकित किया गया है, कोई भी एकल अनसुपरवाइज्ड विधि सभी डेटासेट्स, विसंगति संरचनाओं और शोर के स्तरों पर लगातार बेहतर प्रदर्शन नहीं कर पाती है। वर्तमान विधियाँ आमतौर पर स्थिर धारणाओं (static assumptions) पर निर्भर करती हैं—जैसे वैश्विक दूरी (global distance), स्थानीय घनत्व (local density), या प्रोजेक्शन वेरिएंस—जो तब विफल हो जाती हैं जब विसंगतियाँ जटिल डेटा मैनिफोल्ड्स से सूक्ष्म विचलन के रूप में प्रकट होती हैं या जब डेटा शोर से दूषित होता है। संबोधित किया गया मुख्य मुद्दा एक ऐसे सामान्य-उद्देश्य वाले, मजबूत ढांचे की आवश्यकता है जो किसी एक पूर्व-निर्धारित मीट्रिक पर निर्भर न होकर डेटा की अंतर्निहित ज्यामितीय संरचना के अनुकूल हो सके।

2. कार्यप्रणाली: मीन शिफ्ट डेंसिटी एनहांसमेंट (MSDE)

MSDE एक पूर्णतः अनसुपरवाइज्ड, नॉन-पैरामीट्रिक ढांचा है जो पुनरावृत्त घनत्व-संचालित मैनिफोल्ड विकास (iterative density-driven manifold evolution) के प्रति उनकी ज्यामितीय प्रतिक्रिया के आधार पर विसंगतियों का पता लगाता है। मूल अंतर्दृष्टि यह है कि सामान्य नमूने (normal samples), स्थानीय घनत्व द्वारा अच्छी तरह से समर्थित होने के कारण, पुनरावृत्त घनत्व संवर्धन के तहत स्थिर रहते हैं, जबकि विसंगति वाले नमूने पास के घनत्व मोड (density modes) की ओर आकर्षित होते समय बड़े संचयी विस्थापन (cumulative displacements) का अनुभव करते हैं।

यह विधि तीन प्राथमिक घटकों के माध्यम से कार्य करती है:

2.1 एडेप्टिव नेबरहुड ग्राफ कंस्ट्रक्शन

MSDE NN-Descent एल्गोरिदम के माध्यम से एक अनुमानित k-निकटतम पड़ोसी (k-NN) ग्राफ का उपयोग करके एक स्थानीय नेबरहुड संरचना का निर्माण करता है। महत्वपूर्ण बात यह है कि इस ग्राफ को प्रत्येक मीन-शिफ्ट इटरेशन में पुन: कंप्यूट किया जाता है ताकि यह सुनिश्चित किया जा सके कि स्थानीयता (locality) मूल फीचर स्पेस के बजाय डेटा मैनिफोल्ड के वर्तमान अनुमान के सापेक्ष परिभाषित है।

2.2 मैनिफोल्ड-एडेप्टिव वेट एस्टीमेशन

शास्त्रीय मीन-शिफ्ट विधियों के विपरीत, जो समान या सरल दूरी-आधारित भार (weights) का उपयोग करती हैं, MSDE एक फजी नेबरहुड ग्राफ का उपयोग करता है जो यूनिफॉर्म मैनिफोल्ड एप्रोक्सिमेशन एंड प्रोजेक्शन (UMAP) एल्गोरिदम से प्राप्त होता है।

• फजी सिम्पलीशियल सेट्स (Fuzzy Simplicial Sets): डेटा के मिनी-बैचेस के लिए, MSDE एक फजी सिम्पलीशियल सेट की गणना करता है जहाँ एज वेट्स (edge weights) बिंदुओं के बीच सदस्यता की डिग्री को दर्शाते हैं, जो $[0, 1]$ के बीच सीमित है।
• मल्टी-स्केल वेटिंग: एल्गोरिदम एक त्रिज्या $\epsilon$ की पहचान करने के लिए बाइनरी सर्च करता है जो एक नेबरहुड-घनत्व स्थिति को संतुष्ट करती है। इसके बाद, यह घटते हुए त्रिज्याओं ($\epsilon, \epsilon-\Delta, \dots$) के एक अनुक्रम में नेबरहुड घनत्वों का मूल्यांकन करता है।
• एम्पेरिकल वेट्स (Empirical Weights): प्रत्येक नमूने के लिए अंतिम भार इन कई त्रिज्याओं में पड़ोसी गणनाओं का औसत है। यह सुचारू, स्थिर भार प्रदान करता है जो बिना किसी स्पष्ट पैरामीट्रिक धारणा के कई स्तरों पर अंतर्निहित घनत्व को कैप्चर करता है।

2.3 इटरेटिव वेटेड मीन-शिफ्ट और स्कोरिंग

MSDE सीखे गए मैनिफोल्ड पर एक वेटेड मीन-शिफ्ट प्रक्रिया करता है:

1. अपडेट स्टेप: प्रत्येक इटरेशन $t$ पर, बिंदु $x_i$ की स्थिति को स्थानीय रूप से वेटेड नेबरहुड मीन $\mu_i^{(t)}$ की ओर अपडेट किया जाता है। स्टेप साइज को नॉर्मलाइज़ और स्केल किया जाता है।
2. डिस्प्लेसमेंट एक्युमुलेशन: तात्कालिक मूवमेंट मैग्नीट्यूड $\delta_i^{(t)}$ को रिकॉर्ड किया जाता है। विसंगति स्कोर $T$ इटरेशन (या अभिसरण तक) के दौरान संचयी विस्थापन $D_i = \sum \delta_i^{(t)}$ से प्राप्त किया जाता है।
3. स्कोरिंग: मैनिफोल्ड में गहराई से स्थित बिंदु न्यूनतम शिफ्ट होते हैं (कम स्कोर), जबकि विसंगतियाँ, जो घने क्षेत्रों से दूर होती हैं, बड़े निर्देशित आंदोलनों (directed movements) का अनुभव करती हैं (उच्च स्कोर)। स्कोर को सिग्मॉइड फंक्शन के माध्यम से नॉर्मलाइज़ किया जाता है।

3. प्रमुख योगदान

पेपर दो प्राथमिक योगदानों को रेखांकित करता है:

1. एक विस्थापन-आधारित सिद्धांत (A Displacement-Based Principle): लेखक संचयी ज्यामितीय शिफ्ट को एक नए विसंगति सिग्नल के रूप में पेश करते हैं। यह स्थिर घनत्व या दूरी मापों से आगे बढ़कर, डेटा वितरण के प्रभुत्व वाले ढांचे के अनुरूप होने के लिए एक नमूने को कितनी संशोधित करने की आवश्यकता है, इसके आधार पर अंतर करने का तंत्र प्रदान करता है।
2. एक मैनिफोल्ड-एडेप्टिव फ्रेमवर्क: एक वेटेड मीन-शिफ्ट प्रक्रिया का विकास जहाँ नेबरहुड का प्रभाव UMAP-आधारित फजी ग्राफ से प्राप्त एम्पेरिकल घनत्व अनुमानों द्वारा नियंत्रित होता है। यह विधि को स्पष्ट पैरामीट्रिक धारणाओं के बिना विषम डेटा मैनिफोल्ड्स और यादृच्छिक वितरणों के अनुकूल होने की अनुमति देता है।

4. प्रयोगात्मक परिणाम

लेखकों ने 46 वास्तविक दुनिया के टैबुलर डेटासेट्स, चार यथार्थवादी विसंगति जनरेशन तंत्र (Global, Local, Cluster, Dependency), और छह शोर स्तरों वाले ADBench बेंचमार्क पर MSDE का मूल्यांकन किया।

• बेसलाइन बनाम प्रदर्शन: MSDE का तुलना 13 स्थापित अनसुपरवाइज्ड बेसलाइन्स (जिसमें KNN, LOF, Isolation Forest, DAGMM आदि शामिल हैं) के विरुद्ध किया गया।
  • कुल मिलाकर: MSDE ने शोर-मुक्त सेटिंग्स में सभी विसंगति प्रकारों में उच्चतम औसत AUC-ROC, AUC-PR और Precision@n प्राप्त किया।
  • मजबूती (Robustness): जबकि विशिष्ट बेसलाइन्स विशिष्ट मोड में उत्कृष्ट थे (जैसे स्थानीय विसंगतियों के लिए LOF, क्लस्टर विसंगतियों के लिए PCA), MSDE एकमात्र ऐसा तरीका था जिसने सभी चार विसंगति प्रकारों में लगातार स्थिर प्रदर्शन बनाए रखा।
  • शोर प्रतिरोध (Noise Resilience): बढ़ते फीचर शोर (50% भ्रष्टाचार तक) के तहत, MSDE ने रिकंस्ट्रक्शन-आधारित विधियों (जैसे DAGMM) और स्थानीय घनत्व अनुमानकों (जैसे LOF) की तुलना में बेहतर स्थिरता प्रदर्शित की, जो गंभीर गिरावट का शिकार हुए।
• सांख्यिकीय महत्व: एक-तरफा विल्कोक्सन साइन्ड-रैंक टेस्ट ने पुष्टि की कि 12 में से 13 बेसलाइन्स पर MSDE का सुधार सांख्यिकीय रूप से महत्वपूर्ण था ($p < 0.05$)।
• एब्लेशन स्टडीज: फजी ग्राफ या मल्टी-रेडियस वेटिंग स्कीम को हटाने से प्रदर्शन में गिरावट आई, जो जटिल मैनिफोल्ड संरचनाओं और डिपेंडेंसी विसंगतियों को संभालने के लिए दोनों घटकों की आवश्यकता की पुष्टि करता है।
• स्केलेबिलिटी: क्रेडिट कार्ड फ्रॉड डिटेक्शन डेटासेट ($N \approx 284,807$) पर, MSDE को KNN और DAGMM जैसे कम्प्यूटेशनल रूप से गहन तरीकों की तुलना में एक क्रम (order of magnitude) तेज़ पाया गया, जबकि प्रतिस्पर्धी सटीकता बनाए रखी।

5. महत्व और दावे

पेपर का दावा है कि MSDE अनसुपरवाइज्ड विसंगति का पता लगाने के लिए एक सिद्धांतिक, मैनिफोल्ड-अवेयर दृष्टिकोण प्रदान करता है। इसका महत्व एक ऐसे मजबूत विकल्प के रूप में है जो अक्सर विसंगति प्रकार के लिए विशिष्ट ट्यूनिंग की आवश्यकता रखता है या शोर वाले सेटिंग्स में अस्थिरता से ग्रस्त होता है।

लेखक इस बात पर जोर देते हैं कि MSDE किसी एकल मीट्रिक पर निर्भर नहीं है, बल्कि इस पर निर्भर है कि एक नमूने को डेटा वितरण के प्रभुत्व वाले ढांचे के अनुरूप होने के लिए कितना संशोधित किया जाना चाहिए। डेटा-संचालित विकास के दौरान विसंगतियों की ज्यामितीय अस्थिरता का लाभ उठाकर, MSDE विविध विसंगति प्रकारों और शोर के स्तरों के बीच संतुलित प्रदर्शन प्राप्त करता है, जो इसे वास्तविक दुनिया के परिदृश्यों में सामान्य-उद्देश्य के उपयोग के लिए एक मजबूत उम्मीदवार बनाता है जहाँ विसंगति की विशेषताएं अज्ञात या परिवर्तनशील होती हैं। पेपर निष्कर्ष निकालता है कि विस्थापन-आधारित स्कोरिंग अनसुपरवाइज्ड विसंगति का पता लगाने के लिए एक व्यवहार्य और मजबूत रणनीति है।