Dual Spatial-Temporal Shapley Attribution for Explainable Anomaly Detection in Dynamic Social Graphs
यह शोध पत्र एक पोस्ट-हॉक व्याख्यात्मकता (explainability) ढांचे को प्रस्तुत करता है जो प्रभावशाली पड़ोसियों और ऐतिहासिक स्नैपशॉट्स की पहचान करने के लिए दोहरी स्थानिक और कालिक शापली (Shapley) एट्रिब्यूशन उत्पन्न करके गतिशील सामाजिक ग्राफों के लिए उच्च-प्रदर्शन वाले TADDY विसंगति डिटेक्टर को उन्नत करता है, जिससे पता लगाने की सटीकता से समझौता किए बिना उच्च फिडेलिटी और पर्याप्तता मेट्रिक्स प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल दुनिया के विशाल और परिवर्तनशील परिदृश्य में, सोशल नेटवर्क कभी भी वास्तव में स्थिर नहीं होते हैं। वे ऐसे जीवंत ढांचे हैं जहाँ संबंध हर सेकंड बनते और टूटते हैं, एक संदेश भेजे जाने के क्षण से लेकर एक रेटिंग पोस्ट किए जाने के क्षण तक। इन परस्पर क्रियाओं के विकसित होते जालों में, बुरे तत्व अक्सर छिप जाते हैं, ऐसी आकृतियाँ बनाते हैं जो सामान्य व्यवहार जैसी दिखती हैं लेकिन वास्तव में धोखा देने, ठगने या बाधित करने के समन्वित प्रयास होते हैं। इन विसंगतियों का पता लगाना ऑनलाइन प्लेटफार्मों, वित्तीय प्रणालियों और विश्वास नेटवर्क के लिए एक उच्च-दांव वाली चुनौती है। वर्षों से, शक्तिशाली कंप्यूटर प्रोग्राम बहुत अधिक सटीकता के साथ इन संदिग्ध गतिविधियों को पहचानने में सक्षम रहे हैं, जो अत्यधिक संवेदनशील अलार्म की तरह कार्य करते हैं जो कुछ गलत होने पर बज उठते हैं। हालाँकि, एक महत्वपूर्ण समस्या बनी हुई है: जब ये प्रोग्राम अलार्म बजाते हैं, तो वे कोई स्पष्टीकरण नहीं देते हैं। वे एक मानव ऑपरेटर को यह तो बता सकते हैं कि एक विशिष्ट संबंध संदिग्ध है, लेकिन वे यह नहीं बता सकते कि क्यों। वे यह प्रकट नहीं करते कि किस व्यक्ति ने नेटवर्क में चेतावनी को ट्रिगर किया, और न ही वे बताते हैं कि क्या समस्या अभी शुरू हुई है या यह समय के साथ बढ़ती रही है। इस संदर्भ के बिना, इन प्लेटफार्मों को सुरक्षित रखने के लिए जिम्मेदार लोग केवल एक स्कोर और एक प्रश्न चिह्न के साथ रह जाते हैं, जिससे वे किसी उपयोगकर्ता को ब्लॉक करने या आगे की जांच करने के बारे में सूचित निर्णय लेने में असमर्थ होते हैं।
एक नया अध्ययन इस अंतर को दूर करने के लिए इन मौन डिटेक्टरों को एक आवाज देकर इस कमी को पूरा करता है। शोधकर्ताओं ने एक ऐसी विधि विकसित की है जो स्पष्ट, मानव-पठनीय कारणों को उत्पन्न करने के लिए मौजूदा, उच्च-प्रदर्शन वाले विसंगति पहचान (anomaly detection) प्रणालियों के चारों ओर एक घेरा बनाती है। यह कार्य एक विशिष्ट प्रकार के उन्नत डिटेक्टर पर केंद्रित है जो सामाजिक नेटवर्क का विश्लेषण करने के लिए एक कनेक्शन के तत्काल पड़ोसियों और समय के साथ उसके इतिहास, दोनों को देखता है। जबकि यह डिटेक्टर पहले से ही खराब कनेक्शनों को खोजने में उत्कृष्ट था, यह पहले अपने निर्णयों के लिए कोई स्पष्टीकरण नहीं देता था। नया ढांचा इसे दो अलग-अलग भागों में विभाजित करके इसे बदल देता है। पहला, यह स्थानिक कारण (spatial cause) की पहचान करता है: नेटवर्क में कौन से विशिष्ट लोग या नोड्स संदेह के प्राथमिक चालक थे। दूसरा, यह लौकिक कारण (temporal cause) की पहचान करता है: अतीत के कौन से क्षणों में कुछ गलत होने का सबसे मजबूत संकेत था। यह दोहरा दृष्टिकोण उन दो प्रश्नों का उत्तर देता है जिन्हें विश्लेषक वास्तव में जानना चाहते हैं: क्या यह विसंगति एक संदिग्ध साथी के कारण थी, या उनके द्वारा अतीत में की गई बातचीत के संदिग्ध पैटर्न के कारण थी?
इसे प्राप्त करने के लिए, शोधकर्ताओं ने 'शैपली वैल्यूज' (Shapley values) नामक एक गणितीय अवधारणा को अनुकूलित किया, जिसका उपयोग योगदानकर्ताओं के एक समूह के बीच श्रेय या दोष को निष्पक्ष रूप से वितरित करने के लिए किया जाता है। इस संदर्भ में, "योगदानकर्ता" वह विभिन्न जानकारी है जिसका उपयोग कंप्यूटर ने अपने निर्णय लेने के लिए किया। टीम को इस बात के बारे में सावधान रहना पड़ा कि वे प्रणाली का परीक्षण कैसे करें। यदि वे केवल जानकारी के एक हिस्से को हटा देते, तो कंप्यूटर भ्रमित हो सकता था क्योंकि शेष डेटा अप्राकृतिक दिखता। इसके बजाय, उन्होंने हटाए गए डेटा को शेष डेटा के एक तटस्थ औसत (neutral average) से बदल दिया, जिससे यह सुनिश्चित हुआ कि कंप्यूटर का आंतरिक तर्क स्थिर रहे और परिणाम सटीक हों। इसने उन्हें यह मापने की अनुमति दी कि प्रत्येक विशिष्ट पड़ोसी या समय के प्रत्येक विशिष्ट क्षण ने अंतिम चेतावनी में कितना योगदान दिया। इसका परिणाम प्रत्येक चिह्नित कनेक्शन के लिए प्रभाव का एक विस्तृत मानचित्र है, जो दिखाता है कि किन तत्वों ने स्कोर को सीमा पार कराया।
शोधकर्ताओं ने इस पद्धति का परीक्षण तीन अलग-अलग वास्तविक दुनिया के सोशल नेटवर्क डेटासेट पर किया, जिसमें ऑनलाइन मैसेजिंग प्लेटफॉर्म और क्रिप्टोकरेंसी ट्रेडिंग नेटवर्क शामिल हैं जहाँ विश्वास आवश्यक है। इस कार्य से पहले, यह मापना असंभव था कि ये डिटेक्टर खुद को कितनी अच्छी तरह समझा सकते हैं क्योंकि उनके पास कोई स्पष्टीकरण तंत्र ही नहीं था। इस नए ढांचे को लागू करने के बाद, प्रणाली अत्यधिक प्रभावी साबित हुई। इसने लगभग सभी मामलों में पहचान के पीछे के प्रमुख कारकों को सफलतापूर्वक पहचाना, जिसकी सटीकता का स्तर 0.9562 तक पहुँचा। इसने यह भी पुष्टि की कि पहचाने गए शीर्ष कुछ कारक अकेले ही अलार्म को ट्रिगर करने के लिए पर्याप्त थे, जो 0.9658 का स्कोर प्राप्त करते हैं। महत्वपूर्ण रूप से, इस स्पष्टीकरण की परत जोड़ने से डिटेक्टर की गति धीमी नहीं हुई और न ही वास्तविक समस्याओं को खोजने की इसकी सटीकता कम हुई; पहचान प्रदर्शन बिल्कुल वैसा ही रहा। सिस्टम का परीक्षण हजारों विशिष्ट कनेक्शनों पर भी किया गया, जिनमें वे भी शामिल थे जिन्हें सही ढंग से पहचाना गया था, वे भी जो गलत अलार्म (false alarms) थे, और वे भी जिन्हें वर्गीकृत करना कठिन था। प्रत्येक श्रेणी में, ढांचे ने निर्णय के लिए स्पष्ट, कार्रवाई योग्य कारण प्रदान किए।
सबसे महत्वपूर्ण निष्कर्षों में से एक यह है कि सिस्टम गलत अलार्म (false alarms) को कैसे संभालता है। सोशल मीडिया मॉडरेशन की वास्तविक दुनिया में, गलत अलार्म आम हैं और महंगे भी हैं क्योंकि वे मानव समय को बर्बाद करते हैं। नया ढांचा यहाँ भी उत्कृष्ट रहा, जिसने यह समझाया कि डिटेक्टर ने एक सामान्य बातचीत को संदिग्ध के रूप में गलत तरीके से क्यों चिह्नित किया। उस सटीक संरचनात्मक पैटर्न की पहचान करके, जिसने भ्रम पैदा किया, यह प्रणाली मानव ऑपरेटरों को पूरी बातचीत के इतिहास की मैन्युअल समीक्षा किए बिना इन गलत अलार्म को जल्दी से स्पष्ट करने की अनुमति देती है। यह क्षमता व्यावहारिक तैनाती के लिए एक बड़ा कदम है, क्योंकि यह एक कच्चे अलर्ट को एक निर्देशित जांच में बदल देती है। अध्ययन ने यह भी खुलासा किया कि विसंगतियाँ कैसे व्यवहार करती हैं, इसमें एक सूक्ष्म लेकिन महत्वपूर्ण बारीकी है। कुछ कठिन मामलों के लिए, चेतावनी का संकेत किसी एक व्यक्ति या एक क्षण में केंद्रित नहीं था, बल्कि पूरे नेटवर्क इतिहास में फैला हुआ था। ढांचा इस वितरित पैटर्न का पता लगाने में सक्षम था, जिससे पता चला कि विसंगति एक सामान्य संदर्भ का परिणाम थी न कि किसी विशिष्ट घटना का।
इस कार्य का महत्व केवल एक प्रकार के कंप्यूटर प्रोग्राम तक ही सीमित नहीं है। यह दृष्टिकोण एक 'पोस्ट-हॉक' समाधान के रूप में डिज़ाइन किया गया है, जिसका अर्थ है कि इसे उन डिटेक्टरों पर लागू किया जा सकता है जो पहले से ही प्रशिक्षित हैं और उपयोग में हैं, बिना उन्हें फिर से शुरू से प्रशिक्षित किए। यह इसे उन संगठनों के लिए तुरंत उपयोगी बनाता जो सुरक्षा और सुरक्षा के लिए इन प्रणालियों पर भरोसा करते हैं। "क्या" के पीछे के "क्यों" को समझने के लिए एक व्यवस्थित तरीका प्रदान करके, यह शोध शक्तिशाली कृत्रिम बुद्धिमत्ता और मानवीय जवाबदेही के बीच के अंतर को पाटता है। यह सुनिश्चित करता है कि जब कोई स्वचालित प्रणाली किसी उपयोगकर्ता या लेनदेन को चिह्नित करती है, तो प्रभारी लोग तर्क को समझ सकते हैं, तर्क की पुष्टि कर सकते हैं और उचित कार्रवाई कर सकते हैं। अध्ययन पुष्टि करता है कि उच्च-प्रदर्शन वाले डिटेक्शन और गहरे, व्याख्या योग्य स्पष्टीकरण, दोनों का होना संभव है, जो एक ऐसा संयोजन है जो गतिशील सोशल वेब की निगरानी के लिए उपयोग किए जाने वाले सबसे उन्नत उपकरणों में पहले से गायब था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।