Post-Hoc Explainability for Contrastive Graph Anomaly Detection via Gradient Attention Maps
यह शोधपत्र X-CoLA को प्रस्तुत करता है, जो कंट्रास्टिव ग्राफ विसंगति पहचान (contrastive graph anomaly detection) के लिए पहला पोस्ट-हॉक व्याख्यात्मकता ढांचा (post-hoc explainability framework) है, जो डिटेक्शन प्रदर्शन से समझौता किए बिना विसंगति निर्णयों को संचालित करने वाले विशिष्ट संरचनात्मक संबंधों और फीचर आयामों की पहचान करने के लिए CoLA मॉडल में ग्रेडिएंट अटेंशन मैप्स (Gradient Attention Maps) को एकीकृत करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल दुनिया में, डेटा शायद ही कभी अलग-थलग तथ्यों के रूप में मौजूद होता है। इसके बजाय, यह विशाल, जटिल जाल बनाता है जहाँ सूचना का हर टुकड़ा दूसरों से जुड़ा होता है। एक सोशल नेटवर्क के बारे में सोचें जहाँ लोग दोस्ती के माध्यम से जुड़े होते हैं, या एक वित्तीय प्रणाली जहाँ लेनदेन खातों के बीच प्रवाहित होता है। कंप्यूटर विज्ञान में, इन जालों को ग्राफ कहा जाता है, और इनके भीतर के बिंदुओं को नोड्स कहा जाता है। जब ये नोड्स अतिरिक्त जानकारी रखते हैं, जैसे कि किसी व्यक्ति की आयु या लेनदेन की राशि, तो वे 'एट्रीब्यूटेड नेटवर्क्स' (attributed networks) बन जाते हैं। वर्षों से, वैज्ञानिकों ने इन जालों में गड़बड़ी वाले स्थानों को स्कैन करने के लिए शक्तिशाली उपकरण विकसित किए हैं—ऐसे नोड्स जो अपने पड़ोसियों की तुलना में अजीब व्यवहार करते हैं। ये उपकरण वैध खातों के बीच छिपे धोखाधड़ी वाले बैंक खाते या सोशल प्लेटफॉर्म को बाधित करने वाले बॉट अकाउंट को पहचान सकते हैं। हालाँकि, एक महत्वपूर्ण समस्या बनी हुई है: जबकि ये प्रणालियाँ किसी नोड को संदिग्ध के रूप में चिह्नित करने में उत्कृष्ट हैं, वे एक 'ब्लैक बॉक्स' की तरह काम करती हैं। वे अलार्म तो बजाती हैं लेकिन कोई कारण नहीं बतातीं कि क्यों। बैंकिंग या चिकित्सा जैसे उच्च-दांव वाले क्षेत्रों में, यह जानना कि कुछ गलत है, केवल आधी लड़ाई है; कार्रवाई करने के लिए यह समझना आवश्यक है कि वास्तव में क्या गलत है।
यह वह अंतर है जिसे अल्जीरिया के हायर नेशनल स्कूल ऑफ कंप्यूटर साइंस और क्लॉड बर्नार्ड यूनिवर्सिटी ल्यों 1 के शोधकर्ताओं का एक नया अध्ययन भरने का प्रयास कर रहा है। उन्होंने X-CoLA नामक एक विधि विकसित की है, जो वर्तमान में उपलब्ध सबसे प्रभावी विसंगति पहचान प्रणालियों में से एक के लिए एक 'अनुवादक' के रूप में कार्य करती है। जिस प्रणाली को वे बेहतर बना रहे हैं, उसे CoLA के रूप में जाना जाता है, जो आउटलेर्स (outliers) की पहचान करने के लिए 'कॉन्ट्रास्टिव लर्निंग' (contrastive learning) नामक तकनीक का उपयोग करती है। यह एक विशिष्ट नोड की उसके स्थानीय परिवेश के एक छोटे नमूने के साथ तुलना करके काम करता है। यदि नोड अच्छी तरह से फिट बैठता है, तो सिस्टम उसे सामान्य मानता है। यदि वह अपने परिवेश के साथ मेल नहीं खाता, तो सिस्टम उसे एक विसंगति (anomaly) के रूप में चिह्नित करता है। जबकि CoLA इस अंतर को बनाने में अत्यधिक सटीक है, यह पहले निर्णय की कार्यप्रणाली के बारे में कोई जानकारी नहीं देता था। नया X-CoLA फ्रेमवर्क मौजूदा प्रणाली के सीखने के तरीके या इसके प्राथमिक कार्य के प्रदर्शन को बदले बिना, मौजूदा प्रणाली में एक व्याख्यात्मक परत जोड़ता है। यह प्रणाली को सीधे उन विशिष्ट कनेक्शनों या विशिष्ट डेटा बिंदुओं की ओर इशारा करने की अनुमति देता है जिनके कारण अलार्म बजा है।
शोधकर्ताओं ने इसे 'ग्रेडिएंट अटेंशन मैप्स' (gradient attention maps) नामक एक तकनीक का उपयोग करके हासिल किया। कल्पना कीजिए कि सिस्टम ने पहले से ही सामान्य पैटर्न को पहचानना सीख लिया है। जब यह किसी अजीब नोड का सामना करता है, तो नई विधि सिस्टम के मस्तिष्क के माध्यम through एक त्वरित, बैकवर्ड गणना चलाती है। यह गणना मापती है कि प्रत्येक व्यक्तिगत सूचना ने अंतिम निर्णय में कितना योगदान दिया। यह एक एकल, तीव्र प्रक्रिया है जो पहचान की आंतरिक तर्क को प्रकट करती है। परिणाम एक विस्तृत मानचित्र है जो स्पष्ट रूप रूप से उजागर करता है कि नेटवर्क के कौन से पड़ोसी नोड को गलत दिशा में खींच रहे हैं, या नोड की कौन सी विशिष्ट विशेषताएं असामान्य हैं। उदाहरण के लिए, यदि किसी नोड को इसलिए चिह्नित किया गया है क्योंकि वह पूरी तरह से अलग समुदाय के अजनबियों के समूह से जुड़ा है, तो सिस्टम उन विशिष्ट कनेक्शनों को समस्या के स्रोत के रूप में पहचानता है। यदि किसी नोड को इसलिए चिह्नित किया गया है क्योंकि उसकी डेटा प्रोफाइल उसके दोस्तों से बिल्कुल अलग दिखती है, तो सिस्टम उन सटीक डेटा क्षेत्रों की पहचान करता है जो असंगत हैं।
शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण अकादमिक उद्धरणों (academic citations) के एक प्रसिद्ध डेटासेट पर किया, जो एक ऐसा नेटवर्क है जहाँ शोध पत्र संदर्भों द्वारा जुड़े होते हैं। शोधकर्ताओं ने नेटवर्क में विशिष्ट प्रकार की नकली विसंगतियों को इंजेक्ट किया ताकि यह देखा जा सके कि क्या सिस्टम उन्हें खोज सकता है और सही ढंग से समझा सकता है। उन्होंने संरचनात्मक विसंगतियाँ (structural anomalies) बनाईं जहाँ शोध पत्रों को असंबंधित समुदायों से जोड़ने के लिए मजबूर किया गया, और प्रासंगिक विसंगतियाँ (contextual anomalies) बनाईं जहाँ एक शोध पत्र के टेक्स्ट फीचर्स को किसी दूर के पेपर के साथ बदल दिया गया। परिणाम सटीक थे। जब सिस्टम ने एक संरचनात्मक विसंगति को चिह्नित किया, तो व्याख्या पद्धति ने 90 प्रतिशत से अधिक मामलों में इंजेक्ट किए गए संदिग्ध कनेक्शनों की सही पहचान की। इसने यह भी पुष्टि की कि व्याख्या का आकार अलार्म की तीव्रता के अनुरूप था, जिससे यह सिद्ध हुआ कि दिए गए कारण पहचान प्रक्रिया के वास्तविक प्रतिबिंब थे न कि केवल अनुमान। महत्वपूर्ण रूप से, इस व्याख्यात्मक परत को जोड़ने से सिस्टम धीमा नहीं हुआ और न ही विसंगतियों को खोजने में इसकी सटीकता कम हुई। पहचान का प्रदर्शन मूल प्रणाली के समान ही बना रहा।
सबसे महत्वपूर्ण निष्कर्षों में से एक इस पद्धति की संरचनात्मक और प्रासंगिक दोनों प्रकार की विसंगतियों के लिए स्पष्टीकरण उत्पन्न करने की क्षमता है, भले ही इस विशिष्ट परीक्षण में विसंगति के प्रकार का स्वचालित वर्गीकरण चुनौतीपूर्ण रहा हो। प्रयोगों में, सिस्टम ने संरचनात्मक विसंगतियों को चलाने वाले विशिष्ट किनारों (edges) और प्रासंगिक विसंगतियों को चलाने वाले विशिष्ट फीचर्स को सही ढंग से पहचाना। हालाँकि, प्रकार को लेबल करने के लिए उपयोग किया गया स्वचालित नियम संघर्ष कर गया: क्योंकि टेस्ट डेटा में संरचनात्मक संकेत इतने प्रभावी थे, सिस्टम ने सभी 136 चिह्नित नोड्स को संरचनात्मक के रूप में वर्गीकृत किया, जिसके परिणामस्वरूप दोनों श्रेणियों के बीच अंतर करने की टाइप सटीकता केवल 43.6% रही। इस वर्गीकरण सीमा के बावजूद, विशिष्ट कारण—चाहे वह खराब कनेक्शन हो या खराब डेटा पॉइंट—को बताने की मुख्य क्षमता मजबूत बनी रही। शोधकर्ताओं ने उल्लेख किया कि यह अंतर मानव ऑपरेटरों के लिए अत्यंत महत्वपूर्ण है। एक धोखाधड़ी विश्लेषक (fraud analyst) जिसे अलर्ट प्राप्त होता है, उसे अब केवल एक नाम के बजाय जांच के लिए संदिग्ध कनेक्शनों की एक रैंक की गई सूची मिलती है। एक सुरक्षा इंजीनियर उन सटीक संरचनात्मक लिंक्स को देख सकता है जो सामान्य व्यवहार से विचलित होते हैं। यह इस प्रणाली को एक निष्क्रिय पर्यवेक्षक से बदलकर, जो केवल झंडा उठाता है, एक सक्रिय भागीदार में बदल देता है जो कार्रवाई करने के लिए आवश्यक संदर्भ प्रदान करता है।
यह कार्य यह प्रदर्शित करता है कि यह संभव है कि जटिल, उच्च-प्रदर्शन वाली कृत्रिम बुद्धिमत्ता प्रणालियों को उनकी शक्ति से समझौता किए बिना पारदर्शी बनाया जाए। एक सिद्ध पहचान पद्धति में एक व्याख्यात्मक परत जोड़कर, शोधकर्ताओं ने दिखाया है कि हमें सटीकता और समझ के बीच चयन करने की आवश्यकता नहीं है। सिस्टम विसंगतियों को खोजने में पहले की तरह ही तेज बना हुआ है, लेकिन अब यह आपको ठीक से बता सकता है कि सुई कहाँ है और वह बाकी घास से अलग क्यों दिखती है। यह दृष्टिकोण उन वास्तविक दुनिया के सेटिंग्स में इन शक्तिशाली उपकरणों को लागू करने के लिए एक मार्ग प्रदान करता है जहाँ विश्वास और जवाबदेही गैर-परक्राम्य (non-negotiable) हैं, यह सुनिश्चित करते हुए कि जब कोई मशीन समस्या को चिह्नित करती है, तो मनुष्य कारण को समझ सकें और आत्मविश्वास के साथ प्रतिक्रिया दे सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।