SOFIA: Quantifying Sampling-Induced Explanation Instability in Graph Neural Networks
यह शोध पत्र SOFIA को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो यह प्रदर्शित करता है कि ग्राफ न्यूरल नेटवर्क में प्रशिक्षण-समय पड़ोसी नमूनाकरण (neighbor sampling) पोस्ट-हॉक स्पष्टीकरणों में महत्वपूर्ण, संरचना-निर्भर अस्थिरता का कारण बनता है, जिससे यह पता चलता है कि ये आउटपुट अक्सर वास्तविक संरचनात्मक नोड गुणों के बजाय मनमाने हाइपरपैरामीटरों को दर्शाते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, सूचना के विशाल नेटवर्क सोशल मीडिया मित्रों से लेकर रासायनिक अणुओं तक सब कुछ एक-दूसरे से जोड़ते हैं। इन उलझे हुए जालों को समझने के लिए, वैज्ञानिक 'ग्राफ न्यूरल नेटवर्क' नामक एक प्रकार के आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं। ये प्रणालियाँ एक विशिष्ट वस्तु और उससे सीधे जुड़े अन्य तत्वों को देखकर सीखती हैं, जिससे वे अपने तत्काल परिवेश से सुराग इकट्ठा कर भविष्यवाणियाँ करती हैं। हालाँकि, जैसे-जैसे ये नेटवर्क करोड़ों या अरबों कनेक्शनों तक बढ़ते हैं, कंप्यूटर के लिए एक साथ हर एक कनेक्शन को देखना असंभव हो जाता है। इस समस्या को हल करने के लिए, इंजीनियर 'नेबर सैंपलिंग' (पड़ोसी नमूनाकरण) नामक एक शॉर्टकट का उपयोग करते हैं। पूरे पड़ोस को देखने के बजाय, कंप्यूटर को एक समय में केवल कुछ चुनिंद और यादृच्छिक (रैंडम) कनेक्शनों को देखने के लिए प्रशिक्षित किया जाता है। यह प्रशिक्षण प्रक्रिया को तेज़ और प्रबंधनीय बनाता है, लेकिन यह एक शांत और परेशान करने वाला प्रश्न खड़ा करता है: यदि कंप्यूटर ने सीखने के दौरान कभी भी पूरी तस्वीर नहीं देखी, तो क्या हम उस कारण पर भरोसा कर सकते हैं जो वह बाद में हमारे निर्णयों के लिए देता है?
वर्षों से, यह क्षेत्र इस धारणा पर काम करता आया है कि ये स्पष्टीकरण स्थिर होते हैं, जो किसी नोड के पड़ोसियों के वास्तविक और अपरिवर्तनीय महत्व को प्रकट करते हैं। एक नया अध्ययन इस विश्वास को चुनौती देता है, यह सुझाव देते हुए कि एक आर्टिफिशियल इंटेलिजेंस द्वारा अपने विकल्पों के लिए दिए गए कारण डेटा की संरचना पर कम और इस बात पर अधिक निर्भर हो सकते हैं कि प्रशिक्षण के दौरान कौन से पड़ोसी संयोगवश दिखाई दे रहे थे। प्रबू एन पी और सहयोगियों के नेतृत्व में इस कार्य के पीछे के शोधकर्ताओं ने ठीक यही मापने का प्रयास किया कि यह प्रशिक्षण शॉर्टकट हमारे द्वारा भरोसेमंद माने जाने वाले स्पष्टीकरणों को कितना विकृत करता है। उन्होंने एक ही प्रणाली के दो संस्करणों की तुलना करने के लिए एक ढांचा तैयार किया: एक जिसने प्रत्येक कनेक्शन को देखकर सीखा, और दूसरा जिसने केवल यादृच्छिक नमूनों को देखने के मानक शॉर्टकट का उपयोग किया। इन दोनों को आपस में भिड़ाकर, वे देख सके कि क्या स्पष्टीकरण केवल इसलिए बदल गए क्योंकि प्रशिक्षण पद्धति बदल गई थी।
टीम ने परिणामों में भिन्नता देखने के लिए तीन बहुत अलग वास्तविक दुनिया के नेटवर्क पर अपने दृष्टिकोण का परीक्षण किया। एक साइटेशन नेटवर्क था जहाँ शोध पत्र मुख्य रूप से अपने ही क्षेत्र के अन्य पत्रों से जुड़े होते हैं, जहाँ कनेक्शन कम और समान होते हैं। दूसरा एक विशाल सोशल मीडिया ग्राफ था जहाँ उपयोगकर्ताओं के सैकड़ों या हजारों कनेक्शन होते हैं, और तीसरा एक ऐसा नेटवर्क था जहाँ कनेक्शन अक्सर विभिन्न प्रकार के लोगों को जोड़ते हैं, जिससे एक अधिक अराजक मिश्रण बनता है। विशाल सोशल नेटवर्क में, शॉर्टकट अत्यंत आक्रामक था, जिसने प्रशिक्षण दृश्य से लगभग नब्बे प्रतिशत वास्तविक पड़ोसियों को बाहर कर दिया था। छोटे, अधिक समान नेटवर्क में, शॉर्टकट ने बहुत कम कनेक्शनों को हटाया। शोधकर्ताओं ने फिर प्रशिक्षित प्रणालियों से उनके निर्णयों का स्पष्टीकरण माँगा और उनके द्वारा तैयार किए गए महत्वपूर्ण पड़ोसियों की सूचियों की तुलना की।
परिणामों ने एक स्पष्ट विभाजन दिखाया। विशाल सोशल नेटवर्क पर, जहाँ प्रशिक्षण प्रक्रिया को उपलब्ध जानकारी के अधिकांश हिस्से को अनदेखा करना पड़ा, नमूनाकृत (सैंपल की गई) प्रणाली द्वारा दिए गए स्पष्टीकरण पूर्ण-पड़ोस प्रणाली के स्पष्टीकरणों से लगभग पूरी तरह से अलग थे। दोनों के बीच सहमति सामान्य कंप्यूटर यादृच्छिक चंचलता (रैंडमनेस) से भी बहुत नीचे गिर गई। वास्तव में, अध्ययन में पाया गया कि इस नेटवर्क के लिए, वे विशिष्ट पड़ोसी जिन्हें प्रशिक्षण दृश्य से बाहर रखा गया था, इस बात के सबसे मजबूत संकेतक थे कि स्पष्टीकरण अस्थिर क्यों होगा। जब सिस्टम को अपने सबसे महत्वपूर्ण पड़ोसियों को देखे बिना प्रशिक्षित किया गया, तो उसने आत्मविश्वास के साथ अन्य पड़ोसियों की ओर संकेत किया, जिससे एक ऐसा स्पष्टीकरण बना जो पूर्ण तो दिखता था लेकिन एक 'ब्लाइंड स्पॉट' (अंध बिंदु) पर आधारित था। यह बताता है कि बड़े पैमाने की प्रणालियों में, किसी निर्णय का "कारण" अक्सर डेटा की संरचना का वास्तविक प्रतिबिंब होने के बजाय प्रशिक्षण शॉर्टकट का एक उपोत्पाद (आर्टिफैक्ट) होता है।
तीसरे नेटवर्क पर कहानी अलग थी। छोटे साइटेशन नेटवर्क पर, जहाँ शॉर्टकट ने बहुत कम पड़ोसियों को हटाया था, स्पष्टीकरण स्थिर और सुसंगत रहे, जिससे पता चलता है कि यह अस्थिरता कोई सार्वभौमिक दोष नहीं है बल्कि इस बात पर निर्भर करती है कि कितनी जानकारी को बाहर रखा गया है। तीसरे नेटवर्क पर, जिसमें अधिक जटिल और मिश्रित संरचना थी, अस्थिरता तब भी दिखाई दी जब कम पड़ोसियों को बाहर किया गया था। ऐसा इसलिए हुआ क्योंकि ऐसे मिश्रित नेटवर्क में, बचे हुए कुछ पड़ोसी सूचना का भारी भार वहन करते हैं, इसलिए थोड़े से भी पड़ोसियों को खोने से स्पष्टीकरण में बड़ा बदलाव आता है। शोधकर्ताओं ने पुष्टि की कि प्रणालियाँ अपनी भविष्यवाणियों में सटीक थीं, चाहे उन्हें कैसे भी प्रशिक्षित किया गया हो, जिससे यह सिद्ध हुआ कि अस्थिरता मॉडल के टूटे होने का संकेत नहीं थी, बल्कि प्रशिक्षण पद्धति का एक विशिष्ट दुष्प्रभाव थी।
यह कार्य इस घटना को मापने का एक नया तरीका पेश करता है, एक नैदानिक उपकरण (डायग्नोस्टिक टूल) जो उपयोगकर्ता को यह बता सकता है कि क्या किसी विशिष्ट निर्णय के स्पष्टीकरण को प्रशिक्षण शॉर्टकट द्वारा दूषित किया गया है। यह दिखाता है कि आर्टिफिशियल इंटेलिजेंस के स्पष्टीकरण की विश्वसनीयता केवल मॉडल की सटीकता के बारे में नहीं है, बल्कि इसके 'शिक्षा' के दौरान किए गए अदृश्य विकल्पों के बारे में भी है। यदि किसी सिस्टम को अपने परिवेश के अधिकांश हिस्से को अनदेखा करने के लिए प्रशिक्षित किया जाता है, तो उसके स्पष्टीकरण अनिवार्य रूप से उस सीमित दृष्टिकोण को दर्शाएंगे, जो उन लोगों को गुमराह कर सकते हैं जो यह समझने के लिए एल्गोरिदम पर निर्भर हैं कि सिस्टम कैसे काम करता है। अध्ययन निष्कर्ष निकालता है कि जैसे-जैसे ये नेटवर्क बड़े होते जाते हैं और अधिक आक्रामक शॉर्टकट की आवश्यकता होती है, हमें इस धारणा के बारे में बहुत अधिक सावधान रहना चाहिए कि एल्गोरिदम द्वारा दिए गए कारण पूर्ण सत्य हैं, न कि एक ऐसी कहानी जो उन यादृच्छिक पड़ोसियों द्वारा आकार दी गई है जिन्हें उसने संयोगवश देखा था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।