A Comparative Study of Counterfactual Explainers for Graph Neural Networks Enabling Multiple Types of Graph Edit

आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह समझने की बढ़ती मांग है कि मशीनें निर्णय कैसे लेती हैं, विशेष रूप से जब वे निर्णय वास्तविक जीवन को प्रभावित करते हैं। कल्पना कीजिए कि एक कंप्यूटर प्रोग्राम एक जटिल कनेक्शन नेटवर्क को देखता है—जैसे कि विभिन्न दवाओं के आपस में जुड़ने का नक्शा, या एक सामाजिक नेटवर्क में लोग एक-दूसरे से कैसे जुड़े हैं—और एक परिणाम की भविष्यवाणी करता है। ये प्रोग्राम, जिन्हें ग्राफ न्यूरल नेटवर्क कहा जाता है, अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन वे अक्सर एक 'ब्लैक बॉक्स' की तरह काम करते हैं, जो बिना यह बताए कि परिणाम क्यों आया, केवल एक भविष्यवाणी प्रदान करते हैं। इसे ठीक करने के लिए, शोधकर्ताओं ने 'काउंटरफैक्चुअल एक्सप्लेनेशन' (counterfactual explanation) नामक एक विधि विकसित की है। केवल यह बताने के बजाय कि नेटवर्क के कौन से हिस्से अंतिम उत्तर के लिए महत्वपूर्ण थे, यह विधि एक "क्या होगा यदि" वाला प्रश्न पूछती है: नेटवर्क में हम क्या सबसे छोटा और सबसे वास्तविक बदलाव कर सकते हैं जिससे पूरी तरह से अलग परिणाम प्राप्त हो सके? उदाहरण के लिए, यदि कोई सिस्टम भविष्यवाणी करता है कि दो दवाएं एक साथ लेना सुरक्षित है, तो एक काउंटरफैक्चुअल एक्सप्लेनेशन ठीक से दिखाएगा कि कौन सा नया कनेक्शन, यदि मौजूद होता, तो सिस्टम एक खतरनाक प्रतिक्रिया की भविष्यवाणी करता। यह दृष्टिकोण डॉक्टरों, वैज्ञानिकों और इंजीनियरों को मशीन के तर्क को नियंत्रित करने वाले सटीक लीवरों को दिखाकर उन पर भरोसा करने में मदद करता है।

यूनान के इंस्टीट्यूट ऑफ कंप्यूटर साइंस के शोधकर्ताओं की एक टीम ने हाल ही में इन "क्या होगा यदि" वाले परिदृश्यों को उत्पन्न करने के लिए उपलब्ध सर्वोत्तम उपकरणों का परीक्षण करने का लक्ष्य रखा। उन्होंने अगली पीढ़ी के उन उपकरणों पर ध्यान केंद्रित किया जो केवल कनेक्शन हटाने तक ही सीमित नहीं हैं; वे नए कनेक्शन जोड़ भी सकते हैं। लिंक जोड़ने और हटाने की यह क्षमता अत्यंत महत्वपूर्ण है क्योंकि वास्तविक दुनिया के नेटवर्क कभी स्थिर नहीं होते; वे विकसित होते हैं, और उन्हें बदलने को समझने के लिए दोनों दिशाओं में देखना आवश्यक है। शोधकर्ताओं ने इन कार्यों के लिए डिज़ाइन किए गए छह सबसे उन्नत कंप्यूटर प्रोग्रामों को एकत्र किया और उन्हें परीक्षणों की एक कठोर श्रृंखला से गुजारा। उन्होंने इन प्रोग्रामों को विविध डेटा पर चलाया, जिसमें विशिष्ट पैटर्न वाले सिंथेटिक नेटवर्क से लेकर रासायनिक अणुओं से लेकर सोशल मीडिया पोस्ट और वैज्ञानिक उद्धरणों (citations) तक वास्तविक दुनिया के डेटासेट शामिल थे। लक्ष्य केवल यह देखना नहीं था कि कौन सा प्रोग्राम उत्तर ढूंढ सकता है, बल्कि उस उत्तर की गुणवत्ता का आकलन करना था: क्या परिवर्तन इतना छोटा था कि विश्वसनीय हो सके? क्या इसने वास्तव में भविष्यवाणी को बदल दिया? और क्या इसे गणना करने में बहुत अधिक समय लगा?

अध्ययन से पता चला कि कोई भी एक अकेला चैंपियन नहीं है जो हर श्रेणी में जीतता हो। शोधकर्ताओं ने पाया कि स्पष्टीकरण की गति, परिवर्तन के आकार और परिणाम की विश्वसनीयता के बीच एक निरंतर संतुलन (trade-off) बना रहता है। कुछ प्रोग्राम भविष्यवाणी को बदलने वाले बहुत छोटे, न्यूनतम बदलाव खोजने में उत्कृष्ट थे, लेकिन वे जटिल, वास्तविक दुनिया के डेटा के लिए समाधान खोजने में विफल रहे। अन्य बहुत विश्वसनीय थे और लगभग हमेशा परिणाम बदलने का तरीका ढूंढ लेते थे, लेकिन उनके द्वारा सुझाए गए बदलाव अक्सर इतने बड़े और जटिल होते थे कि उन्हें समझना या उन पर भरोसा करना किसी इंसान के लिए असंभव होता। एक प्रोग्राम, जिसने इमेज जनरेशन से प्रेरित तकनीक का उपयोग किया था, बहुत गहन था और उच्च गुणवत्ता वाले उत्तर ढूंढता था, लेकिन वह इतना धीमा था कि एक एकल ग्राफ को प्रोसेस करने में उसे घंटों लग जाते थे, जिससे वह कई उपयोगों के लिए अव्यवहारिक हो गया। एक अन्य प्रोग्राम अविश्वसनीय रूप से तेज़ और कुशल था, लेकिन वह ऐसे स्पष्टीकरण देने की ओर झुकाव रखता था जो उपयोग के लिए बहुत बड़े थे।

शायद सबसे आश्चर्यजनक निष्कर्ष यह था कि सर्वश्रेष्ठ उपकरण भी नेटवर्क के सही हिस्से पर ध्यान केंद्रित करने में संघर्ष करते रहे। सिंथेटिक परीक्षणों में, जहाँ शोधकर्ताओं को ठीक से पता था कि कनेक्शनों का कौन सा पैटर्न भविष्यवाणी के लिए जिम्मेदार था, कई प्रोग्रामों ने अभी भी नेटवर्क के उन क्षेत्रों में बदलाव का सुझाव दिया जो अप्रासंगिक थे। वे महत्वपूर्ण पैटर्न से बहुत दूर के किनारों (edges) को जोड़ या हटा देते थे, जिससे ऐसा लगता था कि वे वास्तविक कारण का सटीक पता लगाने के बजाय अंधेरे में अनुमान लगा रहे हैं। यह सुझाव देता है कि जबकि ये उपकरण एक समाधान खोजने में बेहतर हो रहे हैं, वे अभी भी लगातार सही समाधान खोजने में सक्षम नहीं हैं। शोधकर्ताओं ने यह भी नोट किया कि अधिकांश मौजूदा उपकरण मुख्य रूप से पूरे नेटवर्क को वर्गीकृत करने के लिए डिज़ाइन किए गए थे, जैसे कि कोई अणु विषाक्त है या नहीं, लेकिन जब नेटवर्क के भीतर एक एकल नोड (node) के व्यवहार को समझाने के लिए पूछा गया, जैसे कि किसी विशिष्ट शोध पत्र के विषय की भविष्यवाणी करना, तो उनका प्रदर्शन काफी खराब रहा।

अंततः, यह कार्य एक ऐसे क्षेत्र के लिए वास्तविकता की जाँच (reality check) के रूप में कार्य करता है जो बहुत तेज़ी से आगे बढ़ रहा है। लेखक निष्कर्ष निकालते हैं कि हालांकि कनेक्शन जोड़ने और हटाने की क्षमता एक बड़ा कदम है, वर्तमान पीढ़ी के उपकरण अभी भी विकास की प्रक्रिया में हैं। कोई भी एकल विधि वर्तमान में गति, सटीकता और सरलता का पूर्ण संतुलन प्रदान नहीं करती है। अध्ययन इस बात पर प्रकाश डालता है कि भविष्य के शोध को केवल कोई भी उत्तर खोजने से आगे बढ़कर ऐसे स्पष्टीकरण उत्पन्न करने पर ध्यान केंद्रित करने की आवश्यकता है जो न केवल सही हों बल्कि सार्थक और कुशल भी हों। जब तक एक ऐसी विधि नहीं मिल जाती जो बिना जटिलता या समय में उलझे, भविष्यवाणी को बदलने के लिए आवश्यक सटीक और न्यूनतम परिवर्तनों की पहचान करने में लगातार सक्षम हो, तब तक इन शक्तिशाली एआई प्रणालियों की पूर्ण क्षमता अनिश्चितता के पर्दे के पीछे आंशिक रूप से छिपी रहेगी।