Trustworthiness Assessment with Explainable AI: A Comparative Study of LIME, Parzen, and Greedy Explanation Methods on Religious Text and Image Classification
यह अध्ययन धार्मिक पाठ और छवि वर्गीकरण मॉडलों पर LIME, Parzen और Greedy स्पष्टीकरण विधियों की विश्वसनीयता का मूल्यांकन करता है, जिसमें यह पाया गया कि बाइनरी टेक्स्ट डेटासेट और सीमित इमेज स्कोप की विशिष्ट बाधाओं के भीतर अविश्वसनीय विशेषताओं की पहचान करने में LIME लगातार अन्य विधियों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट बनाया है जो हज़ारों किताबें पढ़ सकता है और आपको बता सकता है कि कोई कहानी एक गंभीर बहस के बारे में है या एक खुशी भरे उत्सव के बारे में। वह लगभग हर बार सही जवाब देता है। लेकिन समस्या यह है कि रोबोट एक "ब्लैक बॉक्स" है। आप उससे पूछते हैं, "तुम्हें ऐसा क्यों लगा?" और वह बस कंधे उचका देता है। उसे अपनी सोच समझाने का तरीका नहीं पता। यह आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक बहुत बड़ी समस्या है। यदि हम इस पर भरोसा नहीं कर सकते कि रोबलेट ने कोई निर्णय क्यों लिया, खासकर धर्म या राजनीति जैसे संवेदनशील विषयों में, तो हम वास्तव में रोबोट खुद पर भी भरोसा नहीं कर सकते।
इसे ठीक करने के लिए, वैज्ञानिकों ने "एक्सप्लेनेबल एआई" (XAI) नामक एक टूल का आविष्कार किया। XAI को एक ऐसे जासूस के रूप में सोचें जो रोबोट के बगल में खड़ा होता है और यह पता लगाने की कोशिश करता है कि रोबोट ने रहस्य सुलझाने के लिए किन सुरागों का उपयोग किया। इस जासूस बनने के अलग-अलग तरीके हैं। एक तरीका पूरे चित्र को एक साथ देखना है (जैसे एक नक्शा)। दूसरा तरीका रोबोट को एक छड़ी से मारना या छेड़ना है और देखना है कि वह छोटे बदलावों के प्रति कैसी प्रतिक्रिया देता है (जैसे एक स्ट्रेस टेस्ट)। बड़ा सवाल यह है कि कौन सा जासूसी तरीका रोबोट की गलतियों को पकड़ने में वास्तव में अच्छा है? यदि रोबोट एक नकली सुराग (जैसे कोई टाइपो या अजीब हेडर) का उपयोग करके उत्तर का अनुमान लगा रहा है, तो हम चाहते हैं कि हमारा जासूस उस नकली सुराग की ओर इशारा करे और कहे, "हे, इस पर भरोसा मत करो!"
यह शोध पत्र एक बड़ा प्रयोग है यह पता लगाने के लिए कि कौन सा जासूसी तरीका सबसे अच्छा काम करता है। शोधकर्ताओं ने धार्मिक ग्रंथों के एक क्लासिक टेस्ट सेट का उपयोग किया—कुछ नास्तिकता के बारे में तर्क दे रहे थे, अन्य ईसाई धर्म के बारे में—और चार अलग-अलग प्रकार के "रोबोट्स" (मशीन लर्निंग मॉडल) को उन्हें एक-दूसरे से अलग करने के लिए प्रशिक्षित किया। फिर, उन्होंने एक जाल बिछाया: उन्होंने गुप्त रूप से ट्रेनिंग डेटा के 25% शब्दों को "अविश्वसनीय" (जैसे नकली सुराग) बनाया। उन्होंने इन जालों को खोजने के लिए तीन अलग-अलग स्पष्टीकरण विधियों (explanation methods) को काम पर लगाया। लक्ष्य यह देखना था कि कौन सी विधि बिना भ्रमित हुए नकली सुरागों की सही पहचान कर सकती है।
परिणाम काफी स्पष्ट थे। सबसे लोकप्रिय जासूस, जिसे LIME कहा जाता है (जो छोटे बदलावों के साथ छेड़छाड़ करके काम करता है), एक सुपरस्टार निकला। इसने नकली सुरागों को लगभग पूरी तरह से खोज निकाला, और अपने टेस्ट में 99% से 100% के करीब स्कोर किया। यह एक ऐसे जासूस की तरह था जो एक मील दूर से ही झूठ की गंध पहचान लेता है।
हालाँकि, अन्य जासूसों में कुछ मज़ेदार खामियाँ थीं। एक विधि, जिसे Greedy कहा जाता था, बहुत ही चयनात्मक थी। वह उस एक सुराग के बारे में सुनिश्चित होने में इतनी अच्छी थी कि उसने कभी कोई चूक नहीं की (100% प्रिसिजन), लेकिन वह इतनी आलसी भी थी कि उसने सिर्फ एक चीज़ खोजने के बाद देखना बंद कर दिया। क्योंकि उसने बाकी सभी नकली सुरागों को छोड़ दिया था, इसलिए वह समग्र परीक्षण में विफल रही (केवल 6% से 7% रिकॉल)। यह एक ऐसे जासूस की तरह था जिसने एक फिंगरप्रिंट पाया और मामले को सुलझा हुआ घोषित कर दिया, बाकी अपराध स्थल को अनदेखा करते हुए। एक अन्य विधि, Parzen, ठीक-ठाक थी लेकिन LIME जितनी तेज़ नहीं थी।
शोधकर्ताओं ने बिल्लियों की तस्वीरों पर भी यह परीक्षण किया। उन्होंने LIME का उपयोग यह उजागर करने के लिए किया कि कंप्यूटर बिल्ली के चेहरे के किस हिस्से को देख रहा था। उन्होंने पाया कि यदि वे पर्याप्त अलग-अलग कोणों (सैंपल्स) को नहीं देखते थे, तो कंप्यूटर का स्पष्टीकरण अस्थिर रहता था और इधर-उधर भटकता रहता था। लेकिन यदि उन्होंने 1,000 अलग-अलग कोणों को देखा, तो स्पष्टीकरण स्थिर हो गया और सीधे बिल्ली की आँखों और नाक पर केंद्रित हो गया।
अंत में, यह शोध पत्र सुझाव देता है कि इस विशिष्ट प्रकार के टेक्स्ट पहेली के लिए, LIME वर्तमान में हमारे पास मौजूद सबसे भरोसेमंद टूल है। यह मॉडल द्वारा खराब सुरागों का उपयोग करके धोखाधड़ी करने का पता लगाने में बेहतरीन है। लेकिन लेखक हमें बहुत उत्साहित होने के लिए चेतावनी देते हैं। उन्होंने केवल टेक्स्ट और कुछ तस्वीरों पर इसका परीक्षण किया है, और उन्होंने शब्दों को नंबरों में बदलने का एक विशिष्ट तरीका इस्तेमाल किया है। इसलिए, भले ही LIME यहाँ एक विजेता के रूप में दिख रहा है, हमें अभी भी यह देखना है कि क्या यह अन्य प्रकार के डेटा या अधिक जटिल समस्याओं पर भी उतना ही अच्छा काम करता है। फिलहाल के लिए, यदि आपको यह जानने की ज़रूरत है कि कंप्यूटर ने धार्मिक पाठ के बारे में कोई निर्णय क्यों लिया, तो LIME सबसे अच्छी टॉर्च है जो हमारे पास है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।