Explainable embeddings with Distance Explainer
यह शोध पत्र डिस्टेंस एक्सप्लेनर (Distance Explainer) को प्रस्तुत करता है, जो एक नवीन पोस्ट-हॉक (post-hoc) XAI विधि है जो एम्बेडेड वेक्टर स्पेस में डेटा बिंदुओं के बीच समानता या असमानता के लिए मजबूत, स्थानीय स्पष्टीकरण उत्पन्न करने हेतु सैलिएंसी-आधारित (saliency-based) तकनीकों को चुनिंदा मास्किंग और दूरी-रैंक वाले फ़िल्टरिंग के माध्यम से एट्रिब्यूशन मानों को सौंपकर अनुकूलित करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अदृश्य पुस्तकालय है जहाँ हर किताब, फोटो और गाना एक विशिष्ट सीट पर बैठा है, जो इस आधार पर तय की जाती है कि वह बाकी चीजों के कितने समान है। इसे ही AI "एम्बेडेड स्पेस" (embedded space) कहता है।
इस पुस्तकालय में:
- एक मधुमक्खी (bee) की तस्वीर, एक मक्खी (fly) की तस्वीर के ठीक बगल में बैठी है।
- एक मधुमक्खी की तस्वीर, एक कार की तस्वीर से बहुत दूर बैठी है।
- "एक फूल पर मधु मक्खी" कहने वाला वाक्य, मधु मक्खी की तस्वीर के बिल्कुल पास बैठा है।
समस्या क्या है? हम इंसान यह नहीं देख सकते कि AI ने मधु मक्खी को मक्खी के बगल में क्यों रखा। AI बस इतना जानता है कि वे उसके गणितीय मानचित्र (mathematical map) में "करीब" हैं, लेकिन वह हमें यह नहीं बता सकता कि मधु मक्खी के कौन से हिस्से (उसके पंख? उसकी धारियाँ?) ने उसे मक्खी जैसा दिखाया।
यह पेपर इस रहस्य को सुलझाने के लिए "डिस्टेंस एक्सप्लेनर" (Distance Explainer) नामक एक नया टूल पेश करता है। यह कैसे काम करता है, इसे सरल उपमाओं (analogies) का उपयोग करके समझते हैं।
समस्या: "ब्लैक बॉक्स" की दूरी
AI को एक प्रतियोगिता में जज की तरह समझें। वह दो प्रतियोगियों (मान लीजिए, मधु मक्खी की फोटो और मक्खी की फोटो) को देखता है और कहता है, "ये दोनों 90% समान हैं।"
लेकिन यदि आप पूछें, "क्यों?" तो AI आमतौर पर केवल कंधे उचका देता है। यह एक ऐसे जज की तरह है जो स्कोर तो देता है, लेकिन यह नहीं बताता कि किस विशेष चाल ने उसे अंक दिलाए।
समाधान: "मास्किंग गेम" (The Masking Game)
लेखकों ने एक मौजूदा तकनीक जिसे RISE कहा जाता है (जिसका उपयोग एकल छवियों को समझाने के लिए किया जाता था) को लिया और इसे दो चीजों की तुलना करने के लिए अनुकूलित किया। वे अपने इस नए तरीके को "डिस्टेंस एक्सप्लेनर" कहते हैं।
यहाँ "लुका-छिपी" (Hide and Seek) के खेल के रूप में कल्पना की गई चरण-दर-चरण प्रक्रिया दी गई है:
- सेटअप: आपके पास आपका "टारगेट" (मधुमक्खी की फोटो) और एक "रेफरेंस" (मक्खी की फोटो) है।
- खेल: AI एक खेल खेलता है जहाँ वह टारगेट फोटो के कुछ हिस्सों को काले कंबल से ढंक देता है (मास्क कर देता है)।
- उदाहरण: वह मधु मक्खी के पंखों को ढंक देता है।
- उदाहरण: वह मधु मक्खी की धारियों को ढंक देता है।
- उदाहरण: वह मधु मक्खी की आँखों को ढंक देता है।
- जांच: हिस्सा ढंकने के बाद, AI पूछता है: "क्या अब भी यह ढकी हुई मधु मक्खी, मक्खी जैसी दिखती है?"
- यदि आप पंखों को ढंक देते हैं, तो मधु मक्खी अचानक मक्खी से बहुत अलग दिखने लगती है। उनके बीच की दूरी बहुत बढ़ जाती है।
- यदि आप धारियों को ढंकते हैं, तो मधु मक्खी अभी भी थोड़ी बहुत मक्खी जैसी दिखती है। दूरी में ज्यादा बदलाव नहीं आता।
- स्कोरकार्ड: AI इस प्रक्रिया को हजारों बार दोहराता है, अलग-अलग जगहों को रैंडम तरीके से ढंकते हुए।
- वह हिसाब रखता है: "हर बार जब हमने पंखों को ढंका, समानता नाटकीय रूप से गिर गई।"
- "हर बार जब हमने धारियों को ढंका, समानता वैसी ही रही।"
- परिणाम: AI एक हीट मैप (लाल और नीले रंगों वाली एक तस्वीर) बनाता है।
- लाल क्षेत्र वे हिस्से हैं जिन्होंने दोनों छवियों को असमान बनाया (यदि आप उन्हें छिपा देते हैं, तो वे अधिक समान दिखते हैं)।
- नीले क्षेत्र वे हिस्से हैं जिन्होंने उन्हें समान बनाया (यदि आप उन्हें छिपा देते हैं, तो वे कम समान दिखते हैं)।
यह विशेष क्यों है
पिछले टूल्स केवल यह समझा सकते थे कि AI ने यह क्यों सोचा कि "यह एक मधु मक्खी है।" यह नया टूल संबंधों को समझाता है। यह उत्तर देता है: "AI क्यों सोचता है कि यह मधु मक्खी, एक कार की तुलना में मक्खी के अधिक करीब है?"
यह एक जासूस की तरह काम करता है जो न केवल अपराध स्थल को देखता है, बल्कि दो संदिग्धों की आमने-सामने तुलना करता है ताकि यह देख सके कि कौन सी विशेषताएं उन्हें एक जैसा या अलग बनाती हैं।
"मिरर" (दर्पण) ट्रिक
लेखकों ने "मिरर मोड" (Mirror Mode) नामक एक चतुर मोड़ जोड़ा है।
कल्पना कीजिए कि आप शोर भरे कमरे में फुसफुसाहट सुनने की कोशिश कर रहे हैं। यदि आप शोर को सुनते हैं और उसे घटा देते हैं, तो आप फुसफुसाहट को बेहतर ढंग से सुन पाते हैं।
- AI उन हिस्सों को देखता है जो छवियों को बहुत अलग बनाते हैं (शोर)।
- यह उन हिस्सों को भी देखता है जो उन्हें बहुत समान बनाते हैं।
- इन दोनों सूचियों की तुलना करके, यह "शोर" को रद्द कर देता है और वास्तविक, महत्वपूर्ण विशेषताओं को उजागर करता है। यह स्पष्टीकरण को बहुत अधिक स्पष्ट और कम धुंधला बनाता है।
उन्होंने क्या पाया
उन्होंने इसका परीक्षण किया:
- इमेज बनाम इमेज: यह दिखाते हुए कि AI जानता है कि मधु मक्खी और मक्खी अपने पंखों के कारण समान हैं, लेकिन अपनी धारियों के कारण अलग हैं।
- इमेज बनाम टेक्स्ट: यह दिखाते हुए कि यदि आप एक मधु मक्खी की तस्वीर दिखाएं और "एक मक्खी" टाइप करें, तो AI जानता है कि तस्वीर के कौन से हिस्से टेक्स्ट के विपरीत हैं।
मुख्य निष्कर्ष (The Takeaway)
यह टूल AI को चश्मे देने जैसा है। अचानक, हम देख सकते हैं कि AI का आंतरिक मानचित्र इस तरह से क्यों व्यवस्थित है। यह केवल दो बिंदुओं के बीच की दूरी नहीं बताता; यह बताता है कि कौन सी विशेषताएं उन्हें एक साथ खींच रही हैं और कौन सी उन्हें एक दूसरे से दूर धकेल रही हैं।
यह एक्सप्लेनेबल एआई (Xable AI) की दिशा में एक बड़ा कदम है क्योंकि यह हमें जटिल मॉडलों (जैसे कि चिकित्सा निदान या सेल्फ-ड्राइविंग कारों में उपयोग किए जाने वाले मॉडल) पर भरोसा करने में मदद करता है, क्योंकि यह हमें केवल अंतिम परिणाम दिखाने के बजाय उनके निर्णयों के पीछे के विशिष्ट कारणों को दिखाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।