Why Does It Look There? Structured Explanations for Image Classification
यह शोध पत्र I2X का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो अनस्ट्रक्चर्ड इंटरप्रिटेबिलिटी (unstructured interpretability) को स्ट्रक्चर्ड, प्रोटोटाइप-आधारित स्पष्टीकरणों में परिवर्तित करता है ताकि मॉडल की निर्णय लेने की प्रक्रियाओं को प्रकट किया जा सके और लक्षित नमूना परिवर्तन (targeted sample perturbation) के माध्यम से वर्गीकरण सटीकता में सक्रिय रूप से सुधार किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन मौन छात्र है जो परीक्षा दे रहा है। वह लगभग हर बार सही उत्तर प्राप्त करता है, लेकिन जब आप पूछते हैं, "तुम्हें कैसे पता चला कि वह बिल्ली थी न कि कुत्ता?" तो वह बस कंधे उचका देता है। वह अपनी विचार प्रक्रिया को समझा नहीं सकता। यह अधिकांश आधुनिक AI के साथ होने वाली समस्या है: यह एक "ब्लैक बॉक्स" (black box) है। यह बहुत अच्छा काम करता है, लेकिन हमें पता नहीं है कि यह क्यों काम करता है।
मौजूदा तरीके AI ने तस्वीर के किन हिस्सों को देखा है, उन्हें हाइलाइट करके (जैसे किसी फोटो पर हाइलाइटर पेन चलाना) अंदर झांकने की कोशिश करते हैं। लेकिन यह अव्यवस्थित है। यह वैसा ही है जैसे आप एक छात्र को किताब में शब्दों को रेखांकित करते हुए देखते हैं, लेकिन आपको यह नहीं पता होता कि उसने उन्हें इसलिए रेखांकित किया क्योंकि वे महत्वपूर्ण थे, या सिर्फ इसलिए क्योंकि उसे वह रंग पसंद आया। यह आपको उस कहानी के बारे में नहीं बताता कि छात्र ने कैसे सीखा।
यह पेपर एक नई विधि पेश करता है जिसे I2X (इंटरप्रिटेबिलिटी टू एक्सप्लेनेबिलिटी - Interpretability to Explainability) कहा जाता है। I2X को एक जासूस के रूप में समझें जो उनके सीखने के हर चरण में छात्र का साक्षात्कार लेता है ताकि उनके सीखने की एक संरचित कहानी बनाई जा सके।
यह कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग किया गया है:
1. "लेगो ब्रिक" की उपमा (प्रोटोटाइप्स)
पूरी तस्वीर को एक साथ देखने के बजाय, I2X AI के सीखने को प्रोटोटाइप्स नामक छोटे निर्माण खंडों (building blocks) में तोड़ देता है।
- कल्पना कीजिए कि AI संख्या "7" को पहचानना सीख रहा है।
- वह केवल एक "7" को नहीं देखता। वह "7" बनाने वाले विशिष्ट "लेगो ब्रिक्स" (Lego bricks) को पहचानना सीखता है: बीच में एक तिरछी रेखा, ऊपर एक बिंदु, नीचे एक क्षैतिज रेखा।
- I2X इन विशिष्ट पैटर्न (ब्रिक्स) की पहचान करता है और उन्हें नाम देता है। आइए उन्हें "ब्रिक A," "ब्रिक B," और "ब्रिक C" कहें।
2. "प्रशिक्षण डायरी" (विकास को ट्रैक करना)
अधिकांश AI स्पष्टीकरण केवल तैयार उत्पाद को देखते हैं। I2X अलग है; यह AI की पूरी प्रशिक्षण यात्रा की एक डायरी रखता है।
- यह विभिन्न चेकपॉइंट्स पर AI की जांच करता है (जैसे हर सप्ताह के अंत में छात्र की प्रगति की जांच करना)।
- यह पूछता है: "सप्ताह 1 में, क्या आपने '7' का अनुमान लगाने के लिए 'ब्रिक A' का उपयोग किया था? क्या आप सही थे?"
- "सप्ताह 4 में, क्या आपने 'ब्रिक B' का उपयोग करना शुरू किया?"
- इन परिवर्तनों को ट्रैक करके, I2X एक टाइमलाइन बनाता है: "पहले, AI ने तिरछी रेखा को पहचानना सीखा। फिर, इसने ऊपर के बिंदु को अनदेखा करना सीखा क्योंकि इसने इसे '1' के साथ भ्रमित कर दिया था।"
3. "भ्रमित छात्र" (अनिश्चितता खोजना)
कभी-कभी, AI भ्रमित हो जाता है। शायद उसे लगता है कि "7" एक "2" जैसा दिखता है क्योंकि दोनों में एक वक्र (curve) होता है।
- I2X उस विशिष्ट "ब्रिक" का पता लगाता है जो भ्रम पैदा कर रहा है। मान लीजिए कि यह "ब्रिक X" है, जो एक वक्र है जो दोनों संख्याओं में पाया जाता है।
- पेपर दिखाता है कि यदि AI स्पष्ट संदर्भ के बिना "ब्रिक X" को बहुत अधिक देखता है, तो उसके निर्णय डगमगा जाते हैं। यह एक ऐसे छात्र की तरह है जो दो उत्तरों के बीच झूलता रहता है क्योंकि एक सुराग दोनों पर फिट बैठता है।
4. "स्मार्ट ट्यूटर" (AI को ठीक करना)
यह सबसे शानदार हिस्सा है। एक बार जब I2X उस "भ्रमित करने वाले ब्रिक" को ढूंढ लेता है, तो यह केवल उसकी रिपोर्ट नहीं करता; यह AI को ठीक करने में मदद करता है।
- शोधकर्ताओं ने AI को लिया और उसे एक विशेष "ट्यूटरिंग सेशन" दिया।
- उन्होंने AI को ऐसे उदाहरण दिखाए जिनमें भ्रमित करने वाला "ब्रिक X" नहीं था, जिससे उसे उस विशिष्ट जाल को अनदेखा करना सीखने में मदद मिली।
- परिणाम: AI संख्याओं के बीच अंतर बताने में बहुत बेहतर हो गया (या CIFAR-10 डेटासेट के मामले में बिल्ली और कुत्ते के बीच)। इसने इसकी गलतियों को काफी कम कर दिया।
यह क्यों मायने रखता है
वर्तमान AI को एक जादुई ट्रिक के रूप में सोचें। आप खरगोश को प्रकट होते देखते हैं, लेकिन आपको नहीं पता कि जादूगर ने इसे कैसे किया।
- पुराने तरीके कहते हैं: "जादूगर ने खरगोश के बाएं कान को देखा।" (यह "सेलिएंसी मैप" या हाइलाइटिंग है)।
- I2X कहता है: "जादूगर ने पहले बाएं स्लीव से खरगोश को बाहर निकालने का अभ्यास किया, फिर उसे एहसास हुआ कि टोपी बहुत बड़ी है, इसलिए उसने दाहिनी स्लीव का उपयोग करना शुरू किया, और अंत में उसने खरगोब को केप (cape) में छिपाना सीखा। यहाँ स्टेप-बाय-स्टेप मैनुअल है।"
मुख्य निष्कर्ष
यह पेपर हमें AI के "ब्लैक बॉक्स" को एक पारदर्शी निर्देश पुस्तिका में बदलने का तरीका देता है। यह हमें सटीक रूप से दिखाता है कि AI अपने विचारों को कैसे व्यवस्थित करता है, वह कहाँ भ्रमित होता है, और हम उसे बेहतर सीखने के लिए कैसे धीरे से प्रेरित कर सकते हैं। यह केवल अतीत को समझाने के बारे में नहीं है; यह उस स्पष्टीकरण का उपयोग भविष्य के लिए AI को अधिक स्मार्ट और विश्वसनीय बनाने के लिए करने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।