Where Not to Learn: Prior-Aligned Training with Subset-based Attribution Constraints for Reliable Decision-Making
यह शोध पत्र एक ऐसी प्रशिक्षण पद्धति प्रस्तावित करता है जो उपसमूह-आधारित एट्रिब्यूशन बाधाओं (subset-based attribution constraints) के माध्यम से ऑफ-प्रायर साक्ष्य पर निर्भरता को दंडित करके मॉडलों को मानवीय पूर्वाग्रहों (human priors) के साथ संरेखित करती है, जिससे इमेज क्लासिफिकेशन और GUI एजेंट कार्यों में कार्य सटीकता और निर्णय तर्कसंगतता दोनों में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जासूसी की दुविधा: क्यों केवल सही होना काफी नहीं है
कल्पना कीजिए कि आप एक रोबोट को बिल्ली पहचानना सिखा रहे हैं। आप उसे बिल्लियों की दस लाख तस्वीरें दिखाते हैं, और अंततः, रोबोट किसी भी रोएंदार आकृति को देखते ही "म्याऊ!" कहने में बहुत माहिर हो जाता है। लेकिन यहाँ एक पेंच है: रोबोट वास्तव में बिल्ली की मूंछों या कानों को नहीं देख रहा है। इसके बजाय, उसने एक चालाकी भरा शॉर्टकट सीख लिया है। उसने गौर किया कि आपकी सभी ट्रेनिंग तस्वीरों में, बिल्लियाँ एक विशिष्ट ब्रांड के लाल कालीन पर बैठी थीं। इसलिए, रोबोट पूरी तरह से बिल्ली को अनदेखा कर देता है और बस लाल कालीन को देखता है। यदि आप उसे नीले सोफे पर बिल्ली दिखाते हैं, तो वह भ्रमित हो जाता है। यदि आप बिना बिल्ली के लाल कालीन दिखाते हैं, तो वह शायद अभी भी "म्याऊ!" चिल्ला सकता है।
यह आर्टिफिशियल इंटेलिजेंस की दुनिया में एक आम समस्या है, विशेष रूप से मशीन लर्निंग नामक क्षेत्र में। वैज्ञानिक इन "मॉडल्स" को निर्णय लेने के लिए बनाते हैं, लेकिन अक्सर, वे वास्तविक कारण (जैसे बिल्ली) को समझने के बजाय आसान पैटर्न (जैसे लाल कालीन) ढूंढकर धोखाधड़ी करना सीख जाते हैं। यह खतरनाक है क्योंकि यदि रोबोट कार चला रहा है या स्क्रीन पर बटन क्लिक कर रहा है, तो उसे यह जानना चाहिए कि वह कुछ क्यों कर रहा है, न कि केवल एक भाग्यशाली संयोग के आधार पर अनुमान लगाना। इसे ठीक करने के लिए, शोधकर्ता "ह्यूमन प्रायर्स" (human priors) का उपयोग करते हैं—जो कि एक फैंसी तरीका है यह कहने का कि "एक इंसान क्या महत्वपूर्ण समझता है।" यदि एक इंसान बिल्ली की ओर इशारा करता है और कहता है, "यहाँ देखो," तो रोबोट को भी वहीं देखना सीखना चाहिए। लेकिन रोबोट को इंसान के साथ सहमत करना कठिन है, क्योंकि रोबोट का दिमाग हमारे दिमाग से बहुत अलग तरीके से काम करता है।
पेपर का बड़ा विचार: "वहाँ न सीखें जहाँ आपको नहीं सीखना चाहिए"
यह पेपर, जिसका शीर्षक "Where Not to Learn" है, रोबोटों द्वारा धोखाधड़ी करने की समस्या को एक चतुर, चयनात्मक प्रशिक्षण पद्धति का उपयोग करके हल करता है। लेखक सुझाव देते हैं कि रोबोट को केवल सही जगह पर देखने के लिए मजबूर करने के बजाय (जो बहुत सख्त हो सकता है और रोबोट को भ्रमित कर सकता है), हमें बस उसे गलत जगह देखने पर दंडित करना चाहिए।
इसे एक शिक्षक द्वारा छात्र के निबंध को ग्रेड देने जैसा समझें। यदि छात्र गलत विषय पर एक शानदार पैराग्राफ लिखता है, तो शिक्षक पूरे निबंध को मिटा नहीं देता। इसके बजाय, शिक्षक गलत हिस्से के चारों ओर एक बड़ा लाल घेरा बनाता है और कहता है, "यह यहाँ नहीं होना चाहिए।" छात्र फिर सही विषय पर ध्यान केंद्रित करना सीखता है। लेखक इसे "प्रायर-अलाइन्ड ट्रेनिंग" (Prior-Aligned Training) कहते हैं। वे "सबसेट-सिलेक्शन एट्रिब्यूशन" (subset-selection attribution) नामक एक विशेष उपकरण का उपयोग करते हैं जो शिक्षक के आवर्धक लेंस (magnifying glass) के रूप में कार्य करता है। यह उपकरण रोबोट को यह समझने में मदद करता है कि छवि या स्क्रीन का कौन सा छोटा हिस्सा उसे निर्णय लेने के लिए प्रेरित कर रहा है।
यहाँ जादू कैसे होता है:
- आवर्धक लेंस: उपकरण रोबोट के निर्णय को देखता है और उपयोग किए गए शीर्ष कुछ "सुरागों" को हाइलाइट करता है।
- जांच: सिस्टम इन सुरागों की तुलना "ह्यूमन प्रायर" (वह क्षेत्र जिसे इंसान ने महत्वपूर्ण बताया था, जैसे बटन के चारों ओर एक बाउंडिंग बॉक्स) से करता है।
- कोमल संकेत: यदि रोबोट का शीर्ष सुराग इंसान के बॉक्स के अंदर है, तो सिस्टम कहता है, "अच्छा काम किया!" और आगे बढ़ जाता है। लेकिन यदि रोबोट का शीर्ष सुराग बॉक्स के बाहर है (जैसे बिल्ली के बजाय लाल कालीन को देखना), तो सिस्टम जुर्माना लगाता है। यह रोबोट को बताता है, "उस सुराग पर निर्भर होना बंद करो।"
यह पेपर उन पुराने तरीकों का स्पष्ट रूप से विरोध करता है जो एक साथ सभी गैर-मानवीय क्षेत्रों को "दबाने" या चुप कराने की कोशिश करते थे। लेखकों ने पाया कि यह "हार्ड सप्रेशन" (hard suppression) बहुत ही भद्दा तरीका है; यह एक छात्र को उत्तर कुंजी के अलावा किसी भी चीज़ के बारे में सोचना बंद करने के लिए कहने जैसा है, जिससे अक्सर वे समस्या को हल करना ही भूल जाते हैं। इसके बजाय, उनकी विधि "चयनात्मक" (selective) है। यह केवल तभी हस्तक्षेप करती है जब रोबोट का सबसे महत्वपूर्ण प्रमाण गलत होता है। यदि रोबोट पहले से ही सही स्थान पर देख रहा है, तो सिस्टम उसे अकेला छोड़ देता है, जिससे छवि के अन्य हिस्सों को स्वतंत्र रूप से योगदान करने दिया जाता है।
उन्होंने क्या पाया: स्मार्ट रोबोट, बेहतर निर्णय
शोधकर्ताओं ने इस विचार का परीक्षण दो बहुत अलग दुनियाओं में किया:
- इमेज क्लासिफिकेशन: कंप्यूटर को तस्वीरों (जैसे नाव या जानवर) को पहचानने के लिए सिखाना।
- GUI एजेंट्स: AI को कंप्यूटर स्क्रीन पर बटन क्लिक करने के लिए सिखाना (जैसे एक वर्चुअल असिस्टेंट अलार्म सेट कर रहा हो)।
दोनों मामलों में, परिणाम उत्साहजनक थे। जब उन्होंने अपनी "चयनात्मक दंड" (selective penalty) विधि का उपयोग किया, तो मॉडल न केवल नियमों का पालन करने में बेहतर हुए; वे मुख्य कार्य में भी बेहतर हुए।
- ImageNet-S डेटासेट (विशिष्ट ऑब्जेक्ट मास्क वाली छवियों का संग्रह) पर, उनकी विधि ने ViT नामक मॉडल की सटीकता को 4.95 पॉइंट्स और ResNet-101 नामक मॉडल को 1.74 पॉइंट्स से सुधारा।
- अधिक महत्वपूर्ण बात यह है कि निर्णयों की "तर्कसंगतता" (reasonableness) में सुधार हुआ। उन्होंने इसे "पॉइंट गेम" (Point Game) का उपयोग करके मापा, जो यह जाँचता है कि क्या AI सही वस्तु को देख रहा है। Saliency-Bench डेटासेट पर, उनके तरीके ने ViT मॉडल के पॉइंट गेम स्कोर को 0.4363 से बढ़ाकर 0.5463 कर दिया।
पेपर सुझाव देता है कि AI को "सही" साक्ष्य (मानव-प्रायर क्षेत्रों) पर भरोसा करने के लिए मजबूर करके, यह अधिक मजबूत (robust) हो जाता है। जब उन्होंने शोर वाली, अस्त-व्यस्त छवियों (तस्वीरों में रैंडम स्टैटिक जोड़कर) के साथ मॉडल का परीक्षण किया, तो इस विधि से प्रशिक्षित मॉडल मानक मॉडलों की तुलना में बेहतर प्रदर्शन करते रहे। इसका तात्पर्य यह है कि AI को "चीट कोड्स" (जैसे लाल कालीन) सीखने से रोककर, यह स्थिर, सार्थक विशेषताओं पर भरोसा करना सीख जाता है जो चीजों के अस्त-व्यस्त होने पर भी काम करती हैं।
लेखकों ने "एब्लेशन स्टडीज" (ablation studies) भी चलाईं, जो इंजन को खोलकर यह देखने जैसा है कि कौन सा हिस्सा क्या करता है। उन्होंने पाया कि "डेविएशन लॉस" (गलत जगह देखने के लिए दंड) मुख्य चालक था, जिसने सटीकता और तर्कसंगतता दोनों में अधिकांश सुधार किया। "रिडंडेंसी लॉस" (जो AI को कई गलत सुरागों पर अत्यधिक निर्भर होने से रोकता है) ने "तर्कसंगतता" स्कोर में थोड़ा अधिक मदद की लेकिन सटीकता को उतना नहीं बदला।
संक्षेप में, यह पेपर दिखाता है कि आपको AI के हर विचार को सूक्ष्म रूप से नियंत्रित करने की आवश्यकता नहीं है। आपको बस उसे तब पकड़ना है जब वह गलत दिशा में देख रहा हो और उसे धीरे से वापस मोड़ना है। यह दृष्टिकोण AI को न केवल इस बारे में अधिक ईमानदार बनाता है कि वह निर्णय क्यों ले रहा है, बल्कि इसे अधिक सटीक और विश्वसनीय भी बनाता है। लेखक निष्कर्ष निकालते हैं कि यह विधि विभिन्न प्रकार के AI में काम करती है, साधारण इमेज क्लासिफायर से लेकर जटिल "एजेंट्स" तक जो बटन क्लिक कर सकते हैं और निर्देश मान सकते हैं, जो एक ऐसे AI की ओर संकेत करता है जो स्मार्ट और समझदार दोनों है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।