Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR
यह शोध पत्र EASE (एविडेंस-एंकोर्ड स्पेशियल अटेंशन) को प्रस्तुत करता है, जो एक ऐसी विधि है जो विज़ुअल मॉडल के लिए 'वेरिफिएबल रिवार्ड्स विद रीइन्फोर्समेंट लर्निंग' (RLVR) को एनोटेटेड विज़ुअल एविडेंस का उपयोग करके उन्नत करती है ताकि हाई-रिवॉर्ड ट्रेनिंग ट्रेजेक्टरीज के दौरान स्पेशियल अटेंशन को निर्देशित किया जा सके, जिससे बिना किसी अतिरिक्त इनपुट के इन्फरेंस के दौरान परसेप्शन, रीजनिंग और हलुसिनेशन बेंचमार्क पर प्रदर्शन में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "अटेंड टू एविडेंस" (EASE) पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: "तुक्के वाला" छात्र (The "Lucky Guess" Student)
कल्पना कीजिए कि एक छात्र एक कठिन परीक्षा दे रहा है जिसमें चित्र (pictures) शामिल हैं। शिक्षक (कंप्यूटर) केवल अंतिम उत्तर की जाँच करता है।
- प्रश्न: "इस फोटो में कितने जिराफ़ हैं?"
- छात्र का उत्तर: "तीन।"
- शिक्षक की प्रतिक्रिया: "सही! +1 अंक।"
समस्या यह है कि शिक्षक को यह नहीं पता कि छात्र ने उत्तर कैसे प्राप्त किया। क्या छात्र ने वास्तव में फोटो में जिराफ़ों को गिना? या क्या उसने सिर्फ इसलिए अंदाज़ा लगाया क्योंकि वह जानता है कि इस तरह के टेस्ट में जिराफ़ आम होते हैं? या शायद उसने चित्र के गलत हिस्से को देखा?
AI की दुनिया में (विशेष रूप से विज़न-लैंग्वेज मॉडल्स में), इसे आउटकम-ओनली रिवॉर्ड (Outcome-Only Reward) कहा जाता है। AI को सही होने पर अंक मिलते हैं, लेकिन वह यह नहीं सीख पाता कि सही होने के लिए उसे चित्र में कहाँ देखना चाहिए। इससे "हैलुसिनेशन" (hallucinations) होता है, जहाँ AI आत्मविश्वास के साथ मनगढ़ंत तथ्य बना देता है क्योंकि वह वास्तव में चित्र को देखने के बजाय टेक्स्ट के पैटर्न पर निर्भर रहता है।
समाधान: EASE (द "स्पॉटलाइट" टीचर)
लेखकों ने एक नई प्रशिक्षण विधि बनाई जिसे EASE (एविडेंस-एंकर्ड स्पेशियल अटेंशन) कहा जाता है।
EASE को एक ऐसे शिक्षक के रूप में सोचें जो न केवल अंतिम उत्तर को ग्रेड देता है, बल्कि यह भी देखता है कि समस्या हल करते समय छात्र कहाँ देख रहा है।
- "चीट शीट" (केवल प्रशिक्षण के दौरान): प्रशिक्षण के दौरान, शिक्षक के पास एक विशेष "चीट शीट" (एनोटेटेड बॉक्स) होती है जो ठीक से हाइलाइट करती है कि फोटो के कौन से हिस्से में उत्तर मौजूद है।
- उदाहरण: यदि उत्तर "तीन जिराफ़" है, तो चीट शीट प्रत्येक जिराफ़ के चारों ओर एक बॉक्स बनाती है।
- स्पॉटलाइट: AI के पास एक मानसिक "स्पॉटलाइट" (अटेंशन) होती है जिसका उपयोग वह चित्र को स्कैन करने के लिए करता है। EASE AI को सिखाता है कि वह अपनी स्पॉटलाइट को सीधे चीट शीट के बॉक्स पर केंद्रित करे।
- स्वर्ण नियम (The Golden Rule): शिक्षक यह "यहाँ देखो" वाली सलाह तभी देता है जब छात्र का उत्तर सही होता है।
- यदि छात्र गलत उत्तर देता है, तो शिक्षक कहता है, "हमें नहीं पता कि तुम कहाँ देख रहे थे, इसलिए हम अंदाज़ा नहीं लगाएंगे।"
- यदि छात्र सही उत्तर देता है और सही जगहों पर देखता है, तो शिक्षक कहता है, "बहुत बढ़िया! तुमने सबूत ढूँढ लिया। अगली बार भी वहीं देखना याद रखना।"
यह कैसे काम करता है (रूपक/Metaphor)
कल्पना कीजिए कि आप एक कुत्ते को मैदान में गेंद ढूँढना सिखा रहे हैं।
- पुराना तरीका (स्टैंडर्ड RL): आप गेंद फेंकते हैं। कुत्ता इधर-उधर दौड़ता है, हवा को सूंघता है, और अंत में गेंद ढूँढ लेता है। आप उसे एक ट्रीट (इनाम) देते हैं। कुत्ता सीखता है: "इधर-उधर दौड़ने और सूंघने से इनाम मिलता है।" वह शायद किस्मत से गेंद ढूँढ लेता है, न कि उसे ढूँढने के लिए सही जगह देखकर।
- EASE का तरीका: आपके पास एक छिपा हुआ नक्शा है जो दिखाता है कि गेंद ठीक कहाँ है। जब कुत्ता गेंद ढूँढ लेता है, तो आप नक्शे की जाँच करते हैं।
- यदि कुत्ता ठीक उसी जगह को सूंघ रहा था जहाँ गेंद छिपी थी, तो आप उसे एक सुपर ट्रीट देते हैं और कहते हैं, "गुड बॉय, तुमने सही जगह देखी!"
- यदि कुत्ते ने गेंद ढूँढ ली लेकिन वह मैदान के किसी बिल्कुल अलग हिस्से को सूंघ रहा था, तो आप उसे सुपर ट्रीट नहीं देते। आप कुत्ते को सिखाते हैं कि गेंद ढूँढना ही काफी नहीं है; उसे सही जगह पर देखना भी चाहिए।
जब उन्होंने इसे आज़माया तो क्या हुआ?
शोधकर्ताओं ने इसे कई स्मार्ट AI मॉडल्स (Qwen2.5 और Qwen3) पर टेस्ट किया। उन्होंने नई विधि की तुलना पुराने "तुक्के वाले" तरीके से की।
- गणित और तर्क में बेहतर: AI चित्रों और लॉजिक पहेलियों से जुड़े गणित के सवालों में काफी बेहतर हो गया। उसने अंदाज़ा लगाना बंद कर दिया और वास्तव में विजुअल संकेतों का विश्लेषण करना शुरू कर दिया।
- कम हैलुसिनेशन (Fewer Hallucinations): AI ने कम मनगढ़ंत तथ्य बनाए। वह इस बारे में अधिक ईमानदार हो गया कि वह क्या देख सकता है और क्या नहीं।
- उपयोगकर्ता के लिए कोई अतिरिक्त काम नहीं: यह एक महत्वपूर्ण बिंदु है। "चीट शीट" (बॉक्सेस) का उपयोग केवल तब किया जाता है जब AI सीख (training) रहा होता है। जब आप बाद में AI का उपयोग करते हैं, तो आप बस एक चित्र और एक प्रश्न देते हैं। इसे काम करने के लिए बॉक्स की आवश्यकता नहीं होती; यह बस बेहतर काम करता है क्योंकि इसे ध्यान से देखना सिखाया गया था।
निचोड़ (The Bottom Line)
EASE AI मॉडल्स को ईमानदार पर्यवेक्षक (honest observers) बनना सिखाता है। केवल सही उत्तर को रटने के बजाय, AI सीखता है कि उत्तर को उस विशिष्ट विजुअल सबूत से कैसे जोड़ा जाए जो उसका समर्थन करता है। यह एक जासूस को सिखाने जैसा है कि रिपोर्ट लिखने से पहले अपराध स्थल के सुरागों को देखना चाहिए, न कि केवल अपने अनुमान के आधार पर अपराधी का अंदाजा लगाना चाहिए।
मुख्य बात: AI को "अपना काम दिखाने" (सही जगहों पर देखने) के लिए मजबूर करके, AI बाद में सवालों के जवाब देते समय बहुत अधिक विश्वसनीय और सटीक हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।