More Thought, Less Accuracy? On the Dual Nature of Reasoning in Vision-Language Models
यह शोध पत्र प्रकट करता है कि जहाँ विज़न-लैंग्वेज मॉडल्स में सुदृढीकरण aprendizaje (reinforcement learning) आधारित तर्क को विस्तारित करने से तार्किक अनुमान में सुधार होता है, वहीं यह अनजाने में "विजुअल फॉरगेटिंग" (दृश्य विस्मृति) का कारण बनता है जो धारणात्मक ग्राउंडिंग (perceptual grounding) को कम कर देता है, एक ऐसी समस्या जिसे लेखक अपने प्रस्तावित विजन-एंकरड पॉलिसी ऑप्टिमाइज़ेशन (VAPO) पद्धति के माध्यम से संबोधित करते हैं, जो तर्क को स्पष्ट रूप से दृष्टिगत रूप से ग्राउंडेड प्रक्षेप पथों की ओर निर्देशित करके अत्याधुनिक परिणाम प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "More Thought, Less Accuracy? On the Dual Nature of Reasoning in Vision-Language Models" का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।
मुख्य विचार: "ज़्यादा सोचने" की समस्या (The "Overthinking" Problem)
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान जासूस (AI) है जो तर्क वाले पहेलियों को सुलझाने में बहुत माहिर है। हाल ही में, हमने इस जासूस को एक नई शक्ति सिखाई है: तर्क करना (Reasoning)। अब वह केवल उत्तर का अनुमान लगाने के बजाय, सुरागों की एक लंबी सूची बनाता है, अपने तर्क की जाँच करता है, और बोलने से पहले कदम-दर-कदम सोचता है।
टेक्स्ट-आधारित पहेलियों (जैसे गणित की शब्द समस्याओं) के लिए, यह कमाल का काम करता है। लेकिन जब हमने इस जासूस को विजुअल पहेलियाँ सुलझाने के लिए एक कैमरा (Vision-Language Model) दिया, तो कुछ अजीब हुआ।
खोज: जासूस जितना अधिक सोचता था, वह चित्र देखने में उतना ही खराब होता गया।
यदि जासूस ने बिल्ली की फोटो देखी और 5 सेकंड तक सोचा, तो वह बिल्लियों की सही संख्या (जैसे 4 बिल्लियाँ) बता सकता था। लेकिन यदि उसने 30 सेकंड तक सोचा, तो वह कल्पना (hallucinate) करने लगता, जैसे 6 बिल्लियाँ गिनना, या वह बिल्ली को पूरी तरह से मिस कर देता क्योंकि वह अपने ही विचारों में इतना खो गया कि वह फोटो देखना ही भूल गया।
शोध पत्र इसे "विजुअल फॉरगेटिंग" (Visual Forgetting - दृश्य विस्मृति) कहता है।
तर्क के दो चेहरे (The Dual Nature)
शोधकर्ताओं ने पाया कि तर्क करना एक दोधारी तलवार है:
- अच्छा पक्ष (तर्क/Logic): यह AI को उन कठिन समस्याओं को हल करने में मदद करता है जिनमें चरणों की आवश्यकता होती है, जैसे कि एक जटिल गणितीय समस्या को हल करना या एक भूलभुलैया (maze) से बाहर निकलना।
- बुरा पक्ष (धारणा/Perception): जैसे-जैसे AI अधिक समय तक सोचता है, वह चित्र को अनदेखा करने लगता है। वह अपनी आंतरिक "आवाज़" पर बहुत अधिक निर्भर हो जाता है और दृश्य साक्ष्यों (visual evidence) पर ध्यान देना बंद कर देता है।
उपमा (Analogy):
कल्पना कीजिए कि आप एक अस्त-व्यस्त कमरे में अपनी चाबियाँ ढूँढ रहे हैं।
- सीधा उत्तर: आप फर्श की ओर देखते हैं और कहते हैं, "वे कालीन के नीचे हैं।" (तेज़, लेकिन शायद आपने उन्हें मिस कर दिया हो)।
- तर्क (अच्छा): आप सोचते हैं, "मैंने उन्हें मेज पर रखा था, लेकिन बिल्ली ने उन्हें गिरा दिया। वे सोफे के पास होने चाहिए।" (आप तर्क + देखना दोनों का उपयोग करते हैं)।
- अति-तर्क (बुरा): आप सोचने लगते हैं, "अगर बिल्ली ने उन्हें गिराया, तो शायद कुत्ते ने उन्हें पिछवाड़े में ले गया होगा। लेकिन रुकिए, क्या वे मेरी जेब में थे? शायद वे कार में हैं?" आप अपनी ही कहानी में इतने गहरे उतर जाते हैं कि आप कमरे को देखना ही बंद कर देते हैं। आप गलत अनुमान लगाते हैं क्योंकि आप वास्तव में देखना भूल गए।
प्रमाण: "समय समाप्त!" (The Evidence: "Time is Up!")
शोधकर्ताओं ने AI की सोचने की प्रक्रिया को अलग-अलग समय पर रोककर इसका परीक्षण किया:
- जल्दी रोकना (Early Stop): उन्होंने AI को एक क्षण सोचने दिया, फिर उसे उत्तर देने के लिए मजबूर किया। परिणाम: AI अक्सर सही था।
- पूर्ण विराम (Full Stop): उन्होंने AI को तब तक सोचने दिया जब तक कि वह "पूरा" नहीं हो गया। परिणाम: AI अक्सर अपना मन बदल लेता था और गलत उत्तर देता था, ऐसी चीज़ों की कल्पना करता था जो वहाँ थीं ही नहीं।
उन्होंने पाया कि कई मामलों में, AI ने शुरुआत में ही सही उत्तर जान लिया था, लेकिन अत्यधिक विश्लेषण करके उसने खुद को गलत साबित कर दिया।
समाधान: VAPO (द "विजुअल एंकर")
इसे ठीक करने के लिए, शोधकर्ताओं ने एक नया प्रशिक्षण तरीका बनाया जिसे VAPO (Vision-Anchored Policy Optimization) कहा जाता है।
उपमा: चेकपॉइंट्स वाला टूर गाइड
कल्पना कीजिए कि AI एक संग्रहालय (तर्क प्रक्रिया) के माध्यम से घूमने वाला एक पर्यटक है। बिना VAPO के, पर्यटक इतिहास की किताबों (टेक्स्ट) को लेकर इतना उत्साहित हो जाता है कि वह पेंटिंग्स (इमेज) को देखना ही छोड़ देता है।
VAPO एक सख्त टूर गाइड की तरह काम करता है जो पर्यटक को हर कुछ मिनटों में रोकता है और कहता है:
"रुको! इस पेंटिंग को देखो। क्या आसमान नीला है? क्या आदमी ने टोपी पहनी है? आगे बढ़ने से पहले 'हाँ' या 'नहीं' में उत्तर दो।"
ये ठहराव "विजुअल एंकर्स" (Visual Anchors) कहलाते हैं।
- AI को अपने आंतरिक संवाद (monologue) को रोकने के लिए मजबूर किया जाता है।
- उसे चित्र को फिर से देखना होता है ताकि वह एक सरल प्रश्न का उत्तर दे सके।
- यदि वह सही उत्तर देता है, तो उसे एक "इनाम" (reward) मिलता है। यदि वह चित्र को अनदेखा करता है, तो उसे "दंड" (penalty) मिलता है।
ऐसा करने से, AI प्रशिक्षण के दौरान यह सीख जाता है कि आप चित्र को देखते रहे बिना पहेली को हल नहीं कर सकते।
परिणाम
इस "टूर गाइड" पद्धति के साथ प्रशिक्षण के बाद:
- AI (जिसे VAPO-Thinker नाम दिया गया है) चित्र को भूलने के मामले में बहुत बेहतर हो गया।
- इसने विभिन्न परीक्षणों पर नए रिकॉर्ड तोड़ दिए, विशेष रूप से उन कार्यों पर जिनमें बारीकियों को करीब से देखने की आवश्यकता होती है (जैसे वस्तुओं को गिनना या चार्ट पढ़ना)।
- इसने साबित कर दिया कि आपको AI को सोचने से रोकने की ज़रूरत नहीं है; आपको बस यह सुनिश्चित करने की ज़रूरत है कि वह सोचते समय अपनी आँखें खुली रखे।
सारांश
- समस्या: विजुअल कार्यों के बारे में बहुत अधिक "सोचने" वाले AI मॉडल चित्र को अनदेखा करने लगते हैं और गलतियाँ करते हैं (Visual Forgetting)।
- कारण: AI जितना अधिक सोचता है, वह टेक्स्ट पर उतना ही अधिक निर्भर होता जाता है और दृष्टि (sight) पर कम।
- समाफ: एक नया प्रशिक्षण तरीका (VAPO) जो AI को नियमित अंतराल पर रुकने और जो वह देख रहा है उसे सत्यापित करने के लिए मजबूर करता है, जैसे कि एक टूर गाइड जो मैप की जाँच करता है।
- परिणाम: एक स्मार्ट AI जो तर्क का उपयोग भी करता है और अपनी नज़रें भी लक्ष्य पर रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।