Improving Reasoning in Vision-Language Models via Perception Verified Self-Training
यह शोध पत्र एक धारणा-सत्यापित स्व-प्रशिक्षण ढांचे (perception-verified self-training framework) का प्रस्ताव करता है जो अनसुपरवाइज्ड कैप्शन मूल्यांकन और एक दो-चरणीय पाठ्यक्रम शिक्षण रणनीति के माध्यम से धारणा को तर्क से अलग करके विजन-लैंग्वेज मॉडल्स में दृश्य मतिभ्रम (visual hallucinations) और भाषाई शॉर्टकट को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान छात्र (एक विजन-लैंग्वेज मॉडल) को चित्रों को देखकर पहेलियाँ सुलझाने और सवालों के जवाब देने के तरीके सिखाने की कोशिश कर रहे हैं। लक्ष्य यह है कि छात्र केवल सही उत्तर का अनुमान न लगाए, बल्कि समस्याओं को तर्कसंगत रूप से, चरण-दर-चरण हल करे, ठीक वैसे ही जैसे एक इंसान करता है।
यह शोध पत्र तर्क देता है कि इन छात्रों को सिखाने का वर्तमान तरीका त्रुटिपूर्ण है। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
समस्या: "किस्मत वाला गेस करने वाला" छात्र
वर्तमान में, शोधकर्ता इन AI मॉडलों को सेल्फ-ट्रेनिंग (Self-Training) नामक एक विधि से सिखाते हैं। यह ऐसा है जैसे छात्र को अपना होमवर्क खुद ग्रेड करने देना।
- छात्र एक चित्र देखता है और एक समस्या को हल करने की कोशिश करता है।
- यदि अंतिम उत्तर सही है, तो शिक्षक (कंप्यूटर) कहता है, "बहुत बढ़िया! इस तर्क को अपनी नोटबुक में लिख लो।"
- यदि उत्तर गलत है, तो नोटबुक की उस प्रविष्टि (entry) को फेंक दिया जाता है।
दोष: छात्र गलत कारणों से सही उत्तर प्राप्त कर सकता है।
- विजुअल हैलुसिनेशन (Visual Hallucination): छात्र कह सकता है, "मुझे चित्र में एक बैंगनी बिल्ली दिख रही है," भले ही वहां कोई बैंगनी बिल्ली न हो। उन्होंने केवल भाग्य से सही उत्तर का अनुमान लगा लिया।
- लैंग्वेज शॉर्टकट्स (Language Shortcuts): छात्र चित्र को पूरी तरह से अनदेखा कर सकता है और केवल शब्दों के आधार पर अनुमान लगा सकता है। उदाहरण के लिए, यदि प्रश्न "कीचड़ भरे खेत" के बारे में पूछता है, तो छात्र बिना फोटो में कीचड़ देखे ही "कीचड़ भरा खेत" का अनुमान लगा सकता है।
यदि शिक्षक केवल अंतिम उत्तर की जांच करता है, तो ये बुरी आदतें (हैलुसिनेशन और शॉर्टकट) सुदृढ़ होती हैं। छात्र सीखने के बजाय "चीटिंग" करना सीख जाता है।
समाधान: "फैक्ट-चेकर" सिस्टम
लेखक एक नई प्रशिक्षण विधि प्रस्तावित करते हैं जिसे परसेप्शन वेरिफाइड सेल्फ-ट्रेनिंग (Perception Verified Self-Training) कहा जाता है। इसे एक सख्त तथ्य-जांचकर्ता (fact-checker) के रूप में सोचें जो केवल अंतिम ग्रेड नहीं देखता, बल्कि श्रेय देने से पहले 'काम' की भी जांच करता है।
उनका सिस्टम तीन चतुर चरणों में काम करता है:
1. तीन-भाग वाला निबंध (धारणा और तर्क को अलग करना)
छात्र को एक अव्यवस्थित पैराग्राफ लिखने देने के बजाय, वे उन्हें तीन अलग-अलग खंडों वाला एक संरचित निबंध लिखने के लिए मजबूर करते हैं:
- कैप्शन (धारणा/Perception): "मैं वास्तव में क्या देख रहा हूँ?" (जैसे, "दो जार हैं, एक में नीले कण हैं, दूसरे में हरे।")
- तर्क (Reasoning): "मैं समस्या को हल करने के लिए जो देख रहा हूँ उसका उपयोग कैसे करूँ?"
- निष्कर्ष (Conclusion): "अंतिम उत्तर।"
यह छात्र को देखने और सोचने को अलग करने के लिए मजबूर करता है।
2. फैक्ट-चेकर (PerceptEval)
चूंकि शिक्षक के पास कैप्शन की तुलना करने के लिए कोई "सही" कैप्शन नहीं होता है, इसलिए उन्होंने PerceptEval नामक एक विशेष उपकरण बनाया है। यह उपकरण दो आवर्धक लेंसों (magnifying glasses) वाले एक जासूस की तरह काम करता है:
- लेंस 1 (टेक्स्ट चेक): यदि चित्र पर कुछ लिखा है (जैसे "32 kg" वाला साइन), तो टूल यह जांचता है कि क्या छात्र के कैप्शन में वह टेक्स्ट शामिल था।
- लेंस 2 (विजुअल चेक): टूल छात्र के चित्र के वर्णन की वास्तविक चित्र के साथ तुलना करता है कि क्या वस्तुएं मेल खाती हैं।
यदि छात्र का चित्र का वर्णन गलत है (हैलुसिनेशन है), तो पूरा उत्तर खारिज कर दिया जाता है, भले ही अंतिम अनुमान सही क्यों न हो।
3. दो-चरणीय जिम रूटीन (Curriculum Learning)
लेखकों ने महसूस किया कि आप छात्र के सामने तुरंत सबसे कठिन समस्याएं नहीं रख सकते। उन्होंने एक दो-चरणीय प्रशिक्षण शिविर तैयार किया:
- चरण 1: आसान रास्ता (The Easy Lane)। छात्र केवल उन समस्याओं का अभ्यास करता है जहाँ उसे चित्र का वर्णन और अंतिम उत्तर दोनों सही मिले। यह "ईमानदार" तर्क की एक मजबूत नींव बनाता है।
- चरण 2: मध्यम रास्ता (The Medium Lane)। एक बार जब छात्र बुनियादी बातों में अच्छा हो जाता है, तो उसे "मध्यम" समस्याएं दी जाती हैं। ये वे मामले हैं जहाँ छात्र ने चित्र का वर्णन तो सही किया लेकिन अंतिम उत्तर गलत हो गया।
- ट्रिक: सिस्टम छात्र के सही चित्र वर्णन को लेता है और उसे वापस फीड करता है, यह कहते हुए, "तुमने इसे सही देखा, अब फिर से गणित/तर्क हल करने की कोशिश करो।"
- यदि वह इस बार उत्तर सही पाता है, तो वह प्रशिक्षण नोटबुक में अपनी जगह बनाता है।
परिणाम
AI को यह सत्यापित करने के लिए मजबूर करके कि वह क्या देख रहा है, और चरणों में प्रशिक्षण देकर (पहले आसान, फिर मध्यम), मॉडल "लैंग्वेज शॉर्टकट" और हैलुसिनेशन के साथ "चीटिंग" करना बंद कर देता है।
यह दावा किया गया है कि इस पद्धति ने पिछले तरीकों की तुलना में मॉडल की तर्क सटीकता (reasoning accuracy) को 16% तक सुधार दिया है। यह साबित करता है कि यदि आप AI को यह प्रमाणित करने के लिए मजबूर करते हैं कि उसने चित्र को सही ढंग से "देखा" है, तो वह जटिल दृश्य पहेलियों को सुलझाने में बहुत बेहतर हो जाता है, और इसके लिए हर एक चरण को लिखने के लिए महंगे मानव शिक्षकों की आवश्यकता भी नहीं होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।