💻 computer science

CASHEW: Stabilizing Multimodal Reasoning via Iterative Trajectory Aggregation

यह शोध पत्र CASHEW, जो एक इन्फरेंस-टाइम फ्रेमवर्क है, और CASHEW-RL, जो ग्रुप सीक्वेंस पॉलिसी ऑप्टिमाइज़ेशन के साथ प्रशिक्षित एक सीखा हुआ वेरिएंट है, को पेश करता है, जो कैंडिडेट ट्राजेक्टरीज को इटरेटिव रूप से एग्रीगेट करके और विजुअल वेरिफिकेशन के माध्यम से हैलुसिनेशन को फ़िल्टर करके मल्टीमॉडल रीजनिंग को स्थिर करता है, जिससे 13 इमेज और वीडियो अंडरस्टैंडिंग बेंचमार्क में महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।

मूल लेखक: Chaoyu Li, Deeparghya Dutta Barua, Fei Tao, Pooyan Fazli

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chaoyu Li, Deeparghya Dutta Barua, Fei Tao, Pooyan Fazli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कठिन पहेली को सुलझाने की कोशिश कर रहे हैं, जैसे कि किसी पेंटिंग वीडियो में एक कप पानी वास्तव में क्या कर रहा है, यह पता लगाना। यदि आप एक मानक AI (एक विजन-लैंग्वेज मॉडल) से केवल एक बार पूछते हैं, तो वह अनुमान लगा सकता है, "शायद कलाकार वहां ब्रश रख रहा है?" वह आश्वस्त है, लेकिन गलत है। यदि आप उससे फिर से पूछते हैं, तो वह अनुमान लगा सकता है, "शायद यह ब्रश आराम देने के लिए है?" वह अभी भी अनुमान ही लगा रहा है, और उसके उत्तर बदलते रहते हैं। यही वह समस्या है जिसे यह पेपर अनस्टेबल रीजनिंग (unstable reasoning) कहता है।

एरिजोना स्टेट यूनिवर्सिटी और न्यूज़ब्रेक के लेखकों ने इस समस्या को ठीक करने के लिए CASHEW (और एक स्मार्ट वर्शन CASHEW-RL) नामक एक समाधान बनाया है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

1. समस्या: "अकेला विचारक" (The Lonely Thinker)

वर्तमान AI मॉडल एक ऐसे व्यक्ति की तरह हैं जो अंधेरे कमरे में पहेली सुलझाने की कोशिश कर रहा है। वे अपने ही पैरों से टकरा सकते हैं (गलती कर सकते हैं) और गलत दिशा में चलते रह सकते हैं क्योंकि वे पूरी तस्वीर को स्पष्ट रूप से नहीं देख पाते। वे अक्सर "हैलुसिनेट" (hallucinate) करते हैं, यानी वे ऐसी बातें बना लेते हैं जो वहां मौजूद ही नहीं हैं, जैसे कि यह कहना कि कप भंडारण (storage) के लिए है जबकि वास्तव में वह सफाई के लिए है।

2. समाधान: "स्टडी ग्रुप" (The Study Group - CASHEW)

AI को अकेले सोचने देने के बजाय, CASHEW AI को एक स्टडी ग्रुप में बदल देता है।

प्रक्रिया: जब AI को कोई प्रश्न मिलता है, तो वह केवल एक उत्तर नहीं देता। वह कई अलग-अलग "विचार पथों" (trajectories) का एक समूह बनाता है। कल्पना कीजिए कि एक कमरे में 8 अलग-अलग छात्र हैं, जिनमें से प्रत्येक अपनी ओर से पहेली को सुलझाने की कोशिश कर रहा है।
वास्तविकता की जांच (विजुअल वेरिफिकेशन): यही असली मंत्र है। इससे पहले कि समूह किसी उत्तर पर सहमत हो, एक "रेफरी" (एक विजुअल वेरिफिकेशन टूल) उनके काम की वास्तविक चित्र या वीडियो के विरुद्ध जांच करता है। यदि कोई छात्र कहता है, "कप भंडारण के लिए है," तो रेफरी वीडियो को देखता है और कहता है, "नहीं, मुझे वहां कोई स्टोरेज शेल्फ नहीं दिख रहा है। मैं देख रहा हूं कि कलाकार ब्रश को साफ करने के लिए उसे डुबो रहा है।"
संश्लेषण (The Synthesis): इसके बाद AI उन 8 छात्रों के विचारों के सबसे अच्छे हिस्सों को लेता है, रेफरी के नोट्स का उपयोग करके झूठ (हैलुसिनेशन) को हटा देता है, और उन्हें एक सुपर-सटीक, साक्ष्य-आधारित उत्तर में मिला देता है।

यह एक अव्यवस्थित विचार-मंथन सत्र को एक पॉलिश किए हुए, तथ्य-जांच वाले रिपोर्ट में बदलने जैसा है।

3. अपग्रेड: "आंतरिक विशेषज्ञ" (The Internalized Expert - CASHEW-RL)

पहला वर्शन (CASHEW) बहुत अच्छा है, लेकिन इसके लिए कंप्यूटर को हर बार सवाल का जवाब देने के लिए "स्टडी ग्रुप" प्रक्रिया चलाने की आवश्यकता होती है, जो धीमा हो सकता है।

लेखकों ने CASHEW-RL भी बनाया है। इसे ऐसे समझें कि आप उस स्टडी ग्रुप को लेकर AI को खुद ग्रुप लीडर बनने के लिए सिखा रहे हैं।

उन्होंने AI को एक विशेष रिवॉर्ड सिस्टम (जैसे वीडियो गेम स्कोर) का उपयोग करके प्रशिक्षित किया जो निम्नलिखित के लिए अंक देता था:
1. सही उत्तर प्राप्त करना।
2. सही विजुअल साक्ष्य का उल्लेख करना (जैसे कप की ओर इशारा करना)।
3. आसान सवालों पर समय बर्बाद न करना (कुशल होना)।
इस प्रशिक्षण के बाद, AI ने "ग्रुप थिंकिंग" और "फैक्ट-चेकिंग" करना अपने आप, अपने दिमाग के अंदर, बहुत तेजी से और अधिक कुशलता से सीख लिया।

उन्होंने क्या पाया?

पेपर ने परीक्षण करने के लिए छवियों और वीडियो से जुड़े 13 अलग-अलग बेंचमार्क का उपयोग किया। परिणाम AI रीजनिंग के लिए एक जादुई छड़ी खोजने जैसा थे:

सटीकता में बड़ी छलांग: साइंस क्यूए (ScienceQA) नामक विज्ञान क्विज़ पर, AI का स्कोर 26.2 प्रतिशत अंक बढ़ गया। एगोस्केमा (EgoSchema) नामक वीडियो रीजनिंग टेस्ट पर, यह 9.1 प्रतिशत अंक बढ़ गया।
कम हैलुसिनेशन: AI ने तथ्य बनाना बंद कर दिया। इसने वही देखना शुरू किया जो वास्तव में चित्र में दिखाई दे रहा था।
प्रतिद्वंद्वियों से बेहतर: अन्य तरीकों की तुलना में जो AI रीजनिंग को ठीक करने की कोशिश करते हैं (जैसे कि AI से एक ही सवाल 8 बार पूछना और सबसे आम उत्तर चुनना), CASHEW हर बार जीता।

संक्षेप में

पेपर का दावा है कि AI को समूहों में सोचने, विजुअल साक्ष्य के विरुद्ध अपने काम की जांच करने, और अपनी गलतियों से सीखने के लिए मजबूर करके, हम इसे बहुत अधिक विश्वसनीय बना सकते हैं। यह AI को आत्मविश्वास से अनुमान लगाने से रोकता है और इसे सावधानीपूर्वक, साक्ष्य-आधारित तर्क के पथ पर ले जाता है।

तकनीकी सारांश: CASHEW – इटरेटिव ट्राजेक्टरी एग्रीगेशन के माध्यम से मल्टीमॉडल रीजनिंग को स्थिर करना

1. समस्या विवरण

विज़न-लैंग्वेज मॉडल्स (VLMs) ने मल्टीमॉडल समझ और रीजनिंग कार्यों में महत्वपूर्ण सफलता प्राप्त की है। हालांकि, उनकी बहु-चरणीय (multi-step) रीजनिंग प्रक्रियाएं नाजुक और अस्थिर बनी हुई हैं। मुख्य मुद्दे शामिल हैं:

अस्थिरता (Instability): एक ही इनपुट पर बार-बार सैंपलिंग करने से अक्सर अलग-अलग रीजनिंग ट्राजेक्टरीज और असंगत अंतिम भविष्यवाणियां प्राप्त होती हैं।
भ्रम (Hallucinations): मॉडल विजुअल हैलुसिनेशन के प्रति संवेदनशील होते हैं, जहाँ रीजनिंग स्टेप्स वास्तविक विजुअल साक्ष्यों पर आधारित नहीं होते हैं।
वर्तमान टेस्ट-टाइम स्केलिंग की सीमाएं: मौजूदा दृष्टिकोण अक्सर "सैंपल-एंड-सेलेक्ट" प्रतिमान (paradigm) का पालन करते हैं, जो कई स्वतंत्र चेन्स जनरेट करते हैं और खारिज की गई ट्राजेक्टरीज से आंशिक अंतर्दृष्टि को छोड़ देते हैं। इसके अलावा, स्पष्ट ग्राउंडिंग के बिना केवल रीजनिंग की लंबाई या सैंपलिंग काउंट बढ़ाने से शुरुआती धारणात्मक त्रुटियों (perceptual errors) के सुधरने के बजाय वे बढ़ सकती हैं, जिससे मॉडल "बेहतर सोचने" के बजाय केवल "अधिक देर तक सोचने" लगता है।

2. कार्यप्रणाली

यह शोध पत्र दो पूरक दृष्टिकोण प्रस्तावित करता है: CASHEW (एक इन्फरेंस-टाइम फ्रेमवर्क) और CASHEW-RL (एक सीखा हुआ वेरिएंट)।

CASHEW: इटरेटिव एग्रीगेशन फ्रेमवर्क

CASHEW रीजनिंग को एक विकासवादी प्रक्रिया के रूप में मानता है जहाँ कैंडिडेट ट्राजेक्टरीज की एक आबादी को इटरटिव रूप से सिंथेसाइज और रिफाइन किया जाता है। यह चार चरणों में संचालित होता है:

पॉपुलेशन इनिशियलाइजेशन: बेस VLM $N$ कैंडिडेट रीजनिंग ट्राजेक्टरीज की एक प्रारंभिक आबादी जनरेट करता है।
सबसेट सैंपलिंग: प्रत्येक इटरेशन में, विविधता लाने और एक एकल रीजनिंग मोड में ढलने (collapse) को रोकने के लिए पीयर ट्राजेक्टरीज का एक रैंडम सबसेट रेफरेंस कैंडिडेट के रूप में सैंपल किया जाता है।
विजुअल वेरिफिकेशन: एग्रीगेशन से पहले, एक लाइटवेट विजुअल-टेक्स्ट ग्राउंडिंग मॉड्यूल (जिसे Grounding DINO का उपयोग करके लागू किया गया है) ऑब्जेक्ट- और एट्रिब्यूट-लेवल दावों को विजुअल इनपुट के विरुद्ध सत्यापित करता है। केवल ग्राउंडेड साक्ष्य ही अगले चरणों को निर्देशित करने के लिए रखे जाते हैं।
ग्राउंडेड एग्रीगेशन: मॉडल सैंपल की गई ट्राजेक्टरीज और उनके सत्यापित विजुअल साक्ष्यों को सिंथेसाइज करता है ताकि एक अपडेटेड, उच्च-गुणवत्ता वाली रीजनिंग ट्राजेक्टरी जनरेट की जा सके। यह प्रक्रिया $T$ इटरेशन के लिए दोहराई जाती है, जिसका समापन एक अंतिम समेकित (consolidated) ट्राजेक्टरी में होता है।

CASHEW-RL: GSPO के माध्यम से सीखा हुआ एग्रीगेशन

CASHEW-RL एक दो-चरणीय पोस्ट-ट्रेनिंग प्रक्रिया के माध्यम से एग्रीगेशन व्यवहार को एक एकल मॉडल में आंतरिक बनाता है:

सुपरवाइज्ड फाइन-ट्यूनिंग (SFT): मॉडल को एक स्ट्रक्चर्ड एग्रीगेशन फॉर्मेट पर प्रशिक्षित किया जाता है जिसमें तीन घटक होते हैं: एक रीजनिंग ट्रेस (<thought>), सत्यापित विजुअल कीज़ का एक सेट (<visual_keys>), और अंतिम उत्तर (<answer>)। यह एक रेफरेंस पॉलिसी ( $\pi_{ref}$ ) स्थापित करता है और मॉडल को साक्ष्य व्यक्त करने और आउटपुट फॉर्मेट करने के लिए सिखाता है।
GSPO के माध्यम से सुदृढीकरण शिक्षण (RL): मॉडल को एक कंपोजिट रिवॉर्ड फंक्शन का उपयोग करके अनुकूलित किया जाता है जो तीन उद्देश्यों को संतुलित करता है:
- उत्तर शुद्धता ( $R_{acc}$ ): ग्राउंड ट्रुथ के साथ सटीक मिलान।
- एविडेंस सिलेक्शन क्वालिटी ( $R_{key}$ ): एक संतुलित प्रिसिजन-रिकॉल फॉर्मूलेशन जो प्रासंगिक विजुअल कीज़ के चयन को प्रोत्साहित करता है और अनियंत्रित प्रसार से बचता है।
- डिफिकल्टी-अवेयर लेंथ पेनल्टी ( $R_{len}$ ): एक एडेप्टिव पेनल्टी जो आसान कार्यों (जहाँ उच्च सॉल्व रेट देखा जाता है) पर अत्यधिक वर्बोसिटी को हतोत्साहित करती है, जबकि कठिन कार्यों के लिए लचीलापन प्रदान करती है।

प्रशिक्षण ऑफलाइन टीचर-जेनरेटेड ट्राजेक्टरीज और ऑन-पॉलिसी ट्राजेक्टरीज के एक करिकुलम-आधारित मिश्रण का उपयोग करता है, जो रोबस्टनेस में सुधार करने और डिस्ट्रीब्यूशन शिफ्ट को कम करने के लिए धीरे-धीरे सेल्फ-जेनरेटेड डेटा के अनुपात को बढ़ाता है।

3. मुख्य योगदान

CASHEW: एक प्लग-एंड-प्ले इन्फरेंस-टाइम फ्रेमवर्क जो स्पष्ट विजुअल वेरिफिकेशन के साथ कैंडिडेट ट्राजेक्टरीज को इटरटिवली एग्रीगेट करके मल्टीमॉडल रीजनिंग को स्थिर करता है, प्रभावी रूप से हैलुसिनेशन को फिल्टर करता है और रीजनिंग को साक्ष्यों में ग्राउंड करता है।
CASHEW-RL: एक सीखा हुआ वेरिएंट जो GSPO और एक कंपोजिट रिवॉर्ड के माध्यम से ट्राजेक्टरी एग्रीगेशन को आंतरिक बनाता है, जिससे मॉडल को अनुकूलित प्रयास (adaptive effort) के साथ मजबूत, विजुअली ग्राउंडेड एग्रीगेशन करने में सक्षम बनाया जाता है।
अनुभवजन्य सत्यापन (Empirical Validation): विविध मॉडल बैकबोन और मोडैलिटीज पर निरंतर प्रदर्शन सुधारों का प्रदर्शन करने वाले व्यापक प्रयोग।

4. प्रयोगात्मक परिणाम

मेथड्स का मूल्यांकन इमेज अंडरस्टैंडिंग, वीडियो अंडरस्टैंडिंग और वीडियो रीजनिंग को कवर करने वाले 13 बेंचमार्क्स पर किया गया।

प्रदर्शन लाभ:
- इमेज बेंचमार्क्स: CASHEW-RL ने महत्वपूर्ण सुधार हासिल किए, जिसमें ScienceQA (Qwen3-VL-4B) पर +26.2 प्रतिशत अंक और EgoSchema (InternVL3.5-8B) पर +9.1 प्रतिशत अंक शामिल हैं।
- वीडियो बेंचमार्क्स: Video-MME, LongVideoBench, और MVBench में निरंतर लाभ देखे गए। उदाहरण के लिए, CASHEW-RL ने InternVL3.5-8B के लिए EgoSchema स्कोर में +9.1 अंक का सुधार किया।
SOTA के साथ तुलना: CASHEW ने सभी मेट्रिक्स पर मौजूदा टेस्ट-टाइम स्केलिंग बेसलाइन्स (Self-Consistency, Self-Selector, और Self-Synthesizer) को पछाड़ दिया। विशेष रूप से, MME बेंचमार्क पर, इसने परसेप्शन और कॉग्निशन स्कोर पर सबसे मजबूत बेसलाइन (Self-Synthesizer) से क्रमशः +48.2 और +82.6 अंक अधिक प्राप्त किए।
एब्लेशन स्टडीज: विजुअल ग्राउंडिंग मॉड्यूल (Grounding DINO) को हटाने के बाद भी बेस VLM की तुलना में सुधार देखा गया, जो इंगित करता है कि इटरेटिव एग्रीगेशन प्रदर्शन का प्राथमिक चालक है, जबकि विजुअल ग्राउंडिंग विश्वसनीयता को और बढ़ाता है।
दक्षता (Efficiency): CASHEW-RL ने कम एग्रीगेशन इटरेशन के साथ गहरे CASHEW कॉन्फ़िगरेशन के समान प्रदर्शन प्राप्त किया, जो बेहतर एग्रीगेशन दक्षता का सुझाव देता है।

5. महत्व और दावे

पेपर का दावा है कि CASHEW और CASHEW-RL मल्टीमॉडल रीजनिंग की अस्थिरता के लिए एक मजबूत समाधान प्रदान करते हैं। "सैंपल-एंड-सेलेक्ट" प्रतिमान से "इटरेटिव एग्रीगेशन" प्रतिमान की ओर शिफ्ट होकर, ये मेथड्स सुनिश्चित करते हैं कि रीजनिंग कंसेंसस विजुअल साक्ष्यों में एंकर (anchored) है। लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण मॉडल्स को केवल "अधिक देर तक सोचने" के बजाय "साथ मिलकर सोचने" की अनुमति देता है, जो प्रभावी रूप से हैलुसिनेशन को कम करता है और निरंतरता में सुधार करता है। विजुअल वेरिफिकेशन और GSPO के माध्यम से एडेप्टिव रीजनिंग एफर्ट का एकीकरण मॉडल को ऐसे उत्तर देने में सक्षम बनाता है जो न केवल सही हैं बल्कि न्यूनतम लेकिन पर्याप्त विजुअल साक्ष्य पर आधारित भी हैं।

6. सीमाएं

लेखक स्वीकार करते हैं कि वर्तमान कार्य नियंत्रित तुलनाओं को सक्षम करने के लिए एक फिक्स्ड एग्रीगेशन बजट का उपयोग करता है, जो उन रिसोर्स-कंस्ट्रेंड एप्लिकेशन्स के लिए इष्टतम नहीं हो सकता है जहाँ आसान उदाहरणों को व्यापक एग्रीगेशन की आवश्यकता नहीं होती है। हालांकि CASHEW-RL इसे एग्रीगेशन व्यवहार को आंतरिक बनाकर आंशिक रूप से संबोधित करता है, एडेप्टिव बजट एलोकेशन का व्यवस्थित अध्ययन भविष्य के कार्य के रूप में पहचाना गया है।