🤖 AI

Grounding the Score: Explicit Visual Premise Verification for Reliable Vision-Language Process Reward Models

यह शोध पत्र एक्प्लिसिट विजुअल प्रिमिस वेरिफिकेशन (EVP ही) को प्रस्तुत करता है, जो एक हल्का ढांचा (लाइटवेट फ्रेमवर्क) है जो विजन-लैंग्वेज प्रोसेस रिवॉर्ड मॉडल्स में स्पष्ट विजुअल चेकलिस्ट उत्पन्न करके और इमेज-व्युत्पन्न बाधाओं के साथ उनके संरेखण के आधार पर स्टेप रिवार्ड्स को कैलिब्रेट करके धारणात्मक अनिश्चितता (परसेप्चुअल अनसर्टेन्टी) को तार्किक मूल्यांकन से अलग करता है, जिससे मल्टीमॉडल रीजनिंग बेंचमार्क में पुनर्रैंकिंग सटीकता और त्रुटि स्थानीयकरण में सुधार होता है।

मूल लेखक: Junxin Wang, Dai Guan, Weijie Qiu, Zhihang Li, Yongbo Gai, Zhengyi Yang, Mengyu Zhou, Erchao Zhao, Xiaoxi Jiang, Guanjun Jiang

प्रकाशित 2026-03-18

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Junxin Wang, Dai Guan, Weijie Qiu, Zhihang Li, Yongbo Gai, Zhengyi Yang, Mengyu Zhou, Erchao Zhao, Xiaoxi Jiang, Guanjun Jiang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जटिल ज्यामिति (geometry) की समस्या को हल करने के लिए विशेषज्ञों की एक टीम की भर्ती कर रहे हैं, जो एक आरेख (diagram) पर आधारित है। आप उन्हें अपना समाधान चरण-दर-चरण लिखने के लिए कहते हैं ताकि आप उनके काम की जांच कर सकें।

अतीत में, "जज" (एक AI जिसे प्रोसेस रिवॉर्ड मॉडल कहा जाता है) केवल ट्यूटर के चरणों को पढ़ता था और उन्हें एक स्कोर देता था। लेकिन यहाँ एक समस्या थी: जज चित्र को देखने में खराब था।

यदि ट्यूटर ने आरेख को पढ़ने में गलती की (जैसे, "वृत्त की त्रिज्या 5 है"), तो जज को लग सकता था कि ट्यूटर बहुत चतुर है और वह उन्हें उच्च स्कोर दे सकता था। या, यदि टुटोर सही था लेकिन जज को लगा कि त्रिज्या 3 है, तो जज उसे गलत तरीके से दंडित कर सकता था। जज यह अंतर नहीं कर पा रहा था कि यह एक तर्क की त्रुटि (खराब गणित) है या एक दृष्टि की त्रुटि (खराब विजन)।

यह पेपर एक नया सिस्टम पेश करता है जिसे EVPV (एक्सप्लिसिट विजुअल प्रिमिस वेरिफिकेशन) कहा जाता है। इसे जजिंग प्रक्रिया में एक विशेष "फैक्ट-चेकर" सहायक जोड़ने के रूप में समझें।

यह कैसे काम करता है, इसे सरल उपमाओं (analogies) में तोड़कर यहाँ दिया गया है:

1. समस्या: "अंधा जज" (The Blind Judge)

एक गेम शो की कल्पना करें जहाँ एक प्रतियोगी एक चित्र के आधार पर पहेली सुलझाता है।

पुराना तरीका: होस्ट (AI जज) प्रतियोगी के उत्तर को पढ़ता है। यदि प्रतियोगी कहता है, "लाल गेंद बाईं ओर है," और होस्ट को लगता है कि वह दाईं ओर है, तो होस्ट उत्तर को गलत चिह्नित कर सकता है। या, यदि प्रतियोगी एक ऐसी गेंद की कल्पना करता है जो वहाँ है ही नहीं, तो होस्ट अनजाने में उससे सहमत हो सकता है क्योंकि वह भी चित्र को लेकर भ्रमित है।
परिणाम: अच्छे तर्क को दंडित किया जाता है, और खराब तर्क को पुरस्कृत किया जाता है। सिस्टम अविश्वसनीय है।

2. समाधान: "फैक्ट-चेकर" (EVPV)

लेखकों ने एक ऐसा सिस्टम बनाया है जो देखने और सोचने को अलग करता है।

चरण A: "चेकलिस्ट" (द पॉलिसी)
ट्यूटर (समस्या हल करने वाला AI) अपना गणित लिखने से पहले, उसे एक विजुअल चेकलिस्ट भरनी पड़ती है।

उपमा: पहेली सुलझाने से पहले, प्रतियोगी को कहना चाहिए: "मैं बाईं ओर एक लाल गेंद और दाईं ओर एक नीला वर्ग देख रहा हूँ।"
यह AI को स्पष्ट रूप से यह बताने के लिए मजबूर करता है कि, "मैं अपने अगले गणितीय चरण को इस विशिष्ट दृश्य तथ्य के आधार पर बना रहा हूँ।"

चरण B: "स्वतंत्र ऑडिटर" (द कंस्ट्रेंट एक्सट्रैक्टर)
जब प्रतियोगी अपनी चेकलिस्ट लिख रहा होता है, तब एक अलग, स्वतंत्र रोबोट (कंस्ट्रेंट एक्सट्रैक्टर) चित्र को देखता है और एक मास्टर फैक्ट शीट बनाता है।

उपमा: एक दूसरा रोबोट चित्र को स्कैन करता है और लिखता है: "तथ्य: लाल गेंद (x=10, y=5) पर है। तथ्य: नीला वर्ग (x=20, y=5) पर है।"
महत्वपूर्ण बात यह है कि यह रोबोट गणित की परवाह नहीं करता; इसे केवल इस बात की परवाह है कि वास्तव में चित्र में क्या है।

चरण C: "मैच-अप" (वेरिफिकेशन)
अब, सिस्टम चेकलिस्ट की मास्टर फैक्ट शीट के साथ तुलना करता है।

उपमा: होस्ट जाँचता है: "क्या प्रतियोगी ने कहा कि गेंद बाईं ओर है? हाँ। क्या मास्टर फैक्ट शीट कहती है कि गेंद बाईं ओर है? हाँ।" -> मैच!
उपमा: "क्या प्रतियोगी ने कहा कि गेंद दाईं ओर है? हाँ। क्या मास्टर फैक्ट शीट कहती है कि वह बाईं ओर है? नहीं।" -> मिसमैच!

3. "ट्रैफिक लाइट" सिस्टम (रिलायबिलिटी गेटिंग)

यही जादुई हिस्सा है। सिस्टम मैच-अप के परिणाम का उपयोग यह तय करने के लिए करता है कि गणित पर कितना भरोसा किया जाए।

ग्रीन लाइट (उच्च विश्वसनीयता): चेकलिस्ट तथ्यों से पूरी तरह मेल खाती है। सिस्टम कहता है, "ठीक है, विजन स्पष्ट है। अब, आइए गणित के तर्क को सख्ती से परखें।" यदि गणित गलत है, तो इसे बुरा स्कोर मिलता है। यदि यह सही है, तो इसे अच्छा स्कोर मिलता है।
रेड लाइट (कम विश्वसनीयता): चेकलिस्ट तथ्यों के विपरीत है (उदाहरण के लिए, AI ने एक "बेलनाकार छेद" का दावा किया जो मौजूद ही नहीं है)। सिस्टम कहता है, "रुको! विजन टूटा हुआ है! मैं इसके बाद के गणित पर भरोसा नहीं कर सकता।"
- एक कठोर "गलत" स्कोर देने के बजाय (जो अनुचित हो सकता है यदि गणित वास्तव में सही था लेकिन एक खराब दृष्टि पर आधारित था), सिस्टम स्कोर को कम (dampen) कर देता है। यह मूल रूप से कहता है, "मुझे यकीन नहीं है कि यह सही है या गलत क्योंकि शुरुआती बिंदु ही एक भ्रम (hallucination) था।"

यह एक बड़ी बात क्यों है?

यह "अंधे जज" को गलतियाँ करने से रोकता है। यह सिस्टम को एक छात्र को गणित की त्रुटि के लिए दंडित करने से रोकता है जब उसने वास्तव में केवल चित्र को गलत पढ़ा हो।
यह "हैलुसिनेशन रिवार्ड्स" को रोकता है। यह सिस्टम को एक छात्र को ऐसे तथ्य बनाने (जैसे "बेलनाकार छेद") के लिए पुरस्कृत करने से रोकता है जो केवल इसलिए किया गया क्योंकि उसके बाद का गणित सुनने में स्मार्ट लगता है।
यह तेज़ है। अन्य तरीकों के विपरीत जिनमें AI को हर एक चरण में चित्र की जांच करने के लिए किसी टूल का उपयोग करने के लिए रुकना पड़ता है (जो धीमा और महंगा है), यह सिस्टम तथ्यों को शुरुआत में एक बार जांचता है और फिर स्कोर को समायोजित करने के लिए एक साधारण "ट्रैफिक लाइट" का उपयोग करता है।

निचोड़ (The Bottom Line)

EVPV को एक गुणवत्ता नियंत्रण प्रबंधक (quality control manager) के रूप में देखें जिसे एहसास होता है कि आप किसी रेसिपी का न्याय तब तक नहीं कर सकते जब तक शेफ गलत सामग्री का उपयोग कर रहा हो।

यदि शेफ कहता है, "मैं चीनी डाल रहा हूँ," लेकिन मैनेजर देखता है कि शेफ नमक उठा रहा है, तो मैनेजर केवल यह नहीं कहता "अच्छा काम किया" या "बुरा काम किया।" मैनेजर कहता है, "रुको! आप गलत सामग्री का उपयोग कर रहे हैं। मैं आपके खाना पकाने का न्याय तब तक नहीं कर सकता जब तक आप सामग्री ठीक नहीं कर देते।"

पहले "सामग्री" (दृश्य तथ्यों) को ठीक करके, सिस्टम यह सुनिश्चित करता है कि अंतिम स्कोर वास्तविक तर्क को दर्शाता है, न कि केवल एक भाग्यशाली अनुमान या दृश्य गलती को। यह AI को बहुत अधिक विश्वसनीय बनाता है जब वे जटिल समस्याओं को हल करते हैं जिनमें चित्र और गणित दोनों शामिल होते हैं।

यहाँ शोध पत्र "Grounding the Score: Explicit Visual Premise Verification for Reliable VLM Process Reward Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) गणितीय तर्क (mathematical reasoning) में एक महत्वपूर्ण बाधा का सामना कर रहे हैं: दृश्य धारणा (विजुअल परसेप्शन - जैसे आरेख पढ़ना, OCR, ज्यामिति) और प्रतीकात्मक तर्क (सिंबॉलिक रीजनिंग - जैसे तर्क, गणना) का आपस में उलझ जाना।

ब्लैक-बॉक्स जज की समस्या: वर्तमान विजन-लैंग्वेज प्रोसेस रिवॉर्ड मॉडल्स (VL-PRMs) मध्यवर्ती तर्क चरणों (intermediate reasoning steps) को स्कोर तो देते हैं, लेकिन अक्सर एक ब्लैक बॉक्स की तरह कार्य करते हैं। कम स्कोर अस्पष्ट होता है: यह या तो तार्किक त्रुटि (logical error) का संकेत हो सकता है या केवल वर्िफायर (verifier) द्वारा इनपुट इमेज को गलत समझने का परिणाम।
व्यवस्थित त्रुटियाँ (Systematic Errors): यह अस्पष्टता निम्नलिखित कारणों से होती है:
- फॉल्स पॉजिटिव (False Positives): काल्पनिक दृश्य आधारों (visual premises) के आधार पर सुसंगत चरणों को पुरस्कृत करना (जैसे, यह मान लेना कि एक "बेलनाकार छेद" मौजूद है जबकि वह नहीं है)।
- फॉल्स नेगेटिव (False Negatives): सही तार्किक चरणों को दंडित करना क्योंकि वर्िफायर ने इनपुट इमेज को गलत पढ़ लिया।
परिणाम: ये त्रुटियाँ Best-of- $N$ रेंकिंग और एरर लोकलाइजेशन (error localization) को कमजोर करती हैं, क्योंकि सिस्टम यह अंतर नहीं कर पाता कि विफलता तर्क (reasoning) की है या धारणा (perception) की। मौजूदा टूल-इंटीग्रेटेड समाधान (जैसे, प्रत्येक चरण के लिए बाहरी टूल्स को कॉल करना) बड़े पैमाने पर टेस्ट-टाइम स्केलिंग के लिए बहुत अधिक कम्प्यूटेशनल रूप से महंगे हैं।

2. कार्यप्रणाली: स्पष्ट दृश्य आधार सत्यापन (Methodology: Explicit Visual Premise Verification - EVPV)

लेखक EVPV का प्रस्ताव करते हैं, जो एक हल्का (lightweight) फ्रेमवर्क है जो दृश्य अनिश्चितता (perceptual uncertainty) को तार्किक मूल्यांकन से अलग करता है। दृश्य आधार (visual premise) को एक दी गई सत्यता मानने के बजाय, EVPV तर्क चरण को स्कोर करने से पहले उसे स्पष्ट रूप से सत्यापित करता है।

मुख्य पाइपलाइन (Core Pipeline)

चरण-वार दृश्य चेकलिस्ट (Step-wise Visual Checklist):
- पॉलिसी मॉडल (सॉल्वर) को एक ऐसा तर्क पथ (reasoning trace) उत्पन्न करने के लिए प्रेरित किया जाता है जहाँ प्रत्येक चरण $s_t$ के साथ एक विजुअल डिपेंडेंसी डिक्लेरेशन ( $d_t$ ) जुड़ा होता है।
- यदि कोई चरण दृश्य डेटा पर निर्भर है, तो वह एक प्राकृतिक भाषा का दावा (assertion) प्रस्तुत करता है (जैसे, "त्रिज्या 2 है")। यह एक विजुअल चेकलिस्ट $V$ बनाता है।
संरचित दृश्य बाधा निष्कर्षण (Structured Visual Constraint Extraction):
- एक अलग कन्स्ट्रेंट एक्सट्रैक्टर ( $E_\phi$ ) प्रत्येक इंस्टेंस के लिए इनपुट इमेज और प्रश्न को एक बार प्रोसेस करता है ताकि संरचित दृश्य तथ्यों का एक सेट $C$ (JSON फॉर्मेट में) तैयार किया जा सके।
- ये बाधाएं (constraints) निम्नलिखित को कवर करती हैं:
  - संख्यात्मक (Numeric): लंबाई, कोण, टेबल के मान।
  - संबंध (Relations): समानांतर (parallel), लंबवत (perpendicular), समानता, समावेशन (incidence)।
  - संरचना (Structure): भाग-पूर्ण संबंध (part-whole relationships), जुड़ाव, आसन्नता (adjacency)।
- प्रशिक्षण (Training): एक्सट्रैक्टर को उच्च सटीकता सुनिश्चित करने के लिए सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) और डायरेक्ट प्रेफरेंस ऑप्टिमाइजेशन (DPO) का उपयोग करके एक शक्तिशाली टीचर मॉडल (Qwen3-VL) से डिस्टिल (distill) किया गया है।
विश्वसनीयता-से-संगति सिग्नल (Consistency-to-Reliability Signal):
- सिस्टम टाइप-अवेयर मैचिंग फंक्शन का उपयोग करके पॉलिसी के चेकलिस्ट को निकाले गए कन्स्ट्रेंट्स के साथ मिलाता है।
- यह एक स्केलर विजुअल रिलायबिलिटी स्कोर ( $r \in [0, 1]$ ) की गणना करता है।
- एकत्रीकरण (Aggregation): व्यक्तिगत दावों के स्कोर को एकत्रित करने के लिए ज्योमेट्रिक मीन (geometric mean) का उपयोग किया जाता है। यह सुनिश्चित करता है कि एक भी बड़ी गलत धारणा (एक दावा जिसका $p_j \approx 0$ हो) समग्र विश्वसनीयता $r$ को काफी कम कर देती है, जो इस तथ्य को दर्शाता है कि एक गलत आधार पूरे ट्रेस को अमान्य कर देता है।
रिलायबिलिटी-गेटेड रिवॉर्ड कैलिब्रेशन (Reliability-Gated Reward Calibration):
- एक मानक स्टेप वर्िफायर ( $V_\theta$ ) तार्किक शुद्धता के आधार पर एक बेस रिवॉर्ड ( $R_{base}$ ) उत्पन्न करता है।
- गेटिंग मैकेनिज्म (Gating Mechanism): अंतिम रिवॉर्ड $R_t$ को विश्वसनीयता सिग्नल $r$ द्वारा मॉड्युलेट किया जाता है:
  $R_t = \begin{cases} R_{base} & \text{यदि } \nu_t = 0 \text{ (कोई विजुअल डिपेंडेंसी नहीं)} \\ \alpha(r) \cdot R_{base} & \text{यदि } \nu_t = 1 \text{ (विजुअल डिपेंडेंसी है)} \end{cases}$
- जहाँ $\alpha(r)$ एक सिग्मॉइड फंक्शन है। यदि $r$ कम है (अविश्वसनीय आधार), तो रिवॉर्ड को न्यूट्रल (0) की ओर कम (attenuate) कर दिया जाता है, जिससे सिस्टम को किसी ऐसे चरण को आत्मविश्वास से पुरस्कृत करने या दंडित करने से रोका जाता है जो एक भ्रम (hallucination) पर आधारित है।

3. मुख्य योगदान (Key Contributions)

धारणा और तर्क का पृथक्करण (Decoupling Perception and Reasoning): EVPV एक ऐसा तंत्र पेश करता है जो तार्किक चरणों का मूल्यांकन करने से पहले दृश्य आधारों को स्पष्ट रूप से मान्य करता है, जिससे वर्तमान PRM की "ब्लैक बॉक्स" अस्पष्टता हल होती है।
हल्का सत्यापन (Lightweight Verification): टूल-इंटीग्रेटेड विधियों के विपरीत, जिन्हें प्रत्येक चरण के लिए महंगे API कॉल्स की आवश्यकता होती है, EVPV प्रत्येक समस्या के लिए बाधाओं (constraints) को एक बार निकालता है और सभी चरणों के लिए उनका पुन: उपयोग करता है, जिससे यह Best-of- $N$ रेंकिंग के लिए स्केलेबल हो जाता है।
संरचित साक्ष्य (Structured Evidence): अनस्ट्रक्चर्ड टेक्स्ट विवरणों के बजाय संरचित JSON बाधाओं (संख्यात्मक, संबंधात्मक, संरचनात्मक) का उपयोग दृश्य आधार सत्यापन की सटीकता में काफी सुधार करता है।
कारण सत्यापन (Causal Validation): लेखक प्रमाण देते हैं कि प्रदर्शन में वृद्धि केवल प्रॉम्प्ट इंजीनियरिंग से नहीं, बल्कि बाधाओं की शुद्धता (constraint fidelity) से संचालित होती है, जिसे वे बाधाओं को कृत्रिम रूप से दूषित करके प्रदर्शन में होने वाली निरंतर गिरावट (monotonic degradation) दिखाकर सिद्ध करते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन VisualProcessBench (स्टेप-लेवल वेरिफिकेशन) और छह डाउनस्ट्रीम मल्टीमॉडल रीजनिंग बेंचमार्क्स (जैसे, MathVista, MMMU, MathVerse) पर InternVL2.5 पॉलिसी का उपयोग करके किया गया।

स्टेप-लेवल वेरिफिकेशन:
- EVPV-PRM ने VisualProcessBench पर उच्चतम मैक्रो-F1 (67.46%) प्राप्त किया, जो VisualPRM (62.00%) और TIM-PRM (61.70%) जैसे मजबूत बेसलाइन्स से बेहतर है।
- इसने दृश्य गलत व्याख्या के कारण होने वाले फॉल्स पॉजिटिव/नेगेटिव को काफी कम कर दिया।
Best-of- $N$ रेंकिंग:
- EVPV ने सभी मॉडल स्केल्स (8B, 26B, 38B) में BoN@8 (Best-of-8) सटीकता में लगातार सुधार किया।
- 38B मॉडल के लिए, EVPV ने Pass@1 की तुलना में +9.78 अंकों का सुधार दिखाया, जो VisualPRM (+6.30) और बेस पॉलिसी से बेहतर है।
- लाभ सबसे अधिक विजुअली इंटेंसिव बेंचमार्क्स (MathVista, WeMath) पर देखे गए, जो दृश्य बाधाओं को संभालने में इस पद्धति की प्रभावशीलता की पुष्टि करते हैं।
एब्लेशन स्टडीज (Ablation Studies):
- संरचित बाधाओं को हटाने पर (केवल कैप्शन का उपयोग करने पर) प्रदर्शन में ~4 अंकों की गिरावट आई।
- विजुअल मोडैलिटी को पूरी तरह से हटाने पर (टेक्स्ट-ओनली जज) भारी गिरावट (~12.5 अंक) आई, जो सिद्ध करता है कि संरचित बाधाएं सीधे इमेज विश्लेषण का पूरक हैं, उसका विकल्प नहीं।
- कॉज़ल कर्व (Causal Curve): बाधाओं में शोर (noise) डालने से प्रदर्शन में निरंतर गिरावट आई, जिससे सिद्ध हुआ कि लाभ दृश्य आधार सत्यापन की गुणवत्ता के कारण हैं।

5. महत्व और प्रभाव (Significance and Impact)

टेस्ट-टाइम स्केलिंग में विश्वसनीयता: EVPV टेस्ट-टाइम कंप्यूट स्केलिंग (Best-of- $N$ ) के दौरान ग्राउंडेड समाधानों के चयन को अधिक विश्वसनीय बनाता है, जो MLLMs को वास्तविक दुनिया के परिदृश्यों में तैनात करने के लिए एक महत्वपूर्ण आवश्यकता है।
व्याख्यात्मकता (Interpretability): दृश्य आधारों को स्पष्ट बनाकर, सिस्टम एक डायग्नोस्टिक इंटरफेस प्रदान करता है जिससे यह समझा जा सके कि किसी चरण को कम स्कोर क्यों मिला (जैसे, "आधार भ्रमित था" बनाम "तर्क त्रुटिपूर्ण था")।
दक्षता (Efficiency): यह टूल-आधारित सत्यापन के लिए एक उच्च-प्रदर्शन विकल्प प्रदान करता है, जो प्रत्येक तर्क चरण के लिए बाहरी टूल्स चलाने की विलंबता (latency) और लागत से बचता है।
भविष्य की दिशा: यह कार्य इस बात पर प्रकाश डालता है कि रिवॉर्ड मॉडल्स को "ग्राउंड" (grounding) करना उतना ही महत्वपूर्ण है जितना कि स्वयं रीजनिंग मॉडल्स को सुधारना, जो अधिक मजबूत मल्टीमॉडल एजेंटों के लिए मार्ग प्रशस्त करता है।

संक्षेप में, EVPV PRM को एक निष्क्रिय जज से एक सक्रिय वर्िफायर में बदल देता है जो "तर्क" को ग्रेड करने से पहले "तथ्यों" की जांच करता है, जिससे अधिक मजबूत और विश्वसनीय मल्टीमॉडल रीजनिंग सिस्टम का निर्माण होता है।