तकनीकी सारांश: VCap - कमजोर-से-मजबूत विजुअल कैपशनिंग के लिए हाइपरजियोमेट्रिक रिवॉर्ड्स (Hypergeometric Rewards)

1. समस्या विवरण (Problem Statement)

विजुअल कैपशनिंग का लक्ष्य दृश्य धारणा (visual perception) को प्राकृतिक भाषा में अनुवादित करना है जो महत्वपूर्ण तथ्यों (वस्तुओं, गुणों, संबंधों, घटनाओं) को निष्ठापूर्वक कैप्चर करे, जबकि कमियों और मतिभ्रम (hallucinations) को न्यूनतम करे। एक कैप्शन की गुणवत्ता दो पूरक आयामों द्वारा नियंत्रित होती है: सत्यता (Correctness) (प्रत्येक बताया गया तथ्य दृश्य संकेत पर आधारित है) और पूर्णता (Completeness) (सभी महत्वपूर्ण दृश्य सामग्री पर्याप्त रूप से कवर की गई है)।

कैप्शन की गुणवत्ता सुधारने के मौजूदा दृष्टिकोण महत्वपूर्ण सीमाओं का सामना करते हैं:

• स्केलिंग और डेटा क्यूरेशन (Scaling and Data Curation): केवल मॉडलों को स्केल करना या उच्च-गुणवत्ता वाले संदर्भ डेटा को क्यूरेट करना अनिवार्य रूप से मौजूदा कमियों और मतिभ्रम को मॉडल में प्रसारित करता है, जिससे एक प्रदर्शन सीमा (performance ceiling) बन जाती है।
• सुदृढीकरण शिक्षण (Reinforcement Learning - RL) की सीमाएं: कैपशनिंग के लिए वर्तमान RL रिवॉर्ड डिज़ाइन (जैसे, VQA-आधारित, VLM-as-judge, या CIDEr/DPO जैसे इमिटेशन-स्टाइल रिवॉर्ड्स) तथकीय सत्यापन के लिए सूक्ष्म, विश्वसनीय संकेत प्रदान करने में विफल रहते हैं। वे आमतौर पर संदर्भ संकेत को एक एकल भूमिका (जैसे, एक लक्ष्य जिसकी नकल की जानी है या एक सीमित प्रश्न पूल) तक सीमित रखते हैं, जिससे तथ्य-स्तर पर सत्यता और पूर्णता को संयुक्त रूप से पर्यवेक्षित करना कठिन हो जाता है। मुख्य बाधा यह है कि वास्तविक अभ्यास में पूर्ण दृश्य तथ्यों का सेट उपलब्ध नहीं होता; कोई भी संदर्भ इसका वर्णन नहीं करता, और कोई भी रिवॉर्ड प्रॉक्सी इसे पूरी तरह से रिकवर नहीं कर पाती।

2. कार्यप्रणाली: साक्षी-न्यायाधीश ढांचा (The Witness-Adjudicator Framework)

लेखक VCap का प्रस्ताव करते हैं, जो एक नवीन रिवॉर्ड तंत्र है जो पाठ्य संदर्भ (textual reference) और दृश्य संकेत (visual signal) की भूमिकाओं को अलग करता है, उन्हें "साक्षी-न्यायाधीश" (Witness-Adjudicator) ढांचे में दो अलग घटकों के रूप में मानता है।

2.1 मूल अवधारणा (Core Concept)

• साक्षी (संदर्भ कैप्शन - The Witness): संदर्भ कैप्शन को नकल करने योग्य स्वर्ण-मानक लक्ष्य के रूप में नहीं माना जाता है। इसके बजाय, इसे एक स्टोकेस्टिक साक्षी (stochastic witness) के रूप में देखा जाता है जो दृश्य तथ्यों के एक उपसमुच्चय (subset) को उजागर करता है। यह एक रिकॉल एंकर (recall anchor) के रूप में कार्य करता है (जिसके लिए पॉलिसी को उल्लेखित तथ्यों को कवर करने की आवश्यकता होती है) और एक त्रुटि डिटेक्टर (error detector) के रूप में कार्य करता है (जो संभावित मतिभ्रम को चिह्नित करता है)।
• न्यायाधीश (दृश्य संकेत - The Adjudicator): छवि या वीडियो न्यायाधीश के रूप में कार्य करता है। यह साक्षी द्वारा सक्रिय किए गए विशिष्ट "स्लॉट्स" पर मिलान और बेमेल का सत्यापन करता है। महत्वपूर्ण बात यह है कि दृश्य संकेत सभी तथ्यों को सूचीबद्ध करने वाला ओरेकल (oracle) नहीं है; यह केवल साक्षी और पॉलिसी के प्रतिच्छेदन (intersection) पर संघर्षों को हल करता है या तथ्यों की पुष्टि करता है।

2.2 रिवॉर्ड गणना (Reward Computation)

एक फ्रोजन रिवॉर्ड मॉडल (MLLM) ट्रिपल $(x, y_{ref}, y)$ को प्रोसेस करता है, जहाँ $x$ विजुअल इनपुट है, $y_{ref}$ संदर्भ है, और $y$ पॉलिसी-जेनरेटेड कैप्शन है। मॉडल एक सिंगल-पास मूल्यांकन करता है:

1. संभावित कमियों (candidate omissions) की पहचान करना: वे तथ्य जो $y_{ref}$ में मौजूद हैं लेकिन $y$ में गायब हैं।
2. संभावित मतिभ्रम (candidate hallucinations) की पहचान करना: वे तथ्य जो $y$ में हैं लेकिन $y_{ref}$ के विपरीत हैं।
3. $x$ के विरुद्ध सत्यापन करना:
   • एक कमी को तभी दंडित किया जाता है जब $x$ पुष्टि करता है कि गायब तथ्य मौजूद है।
   • एक मतिभ्रम को तभी दंडित किया जाता है जब $x$ पुष्टि करता है कि पॉलिसी का दावा गलत है (यदि $x$, $y_{ref}$ के विपरीत है, तो दृश्य संकेत संदर्भ पर हावी हो जाता है, जिससे संदर्भ की त्रुटियों के कारण पॉलिसी को दंडित होने से बचाया जा सके)।

मॉडल तीन पूर्णांक स्कोर (0-10) आउटपुट करता है:

• $s_{corr}$: सत्यता (Correctness) (संघर्षों को दंडित करना)।
• $s_{comp}$: पूर्णता (Completeness) (पुष्ट तथ्यों की कमी को दंडित करना)।
• $s_{txt}$: पाठ गुणवत्ता (Text Quality) (प्रवाह, सुसंगतता, मेटा-टेक्स्ट की अनुपस्थिति)।

इनको निश्चित भार (weights) का उपयोग करके एक स्केलर रिवॉर्ड में एकत्रित किया जाता है। वीडियो के लिए, यादृच्छिक टेम्पोरल सेगमेंट पर एक लोकल-व्यू रिवॉर्ड की गणना की जाती है और इसे ग्लोबल-व्यू रिवॉर्ड के साथ जोड़ा जाता है ताकि सूक्ष्म टेम्पोरल तथ्यों और क्रॉस-सेगमेंट घटनाओं दोनों को कैप्चर किया जा सके।

2.3 सैद्धांतिक आधार: हाइपरजियोमेट्रिक विश्लेषण (Hypergeometric Analysis)

पेपर विजुअल कैपशनिंग को आकार $N$ के एक लेटेंट फैक्ट सेट $F$ पर तथ्य-स्तर के निष्कर्षण समस्या के रूप में औपचारिक रूप देता है।

• मान लीजिए $R$ संदर्भ तथ्य उपसमुच्चय है ($|R|=m$)।
• पॉलिसी तथ्य सेट $\Phi(y) = C \cup E$ है, जहाँ $C$ सही तथ्य हैं ($|C|=c$) और $E$ मतिभ्रम वाले तथ्य हैं।

यह मानते हुए कि $R$, $F$ का एक यूनिफॉर्म रैंडम सबसेट है, पूर्णता और सत्यता परीक्षणों को पास करने की संभावना एक हाइपरजियोमेट्रिक वितरण (hypergeometric distribution) का पालन करती है:

• पूर्णता की संभावना ($P_{comp}$): वह संभावना कि सभी $m$ संदर्भ तथ्य $c$ सही तथ्यों के भीतर आते हैं। यह $c \to N$ होने पर सख्ती से बढ़ता है।
• सत्यता की संभावना ($P_{corr}$): वह संभावना कि $n-c$ मतिभ्रम वाले तथ्य $m$ संदर्भ स्लॉट्स से बच जाते हैं। यह मतिभ्रम बढ़ने पर सख्ती से घटता है।

मुख्य अंतर्दृष्टि (दो-अक्षीय कमजोर-से-मजबूत): इष्टतम पॉलिसी अवस्था $c \to N$ (अधिकतम सही तथ्य) और $n-c \to 0$ (शून्य मतिभ्रम) है। महत्वपूर्ण बात यह है कि इस इष्टतम का स्थान संदर्भ आकार $m$ से स्वतंत्र है। संदर्भ आकार $m$ केवल सुपरविजन ग्रेडिएंट की तीव्रता (steepness) को नियंत्रित करता है। यह एक मॉडल को "कमजोर" या अपूर्ण संदर्भों से सीखने और फिर भी वास्तविक विजुअल-इन्फॉर्मेशन सीलिंग तक पहुँचने में सक्षम बनाता है, जिससे एक सेल्फ-इम्प्रूवमेंट लूप संभव होता है जहाँ पॉलिसी अपने स्वयं के मजबूत संदर्भ पुन: उत्पन्न करती है।

3. प्रमुख योगदान (Key Contributions)

1. तथ्य-स्तरीय ढांचा (Fact-Level Framework): लेखकों ने कैपशनिंग को दो स्वतंत्र अक्षों (सत्यता और पूर्णता) के साथ औपचारिक रूप दिया है और प्रदर्शित किया है कि क्यों मौजूदा रिवॉर्ड दोनों को एक साथ सुपरवाइज करने में संघर्ष करते हैं।
2. साक्षी-न्यायाधीश रिवॉर्ड (VCap): एक नवीन रिवॉर्ड डिज़ाइन जो संदर्भ को एक स्टोकेस्टिक साक्षी और विजुअल सिग्नल को एक न्यायाधीश के रूप में मानता है। यह पृथक्करण हाइपरजियोमेट्रिक रिवॉर्ड सिग्नल प्रदान करता है जो कमजोर-से-मजबूत सामान्यीकरण (weak-to-strong generalization) को सक्षम करता है, जिससे मॉडल अपने प्रशिक्षण संदर्भों की गुणवत्ता से भी आगे निकल सकता है।
3. अनुभवजन्य सत्यापन (Empirical Validation): VCap के साथ प्रशिक्षित एक 8B पैरामीटर मॉडल कई इमेज और वीडियो कैपशनिंग बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करता है, जो काफी बड़े ओपन- और क्लोज्ड-सोर्स मॉडलों (जैसे, Qwen3.5-397B, GPT-5.4, Gemini 3.1 Pro) को पछाड़ देता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने इमेज और वीडियो कैपशनिंग बेंचमार्क के साथ-साथ डाउनस्ट्रीम QA कार्यों पर VCap का मूल्यांकन किया।

• इमेज कैपशनिंग: CapMAS और DecapBench पर, VCap (e2) मॉडल (8B पैरामीटर्स) ने सभी मेट्रिक्स पर उच्चतम स्कोर प्राप्त किया (जैसे, CapMAS पर 83.53 Avg, DecapBench पर 73.67 Avg), जो GPT-5.4 और 397B पैरामीटर वाले Qwen3.5 को भी पीछे छोड़ देता है।
• वीडियो कैपशनिंग: VCap ने VDC बेंचमार्क (36.01 Avg) पर सर्वश्रेष्ठ प्रदर्शन किया और VCapsBench पर प्रतिस्पर्धी परिणाम दिए, जो बैकबोन और बड़े मॉडलों से बेहतर है।
• मानव मूल्यांकन (Human Evaluation): एक होल्ड-आउट 500-इमेज सेट पर, VCap ने प्रति-इमेज तथकीय सत्यता में प्रथम स्थान प्राप्त किया। VCap रिवॉर्ड सिग्नल ने मानव युग्म वरीयता (pairwise preference) के साथ 61.1% सहमति दिखाई, जो 50% रैंडम बेसलाइन से काफी ऊपर है।
• स्व-सुधार (Self-Improvement): VCap (e1) से VCap (e2) में संक्रमण, जहाँ संदर्भ पॉलिसी द्वारा ही पुन: उत्पन्न किए गए थे, सभी बेंचमार्क पर निरंतर सुधार (monotonic improvement) का परिणाम था, जो सैद्धांतिक स्व-सुधार लूप को प्रमाणित करता है।
• सामान्यीकरण (Generalization): केवल कैपशनिंग (कोई QA डेटा नहीं) पर प्रशिक्षित मॉडलों ने इमेज और वीडियो QA बेंचमार्क (जैसे, Prism, MMVU) पर महत्वपूर्ण लाभ दिखाया, जो सुझाव देता है कि VCap केवल सतही कैपशन फॉर्म के बजाय अंतर्निtypename विजुअल धारणा को बेहतर बनाता है।
• एब्लेशन अध्ययन (Ablation Studies):
  • Best-of-N डिस्टिलेशन: VCap-संचालित RL ने Best-of-N सैंपल्स से सेल्फ-डिस्टिलेशन की तुलना में बेहतर प्रदर्शन किया, जो सिद्ध करता है कि लाभ रिवॉर्ड सिग्नल से आता है, न कि केवल सैंपल चयन से।
  • मोडैलिटी/डायमेंशन एब्लेशन: संदर्भ (साक्षी) या इमेज (न्यायाधीश) में से किसी एक को हटाने से प्रदर्शन में भारी गिरावट आई, जो डुअल-रोल डिज़ाइन की आवश्यकता की पुष्टि करता है। सत्यता या पूर्णता आयामों को हटाने से उनके संबंधित मेट्रिक्स में गिरावट आई।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि VCap, रिवॉर्ड ऑप्टिमम को संदर्भ की गुणवत्ता से अलग करके, RL-आधारित कैपशनिंग के प्रतिमान को मौलिक रूप से बदल देता है।

• इमिटेशन सीलिंग को तोड़ना (Breaking the Imitation Ceiling): इमिटेशन-स्टाइल रिवॉर्ड्स के विपरीत जहाँ पॉलिसी की सीमा संदर्भ की गुणवत्ता द्वारा तय होती है, VCap मॉडल को संदर्भ को लक्ष्यों के बजाय प्रोब्स (probes) के रूप में उपयोग करके अपने प्रशिक्षण संदर्भों से आगे निकलने की अनुमति देता है।
• तथ्यात्मक संरेखण (Factual Alignment): यह विधि सूक्ष्म तथ्यात्मक सत्यापन के लिए एक तंत्र प्रदान करती है जो मानव निर्णय के करीब है, जो MLLMs में "मतिभ्रम" (hallucination) की समस्या को संबोधित करती है।
• धारणा संवर्धन (Perceptual Enhancement): परिणाम बताते हैं कि VCap के माध्यम से तथ्य-स्तर की सत्यता और पूर्णता के लिए अनुकूलन करने से मॉडल की सामान्य विजुअल धारणा क्षमताएं बढ़ती हैं, जिससे विशिष्ट फाइन-ट्यूनिंग के बिना QA जैसे डाउनस्ट्रीम कार्यों को लाभ होता है।

लेखकों द्वारा स्वीकार की गई सीमाएं:

• कम्प्यूटेशनल बाधाओं के कारण इमेज और वीडियो पॉलिसी को अलग-अलग प्रशिक्षित किया गया था।
• मानव मूल्यांकन आंतरिक एनोटेटरों के साथ 500-इमेज सेट तक सीमित था।
• अध्ययन GRPO पर केंद्रित है; अन्य ऑन-पॉलिसी RL एल्गोरिदम को अनुभवजन्य रूप से सत्यापित नहीं किया गया है।
• बेसलाइन्स के लिए समर्पित कैपशनिंग विशेषज्ञ दुर्लभ हैं, जिससे सामान्यिस्ट MLLMs पर निर्भरता बनी रहती है।