तकनीकी सारांश: DocMemo

समस्या विवरण

लंबे दस्तावेज़ वाले विजुअल क्वेश्चन अनswering (DocVQA) के लिए मॉडलों को सैकड़ों पृष्ठों तक फैले दस्तावेज़ों में बिखरे हुए और विषम साक्ष्य (पाठ, तालिकाएँ, चित्र, लेआउट) खोजने की आवश्यकता होती है। मुख्य चुनौती केवल लंबे इनपुट को प्रोसेस करने की नहीं है, बल्कि एक सीमित साक्ष्य बजट के तहत प्रासंगिक पृष्ठों को गतिशील रूप से खोजने, अपडेट करने और एकीकृत करने की है।

मौजूदा प्रणालियाँ दो प्राथमिक सीमाओं का सामना करती हैं:

1. स्थिर पुनर्प्राप्ति (Static Retrieval): सिंगल-टर्न विधियाँ तर्क प्रक्रिया शुरू होने से पहले ही उम्मीदवार पृष्ठों के सेट को निर्धारित कर देती हैं। यदि प्रारंभिक चरण में महत्वपूर्ण साक्ष्य छूट जाता है, तो सिस्टम रिकवर नहीं कर सकता, जिससे यह एक कठोर, वन-शॉट पाइपलाइन बन जाता है।
2. भंगुर पुनरावृत्ति पुनर्प्राप्ति (Fragile Iterative Retrieval): हालांकि हालिया पुनरावृत्ति विधियाँ मल्टी-राउंड अधिग्रहण की अनुमति देती हैं, लेकिन उनमें क्रॉस-राउंड स्टेट्स (cross-round states) को प्रसारित करने के लिए तंत्र की कमी है। सूचना को आमतौर पर संदर्भ पुनर्निर्माण (context reconstruction) के माध्यम से बनाए रखा जाता है, जो प्रभावी रूप से प्रत्येक राउंड को एक संरचित अन्वेषण के बजाय एक स्वतंत्र पुनर्प्राप्ति घटना के रूप में मानता है जिसमें मेमोरी न हो। इसके परिणामस्वरूप पृष्ठों की प्रासंगिकता में गतिशील परिवर्तनों को ट्रैक करने या मध्यवर्ती तर्क संकेतों के आधार पर खोज प्रक्षेपवक्र (search trajectories) को परिष्कृत करने में अक्षमता आती है।

कार्यप्रणाली: DocMemo फ्रेमवर्क

DocMemo एक मेमोरी-निर्देशित फ्रेमवर्क प्रस्तावित करता है जो लंबे दस्तावेज़ तर्क को गतिशील साक्ष्य अन्वेषण (dynamic evidence exploration) के रूप में तैयार करता है। यह निरंतर अवस्था शोधन (state refinement) को सक्षम करने के लिए रिट्रीवल से मेमोरी को अलग करता है।

1. त्रि-स्तरीय दस्तावेज़ मेमोरी (Tri-Level Document Memory)

सिस्टम तर्क राउंड के दौरान एक संरचित मेमोरी स्टेट $\mathcal{M}^{(t)} = (\mathcal{M}_{schema}, \mathcal{M}^{(t)}_{belief}, \mathcal{M}^{(t)}_{epi})$ बनाए रखता है:

• दस्तावेज़ स्कीमा मेमोरी ($\mathcal{M}_{schema}$): एक ऑफलाइन, क्वेरी-स्वतंत्र प्रायर (prior) जिसे दस्तावेज़ प्रकार, विषय विवरण, और पृष्ठ श्रेणियों एवं विषय लेबल के संरचनात्मक इंडेक्स से बनाया गया है। यह एक निश्चित नेविगेशन गाइड के रूप में कार्य करता है।
• पेज बिलीफ मेमोरी ($\mathcal{M}^{(t)}_{belief}$): एक गतिशील अवस्था जो बीटा वितरण (Beta distribution) $Beta(\alpha_i, \beta_i)$ का उपयोग करके प्रत्येक पृष्ठ की प्रासंगिकता के विश्वास को मॉडल करती है। $\alpha_i$ और $\beta_i$ क्रमशः प्रासंगिकता और अप्रासंगिकता के लिए साक्ष्य संचित करते हैं। यह मेमोरी क्रॉस-राउंड फीडबैक के साथ विकसित होती है।
• क्वेश्चन एपिसोडिक मेमोरी ($\mathcal{M}^{(t)}_{epi}$): मध्यवर्ती निष्कर्षों, अपूर्ण सूचना आवश्यकताओं और क्वेरी रिफाइनमेंट प्रक्षेपवक्रों का एक क्वेरी-विशिष्ट रिकॉर्ड। यह सिस्टम को मूल क्वेरी से पुनः आरंभ करने के बजाय मौजूदा साक्ष्य श्रृंखला के साथ खोज स्थान को सीमित करने की अनुमति देता है।

2. बायेसियन पेज बिलीफ अपडेटिंग और थॉम्पसन सैंपलिंग

DocMemo पेज चयन को एक कॉन्फिडेंस अपडेटिंग प्रक्रिया के रूप में मानता है:

• बायेसियन अपडेट: प्रत्येक रीजनिंग राउंड के बाद, सिस्टम उपयोगी ($U_t$) और अप्रासंगिक ($V_t$) पृष्ठों की पहचान करता है। विश्वासों को बीटा-बर्नौली कंजुगेसी (Beta-Bernoulli conjugacy) के माध्यम से अपडेट किया जाता है: $\alpha_i \leftarrow \alpha_i + \mathbb{I}[i \in U_t]$ और $\beta_i \leftarrow \beta_i + \mathbb{I}[i \in V_t]$।
• स्थानिक प्रसार (Spatial Propagation): लंबे दस्तावेज़ों में साक्ष्य की स्थानीयता (locality) से प्रेरित होकर, पृष्ठ $i$ पर सकारात्मक फीडबैक को दूरी क्षय कारक (distance decay factor) $\gamma$ के साथ पड़ोसी पृष्ठों $j$ (त्रिज्या $r$ के भीतर) में प्रसारित किया जाता है। नकारात्मक फीडबैक को प्रसारित नहीं किया जाता है ताकि संभावित रूप से प्रासंगिक आस-पास के पृष्ठों को दबाया न जा सके।
• थॉम्पसन सैंपलिंग: शोषण (exploitation) और अन्वेषण (exploration) के बीच संतुलन बनाने के लिए, सिस्टम प्रत्येक पृष्ठ के लिए पोस्टीरियर बीटा वितरण से एक प्रासंगिकता अनुमान $\theta^{(t)}_i$ सैंपल करता है।
• कैंडिडेट स्कोरिंग: अंतिम स्कोर वर्तमान विजुअल समानता $c^{(t)}_i$ को de वर्तमान सैंपलड बिलीफ $\theta^{(t)}_i$ के साथ जोड़ता है: $score^{(t)}_i = (1 - \lambda_t)c^{(t)}_i + \lambda_t\theta^{(t)}_i$। भार $\lambda_t$ पुनरावृत्तियों के साथ बढ़ता है, जो कच्चे विजुअल समानता से संचित मेमोरी कॉन्फिडेंस की ओर निर्भरता को स्थानांतरित करता है।

3. एडेप्टिव-ग्रैनुलैरिटी एविडेंस एक्सेस

सूचना-सघन क्षेत्रों (जैसे तालिकाओं) को संभालने के लिए, सिस्टम तर्क के दौरान विस्तृत लेआउट समझ सुनिश्चित करने हेतु पूर्ण-पृष्ठ संदर्भ के साथ सूक्ष्म-स्तरीय विजुअल क्षेत्रों (हाई-रिज़ॉल्यूशन क्रॉप्स) को पूरक बनाता है।

प्रमुख योगदान

1. मेमोरी-निर्देशित फ्रेमवर्क: DocMemo का परिचय, जो संरचनात्मक प्रायर, गतिशील पेज बिलीफ और क्वेरी-विशिष्ट रीजनिंग ट्रेसेस को अलग करते हुए दस्तावेज़ अन्वेषण को व्यवस्थित करता है।
2. प्रोबेबिलिस्टिक स्टेट मॉडलिंग: थॉम्पसन सैंपलिंग और स्थानिक निरंतरता प्रसार के साथ बायेसियन पेज बिलीफ अपडेटिंग का कार्यान्वयन, जो राउंड्स के बीच अनिश्चितता-जागरूक और लोकैलिटी-जागरूक गतिशील पुनर्प्राप्ति को सक्षम बनाता है।
3. अनुभवजन्य सत्यापन: तीन लॉन्ग-डॉक्यूमेंट DocVQA बेंचमार्क पर स्टेट-ऑफ-द-आर्ट प्रदर्शन का प्रदर्शन, जिसमें एब्लेशन अध्ययन पुष्टि करते हैं कि संरचित मेमोरी और गतिशील बिलीफ अपडेटिंग आवश्यक हैं।

प्रयोगात्मक परिणाम

DocMemo का मूल्यांकन MMLongBench-Doc, LongDocURL, और PaperTab पर किया गया।

• समग्र प्रदर्शन: DocMemo ने तीन बेंचमार्क पर औसतन 77.6% सटीकता प्राप्त की, जो प्रोप्रायटरी मॉडल्स (जैसे, GPT-4o, Claude-4-Sonnet) और ओपन-सोर्स एजेंटिक सिस्टम (जैसे, SimpleDoc, DocLens) सहित मजबूत बेसलाइन्स से बेहतर प्रदर्शन करता है।
  • MMLongBench-Doc पर, इसने 71.3% सटीकता प्राप्त की (अगले सर्वश्रेष्ठ एजेंटिक बेसलाइन, AgenticOCR के 67.4% के मुकाबले)।
  • LongDocURL पर, इसने 81.1% प्राप्त किया (SimpleDoc के 72.3% के मुकाबले)।
  • PaperTab पर, इसने 80.4% प्राप्त किया (SimpleDoc के 65.4% के मुकाबले)।
• सूक्ष्म विश्लेषण (Fine-Grained Analysis): मॉडल ने टेबल-हेवी (TAB) और अन-आन्सरएबल (UNA) श्रेणियों में महत्वपूर्ण लाभ दिखाया, जो बेहतर साक्ष्य स्थानीयकरण और संचित क्रॉस-राउंड स्टेट्स के माध्यम से अन-आन्सरएबल क्वेरीज़ को बेहतर ढंग से संभालने का सुझाव देता है।
• दक्षता: DocMemo ने उच्च सटीकता प्राप्त करने के लिए आवश्यक रिट्रीवल इटरेशन की संख्या को कम कर दिया (1.18× सटीकता लाभ के लिए 0.41× इटरेशन), जिसके परिणामस्वरूप 2.40× समग्र दक्षता सुधार हुआ।
• एब्लेशन अध्ययन: त्रि-स्तरीय मेमोरी या बायेसियन अपडेटिंग को हटाने से सटीकता में महत्वपूर्ण गिरावट आई (71.3% से ~68.5% तक), जो यह प्रमाणित करता है कि गतिशील बिलीफ संशोधन और संरचित मेमोरी मजबूत तर्क के लिए महत्वपूर्ण हैं।

महत्व

यह पेपर दावा करता है कि लंबे दस्तावेज़ तर्क में सुधार की कुंजी दस्तावेज़ अन्वेषण अवस्थाओं को स्पष्ट रूप से मॉडल करना और निरंतर अपडेट करना है। दस्तावेज़ अन्वेषण को सरल संदर्भ संचय से बदलकर स्थिर दस्तावेज़ प्रायर, गतिशील पेज बिलीफ और क्वेरी-लोकल अनुभव द्वारा संचालित एक संरचित साक्ष्य अन्वेषण में परिवर्तित करके, DocMemo स्थिर और स्टेटलेस पुनरावृत्ति दृष्टिकोणों की सीमाओं को संबोधित करता है। फ्रेमवर्क यह प्रदर्शित करता है कि स्थिर दस्तावेज़ प्रायर को तेजी से बदलते प्रासंगिकता विश्वासों से अलग करने से एजेंटों को शुरुआती रिट्रीवल त्रुटियों से उबरने और अपने खोज प्रक्षेपवक्र को अनुकूल रूप से परिष्कृत करने में मदद मिलती है।