तकनीकी सारांश: RECON – लंबे संदर्भों पर संरचनात्मक तर्क के लिए एजेंट मेमोरी का बेंचमार्किंग
समस्या विवरण
लार्ज लैंग्वेज मॉडल (LLM) आधारित एजेंटों को तेजी से उच्च-जोखिम वाले वर्कफ़्लो (कोडिंग, क्लिनिकल, लीगल, फाइनेंशियल) में तैनात किया जा रहा है जहाँ उन्हें लंबे संदर्भों और कई इंटरैक्शनों के दौरान संचित सूचनाओं को बनाए रखने, एक्सेस करने और उन पर तर्क करने की आवश्यकता होती है। वर्तमान मेमोरी आर्किटेक्चर (जैसे, Mem0, Zep, MemGPT) और रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) सिस्टम मुख्य रूप से मेमोरी को एक स्टेट मशीन (state machine) के रूप में मॉडल करते हैं, जो तथ्यों के वर्तमान मूल्यों को ट्रैक करते हैं। हालाँकि, वास्तविक दुनिया के परिदृश्यों में, तथ्य केवल संचित नहीं होते; वे स्पष्ट निर्भरता संरचनाओं (dependency structures) के माध्यम से एक-दूसरे के साथ परस्पर क्रिया करते हैं, विरोधाभास करते हैं और एक-दूसरे को अमान्य करते हैं।
मौजूदा बेंचमार्क (जैसे, RULER, LongBench, LoCoMo) यह मूल्यांकन करते हैं कि क्या एजेंट बिखरे हुए तथ्यों को रिट्रीव कर सकते हैं या यह पता लगा सकते हैं कि कोई तथ्य बदल गया है। वे परिणामों (consequences) का मूल्यांकन करने में विफल रहते हैं: कि क्या एक एजेंट यह पता लगा सकता है कि किन डाउनस्ट्रीम निष्कर्षों से प्रभाव पड़ता है, कौन से निष्कर्ष स्वतंत्र समर्थन के माध्यम से जीवित रहते हैं, और वैकल्पिक टाइमलाइन कैसे विकसित होंगी। विकसित होते लंबे-संदर्भ वाले नैरेटिव्स पर कंपोजिशनल रीजनिंग (compositional reasoning) का मूल्यांकन करने में एक महत्वपूर्ण अंतर है, जहाँ एक निष्कर्ष की वैधता एक स्टेटिक फैक्ट लिस्ट के बजाय एक जटिल प्रोवेनेंस ग्राफ (provenance graph) पर निर्भर करती है।
कार्यप्रणाली: RECON बेंचमार्क
लेखक RECON (Reasoning over Extended Contexts with Obfuscated Narratives) पेश करते हैं, जो लंबे संदर्भों (50k–100k टोकन) पर छह मेमोरी-इंटेंसिव कार्यों पर एजेंटों का मूल्यांकन करने के लिए डिज़ाइन किया गया एक बेंचमार्क है।
1. नियतात्मक जनरेशन पाइपलाइन (Deterministic Generation Pipeline)
ग्राउंड-ट्रुथ विश्वसनीयता सुनिश्चित करने के लिए, RECON एक पूरी तरह से नियतात्मक जनरेशन पाइपलाइन का उपयोग करता है जहाँ LLMs को केवल सरफेस रियलाइजेशन (कथा वाचन) तक सीमित रखा जाता है और उन्हें कभी भी कॉज़ल स्ट्रक्चर, प्रोवेनेंस, या उत्तर कुंजियों (answer keys) को प्रभावित करने की अनुमति नहीं दी जाती है।
- ब्लूप्रिंट सिंथेसिस (Blueprint Synthesis): एक सीडेड प्रोडक्शन इंजन टाइप्ड टर्मिनल्स (एक्टर्स, एविडेंस) और प्रोडक्शन रूल्स का उपयोग करके एक केस ब्लूप्रिंट उत्पन्न करता है, जिससे यह सुनिश्चित होता है कि निष्कर्ष निकाले जाने से पहले तार्किक पूर्व शर्तें पूरी हों।
- स्केलेटन एक्सपेंशन (Skeleton Expansion): ब्लूप्रिंट एक टाइमस्टैम्प्ड घटनाओं, कॉज़ल डिपेंडेंसीज, इनवैलिडेशन, सोर्स कॉन्फ्लिक्ट्स और समानांतर टेम्पोरल स्ट्रीम्स (जैसे, निगरानी, लेनदेन) के एक संरचित स्केलेटन में विस्तारित होता है।
- प्रोवेनेंस DAG (Provenance DAG): जनरेशन कॉन्ट्रैक्ट से एक ग्लोबल डायरेक्टेड एसाइक्लिक ग्राफ (DAG) प्रेरित किया जाता है। नोड्स घटनाओं/साक्ष्यों का प्रतिनिधित्व करते हैं, और एडजेस कॉज़ल, रिविजनरी, और इनवैलेटिंग संबंधों को एनकोड करते हैं। यह DAG आधिकारिक ग्राउंड ट्रुथ के रूप में कार्य करता है।
- टास्क सिंथेसिस (Task Synthesis): प्रश्नों को एल्गोरिदम के माध्यम से DAG से बनाया जाता है। उदाहरण के लिए, कैस्केड प्रोपेगेशन प्रश्न एक इनवैलिडेशन नोड को चुनने और पहुँच (reachability) की गणना करने द्वारा बनाए जाते हैं ताकि यह निर्धारित किया जा सके कि कौन से निष्कर्ष ध्वस्त हो जाते हैं।
- नैरेटिव रियलाइजेशन (Narrative Realization): एक LLM संरचित स्केलेटन को नेचुरल लैंग्वेज केस फाइलों (पुलिस रिपोर्ट, क्लिनिकल लॉग्स, फाइनेंशियल ऑडिट) में परिवर्तित करता है, जबकि वह स्केलेटन के अपरिवर्तनीय तथ्यों का सख्ती से पालन करता है।
2. कार्य श्रेणियाँ (Task Categories)
RECON तीन डोमेन (क्रिमिनल, मेडिकल, फाइनेंशियल) के 24 केस फाइलों और 1,604 प्रश्नों को कवर करता है, जिन्हें छह कार्यों में वर्गीकृत किया गया है:
- चेन रिकंस्ट्रक्शन (Chain Reconstruction): दस्तावेज़ में बिखरे हुए 5–15 एविडेंस हॉप्स को खोजने और कॉज़ल रूप से क्रमबद्ध करने का कार्य।
- कैस्केड प्रोपेगेशन (Cascade Propagation): एक विशिष्ट साक्ष्य इनवैलिडेशन के बाद कौन से निष्कर्ष टूट जाते हैं और कौन से स्वतंत्र समर्थन के माध्यम से जीवित रहते हैं, इसका निर्धारण करना।
- सोर्स कॉन्फ्लिक्ट रेजोल्यूशन (Source Conflict Resolution): स्वतंत्र कोरोबोरेटिंग एविडेंस का उपयोग करके विरोधाभासी खातों का न्याय करना।
- काउंटरफैक्चुअल रीजनिंग (Counterfactual Reasoning): एक वैकल्पिक टाइमलाइन के तहत डाउनस्ट्रीम घटनाएं कैसे बदलती हैं, यह निर्धारित करना (जैसे, यदि कोई घटना पहले हुई होती)।
- टेम्पोरल कंस्ट्रेंट सेटिस्फेक्शन (Temporal Constraint Satisfaction): एक विशिष्ट समय विंडो के विरुद्ध समानांतर डेटा स्ट्रीम्स का क्रॉस-रेफरेंस करना।
- टेम्पोरल फैक्ट रिट्रीवल (Temporal Fact Retrieval): टेम्पोरल ऑर्डरिंग और स्टेट क्वेरीज के लिए बेसलाइन कार्य।
3. मूल्यांकन सेटअप (Evaluation Setup)
बेंचमार्क तीन सिस्टम फैमिली प्लस एक ओरेकल (Oracle) सीलिंग का मूल्यांकन करता है:
- लॉन्ग-कॉन्टेक्स्ट (Long-Context): वे मॉडल जो पूरे 100k-टोकन केस फाइल को प्रोसेस करते हैं।
- RAG: डेंस रिट्रीवल, हाइब्रिड रिट्रीवल और रेंकिंग सहित वेरिएंट्स।
- मेमोरी एजेंट्स: Mem0, Mem0-Graph, Supermemory, और Hindsight जैसे सिस्टम।
- ओरेकल (Oracle): नैरेटिव टेक्स्ट के बजाय संरचित ग्राउंड-ट्रुथ DAG प्राप्त करता है, जो एक रिट्रीवल-परफेक्ट अपर बाउंड प्रदान करता है।
स्कोरिंग मल्टीपल-चॉइस प्रश्नों पर गलत कमिट्स और एब्स्टेंशन विकल्पों के लिए दंड के साथ सख्त सटीकता मेट्रिक्स का उपयोग करती है। एक कंटैमिनेशन फ़िल्टर उन प्रश्नों को हटा देता है जो पूर्व LLM ज्ञान के माध्यम से उत्तर योग्य हैं।
मुख्य परिणाम
मूल्यांकन सभी वर्तमान आर्किटेक्चरों में पर्याप्त सीमाओं को प्रकट करता है:
- कुल प्रदर्शन (Overall Performance): कोई भी नॉन-ओरेकल सिस्टम 25% सटीकता को पार नहीं करता है। सबसे अच्छा नॉन-ओरल सिस्टम (Gemini-2.5-Pro) केवल 22.4% सटीकता प्राप्त करता है, जबकि ओरेकल (परफेक्ट रिट्रीवल के साथ) 54.6% सटीकता तक पहुँचता है। यह इंगित करता है कि डिपेंडेंसी ग्राफ तक पूर्ण पहुंच के साथ भी, रीजनिंग एक महत्वपूर्ण बाधा बनी हुई है।
- कार्य-विशिष्ट प्रदर्शन (Task-Specific Performance):
- कैस्केड प्रोपेगेशन: मेमोरी सिस्टम यहाँ उत्कृष्ट हैं, जहाँ Supermemory 0.708 का स्कोर प्राप्त करता है, जो सर्वश्रेष्ठ लॉन्ग-कॉन्टेक्स्ट मॉडल से लगभग दोगुना है। यह सुझाव देता है कि जब डिपेंडेंसी स्ट्रक्चर सरल होता है, तो मेमोरी आर्किटेक्चर स्टेट परिवर्तनों को ट्रैक करने में प्रभावी होते हैं।
- काउंटरफैक्चुअल रीजनिंग: यह सबसे कठिन कार्य है। यहाँ तक कि ओरेकल भी केवल 0.483 तक पहुँचता है, जो दर्शाता है कि चेन्ड इन्फरेंस (chained inference) प्राथमिक बाधा है, न कि रिट्रीवल।
- चेन रिकंस्ट्रक्शन और सोर्स कॉन्फ्लिक्ट: लॉन्ग-कॉन्टेक्स्ट मॉडल इन कार्यों में आगे हैं, लेकिन प्रदर्शन फिर भी कम है। RAG और मेमोरी सिस्टम इसमें काफी संघर्ष करते हैं, जो संभवतः कंप्रेशन या रिट्रीवल के दौरान इंटर-फैक्ट एडजेस के नुकसान के कारण है।
- रिट्रीवल बनाम रीजनिंग (Retrieval vs. Reasoning):
- रिट्रीवल आवश्यक है लेकिन पर्याप्त नहीं है। "फुल-कवरेज" परिदृश्यों में जहाँ सही साक्ष्य रिट्रीव किया जाता है, सिस्टम अभी भी लगभग 80% समय गलत उत्तर देते हैं।
- ओरेकल और LLM प्रदर्शन के बीच का अंतर उन कार्यों के लिए सबसे अधिक है जिनमें मल्टी-हॉप रीजनिंग (चेन रिकंस्ट्रक्शन, सोर्स कॉन्फ्लिक्ट) की आवश्यकता होती है, जो बताता है कि रिट्रीव किए गए तथ्यों को कंपोज़ करने में असमर्थता एक प्रमुख विफलता मोड है।
- टोकन एफिशिएंसी (Token Efficiency): रिट्रीवल-आधारित दृष्टिकोण (RAG, मेमोरी) लॉन्ग-कॉन्टेक्स्ट मॉडल्स की तुलना में 8–20× अधिक टोकन-एफिशिएंट हैं, लेकिन अक्सर जटिल रीजनिंग कार्यों पर प्रदर्शन से समझौता करते हैं।
महत्व और दावे
पेपर का दावा है कि RECON इस बात में बदलाव का प्रतिनिधित्व करता है कि एजेंट मेमोरी का मूल्यांकन कैसे किया जाना चाहिए:
- स्टेट मशीन से प्रोवेनेंस ग्राफ तक: बेंचमार्क तर्क देता है कि मेमोरी को केवल वर्तमान फैक्ट वैल्यूज की एक सिंपल स्टेट मशीन के बजाय डेरिवेशन हिस्ट्री के एक ग्राफ के रूप में मॉडल किया जाना चाहिए, जहाँ इनवैलिडेशन डिपेंडेंसीज के माध्यम से प्रसारित होते हैं।
- कंपोजिशनल रीजनिंग ही बाधा है: परिणाम दर्शाते हैं कि एजेंट न केवल जानकारी खोजने में, बल्कि उसे कंपोज़ (compose) करने में विफल रहते हैं। ओरेकल (परफेक्ट रिट्रीवल) और LLM प्रदर्शन के बीच का बड़ा अंतर यह उजागर करता है कि कॉज़ल चेन को ट्रेस करने और इनवैलिडेशन को संभालने की क्षमता वर्तमान आर्किटेक्चर की एक मौलिक सीमा है।
- नियतात्मक ग्राउंड ट्र truth (Deterministic Ground Truth): कॉज़ल स्ट्रक्चर को LLM नैरेशन से अलग करके, RECON एक कठोर, पुनरुत्पादक (reproducible) बेंचमार्क प्रदान करता है जो उन हेलोसिनेशनों से मुक्त है जो पूरी तरह से LLMs द्वारा उत्पन्न सिंथेटिक डेटासेट में पाए जाते हैं।
लेखक निष्कर्ष निकालते हैं कि रिट्रीवल और रीजनिंग दोनों ही खुले विषय हैं। यहाँ तक कि पूर्ण संदर्भ के साथ भी, एजेंट लंबे दस्तावेजों के सुसंगत, विकसित होते अर्थों को बनाए रखने में संघर्ष करते हैं जहाँ तथ्य आपस में क्रिया करते हैं और विरोधाभास करते हैं। बेंचमार्क, जनरेटर और इवैल्यूएशन हार्नेस का रिलीज भविष्य के कार्यों को सपोर्ट करने का लक्ष्य रखता है जो लंबे संदर्भों पर मजबूत, कंपोजिशनल रीजनिंग करने में सक्षम एजेंट विकसित कर सकें।