तकनीकी सारांश: S3Mem – दीर्घकालिक क्षितिज वाले संवादात्मक प्रश्नोत्तर के लिए संरचित स्थानिक-कालिक दृश्य-घटना स्मृति (Structured Spatiotemporal Scene-Event Memory)

1. समस्या विवरण

दीर्घकालिक क्षितिज (long-horizon) वाले एजेंट विस्तृत प्रक्षेपवक्र इतिहास (trajectory histories) संचित करते हैं, लेकिन वे अक्सर पहले की घटनाओं के संबंध में प्रश्नों का उत्तर देने में विफल रहते हैं। शोध पत्र का तर्क है कि प्राथमिक बाधा केवल संदर्भ लंबाई (context length) नहीं है, बल्कि दीर्घकालिक स्मृति का प्रक्षेपवक्र-से-उत्तर इंटरफ़ेस (trajectory-to-answer interface) है।

वर्तमान दृष्टिकोण आमतौर पर प्रक्षेपवक्र इतिहास को सादे-पाठ (plain-text) खंडों के रूप में बाहरीकृत करते हैं और मानक रिट्रिवल-ऑग्मेंटेड जनरेशन (RAG) का उपयोग करके शीर्ष-$k$ स्निपेट्स प्राप्त करते हैं। हालांकि यह लघु संदर्भों के लिए प्रभावी है, लेकिन यह "फ्लैट" दृष्टिकोण दीर्घकालिक क्षितिज सेटिंग्स में तीन कारणों से विफल रहता है:

1. संरचनात्मक विलोपन (Structural Erasure): प्रक्षेपवक्रों को फ्लैट टेक्स्ट के रूप में लिखने से दृश्य (scene), घटना (event), अवस्था (state) और अस्थायी संरचना नष्ट हो जाती है, जो डाउनस्ट्रीम रीजनिंग के लिए आवश्यक है।
2. अपूर्ण श्रृंखला रिट्रिवल (Chain-Incomplete Retrieval): सतही-समानता-आधारित रिट्रिवल अक्सर ऐसे स्थानीय रूप से प्रासंगिक स्निपेट्स लौटाता है जिनमें मल्टी-हॉप रीजनिंग (जैसे, "दूसरी यात्रा के दो कदम बाद क्या हुआ?") के लिए आवश्यक वैश्विक श्रृंखला पूर्णता का अभाव होता है।
3. अकुशल साक्ष्य प्रदर्शन (Inefficient Evidence Exposure): उत्तर चरण को लंबे, असंरचित अंश प्राप्त होते हैं, जिससे मॉडल को स्वयं साक्ष्य श्रृंखला को पुनर्गठित करने के लिए मजबूर होना पड़ता है, जो टोकन-दक्षता के मामले में त्रुटिपूर्ण और अक्षम है।

मुख्य चुनौती एक एपिसोडिक साक्ष्य-निर्माण समस्या (episodic evidence-construction problem) के रूप में परिभाषित की गई है: एक सख्त टोकन बजट के तहत एजेंट के अपने प्रक्षेपवक्र से सही संरचित साक्ष्य को कैसे लिखा जाए, रिट्रिव किया जाए और प्रदर्शित किया जाए।

2. कार्यप्रणाली: S3Mem

S3Mem एक संरचित दृश्य-घटना एपिसोडिक मेमोरी फ्रेमवर्क है जिसे लंबे एजेंट प्रक्षेपवक्रों को एक संक्षिप्त, क्वेरी-संरेखित साक्ष्य श्रृंखला में बदलने के लिए डिज़ाइन किया गया है। यह चार विशिष्ट चरणों के माध्यम से संचालित होता है:

2.1 संरचित दृश्य-घटना लेखन (Structured Scene-Event Write)

इतिहास को जेनेरिक टेक्स्ट में फ्लैट करने के बजाय, S3Mem प्रत्येक इंटरेक्शन स्टेप (या स्थानीय खंड) को एक संरचित स्मृति इकाई (structured memory unit) के रूप में लिखता है।

• स्कीमा (Schema): प्रत्येक इकाई $m_t$ में विशिष्ट फ़ील्ड होते हैं: स्टेप इंडेक्स ($t$), एक्शन ($a_t$), प्रमुख वस्तुएं ($O_t$), स्थानीय घटना प्रकार ($E_t$), संबंध ($R_t$), स्थानीय अवस्था/इन्वेंट्री ($S_t$), स्थान/स्थानिक संदर्भ ($L_t$), और एक संक्षिप्त कच्चा सारांश ($u_t$)।
• पर्यावरण अनुकूलन: स्कीमा पर्यावरण के अनुसार भिन्न होता है (जैसे, Crafter में स्थानिक संबंधों पर जोर देना बनाम ALFWorld में इन्वेंट्री और आइटम प्राप्ति पर जोर देना), लेकिन यह हमेशा दृश्य, घटना, अवस्था और अस्थायी संदर्भ के संयुक्त प्रतिनिधित्व को सुरक्षित रखता है।

2.2 एंकर-संवेदनशील रिट्रिवल (Anchor-Sensitive Retrieval)

S3Mem सतही समानता से आगे बढ़कर एंकर-संवेदनशील रिट्रिवल करता है। यह प्रश्न से स्पष्ट रूप से एक एंकर टुपल $A(q)$ निकालता है, जिसमें शामिल हैं:

• लक्ष्य-स्टेप एंकर्स (Target-step anchors): सीधे संदर्भित स्टेप्स।
• उपस्थिति एंकर्स (Occurrence anchors): विशिष्ट घटनाएँ (जैसे, "दूसरी यात्रा," "पिछली बार")।
• अवस्था-परिवर्तन एंकर्स (State-transition anchors): प्रमुख घटनाएँ जैसे आइटम प्राप्त करना या स्थान परिवर्तन।

रिट्रिवल दो चरणों में आगे बढ़ता है:

1. प्रारंभिक खोज: मानक टेक्स्ट-आधारित उम्मीदवार खोज।
2. एंकर-जागरूक पुन: रैंकिंग (Anchor-Aware Reranking): उम्मीदवारों को एक स्कोरिंग फंक्शन का उपयोग करके पुन: रैंक किया जाता है जो केवल लेक्सिकल समानता ($s_{text}$) के बजाय उच्च एंकर अनुकूलता ($s_{anchor}$) और स्थानीय श्रृंखला समर्थन ($s_{chain}$) को प्राथमिकता देता है। यह एक विशिष्ट एंकर के आसपास की पूर्ण साक्ष्य श्रृंखला की रिट्रिवल सुनिश्चित करता है।

2.3 टोकन-बजट-जागरूक साक्ष्य इंटरफ़ेस

दक्षता को संबोधित करने के लिए, S3Mem एक निश्चित टोकन बजट $B$ के तहत एक संक्षिप्त साक्ष्य इंटरफ़ेस बनाता है।

• पैकिंग रणनीति: एक ग्रीडी पैकिंग एल्गोरिदम प्राथमिकता के आधार पर इकाइयों का चयन करता है: (1) एंकर-युक्त स्टेप्स, (2) अस्थायी ऑफसेट या अवस्था संक्रमणों का समर्थन करने के लिए आवश्यक न्यूनतम स्थानीय पड़ोस, और (3) लुप्त अवस्था तथ्य।
• विभेदीकरण: जेनेरिक सारांशीकरण के विपरीत, यह चरण मनमाने ढंगر रूप से संपीड़न नहीं करता है; यह श्रृंखला-अनावश्यक या श्रृंखला-अप्रासंगिक इकाइयों को हटाते हुए निर्णायक साक्ष्य श्रृंखला को सुरक्षित रखता है।

2.4 उत्तर-समय परत (Answer-Time Layer)

सिस्टम इस संक्षिप्त, संरचित साक्ष्य सेट को एक फ्रीज़्ड (frozen) उत्तर-समय परत को प्रदर्शित करता है। शोध पत्र इसका मूल्यांकन "वर्तमान फ्रोजन उत्तर-समय प्रोटोकॉल" के तहत करता है, जहाँ S3Mem को एक पूर्ण एंड-टू-एंड एजेंट ऑपरेटिंग सिस्टम के बजाय एक संरचित मेमोरी इंटरफ़ेस के रूप में माना जाता है।

3. मुख्य योगदान

1. पद्धतिगत: S3Mem का परिचय, जो दीर्घकालिक क्षितिज वाले संवादात्मक QA के लिए तैयार किया गया एक एकीकृत संरचित लेखन, एंकर-संवेदनशील रिट्रिवल और बजट-जागरूक साक्ष्य प्रदर्शन फ्रेमवर्क है।
2. अनुभवजन्य (Empirical): चार वातावरणों (Crafter, Jericho, ScienceWorld, ALFWorld) में एक मजबूत सटीकता-दक्षता सीमा (accuracy–efficiency frontier) की स्थापना। S3Mem काफी कम साक्ष्य टोकन का उपयोग करते हुए भी Vanilla RAG और Graph-NoReader की तुलना में लगातार बेहतर प्रदर्शन करता है।
3. व्याख्यात्मक: एक सीमित दावा कि प्रदर्शन में वृद्धि जेनेरिक मेमोरी स्टोरेज या केवल बढ़ी हुई संदर्भ लंबाई के बजाय संरचित साक्ष्य हार्नेस (लिखना + रिट्रिव + पैक करना) से आती है। इसकी पुष्टि हाल के बेसलाइन्स (A-MEM, MemoryOS, LightMem), राइट-साइड एब्लेशन और जेनेरिक कंप्रेशन चेक सहित व्यापक नियंत्रणों के माध्यम से की गई है।

4. प्रयोगात्मक परिणाम

मूल्यांकन आंतरिक हेडलाइन वातावरण (Crafter, Jericho) और आउट-ऑफ-फैमिली वातावरण (ScienceWorld, ALFWorld) में फैला हुआ है।

• सटीकता बनाम दक्षता: S3Mem, Vanilla RAG और Graph-NoReader की तुलना में नाटकीय रूप से कम साक्ष्य टोकन का उपभोग करते हुए उच्च Exact Match (EM) स्कोर प्राप्त करता है।
  • Crafter पर, S3Mem (EM $\approx$ 0.72) ~1600+ टोकन बनाम ~140 टोकनों के साथ Graph-NoReader (EM $\approx$ 0.70) से बेहतर प्रदर्शन करता है।
  • ALFWorld पर, S3Mem सभी बेसलाइन्स पर मजबूत सटीकता और दक्षता लाभ दिखाता है।
  • ScienceWorld पर, S3Mem, Graph-NoReader की सटीकता के बराबर पहुँचता है जबकि बहुत कम टोकन का उपयोग करता है, जो दक्षता सामान्यीकरण (efficiency generalization) को प्रदर्शित करता है।
• हाल के बेसलाइन्स के साथ तुलना: अनुकूलित संस्करण (A-MEM, MemoryOS, और LightMem) कुछ सेटिंग्स में Vanilla RAG में सुधार करते हैं, लेकिन S3Mem की समग्र सीमा (frontier) से मेल खाने में विफल रहते हैं।
• एब्लेशन अध्ययन (Ablation Studies):
  • राइट-साइड (Write-Side): पूर्ण दृश्य-घटना लेखन केवल घटनाओं, वस्तुओं या प्लेन चंक्स का उपयोग करने वाले वेरिएंट की तुलना में काफी बेहतर प्रदर्शन करता है, जो संयुक्त संरचनात्मक प्रतिनिधित्व की आवश्यकता की पुष्टि करता है।
  • एंकर संवेदनशीलता: एंकर रिकवरी को हटाने ("no_seed") से सबसे बड़ी गिरावट आती है, जो यह पहचानती है कि एंकर रिट्रिवल ही सटीकता का मुख्य चालक है।
  • जेनेरिक कंप्रेशन: नियंत्रित RTK-शैली का संपीड़न (जेनेरिक टेक्स्ट श्रिंक करना) साक्ष्य श्रृंखला को बनाए रखने में विफल रहता है, जिससे जटिल परिवारों (मल्टी-हॉप, टेम्पोरल ऑफसेट) पर समान टोकन लागत पर भी सटीकता गिर जाती है।
• मजबूती (Robustness): विधि Crafter में चार अलग-अलग रोलआउट एक्टर परिवारों में मजबूत रहती है, जो उच्च-लागत वाले बेसलाइन्स की तुलना में कम-टोकन, उच्च-सटीकता शासन बनाए रखती है।
• आउट-ऑफ-फैमिली ट्रांसफर: ATM-Bench (एक व्यक्तिगत मेमोरी आर्काइव) पर, S3Mem काफी कम टोकन उपयोग के साथ प्रतिस्पर्धी बना रहता है, हालांकि रैंकिंग इंटरैक्टिव वातावरण की तुलना में कम प्रभावी है।

5. दावे और महत्व

शोध पत्र अपने दावों के संबंध में एक संयमित और सीमित दायरे को बनाए रखता है:

• प्राथमिक दावा: वर्तमान फ्रोजन उत्तर-समय प्रोटोकॉल के तहत, संरचित लेखन और एंकर-संवेदनशील साक्ष्य रूटिंग, जेनेरिक मेमोरी इंटरफेस (प्लेन-टेक्स्ट RAG, ग्राफ-ओनली रिट्रिवल, या जेनेरिक कंप्रेशन) की तुलना में दीर्घकालिक क्षितिज वाले संवादात्मक QA के लिए एक मजबूत सटीकता-दक्षता सीमा प्रदान करते हैं।
• सीमाएं और दायरा:
  • शोध पत्र पूर्ण प्रोटोकॉल स्वतंत्रता का दावा नहीं करता है। निष्पक्षता विश्लेषण दिखाता है कि लाभ उत्तर-समय परत के साथ जुड़े हुए हैं; एक "जेनेरिक" उत्तरदाता सभी विधियों के लिए प्रदर्शन को ध्वस्त कर देता है, जबकि एक "gold_executor" रैंकिंग को पूरी तरह से पुन: उत्पन्न नहीं करता है।
  • योगदान को एक संरचित साक्ष्य हार्नेस के रूप में फ्रेम किया गया है, न कि एक सामान्य एजेंट ऑपरेटिंग सिस्टम के रूप में। लक्ष्य एपिसोडिक QA के लिए प्रक्षेपवक्र-से-उत्तर इंटरफ़ेस को सुधारना है, न कि सभी एजेंट मेमोरी चुनौतियों को हल करना।
  • गैर-सामान्यता का सबसे बड़ा शेष स्रोत मेमोरी प्रतिनिधित्व के बजाय उत्तर-समय उपभोग (answer-time consumption) में निहित है।

निष्कर्ष: शोध पत्र यह प्रतिपादित करता है कि दीर्घकालिक एजेंटों के लिए, स्मृति की कुंजी अधिक इतिहास दिखाना नहीं है, बल्कि सही संरचित साक्ष्य प्रदर्शित करना है। S3Mem यह प्रदर्शित करता है कि प्रक्षेपवक्यों को संरचित दृश्य-घटना इकाइयों में बदलना और उन्हें एंकर-संवेदनशील तर्क के माध्यम से रिट्रिव करना, तर्क सटीकता और टोकन दक्षता के बीच एक बेहतर संतुलन प्रदान करता है।