ECHO: A Cognitively Inspired, Auditable Memory Plane for Long-Horizon Agents
ECHO एक संज्ञानात्मक रूप से प्रेरित, ऑडिट करने योग्य मेमोरी आर्किटेक्चर है जो लंबी अवधि के एजेंटों (long-horizon agents) के लिए है, जो अपने वर्तमान मूल्यांकन स्वतंत्रता में सीमाओं के बावजूद, जांच योग्य उत्पत्ति (provenance) और पारदर्शी विकास मेट्रिक्स पर जोर देते हुए बेंचमार्क डेटासेट पर उच्च पुनर्प्राप्ति प्रदर्शन प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक डिजिटल सहायक है जो वह सब कुछ याद रखता है जो आपने उसे कभी बताया है। इस सहायक के वास्तव में उपयोगी होने के लिए, इसे केवल तथ्यों की एक सूची के रूप में संग्रहीत नहीं करना चाहिए जैसे कि एक स्थिर विश्वकोश। इसे उन तथ्यों के पीछे की कहानी को समझना होगा। यदि आप इसे बताते हैं कि आपका पता एक चीज़ है, और फिर बाद में आप इसे बताते हैं कि आप दूसरे पते पर चले गए हैं, तो सिस्टम को न केवल नया पता पता होना चाहिए, बल्कि यह भी पता होना चाहिए कि पुराना पता कब बदला गया, कैसे बदला गया और क्यों बदला गया। इसे उस मूल बातचीत को थामे रखना चाहिए जहाँ सुधार हुआ था, ताकि यदि आप अपने अतीत के बारे में पूछें, तो यह केवल वर्तमान उत्तर देने के बजाय परिवर्तन का प्रमाण दिखा सके। अनुभव का यह सुरक्षित, जांच योग्य इतिहास बनाए रखने की क्षमता, साथ ही यह जानना कि कौन सा विशेष तथ्य किसी विशिष्ट क्षण के लिए मान्य है, अगली पीढ़ी के बुद्धिमान एजेंटों के लिए केंद्रीय चुनौती है।
XDream Robotics के शोधकर्ताओं ने इस समस्या से निपटने के लिए ECHO नामक एक नया सिस्टम बनाया है। उन्होंने इसे जैविक मस्तिष्क की नकल करने की कोशिश करके नहीं, बल्कि इस बात से प्रेरणा लेकर डिजाइन किया है कि मानव स्मृति मोटे तौर पर कैसे काम करती है: हम एक घटना को कैसे रिकॉर्ड करते हैं, हम उस घटना को ज्ञान में कैसे व्यवस्थित करते हैं, और हम कैसे तय करते हैं कि अभी क्या सत्य है। टीम ने एक डिजिटल "मेमोरी प्लेन" बनाया है जो प्रत्येक जानकारी को एक स्थायी रिकॉर्ड के रूप में मानता है। पुराने डेटा को नए डेटा के साथ ओवरराइट करने के बजाय, सिस्टम पुराने रिकॉर्ड को रखता है और परिवर्तन की व्याख्या करने वाला एक नया नोट जोड़ देता है। यह एक ऐसी टाइमलाइन बनाता है जहाँ प्रत्येक तथ्य का एक स्पष्ट इतिहास होता है। सिस्टम जानकारी खोजने के कार्य को उसे सही निर्णय लेने के कार्य से अलग करता है। यह अपनी स्मृति से कई संभावित उत्तर एकत्र करता है, लेकिन एक सख्त नियम पुस्तिका निर्धारित करती है कि कौन सा वास्तव में मान्य है, इस आधार पर कि वह कब हुआ था और क्या उसे बाद के अपडेट द्वारा प्रतिस्थापित कर दिया गया है।
यह दृष्टिकोण काम करता है या नहीं, इसे परखने के लिए, शोधकर्ताओं ने लंबी बातचीत पर आधारित हजारों प्रश्नों का उपयोग करके सिस्टम को कठोर परीक्षाओं के माध्यम से चलाया। पहले परीक्षण सेट में, जिसमें विभिन्न विषयों पर 1,536 प्रश्न शामिल थे, सिस्टम ने 96.29% बार प्रासंगिक बातचीत को सफलतापूर्वक खोज लिया। जब प्रश्नों के लिए 500 अलग-अलग बातचीत सत्रों के लंबे इतिहास में विशिष्ट विवरण खोजने की आवश्यकता थी, तो इसने 97.60% बार सही जानकारी खोजी। ये संख्याएँ बताती हैं कि सिस्टम किसी प्रश्न का उत्तर देने के लिए आवश्यक कच्चे साक्ष्य (raw evidence) को खोजने में बहुत अच्छा है। हालाँकि, शोधकर्ता केवल एक पुस्तक के सही पृष्ठ को खोजने से कहीं अधिक गहराई से देखने के लिए सावधान थे। उन्होंने यह भी जाँच की कि क्या सिस्टम ने आवश्यक साक्ष्यों के सभी हिस्सों को खोजा। एक एकल लंबी बातचीत से जुड़े एक विशिष्ट परीक्षण में, सिस्टम ने सही उत्तर हर बार खोजा, लेकिन वह उस उत्तर को पूरी तरह से समझाने के लिए आवश्यक कई सहायक विवरणों को खोजने में विफल रहा। इससे यह पता चला कि सिस्टम मुख्य तथ्य (headline fact) तो खोज सकता है, लेकिन कभी-कभी उस तथ्य के पीछे की पूरी कहानी को इकट्ठा करने में विफल रहता है।
टीम ने फिर सिस्टम के कौशल को सामान्य बनाने (generalize) के लिए पांच अलग-अलग बातचीत के एक नए सेट पर परीक्षण किया जिसे उसने पहले कभी नहीं देखा था। यह परीक्षण बहुत कठिन था। सिस्टम केवल लगभग 79% मामलों में सही उत्तर पा सका, और इसने सहायक विवरणों का एक बड़ा हिस्सा छोड़ दिया। यह परिणाम एक स्पष्ट संकेत था कि सूचना खोजने की सिस्टम की क्षमता पूर्ण नहीं है और यह उस बातचीत के विशिष्ट प्रकार पर बहुत अधिक निर्भर करती है जिसे वह पढ़ रहा है। एक अन्य लोकप्रिय मेमोरी सिस्टम, जिसे Mem0 कहा जाता है, के साथ सीधे तुलना में, शोधकर्ताओं ने दोनों सिस्टमों से 91 विशिष्ट प्रश्न पूछने को कहा। दूसरे सिस्टम ने 64.84% बार सही उत्तर दिया, जबकि ECHO ने केवल 41.76% बार सही उत्तर दिया। यह अंतर सांख्यिकीय रूप से महत्वपूर्ण था, जो दर्शाता है कि जबकि ECHO कच्चे साक्ष्य को व्यवस्थित करने और खोजने में उत्कृष्ट है, यह वर्तमान में अन्य सिस्टम की तुलना में सही अंतिम उत्तर में उस साक्ष्य को बदलने में कम प्रभावी है।
इस कार्य का सबसे महत्वपूर्ण निष्कर्ष यह नहीं है कि सिस्टम पूर्ण है, बल्कि यह है कि यह पारदर्शी है। शोधकर्ताओं ने ECHO को इस तरह से डिजाइन किया है कि इसके सोचने के हर चरण का ऑडिट किया जा सके। यदि सिस्टम कोई गलती करता है, या यदि यह निर्णय लेता है कि इसके पास उत्तर देने के लिए पर्याप्त जानकारी नहीं है, तो यह स्पष्ट रूप से दिखा सकता है कि क्यों। यह उन विशिष्ट बातचीत के मोड़ों की ओर इशारा कर सकता है जिन्हें इसने देखा, उन नियमों की ओर इशारा कर सकता है जिनका उपयोग इसने यह तय करने के लिए किया कि कौन सी जानकारी वर्तमान है, और वह साक्ष्य भी दिखा सकता है जिसे इसने एकत्र किया। यह स्तर की स्पष्टता कृत्रिम बुद्धिमत्ता (AI) में दुर्लभ है, जहाँ सिस्टम अक्सर बिना अपना काम दिखाए उत्तर देने वाले "ब्लैक बॉक्स" के रूप में कार्य करते हैं। यह अध्ययन सिद्ध करता है कि एक ऐसा मेमोरी सिस्टम बनाना संभव है जो अतीत का विस्तृत, अपरिवर्तनीय रिकॉर्ड रखता है और सूचना खोजने के कार्य को यह तय करने के कार्य से स्पष्ट रूप से अलग करता है कि क्या सत्य है। हालाँकि सिस्टम को अंतिम उत्तर देने में अन्य उपकरणों की सटीकता से मेल खाने के लिए अभी भी सुधार की आवश्यकता है, यह हमें यह देखने का एक नया, विश्वसनीय तरीका प्रदान करता है कि एक एजेंट अतीत को कैसे याद रखता है और उसके बारे में तर्क करता है। शोधकर्ता निष्कर्ष निकालते हैं कि इस कार्य का मूल्य केवल एक टेस्ट पर उच्च स्कोर हासिल करने के बजाय, स्मृति की प्रक्रिया को दृश्यमान और जांच योग्य बनाने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।