← नवीनतम पेपर
🤖 AI

TRUSTMEM: Learning Trustworthy Memory Consolidation for LLM Agents with Long-Term Memory

यह शोधपत्र TrustMem का प्रस्ताव करता है, जो एक मेमोरी ट्रांज़िशन वेरीफायर और मेमोरी अपडेट को अनुकूलित करने के लिए प्रेफरेंस-गाइडेड रीइन्फोर्समेंट लर्निंग का उपयोग करके LLM एजेंटों में दीर्घकालिक स्मृति की विश्वसनीयता को बढ़ाता है, जिससे विलोपन (omission), भ्रष्टाचार (corruption) और मतिभ्रम (hallucination) जैसी त्रुटियों को काफी कम करते हुए कई बेंचमार्क में अत्याधुनिक प्रदर्शन प्राप्त किया जाता है।

मूल लेखक: Tianyu Yang, Sudipta Paul, Vijay Srinivasan, Vivek Kulkarni, Srinivas Chappidi

प्रकाशित 2026-06-25
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Tianyu Yang, Sudipta Paul, Vijay Srinivasan, Vivek Kulkarni, Srinivas Chappidi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सहायक असिस्टेंट (एक AI एजेंट) है जो हर दिन आपसे बात करता है। वास्तव में मददगार होने के लिए, इस असिस्टेंट को चीजों को याद रखने की आवश्यकता होती है: आपकी पसंदीदा कॉफी का ऑर्डर, आपका कार्य इतिहास, या वे तथ्य जो आपने महीनों में साझा किए हैं। यह उसकी "दीर्घकालिक स्मृति" (long-term memory) है।

हालाँकि, ठीक वैसे ही जैसे एक इंसान कहानी को गलत याद रख सकता है या गलती से दो अलग-अलग लोगों के नाम आपस में मिला सकता है, AI असिस्टेंट भी गलतियाँ कर सकते हैं जब वे इन यादों को लिखने की कोशिश करते हैं। कभी-कभी वे एक महत्वपूर्ण विवरण भूल जाते हैं (Omission), कभी-कभी वे एक सही तथ्य को गलत में बदल देते हैं (Corruption), और कभी-कभी वे ऐसे तथ्य गढ़ लेते हैं जो कभी हुए ही नहीं (Hallucination)।

एक बार जब ये गलतियाँ असिस्टेंट की स्थायी नोटबुक में लिख दी जाती हैं, तो वे हमेशा के लिए बनी रहती हैं, जिससे भविष्य की बातचीत दूषित हो जाती है।

यह शोध पत्र TRUSTMEM पेश करता है, जो एक नया सिस्टम है जिसे इसे ठीक करने के लिए डिज़ाइन किया गया है। सोचिए कि TRUSTMEM केवल एक लेखक नहीं है, बल्कि एक सख्त संपादक और गुणवत्ता नियंत्रण निरीक्षक (quality control inspector) है जो असिस्टेंट द्वारा लिखे गए हर एक वाक्य की जाँच करता है, इससे पहले कि उसे स्थायी रिकॉर्ड में जोड़ा जाए।

यह कैसे काम करता है, यहाँ सरल उपमाओं (analogies) का उपयोग किया गया है:

1. समस्या: "अंधा" लेखक

वर्तमान AI एजेंट उन लेखकों की तरह हैं जिन्हें हर दिन नोट्स का एक ढेर दिया जाता है। वे अपनी नोटबुक को अपडेट करने की कोशिश करते हैं, लेकिन उन्हें सेमेस्टर के अंत में उनके अंतिम निबंध के आधार पर ही ग्रेड मिलता है।

  • समस्या: यदि अंतिम निबंध अच्छा है, तो शिक्षक (प्रशिक्षण प्रणाली) मान लेता है कि लेखक ने सब कुछ सही किया था। लेकिन लेखक ने अध्याय 1 में एक बड़ी गलती की होगी जिसे बाद में ठीक कर दिया गया था, या उन्होंने अध्याय 5 में एक झूठ लिखा होगा जिसने उनके अंतिम ग्रेड को तो खराब नहीं किया, लेकिन वह फिर भी खतरनाक है।
  • परिणाम: नोटबुक में सूक्ष्म त्रुटियाँ भर जाती हैं जो समय के साथ बढ़ती जाती हैं।

2. समाधान: "ट्रांजिशन वेरीफायर" (Transition Verifier)

TRUSTMEM खेल बदल देता है क्योंकि यह एक गुणवत्ता नियंत्रण निरीक्षक (जिसे Memory Transition Verifier कहा जाता है) को काम पर रखता है।

  • यह कैसे काम करता है: हर बार जब असिस्टेंट एक नया नोट जोड़ने या पुराने को बदलने की कोशिश करता है, तो निरीक्षक प्रक्रिया को रोक देता है। यह "पहले" की स्थिति (नोटबुक में क्या था), "नया नोट" (जो असिस्टेंट जोड़ना चाहता है), और "बाद की" स्थिति (नोटबुक कैसी दिखेगी) को देखता है।
  • तीन जाँच: निरीक्षक तीन प्रश्न पूछता है:
    1. कवरेज (Coverage): क्या हम नए नोट से कुछ महत्वपूर्ण भूल गए हैं?
    2. संरक्षण (Preservation): क्या हमने गलती से कुछ ऐसा हटा दिया या बिगाड़ दिया जो पहले से ही सही था?
    3. विश्वसनीयता (Faithfulness): क्या यह नई जानकारी वास्तव में अभी जो हमने पढ़ा है उससे समर्थित है, या असिस्टेंट मनगढ़ंत बातें बना रहा है?

3. प्रशिक्षण: "सर्वश्रेष्ठ ड्राफ्ट की रैंकिंग करना"

केवल अंत में असिस्टेंट को "अच्छा काम" या "बुरा काम" बताने के बजाय, TRUSTMEM एक चतुर प्रशिक्षण पद्धति का उपयोग करता है जिसे Transition-Ranked GRPO कहा जाता है।

  • उपमा: कल्पना कीजिए कि असिस्टेंट को एक बैठक का सारांश लिखने के लिए कहा गया है। केवल एक संस्करण लिखने के बजाय, वह पाँच अलग-अलग ड्राफ्ट लिखता है।
  • निरीक्षक पाँचों ड्राफ्ट को ग्रेड देता है।
  • सिस्टम फिर कहता है: "ड्राफ्ट A सबसे अच्छा था (इसने सभी तथ्यों को बनाए रखा और कुछ भी फर्जी नहीं जोड़ा), और ड्राफ्ट D सबसे खराब था (इसने तारीख भूल दी और एक नाम गढ़ लिया)।"
  • असिस्टेंट "सर्वश्रेष्ठ" ड्राफ्ट की तुलना "सबसे खराब" ड्राफ्ट से करके सीखता है। यह सीखता है कि ठीक कौन सी विशिष्ट क्रियाएँ एक विश्वसनीय मेमोरी अपडेट की ओर ले जाती हैं, न कि केवल अंतिम स्कोर के आधार पर अनुमान लगाता है।

परिणाम: एक स्वच्छ नोटबुक

शोध पत्र ने तीन अलग-अलग "परीक्षा कक्षों" (benchmarks) का उपयोग करके अन्य स्मार्ट मेमोरी सिस्टम के मुकाबले TRUSTMEM का परीक्षण किया।

  • बेहतर स्मृति: इसने तथ्यों को अधिक सटीकता से याद रखा और बाद में प्रश्नों के उत्तर देने में बेहतर रहा।
  • कम गलतियाँ: इसने त्रुटियों को काफी कम कर दिया। विशेष रूप से, इसने कम किया:
    • Omissions (महत्वपूर्ण विवरण भूल जाना) को 40%।
    • Corruptions (तथ्यों को बदलना) को 79%।
    • Hallucinations (मनगढ़ंत बातें बनाना) को 50%।

संक्षेप में

TRUSTMEM एक AI असिस्टेंट को एक प्रूफरीडर देने जैसा है जो स्थायी रिकॉर्ड में जाने से पहले हर एक वाक्य की जाँच करता है। यह सुनिश्चित करने के लिए कि हर मेमोरी अपडेट पूर्ण, सटीक और ईमानदार है, प्रत्येक अपडेट को सत्यापित करके, यह सिस्टम सुनिश्चित करता है कि AI की दीर्घकालिक स्मृति एक विश्वसनीय सत्य का स्रोत बनी रहे, न कि धीरे-धीरे बढ़ती त्रुटियों का संग्रह।

नोट: शोध पत्र सख्ती से टेक्स्ट-आधारित मेमोरी सिस्टम पर केंद्रित है और यह दावा नहीं करता है कि यह अभी छवियों, वीडियो या चिकित्सा अनुप्रयोगों के साथ काम करता है, हालांकि लेखक उल्लेख करते हैं कि वे भविष्य में इन क्षेत्रों में विस्तार करने की आशा करते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →