QUMem: Personalized Memory for Query-Conditioned User-State Inference in LLM Agents
QUMem एक संरचित मेमोरी फ्रेमवर्क है जो इंटरेक्शन इतिहास को सिमेंटिक एपिसोड में विभाजित करके, उन्हें स्वतंत्र रूप से पुनर्प्राप्त करने योग्य मेमोरी प्रकारों में विघटित करके, और टेम्पोरल एवं कॉन्टेक्स्टुअली वैध यूजर स्टेट्स का अनुमान लगाने के लिए मल्टी-एजेंट रिट्रीवल प्रक्रिया को नियोजित करके LLM एजेंट पर्सनलाइजेशन को बढ़ाता है, जिससे पर्सनलाइजेशन बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, कंप्यूटर प्रोग्रामों की एक नई पीढ़ी उभरी है जो केवल सवालों के जवाब देने से कहीं अधिक कर सकती है; वे निरंतर सहायक (persistent assistants) के रूप में कार्य कर सकते हैं, पिछले संवादों को याद रख सकते हैं और समय के साथ अपने व्यवहार को अनुकूलित कर सकते हैं। ये सिस्टम, जिन्हें 'एजेंट' कहा जाता है, प्रभावी ढंग से कार्य करने के लिए डिजिटल स्मृति (digital memory) के एक रूप पर निर्भर करते हैं। जिस तरह एक मानव सहायक क्लाइंट की पसंदीदा कॉफी का ऑर्डर याद रखता है या यह याद रखता है कि पिछले सप्ताह प्रोजेक्ट की समय सीमा बदल दी गई थी, इन एजेंटों को भी बातचीत के लंबे इतिहास से जानकारी संग्रहीत और पुनः प्राप्त करने की आवश्यकता होती है। हालाँकि, मानव स्मृति कोई साधारण फाइलिंग कैबिनेट नहीं है जहाँ हर बातचीत को एक एकल, अपरिवर्तनीय ब्लॉक के रूप में संग्रहीत किया जाता है। इसके बजाय, हम स्वाभाविक रूप से तथ्यों को भावनाओं से अलग करते हैं, एक अस्थायी मूड और एक स्थायी प्राथमिकता के बीच अंतर करते हैं, और समझते हैं कि समय बीतने के साथ बातचीत का संदर्भ बदल जाता है। आर्टिफिशियल इंटेलिजेंस के लिए वास्तव में किसी व्यक्ति को समझने हेतु, उसे भी ऐसा करने में सक्षम होना चाहिए: वर्षों के संवादों को छानना, प्रासंगिक विवरणों को शोर से अलग करना, और इस बात का स्पष्ट चित्र पुनर्गठित करना कि उपयोगकर्ता अभी इस क्षण में कैसा है।
लंबे समय से, शोधकर्ताओं ने इन डिजिटल संवादों को संग्रहीत करने और खोजने के बेहतर तरीके बनाकर इस चुनौती को हल करने का प्रयास किया है। प्रचलित दृष्टिकोण स्मृति को एक पुस्तकालय की तरह मानने का रहा है जहाँ उपयोगकर्ता का प्रश्न एक खोज शब्द (search term) के रूप में कार्य करता है, जो सबसे समान पाठ के टुकड़ों को वापस लाता है। हालाँकि यह सरल प्रश्नों के लिए काम करता है, लेकिन जटिल स्थितियों में यह संघर्ष करता है। यदि कोई उपयोगकर्ता कई हफ्तों में किसी विषय पर अपना विचार बदल देता है, या यदि एक ही बातचीत में एक क्षणिक शिकायत और एक स्थायी नियम दोनों शामिल हैं जिसका वह पालन करना चाहता है, तो मानक प्रणालियाँ अक्सर भ्रमित हो जाती हैं। वे असंबंधित घटनाओं को आपस में मिला सकती हैं या यह देखने में विफल हो सकती हैं कि एक पिछला निर्णय वर्तमान अनुरोध से कैसे जुड़ता है। इसका परिणाम यह होता है कि एक सहायक शब्दों को तो याद रखता है लेकिन अर्थ को समझ नहीं पाता, जिससे वह एक अस्थायी पसंद और एक मूल मूल्य के बीच अंतर करने में असमर्थ हो जाता है।
शीआन जियाओतोंग विश्वविद्यालय के शोधकर्ताओं की एक टीम ने इस चुनौती से निपटने के लिए एक नया तरीका प्रस्तावित किया है, जिसे 'QUMem' नामक प्रणाली कहा जाता है। केवल समान पाठ खोजने के बजाय, यह प्रणाली बातचीत की संरचना और उसके भीतर सूचना की विशिष्ट भूमिका को समझने के लिए डिज़ाइन की गई है। शोधकर्ताओं का तर्क है कि एक वास्तव में व्यक्तिगत सहायक बनाने के लिए, कंप्यूटर को पहले बातचीत के कच्चे इतिहास को बातचीत के प्राकृतिक प्रवाह के आधार पर सार्थक कहानियों, या "एपिसोड्स" (episodes) में व्यवस्थित करना चाहिए। फिर यह इन कहानियों को सूचना के तीन अलग-अलग प्रकारों में विभाजित करता है: क्या हुआ इसके बारे में ठोस तथ्य, उपयोगकर्ता द्वारा बताई गई विशिष्ट प्राथमिकताएं या नियम, और व्यापक अंतर्दृष्टि या सिद्धांत जिन्हें नई स्थितियों में लागू किया जा सकता है। इन तत्वों को अलग करके, सिस्टम घटना के पूर्ण संदर्भ को बनाए रख सकता है और साथ ही सहायक को वर्तमान क्षण के लिए आवश्यक विशिष्ट विवरण निकालने की अनुमति भी दे सकता है।
मुख्य नवाचार इस बात में निहित है कि सिस्टम एक नए अनुरोध को कैसे संसाधित करता है। कंप्यूटर से यह अनुमान लगाने के लिए कहने के बजाय कि उसे क्या खोजना चाहिए, QUMem एक तीन-चरणीय तर्क प्रक्रिया (reasoning process) का उपयोग करता है। सबसे पहले, एक एजेंट उपयोगकर्ता के वर्तमान प्रश्न का विश्लेषण करता है ताकि यह निर्धारित किया जा सके कि इसे ठीक से उत्तर देने के लिए किस जानकारी की आवश्यकता है। वह खुद से पूछता है कि क्या कार्य के लिए एक विशिष्ट तथ्य, एक पिछली प्राथमिकता, या एक सामान्य नियम की आवश्यकता है। इसके बाद, दूसरा एजेंट एक खोज की योजना बनाता है, सिस्टम को निर्देश देता है कि वह पूरे इतिहास में खोजने के बजाय उस विशिष्ट "शेल्फ" में खोजे जहाँ उस प्रकार की जानकारी संग्रहीत है। अंत में, तीसरा एजेंट साक्ष्यों के टुकड़ों को लेता है और उन्हें उपयोगकर्ता की वर्तमान स्थिति की एक सुसंगत तस्वीर बुनने के लिए जोड़ता है। यह अंतिम तस्वीर केवल पुरानी यादों की सूची नहीं है; यह इस बात का संश्लेषित (synthesized) बोध है कि वह विशिष्ट क्षण में उपयोगकर्ता कौन है, जिसमें यह भी ध्यान रखा गया है कि उनकी प्राथमिकताएँ कैसे विकसित हुई हैं और कौन से नियम अभी भी लागू होते हैं।
इस दृष्टिकोण का परीक्षण करने के लिए, शोधकर्ताओं ने दो अलग-अलग बेंचमार्क का उपयोग करके अपने सिस्टम की तुलना कई मौजूदा तरीकों से की, जो यह मापने के लिए डिज़ाइन किए गए हैं कि एक AI उपयोगकर्ता के प्रति कितनी अच्छी तरह याद रख सकता है और अनुकूलित हो सकता है। एक परीक्षण में, सिस्टम को लंबी बातचीत के दौरान उपयोगकर्ता की बदलती प्राथमिकताओं के बारे में प्रश्नों का उत्तर देना था। नई विधि ने अन्य तरीकों को काफी पीछे छोड़ दिया, और PersonaMem बेंचमार्क पर अत्याधुनिक प्रदर्शन (state-of-the-art performance) हासिल किया। GPT-4o-mini मॉडल के साथ, QUMem ने समग्र सटीकता को बढ़ाकर 61.02% कर दिया, और Gemini-3.5-flash के साथ, इसने 70.58% तक पहुँच प्राप्त की, जबकि अगले सर्वश्रेष्ठ सिस्टमों ने क्रमशः लगभग 53% और 63% प्राप्त किया। सुधार और भी स्पष्ट था जब कार्य में यह ट्रैक करना शामिल था कि किसी प्राथमिकता में समय के साथ कैसे बदलाव आया या किसी पिछले सबक को पूरी तरह से नई स्थिति में कैसे लागू किया जाए। एक दूसरे परीक्षण में, जिसमें एक मोबाइल असिस्टेंट शामिल था जिसे उपयोगकर्ता की आदतों के आधार पर कार्य करने थे, इस प्रणाली ने फिर से उच्चतम सफलता दर प्राप्त की, जिससे यह सिद्ध हुआ कि सोचने का यह संरचित तरीका कंप्यूटर को बेहतर उत्तर देने के साथ-साथ बेहतर कार्य करने में भी मदद करता है।
शोधकर्ताओं ने यह भी पाया कि जिस तरह से यह सिस्टम बना है, वह इसे अधिक कुशल बनाता है। पुराने तरीके अक्सर हर बार एक नया संदेश आने पर एक भारी कम्प्यूटेशनल प्रक्रिया शुरू कर देते हैं, चाहे वह महत्वपूर्ण हो या नहीं। नया सिस्टम तब तक प्रतीक्षा करता है जब तक कि कोई बातचीत स्वाभाविक रूप से एक विषय को समाप्त नहीं कर देती, और फिर वह जानकारी को व्यवस्थित करने के लिए सूचना को वर्गीकृत करने हेतु निश्चित, छोटे चरणों का उपयोग करता है। इसका अर्थ है कि यह अपनी स्मृति बनाने के लिए बहुत कम कंप्यूटिंग शक्ति का उपयोग करता है, जिससे यह बिना धीमा हुए लंबे इतिहास को संभाल सकता है। अध्ययन बताता है कि दीर्घकालिक वैयक्तिकरण (long-term personalization) की कुंजी केवल अधिक डेटा संग्रहीत करना नहीं है, बल्कि इसे इस तरह से व्यवस्थित करना है जो एक तथ्य, एक प्राथमिकता और एक सबक के बीच के अंतर का सम्मान करता हो। उपयोगकर्ता के इतिहास को शब्दों की एक सपाट सूची के बजाय संरचित, विकसित होती कहानियों के संग्रह के रूप में मानकर, सिस्टम उस व्यक्ति की बहुत स्पष्ट और सटीक समझ विकसित कर सकता है जिसकी वह सेवा कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।