Enhancing Virtual Agents through SLMs and Edge-Computing: An Exploratory Evaluation of Think and Memory Processes
यह शोध पत्र संज्ञानात्मक एम्बोडीड एजेंट आर्किटेक्चर (CEAA) की "थिंक" (सोच) और "मेमोरी" (स्मृति) प्रक्रियाओं को लागू करने के लिए स्मॉल लैंग्वेज मॉडल्स (SLMs) का उपयोग करने वाले एक एज-आधारित वर्चुअल एजेंट सिस्टम का प्रस्ताव और मूल्यांकन करता है, जो इमर्सिव वर्चुअल वर्ल्ड्स के लिए NVIDIA जेसन हार्डवेयर पर कुशल, संदर्भ-जागरूक संज्ञानात्मक ऑर्केस्ट्रेशन का प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया जहाँ आपके वीडियो गेम के पात्र, वर्चुअल टूर गाइड या मेटावर्स के दोस्त केवल एक रोबोट की तरह टेलीप्रॉम्प्टर से पढ़ा हुआ कोई स्क्रिप्ट नहीं पढ़ रहे हैं। इसके बजाय, वे डिजिटल अर्थ में वास्तव में "जीवित" हैं: वे याद रखते हैं कि आपने कल उनसे क्या कहा था, वे आपके चुटकुलों को समझते हैं, और वे तुरंत निर्णय ले सकते हैं। यह "एम्बोडीड वर्चुअल एजेंट्स" (Embodied Virtual Agents) का सपना है। लेकिन इसमें एक पेंच है। इन पात्रों को स्मार्ट बनाने के लिए, उन्हें आमतौर पर अपने विचारों को क्लाउड में स्थित विशाल, सुपर-पावरफुल कंप्यूटरों में भेजना पड़ता है। इसमें समय लगता है, लैग (lag) पैदा करता है, और यह विच्छेदित महसूस करा सकता है।
यहाँ दो नए नायक आते हैं: स्मॉल लैंग्वेज मॉडल्स (SLMs) और एज कंप्यूटिंग (Edge Computing)। SLMs को एक प्रतिभाशाली लेकिन संक्षिप्त मस्तिष्क के रूप में सोचें जो आपकी जेब में समा सकता है, जो बिना किसी सुपरकंप्यूटर की आवश्यकता के भाषा को समझने में सक्षम है। एज कंप्यूटिंग उस मस्तिष्क को एक दूरस्थ डेटा सेंटर से हटाकर सीधे एक्शन के पास ले जाने जैसा है—शायद उस डिवाइस पर ही जिसका आप उपयोग कर रहे हैं। वैज्ञानिक मुख्य सवाल यह पूछ रहे हैं: क्या हम इस "जेब वाले मस्तिष्क" को हमारे वर्चुअल दोस्तों के ठीक बगल में रख सकते हैं ताकि वे क्लाउड तक सिग्नल जाने और वापस आने का इंतज़ार किए बिना तुरंत सोच सकें, याद रख सकें और कार्य कर सकें? यह पेपर ठीक इसी बात की जांच करता है, कि क्या ये छोटे, स्थानीय मस्तिष्क वर्चुअल एजेंट्स के लिए मेमोरी और निर्णय लेने का भारी काम संभालने के लिए पर्याप्त स्मार्ट हैं।
मस्तिष्क और लाइब्रेरियन: एक वर्चुअल एजेंट की दुविधा
वर्चुअल रियलिटी की दुनिया में, एक एजेंट को वास्तविक महसूस करने के लिए दो मुख्य चीजों की आवश्यकता होती है: एक सोचने (Think) की प्रक्रिया (यह तय करने के लिए कि क्या करना है) और एक याद रखने (Memory) की प्रक्रिया (यह याद रखने के लिए कि आप कौन हैं और आपने क्या चर्चा की है)। इस अध्ययन के पीछे के शोधकर्ताओं ने यह देखना चाहा कि क्या वे एक स्थानीय डिवाइस पर चलने वाले स्मॉल लैंग्वेज मॉडल का उपयोग करके इन एजेंट्स के लिए एक "कॉग्निटिव इंजन" बना सकते हैं, विशेष रूप से एक शक्तिशाली छोटे कंप्यूटर जिसे NVIDIA Jetson Orin NX कहा जाता है। वे केवल यह नहीं चाहते थे कि एजेंट चैट करे; वे चाहते थे कि यह एक सच्चे सहायक की तरह कार्य करे जो आपकी अनुरोधों को सही सेवा (जैसे 3D मॉडल बनाना या साउंड प्ले करना) तक रूट कर सके और आपकी बातचीत की एक डायरी रखता रहे।
इसका परीक्षण करने के लिए, उन्होंने एक ऐसा सिस्टम बनाया जहाँ एजेंट का "मस्तिष्क" एक Qwen2.5 मॉडल था। उन्होंने इन "मस्तिष्कों" के तीन अलग-अलग आकार आजमाए: 0.5 बिलियन पैरामीटर्स वाला एक छोटा, 1.5 बिलियन वाला एक मध्यम, और 3.0 बिलियन वाला एक बड़ा। उन्होंने उन सभी को एज डिवाइस पर रखा और उन्हें यह देखने के लिए चुनौतियों की एक श्रृंखला दी कि वे कितनी अच्छी तरह सोच और याद रख सकते हैं।
"सोच" का परीक्षण: अनुरोधों को रूट करना
सबसे पहले, उन्होंने सोचने (Think) की प्रक्रिया का परीक्षण किया। कल्पना कीजिए कि आप एक वर्चुअल दुनिया में हैं और आप कहते हैं, "मुझे ड्रैगन की दहाड़ के लिए एक साउंड इफेक्ट चाहिए" या "क्या आप महल की दीवार के लिए एक टेक्सचर बना सकते हैं?" एजेंट को तुरंत यह समझना होगा कि किस टूल का उपयोग करना है। यह एक व्यस्त होटल के रिसेप्शनिस्ट की तरह है जिसे मेहमानों को सही कमरे में निर्देशित करना होता है: स्पा, जिम, या रेस्टोरेंट।
परिणामों ने गति और बुद्धिमत्ता के बीच एक स्पष्ट ट्रेड-ऑफ दिखाया। छोटा 0.5B मॉडल तेज़ था लेकिन अक्सर भटक जाता था। वह केवल 29.4% बार ही सही उत्तर दे पाता था। वह समान अनुरोधों में भ्रमित हो जाता था, जैसे "इमेज टू 3D जनरेशन" को "कन्वर्सेशनल जनरेटर" के साथ मिला देना। यह एक ऐसे रिसेप्शनिस्ट की तरह था जो सबको जिम भेज देता रहता है क्योंकि वह बाकी कमरों के बारे में भूल गया है।
1.5B मॉडल एक बहुत बड़ा सुधार था, जो 85.4% बार सही होता था। वह अधिकांश अनुरोधों को अच्छी तरह से संभाल सकता था, हालांकि वह जटिल 3D कार्यों पर थोड़ा लड़खड़ाता था। 3.0B मॉडल सबसे स्मार्ट था, जिसने 87.7% सटीकता हासिल की, विशेष रूप से कठिन जनरेशन कार्यों पर। हालाँकि, स्मार्ट होने की एक कीमत थी: 3.0B मॉडल को सोचने में बहुत अधिक समय लगा। इसकी औसत प्रतिक्रिया समय 5,067 मिलीसेकंड (लगभग 5 सेकंड) थी, जबकि 1.5B मॉडल के लिए यह 3,349 मिलीसेकंड (लगभग 3.3 सेकंड) थी। छोटा 0.5B मॉडल 1,504 मिलीसेकंड पर सबसे तेज़ था, लेकिन यह उपयोगी होने के लिए बहुत अविश्वसनीय था।
"मेमोरी" का परीक्षण: विवरणों को याद रखना
इसके बाद, उन्होंने याद रखने (Memory) की प्रक्रिया का परीक्षण किया। यह एजेंट से पहले बताई गई किसी विशिष्ट बात को याद करने, या यदि आपने अपना विचार बदल दिया है तो तथ्य को अपडेट करने के लिए कहने जैसा है। उदाहरण के लिए, यदि आप कहते हैं, "मेरे चरित्र का नाम एलेक्स है," और बाद में कहते हैं, "वास्तव में, मेरा नाम एलेक्स द ब्रेव है," तो एजेंट को अपडेट को याद रखना चाहिए और भ्रमित नहीं होना चाहिए।
यहाँ, अंतर और भी स्पष्ट थे। 0.5B मॉडल तथ्यों को सही ढंग से 72.8% बार याद रख पाया, लेकिन सुधारों को संभालने में वह बहुत खराब था। वह अक्सर सही व्यक्ति को याद रखता था लेकिन गलत विवरण के साथ, या यह महसूस करने में विफल रहता था कि आपने अपना विचार बदल लिया है। यह एक ऐसे दोस्त की तरह था जो आपका नाम तो याद रखता है लेकिन यह भूल जाता है कि आपने अभी नया हेयरकट लिया है।
1.5B मॉडल बेहतर था, जिसने 78.4% उत्तर सही दिए। वह सरल तथ्यों के लिए अच्छा था लेकिन अभी भी जटिल अपडेट या समान यादों के बीच अंतर करने में संघर्ष कर रहा था। 3.0B मॉडल स्पष्ट विजेता था, जिसने 93.6% सटीकता प्राप्त की। वह तथ्यों, अपडेट और सुधारों को विश्वसनीयता से संभाल सकता था। हालाँकि, ठीक सोचने वाले परीक्षण की तरह ही, इस उच्च सटीकता के साथ गति का भारी नुकसान आया। 3.0B मॉडल को एक मेमोरी अनुरोध को प्रोसेस करने में औसतन 9,693 मिलीसेकंड (लगभग 10 सेकंड) लगे, जिसमें कुछ अनुरोधों में सबसे खराब स्थिति में 14,531 मिलीसेकंड (14 सेकंड से अधिक) तक का समय लगा। 0.5B मॉडल 2,025 मिलीसेकंड पर बहुत तेज़ था, लेकिन इसकी खराब सटीकता ने इसे किसी भी गंभीर चीज़ के लिए एक बुरा विकल्प बना दिया।
निष्कर्ष: यह काम पर निर्भर करता है
तो, शोधकर्ताओं ने क्या पाया? उन्होंने पाया कि स्मॉल लैंग्वेज मॉडल्स क्लाउड की आवश्यकता के बिना, एज पर ही वर्चुअल एजेंट के मस्तिष्क के "सोचने" और "याद रखने" वाले हिस्सों को आंशिक रूप से शक्ति दे सकते हैं। लेकिन कोई एक "परफेक्ट" आकार नहीं है।
यदि आपको गति चाहिए और आप कुछ गलतियों को सहन कर सकते हैं, तो छोटे मॉडल तेज़ हैं लेकिन अविश्वसनीय हैं। यदि आपको विवरणों को याद रखने या जटिल निर्णय लेने के लिए उच्च सटीकता की आवश्यकता है, तो बड़े मॉडल बहुत बेहतर हैं, लेकिन वे धीमे हैं। पेपर सुझाव देता है कि सबसे अच्छा समाधान एक हाइब्रिड दृष्टिकोण हो सकता है: त्वरित, सरल कार्यों (जैसे अनुरोध को रूट करना) के लिए एक छोटे, तेज़ मॉडल का उपयोग करना और भारी कामों (जैसे जटिल इतिहास को याद रखना या सुधारों को संभालना) के लिए एक बड़े, स्मार्ट मॉडल का उपयोग करना।
अध्ययन यह निष्कर्ष निकालता है कि हालांकि हम एज पर ही सोचने और याद रखने वाले वर्चुअल एजेंट्स के करीब पहुँच रहे हैं, लेकिन हमें अभी भी बहुत काम करना है। वर्तमान मॉडल वास्तविक समय की, तत्काल बातचीत के लिए थोड़े धीमे हैं, और वे कभी-कभी इस बारे में भ्रमित हो जाते हैं कि क्या कार्रवाई की जाए। लेकिन यह एक आशाजनक पहला कदम है, जो दिखाता है कि सही मॉडल साइज के मिश्रण और सावधानीपूर्ण डिज़ाइन के साथ, हम ऐसे वर्चुअल दोस्त बनाना शुरू कर सकते हैं जो न केवल देखने में सुंदर हैं, बल्कि वास्तव में इतने स्मार्ट भी हैं कि मेटावर्स में हमारे साथ समय बिता सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।