Dual-Grained Agent Memory and Shapley Context Attribution for Multimodal Agentic Learner
यह शोध पत्र DG-Mem को प्रस्तुत करता है, जो कॉम्प्लीमेंट्री लर्निंग सिस्टम्स से प्रेरित एक नॉन-पैरामीट्रिक, ड्यूल-ग्रेन्ड एजेंटिक मेमोरी फ्रेमवर्क है, जो एक ऑनलाइन कॉन्सेप्ट कैटेगराइज़र और शाप्ले-आधारित कॉन्टेक्स्ट एट्रिब्यूशन के माध्यम से फ्रोजन मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स की वैज्ञानिक और गणितीय तर्क क्षमता को बढ़ाता है, जिससे बिना किसी ग्रेडिएंट अपडेट के विविध बेंचमार्क पर निरंतर सुधार प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस (AI) उस स्तर पर पहुँच गया है जहाँ वह एक तस्वीर को देखकर उसका वर्णन कर सकता है, या किसी चार्ट को पढ़कर उसके रुझानों का सारांश निकाल सकता है। ये प्रणालियाँ, जिन्हें मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स कहा जाता है, धारणा (perception) के मामले में उल्लेखनीय रूप से सक्षम हैं। हालाँकि, जब उन्हें किसी जटिल वैज्ञानिक समस्या या किसी पेचीदा गणितीय पहेली को हल करने के लिए कहा जाता है, तो वे अक्सर लड़खड़ा जाते हैं। वे पहेली के टुकड़ों को देख तो सकते हैं, लेकिन उन्हें एक सुसंगत समाधान में जोड़ने में उन्हें संघर्ष करना पड़ता है। इसे ठीक करने का मानक तरीका मॉडल को फिर से प्रशिक्षित (retrain) करना है, जिसमें उसे हजारों उदाहरण दिए जाते हैं ताकि वह सही पैटर्न सीख सके। लेकिन इस दृष्टिकोण में एक बड़ी खामी है: इसके लिए मॉडल के आंतरिक कोड तक पहुंच की आवश्यकता होती है, जो अक्सर मालिकाना (proprietary) प्रणालियों में बंद होता है या इतना बड़ा होता है कि व्यक्तिगत उपकरणों पर चलाना संभव नहीं होता। इसके अलावा, यदि कोई मॉडल आज किसी समस्या को हल करता है, तो एक मानक पुन: प्रशिक्षण प्रक्रिया यह गारंटी नहीं देती कि वह कल भी उस सबक को याद रखेगा; प्रत्येक नए प्रश्न को ऐसे माना जाता है जैसे मॉडल ने उसे पहली बार देखा हो।
इस अंतर को पाटने के लिए, शोधकर्ता एक अलग रणनीति की खोज कर रहे हैं: AI को एक बाहरी स्मृति (external memory) देना। मॉडल के मस्तिष्क को बदलने के बजाय, वे एक नोटबुक जोड़ देते हैं जिसे मॉडल पढ़ सकता है। चुनौती यह है कि उस नोटबुक में क्या लिखा जाए। यदि नोटबुक केवल पिछले प्रश्नों और उनके उत्तरों की एक सूची है, तो मॉडल बहुत अधिक विशिष्ट विवरणों से भ्रमित हो सकता है। यदि नोटबुक केवल सामान्य नियमों की एक सूची है, तो इसमें उन ठोस उदाहरणों की कमी हो सकती जो एक नई, अपरिचित स्थिति को समझने के लिए आवश्यक हैं। सबसे प्रभावी मानव स्मृति प्रणालियाँ इन दोनों आवश्यकताओं के बीच संतुलन बनाती प्रतीत होती हैं, जिसमें विशिष्ट अनुभवों और उनसे प्राप्त सामान्य सिद्धांतों दोनों को संग्रहीत किया जाता है। DG-Mem नामक एक नया ढांचा (framework) कृत्रिम एजेंटों के लिए इस संतुलन की नकल करने का प्रयास करता है, जिससे वे बिना शून्य से पुन: प्रशिक्षित हुए पिछले प्रश्नों से सीख सकें।
इस कार्य के पीछे के शोधकर्ताओं ने, जो UC मर्सिड और शंघाई जियाओ टोंग विश्वविद्यालय में आधारित हैं, एक ऐसी प्रणाली बनाई है जो एक 'फ्रोजन मॉडल' (frozen model) के साथ काम करती है—एक ऐसा मॉडल जिसे बदला या अपडेट नहीं किया जा सकता। उन्होंने एक मेमोरी बैंक बनाया जो प्रशिक्षण समस्याओं के एक सेट का उपयोग करके एक बार निर्मित किया जाता है और फिर मॉडल द्वारा किसी नई चुनौती का सामना किए जाने पर उसका परामर्श लिया जाता है। यह स्मृति दो अलग-अलग भागों में विभाजित है, ठीक वैसे ही जैसे एक मनुष्य विशिष्ट घटनाओं की डायरी और सामान्य सलाह की एक हैंडबुक रख सकता है। पहला भाग एक "एग्जेंपलर मेमोरी" (exemplar memory) है, जो विशिष्ट, हल किए गए उदाहरणों को संग्रहीत करता है। ये केवल पुराने प्रश्नों की कच्ची प्रतियां नहीं हैं; ये परिष्कृत रिकॉर्ड हैं जो किसी विशेष प्रकार की समस्या को हल करने के लिए उपयोग की गई चरण-दर-चरण रणनीति और बचने योग्य विशिष्ट त्रुटियों को कैप्चर करते हैं। दूसरा भाग एक "स्कीमा मेमोरी" (schema memory) है, जिसमें सामान्य नियम शामिल हैं, जिन्हें सरल "यदि-तो" (if-then) कथनों के रूप में लिखा गया है। ये नियम समस्याओं की एक श्रेणी के अंतर्निहित तर्क का वर्णन करते हैं, जैसे कि किसी विशिष्ट दृश्य व्यवस्था में वस्तुओं को कैसे गिना जाए या डेटा चार्ट की व्याख्या कैसे की जाए, बिना किसी एकल उदाहरण के विवरण में उलझे।
इस प्रणाली में एक महत्वपूर्ण डिजाइन विकल्प यह है कि इन दो प्रकार की स्मृतियों को कैसे बनाया जाता है। शोधकर्ताओं ने सुनिश्चित किया कि सामान्य नियम सीधे विशिष्ट उदाहरणों को देखकर कभी नहीं लिखे जाते हैं। इसके बजाय, प्रणाली पहले एक हल की गई समस्या का एक अस्थायी, अमूर्त प्रतिबिंब (abstract reflection) उत्पन्न करती है। केवल इसी अमूर्त प्रतिबिंब से ही सामान्य नियमों का संश्लेषण किया जाता है। यह प्रणाली को किसी एक समस्या से विशिष्ट संख्याओं या नामों को गलती से याद करने और उन्हें सार्वभौमिक नियम के रूप में लागू करने से रोकता है। उदाहरण के लिए, यदि किसी समस्या में पीले ब्लॉकों को गिनना शामिल है, तो प्रणाली "किसी विशिष्ट रंग की सभी वस्तुओं को गिनें" का नियम सीखती है, न कि "पीले ब्लॉकों को गिनें"। यह अलगाव मॉडल को एक नई स्थिति में सामान्य सिद्धांत लागू करने की अनुमति देता है जिसमें लाल ब्लॉकों शामिल हों, भले ही उसने पहले कभी लाल ब्लॉकों को न देखा हो।
इस प्रणाली को प्रभावी ढंग से काम करने के लिए, शोधकर्ताओं को यह भी हल करना था कि स्मृति को कैसे व्यवस्थित किया जाए। अतीत में, प्रणालियाँ अक्सर निश्चित श्रेणियों की सूची पर निर्भर करती थीं, जैसे "ज्यामिति" या "बीजगणित", जो बहुत व्यापक या बहुत संकीर्ण हो सकती थीं। नई प्रणाली एक 'ऑनलाइन कैटेगराइज़र' का उपयोग करती है जो चलते समय अपनी श्रेणियों की सूची स्वयं बनाती है। जैसे-जैसे प्रणाली नए प्रश्नों को संसाधित करती है, यह उन्हें उभरती हुई श्रेणियों में समूहित करती है, जिससे स्मृति बिना किसी पूर्व-निर्धारित मानचित्र के, सामना की जाने वाली समस्याओं के विशिष्ट प्रकारों के अनुसार विकसित और अनुकूलित हो सकती है।
इस कार्य का सबसे अभिनव पहलू यह है कि प्रणाली यह तय कैसे करती है कि स्मृति के कौन से हिस्से वास्तव में उपयोगी हैं। जब मॉडल किसी समस्या को हल करने में मदद के लिए नियमों का एक सेट प्राप्त करता है, तो अक्सर उसे कई ऐसे नियम मिलते हैं जो प्रासंगिक लगते हैं। शोधकर्ताओं ने यह पता लगाने के लिए एक विधि विकसित की कि किस नियम ने सही उत्तर में योगदान दिया। वे नियमों को एक टीम गेम के खिलाड़ियों की तरह मानते हैं, यह देखने के लिए नियमों के विभिन्न संयोजनों का परीक्षण करते हैं कि कौन से सफलता की ओर ले जाते हैं। यह विश्लेषण करके कि नियमों के समूह में जोड़े जाने पर प्रत्येक नियम परिणाम में कितना सुधार करता है, सिस्टम प्रत्येक नियम को एक "उपयोगिता स्कोर" (utility score) प्रदान करता है। यह स्कोर इस बात पर आधारित नहीं है कि नियम वर्तमान प्रश्न के कितना समान दिखता है, बल्कि इस पर है कि ऐतिहासिक रूप से उस नियम ने मॉडल को सही उत्तर पाने में कितनी बार मदद की है। जब मॉडल के सामने एक नई समस्या आती है, तो वह सबसे सहायक नियमों को प्राथमिकता देने के लिए इस स्कोर का उपयोग करता है, जिससे वह प्रभावी रूप से सीख जाता है कि किस सलाह पर भरोसा करना है।
टीम ने चार अलग-अलग AI मॉडलों पर इस ढांचे का परीक्षण किया, जो ओपन-सोर्स सिस्टम से लेकर शक्तिशाली मालिकाना मॉडलों तक विस्तृत हैं, और गणित और विज्ञान तर्क से जुड़े तीन चुनौतीपूर्ण बेंचमार्क पर इनका मूल्यांकन किया। परिणामों ने एक निरंतर सुधार दिखाया। इस दोहरी स्मृति से लैस मॉडलों ने बिना किसी स्मृति वाले समान मॉडलों की तुलना में काफी अधिक समस्याओं को सही ढंग से हल किया। उन्होंने अन्य स्मृति प्रणालियों को भी पछाड़ दिया जो केवल एक प्रकार के स्टोरेज पर निर्भर थीं या जिनमें अपने नियमों की उपयोगिता को रैंक करने का तरीका नहीं था। कुछ मामलों में, सुधार काफी बड़ा था, जहाँ सिस्टम ने कुछ कठिन परीक्षणों पर बारह प्रतिशत से अधिक समस्याओं को हल किया।
अध्ययन ने यह भी खुलासा किया कि दोनों प्रकार की स्मृतियाँ अलग-अलग उद्देश्यों की पूर्ति करती हैं। जब शोधकर्ताओं ने विशिष्ट उदाहरणों को हटा दिया, तो प्रणाली को उन समस्याओं के साथ संघर्ष करना पड़ा जिनमें दृश्य विवरणों की आवश्यकता थी, जैसे कि एक पूर्ण वृत्त और एक वृत्त के टुकड़े के बीच अंतर करना। जब उन्होंने सामान्य नियमों को हटाया, तो प्रणाली उन समस्याओं में विफल रही जिनमें एक नई दृश्य व्यवस्था में व्यापक रणनीति लागू करने की आवश्यकता थी। दोनों का संयोजन आवश्यक था, जिससे सिद्ध हुआ कि सफल होने के लिए प्रणाली को विशिष्ट उदाहरणों की ठोस नींव और सामान्य नियमों के अमूर्त लचीलेपन दोनों की आवश्यकता थी।
यह दृष्टिकोण बिना पुन: प्रशिक्षण की भारी लागत के आर्टिफिशियल इंटेलिजेंस को बेहतर बनाने के लिए एक व्यावहारिक मार्ग प्रदान करता है। चूंकि इस प्रणाली को मॉडल के आंतरिक भार (weights) में किसी भी परिवर्तन की आवश्यकता नहीं है, इसलिए इसे बंद प्रणालियों या यहाँ तक कि व्यक्तिगत उपकरणों पर भी तैनात किया जा सकता है जहाँ गोपनीयता और दक्षता सर्वोपरि है। शोधकर्ता स्वीकार करते हैं कि प्रणाली की कुछ सीमाएँ हैं, विशेष रूप से यह कि यह नियमों को स्कोर देने के दौरान कंप्यूटर गणनाओं की अनिश्चितता को कैसे संभालती है, लेकिन परिणाम दर्शाते हैं कि एक संरचित, दो-स्तरीय स्मृति AI की तर्क करने की क्षमता को महत्वपूर्ण रूप से बढ़ा सकती है। विशिष्ट अनुभवों को सामान्य सिद्धांतों से अलग करके और प्रत्येक सलाह के मूल्य को मापने के तरीके का उपयोग करके, यह ढांचा कृत्रिम एजेंटों को अधिक प्रभावी ढंग से सीखने, विकसित होने और जटिल समस्याओं को हल करने का एक मजबूत तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।