Causal Episodic Memory for Feedback-Driven Agent Repair
यह शोध पत्र MERIT को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) एजेंट है जो Text-to-SQL सुधार के लिए हाइब्रिड रिट्रीवल (hybrid retrieval) को निर्देशित करने हेतु सत्यापित सुधारों (verified corrections) और विफल प्रयासों (failed attempts) की एक द्वि-ध्रुवीय कारणगत एपिसोडिक मेमोरी (dual-polarity causal episodic memory) का लाभ उठाता है, जिससे बिना मॉडल पैरामीटर अपडेट किए Spider और BIRD बेंचमार्क पर स्टेटलेस विधियों की तुलना में मामूली निष्पादन सटीकता (execution accuracy) में सुधार प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को डेटाबेस के लिए निर्देश लिखना सिखा रहे हैं, जिसे "टेक्स्ट-टू-एसक्यूएल" (Text-to-SQL) कहा जाता है। इस रोबोट को एक बहुत ही बुद्धिमान लेकिन भुलक्कड़ प्रशिक्षु (apprentice) के रूप में सोचें। जब रोबोट कोई गलती करता है, तो एक शिक्षक ("ओरेकल") उसे टोकता है और कहता है, "नहीं, यह गलत है।" रोबोट फिर से कोशिश करता है, अपनी गलती सुधारता है, और आगे बढ़ जाता है। लेकिन यहाँ एक पेंच है: एक बार जब रोबोट किसी विशिष्ट गलती को सुधार लेता है, तो वह अक्सर भूल जाता है कि उसने उसे कैसे हल किया था। यदि बाद में किसी अलग प्रश्न के साथ वैसी ही गलती होती है, तो रोबोट को समाधान को फिर से खोजने के लिए शून्य से शुरुआत करनी पड़ती है, जिससे समय और ऊर्जा बर्बाद होती है। यह "स्टेटलेस" (stateless) मरम्मत की समस्या है—वर्तमान क्षण में सीखना लेकिन भविष्य के लिए याद न रखना।
इसे ठीक करने के लिए, वैज्ञानिकों ने रोबोट को "याददाश्त" देने की कोशिश की है। कुछ तरीके रोबोट को उसके विचारों की डायरी (चिंतन/reflections) रखने देते हैं, जबकि अन्य उसे पिछले उदाहरणों को देखने की अनुमति देते हैं। बड़ा सवाल यह है कि हम इस याददाश्त को कैसे व्यवस्थित करें ताकि रोबोट वास्तव में सीख सके? यदि रोबोट किसी भी पुराने यादों को उठा लेता है जो दिखने में समान हों, तो वह ऐसा समाधान पा सकता है जो पहले विफल हो चुका था या वह एक सफलता को विफलता के साथ भ्रमित कर सकता है। लक्ष्य एक ऐसी स्मृति प्रणाली बनाना है जो रोबोट को उसकी पिछली जीत से सीखने और उसके पिछले गड्ढों से बचने में मदद करे, बिना उसके पूरे मस्तिष्क को फिर से प्रशिक्षित (retrain) किए (जो महंगा और धीमा है)।
यहीं पर पेपर "कॉज़ल एपिसोडिक मेमोरी फॉर फीडबैक-ड्रिवन एजेंट रिपेयर" (Causal Episodic Memory for Feedback-Driven Agent Repair) काम आता है। लेखक एक नया सिस्टम पेश करते हैं जिसे MERIT (मेमोरी-ऑगमेंटेड एरर-टाइप्ड रिट्राइवल फॉर इटरेटिव टेक्स्ट-टू-एसक्यूएल रिपेयर) कहा जाता है। MERIT को हमारे भुलक्कड़ रोबोट के लिए एक सुपर-व्यवस्थित लाइब्रेरियन के रूप में समझें। केवल पिछले सभी प्रयासों को एक अव्यवस्थित ढेर में डालने के बजाय, MERIT उन्हें दो अलग-अलग डिब्बों में छाँटता है: एक "ग्रीन बिन" (हरा डिब्बा) उन समाधानों के लिए जो सिद्ध हुए कि काम करते हैं, और एक "रेड बिन" (लाल डिब्बा) उन दिशाओं के लिए जिन्हें आजमाया गया और जो विफल रहीं।
यहाँ जादू कैसे होता है: जब रोबोट कोई गलती करता है, तो एक सरल, नियम-आधारित "वर्गीकारक" (क्लासिफायर - जैसे एक ट्रैफिक पुलिस) जल्दी से उस त्रुटि को एक व्यापक श्रेणी के साथ टैग करता है, जैसे कि "सिंटैक्स एरर" (Syntax Error) या "मिसिंग टेबल" (Missing Table)। फिर लाइब्रेरियन (रिट्राइवर) ग्रीन बिन और रेड बिन में पिछले उन दोषों को खोजता है जिनका टैग समान था। यह एक त्वरित कीवर्ड सर्च (सटीक शब्द मिलान देखना) को एक गहरे "सिमेंटिक" सर्च (अर्थ समझना) के साथ मिलाता है ताकि सबसे अच्छा पिछला उदाहरण मिल सके। रोबोट फिर इस पिछले उदाहरण का उपयोग अपनी वर्तमान समस्या को ठीक करने के लिए करता है। महत्वपूर्ण रूप से, रोबोट केवल अतीत के पूरे हो चुके एपिसोड्स की यादों का उपयोग कर सकता है; वह अपने स्वयं के अधूरे काम या भविष्य के प्रयासों को झाँककर नहीं देख सकता। यह सुनिश्चित करता है कि सीखना "कॉज़ल" (कारण-आधारित) है—यह केवल उसी से सीखता है जो पहले ही हो चुका है।
शोधकर्ताओं ने दो बड़े डेटासेट पर इसका परीक्षण किया: Spider (1,034 प्रश्न) और BIRD (1,534 प्रश्न)। उन्होंने एक मानक रोबोट मस्तिष्क (Qwen2.5-7B-Instruct) का उपयोग किया और प्रत्येक प्रश्न को ठीक करने के लिए उन्हें 7 प्रयासों का बजट दिया। परिणाम सफलता और बारीकियों का मिश्रण थे। स्पाइडर (Spider) डेटासेट पर, MERIT एक स्पष्ट विजेता था, जिसने रोबोट की सफलता दर को 66.34% से बढ़ाकर 69.79% कर दिया। यह सुझाव देता है कि त्रुटियों के व्यवस्थित स्मृति संग्रह के साथ काम करना रोबोट को नई, समान समस्याओं को हल करने में वास्तव में मदद करता है।
हालाँकि, बीरड (BIRD) डेटासेट पर कहानी थोड़ी जटिल हो जाती है। यहाँ, MERIT ने स्कोर को थोड़ा सुधारकर 47.35% से 48.44% कर दिया, लेकिन साक्ष्य कमजोर थे। दिलचस्प बात यह है कि एक अलग स्मृति शैली जिसे "रिफ्लेक्शन-स्टाइल" (Reflexion-style) कहा जाता है (जो रोबोट को यह लिखने पर निर्भर करती है कि क्या गलत हुआ था), वास्तव में BIRD पर बेहतर प्रदर्शन करती थी, जो 51.24% तक पहुँच गई, हालाँकि यह कंप्यूटिंग शक्ति के मामले में बहुत महंगी थी। पेपर सुझाव देता है कि जबकि MERIT कुछ प्रकार की त्रुटियों के लिए महान है, हर स्थिति के लिए एक एकल "परफेक्ट" स्मृति प्रणाली नहीं होती है।
शोधकर्ताओं ने यह देखने के लिए प्रयोग भी चलाए कि MERIT के कौन से हिस्से मुख्य भूमिका निभा रहे थे। उन्होंने पाया कि "रेड बिन" (विफल प्रयासों की नकारात्मक स्मृति) अकेले अधिक मदद नहीं करता था। असली शक्ति त्रुटि के प्रकार के आधार पर यादों को व्यवस्थित करने और उन्हें विशिष्ट डेटाबेस स्कीमा (डेटा की संरचना) के स्थानीय रखने से आई। जब उन्होंने पूरी तरह से अलग डेटाबेस की यादों का उपयोग करने की कोशिश की, तो रोबोट का प्रदर्शन गिर गया, जिससे पता चला कि सामान्य, क्रॉस-डेटाबेस उपमाओं की तुलना में विशिष्ट, स्थानीय अनुभव अधिक मूल्यवान है।
अंत में, पेपर निष्कर्ष निकालता है कि एजेंट को उसके पिछले सुधारों की एक संरचित, कॉज़ल मेमोरी देना बिना पुन: प्रशिक्षण के बेहतर प्रदर्शन करने का एक शक्तिशाली तरीका है। यह सुझाव देता है कि हम केवल रोबोट के सामने अपने पिछले सभी अनुभवों को नहीं फेंक सकते और उम्मीद नहीं कर सकते कि वह काम करेगा, बल्कि अनुभवों को "क्या गलत हुआ" और "क्या काम किया" के आधार पर व्यवस्थित करना एक विश्वसनीय पथ बनाता है। यह हमें याद दिलाता है कि AI एजेंटों के लिए, यह याद रखना कि उन्होंने गलती को कैसे सुधारा, गलती को ठीक करने जितना ही महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।