Learning on the Job: Continual Learning from Deployment Feedback for Frozen-Weights Agents
यह शोध पत्र प्रदर्शित करता है कि फ्रोजन-वेट्स (frozen-weights) वाले एआई एजेंट अपने स्थिर मॉडलों को एक बाहरी मेमोरी सिस्टम के साथ जोड़कर निरंतर सीखने (continual learning) में महत्वपूर्ण सुधार प्राप्त कर सकते हैं, जो डिप्लॉयमेंट फीडबैक को पुनः प्राप्त करने योग्य प्राकृतिक-भाषा नियमों में संकुचित (distill) करता है, जिससे वे मॉडल को पुन: प्रशिक्षित किए बिना पहले से कठिन कार्यों को हल करने में सक्षम होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ हर बार जब आप कोई पहेली सुलझाने की कोशिश करते हैं, तो टाइमर रुकते ही आप उसके नियम भूल जाते हैं। यदि आपने आज एक कठिन गणितीय समस्या हल की, तो कल आप वहीं से फिर से शुरुआत करेंगे, भले ही वह समस्या बिल्कुल वही हो। यह कई आर्टिफिशियल इंटेलिजेंस (AI) एजेंटों की वर्तमान वास्तविकता है। वे "फ्रोजन" (जमे हुए) मस्तिष्क पर आधारित हैं—शक्तिशाली मॉडल जो लॉन्च के समय पत्थर की लकीर बन जाते हैं। वे वास्तविक समय में अपनी गलतियों से नहीं सीख सकते क्योंकि उनके मस्तिष्क की वायरिंग बदलना महंगा, जोखिम भरा और धीमा होता है। हालाँकि, वास्तविक दुनिया में, ये एजेंट लगातार फीडबैक प्राप्त करते हैं। एक ग्राहक कह सकता है, "यह काम कर गया!" या एक इंसान गलती सुधारते हुए कह सकता है, "सही तरीका यह है।" वैज्ञानिक जो बड़ा सवाल पूछ रहे हैं वह यह है: क्या हम इन फ्रोजन-ब्रेन एजेंटों को उनके अपने पिछले अनुभवों की एक "चीट शीट" पढ़कर स्मार्ट बना सकते हैं, बिना वास्तव में उनके मस्तिष्क को बदले?
"लर्निंग ऑन द जॉब" (काम के दौरान सीखना) शीर्षक वाला यह शोध पत्र एक चतुर समाधान तलाशता है। AI के मस्तिष्क को फिर से जोड़ने के बजाय, शोधकर्ताओं ने एजेंट को एक बाहरी नोटबुक—एक मेमोरी सिस्टम—दिया। जब एजेंट एक कार्य पूरा करता है, तो वह परिणाम देखता है (क्या वह जीता या हारा?) और इस नोटबुक में एक छोटा, प्राकृतिक भाषा का नियम लिखता है। उदाहरण के लिए, "यदि ग्राहक रिफंड मांगता है, तो पहले तारीख की जांच करें।" बाद में, जब एजेंट को एक समान स्थिति का सामना करना पड़ता है, तो वह कार्य करने से पहले अपनी नोटबुक की जांच करता है। अध्ययन में इसे एक बैंकिंग सिमुलेशन पर परखा गया जहाँ AI को ग्राहकों की मदद करने के लिए जटिल नियमों को समझना था। उन्होंने पाया कि केवल अपने नोट्स पढ़कर, एजेंट अपने काम में काफी बेहतर हो गए। एक एजेंट जिसने केवल "जीत/हार" के संकेत से सीखा, उसकी सफलता दर 1.6 गुना बढ़ गई, जबकि एक जिसने विस्तृत सुधारों से सीखा, वह 2.6 गुना बेहतर हुआ। इससे भी शानदार बात यह है कि एक प्रकार के AI द्वारा लिखे गए नोट्स दूसरे पूरी तरह से अलग प्रकार के AI के लिए भी उपयोगी थे, जो यह साबित करता है कि इस "अनुभव" को एक लाइब्रेरी बुक की तरह साझा किया जा सकता था।
समस्या: AI एम्नेसिया (स्मृति लोप)
आज के सबसे उन्नत AI एजेंटों को अविश्वसनीय रूप से प्रतिभाशाली लेकिन अविश्वसनीय रूप से भुलक्कड़ इंटर्न के रूप में सोचें। आप उन्हें काम पर रखते हैं, उन्हें संदर्भ के लिए नीति पुस्तकों का एक विशाल पुस्तकालय (इस अध्ययन में लगभग 700 दस्तावेज़) दिया जाता है, और वे ग्राहक की मदद करने की कोशिश करते हैं। यदि वे एक कठिन समस्या हल करते हैं, तो बहुत अच्छा! लेकिन जैसे ही बातचीत समाप्त होती है, उनकी शॉर्ट-टर्म मेमोरी साफ हो जाती है। यदि वही कठिन ग्राहक कल वापस कॉल करता है, तो एजेंट को पता ही नहीं होता कि कल क्या हुआ था। उसे शून्य से शुरुआत करनी पड़ती है।
इस विस्मृति का कारण आर्किटेक्चरल (संरचनात्मक) है। ये एजेंट "फ्रोजन वेट्स" वाले मॉडलों पर चलते हैं। मॉडल के मस्तिष्क की कल्पना मिट्टी से बनी एक विशाल, जटिल मूर्ति के रूप में करें। एक बार जब मूर्ति को पकाकर सख्त (डिप्लॉय) कर दिया जाता है, तो आप पूरी चीज़ को पिघलाए बिना और नए सिरे से शुरू किए बिना उसमें नई मिट्टी जोड़ या निकाल नहीं सकते। इसे पिघलाना खतरनाक (यह वह सब कुछ भूल सकता है जो वह पहले से जानता था) और महंगा है। इसलिए, वास्तविक दुनिया में, ये एजेंट जमे हुए रहते हैं। वे अपने काम के आखिरी दिन उतने ही सक्षम होते हैं जितने वे अपने पहले दिन थे।
समाधान: बाहरी नोटबुक
शोधकर्ताओं ने पूछा: क्या होगा अगर एजेंट को सीखने के लिए अपने मस्तिष्क को बदलने की आवश्यकता ही न हो? क्या होगा अगर उसे बस एक नोटबुक की आवश्यकता हो?
उन्होंने फ्रोजन AI को स्पार्क (Spark) नामक एक सिस्टम के साथ जोड़ा। स्पार्क को एक साझा, जादुई लाइब्रेरी के रूप में सोचें जहाँ एजेंट नोट्स लिख और पढ़ सकता है। जब एक एजेंट एक कार्य पूरा करता है, तो वह अनुभव को केवल फेंक नहीं देता। इसके बजाय, वह इस पर विचार करता है कि क्या हुआ और लाइब्रेरी में एक "नियम" लिखता है।
- "एक्सपीरियंस" (अनुभव) मोड: एजेंट को एक साधारण थम्स-अप या थम्स-डाउन (एक-बिट फैसला) मिलता है। उसे स्वयं सबक समझना होता है। "मैंने X करने की कोशिश की और असफल रहा। मुझे अगली बार X से बचना चाहिए।"
- "इंस्ट्रक्शन" (निर्देश) मोड: एजेंट को थम्स-डाउन के साथ-साथ सही उत्तर भी मिलता है। "मैंने X करने की कोशिश की और असफल रहा। सही तरीका Y है।"
एजेंट इन पाठों को सरल, प्राकृतिक भाषा के नियमों के रूप में लिखता है, जैसे "जब ग्राहक ट्रांसफर के लिए कहता है, तो हमेशा पहले दैनिक सीमा की जांच करें।" इन नियमों को स्पार्क लाइब्रेरी में संग्रहीत किया जाता है। अगली बार जब एजेंट किसी ग्राहक का सामना करता है, तो वह कार्य करने से पहले लाइब्रेरी में प्रासंगिक नियमों की खोज करता है।
प्रयोग: मेमोरी पर बैंकिंग
इसका परीक्षण करने के लिए, टीम ने τ-bench नामक एक कठिन बैंकिंग बेंचमार्क का उपयोग किया। एक वीडियो गेम की कल्पना करें जहाँ AI एक बैंक टेलर की भूमिका निभाता है। "ग्राहक" अन्य AI द्वारा सिम्युलेट किए गए हैं, जिनके पास छिपे हुए लक्ष्य और पेचीदा अनुरोध हैं। एजेंट को नीति दस्तावेजों के एक बड़े ढेर को खोजकर बैंक के नियमों को समझना होता है। यह कठिन है; यहाँ तक कि सर्वश्रेष्ठ AI मॉडल भी अपने पहले प्रयास में केवल 25% कार्यों को ही हल कर पाते हैं।
शोधकर्ताओं ने दो अलग-अलग AI मॉडलों के साथ प्रयोग चलाया:
- मिस्ट्रल लार्ज (Mistral Large): एक शक्तिशाली, ओपन-सोर्स मॉडल जिसे कंपनियाँ अपने सर्वर पर चला सकती हैं।
- क्लाउड सोनेट 5 (Claude Sonnet 5): एक टॉप-टियर, फ्रंटियर मॉडल।
उन्होंने प्रत्येक मॉडल के लिए तीन परिदृश्य (scenarios) का परीक्षण किया:
- बेसलाइन (आधार रेखा): एजेंट के पास नीति लाइब्रेरी है लेकिन कोई मेमोरी नहीं है। वह प्रत्येक प्रयास के बीच सब कुछ भूल जाता है।
- एक्सपीरियंस (अनुभव): एजेंट के पास लाइब्रेरी और मेमोरी नोटबुक है, लेकिन वह केवल एक साधारण "जीत/हार" संकेत से सीखता है।
- इंस्ट्रक्शन (निर्देश): एजेंट के पास लाइब्रेरी, मेमोरी नोटबुक है, और वह "जीत/हार" संकेत के साथ-साथ विफलता के बाद सही समाधान से भी सीखता है।
परिणाम: जीरो से हीरो तक
परिणाम चौंकाने वाले थे। जिन एजेंटों ने मेमोरी नोटबुक का उपयोग किया, वे अपने काम में बहुत बेहतर हो गए, और उन्होंने अपने फ्रोजन मस्तिष्क में एक भी न्यूरॉन बदले बिना ऐसा किया।
- सुधारों की शक्ति: मिस्ट्रल लार्ज मॉडल के लिए, "इंस्ट्रक्शन" समूह (सुधारों से सीखने वाला) ने बेसलाइन की तुलना में पहले प्रयास में 2.6 गुना अधिक कार्यों को हल किया। वे उन 22 में से 24 कार्यों को हल करने में सफल रहे जिन्हें बेसलाइन एजेंट ने कभी भी हल नहीं किया था, चाहे उसने कितनी भी बार कोशिश की हो।
- अनुभव की शक्ति: केवल एक साधारण "जीत/हार" संकेत से सीखना भी मददगार रहा। "एक्सपीरियंस" समूह बेसलाइन की तुलना में 1.6 गुना बेहतर हुआ।
- लर्निंग कर्व (सीखने की रेखा): शुरुआत में, सभी एजेंट समान रूप से खराब थे क्योंकि नोटबुक खाली थे। लेकिन जैसे-जैसे परीक्षण आगे बढ़े, नोटबुक वाले एजेंट स्मार्ट होते गए। बेसलाइन एजेंट स्थिर रहा, जबकि लर्निंग एजेंट हर प्रयास के साथ ऊपर चढ़ता गया।
- क्रॉस-मॉडल मैजिक (मॉडल-दर-मॉडल जादू): शोधकर्ताओं ने एक बहुत ही कूल काम किया। उन्होंने मिस्ट्रल लार्ज मॉडल द्वारा बनाई गई नोटबुक को क्लाउड सोनेट 5 मॉडल को पढ़ने के लिए दिया (और इसके विपरीत)। भले ही वे अलग-अलग मॉडल थे, लेकिन नोट्स उपयोगी थे! मिस्ट्रल मॉडल, क्लाउड के नोट्स पढ़ते समय, अपनी सफलता दर में महत्वपूर्ण सुधार करता है। यह साबित करता है कि नोटबुक में संग्रहीत ज्ञान केवल "मिस्ट्रल की शैली" नहीं था; यह सामान्य, उपयोगी ज्ञान था जिसे कोई भी एजेंट उपयोग कर सकता था।
यह क्यों मायने रखता है
यह शोध पत्र यह सुझाव देता है कि AI को रिट्रेनिंग (पुनः प्रशिक्षण) की भारी लागत और जोखिम के बिना स्मार्ट बनाने का एक नया तरीका है। AI के मस्तिष्क को पिघलाने और नया आकार देने के बजाय, हम इसे बस याद रखने का एक बेहतर तरीका दे सकते हैं।
अध्ययन ने कुछ विचारों को भी खारिज कर दिया। उदाहरण के लिए, उन्होंने जांचा कि क्या एजेंट केवल उत्तरों को "कैश" (याद) कर रहे थे (किसी विशिष्ट पहेली के सटीक समाधान को रटना)। उन्होंने पाया कि ऐसा नहीं था। एजेंट नियम सीख रहे थे (जैसे "तारीख की जांच करें") जो उन्हें समस्या के नए रूपों को हल करने में मदद करते थे। उन्होंने यह भी दिखाया कि इस सीखने से एजेंट उन चीजों में खराब नहीं हुए जिनमें वे पहले से ही अच्छे थे; उन्होंने नए कौशल प्राप्त करते हुए अपने पुराने कौशल बनाए रखे।
संक्षेप में, यह शोध दिखाता है कि फ्रोजन AI एजेंटों के लिए, उन्हें मिलने वाला फीडबैक—चाहे वह एक साधारण "अच्छा काम किया" हो या विस्तृत सुधार—उन्हें आजीवन शिक्षार्थी बनाने के लिए पर्याप्त है, बशर्ते उनके पास वह सीखा हुआ लिखने के लिए एक जगह हो। यह एक एकल एजेंट के अनुभव को एक साझा संगठनात्मक संपत्ति में बदल देता है, जिससे पूरा सिस्टम एक समय में एक नोट के साथ स्मार्ट बनता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।