Macaron-V1: Towards Open Continual Learning with Self-Improvement and Mixture-of-LoRA
यह शोध पत्र Macaron-V1 को प्रस्तुत करता है, जो वास्तविक वातावरण में निरंतर सीखने और आत्म-सुधार के लिए डिज़ाइन किया गया एक ओपन एजेंट-मॉडल परिवार है, जिसमें एक Mixture-of-LoRA आर्किटेक्चर है जो एक बेस मॉडल को फ्रीज करते हुए विशेषज्ञ एडेप्टरों को गतिशील रूप से संयोजित करता है, साथ ही रिकर्सिव अडैप्टेशन और मूल्यांकन के लिए एक रिकर्सिव Model-Harness Co-design फ्रेमवर्क और सहायक इंफ्रास्ट्रक्चर भी शामिल है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
वह सीखने वाली मशीन जो कभी बढ़ना नहीं छोड़ती
कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान नया दोस्त है जिसे आपसे मिलने के दिन तक दुनिया की हर बात का पता है। वह स्मार्ट है, लेकिन अगर आप उससे कल रिलीज़ हुए किसी नए ऐप या पिछले हफ्ते विकसित की गई अपनी किसी व्यक्तिगत आदत के बारे में पूछें, तो वह अटक जाता है। वह आपकी विशिष्ट बातचीत से सीख नहीं सकता क्योंकि उसका मस्तिष्क समय में "जम" (frozen) गया है। यह अधिकांश आर्टिफिशियल इंटेलिजेंस की वर्तमान सीमा है: उन्हें एक बार प्रशिक्षित किया जाता है, बाहर भेजा जाता है, और फिर वे बस वही दोहराते रहते हैं जो वे जानते हैं, अपने दैनिक अनुभवों से वास्तव में बढ़ने में असमर्थ होते हैं।
कंप्यूटर विज्ञान का वह क्षेत्र जो इसे ठीक करने की कोशिश कर रहा है उसे कंटीन्यूअल लर्निंग (Continual Learning) कहा जाता है। इसे एक ऐसे छात्र को सिखाने की तरह समझें जो कभी स्कूल जाना नहीं छोड़ता। केवल एक पाठ्यपुस्तक को याद करने और अंतिम परीक्षा देने के बजाय, एक वास्तव में बुद्धिमान एजेंट को हर बातचीत, हर गलती और हर नए उपकरण से सीखने की आवश्यकता होती है, जबकि उसे यह भी याद रहे कि वह कौन है और वह किस काम में अच्छा है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: हम एक ऐसा AI कैसे बनाएं जो केवल चीजों को "जानता" ही नहीं है, बल्कि वास्तव में उन्हें अनुभव करता है और समय के साथ एक व्यक्तिगत सहायक बनने में बेहतर होता जाता है?
यहीं पर मैकरॉन-V1 (Macaron-V1) आता है। यह AI मॉडलों का एक नया परिवार है जिसे "अनुभवात्मक" (experiential) होने के लिए डिज़ाइन किया गया है, जिसका अर्थ है कि वे वास्तविक जीवन की बातचीत से सीखते हैं और तैनात होने के बाद भी सुधार करते रहते हैं। इसके पीछे के शोधकर्ताओं, माइंड लैब (Mind Lab) ने महसूस किया कि एक AI को वास्तव में स्मार्ट बनाने के लिए, आप केवल एक विशाल मस्तिष्क में अधिक डेटा नहीं डाल सकते। आपको एक ऐसा सिस्टम चाहिए जो अपने वातावरण को अनुकूलित कर सके और विशेष सहायकों के साथ सहयोग कर सके। उन्होंने एक ऐसा सिस्टम बनाया है जो AI को एक एकल, स्थिर मस्तिष्क के रूप में नहीं, बल्कि एक लचीली टीम के रूप में देखता है जो स्व-सुधार के लूप में अपने टूल्स को बदल सकती है और अपने निर्देशों को परिष्कृत कर सकती है।
मैकरॉन-V1 की टीम: एक जमे हुए मस्तिष्क और एक स्वैपेबल टूलकिट का संगम
एक विशाल, सुपर-स्मार्ट लाइब्रेरी (मुख्य मॉडल) की कल्पना करें जिसकी किताबें कभी नहीं बदलतीं। यह इतनी बड़ी और सुव्यवस्थित है कि यह लगभग सब कुछ जानती है। लेकिन, एक लाइब्रेरी सिर्फ एक लाइब्रेरी है; इसे नहीं पता कि वह विशेष रूप से आपकी मदद कैसे करे। इसे उपयोगी बनाने के लिए, मैकरॉन-V1 इस लाइब्रेरी के ऊपर "स्पेशलिस्ट एडेप्टर" (विशेषज्ञ एडेप्टर) की एक परत जोड़ता है। इन एडेप्टर्स को लाइब्रेरी के सिर पर लगने वाले अलग-अलग चश्मों या टूलकिट की तरह समझें।
एक जोड़ी चश्मा चैटिंग (L0) के लिए है, दूसरा एजेंट के रूप में कार्य करने (L1) के लिए है, तीसरा कोडिंग (L2) के लिए है, और चौथा यूजर इंटरफेस डिजाइन करने (L3) के लिए है। इस सेटअप को मिक्सचर-ऑफ-लोरा (Mixture-of-LoRA - MoL) कहा जाता है। हर बार जब आप चाहते हैं कि वह कोई नया कौशल सीखे, तो पूरे विशाल पुस्तकालय को फिर से प्रशिक्षित करने के बजाय, आप बस एक नया चश्मा पहन लेते हैं या मौजूदा चश्मों में थोड़ा बदलाव कर देते हैं। मुख्य लाइब्रेरी जमी हुई और सुरक्षित रहती है, जबकि विशेषज्ञ भारी काम करते हैं। इसका मतलब है कि AI एक मिनट में "चैट" व्यक्तित्व रख सकता है और अगले ही पल "कोडिंग" व्यक्तित्व, बिना भ्रमित हुए या अपने मूल ज्ञान को भूले बिना।
यह सिस्टम एक स्मार्ट "प्रॉक्सी" (एक रिसेप्शनिस्ट की तरह) का उपयोग करता है यह तय करने के लिए कि किस विशेषज्ञ को बुलाना है। जब आप कोई प्रश्न पूछते हैं, तो रिसेप्शनिस्ट उसे पढ़ता है, यह पता लगाता है कि आपको कोडर की आवश्यकता है, डिजाइनर की, या बस एक चैट साथी की, और तुरंत सही विशेषज्ञ पर स्विच कर देता है। यह इतना तेजी से होता है कि आप स्विच को मुश्किल से नोटिस कर पाते हैं। पेपर दिखाता है कि यह सिस्टम सही विशेषज्ञ चुनने में अविश्वसनीय रूप से सटीक है—लगभग 99% समय—और यह चीजों को बहुत धीमा नहीं करता है, केवल बहुत कम देरी जोड़ता है।
स्व-सुधार लूप: मस्तिष्क को नहीं, बल्कि निर्देशों को ट्यून करना
मैकरॉन-V1 का असली जादू केवल इन विशेषज्ञों का होना नहीं है; बल्कि यह है कि सिस्टम अपने प्रदर्शन को कैसे अनुकूलित करता है। शोधकर्ताओं ने माइंडफोर्ज (MindForge) नामक एक सिस्टम बनाया है जो एक "रिकर्सिव सेल्फ-इम्प्रूवमेंट" (पुनरावर्ती स्व-सुधार) लूप चलाता है। एक वीडियो गेम की कल्पना करें जहाँ AI एक लेवल खेलता है, विफल होता है, और फिर गेम स्वचालित रूप से नियमों को फिर से लिखता है या AI को फिर से प्रयास करने के लिए एक नया रणनीति गाइड देता है।
यह इस प्रकार काम करता है:
- डिस्कवरी (खोज): AI देखता है कि वह अभी क्या नहीं कर सकता है और अपने लिए कठिन चुनौतियाँ बनाता है।
- एक्सपेंशन (विस्तार): यह इन चुनौतियों को एक सिम्युलेटेड वातावरण (जैसे सैंडबॉक्स) में हल करने की कोशिश करता है। यदि यह विफल होता है, तो सिस्टम केवल "गलत" नहीं कहता। यह विश्लेषण करता है कि वह क्यों विफल हुआ। क्या निर्देश अस्पष्ट थे? क्या टूल गायब था?
- अपडेट (अद्यतन): यदि AI निर्देशों या टूल्स (हार्नेस) को बदलकर सफल होने का तरीका खोज लेता है, तो वह उसे रिकॉर्ड करता है। यदि उसे वास्तविक कौशल में बेहतर होने की आवश्यकता है, तो वह अपने विशेषज्ञ एडेप्टर का एक नया संस्करण प्रशिक्षित करता है।
पेपर ने इसका परीक्षण 122 कठिन कार्यों के सेट पर किया जिन्हें मूल AI बिल्कुल हल नहीं कर सका। रिपोर्ट में वर्णित एक विशिष्ट प्रयोग में, मॉडल का मस्तिष्क पूरी तरह से फ्रीज (जमा) रहा—कोई आंतरिक वेट (weights) नहीं बदले गए। इसके बजाय, सिस्टम ने निर्देशों, टूल्स और सेटिंग्स के सही संयोजन को खोजने के लिए कॉन्फ़िगरेशन सर्च का उपयोग किया। केवल इन बाहरी निर्देशों और टूल्स को बदलकर, वे एक ऐसा कॉन्फ़िगरेशन खोजने में सफल रहे जिसने सिस्टम को 100% कार्यों (122 में से 122) को पास करने की अनुमति दी।
यह नोट करना महत्वपूर्ण है कि यह प्रयोग क्या सिद्ध करता है: यह दर्शाता है कि सिस्टम इन कार्यों के लिए पूर्ण कॉन्फ़िगरेशन-सर्च कवरेज प्राप्त कर सकता है। इसका अर्थ यह है कि AI के पास पहले से ही समस्याओं को हल करने की अंतर्निहित क्षमता थी, लेकिन उसे सही वातावरण या प्रॉम्प्ट की आवश्यकता थी जिससे वह इसे अनलॉक कर सके। इस प्रयोग ने इस "एक्सपेंशन" चरण को अलग किया ताकि यह दिखाया जा सके कि सेटअप बदलना काम करता है, लेकिन इसने यह साबित नहीं किया कि मॉडल ने उस कौशल को इस तरह सीखा जो उन विशिष्ट निर्देशों के बिना सामान्य (generalize) हो सके, और न ही इसने पूर्ण स्व-सुधार लूप का परीक्षण किया जहाँ मॉडल के वास्तविक वेट अपडेट किए जाते हैं।
"लिविंग" बेंचमार्क: वास्तविक दुनिया की बुद्धिमत्ता का परीक्षण
यह देखने के लिए कि क्या मैकरॉन-V1 वास्तव में एक व्यक्तिगत सहायक के रूप में अच्छा है, शोधकर्ताओं ने मैकरॉन चैटबेंच (Macaron ChatBench) और मैकरॉन लिविंगबेंच (Macaron LivingBench) नामक नए परीक्षण बनाए। ये केवल बहुविकल्पीय प्रश्न नहीं हैं।
- चैटबेंच (ChatBench) यह परीक्षण करता है कि क्या AI एक स्वाभाविक, सहानुभूतिपूर्ण बातचीत कर सकता है जो एक वास्तविक व्यक्ति से बात करने जैसा महसूस हो, न कि एक रोबोट से। यह जांचता है कि क्या AI आपके मूड को समझता है, ईमानदार रहता है, और बातचीत को आगे बढ़ाता है।
- लिविंगबेंच (LivingBench) वास्तविक जीवन का एक सिमुलेशन है। कल्पना कीजिए कि AI आपका व्यक्तिगत सहायक है जो यात्रा की योजना बनाने की कोशिश कर रहा है। "दुनिया" इसके चारों ओर बदलती है: उड़ानें विलंबित होती हैं, कीमतें बढ़ती हैं, और अचानक आप अपना मन बदल लेते हैं। यह परीक्षण देखता है कि क्या AI अपनी योजना को तुरंत बदल सकता है, जानकारी को सत्यापित कर सकता है और आपको शांत रख सकता है।
इन परीक्षणों में, मैकरॉन-V1-वेंटी (बड़ा 744B संस्करण) ने बहुत अच्छा स्कोर किया, और व्यक्तिगत बुद्धिमत्ता और कोडिंग में कई अन्य शीर्ष स्तर के मॉडलों को पीछे छोड़ दिया। उदाहरण के लिए, इसने UI4A-बेंच (इंटरफेस डिजाइन करने) पर 87.8 का स्कोर किया, जबकि अगला सर्वश्रेष्ठ मॉडल लगभग 75.9 था। इसने जटिल टूल उपयोग के परीक्षण, पिंचबेंच (PinchBench) पर 94.0 का स्कोर भी किया।
परिणाम: जो हम जानते हैं और जो अभी भी एक रहस्य है
परिणाम आशाजनक हैं, लेकिन पेपर सावधानी बरतता है कि वे बहुत अधिक अतिशयोक्ति न करें। सिस्टम उस चीज़ पर बहुत अच्छा काम करता है जिस पर इसका परीक्षण किया गया है:
- अनुकूलन (Adaptation): इसने केवल निर्देशों और टूल्स को बदलकर कठिन कार्यों के सेट को 100% पास करने के लिए कॉन्फ़िगरेशन खोजने में सफलता प्राप्त की, जो यह सिद्ध करता है कि सही सेटअप खोजना मस्तिष्क को फिर से प्रशिक्षित किए बिना प्रदर्शन में सुधार करने का एक शक्तिशाली तरीका है।
- सहयोग (Collaboration): "मिक्सचर-ऑफ-लोरा" दृष्टिकोण काम करता है। AI बिना अपना मानसिक संतुलन खोए चैट, कोडिंग और डिजाइन मोड के बीच प्रभावी ढंग से स्विच कर सकता है।
- दक्षता (Efficiency): मुख्य मस्तिष्क को फ्रीज रखकर और केवल छोटे विशेषज्ञ टूल्स को लोड करके, सिस्टम कंप्यूटर मेमोरी की भारी बचत करता है (चार अलग-अलग विशाल मॉडलों को चलाने की तुलना में लगभग 74% कम)।
हालाँकि, पेपर यह भी बताता है कि यह अभी क्या नहीं जानता है।
- दीर्घकालिक सीखना (Long-term Learning): हालांकि सिस्टम एक लूप में सुधार कर सकता है, पेपर यह साबित नहीं करता है कि यह पुराने कार्यों में बदतर हुए बिना इसे हमेशा के लिए जारी रख सकता है (एक समस्या जिसे "कैटास्ट्रोफिक फॉरगेटिंग" कहा जाता है)। हमने कॉन्फ़िगरेशन सर्च के माध्यम से सुधार की क्षमता को मापा है, लेकिन निरंतर पैरामीटर अपडेट की दीर्घकालिक स्थिरता अभी भी एक खुला प्रश्न है।
- सामूहिक बुद्धिमत्ता (Collective Intelligence): सिस्टम उन विशेषज्ञों का उपयोग करता है जिन्हें एक ही टीम द्वारा प्रशिक्षित किया गया है। विभिन्न टीमों या उपयोगकर्ताओं के विशेषज्ञों (जैसे एक कंपनी का चैट बॉट और दूसरी कंपनी का कोडिंग बॉट) को एक साथ काम करने का विचार एक भविष्य का लक्ष्य है, जिसे यहाँ टेस्ट नहीं किया गया है।
- वास्तविक दुनिया में तैनाती (Real-World Deployment): परीक्षण नियंत्रित सिमुलेशन में किए गए थे। हमें अभी तक यह नहीं पता कि यह इंटरनेट की अराजकता या लाखों अलग-अलग उपयोगकर्ताओं की अनूठी जरूरतों को कैसे संभालेगा।
निष्कर्ष
मैकरॉन-V1 एक साहसी कदम है उस AI की ओर जो केवल "जानता" नहीं है बल्कि उसे "अनुभव" भी करता है। एक फ्रीज किए हुए, स्थिर मस्तिष्क को स्वैपेबल विशेषज्ञ टूल्स और एक ऐसे सिस्टम के साथ जोड़कर जो समस्याओं को हल करने के लिए अपने स्वयं के निर्देशों को लगातार फिर से लिखता है, शोधकर्ताओं ने एक ऐसा मॉडल बनाया है जो पहले देखे गए किसी भी मॉडल की तुलना में अधिक अनुकूलनीय है। यह एक AI को स्विस आर्मी नाइफ देने और मौके पर नए उपकरण आविष्कार करने की क्षमता देने जैसा है।
पेपर दिखाता है कि यह दृष्टिकोण काम करता है: यह कठिन कार्यों को हल करता है, बेहतर इंटरफेस डिजाइन करता है, और कई वर्तमान लीडर्स की तुलना में जटिल बातचीत को बेहतर ढंग से संभालता है। लेकिन यह हमें यह भी याद दिलाता है कि यह तो बस शुरुआत है। एक ऐसे AI का सपना जो हर एक बातचीत से सीखता है, हमेशा के लिए, बिना कभी कुछ भूले, अभी भी एक निर्माणाधीन प्रक्रिया है। "मैकरॉन" तैयार है, लेकिन वास्तविक, अनंत सीखने की रेसिपी को अभी भी परिष्कृत किया जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।