Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering
यह शोध पत्र OpenMLE प्रस्तुत करता है, जो मशीन लर्निंग इंजीनियरिंग में पुनरावर्ती स्व-सुधार (recursive self-improvement) के लिए एक ओपन फुल-स्टैक सिस्टम है, और Frontis-MA1 प्रस्तुत करता है, जो एक 35B मेटा-इवोल्यूशन एजेंट है जो निष्पादन-आधारित प्रशिक्षण (execution-grounded training) और लॉन्ग-होरिज़न सर्च का लाभ उठाकर MLE बेंचमार्क पर अग्रणी मॉडलों को महत्वपूर्ण रूप से पीछे छोड़ देता है और होल्ड-आउट कार्यों के लिए मजबूत हस्तांतरणीयता (transferability) प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ भविष्य के उपकरण बनाने वाले लोग खुद उन उपकरणों द्वारा बनाए जा रहे हैं। यह "AI के लिए AI" का क्षेत्र है, जो कंप्यूटर विज्ञान का एक दिलचस्प कोना है जहाँ आर्टिफिशियल इंटेलिजेंस केवल खेल नहीं खेलता या कविताएँ नहीं लिखता, बल्कि वास्तव में अन्य AI को डिजाइन, बनाता और बेहतर बनाता है। यहाँ बड़ा सपना "रिकर्सिव सेल्फ-इम्प्रूवमेंट" (पुनरावर्ती आत्म-सुधार) का है, जो एक विज्ञान-कथा (sci-fi) अवधारणा है जहाँ एक स्मार्ट सिस्टम स्मार्ट सिस्टम बनाने में बेहतर होता जाता है, जो फिर अगली पीढ़ी को बनाने में और भी बेहतर होता जाता है, जिससे बुद्धिमत्ता का एक निरंतर बढ़ता हुआ चक्र बन जाता है। लेकिन वहाँ पहुँचने के लिए, हमें इन विचारों का परीक्षण करने के लिए एक सुरक्षित, वास्तविक दुनिया के प्लेग्राउंड की आवश्यकता है। यहीं पर "मशीन लर्निंग इंजीनियरिंग" (MLE) काम आती है। MLE को वास्तविक दुनिया के AI मॉडल बनाने के कठिन और व्यावहारिक काम के रूप में समझें: डेटा एकत्र करना, उन्हें प्रशिक्षित करना, बग्स को ठीक करना और उन्हें तब तक ट्यून करना जब तक कि वे काम न करने लगें। यह एक सैद्धांतिक ब्लूप्रिंट और एक चलती कार के बीच का अंतर है। यदि हम एक AI को यह इंजीनियरिंग कार्य स्वयं बेहतर ढंग से करने के लिए सिखा सकें, तो हम शायद उस आत्म-सुधार वाले भविष्य का कोड क्रैक कर सकते हैं।
यह शोध पत्र एक नए, खुले प्लेग्राउंड OpenMLE और एक स्टार छात्र Frontis-MA1-35B को पेश करता है, यह देखने के लिए कि क्या एक AI वास्तव में उन मनुष्यों से बेहतर इंजीनियर बनना सीख सकता है जिन्होंने उसे सिखाया है। शोधकर्ताओं ने केवल एक स्मार्ट रोबोट नहीं बनाया; उन्होंने एक पूरी फैक्ट्री बनाई। सबसे पहले, उन्होंने OpenMLE-Gym बनाया, जो एक विशाल डिजिटल जिम है जिसमें लगभग 6,000 अलग-अलग "वर्कआउट" कार्य (जैसे स्टॉक की कीमतों की भविष्यवाणी करना या छवियों को वर्गीकृत करना) हैं जहाँ AI समस्याओं को हल करने का प्रयास कर सकता है और इस पर तत्काल, ईमानदार फीडबैक प्राप्त कर सकता है कि वह सफल हुआ या विफल। फिर, उन्होंने अपने AI, Frontis-MA1, को चार विशिष्ट "मांसपेशियों की चालें" सिखाईं: Draft (नया कोड लिखें), Improve (इसे बेहतर बनाएं), Debug (त्रुटियों को ठीक करें), और Crossover (दो अच्छे विचारों को आपस में मिलाएं)।
जादू तब होता है जब वे AI को इन चालों का अभ्यास करने देते हैं। केवल अनुमान लगाने के बजाय, Frontis-MA1 जिम में अपने कोड को चलाता है, परिणाम देखता है, और अपनी गलतियों से सीखता है। शोधकर्ताओं ने पाया कि जब उन्होंने इस प्रशिक्षण को OpenMLE-Evo नामक एक स्मार्ट सर्च रणनीति के साथ जोड़ा, तो AI केवल थोड़ा बेहतर नहीं हुआ; बल्कि वह नाटकीय रूप रूप से बेहतर हो गया। एक कठिन परीक्षण, MLE-Bench Lite पर, बेस मॉडल (प्रशिक्षण से पहले वाला AI) केवल लगभग 39% कार्यों पर "पदक" (एक शीर्ष-स्तरीय स्कोर) प्राप्त कर सका। लेकिन प्रशिक्षण और सर्च लूप के बाद, Frontis-MA1-35B उछलकर 60.61% पर पहुँच गया। जब उन्होंने एक विशेष "Max" मोड के साथ सर्च डायल को और ऊपर घुमाया, तो इसने 71.21% को छुआ।
यह केवल एक छोटी जीत नहीं है; शोध पत्र सुझाव देता है कि यह प्रणाली वास्तव में इन विशिष्ट इंजीनियरिंग कार्यों पर दुनिया के कुछ सबसे प्रसिद्ध, शक्तिशाली AI मॉडलों (जैसे GPT-5.5 और Codex) से बेहतर प्रदर्शन करती है, और Kimi K3 के प्रदर्शन के करीब पहुँच गई, भले ही Frontis-MA1 एक छोटे, 35-बिलियन-पैरामीटर बैकबोन पर बनाया गया था। मुख्य खोज यह है कि AI ने अपने भविष्य के खोजों (searches) को निर्देशित करने के लिए अपने पिछले अनुभवों का उपयोग करना सीख लिया। इसने केवल रैंडम चीजें नहीं आजमाईं; इसे याद रहा कि इसके समस्या-समाधान के पेड़ की कौन सी "शाखाएं" काम करती थीं, कौन सी विफल रहीं, और विजेताओं को एक साथ कैसे मिलाना है। लेखक दिखाते हैं कि यह "सीखने के लिए सीखना" (learning to learn) दृष्टिकोण AI को एक कामकाजी समाधान खोजने के बहुत बाद भी सुधार करना जारी रखने की अनुमति देता है, जिससे एक साधारण सुधार को गोल्ड-मेडल प्रदर्शन में बदल दिया जाता है। हालाँकि यह शोध पत्र यह दावा करने में रुक जाता है कि AI ने पूर्ण, अनंत आत्म-सुधार हासिल कर लिया है, लेकिन यह पुख्ता सबूत प्रदान करता है कि हम ऐसे AI से आगे बढ़ रहे हैं जो केवल निर्देशों का पालन करते हैं, उन AI की ओर जो वास्तव में अपने इंजीनियरिंग कौशल को विकसित कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।