Rethinking Efficiency in Neural Combinatorial Optimization: Batched Preference Optimization with Mamba
यह शोध पत्र ECO को प्रस्तुत करता है, जो एक कुशल न्यूरल कॉम्बिनेटरियल ऑप्टिमाइज़ेशन फ्रेमवर्क है जो TSP और CVRP कार्यों पर बेहतर प्रदर्शन और हार्डवेयर उपयोगिता प्राप्त करने के लिए प्रशिक्षण के दौरान लोकल सर्च द्वारा निर्देशित एक डिकपल्ड, बैच्ड डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन पाइपलाइन के साथ एक मेमोरी-कुशल मंबा बैकबोन को जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मास्टर शेफ हैं जो हजारों मेहमानों के लिए एक विशाल भोज आयोजित करने की कोशिश कर रहे हैं। आपके पास सामग्रियों (यानी "नोड्स") की एक सूची है और कुछ नियम हैं: आपको हर सामग्री को ठीक एक बार छूना है, केवल वही चीज़ें ले जानी हैं जो आपकी गाड़ी में आ सकें, और सब कुछ जितनी जल्दी हो सके वापस रसोई में लाना है। यह कॉम्बिनेटरियल ऑप्टिमाइज़ेशन (Combinatorial Optimization) की दुनिया है। दशकों तक, मनुष्यों ने इन पहेलियों को हल करने के लिए चतुर, हाथ से बनाए गए व्यंजनों (एल्गोरिदम) का उपयोग किया है, लेकिन वे धीमे हैं और हर नए भोज के लिए एक मानव विशेषज्ञ द्वारा उनमें बदलाव करने की आवश्यकता होती है।
हाल ही में, वैज्ञानिकों ने कंप्यूटर को खुद ये रेसिपी सीखने के लिए प्रशिक्षित करना शुरू कर दिया है, जिसका उपयोग न्यूरल नेटवर्क (Neural Networks) करते हैं। इन नेटवर्कों को उत्साही प्रशिक्षुओं (apprentices) के रूप में समझें जो हजारों उदाहरण देखते हैं और अगले सबसे अच्छे कदम का अनुमान लगाने की कोशिश करते हैं। हालाँकि, एक समस्या है: इन प्रशिक्षुओं को प्रशिक्षित करना अविश्वसनीय रूप से महंगा है। यह एक पूर्ण भोजन बनाने, उसे चखने, उसे फेंक देने और फिर एक नया कौशल सीखने के लिए लाखों बार फिर से शुरू करने जैसा है। यह प्रक्रिया इतनी धीमी और मेमोरी-खपत वाली है कि प्रशिक्षु बेहतर होने से पहले ही अक्सर कंप्यूटर क्रैश हो जाता है। बड़ा सवाल शोधकर्ताओं के लिए यह था: क्या हम इन AI शेफ को उतना ही अच्छा, लेकिन बहुत तेज़ और कम बर्बादी वाला बनाया जा सकते हैं?
यह पेपर ECO (Efficient Combinatorial Optimization) नामक एक नया ढांचा पेश करता है जो कहता है "हाँ।" लेखक गुणवत्ता खोए बिना गति बढ़ाने के लिए दो-भागों वाला एक जादुई तरीका प्रस्तावित करते हैं। सबसे पहले, वे सीखने की शैली को बदलते हैं। प्रशिक्षु द्वारा एक समय में एक व्यंजन बनाने, चखने और अराजक लूप में सीखने के बजाय, ECO प्रशिक्षु को भोजन के पूरे बैच बनाने, उनकी तुलना करने और फिर एक साथ सबसे अच्छे व्यंजनों से सीखने देता है। वे इसे "बैच्ड प्रेफरेंस ऑप्टिमाइज़ेशन" (Batched Preference Optimization) कहते हैं। यह एक शिक्षक द्वारा छात्र को दस अलग-अलग निबंध दिखाने, सबसे अच्छे और सबसे खराब निबंध की ओर इशारा करने और यह कहने जैसा है, "अंतर देखो? इससे सीखो," बजाय इसके कि एक निबंध को ग्रेड दिया जाए, छात्र द्वारा उसे फिर से लिखने का इंतज़ार किया जाए, और फिर अगले को ग्रेड दिया जाए।
दूसना, वे प्रशिक्षु के मस्तिष्क को अपग्रेड करते हैं। अधिकांश AI मॉडल एक "ट्रांसफॉर्मर" (Transformer) आर्किटेक्चर का उपयोग करते हैं, जो एक ऐसे लाइब्रेरियन की तरह है जिसे दो विशिष्ट पृष्ठों के बीच संबंध खोजने के लिए शेल्फ की हर किताब को पढ़ना पड़ता है। यदि शेल्फ बहुत लंबी (हजारों सामग्रियां) हो जाती है, तो लाइब्रेरियन अभिभूत हो जाता है और उसकी मेमोरी खत्म हो जाती है। ECO इस स्थान पर मैम्बा (Mamba) बैकबोन का उपयोग करता है। मैम्बा को एक अत्यंत कुशल स्कैनर के रूप में समझें जो शेल्फ को एक सुचारू, निरंतर प्रवाह में पढ़ता है, और केवल उतना ही याद रखता है जितना उसे ट्रैक रखने के लिए आवश्यक है। यह सिस्टम को बिना कंप्यूटर क्रैश किए विशाल भोज (हजारों नोड्स) को संभालने की अनुमति देता है।
लेखकों ने दो क्लासिक समस्याओं पर इसका परीक्षण किया: ट्रैवलिंग सेल्सपर्सन प्रॉब्लम (Traveling Salesperson Problem) (कई शहरों की यात्रा करने के लिए सबसे छोटा रास्ता खोजना) और व्हीकल रूटिंग प्रॉब्लम (Vehicle Routing Problem) (सीमित ट्रक क्षमता के साथ कई ग्राहकों को पैकेज वितरित करना)। उन्होंने पाया कि ECO अविश्वसनीय रूप से तेज़ है। 5,000 शहरों वाली एक समस्या पर, ECO ने टेस्ट सेट को केवल 2.5 मिनट में हल कर दिया, जबकि अन्य न्यूरल तरीकों ने बहुत अधिक समय लिया, और पारंपरिक सटीक समाधानों (exact solvers) को घंटों लग गए। महत्वपूर्ण रूप से, लेखक दिखाते हैं कि ECO केवल "लोकल सर्च" (एक त्वरित सुधार) का उपयोग करके धोखाधड़ी नहीं कर रहा है; AI ने प्रशिक्षण के दौरान ही ये चालें खुद सीखी हैं।
पेपर सुझाव देता है कि इस नई "बैच्ड" सीखने की शैली को कुशल मैम्बा मस्तिष्क के साथ जोड़कर, हम AI को पहले की तुलना में बहुत तेज़ी से बड़ी, जटिल रूटिंग समस्याओं को हल करने के लिए प्रशिक्षित कर सकते हैं, जिससे समय और कंप्यूटर शक्ति दोनों की बचत होती है। परिणाम दिखाते हैं कि ECO मौजूदा सर्वोत्तम AI तरीकों के प्रतिस्पर्धी है, और अक्सर उनसे बेहतर भी है, विशेष रूप से जब समस्याएँ बहुत बड़ी हो जाती हैं। हालाँकि, लेखक सावधानी बरतते हुए नोट करते हैं कि जबकि "मस्तिष्क" (एनकोडर) अधिक कुशल हो गया है, अगला कदम चुनने के लिए अभी भी कुछ भारी काम की आवश्यकता होती है, इसलिए पूरी प्रक्रिया पूरी तरह से रैखिक (linear) नहीं है, लेकिन यह पुराने तरीकों की तुलना में एक बड़ा सुधार है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।