ACEvo: Adversarial Co-Evolution of Problem Distributions and Solvers for Combinatorial Optimization
यह शोध पत्र ACEvo को प्रस्तुत करता है, जो एक क्लोज्ड-लूप फ्रेमवर्क है जहाँ लार्ज लैंग्वेज मॉडल्स ह्यूरिस्टिक सॉल्वर्स और प्रॉब्लम जनरेटर्स को सह-विकसित (co-evolve) करते हैं ताकि अनुकूलनशील प्रतिकूल पाठ्यक्रम (adaptive adversarial curricula) बनाए जा सकें जो कॉम्बिनेटरियल ऑप्टिमाइज़ेशन के लिए अधिक सुदृढ़ एल्गोरिदम और चुनौतीपूर्ण मूल्यांकन वातावरण तैयार करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए एक ऐसी दुनिया की जहाँ कंप्यूटरों को सबसे उलझे हुए, पेचीदा पहेलियों को सुलझाने का काम सौंपा गया है: जैसे कि एक हज़ार स्टॉप्स वाले डिलीवरी ट्रक के लिए सबसे तेज़ रास्ता ढूँढना, एक विशाल फैक्ट्री के शेड्यूल को व्यवस्थित करना, या इंटरनेट पर डेटा को रूट करना। ये "कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन" (combinatorial optimization) की समस्याएँ हैं, जहाँ संभावित उत्तरों की संख्या इतनी विशाल होती है कि उन सभी को एक-एक करके जाँचने में ब्रह्मांड की आयु से भी अधिक समय लग जाएगा। दशकों तक, इंसानों ने कंप्यूटरों को तेज़ी से सबसे अच्छा उत्तर खोजने में मदद करने के लिए विशेष नियम (जिन्हें "ह्यूरिस्टिक्स" कहा जाता है) खुद से बनाए हैं। लेकिन हाल ही में, हमने आर्टिफिशियल इंटेलिजेंस (विशेष रूप से, लार्ज लैंग्वेज मॉडल्स या LLMs) को हमारे लिए ये नियम लिखना सिखाना शुरू कर दिया है। बड़ा सवाल यह है कि यदि हम केवल एक निश्चित सेट के अभ्यास प्रश्नों पर इन AI मॉडल्स को प्रशिक्षित करते हैं, तो क्या वे वास्तव में वास्तविक दुनिया में आने वाली अजीब और अराजक समस्याओं को संभालने के लिए पर्याप्त स्मार्ट होंगे? या वे केवल अभ्यास टेस्ट को रट लेंगे और मुश्किल समय में विफल हो जाएंगे?
यहीं पर ACEvo नामक एक नया अध्ययन आता है। शोधकर्ताओं ने महसूस किया कि एक स्थिर, अपरिवतित समस्याओं के सेट पर AI सॉल्वर को प्रशिक्षित करना वैसा ही है जैसे एक बॉक्सर को केवल एक ऐसे पंचिंग बैग के साथ स्पैरिंग करने के लिए प्रशिक्षित करना जो कभी हिलता नहीं है। बॉक्सर उस विशिष्ट बैग पर प्रहार करने में तो कुशल हो सकता है, लेकिन वह एक वास्तविक, अप्रत्याशित प्रतिद्वंद्वी से बचना नहीं सीख पाएगा। इसे ठीक करने के लिए, टीम ने एक "क्लोज्ड-लूप" सिस्टम बनाया जहाँ AI न केवल समस्याओं को हल करना सीखता है; बल्कि यह अपने लिए कठिन से कठिन समस्याएँ बनाना भी सीखता है। यह एक डिजिटल हथियारों की दौड़ है जहाँ "सॉल्वर" (समस्या सुलझाने वाला) और "जेनेरेटर" (समस्या बनाने वाला) लगातार एक-दूसरे को मात देने की कोशिश करते हैं। जेनेरेटर पहेलियों को इतना जटिल बना देता है कि सॉल्वर को बने रहने के लिए नए, स्मार्ट रणनीतियाँ विकसित करनी पड़ती हैं, और सॉल्वर इतना बेहतर हो जाता है कि जेनेरेटर को और भी अधिक टेढ़े-मेढ़े पहेलियाँ बनानी पड़ती हैं। परिणाम एक स्व-सुधार चक्र (self-improving cycle) है जो पहले से देखे गए किसी भी समाधान की तुलना में अधिक कठिन चुनौतियाँ और स्मार्ट समाधान उत्पन्न करता है।
डिजिटल जिम: सॉल्वर और पहेली-बनाने वाले का प्रशिक्षण
ACEvo की दुनिया में, शोधकर्ताओं ने लार्ज लैंग्वेज मॉडल्स का उपयोग करके एक अनूठा प्रशिक्षण मैदान तैयार किया। AI को समस्याओं की एक स्थिर पाठ्यपुस्तक देने के बजाय, उन्होंने इसे दो काम दिए जिन्हें यह एक लूप में एक साथ करता है।
सबसे पहले, सॉल्वर (Solver) है। इसे एक एथलीट के रूप में सोचें जो एक भूलभुलैया में जितनी जल्दी हो सके दौड़ने की कोशिश कर रहा है। सॉल्वर एक AI प्रोग्राम है जो एक भूलभुलैया (या ट्रैवलिंग सेल्समैन प्रॉब्लम जैसी रूटिंग समस्या) के माध्यम से सबसे अच्छा रास्ता खोजने के लिए कोड लिखता है।
दूसher, जेनेरेटर (Generator) है। यह वह "दुष्ट जीनियस" कोच है जो भूलभुलभैया (mazes) डिज़ाइन करता है। इसका काम सॉल्वर के वर्तमान कौशल को देखना और एक ऐसी भूलभुलैया बनाना है जिसे विशेष रूप से सॉल्वर को उलझाने के लिए डिज़ाइन किया गया हो। यदि सॉल्लर सीधी रेखाओं में दौड़ने में अच्छा है, तो जेनेरेटर तीखे, भ्रमित करने वाले मोड़ वाली भूलभुलैया बनाता है। यदि सॉल्लर तेज़ हो जाता है, तो जेनेरेटर दीवारें मोटी और रास्ते अधिक घुमावदार बना देता है।
असली जादू को-इवोल्यूशन (Co-Evolution) में होता है। पारंपरिक प्रशिक्षण में, समस्याएँ एक जैसी रहती हैं। ACEvo में, जेनेरेटर और सॉल्वर एक फीडबैक लूप में बंधे होते हैं। जेनेरेटर "हार्ड इंस्टेंस" (अत्यधिक कठिन उदाहरणों) का एक बैच बनाता है। सॉल्वर उन्हें हल करने की कोशिश करता है। यदि सॉल्वर विफल होता है या संघर्ष करता है, तो जेनेरेटर को एक संकेत मिलता है: "हे, यह काम कर गया! चलो इसके जैसे और बनाएँ!" इस बीच, सॉल्वर को एक संकेत मिलता है: "तुम यहाँ विफल रहे; चलो इस स्थिति को संभालने के लिए तुम्हारी रणनीति को फिर से लिखते हैं।"
यह प्रक्रिया एडवर्सरियल फीडबैक (Adversarial Feedback) द्वारा संचालित होती है। जेनेरेटर केवल रैंडम शोर (noise) नहीं बना रहा है; यह सक्रिय रूप से सॉल्वर की कमजोरियों की तलाश कर रहा है। यह नई, अधिक कठिन पैटर्न बनाने के लिए अपने स्वयं के कोड को उत्परिवर्तित (mutate) करता है। सॉल्वर फिर उन कमियों को भरने के लिए अपने कोड को उत्परिवर्तित करता है। यह "पीछा करने और पकड़ने" का एक निरंतर खेल है जहाँ दोनों पक्ष हर दौर के साथ मजबूत होते जाते हैं।
परिणाम: कठिन पहेलियाँ, स्मार्ट सॉल्वर्स
शोधकर्ताओं ने इस सिस्टम का परीक्षण तीन क्लासिक प्रकार की रूटिंग समस्याओं पर किया: ट्रैवलिंग सेल्समैन प्रॉब्लम (TSP), ओरिएंटियरिंग प्रॉब्लम (OP), और कैपेसिटेटेड व्हीकल रूटिंग प्रॉब्लम (CVRP)। उन्होंने अपने ACEvo सिस्टम की तुलना अन्य शीर्ष-स्तरीय AI विधियों से की जो मानक, निश्चित प्रशिक्षण डेटा का उपयोग करती हैं।
निष्कर्ष चौंकाने वाले थे। जब उन्होंने ACEvo द्वारा प्रशिक्षित सॉल्वर्स को मानक, प्रसिद्ध बेंचमार्क (जैसे प्रसिद्ध TSPLIB डेटासेट) पर परखा, तो ये सॉल्वर्स लगभग किसी भी अन्य विधि से बेहतर प्रदर्शन करते हुए अक्सर लगभग पूर्ण स्कोर प्राप्त करते हैं। लेकिन असली कहानी उन पहेलियों की कठिनाई में थी जो ACEvo ने बनाई थीं।
जब शोधकर्ताओं ने ACEvo द्वारा बनाए गए नए पहेलियों पर मानक, पूर्व-मौजूदा सॉल्वर्स (वे जो ACEvo का उपयोग नहीं करते थे) का परीक्षण किया, तो वे सॉल्वर्स बिखर गए। उनका प्रदर्शन काफी गिर गया, और कुछ कार्यों पर "ऑप्टिमलिटी गैप" (उनके उत्तर और पूर्ण उत्तर के बीच का अंतर) बढ़कर 9% या उससे अधिक हो गया। इसके विपरीत, जो सॉल्वर्स ACEvo लूप के अंदर प्रशिक्षित किए गए थे, वे इन सुपर-हार्ड पहेलियों को बहुत बेहतर तरीके से संभालने में सक्षम थे, जिससे उनका गैप बहुत कम रहा।
उदाहरण के लिए, 400 से 1,000 शहरों वाली विशिष्ट कठिन TSP समस्याओं के सेट पर, ACEvo-प्रशिक्षित सॉल्वर ने लगातार प्रतियोगिता को पछाड़ दिया। जबकि अन्य विधियों की त्रुटि दर (error rate) ACEvo-जनित अराजकता का सामना करते समय आसमान छू गई, ACEvo सॉल्वर अनुकूलित हुआ और चौकना नहीं छोड़ा। शोध पत्र का सुझाव है कि ऐसा इसलिए है क्योंकि ACEvo सॉल्वर ने केवल एक पैटर्न को याद नहीं किया; इसने एक लचीली रणनीति सीखी जो जेनेरेटर द्वारा रचित अजीब और जटिल संरचनाओं को संभाल सकती है।
यह क्यों महत्वपूर्ण है: एल्गोरिदम का विकास
पेपर का तर्क है कि यह "एडवर्सरियल को-इवोल्यूशन" एक गेम-चेंजर है। AI को अपना स्वयं का पाठ्यक्रम (curriculum) डिज़ाइन करने देने से, ACEvo एक ऐसा गतिशील वातावरण बनाता है जहाँ सॉल्वर को विकसित होने के लिए मजबूर किया जाता है। शोधकर्ताओं ने पाया कि यदि आप इस लूप के किसी भी हिस्से को हटा देते हैं—जैसे कि "रिफ्लेक्शन" चरण जहाँ AI विश्लेषण करता है कि वह क्यों विफल हुआ, या "म्यूटेशन" चरण जहाँ वह नया कोड आज़माता है—तो सिस्टम उतना अच्छा काम नहीं करता है। सॉल्वर या तो अटक जाता है, या पहेलियाँ उसे आगे बढ़ाने के लिए पर्याप्त कठिन नहीं होती हैं।
अध्ययन ने ACEvo द्वारा बनाई गई पहेलियों को विज़ुअलाइज़ भी किया। मानक समस्याओं के विपरीत, जो मानचित्र पर समान रूप से बिखरे हुए रैंडम डॉट्स की तरह दिखती हैं, ACEvo-जनित समस्याओं में अजीब, जटिल संरचनाएं थीं। उनमें बिंदुओं के क्लस्टर थे जो बहुत सघन रूप से पैक थे, या घुमावदार रास्ते थे जो सर्पिल (spirals) की तरह दिखते थे। ये केवल रैंडम नहीं थे; इन्हें विशेष रूप से मानक एल्गोरिदम के लिए "क्रिप्टोनाइट" बनने के लिए इंजीनियर किया गया था।
अंत में, ACEvo सुझाव देता है कि जटिल समस्याओं को हल करने का भविष्य केवल बेहतर AI मॉडल बनाने के बारे में नहीं है; बल्कि बेहतर प्रशिक्षण वातावरण बनाने के बारे में है। AI को एक लगातार विकसित होने वाले प्रतिद्वंद्वी के खिलाफ लड़ने देने से, हम ऐसे एल्गोरिदम बना सकते हैं जो मजबूत, अनुकूलन योग्य और वास्तविक दुनिया की अप्रत्याशित चुनौतियों के लिए तैयार हों। पेपर यह दावा नहीं करता है कि उसने अस्तित्व में मौजूद हर ऑप्टिमाइज़ेशन समस्या को हल कर लिया है, लेकिन यह दृढ़ता से सुझाव देता है कि यह "हथियारों की दौड़" वाला दृष्टिकोण उन एल्गोरिदम की खोज करने का एक शक्तिशाली नया तरीका है जो हमारे द्वारा हाथ से डिज़ाइन किए गए किसी भी चीज़ की तुलना में कहीं अधिक सक्षम हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।