Neighborhood Convergence of Linearized Gossip ADMM for Heterogeneous Nonconvex Multi-Agent Optimization

वितरित कंप्यूटिंग (distributed computing) की आधुनिक दुनिया में, उपकरणों का एक विशाल नेटवर्क—रोबोट, सेंसर या स्वायत्त वाहन—अक्सर बिना किसी केंद्रीय बॉस के मिलकर एक एकल, जटिल समस्या को हल करने की आवश्यकता रखता है। कल्पना कीजिए कि ड्रोन और जमीनी वाहनों का एक बेड़ा एक साझा उड़ान पथ पर सहमत होने का प्रयास कर रहा है, या बिखरे हुए डेटा से एक सटीक स्थान की गणना करने के लिए सेंसरों का एक झुंड काम कर रहा है। प्रत्येक उपकरण के पास पहेली का केवल एक हिस्सा होता है, और उन्हें सहमति बनाने के लिए अपने पड़ोसियों के साथ संवाद करना पड़ता है। चुनौती यह है कि ये उपकरण शायद ही कभी एक जैसे होते हैं। कुछ शक्तिशाली और तेज़ होते हैं, जबकि अन्य धीमे और ऊर्जा-सीमित होते हैं। कुछ के पास स्पष्ट, सुचारू डेटा होता है, जबकि अन्य मैसे (messy), ऊबड़-खाबड़ जानकारी के साथ काम करते हैं। वे सभी एक ही समय पर बोल भी नहीं पाते; संदेशों में देरी होती है, और उपकरण अपने स्वयं के अनियमित लय के साथ जागते और गणना करते हैं। जब इन अंतरों को अनदेखा किया जाता है, तो समूह अक्सर एक समझौते में विफल हो जाता है, जिससे वे भ्रम की स्थिति में फंस जाते हैं जहाँ कोई भी एकल एजेंट प्रभावी ढंग से आगे नहीं बढ़ पाता।

शोधकर्ताओं झोंगहुई ज़ु और याज़ेंग डांग ने इन विविध समूहों को एक स्थिर समझौते तक पहुँचने में मदद करने के लिए एक नई विधि विकसित की है, भले ही सदस्य बहुत भिन्न हों और संचार अपूर्ण हो। उनका कार्य एक विशिष्ट गणितीय रणनीति पर केंद्रित है जिसे अल्टरनेटिंग डायरेक्शन मेथड ऑफ मल्टीप्लायर्स (ADMM) कहा जाता है, जो एजेंटों के लिए एक बड़ी समस्या को छोटे, प्रबंधनीय टुकड़ों में विभाजित करने का एक मानक तरीका है। जबकि यह विधि तब अच्छी तरह समझ में आती है जब सभी एजेंट समान होते हैं और पूर्ण तालमेल में काम करते हैं, यह वास्तविक दुनिया के परिदृश्यों में अक्सर विफल हो जाती है जहाँ उपकरणों की गति, उनके डेटा के प्रकार और संचार में देरी अलग-अलग होती है। लेखकों ने ठीक से विश्लेषण किया कि ये अंतर समूह को कैसे रोकते हैं और एक नया, अनुकूलन योग्य (adaptive) संस्करण प्रस्तावित किया जो इस विषमता (heterogeneity) को ध्यान में रखता है।

समस्या का मूल एजेंटों द्वारा सूचना साझा करने के तरीके में निहित है। पारंपरिक दृष्टिकोणों में, प्रत्येक एजेंट केवल अपने पड़ोसियों से प्राप्त डेटा का औसत निकालता है, और सभी इनपुट को समान रूप से महत्वपूर्ण मानता है। हालाँकि, जब एजेंटों के पास अलग-अलग स्तर की कम्प्यूटेशनल शक्ति या अलग-अलग प्रकार का स्थानीय डेटा होता है, तो सूचनाओं को संयोजित करने का सरल औसत अक्सर गलत होता है। यह एक भारी, धीमी गति वाले ट्रक के मार्ग को एक तेज़, फुर्तीले मोटरसाइकिल के मार्ग के साथ मिलाने की कोशिश करने जैसा है, जिसमें केवल मध्य बिंदु निकालने से न तो ट्रक की गति बनी रहती है और न ही मोटरसाइकिल की चपलता; परिणाम न तो दोनों को संतुष्ट करता है और न ही एक इष्टतम पथ की ओर ले जाता है। शोधकर्ताओं ने इस बेमेल के तीन विशिष्ट स्रोतों की पहचान की: प्रत्येक एजेंट द्वारा देखे जाने वाले डेटा के आकार में अंतर, डेटा कितना "सुचारू" या अनुमानित है इसमें अंतर, और संदेशों के पहुँचने में लगने वाले समय में अंतर। उन्होंने पाया कि जब ये अंतर बड़े होते हैं, तो मानक विधि समूह को निरंतर, छोटे पैमाने के असंतोष की स्थिति में छोड़ देती है, जिससे वे वास्तव में स्थिर समाधान तक नहीं पहुँच पाते।

इसे ठीक करने के लिए, टीम ने 'हेटरोजेनिटी-एडेप्टिव एसिंक्रोनस ADMM' नामक एक नया एल्गोरिदम पेश किया। प्रत्येक एजेंट को अपने पड़ोसियों के डेटा के साथ समान व्यवहार करने के लिए मजबूर करने के बजाय, यह नई विधि प्रत्येक एजेंट को उसके अपने विशिष्ट गुणों और उसके पड़ोसियों की विशेषताओं के आधार पर प्राप्त सूचना को भार (weight) देने की अनुमति देती है। यह "पुश-सम" (push-sum) नामक एक तकनीक का उपयोग करता है, जो नेटवर्क के माध्यम से बहने वाली सूचना के कुल भार को ट्रैक करने का एक तरीका है, यह सुनिश्चित करता है कि अंतिम औसत प्रत्येक एजेंट के योगदान के वास्तविक महत्व को दर्शाता है, न कि केवल एक साधारण गिनती को। यह दृष्टिकोण समूह को एक ऐसे समाधान की ओर ले जाने की अनुमति देता है जो आदर्श समाधान के बहुत करीब है, भले ही एजेंट अलग-अलग गति से काम कर रहे हों और अलग-अलग प्रकार के डेटा के साथ काम कर रहे हों। शोधकर्ताओं ने एक ऐसी प्रणाली भी डिज़ाइन की जहाँ एजेंटों के बीच असहमति के दंड (penalty) को स्वचालित रूप से समायोजित किया जाता है। यदि कोई एजेंट अपने पड़ोसियों के साथ सहमत होने के लिए संघर्ष कर रहा है, तो एल्गोरिदम अनुरूपता के लिए दबाव बढ़ाता है; यदि वह पहले से ही करीब है, तो यह स्थानीय प्रगति की अनुमति देने के लिए दबाव को कम कर देता है।

शोधकर्ताओं ने विभिन्न परिदृश्यों के कंप्यूटर सिमुलेशन का उपयोग करके अपने नए तरीके का मौजूदा दृष्टिकोणों के विरुद्ध परीक्षण किया। उन्होंने बीस एजेंटों के एक नेटवर्क का अनुकरण किया जो एक जटिल, गैर-रेखीय (non-linear) समस्या को हल कर रहे थे, और सोलह मानव रहित हवाई वाहनों (UAVs) और सोलह जमीनी वाहनों के एक वास्तविक परिदृश्य का निर्माण किया जो एक साथ मार्ग की योजना बना रहे थे। इन परीक्षणों में, नया तरीका लगातार मानक दृष्टिकोणों से बेहतर प्रदर्शन करता रहा। जहाँ पुराने तरीके अक्सर समूह को एक महत्वपूर्ण त्रुटि के साथ छोड़ देते थे, जो एक सटीक समाधान तक पहुँचने में असमर्थ था, वहीं नए तरीके ने त्रुटि को बहुत निचले स्तर तक कम कर दिया। वाहन नियोजन सिमुलेशन में, नए एल्गोरिदम ने बेड़े को एक ऐसा पथ खोजने में मदद की जो न केवल अधिक कुशल था बल्कि सुरक्षित भी था, जिससे बाधाओं से अधिक दूरी बनी रही। परिणामों ने दिखाया कि एजेंटों के बीच के विशिष्ट अंतरों को ध्यान में रखकर, समूह पहले की तुलना में बहुत तेज़ी से और अधिक विश्वसनीयता के साथ 'नियर-स्टेशनैरिटी' (near-stationarity) की स्थिति तक पहुँच सकता है।

अध्ययन ने यह भी खुलासा किया कि अभिसरण (convergence) की गति इस बात पर बहुत अधिक निर्भर करती है कि एजेंट कैसे संवाद करते हैं। जब नेटवर्क विरल (sparse) होता है, जिसका अर्थ है कि एजेंटों के पास कम पड़ोसी होते हैं, तो नया तरीका अभी भी अच्छा प्रदर्शन करता है, हालांकि इसे समान सहमति तक पहुँचने के लिए कुछ अधिक चरणों की आवश्यकता होती है। शोधकर्ताओं ने पाया कि यह विधि संचार विलंब (communication delays) में महत्वपूर्ण भिन्नता होने पर भी मजबूत है, जो वायरलेस नेटवर्कों में एक सामान्य समस्या है। उन्होंने प्रदर्शित किया कि नया दृष्टिकोण प्रभावी ढंग से काम करता है चाहे सभी एजेंट एक ही समय में सक्रिय हों या वे यादृच्छिक, अनियमित अंतराल पर जागें और गणना करें। यह लचीलापन सेंसर नेटवर्क या रोबोट झुंडों जैसे अनुप्रयोगों के लिए महत्वपूर्ण है, जहाँ बिजली की कमी और पर्यावरणीय कारक अक्सर सिंक्रोनाइज्ड ऑपरेशन (एक साथ काम करने) को रोकते हैं।

एक सबसे महत्वपूर्ण निष्कर्ष यह है कि नया तरीका उस विशिष्ट प्रकार की त्रुटि को समाप्त करता है जो पारंपरिक दृष्टिकोणों को परेशान करती है। पुराने तरीकों में, एजेंटों द्वारा अपने डेटा को संसाधित करने के तरीके में अंतर दंड भार (penalty weights) के संबंध में एक स्थायी "फ्लोर" (floor) त्रुटि पैदा करता है, जिसे समूह पार नहीं कर पाता। नया तरीका सटीक भार का उपयोग करके इस विशिष्ट त्रुटि चैनल को हटा देता है, जिससे समूह सर्वोत्तम संभव समाधान के बहुत करीब पहुँच जाता है, बशर्ते संचार विलंब बहुत अधिक न हो। हालाँकि, डेटा ग्रेडिएंट्स और संचार में देरी के कारण एक छोटा अवशिष्ट (residual) त्रुटि शेष रहता है; सिस्टम एक "स्टेशनैरिटी नेबरहुड" (stationarity neighborhood) की ओर अभिसरण करता है न कि एक एकल पूर्ण बिंदु की ओर। यह एक बड़ा सुधार है क्योंकि इसका अर्थ है कि सिस्टम उस स्तर की सटीकता प्राप्त कर सकता है जो ऐसे विविध और एसिंक्रोनस वातावरणों में पहले असंभव माना जाता था, जिससे मानक तरीकों की तुलना में त्रुटि का स्तर काफी कम हो जाता है। शोधकर्ताओं ने एक सैद्धांतिक आदर्श के साथ अपने परिणामों की तुलना करके इसकी पुष्टि की, जिससे पता चला कि उनका तरीका नेटवर्क विलंब और डेटा विषमता द्वारा निर्धारित सीमाओं के भीतर सर्वोत्तम परिणाम के बहुत करीब पहुँच जाता है।

इस कार्य में इस बात का भी विस्तृत विश्लेषण शामिल था कि विभिन्न स्थितियों के तहत एल्गोरिदम कैसा व्यवहार करता है। शोधकर्ताओं ने डेटा की जटिलता और नेटवर्क के आकार (दस एजेंटों के छोटे समूहों से लेकर अस्सी एजेंटों के बड़े नेटवर्क तक) के विभिन्न स्तरों के साथ इस पद्धति का परीक्षण किया। हर मामले में, नया तरीका मानक दृष्टिकोणों पर अपना लाभ बनाए रखता है। उन्होंने पाया कि यह विधि अच्छी तरह से स्केल (scale) करती है, जिसका अर्थ है कि जैसे-जैसे नेटवर्क बढ़ता है, यह अपनी प्रभावशीलता नहीं खोती है। यह सुझाव देता है कि इस दृष्टिकोण को बहुत बड़े सिस्टम, जैसे शहर-व्यापी सेंसर नेटवर्क या बड़े स्वायत्त वाहनों के बेड़े में, प्रदर्शन के महत्वपूर्ण नुकसान के बिना लागू किया जा सकता है। बड़े पैमाने पर, विषम प्रणालियों को संभालने की क्षमता वितरित अनुकूलन (distributed optimization) को वास्तविक दुनिया के अनुप्रयोगों के लिए व्यावहारिक बनाने की दिशा में एक प्रमुख कदम है।

वाहन नियोजन कार्य के संदर्भ में, नए तरीके ने एजेंटों के बीच भौतिक अंतर को संभालने की स्पष्ट क्षमता दिखाई। ड्रोन और जमीनी वाहनों की गति, ऊंचाई और कम्प्यूटेशनल क्षमताएं अलग-अलग थीं। एल्गोरिदम ने उन्हें उनके व्यक्तिगत प्रतिबंधों का सम्मान करते हुए एक साझा पथ का पालन करने के लिए सफलतापूर्वक समन्वित किया। परिणाम एक समन्वित आंदोलन था जो मानक तरीकों की तुलना में अधिक सुचारू और कुशल था। यह प्रदर्शित करता है कि गणितीय सुधार सीधे जटिल, भौतिक कार्यों में बेहतर प्रदर्शन में परिवर्तित होते हैं। शोधकर्ताओं ने नोट किया कि यह विधि विशेष रूप से तब प्रभावी होती है जब एजेंटों के पास अलग-अलग प्रकार की लागत या उद्देश्य होते हैं, जो वास्तविक दुनिया के परिदृश्यों में एक सामान्य स्थिति है जहाँ विभिन्न उपकरणों की अलग-अलग प्राथमिकताएं होती हैं।

अध्ययन यह निष्कर्ष निकालता है कि विविध, एसिंक्रोनस नेटवर्क में समस्याओं को हल करने की कुंजी एजेंटों को एक जैसा मानने के बजाय उन्हें अलग-अलग मानना है। डेटा, गति और संचार के अंतर को स्पष्ट रूप से मॉडल करके, और इन अंतरों को ध्यान में रखते हुए एल्गोरिदम को समायोजित करके, उच्च स्तर का समन्वय प्राप्त करना संभव है। नया तरीका इसे करने के लिए एक व्यावहारिक तरीका प्रदान करता है, जो विविध बहु-एजेंट प्रणालियों के लिए एक मजबूत समाधान पेश करता है। शोधकर्ता सुझाव देते हैं कि भविष्य का कार्य नेटवर्क की स्थितियों में और भी अधिक चरम भिन्नताओं को संभालने के लिए विधि को और अधिक परिष्कृत करने या दूसरे क्रम के अनुकूलन (second-order optimization) समस्याओं तक दृष्टिकोण का विस्तार करने पर ध्यान केंद्रित कर सकता है। हालाँकि, वर्तमान परिणाम पहले से ही विषम अनुकूलन को वास्तविक दुनिया के अनुप्रयोगों में उपयोग करने के लिए एक मजबूत आधार स्थापित करते हैं।

इस कार्य के निहितार्थ केवल परीक्षण किए गए विशिष्ट एल्गोरिदम तक ही सीमित नहीं हैं। यह वितरित प्रणालियों को डिजाइन करने के लिए एक मौलिक सिद्धांत को उजागर करता है: अनुकूलन क्षमता (adaptability) एकरूपता (uniformity) से अधिक महत्वपूर्ण है। एक ऐसी दुनिया में जहाँ उपकरण तेजी से विविध हो रहे हैं और नेटवर्क अधिक जटिल होते जा रहे हैं, स्थानीय स्थितियों के अनुकूल होना आवश्यक है। नया तरीका यह बताने के लिए एक ब्लूप्रिंट प्रदान करता है कि कैसे ऐसे सिस्टम बनाए जाएं जो इस वातावरण में फल-फूल सकें, जिससे विषमता की चुनौती को बेहतर प्रदर्शन के अवसर में बदला जा सके। एजेंटों के बीच के अंतरों को अनदेखा करने के बजाय, उन्हें समझने और उनका लाभ उठाने के माध्यम से, इंजीनियर भविष्य के लिए अधिक लचीले और कुशल नेटवर्क बना सकते हैं। यह शोध अगली पीढ़ी के सहयोगात्मक बुद्धिमान प्रणालियों (collaborative intelligent systems) को विकसित करने के लिए एक स्पष्ट मार्ग प्रदान करता है।