⚡ electrical engineering

Data-Driven Distributed Optimization via Aggregative Tracking and Deep-Learning

यह शोधपत्र एक नवीन वितरित डेटा-संचालित अनुकूलन एल्गोरिदम का प्रस्ताव करता है जो अज्ञात उद्देश्यों वाले सहयोगात्मक न्यूनीकरण समस्याओं को हल करने के लिए न्यूरल नेटवर्क-आधारित लर्निंग, अनुकूलन प्रक्रियाओं और एग्रीगेटिव ट्रैकिंग को संयोजित करता है, और दृढ़ रूप से उत्तल (strongly convex) स्थितियों के तहत इष्टतम के एक पड़ोस तक इसके रैखिक अभिसरण को सिद्ध करता है।

मूल लेखक: Riccardo Brumali, Guido Carnevale, Giuseppe Notarstefano

प्रकाशित 2026-01-27

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Riccardo Brumali, Guido Carnevale, Giuseppe Notarstefano

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि दोस्तों का एक समूह एक विशाल पॉटलक डिनर (potluck dinner) आयोजित करने की कोशिश कर रहा है। उनका लक्ष्य सभी के लिए भोजन को यथासंभव स्वादिष्ट बनाना है। हालाँकि, एक पेंच है: कोई भी सटीक रेसिपी नहीं जानता है, और वे एक साथ पूरे भोजन का स्वाद नहीं ले सकते। वे केवल अपने स्वयं के व्यंजन का एक छोटा सा निवाला (bite) ले सकते हैं यह देखने के लिए कि उसका स्वाद कैसा है।

यह वास्तविक दुनिया की समस्या है जिसे यह शोध पत्र (paper) हल करता है। लेखक, रिकार्डो ब्रुमाली, गुइडो कार्नेवाले और ज्यूसेप नोटारस्टेफानो, एक नया तरीका प्रस्तावित करते हैं जिससे "एजेंटों" (जैसे रोबोट, कंप्यूटर, या यहाँ तक कि लोग) की एक टीम एक ऐसी स्थिति में सर्वोत्तम समाधान खोजने के लिए मिलकर काम कर सकती है जब उनके पास पूरा नियमकोश (rulebook) न हो। वे अपने इस समाधान को DELTA (DEep-Learning aggregative TrAcking) कहते हैं।

DELTA कैसे काम करता है, इसे तीन सरल भूमिकाओं में विभाजित किया गया है जो टीम का प्रत्येक सदस्य एक साथ निभाता है:

1. "गॉरमेट शेफ" (सीखने वाला हिस्सा - The Learning Part)

चूंकि दोस्तों को सटीक रेसिपी नहीं पता है, इसलिए उन्हें अनुमान लगाने की आवश्यकता है। प्रत्येक मित्र के पास एक न्यूरल नेटवर्क है (एक बहुत ही स्मार्ट, डिजिटल प्रशिक्षु शेफ के बारे में सोचें)।

काम: हर बार जब दोस्त एक छोटा सा निवाला लेता है (डेटा का एक एकल नमूना), तो प्रशिक्षु शेफ स्वाद को देखता है और अपनी आंतरिक "रेसिपी बुक" को अपडेट करता है।
चालaki: आमतौर पर, रेसिपी का अनुमान लगाने के लिए कई बार स्वाद लेने की आवश्यकता होती है ताकि उसे सही किया जा सके। लेकिन यह प्रशिक्षु विशेष है। यह केवल उस एकल निवाले का उपयोग करके यह अनुमान लगाने में सीख जाता है कि स्वाद किस दिशा में सुधरेगा (ग्रेडिएंट)। यह एक ऐसे शेफ की तरह है जो आपको बता सकता है कि चावल के एक दाने को चखकर ही आपको कितना नमक डालना चाहिए।

2. "टीम कैप्टन" (अनुकूलन वाला हिस्सा - The Optimization Part)

एक बार जब प्रशिक्षु शेफ मित्र को बताता है, "हे, यदि आप अपने व्यंजन को थोड़ा बाईं ओर ले जाते हैं, तो यह बेहतर स्वाद देगा," तो मित्र को वास्तव में व्यंजन को हिलाने की आवश्यकता होती है।

काम: यह हिस्सा प्रशिक्षु से मिली सलाह लेता है और मित्र के स्थानीय निर्णय (जैसे एक रोबोट को हिलाना या एक सेटिंग बदलना) को समायोजित करता है ताकि वह सर्वोत्तम संभव भोजन के करीब पहुँच सके।
चुनौती: मित्र को पूरी तस्वीर का ज्ञान नहीं है। वे केवल अपने स्वयं के व्यंजन को जानते हैं। पूरे पॉटलक को बेहतर बनाने के लिए, उन्हें यह जानने की आवश्यकता है कि उनका व्यंजन समूह के समग्र स्वाद को कैसे प्रभावित करता है।

3. "मैसेंजर" (ट्रैकिंग वाला हिस्सा - The Tracking Part)

यह वह गोंद है जो टीम को एक साथ जोड़ता है। चूंकि कोई भी पूरी मेज को नहीं देख सकता, इसलिए उन्हें यह पता लगाने की आवश्यकता है कि पूरे समूह का "औसत स्वाद" क्या है।

काम: प्रत्येक मित्र अपने निकटतम पड़ोसियों को फुसफुसाकर कहता है, "यहाँ मेरे व्यंजन का स्वाद है।" पड़ोसी उस संदेश को आगे बढ़ाते हैं। फुसफुसाहट की इस श्रृंखला के माध्यम से, प्रत्येक मित्र बिना अपनी जगह छोड़े पूरे समूह के औसत स्वाद का मानसिक मानचित्र बना लेता है।
परिणाम: यह प्रत्येक मित्र को यह समझने की अनुमति देता है कि उनकी विशिष्ट क्रिया वैश्विक लक्ष्य को कैसे प्रभावित करती, भले ही वे केवल अपने पड़ोसियों से बात करते हों।

वे एक साथ कैसे काम करते हैं (गति का जादू)

DELTA की प्रतिभा यह है कि ये तीनों चीजें एक ही समय में और अलग-अलग गति से होती हैं, जैसे एक अच्छी तरह से प्रशिक्षित ऑर्केस्ट्रा:

मैसेंजर्स (ट्रैकिंग) बहुत तेज़ी से चलते हैं, समूह के औसत को जल्दी से समझ लेते हैं।
कैप्टन्स (ऑप्टिमाइज़ेशन) मध्यम गति से चलते हैं, निर्णयों को समायोजित करते हैं।
शेफ (लर्निंग) थोड़े धीमे चलते हैं, नए निवालों के आधार पर स्वाद को सावधानीपूर्वक परिष्कृत करते हैं।

क्योंकि वे अलग-अलग गति से चलते हैं, सिस्टम भ्रमित नहीं होता है। तेज़ मैसेंजर्स कैप्टन्स को आवश्यक जानकारी देते हैं, और कैप्टन्स शेफ को सीखने के लिए नए डेटा पॉइंट्स देते हैं।

परिणाम: "काफी करीब" पहुँचना

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह प्रणाली अविश्वसनीय रूप से अच्छी तरह से काम करती है।

गारंटी: यदि समस्या "कॉन्वेक्स" (convex) है (जिसका अर्थ है कि एक स्पष्ट सर्वोत्तम समाधान है, जैसे पर्वत श्रृंखला में एक अकेली घाटी), तो टीम एक ऐसे स्थान पर पहुँच जाएगी जो पूर्ण समाधान के बहुत करीब है।
सीमा: वे कितना करीब पहुँचते हैं, यह इस पर निर्भर करता है कि "प्रशिक्षु शेफ" (न्यूरल नेटवर्क) कितने अच्छे हैं। यदि नेटवर्क सटीक हैं, तो टीम सटीक समाधान खोज लेती है। यदि नेटवर्क केवल "काफी अच्छे" हैं, तो टीम एक ऐसा समाधान पाती है जो लग la लगभग पूर्ण है। शोध पत्र दिखाता है कि त्रुटि सीधे इन न्यूरल नेटवर्क्स की सटीकता से जुड़ी हुई है।

यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

लेखकों ने 20 एजेंटों के सिमुलेशन के साथ इसका परीक्षण किया। उन्होंने दिखाया कि:

DELTA काम करता है: टीम सफलतापूर्वक एक निकट-पूर्ण समाधान खोजने में सफल रही।
यह कुशल है: इसे प्रत्येक चरण में केवल एक "स्वाद परीक्षण" की आवश्यकता होती है, जो महत्वपूर्ण है जब परीक्षण महंगा या धीमा हो।
यह मजबूत (robust) है: यदि "रेसिपी" (वातावरण) अचानक बदल जाती है, तो टीम क्रैश नहीं होती है। प्रशिक्षु शेफ नए स्वादों को जल्दी से फिर से सीख लेते हैं, और टीम बिना दोबारा शुरू किए नए सर्वोत्तम समाधान के अनुकूल हो जाती है।

संक्षेप में, DELTA अजनबियों के एक समूह के लिए एक जटिल पहेली को मिलकर हल करने का एक चतुर तरीका है, भले ही वे एक समय में पहेली का एक छोटा सा हिस्सा ही देख सकते हों और जैसे-जैसे वे आगे बढ़ते हैं, वे नियमों को सीखते रहें।

तकनीकी सारांश: एग्रीगेटिव ट्रैकिंग और डीप-लर्निंग (DELTA) के माध्यम से डेटा-संचालित वितरित अनुकूलन

समस्या का निरूपण
यह शोध पत्र एक एग्रीगेटिव फ्रेमवर्क (aggregative framework) में वितरित अनुकूलन (distributed optimization) की चुनौती को संबोधित करता है, जहाँ एजेंटों का एक नेटवर्क मिलकर अपने स्थानीय लागत फलनों (local cost functions) के योग को न्यूनतम करने के लिए सहयोगात्मक रूप से कार्य करता है। मानक वितरित अनुकूलन के विपरीत, यहाँ प्रत्येक एजेंट की स्थानीय लागत $f_i$ न केवल उसके अपने निर्णय चर $x_i$ पर निर्भर करती है, बल्कि एक वैश्विक एग्रीगेटिव चर $\sigma(x)$ पर भी निर्भर करती है, जो स्थानीय योगदानों $\phi_i(x_i)$ के औसत के रूप में परिभाषित है।

विचार किया गया विशिष्ट परिदृश्य डेटा-संचालित और अज्ञात है:

फलन $f_i$ एजेंटों के लिए पूरी तरह से अज्ञात हैं।
एजेंट प्रति पुनरावृत्ति (iteration) में अपने स्थानीय लागत का केवल एक फीडबैक नमूना (एक "1-पॉइंट" मूल्यांकन) प्राप्त कर सकते हैं, जो कि एक चुने हुए बिंदु $(u_{x,i}, u_{\sigma,i})$ पर होता है।
वैश्विक मात्राएँ (एग्रीगेटिव चर $\sigma(x)$ और उसके सापेक्ष वैश्विक लागत का व्युत्पन्न/डेरिवेटिव) स्थानीय स्तर पर उपलब्ध नहीं हैं।

यह सेटअप सहकारी रोबोटिक्स और व्यक्तिगत अनुकूलन (personalized optimization) जैसे अनुप्रयोगों से प्रेरित है, जहाँ लागत फलन उन भौतिक बाधाओं या उपयोगकर्ता की असंतुष्टि का प्रतिनिधित्व कर सकते हैं जिन्हें विश्लेmetic रूप से मॉडल करना कठिन है, लेकिन सेंसर या उपयोगकर्ता फीडबैक के माध्यम से नमूना लिया जा सकता है।

कार्यप्रणाली: DELTA एल्गोरिदम
लेखक DELTA (DEep-Learning aggregative TrAcking) प्रस्तावित करते हैं, जो एक वितरित एल्गोरिदम है जो एक ही टाइमस्केल पर संचालित होता है और तीन समवर्ती घटकों को एकीकृत करता है:

लर्निंग-ओरिएंटेड मॉड्यूल (सीखने-उन्मुख मॉड्यूल):
- प्रत्येक एजेंट $i$ अज्ञात लागत फलन $f_i$ और उसके ग्रेडिएंट्स (gradients) को अनुमानित करने के लिए एक स्थानीय न्यूरल नेटवर्क (NN) $\hat{f}_i(\cdot, \theta_i)$ का उपयोग करता है।
- अनुकूलन चरणों के बीच नेटवर्क को अभिसरण (convergence) तक प्रशिक्षित करने के बजाय (जो गणनात्मक रूप से महंगा है और कई नमूनों की आवश्यकता होती है), NN को प्रत्येक पुनरावृत्ति में प्राप्त एकल लागत नमूने का उपयोग करके सिंगल-स्टेप ग्रेडिएंट डिसेंट के माध्यम से अपडेट किया जाता है।
- सीखने के लिए निरंतर उत्तेजना (persistent excitation) सुनिश्चित करने हेतु, एल्गोरिदम सैंपलिंग बिंदुओं में डिदर सिग्नल (dither signals) $d_{x,i}, d_{\sigma,i}$ इंजेक्ट करता है।
- NN डिसेंट दिशा (descent direction) का अनुमान लगाता है, जो स्पष्ट ग्रेडिएंट ज्ञान की आवश्यकता को प्रभावी रूप से प्रतिस्थापित करता है।
ऑप्टिमाइज़ेशन-ओरिएंटेड रूटीन (अनुकूलन-उन्मुख प्रक्रिया):
- एजेंट अपने स्थानीय NNs द्वारा प्रदान किए गए अनुमानित ग्रेडिएंट्स का उपयोग करके एक वितरित ग्रेडिएंट-समान अपडेट करते हैं।
- अपडेट नियम स्थानीय ग्रेडिएंट अनुमान $\nabla_1 \hat{f}_i$ को एग्रीगेशन फंक्शन के व्युत्पन्न $\nabla \phi_i$ और अनुमानित वैश्विक ग्रेडिएंट घटक के साथ जोड़ता है।
ट्रैकिंग-ओरिएंटेड मैकेनिज्म (ट्रैकिंग-उन्मुख तंत्र):
- चूँकि वैश्विक मात्राएँ $\sigma(x)$ और स्थानीय ग्रेडिएंट डेरिवेटिव्स का योग उपलब्ध नहीं हैं, इसलिए एजेंट सहायक चरों ( $w_i$ और $z_i$ ) को बनाए रखते हैं।
- इन चरों को परटर्ब्ड कंसेंसस डायनेमिक्स (perturbed consensus dynamics) (एक डबली स्टोकेस्टिक एडजेसेंसी मैट्रिक्स का उपयोग करके) के माध्यम से अपडेट किया जाता है ताकि लुप्त वैश्विक एग्रीगेटिव चर और वैश्विक ग्रेडिएंट घटक को स्थानीय रूप से पुनर्गठित किया जा सके।

सैद्धांतिक विश्लेषण और परिणाम
DELTA की स्थिरता और अभिसरण का विश्लेषण सिस्टम थ्योरी के उपकरणों, विशेष रूप से टाइमस्केल सेपरेशन (timescale separation) और डिस्क्रीट-टाइम एवरेजिंग थ्योरी का उपयोग करके किया गया है। विश्लेषण एल्गोरिदम को एक समय-परिवर्तनीय टू-टाइम-स्केल सिस्टम के रूप में मानता है, जो तेज़ डायनेमिक्स (ट्रैकिंग और लर्निंग) को धीमे डायनेमिक्स (अनुकूलन) से अलग करता है।

अभिसरण गारंटी: वैश्विक लागत की स्ट्रॉन्ग कॉन्वेक्सिटी (strong convexity) और फलनों एवं उनके अनुमानों की लिप्सचिट्ज़ निरंतरता (Lipschitz continuity) की धारणाओं के तहत, लेखक सिद्ध करते हैं कि एल्गोरिदम इष्टतम समाधान $x^*$ के एक पड़ोस (neighborhood) में रैखिक रूप से अभिसरित (linearly converges) होता है।
त्रुटि सीमा (Error Bound): इस पड़ोस की त्रिज्या स्पष्ट रूप से पैरामीटर $\epsilon$ पर निर्भर है, जो न्यूरल नेटवर्क के पुनर्गठन त्रुटि (reconstruction error) का अधिकतम मान है (अर्थात, अभिसरण पर NN अनुमान की सटीकता)।
आदर्श स्थिति: उस सैद्धांतिक सीमा में जहाँ न्यूरल नेटवर्क पूर्ण अनुमान ( $\epsilon = 0$ ) प्राप्त करते हैं, एल्गोरिदम सटीक रूप से इष्टतम समाधान की ओर अभिसरित होता है।
मजबूती (Robustness): डिज़ाइन यह अनुमति देता है कि एल्गोरिदम प्रशिक्षण या ट्रैकिंग प्रक्रियाओं को पूरी तरह से पुनरारंभ किए बिना समय-परिवर्तनीय लागत फलनों या विक्षोभों (disturbances) के अनुकूल हो सके।

प्रमुख योगदान

नवीन एकीकरण: यह शोध पत्र एक नवीन योजना प्रस्तुत करता है जो न्यूरल नेटवर्क लर्निंग को वितरित एग्रीगेटिव ऑप्टिमाइज़ेशन और ग्रेडिएंट ट्रैकिंग के साथ जोड़ता है, जो विशेष रूप से प्रति पुनरावृत्ति एकल-बिंदु लागत मूल्यांकन वाले परिदृश्यों के लिए तैयार किया गया है।
1-पॉइंट सीमाओं पर विजय: मानक ज़ीरो-ऑर्डर 1-पॉइंट विधियाँ अक्सर खराब अभिसरण दर या उच्च विचरण (variance) से ग्रस्त होती हैं। DELTA एक गतिशील लर्निंग रणनीति (NNs) को शामिल करके इस समस्या को हल करता है जो प्रति पुनरावृत्ति लागत मूल्यांकन की संख्या को बढ़ाए बिना समय के साथ डिसेंट दिशा को सीखता है।
कठोर अभिसरण प्रमाण: लेखक इष्टतम के एक पड़ोस में रैखिक अभिसरण के लिए एक औपचारिक प्रमाण प्रदान करते हैं, जो न्यूरल नेटवर्क की अनुमान सटीकता और अंतिम अनुकूलन त्रुटि के बीच के ट्रेड-ऑफ को स्पष्ट रूप से परिभाषित करता है।
अज्ञात वातावरण को संभालना: फ्रेमवर्क को पूरी तरह से अज्ञात लागत फलनों के लिए डिज़ाइन किया गया है, जो इसे पूर्ववर्ती कार्यों से अलग करता है जहाँ लागत फलन के कुछ हिस्से ज्ञात थे या प्रति पुनरावृत्ति कई नमूनों की आवश्यकता थी।

महत्व और दावे
शोध पत्र दावा करता है कि DELTA अज्ञात या गैर-स्थिर वातावरण (जैसे मानव-रोबोट सहयोग) में व्यक्तिगत अनुकूलन और सहकारी नियंत्रण के लिए एक व्यावहारिक समाधान प्रदान करता है। लर्निंग, ऑप्टिमाइज़ेशन और ट्रैकिंग के बीच तालमेल का लाभ उठाकर, एल्गोरिदम लागत फलनों में होने वाले परिवर्तनों के अनुकूल हो जाता है।

लेखक उल्लेख करते हैं कि इस कार्य का एक प्रारंभिक संस्करण बहु-नमना (multiple samples) और पूर्ण NN प्रशिक्षण वाले समय-परिवर्तनीय सेटिंग्स के लिए मौजूद था, लेकिन वर्तमान योगदान तकनीकी रूप से अधिक चुनौतीपूर्ण है: यह प्रति पुनरावृत्ति एकल नमूने और सिंगल-स्टेप NN ट्रेनिंग के साथ काम करता है, जिसके लिए लर्निंग डायनेमिक्स विश्लेषण को ऑप्टिमाइज़ेशन और कंसेंसस डायनेमिक्स के साथ अधिक जटिल एकीकरण की आवश्यकता होती है। 20-एजेंट नेटवर्क पर संख्यात्मक सिमुलेशन (numerical simulations) सैद्धांतिक परिणामों की पुष्टि करते हैं, जो इष्टतम पड़ोस में अभिसरण और स्थानीय लागत फलनों में अचानक परिवर्तनों के प्रति मजबूती प्रदर्शित करते हैं।