Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
यह शोध पत्र DFL-C प्रस्तुत करता है, जो एक नवीन बायज़ेंटाइन-लचीला (Byzantine-resilient) विकेंद्रीकृत फेडरेटेड लर्निंग आर्किटेक्चर है, जो एक एसिंक्रोनस कॉमन सबसेट कंसेंसस प्रोटोकॉल को ड्यूल-डोमेन ट्रस्ट स्कोरिंग मैकेनिज्म के साथ एकीकृत करके वैश्विक मॉडल निरंतरता और पॉइजनिंग हमलों के विरुद्ध मजबूती सुनिश्चित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि स्वायत्त रोबोटों, ड्रोन या सेंसरों का एक समूह एक दूरस्थ, खतरनाक या विच्छिन्न वातावरण में मिलकर काम कर रहा है। उन्हें एक साझा कौशल सीखना होगा, जैसे कि किसी विशिष्ट प्रकार के दुश्मन को पहचानना या एक सुरक्षित रास्ता ढूंढना, लेकिन वे इस बात पर निर्भर नहीं रह सकते कि कोई केंद्रीय कंप्यूटर उन्हें क्या करना है यह बताए। यह विकेंद्रीकृत शिक्षण (decentralized learning) की दुनिया है, जहाँ मशीनें सीधे एक-दूसरे को सिखाती हैं। एक आदर्श दुनिया में, प्रत्येक मशीन एक ही समय में एक ही सबक सीख लेगी, जिससे अंततः उनके पास एक समान मस्तिष्क होगा। हालाँकि, वायरलेस नेटवर्क की अव्यवस्त वास्तविकता में, संदेशों में देरी होती है, कनेक्शन टूट जाते हैं, और कभी-कभी, कोई मशीन खराब हो सकती है या यहाँ तक कि दुर्भावनापूर्ण भी हो सकती है, जो समूह को भ्रमित करने के लिए अपने विभिन्न पड़ोसियों को परस्पर विरोधी जानकारी भेजती है। जब ऐसा होता है, तो मशीनें इस बात पर सहमत होना बंद कर देती हैं कि वे क्या जानती हैं, और उनका सामूहिक मिशन विफल हो सकता है।
शोधकर्ताओं ने इन विकेंद्रीकृत समूहों को एक ही पृष्ठ पर रखने का तरीका खोजने की लंबे समय से कोशिश की है, भले ही उनमें से कुछ अविश्वसनीय हों या नेटवर्क अराजक हो। एक नया अध्ययन पेश करता है जिसे DFL-C कहा जाता है, जिसे ठीक इसी समस्या को हल करने के लिए डिज़ाइन किया गया है। शोधकर्ताओं ने एक ऐसी विधि बनाई है जो स्वतंत्र मशीनों के एक नेटवर्क को एक साझा कृत्रिम बुद्धिमत्ता मॉडल को प्रशिक्षित करने की अनुमति देती है और यह गारंटी देती है कि प्रत्येक ईमानदार मशीन के पास उसी मॉडल का बिल्कुल समान संस्करण होगा। महत्वपूर्ण रूप से, यह प्रणाली तब भी काम करती है जब कुछ मशीनें अलग-अलग पड़ोसियों को अलग-अलग झूठ भेजकर समूह को धोखा देने की कोशिश करती हैं, या जब नेटवर्क इतना धीमा और अप्रत्याशित होता है कि मशीनें अपना काम अलग-अलग समय पर पूरा करती हैं।
मुख्य चुनौती जिसका शोधकर्ताओं ने सामना किया, वह है "इक्विवोकेशन" (equivocation) नामक घटना। एक मानक विकेंद्रीकृत नेटवर्क में, एक बेईमान मशीन अपने बाईं ओर के पड़ोसी को एक संस्करण और अपने दाईं ओर के पड़ोसी को पूरी तरह से अलग संस्करण भेज सकती है। क्योंकि प्रत्येक मशीन केवल अपने निकटतम पड़ोसियों से बात करती है, इसलिए यह पता लगाना बहुत कठिन होता है कि मशीन झूठ बोल रही है। इससे एक ऐसी स्थिति पैदा होती है जहाँ समूह विभाजित हो जाता है, और विभिन्न मशीनें अलग-अलग बातें मानने लगती हैं। इसे ठीक करने के लिए, टीम ने एक सहमति प्रोटोकॉल (consensus protocol), जो एक औपचारिक समझौता प्रक्रिया है, को लर्निंग वर्कफ़्लो में एकीकृत किया है। इससे पहले कि मशीनें अपने नए ज्ञान को संयोजित करें, वे यह सुनिश्चित करने के लिए एक जाँच चलाते हैं कि हर कोई इस बात पर सहमत है कि कौन सी जानकारी वैध है। यह प्रक्रिया दुर्भावनापूर्ण मशीनों के परस्पर विरोधी संदेशों को फ़िल्टर करती है, यह सुनिश्चित करती है कि समूह केवल सूचनाओं के एक एकल, एकीकृत सेट के साथ आगे बढ़े।
केवल यह तय करने के परे कि क्या सीखना है, सिस्टम को यह भी तय करने की आवश्यकता है कि प्रत्येक मशीन के योगदान पर कितना भरोसा किया जाए। शोधकर्ताओं ने एक 'डुअल-डोमेन स्कोरिंग' पद्धति विकसित की है जो एक प्रतिष्ठा प्रणाली (reputation system) की तरह कार्य करती है। यह दो चीजों पर नज़र रखती है: समझौता प्रक्रिया के दौरान एक मशीन कैसा व्यवहार करती है और उसके द्वारा प्रदान किए गए डेटा की गुणवत्ता कैसी है। यदि कोई मशीन इक्विवोकेशन (दोहरा व्यवहार) करने की कोशिश करती है, तो सिस्टम उसे तुरंत पकड़ लेता है और उसका विश्वास स्कोर कम कर देता है। यदि कोई मशीन ऐसा डेटा भेजती है जो समूह के बाकी हिस्सों की तुलना में अजीब या अस्थिर दिखता है, तो उसका स्कोर भी गिर जाता है। यह स्कोर फिर यह निर्धारित करता है कि उस मशीन का सबक अंतिम मॉडल में कितना भार रखेगा। इस ट्रस्ट स्कोरिंग को समझौता प्रोटोकॉल के साथ जोड़कर, सिस्टम बिना किसी केंद्रीय नेता की सहायता के, स्वचालित रूप से बुरे तत्वों को अनदेखा कर सकता है और विश्वसनीय डेटा पर ध्यान केंद्रित कर सकता है।
टीम ने तेरह मशीनों तक के नेटवर्क वाले सिमुलेशन में मानक इमेज-रिकग्निशन कार्यों का उपयोग करके इस नए आर्किटेक्चर का परीक्षण किया। उन्होंने अपने सिस्टम को मौजूदा तरीकों के विरुद्ध खड़ा किया जो साझा मॉडल की गारंटी नहीं देते हैं। परिणामों ने दिखाया कि जहाँ पुराने तरीके हमलों के दौरान अलग-अलग मशीनों के लिए अलग-अलग मॉडल उत्पन्न करते थे, वहीं नया सिस्टम प्रत्येक ईमानदार मशीन को पूरी तरह से सिंक्रोनाइज़ रखता है। उन परिदृश्यों में जहाँ मशीनों को अलग-अलग प्रकार का डेटा दिया गया था, जो वास्तविक दुनिया के तैनाती में एक सामान्य समस्या है, नए सिस्टम ने अपने प्रतिस्पर्धियों की तुलना में उच्च सटीकता बनाए रखी। यह विशिष्ट प्रकार के हमलों के प्रति भी लचीला साबित हुआ, जैसे कि "बैकडोर" ट्रिक्स जहाँ एक दुर्भावनापूर्ण मशीन समूह को एक विशिष्ट ट्रिगर (जैसे कि एक छिपा हुआ स्टिकर) को एक अलग वस्तु के रूप में पहचानने के लिए मजबूर करने की कोशिश करती है। सिस्टम ने इन हमलों को सफलतापूर्वक दबा दिया, जिससे समूह के निर्णय सुरक्षित और एकसमान रहे।
इस डिज़ाइन का सबसे व्यावहारिक पहलू यह है कि यह वास्तविक नेटवर्क में होने वाली अनिवार्य देरी को कैसे संभालता है। कई प्रणालियों में, तेज़ मशीनों को सबसे धीमी मशीन के समाप्त होने तक प्रतीक्षा करने के लिए खाली बैठना पड़ता है, जिससे समय और बैटरी शक्ति बर्बाद होती है। शोधकर्ताओं ने एक स्मार्ट 'वेटिंग पॉलिसी' जोड़ी है जो समूह को सबसे धीमे आउटलायर के बजाय बहुमत की गति के आधार पर एक प्रारंभ समय पर सहमत होने की अनुमति देती है। इसका मतलब है कि तेज़ मशीनें प्रतीक्षा करने में कम समय और काम करने या ऊर्जा बचाने में अधिक समय बिता सकती हैं। परीक्षणों ने दिखाया कि यह दृष्टिकोण काफी मात्रा में खाली समय (idle time) को बचाता है, विशेष रूप से जब मशीनों की गति बहुत भिन्न होती है। हालांकि समझौता प्रक्रिया प्रत्येक लर्निंग राउंड में थोड़ा समय जोड़ती है, शोधकर्ताओं ने पाया कि यह लागत मॉडलों को वास्तव में प्रशिक्षित करने में लगने वाले समय की तुलना में न्यूनतम थी, जिससे यह सुरक्षा और निरंतरता के लिए एक सार्थक ट्रेड-ऑफ बन गया।
यह अध्ययन प्रदर्शित करता है कि एक ऐसा विकेंद्रीकृत लर्निंग नेटवर्क बनाना संभव है जो दुर्भावनापूर्ण तत्वों के खिलाफ मजबूत और उसके आउटपुट में पूरी तरह से सुसंगत हो। यह उन अनुप्रयोगों के लिए एक महत्वपूर्ण कदम है जहाँ सुरक्षा सर्वोपरि है, जैसे कि जीवित बचे लोगों की तलाश करने वाले ड्रोन के झुंड या आपदा क्षेत्र में समन्वय करने वाले स्वायत्त वाहन। ऐसी स्थितियों में, दो रोबोटों का एक ही खतरे के बारे में अलग-अलग निर्णय लेना विनाशकारी हो सकता है। प्रत्येक मशीन को एक ही वास्तविकता देखने का आश्वासन देकर, शोधकर्ताओं ने अधिक विश्वसनीय, सहयोगात्मक कृत्रिम बुद्धिमत्ता के लिए एक आधार प्रदान किया है जो धोखे और अराजकता के बीच भी बिना किसी केंद्रीय कमांड के काम कर सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।