A Survey on Decentralized Federated Learning
यह सर्वेक्षण 2018 से लेकर 2026 की शुरुआत तक के विकेंद्रीकृत फेडेरेटेड लर्निंग (decentralized federated learning) विधियों की व्यवस्थित रूप से समीक्षा करता है, उन्हें पारंपरिक वितरित और ब्लॉकचेन-आधारित आर्किटेक्चर में वर्गीकृत करता है, एक एकीकृत चुनौती-संचालित वर्गीकरण (challenge-driven taxonomy) प्रस्तावित करता है, और समन्वयक-मुक्त (coordinator-free) परिवेशों में सुरक्षा, गोपनीयता और सिस्टम-स्तरीय समझौतों को संबोधित करने के लिए भविष्य की अनुसंधान दिशाओं को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अत्यंत बुद्धिमान रोबोट को बिल्लियों को पहचानना सिखाने की कोशिश कर रहे हैं, लेकिन आपके साथ एक समस्या है: आप रोबोट को वास्तविक तस्वीरें नहीं दिखा सकते।
क्यों? क्योंकि वे तस्वीरें निजी हैं। वे आपके फोन पर, आपके पड़ोसी के लैपटॉप पर, और आपके दोस्त के टैबलेट पर हैं। कानून (जैसे GDPR) और गोपनीयता संबंधी चिंताएं कहती हैं, "उन तस्वीरों को एक केंद्रीय कंप्यूटर पर न ले जाएं।"
पुराना तरीका: "कक्षा" मॉडल (स्टैंडर्ड फेडरेटेड लर्निंग)
पारंपरिक पद्धति में, जिसे फेडरेटेड लर्निंग (FL) कहा जाता है, कल्पना कीजिए कि एक शिक्षक (केंद्रीय सर्वर) कक्षा के सामने खड़ा है।
- शिक्षक हर छात्र को एक खाली नोटबुक भेजता है।
- प्रत्येक छात्र अपनी मेज पर अपनी निजी तस्वीरों का अध्ययन करता है।
- वे लिखते हैं कि उन्होंने क्या सीखा (तस्वीरें नहीं, बल्कि जो सीखा उसे) और इसे शिक्षक को वापस सौंप देते हैं।
- शिक्षक उन सभी नोट्स को मिलाकर एक "मास्टर नोटबुक" बनाता है और उसे वापस बाहर भेज देता है।
समस्या: शिक्षक एक एकल विफलता बिंदु (single point of failure) है। यदि शिक्षक बीमार हो जाता है, तो कक्षा रुक जाती है। साथ ही, शिक्षक सभी के नोट्स देखता है, इसलिए यदि शिक्षक एक जासूस है या उसे हैक कर लिया जाता है, तो सभी की गोपनीयता खतरे में पड़ जाती है। इसके अलावा, यदि 1,000 छात्र एक साथ शिक्षक से बात करने की कोशिश करते हैं, तो शिक्षक पर बोझ बढ़ जाता है।
नया तरीका: "पोटलक" मॉडल (डिसेंट्रलाइज्ड फेडरेटेड लर्निंग - DFL)
यह शोध पत्र एक नए विचार पर एक व्यापक समीक्षा है: क्या होगा अगर हम शिक्षक को पूरी तरह से हटा दें?
डिसेंट्रलाइज्ड फेडरेटेड लर्निंग (DFL) में, कोई मुख्य शिक्षक नहीं है। इसके बजाय, छात्र एक घेरे (या एक जटिल जाल) में बैठते हैं और केवल अपने पड़ोसियों से बात करते हैं।
- आप अपनी तस्वीरों का अध्ययन करते हैं।
- आप जो सीखा है, उसे अपने बगल में बैठे व्यक्ति को फुसफुसाकर बताते हैं।
- वे आपके नोट्स को अपने नोट्स के साथ मिलाते हैं और परिणाम अपने पड़ोसी को फुसफुसाते हैं।
- ज्ञान पूरे कमरे में लहरों की तरह फैलता है जब तक कि हर किसी को यह समझ न आ जाए कि एक बिल्ली कैसी दिखती है।
यह शोध पत्र एक सर्वेक्षण (एक विशाल मानचित्र) है कि कैसे विभिन्न तरीकों से शोधकर्ताओं ने 2018 से लेकर 2026 की शुरुआत तक इस "शिक्षक-रहित" प्रणाली को बनाने की कोशिश की है।
दो मुख्य विचारधाराएं
लेखकों ने पाया कि शोधकर्ता इस "पोटलक" समस्या को दो बहुत अलग तरीकों से हल करने की कोशिश कर रहे हैं:
1. "नेबरहुड वॉच" दृष्टिकोण (पारंपरिक डिस्ट्रिब्यूटेड FL)
यह समूह मानक कंप्यूटर नेटवर्किंग युक्तियों का उपयोग करता है। वे उपकरणों के साथ एक दोस्तों के समूह की तरह व्यवहार करते हैं जो आपस में नोट्स पास कर रहे हैं।
- यह कैसे काम करता है: उपकरण सीधे एक-दूसरे से बात करते हैं। यदि एक दोस्त कमरे से चला जाता है (डिस्कनेक्ट हो जाता है), तो अन्य लोग शेष दोस्तों के साथ बात करते हैं।
- अच्छी बात: यह तेज़, हल्का और किफायती है। इसमें महंगी तकनीक की आवश्यकता नहीं होती।
- बुरी बात: यह अव्यवस्थित हो सकता है। यदि समूह बहुत बड़ा है, तो नोट्स पास करने में बहुत समय लगता है। यदि एक दोस्त झूठ बोल रहा है (एक हैकर), तो वह पूरे समूह के नोट्स को खराब (poison) कर सकता है।
2. "डिजिटल लेजर" दृष्टिकोण (ब्लॉकचेन-आधारित FL)
यह समूह ब्लॉकचेन (वही तकनीक जो बिटकॉइन के पीछे है) का उपयोग एक सार्वजनिक, अपरिवर्तनीय रिकॉर्ड बुक के रूप में करने के लिए करता है।
- यह कैसे काम करता है: हर बार जब कोई कुछ सीखता है, तो वे इसे एक सार्वजनिक लेजर में लिखते हैं जिसे सभी देख सकते हैं लेकिन कोई मिटा नहीं सकता। यह एक "ट्रस्टलेस" (विश्वास-मुक्त) प्रणाली की तरह है जहाँ आपको अपने पड़ोसी पर भरोसा करने की आवश्यकता नहीं है; आप केवल लेजर के गणित पर भरोसा करते हैं।
- अच्छी बात: यह बहुत सुरक्षित और पारदर्शी है। आप साबित कर सकते हैं कि किसने क्या योगदान दिया।
- बुरी बात: यह धीमा और महंगा है। सार्वजनिक लेजर में लिखने के लिए बहुत अधिक ऊर्जा और समय लगता है। लेखकों ने गौर किया कि जबकि कुछ साल पहले यह लोकप्रिय था, शोधकर्ता इससे दूर जा रहे हैं क्योंकि यह अक्सर काम के लिए बहुत भारी होता है।
बड़ी बाधाएं (चुनौतियां)
शोध पत्र बताता है कि शिक्षक को हटाने से नई समस्याएं पैदा होती हैं:
"इको चैंबर" की समस्या (डेटा विषमता/Heterogeneity):
कल्पना कीजिए कि एक छात्र केवल काली बिल्लियों की तस्वीरें देखता है और दूसरा केवल नारंगी बिल्लियों की। यदि वे केवल एक-दूसरे से बात करते हैं, तो वे दोनों यह सोच सकते हैं कि "सभी बिल्लियाँ नारंगी हैं" या "सभी बिल्लियाँ काली हैं।" एक विकेंद्रीकृत प्रणाली में, यह सुनिश्चित करना कठिन है कि बिना किसी शिक्षक के संतुलन बनाए, सभी एक "असली" बिल्ली पर सहमत हों।"भीड़ में झूठा" की समस्या (सुरक्षा):
एक कक्षा में, शिक्षक नकल करने वाले छात्र को पकड़ सकता है। दोस्तों के घेरे में, एक दुर्भावनापूर्ण पड़ोसी सभी को गलत नोट्स फुसफुसा सकता है। यदि वे पर्याप्त चतुर हैं, तो वे पूरे समूह को गलत चीज़ सीखने के लिए धोखा दे सकते हैं।"फ्री राइडर" की समस्या (प्रोत्साहन):
आपका फोन समूह के लिए सीखने के लिए कड़ी मेहनत क्यों करे यदि इससे आपकी बैटरी खत्म होती है? पुराने सिस्टम में, गूगल आपको बेहतर कीबोर्ड के रूप में इनाम दे सकता है। नए सिस्टम में, आपको कौन भुगतान करेगा? शोध पत्र नोट करता है कि हमारे पास बिना किसी केंद्रीय बॉस के लोगों को निष्पक्ष रूप से पुरस्कृत करने का कोई अच्छा उत्तर नहीं है।"ट्रैफिक जाम" की समस्या (बैंडविड्थ):
यदि हर कोई हर किसी से बात करता है, तो नेटवर्क जाम हो जाता है। यह एक पार्टी की तरह है जहाँ हर कोई एक साथ चिल्ला रहा है। शोधकर्ता यह पता लगाने की कोशिश कर रहे हैं कि कुशलतापूर्वक कैसे फुसफुसाया जाए ताकि संदेश पूरे कमरे के फटने से पहले पहुँच जाए।
आगे क्या? (भविष्य)
लेखक निष्कर्ष निकालते हैं कि हालांकि हमने बड़ी प्रगति की है, हमें अभी भी यह तय करने की आवश्यकता है कि:
- बेहतर सुरक्षा: हम उन हैकर्स को कैसे रोकें जो सिस्टम को धोखा देने की कोशिश कर रहे हैं, खासकर जब उन्हें पकड़ने के लिए कोई शिक्षक नहीं है?
- निष्पक्ष पुरस्कार: हम यह कैसे सुनिश्चित करें कि लोग भाग लेना चाहें, बिना किसी बॉस के निर्देश के?
- वास्तविक दुनिया की अराजकता: अधिकांश परीक्षण आदर्श प्रयोगशालाओं में किए जाते हैं। हमें यह देखने की आवश्यकता है कि यह तब कैसे काम करता है जब फोन बंद हो जाते हैं, इंटरनेट कनेक्शन टूट जाता है, और लोग इधर-उधर घूमते हैं (जैसे कि एक शहर में)।
सार (Bottom Line)
यह शोध पत्र एआई (AI) के भविष्य के लिए एक मार्गदर्शिका है। यह हमें बताता है कि जबकि "बिग ब्रदर" सर्वर को हटाना गोपनीयता और विश्वसनीयता के लिए एक शानदार विचार है, यह एक सरल कक्षा के पाठ को एक जटिल, अराजक और दिलचस्प "टेलीफोन गेम" में बदल देता है जिसे हम अभी भी पूरी तरह से खेलना सीख रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।