🤖 machine learning

Byzantine-Robust Federated Learning with Learnable Aggregation Weights

यह शोध पत्र एक नवीन बायज़ेंटाइन-रोबस्ट (Byzantine-robust) फेडरेटेड लर्निंग फ्रेमवर्क का प्रस्ताव करता है जो एक अल्टरनेटिंग मिनिमाइजेशन एल्गोरिदम के माध्यम से ग्लोबल मॉडल के साथ संयुक्त रूप से अनुकूलित किए जाने वाले सीखने योग्य मापदंडों के रूप में एग्रीगेशन वेट्स (aggregation weights) को मानता है, जो विषम डेटा परिवेशों में अत्याधुनिक तरीकों की तुलना में दुर्भावनापूर्ण क्लाइंट्स के विरुद्ध बेहतर लचीलापन प्रदर्शित करता है।

मूल लेखक: Javad Parsa, Amir Hossein Daghestani, André M. H. Teixeira, Mikael Johansson

प्रकाशित 2026-05-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Javad Parsa, Amir Hossein Daghestani, André M. H. Teixeira, Mikael Johansson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि छात्रों का एक समूह (क्लाइंट्स) मिलकर एक कठिन पहेली को हल करने की कोशिश कर रहा है ताकि एक एकल, आदर्श समाधान (ग्लोबल मॉडल) बनाया जा सके। वे अपने व्यक्तिगत पहेली के टुकड़ों को साझा नहीं कर सकते क्योंकि वे निजी हैं, इसलिए वे अपने विचारों को एक शिक्षक (सर्वर) को भेजते हैं कि समाधान को कैसे सुधारा जाए। शिक्षक फिर इन विचारों को मिलाकर मास्टर समाधान को अपडेट करता है और अगले दौर के लिए इसे वापस भेज देता है। यह फेडरेटेड लर्निंग (Federated Learning) है।

हालाँकि, एक समस्या है: कुछ छात्र बाइज़ेंटाइन क्लाइंट्स (Byzantine clients) हैं (दुर्भावनापूर्ण अभिनेता)। वे पहेली को हल करने की कोशिश नहीं कर रहे हैं; वे केवल बाधा डालने की कोशिश कर रहे हैं। वे नकली विचार भेज सकते हैं, अपनी प्रगति के बारे में झूठ बोल सकते हैं, या समाधान को पूरी तरह से गलत दिशा में मोड़ने की कोशिश कर सकते हैं।

पुराना तरीका: "एक ही आकार के लिए उपयुक्त" फ़िल्टर (The "One-Size-Fits-All" Filter)

पारंपरिक रूप से, जब शिक्षक को ये विचार प्राप्त होते हैं, तो वे झूठ बोलने वालों को पहचानने की कोशिश करते हैं। यदि उन्हें लगता है कि कोई छात्र झूठ बोल रहा है, तो वे उस छात्र के विचार को कचरे में फेंक देते हैं। शेष "अच्छे" छात्रों के लिए, शिक्षक सभी के साथ बिल्कुल एक जैसा व्यवहार करता है: "आप सभी को समान वोट मिलेगा।"

दोष: यह एक ऐसी कक्षा की तरह है जहाँ शिक्षक बुली (परेशान करने वाले) को तो अनदेखा कर देता है लेकिन फिर बाकी बचे हुए प्रत्येक छात्र को, चाहे वे कितना भी जानते हों, समान श्रेय देता है। यदि "अच्छे" छात्रों की पृष्ठभूमि बहुत भिन्न है (कुछ गणित जानते हैं, कुछ कला), तो उन्हें समान महत्व देने से समाधान अभी भी अव्यवस्थित और असंतुलित हो सकता है। पेपर का तर्क है कि एक विविध समूह में, केवल खराब सेबों को हटा देना ही पर्याप्त नहीं है; आपको यह भी पता लगाने की आवश्यकता है कि प्रत्येक अच्छे सेब की कितनी गिनती होनी चाहिए।

नया समाधान: FedLAW (एक "स्मार्ट वोटिंग" प्रणाली)

लेखक FedLAW (लर्नबल एग्रीगेशन वेट्स के साथ फेडरेटेड लर्निंग) नामक एक नई विधि प्रस्तावित करते हैं। केवल यह तय करने के बजाय कि किसे विश्वास करना है, यह प्रणाली यह सीखती है कि प्रत्येक पर कितना विश्वास करना है, जिससे प्रत्येक छात्र की "मतदान शक्ति" गतिशील रूप से बदल जाती है।

यह इस प्रकार काम करता है, एक रचनात्मक उपमा का उपयोग करते हुए:

1. "वेट" (Weight) एक सीखने योग्य कौशल है

पुराने सिस्टम में, मतदान भार (weights) निश्चित थे (जैसे कि एक पूर्व-मुद्रित मतपत्र)। FedLAW में, मतदान भार सीखने योग्य पैरामीटर (learnable parameters) हैं। इसे ऐसे समझें जैसे कि शिक्षक भी समूह के साथ मिलकर सीखने वाला एक छात्र है। शिक्षक साथ-साथ यह भी सीख रहा है:

समाधान: पहेली को कैसे हल किया जाए (मॉडल पैरामीटर्स)।
ट्रस्ट स्कोर (विश्वास स्कोर): प्रत्येक छात्र के इनपुट पर कितना भरोसा किया जाए (एग्रीगेशन वेट्स)।

शिक्षक पूछता है: "यदि मैं छात्र A को उच्च वोट देता हूँ, तो क्या समाधान बेहतर होता है या बदतर? यदि मैं छात्र B को कम वोट देता हूँ, तो क्या इससे मदद मिलती है?" सिस्टम त्रुटियों को कम करने के लिए इन वोटों को स्वचालित रूप से समायोजित करता है।

2. "अल्टरनेटिंग" नृत्य (The "Alternating" Dance)

पेपर एक अल्टरनेटिंग मिनिमाइजेशन (alternating minimization) एल्गोरिदम का वर्णन करता है। कल्पना कीजिए कि एक नृत्य है जिसमें दो चरण दोहराए जाते हैं:

चरण 1 (मॉडल चरण): शिक्षक वर्तमान ट्रस्ट स्कोर लेता है और पहेली के समाधान को अपडेट करता है।
चरण 2 (वेट चरण): शिक्षक नए समाधान को देखता है और पूछता है, "हमें यहाँ तक पहुँचने में किसने मदद की? किसने हमें नीचे खींचा?" इसके आधार पर, शिक्षक ट्रस्ट स्कोर (वेट्स) को अपडेट करता है। यदि किसी छात्र का विचार लगातार खराब परिणाम की ओर ले जाता है, तो उसका वेट गिर जाता है। यदि वे बेहतर परिणाम की ओर ले जाते हैं, तो उनका वेट बढ़ जाता है।

यह बार-बार होता है। सिस्टम दुर्भावनापूर्ण छात्रों को केवल एक विशिष्ट "बुरे" पैटर्न को देखकर नहीं पहचानता, बल्कि यह देखकर पहचानता है कि किसके विचार लगातार समूह के लक्ष्य को सुधारने में विफल रहते हैं।

3. "स्पार्सिटी" नियम (शून्य-वोट)

दुर्भावनापूर्ण छात्रों को संभालने के लिए, सिस्टम में एक नियम है जिसे स्पार्सिटी (sparsity) कहा जाता है। यह कहता है: "हम केवल शीर्ष N सबसे सहायक आवाजों को रखेंगे। बाकी सबको शून्य का वोट मिलेगा।"
यदि 100 छात्र हैं और 10 संदिग्ध दुर्भावनापूर्ण छात्र हैं, तो सिस्टम स्वचालित रूप से उनके वेट को शून्य पर सेट कर देता है। यह उन्हें प्रभावी रूप से चुप करा देता है बिना यह जाने कि वे वास्तव में कौन हैं। यह बस इतना जानता है कि वे मदद नहीं कर रहे हैं।

यह क्यों मायने रखता है (पेपर के अनुसार)

पेपर का दावा है कि यह दृष्टिकोण श्रेष्ठ है क्योंकि:

यह विविधता के अनुकूल है: वास्तविक जीवन में, डेटा "विषम" (heterogeneous) होता है (अलग-अलग छात्रों के पास अलग-अलग प्रकार का ज्ञान होता है)। पुराने तरीकों ने फिल्टर करने के बाद सभी के साथ समान व्यवहार किया, जिसने इन अंतरों को अनदेखा कर दिया। FedLAW सही संतुलन सीखता है।
यह चालाक झूठ बोलने वालों को पकड़ता है: कुछ दुर्भावनापूर्ण छात्र "नकली अच्छे" अपडेट भेजकर अच्छा दिखने की कोशिश करते हैं (जैसे कि "इनवर्स ग्रेडिएंट" हमला)। क्योंकि FedLAW यह देखता है कि वेट्स के आधार पर पूरे समूह का समाधान कैसे बदलता है, यह डेटा को अलग-थलग देखने वाले तरीकों की तुलना में इन सूक्ष्म विसंगतियों को तेज़ी से पकड़ सकता है।
यह तेजी से अभिसरण (converge) करता है: प्रयोग दिखाते हैं कि FedLAW उच्च स्तर की सटीकता तक पहुँच जाता है, भले ही 40% छात्र दुर्भावनापूर्ण हों और डेटा बहुत बिखरा हुआ हो, जो अन्य शीर्ष तरीकों से बेहतर प्रदर्शन करता है।

ट्रेड-ऑफ (समझौता)

पेपर स्वीकार करता है कि इसमें एक छोटी सी लागत है। पूर्ण मतदान भार (weights) निर्धारित करने के लिए, शिक्षक को थोड़ा अतिरिक्त गणित करने और छात्रों के साथ कुछ अतिरिक्त संदेशों का आदान-प्रदान करने की आवश्यकता होती है। हालाँकि, लेखक तर्क देते हैं कि क्योंकि यह सिस्टम बहुत तेज़ी से और अधिक सटीकता से सीखता है, इसलिए यह छोटा अतिरिक्त खर्च सार्थक है। यह एक मानक मानचित्र की तुलना में आधे समय में आपको आपके गंतव्य तक पहुँचाने वाले GPS के लिए थोड़ा अतिरिक्त भुगतान करने जैसा है।

संक्षेप में: FedLAW बुरा तत्वों को फ़िल्टर करने की प्रक्रिया को स्वयं एक सीखने की समस्या में बदल देता है। केवल "खराब सेबों को बाहर निकालने" के बजाय, यह सीखता है कि प्रत्येक सेब को कितना वजन देना है, जिससे यह सुनिश्चित होता है कि अंतिम टोकरी भी पूर्ण हो, भले ही आधा बाग सड़ गया हो।

तकनीकी सारांश: सीखने योग्य एकत्रीकरण भारों के साथ बाइजेंटाइन-रोबस्ट फेडरेटेड लर्निंग (FedLAW)

समस्या विवरण

फेडरेटेड लर्निंग (FL) कई क्लाइंट्स को निजी डेटा साझा किए बिना एक वैश्विक मॉडल को सहयोगात्मक रूप से प्रशिक्षित करने की अनुमति देता है। हालांकि, यह प्रणाली बाइजेंटाइन क्लाइंट्स के प्रति संवेदनशील है—जो दुर्भावनापूर्ण कर्ता (malicious actors) हैं जो वैश्विक मॉडल को बाधित करने के लिए मनमाने या दूषित मॉडल अपडेट सबमिट करते हैं। यह चुनौती विषम (heterogeneous) सेटिंग्स में और भी बढ़ जाती है जहाँ डेटा वितरण क्लाइंट्स के बीच काफी भिन्न होता है। ऐसे परिदृश्यों में, बेनेग्न (benign) अपडेट (जो डेटा विषमता से प्रभावित होते हैं) और दुर्भावनापूर्ण अपडेट के बीच अंतर करना कठिन होता है।

मौजूदा बाइजेंटाइन-रोबस्ट FL विधियाँ आमतौर पर दो-चरणीय प्रक्रिया का पालन करती हैं: पहले, वे दुर्भावनापूर्ण क्लाइंट्स की पहचान करती हैं और उन्हें हटा देती हैं, और दूसरे, वे शेष बेनेग्न क्लाइंट्स को समान एकत्रीकरण भार (uniform aggregation weights) आवंटित करती हैं। लेखक तर्क देते हैं कि विषम वातावरण में यह समान वेटिंग दृष्टिकोण उप-इष्टतम (suboptimal) है। दुर्भावनापूर्ण क्लाइंट्स को हटाने के बाद, शेष बेनेग्न क्लाइंट्स में अभी भी असंतुलित डेटा वितरण (जैसे, कुछ लेबल गायब होना) हो सकता है। समान भार आवंटित करना इस असंतुलन के अनुकूल होने में विफल रहता है, जिससे कम प्रतिनिधित्व वाले वर्गों (classes) को पर्याप्त प्राथमिकता न देकर मॉडल की सटीकता कम हो सकती है।

कार्यप्रणाली (Methodology)

यह शोध पत्र FedLAW (लर्नेबल एग्रीगेशन वेट्स के साथ फेडरेटेड लर्निंग) प्रस्तावित करता है, जो एक नया ढांचा है जो एकत्रीकरण भारों को निश्चित मानों या सरल पोस्ट-फिल्टरिंग असाइनमेंट के बजाय 'लर्नेबल पैरामीटर्स' के रूप में मानता है।

1. समस्या का निरूपण (Problem Formulation)

लेखक FL उद्देश्य को वैश्विक मॉडल पैरामीटर्स $\theta$ और भार $w$ दोनों पर एक संयुक्त अनुकूलन समस्या (joint optimization problem) के रूप में निरूपित करते हैं:
$\min_{\theta \in \mathbb{R}^d, w \in \Delta^+_{t,\ell_0}} \sum_{i=1}^n w_i f_i(\theta)$
जहाँ $f_i(\theta)$ क्लाइंट $i$ का लॉस फंक्शन है। वेट वेक्टर $w$ को एक स्पार्स यूनिट-कैप्ड सिम्प्लेक्स $\Delta^+_{t,\ell_0}$ पर सीमित किया गया है, जो इस प्रकार परिभाषित है:

$\sum w_i = 1$ और $w_i \geq 0$ (मानक सिम्प्लेक्स बाधाएं)।
$w_i \leq t$ (व्यक्तिगत क्लाइंट के प्रभाव को कैपिंग करना)।
$\|w\|_0 \leq s$ (स्पैरसिटी बाधा, गैर-शून्य भारों की संख्या को सीमित करना)।

$t = 1/(n - b_f)$ और $s = n - b_f$ (जहाँ $b_f$ बाइजेंटाइन क्लाइंट्स की संख्या है) निर्धारित करके, फेज़िबल रीजन (feasible region) $b_f$ क्लाइंट्स को बाहर करने के लिए मजबूर करता है (उनके भार को शून्य सेट करके) जबकि शेष भार को चयनित $n - b_f$ क्लाइंट्स के बीच समान रूप से वितरित करता है। यह "पहचानने और हटाने" की बाइनरी समस्या को एक निरंतर अनुकूलन (continuous optimization) समस्या में बदल देता है।

2. प्रस्तावित एल्गोरिदम

इस नॉन-कॉन्वेक्स जॉइंट ऑप्टिमाइजेशन को हल करने के लिए, लेखक एक नेस्टेड ऑप्टिमाइजेशन स्ट्रक्चर पर आधारित एक अल्टरनेटिंग मिनिमाइजेशन एल्गोरिदम (एल्गोरिदम 2) विकसित करते हैं:

इनर स्टेप (मॉडल अपडेट): फिक्स्ड वेट्स $w$ के लिए, सर्वर क्लाइंट लॉस फंक्शन्स को क्वाड्रेटिक सरोगेट्स (quadratic surrogates) के साथ अनुमानित करता है और एक मॉडल अपडेट $\theta_{k+1}(w) = \theta_k - \alpha G_k w$ कंप्यूट करता है, जहाँ $G_k$ में क्लाइंट ग्रेडिएंट्स शामिल हैं।
आउटर स्टेप (वेट अपडेट): अपडेट किए गए मॉडल के लिए, एल्गोरिदम ग्लोबल ऑब्जेक्टिव को कम करने के लिए वेट्स $w$ को ऑप्टिमाइज़ करता है। इस चरण में ऑब्जेक्टिव के क्वाड्रेटिक एप्रोक्सिमेशन को $w$ के संबंध में मिनिमाइज़ करना, और उसके बाद स्पार्स यूनिट-कैप्ड सिम्प्लेक्स पर प्रोजेक्शन शामिल है।

वेट अपडेट, डेटा पॉइजनिंग का पता लगाने के लिए लॉस इंफॉर्मेशन और मॉडल पॉइजनिंग/इनवर्स ग्रेडिएंट हमलों का पता लगाने के लिए ग्रेडिएंट अलाइनमेंट दोनों का लाभ उठाता है। दुर्भावनापूर्ण क्लाइंट्स, जिनके ग्रेडिएंट्स बेनेग्न क्लाइंट्स के सुसंगत क्लस्टर से विचलित होते हैं, स्पैरसिटी बाधा द्वारा स्वाभाविक रूप से कम-भारित या बाहर कर दिए जाते हैं।

3. संचार प्रोटोकॉल (Communication Protocol)

एल्गोरिदम को प्रत्येक ट्रेनिंग एपोक के लिए दो संचार राउंड की आवश्यकता होती है:

सर्वर $\theta_k$ प्रसारित करता है; क्लाइंट्स ग्रेडिएंट्स और लॉस लौटाते हैं।
सर्वर एक प्रोविजनल अपडेट $\tilde{\theta}_{k+1}$ कंप्यूट करता है, उसे प्रसारित करता है, और क्लाइंट्स अंतिम वेट अपडेट और अगले मॉडल स्टेट को कंप्यूट करने के लिए अपडेटेड ग्रेडिएंट्स और लॉस लौटाते हैं।
लेखक नोट करते हैं कि हालांकि इससे एक राउंड बढ़ जाता है, लेकिन ग्लोबल मॉडल के त्वरित अभिसरण (accelerated convergence) अक्सर इस लागत की भरपाई कर देता है, जिसके परिणामस्वरूप लक्षित सटीकता तक पहुँचने के लिए तुलनीय या कम कुल संचार राउंड होते हैं।

मुख्य योगदान (Key Contributions)

नया अनुकूलन निरूपण: यह पेपर एक नया जॉइंट ऑप्टिमाइजेशन फ्रेमवर्क पेश करता है जहाँ एकत्रीकरण भार सीखने योग्य पैरामीटर हैं, जो बाइजेंटाइन डिफेंस को एक अलग फ़िल्टरिंग स्टेप के बजाय सीधे लर्निंग ऑब्जेक्टिव में समाहित करता है।
एल्गोरिदम विकास: एक विशिष्ट प्रोजेक्शन ऑपरेटर के साथ एक अल्टरनेटिंग मिनिमाइजेशन एल्गोरिदम प्रस्तावित किया गया है, जो रोबस्ट वेट्स की कुशल गणना सुनिश्चित करता है।
सैद्धांतिक गारंटी:
- बाइजेंटाइन लचीलापन (Byzantine Resilience): थ्योरम 2 स्थापित करती है कि प्रस्तावित एग्रीगेटर उच्च संभावना के साथ $(\zeta, b_f)$ -बाइजेंटाइन रेजिलिएंट है, जो एक स्पष्ट एरर बाउंड प्रदान करता है जो लॉस हेटेरोजेनिटी, ग्रेडिएंट हेटेरोजेनिटी और सैंपलिंग नॉइज़ जैसे स्रोतों में विभाजित होता है।
- अभिसरण (Convergence): थ्योरम 3 सिद्ध करती है कि एल्गोरिदम नॉन-कॉन्वेक्स और स्ट्रॉन्गली कॉन्वेक्स दोनों सेटिंग्स के लिए ऑप्टिमम के एक पड़ोस (neighborhood) में अभिसरित होता है, जिसमें एरर रेडियस एडवर्सरी के प्रभाव के साथ स्केल होता है।
अनुभवजन्य सत्यापन (Empirical Validation): पांच प्रकार के हमलों (लेबल फ्लिपिंग, इनवर्स ग्रेडिएंट, बैकडोर, डबल अटैक और LIE) और विभिन्न स्तरों की डेटा विषमता के तहत MNIST और CIFAR-10 पर व्यापक प्रयोगों ने इसकी श्रेष्ठता प्रदर्शित की है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विविध परिदृश्यों (Krum, Trimmed Mean, Bulyan, CwMed, RFA, CClip, Huber Aggregator जैसे अत्याधुनिक बेसलाइन्स के विरुद्ध) में FedLAW का मूल्यांकन किया:

प्रदर्शन: FedLAW ने लगातार मौजूदा विधियों को पछाड़ दिया, विशेष रूप से उच्च-विषमता ( $q=0.9$ ) और उच्च-दुर्भावनापूर्ण-हिस्से (40% तक) वाले सेटिंग्स में। उदाहरण के लिए, MNIST पर 40% दुर्भावनापूर्ण क्लाइंट्स के साथ एक इनवर्स ग्रेडिएंट हमले के तहत, FedLAW ने अगले सर्वश्रेष्ठ डिफेंस की तुलना में 3.6% अधिक टेस्ट एक्यूरेसी प्राप्त की।
स्थिरता: अन्य विधियों के विपरीत जो गंभीर हमलों (जैसे डबल अटैक या उच्च LIE अंश) के तहत विचलित हो गईं या सटीकता में भारी गिरावट का शिकार हुईं, FedLAW ने रोबस्ट प्रदर्शन बनाए रखा।
वेट डायनेमिक्स: विज़ुअलाइज़ेशन ने दिखाया कि बेनेग्न क्लाइंट्स जल्दी से स्थिर, गैर-मामूली (non-trivial) वेट्स पर अभिसरित हो गए, जबकि दुर्भावनापूर्ण क्लाइंट्स को पहले 20 एपोक्स के भीतर लगातार शून्य के करीब वेट्स तक दबा दिया गया।
डिटेक्शन: विधि ने दुर्भावनापूर्ण क्लाइंट्स की पहचान करने में उच्च परिशुद्धता (precision) और रिकॉल (recall) का प्रदर्शन किया, जो डेटा पॉइजनिंग और मॉडल पॉइजनिंग दोनों हमलों को प्रभावी ढंग से निष्प्रभावी करती है।

महत्व और दावे

पेपर का दावा है कि FedLAW विषम वातावरणों में यूनिफॉर्म वेटिंग की सीमाओं को संबोधित करके सुरक्षित फेडरेटेड लर्निंग में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है। लर्निंग प्रक्रिया में एडेप्टिव वेटिंग को एकीकृत करके, यह विधि प्राप्त करती है:

बेहतर मजबूती (Enhanced Robustness): यह हमलावरों की संख्या के पूर्व ज्ञान या जटिल प्री-फिल्टरिंग तंत्र की आवश्यकता के बिना दुर्भावनापूर्ण क्लाइंट्स को प्रभावी ढंग से निष्प्रभावी करती है।
निष्पक्षता और अनुकूलन क्षमता: यह बेनेग्न क्लाइंट्स के योगदान को अनुकूल रूप से संतुलित करती है, यह सुनिश्चित करती है कि डेटा विषमता विशिष्ट डेटा वितरणों की उपेक्षा का कारण न बने।
सैद्धांतिक सुदृढ़ता: कार्य एक कठोर अभिसरण और लचीलापन गारंटी प्रदान करता है, जो एग्रीगेटर की स्टैटिक रेजिलिएंस को लर्निंग एल्गोरिदम की डायनेमिक स्थिरता से जोड़ता है।

लेखक निष्कर्ष निकालते हैं कि उनके निष्कर्ष लर्निंग प्रक्रिया में एडेप्टिव एकत्रीकरण को एकीकृत करने के लाभों को उजागर करते हैं, जो वास्तविक दुनिया के विषम और प्रतिकूल सेटिंग्स में अधिक सुरक्षित और न्यायसंगत FL परмयोजनों (deployments) का मार्ग प्रशस्त करते हैं।