💬 NLP

Power to the Clients: Federated Learning in a Dictatorship Setting

यह शोध पत्र "डिक्टेटर क्लाइंट्स" (dictator clients) का परिचय और विश्लेषण करता है, जो फेडरेटेड लर्निंग में दुर्भावनापूर्ण प्रतिभागियों का एक नया वर्ग है जो अपने स्वयं के योगदान को सुरक्षित रखते हुए अन्य क्लाइंट्स के योगदान को पूरी तरह से मिटाने में सक्षम हैं, और विभिन्न सहयोगात्मक एवं प्रतिकूल परिदृश्यों में सैद्धांतिक अभिसरण विश्लेषण (theoretical convergence analysis) और अनुभवजन्य मूल्यांकन के माध्यम से उनके प्रभाव का अन्वेषण करता है।

मूल लेखक: Mohammadsajad Alipour, Mohammad Mohammadi Amiri

प्रकाशित 2026-04-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mohammadsajad Alipour, Mohammad Mohammadi Amiri

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि पड़ोसियों का एक समूह एक सामुदायिक पॉटलक (सामूहिक भोज) के लिए एक एकल, उत्तम रेसिपी बनाने की कोशिश कर रहा है। एक सामान्य परिदृश्य में, हर कोई एक व्यंजन लाता है, मेजबान उन सभी को मिला देता है, और अंतिम परिणाम सभी के खाना पकाने का एक स्वादिष्ट मिश्रण होता है। यह फेडरेटेड लर्निंग (FL) है: एक ऐसा तरीका जिससे कई कंप्यूटर (क्लाइंट्स) अपने निजी डेटा (अपनी गुप्त रेसिपी) को साझा किए बिना मिलकर सीख सकते हैं।

हालाँकि, यह शोध पत्र एक नए, चालाक प्रकार के पड़ोसी से परिचय कराता है जिसे "डिक्टेटर क्लाइंट" (तानाशाह क्लाइंट) कहा जाता है।

मुख्य समस्या: "तानाशाह" पड़ोसी

आमतौर पर, हमें उन पड़ोसियों की चिंता होती है जो सड़ा हुआ खाना लाते हैं (बाइज़ेंटाइन हमले) या जो सूप में कोई बुरा सरप्राइज छिपाने की कोशिश करते हैं (बैकडोर हमले)। लेकिन यह शोध पत्र कुछ अलग बताता है: एक ऐसा पड़ोसी जो पार्टी को बर्बाद नहीं करना चाहता; वह बस मेनू पर पूरी तरह से अपना नियंत्रण चाहता है।

एक डिक्टेटर क्लाइंट एक दुर्भावनापूर्ण प्रतिभागी है जो चाहता है कि अंतिम पॉटलक डिश का स्वाद बिल्कुल उसके अपने व्यंजन जैसा हो, जबकि यह सुनिश्चित करे कि बाकी किसी और के व्यंजन का कोई योगदान न दिखे। वह अंतिम रेसिपी से बाकी सभी के खाना पकाने की यादों को मिटा देना चाहता है।

यह चाल कैसे काम करती है ("टाइम-ट्रैवल" सादृश्य)

आप सोच सकते हैं, "लेकिन मेजबान तो सभी की सामग्री को मिलाता है! वह एक व्यक्ति दूसरों को कैसे मिटा सकता है?"

शोध पत्र दिखाता है कि इन डिक्टेटर क्लाइंट्स के पास एक चतुर गणितीय चाल है। कल्पना कीजिए कि डिक्टेटर एक समय यात्री (time traveler) है जिसके पास एक गुप्त डायरी है कि पॉटलक कैसा होता यदि केवल वे आमंत्रित होते।

सेटअप: पहले दौर में, सभी अपनी सामग्री भेजते हैं। मेजबान उन्हें मिलाता है।
गुप्त रहस्य: डिक्टेटर गुप्त रूप से गणना करता है: "यदि मैं एकमात्र व्यक्ति होता, तो मिश्रण कैसा होता?"
बदलाव (The Swap): अगले दौर में, अपनी सामान्य सामग्री भेजने के बजाय, डिक्टेटर एक "जादुई सुधार" (magic correction) भेजता है। यह सुधार गणितीय रूप से उस सामग्री को रद्द करने के लिए डिज़ाइन किया गया है जो अन्य सभी ने पिछले दौर में भेजी थी।
परिणाम: जब मेजबान नई सामग्री को जोड़ता है, तो अन्य पड़ोसियों की सामग्री का "शोर" गायब हो जाता है। अंतिम मिश्रण ठीक वैसा ही दिखता है जैसा कि डिक्टेटर की गुप्त डायरी में था। अन्य पड़ोसियों का योगदान गणितीय रूप से मिटा दिया जाता है, जैसे कि वे कभी आए ही न हों।

खोजे गए विभिन्न परिदृश्य

यह शोध पत्र देखता है कि यह विभिन्न सामाजिक गतिशीलता में कैसे काम करता है:

1. अकेला तानाशाह (The Lone Dictator)
एक पड़ोसी नियंत्रण करने का निर्णय लेता है। वे सफलतापूर्वक वैश्विक रेसिपी को 100% अपने स्वयं के व्यंजन जैसा बना देते हैं। अन्य पड़ोसियों के व्यंजनों को पूरी तरह से अनदेखा कर दिया जाता है। यदि आप अंतिम सूप चखने की कोशिश करते हैं, तो इसका स्वाद केवल डिक्टेटर के भोजन जैसा होगा, और अन्य पड़ोसियों का डेटा (उनका विशिष्ट स्वाद) गायब हो जाएगा।

2. तानाशाहों का गिरोह (सहयोगात्मक)
क्या होगा यदि तीन पड़ोसी टीम बना लें? वे आपस में फुसफुसाते हैं और समन्वय करते हैं। मिलकर, वे बाकी सभी के प्रभाव को मिटा सकते हैं और अंतिम रेसिपी को केवल उनके तीन व्यंजनों का एक आदर्श मिश्रण बना सकते हैं। वे एक "तानाशाह गठबंधन" बन जाते हैं, बाकी समुदाय को अनदेखा करते हुए।

3. विश्वासघात (The "Double-Cross")
यह सबसे नाटकीय हिस्सा है। कल्पना कीजिए कि एलिस और बॉब नामक दो पड़ोसी पॉटलक पर कब्जा करने के लिए एक गिरोह बनाते हैं। वे कुछ समय के लिए दूसरों को मिटाने के लिए मिलकर काम करते हैं। लेकिन फिर, एलिस तय करती है कि वह सारा श्रेय खुद चाहती है। वह गुप्त रूप से गणना करना शुरू करती है कि रेसिपी कैसी होती यदि केवल वह वहां होती। एक विशिष्ट क्षण पर, वह एक "विश्वासघात अपडेट" भेजती है जो बॉब के योगदान को भी मिटा देता है। अचानक, रेसिपी बदलकर 100% एलिस की हो जाती है, और बॉब को बाहर कर दिया जाता है, भले ही वे कुछ क्षण पहले तक भागीदार थे।

4. जब हर कोई तानाशाह हो (The Chaos of Everyone Being a Dictator)
क्या होगा यदि हर कोई तानाशाह बनने की कोशिश करे? हर कोई दूसरे को रद्द करने की कोशिश करता है। परिणाम एक आपदा है। गणित टूट जाता है, रेसिपी एक अराजक मलबे में बदल जाती है, और पॉटलक पूरी तरह विफल हो जाता है। कोई कुछ भी नहीं सीख पाता; सिस्टम बस बेकार घूमता रहता है।

हमें इसकी परवाह क्यों करनी चाहिए? (वास्तविक दुनिया का प्रभाव)

लेखकों ने हस्तलिखित संख्याओं (MNIST) और फोटो में वस्तुओं (CIFAR-10) को पहचानने जैसे वास्तविक कार्यों पर इसका परीक्षण किया।

परिणाम: डिक्टेटर क्लाइंट्स डरावनी हद तक सफल रहे। जब एक डिक्टेटर ने कब्जा किया, तो AI मॉडल "अच्छे" पड़ोसियों के डेटा को पहचानने में 0% सटीक हो गया, लेकिन डिक्टेटर के डेटा पर अत्यधिक सटीक बना रहा।
खतरा: वास्तविक दुनिया में, इसका अर्थ हो सकता है:
- स्वास्थ्य सेवा (Healthcare): एक विशिष्ट रोगी जनसांख्यिकी वाला अस्पताल एक वैश्विक मेडिकल AI को इस तरह हेरफेर कर सकता है कि वह उनके रोगियों के लिए तो एकदम सही काम करे, लेकिन बाकी सभी के लिए बुरी तरह विफल हो जाए।
- सिफारिशें (Recommendations): उपयोगकर्ताओं का एक समूह एक न्यूज़ फीड या शॉपिंग ऐप को केवल वही दिखाने के लिए मजबूर कर सकता है जो वे चाहते हैं, जिससे बहुसंख्यक लोगों की प्राथमिकताओं को पूरी तरह से अनदेखा किया जा सके।

निष्कर्ष (The Takeaway)

यह शोध पत्र विकेंद्रीकृत शिक्षण (decentralized learning) में एक डरावने नए भेद्यता (vulnerability) को उजागर करता है। यह केवल बुरे तत्वों के बारे में नहीं है जो सिस्टम को तोड़ने की कोशिश कर रहे हैं; यह बुरे तत्वों के बारे में है जो सिस्टम की पहचान को हाइजैक (hijack) करने की कोशिश कर रहे हैं।

भले ही आपके पास एक "बाइज़ेंटाइन-रेज़िलिएंट" (झूठ बोलने वालों को संभालने के लिए डिज़ाइन किया गया) सिस्टम हो, ये डिक्टेटर क्लाइंट्स बच निकल सकते हैं क्योंकि वे डेटा के बारे में झूठ नहीं बोल रहे हैं; वे बस गणित को इस तरह से कर रहे हैं जिससे बाकी सभी अदृश्य हो जाएं। यह शोध पत्र सुझाव देता है कि हमें यह सुनिश्चित करने के लिए नए बचाव की आवश्यकता है कि "सामुदायिक पॉटलक" वास्तव में एक सामुदायिक प्रयास की तरह लगे, न कि केवल कमरे में मौजूद सबसे मुखर (या सबसे स्मार्ट) व्यक्ति के व्यंजन की तरह।

यहाँ शोध पत्र "Power to the Clients: Federated Learning in a Dictatorship Setting" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फेडरेटेड लर्निंग (FL) कई क्लाइंट्स को अपना कच्चा डेटा साझा किए बिना एक वैश्विक मॉडल (global model) को सहयोगात्मक रूप से प्रशिक्षित करने की अनुमति देता है। हालाँकि, यह विकेंद्रीकृत प्रकृति दुर्भावनापूर्ण अभिनेताओं (malicious actors) के प्रति संवेदनशील है। जबकि मौजूदा साहित्य मुख्य रूप से बाइज़ेंटाइन हमलों (Byzantine attacks - जिनका लक्ष्य मॉडल के प्रदर्शन को कम करना या अभिसरण/convergence को रोकना है) और बैकडोर हमलों (backdoor attacks - जो छिपे हुए ट्रिगर्स इंजेक्ट करते हैं) पर केंद्रित है, यहाँ उन विरोधियों को समझने में एक कमी है जिनका लक्ष्य विशिष्ट, गैर-विनाशकारी उद्देश्य है: पूर्ण प्रभुत्व (total dominance)।

यह शोध पत्र एक नवीन थ्रेट मॉडल की पहचान करता है जहाँ एक दुर्भावनापूर्ण क्लाइंट (या समूह) का लक्ष्य है:

मॉडल में अपने योगदान को संरक्षित (preserve) करना।
सभी अन्य सौहार्दपूर्ण (benign) क्लाइंट्स के योगदान को पूरी तरह से मिटा देना (erase)।
वैश्विक मॉडल को विशेष रूप से अपने स्थानीय डेटा वितरण (local data distribution) पर अभिसरित होने के लिए निर्देशित (steer) करना, प्रभावी रूप से एक "तानाशाह" (dictator) के रूप में कार्य करना।

महत्वपूर्ण रूप से, ये "डिक्टेटर क्लाइंट्स" न्यूनतम बाधाओं के तहत काम करते हैं: उनके पास कोई विशेषाधिकार प्राप्त सर्वर एक्सेस नहीं है, अन्य क्लाइंट्स के डेटा का कोई ज्ञान नहीं है, और आपस में केवल न्यूनतम संचार क्षमताएं हैं।

2. कार्यप्रणाली (Methodology)

लेखक हमलों की एक श्रृंखला में एल्गोरिदम प्रस्तावित करते हैं जो दुर्भावनापूर्ण क्लाइंट्स को सौहार्दपूर्ण क्लाइंट्स के ग्रेडिएंट्स को गणितीय रूप से शून्य करने और अपने स्वयं के ग्रेडिएंट्स को संरक्षित करने की अनुमति देते हैं। इसका मुख्य तंत्र ग्रेडिएंट पुनर्निर्माण और रद्दीकरण (gradient reconstruction and cancellation) है।

A. एकल डिक्टेटर क्लाइंट (Single Dictator Client)

एक एकल दुर्भावनापूर्ण क्लाइंट $m$ का लक्ष्य वैश्विक मॉडल $\theta_t$ को इस तरह व्यवहार करने के लिए मजबूर करना है जैसे कि केवल क्लाइंट $m$ ने ही प्रशिक्षण में भाग लिया हो।

तंत्र: क्लाइंट एक स्थानीय "शैडो मॉडल" $\hat{\theta}^m_t$ बनाए रखता है जो उस प्रक्षेपवक्र (trajectory) का अनुकरण करता है यदि वह एकमात्र प्रतिभागी होता।
हमला वेक्टर (Attack Vector): प्रत्येक राउंड में, अपना वास्तविक ग्रेडिएंट $\nabla L_m(\theta_t)$ भेजने के बजाय, क्लाइंट एक निर्मित अपडेट $M_t$ भेजता है:
$M_t = \nabla L_m(\hat{\theta}^m_t) - \left( \frac{\hat{\theta}^m_{t-1} - \theta_t}{\eta} - \nabla L_m(\hat{\theta}^m_{t-1}) \right)$
तर्क: पद $\frac{\hat{\theta}^m_{t-1} - \theta_t}{\eta}$ पिछले राउंड में सर्वर द्वारा उपयोग किए गए समग्र ग्रेडिएंट का पुनर्निर्माण करता है। इस पद को घटाकर और अपना वांछित ग्रेडिएंट जोड़कर, क्लाइंट प्रभावी रूप से अन्य सभी क्लाइंट्स ( $N-1$ क्लाइंट्स) के प्रभाव को रद्द कर देता है और अपना स्वयं का प्रक्षेपवक्र इंजेक्ट करता है।
मान्यताएँ (Assumptions): क्लाइंट को सर्वर के लर्निंग रेट $\eta$ का ज्ञान होना चाहिए (या वह एक इटरेशन में इसका अनुमान लगा सकता है)।

B. सहयोगात्मक डिक्टेटर क्लाइंट्स (Collaborative Dictator Clients)

कई दुर्भावनापूर्ण क्लाइंट्स ( $P$ क्लाइंट्स) मिलकर मॉडल पर हावी होने के लिए समन्वय करते हैं।

तंत्र: वे एक सिंक्रोनाइज्ड शैडो मॉडल $\hat{\theta}^P_t$ बनाए रखते हैं जो उस प्रक्षेपवपथ का प्रतिनिधित्व करता है यदि केवल समूह $P$ ने भाग लिया होता।
हमला वेक्टर: प्रत्येक क्लाइंट $k \in P$ , एक संशोधित अपडेट $M^k_t$ भेजता है जो गैर-डिक्टेटर क्लाइंट्स ( $N-P$ ) के ग्रेडिएंट्स को रद्द करता है जबकि समूह के सामूहिक ग्रेडिएंट को संरक्षित करता है।
समन्वय: वे अपने साझा शैडो मॉडल को अपडेट करने के लिए आंतरिक रूप से ग्रेडिएंट साझा करते हैं, जिससे यह सुनिश्चित होता है कि वैश्विक मॉडल गठबंधन (coalition) के वितरण पर अभिसरित हो।

C. उन्नत परिदृश्य (Advanced Scenarios)

शोध पत्र जटिल गतिशीलता का अन्वेषण करता है:

पारस्परिक प्रभुत्व (Mutual Domination): यदि प्रत्येक क्लाइंट एक स्वतंत्र डिक्टेटर के रूप में कार्य करता है, तो सिस्टम "ग्रेडिएंट एसेंट" (gradient ascent) की स्थिति में प्रवेश कर जाता है। विरोधाभासी रद्दीकरण प्रयास मॉडल को विचलित (diverge) कर देते हैं, और वैश्विक मॉडल कुछ भी सीखने में विफल रहता है (लॉस तेजी से बढ़ता है)।
विश्वासघात (Betrayal): एक सहयोगात्मक डिक्टेटर गुप्त रूप से एक निजी शैडो मॉडल बनाए रख सकता है। एक विशिष्ट इटरेशन पर, एक क्लाइंट अपने भागीदारों के योगदान को मिटाने के लिए एक विशाल संचित अपडेट (accumulated update) भेजकर भागीदारों को "विश्वासघात" कर सकता है, जिससे मॉडल पर एकमात्र नियंत्रण प्राप्त किया जा सके।

3. प्रमुख योगदान (Key Contributions)

नवीन थ्रेट मॉडल: "डिक्टेटर क्लाइंट्स" का औपचारिककरण, जो विरोधियों का एक वर्ग है जो मॉडल क्षरण (degradation) या बैकडोर डालने के बजाय प्रभाव संरक्षण (influence preservation) पर केंद्रित हैं।
विश्लेषणात्मक सुगमता (Analytical Tractability): यह दिखाने के लिए कठोर गणितीय प्रमाण प्रदान किए कि मानक FL एग्रीगेशन (एवरेजिंग) के तहत, एक एकल क्लाइंट सैद्धांतिक रूप से अन्य सभी क्लाइंट्स के प्रभाव को नगण्य अवशेष (negligible residual) तक कम कर सकता है।
न्यूनतम पूर्व शर्तें: प्रदर्शित किया गया कि इन हमलों के लिए न तो सर्वर-साइड एक्सेस की आवश्यकता है, न ही अन्य क्लाइंट्स के डेटा की जानकारी, और केवल न्यूनतम संचार (या बिना किसी संचार के भी) की आवश्यकता है।
गतिशील प्रतिकूल विश्लेषण (Dynamic Adversarial Analysis): गठबंधन की स्थिरता का अन्वेषण किया, यह दिखाते हुए कि डिक्टेटर्स के बीच सहयोग स्वाभाविक रूप से अस्थिर है और रणनीतिक विश्वासघात के प्रति संवेदनशील है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने अत्यधिक गैर-IID डेटा के साथ 5-क्लाइंट (या NLP के लिए 4-क्लाइंट) सेटअप का उपयोग करके कंप्यूटर विजन (MNIST, CIFAR-10) और NLP (AG News) बेंचमार्क पर अपने सिद्धांत को मान्य किया।

एकल डिक्टेटर की सफलता:
- जब क्लाइंट 3 एक डिक्टेटर के रूप में कार्य करता है, तो वैश्विक मॉडल क्लाइंट 3 के डेटा पर ~97% सटीकता प्राप्त करता है लेकिन अन्य सभी क्लाइंट्स के डेटा पर 0.00% सटीकता प्राप्त करता है।
- लॉस कर्व्स दिखाते हैं कि डिक्टेटर के लिए वैश्विक लॉस कम होता है, जबकि सौहार्दपूर्ण क्लाइंट्स के लिए लॉस समय के साथ बढ़ता जाता है।
सहयोगात्मक सफलता:
- 2 या 3 डिक्टेटर्स के समूह ने सभी सौहार्दपूर्ण क्लाइंट्स को सफलतापूर्वक दबा दिया, जिससे अपने स्वयं के डेटा पर उच्च सटीकता और दूसरों पर शून्य के करीब सटीकता प्राप्त हुई।
मजबूती (Robustness):
- क्लाइंट ड्रॉपआउट (Client Dropout): हमला तब भी प्रभावी रहता है जब प्रत्येक राउंड में यादृच्छिक (random) क्लाइंट्स को हटा दिया जाता है।
- ग्रेडिएंट क्लिपिंग (Gradient Clipping): जबकि ग्रेडिएंट नॉर्म क्लिपिंग (एक सामान्य रक्षा) एकल-डिक्टेटर हमलों को कम करती है, यह सहयोगात्मक डिक्टेटर्स के खिलाफ विफल रहती है। जैसे-जैसे गठबंधन का आकार बढ़ता है, उनके संयुक्त क्लिप्ड अपडेट अभी भी सौहार्दपूर्ण क्लाइंट्स पर भारी पड़ते हैं।
पारस्परिक प्रभुत्व: जब सभी क्लाइंट डिक्टेटर बनने का प्रयास करते हैं, तो मॉडल पूरी तरह से विचलित हो जाता है, जो सिस्टम के पतन की सैद्धांतिक भविष्यवाणी की पुष्टि करता है।

5. महत्व और निहितार्थ (Significance and Implications)

सुरक्षा प्रतिमान परिवर्तन (Security Paradigm Shift): यह कार्य इस धारणा को चुनौती देता है कि FL तब सुरक्षित है जब अधिकांश क्लाइंट ईमानदार होते हैं। यह सिद्ध करता है कि एक अल्पसंख्यक (यहाँ तक कि एक एकल क्लाइंट भी) पूरे सिस्टम को हाईजैक कर सकता है यदि वे एग्रीगेशन गणित को मैनिपुलेट करने के लिए तैयार हों।
वास्तविक दुनिया का प्रभाव:
- स्वास्थ्य सेवा (Healthcare): एक अकेला अस्पताल एक वैश्विक डायग्नोस्टिक मॉडल को इस तरह पक्षपाती बना सकता है कि वह उन जनसांख्यिकीय समूहों के लिए खराब प्रदर्शन करे जो उसके अपने डेटा का प्रतिनिधित्व नहीं करते हैं, जिससे कम प्रतिनिधित्व वाले आबादी के लिए खतरा पैदा हो सकता है।
- पुरस्कार प्रणाली (Reward Systems): प्रोत्साहन-आधारित FL में, एक डिक्टेटर उच्च पुरस्कार सुरक्षित करने के लिए अपने कथित योगदान को कृत्रिम रूप से बढ़ा सकता है।
रक्षा चुनौतियाँ (Defense Challenges): शोध पत्र रेखांकित करता है कि ग्रेडिएंट क्लिपिंग जैसे मानक बचाव, प्रभाव-संरक्षण हमलों (influence-preserving attacks) के खिलाफ अपर्याप्त हैं। यह ऐसे नए एग्रीगेशन तंत्र की आवश्यकता का सुझाव देता है जो केवल बड़े परिमाण (magnitude) वाले अपडेट को ही नहीं, बल्कि "रद्दीकरण" (cancellation) अपडेट को भी पहचान और बेअसर कर सकें।

निष्कर्षतः, यह शोध पत्र मानक फेडरेटेड लर्निंग में एक महत्वपूर्ण भेद्यता (vulnerability) को प्रकट करता है: एग्रीगेशन तंत्र गणितीय रूप से "तानाशाही" के प्रति संवेदनशील है, जहाँ दुर्भावनापूर्ण अभिनेता एकतरफा रूप से वैश्विक मॉडल के व्यवहार को निर्देशित कर सकते हैं, जिससे FL की सहयोगात्मक प्रकृति अप्रभावी हो जाती है।