🤖 machine learning

Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions

यह शोध पत्र Byz-Clip21-SGD2M का प्रस्ताव करता है, जो एक नवीन फेडेरेटेड लर्निंग एल्गोरिदम है जो मानक धारणाओं के तहत उच्च-संभाव्यता अभिसरण गारंटी के साथ बायज़ेंटाइन मजबूती (Byzantine robustness) और डिफरेंशियल प्राइवेसी को एकीकृत करता है, जिससे बाउंडेड ग्रेडिएंट्स या सहायक डेटासेट्स जैसी अवास्तविक स्थितियों की आवश्यकता समाप्त हो जाती है।

मूल लेखक: Rustem Islamov, Grigory Malinovsky, Alexander Gaponov, Aurelien Lucchi, Peter Richtárik, Eduard Gorbunov

प्रकाशित 2026-03-25

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rustem Islamov, Grigory Malinovsky, Alexander Gaponov, Aurelien Lucchi, Peter Richtárik, Eduard Gorbunov

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल ऑर्केस्ट्रा के कंडक्टर (संचालक) हैं। आप एक सुंदर सिम्फनी (एक स्मार्ट AI मॉडल) की रचना करना चाहते हैं, लेकिन आप सभी संगीतकारों (डेटा) को एक ही कमरे में नहीं ला सकते। इसके बजाय, प्रत्येक संगीतकार अपने घर पर रहता है, गाने का एक हिस्सा बजाता है, और आपको अपने नोट्स की रिकॉर्डिंग भेजता है। यह फेडरेटेड लर्निंग (Federated Learning) है। यह गोपनीयता के लिए बेहतरीन है क्योंकि कच्चा डेटा (संगीतकारों की शीट म्यूजिक) उनके घरों से बाहर कभी नहीं जाता।

हालांकि, इस सेटअप में दो बड़ी समस्याएं हैं:

जासूस (गोपनीयता लीक): भले ही आप शीट म्यूजिक नहीं देखते हैं, लेकिन एक चतुर जासूस (सर्वर) रिकॉर्डिंग को सुनकर यह पता लगा सकता है कि संगीत क्या था। वे पूरी धुन को भी चुरा सकते हैं।
साज़िशकर्ता (बायज़ेंटाइन हमले): कल्पना कीजिए कि कुछ संगीतकार वास्तव में दुश्मन के जासूस हैं। वे केवल गलत सुर नहीं बजाते; वे पूरे सिम्फनी को बर्बाद करने के लिए चिल्लाते हैं, शोर मचाते हैं, या पूरी तरह से उल्टे रिकॉर्डिंग भेजते हैं।

लंबे समय तक, शोधकर्ताओं ने इन समस्याओं को अलग-अलग हल करने की कोशिश की। उनके पास नोट्स को छिपाने के तरीके (डिफरेंशियल प्राइवेसी) और चिल्लाने वालों को अनदेखा करने के तरीके (बायज़ेंटाइन रोबस्टनेस) थे। लेकिन उन्हें मिलाना एक भारी सर्दियों के कोट और लाइफ जैकेट को एक साथ पहनने जैसा था—यह बोझिल था, इसके लिए अवास्तविक नियमों (जैसे "सभी संगीतकारों को बहुत धीरे बजाना चाहिए") की आवश्यकता थी, और यह अक्सर ठीक से काम नहीं करता था।

नया समाधान: "द डबल-मोमेंटम, डबल-क्लिपिंग माएस्ट्रो"

लेखक इस पेपर में एक नया कंडक्टर पेश करते हैं जिसे Byz-Clip21-SGD2M कहा जाता है। इस एल्गोरिदम को एक सुपर-स्मार्ट, सख्त और गोपनीयता के प्रति जागरूक कंडक्टर के रूप में समझें, जो ऑर्केस्ट्रा को पूरी तरह से बजाने में मदद करने के लिए दो मुख्य तरकीबों का उपयोग करता है।

1. "डबल-मोमेंटम" (गूँज का कमरा/इको चैंबर)

कल्पना कीजिए कि आप एक शोर भरे कमरे में फुसफुसाहट सुनने की कोशिश कर रहे हैं। यदि आप केवल एक सेकंड का ऑडियो सुनते हैं, तो वह अस्पष्ट हो सकता है। लेकिन यदि आप जो अभी सुन रहे हैं उसे उस चीज़ के साथ मिला दें जो आपने एक क्षण पहले सुनी थी, तो संकेत स्पष्ट हो जाता है।

यह एल्गोरिदम इस प्रकार के "मेमोरी" के दो स्तरों का उपयोग करता है:

क्लाइंट मेमोरी: प्रत्येक संगीतकार अपनी गलतियों को सुधारने के लिए अपने हालिया नोट्स का एक रनिंग एवरेज (चल औसत) रखता है।
सर्वर मेमोरी: कंडक्टर सभी से आने वाले नोट्स का एक रनिंग एवरेज रखता है।

यह "डबल इको" रैंडम शोर (प्राइवेसी नॉइज़) और अराजक चिल्लाहट (बायज़ेंटाइन हमलों) को रद्द करने में मदद करता है ताकि वास्तविक धुन उभर सके।

2. "क्लिपिंग" (वॉल्यूम लिमिटर)

पुराने दिनों में, यदि कोई साज़िशकर्ता 100 डेसिबल पर चिल्लाता था, तो वह पूरे ऑर्केस्ट्रा को दबा देता था। इसे रोकने के लिए, नया कंडक्टर हर रिकॉर्डिंग पर एक वॉल्यूम लिमिटर लगा देता है।

यदि कोई संगीतकार बहुत तेज़ (अत्यधिक) नोट भेजने की कोशिश करता है, तो कंडक्टर बस वॉल्यूम को एक सुरक्षित, पूर्व-निर्धारित स्तर तक कम कर देता है।
यह सुनिश्चित करता है कि कोई भी व्यक्ति, चाहे वह साज़िशकर्ता हो या बस किसी का बुरा दिन हो, सिम्फनी पर हावी न हो सके।
महत्वपूर्ण रूप से, यह गोपनीयता में भी मदद करता है। वॉल्यूम को सीमित करके, कंडक्टर को पता होता है कि मूल नोट्स को छिपाने के लिए कितना "स्टैटिक" (शोर) जोड़ना है, जिससे गोपनीयता की गारंटी और भी मजबूत हो जाती है।

यह पेपर एक बड़ी बात क्यों है

पिछले प्रयास इस समस्या को हल करने के ऐसे किले बनाने जैसे थे जिनके नियम केवल तभी काम करते हैं जब दुश्मन कमजोर हो या मौसम एकदम सही हो। उन्होंने माना कि चीजें ऐसी हैं जैसे "ग्रेडिएंट्स सीमित होने चाहिए" (एक फैंसी तरीका कहने का कि "संगीतकार बहुत ज़ोर से नहीं बजा सकते")। लेकिन वास्तविक दुनिया में, डेटा अव्यवस्थपूर्ण होता है, और ग्रेडिएंट्स बहुत बड़े हो सकते हैं।

यह पेपर उन नियमों को तोड़ता है।

कोई अनुचित धारणाएं नहीं: यह नई विधि तब भी काम करती है जब डेटा जंगली हो और ग्रेडिएंट्स बहुत बड़े हों। इसे काम करने के लिए किसी "सहायक डेटासेट" (चीट शीट) की आवश्यकता नहीं है।
उच्च-संभाव्यता सफलता: यह कहने के बजाय कि "यह औसतन काम करता है," लेखक यह सिद्ध करते हैं कि यह लगभग हमेशा काम करता है। यह यह कहने जैसा है कि, "यह पुल तूफान के दौरान भी 99.9% समय खड़ा रहेगा," न कि "यह आमतौर पर खड़ा रहता है।"
वास्तविक दुनिया का प्रमाण: उन्होंने वास्तविक मॉडलों (जैसे हस्तलिखित अंकों को पहचानना) पर इसका परीक्षण किया और दिखाया कि भले ही 20% क्लाइंट दुर्भावनापूर्ण साज़िशकर्ता हों, फिर भी उनकी विधि सबसे अच्छा मॉडल सीखती है, और अक्सर प्रतिस्पर्धा को पीछे छोड़ देती है।

निचोड़ (द बॉटम लाइन)

Byz-Clip21-SGD2M को एक रिमोट वर्कफोर्स के लिए अंतिम टीम मैनेजर के रूप में समझें।

यह श्रमिकों के रहस्यों की रक्षा करता है (गोपनीयता)।
यह उन ट्रोल को निकाल देता है जो प्रोजेक्ट को बर्बाद करने की कोशिश करते हैं (बायज़ेंटाइन रोबस्टनेस)।
यह गलतियों को सुचारू करने के लिए एक स्मार्ट "मेमोरी" सिस्टम का उपयोग करता है (डबल मोमेंटम)।
यह एक "कैप" लगाता है कि कोई कितना पागल हो सकता है (क्लिपिंग)।

और सबसे अच्छी बात? यह यह सब बिना किसी असंभव नियमों के पालन किए करता है। यह एक अव्यवस्थित और खतरनाक दुनिया में भरोसेमंद AI बनाने का एक मजबूत, व्यावहारिक और गणितीय रूप से सिद्ध तरीका है।

यहाँ शोध पत्र "Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र फेडरेटेड लर्निंग (FL) को दो एक साथ होने वाले खतरों से सुरक्षित करने की महत्वपूर्ण चुनौती का समाधान करता है:

बाइजेंटाइन हमले (Byzantine Attacks): दुर्भावनापूर्ण क्लाइंट्स (बाइजेंटाइन नोड्स) जो प्रशिक्षण प्रक्रिया को बाधित करने के लिए मनमाने, प्रतिकूल अपडेट भेजते हैं।
गोपनीयता रिसाव (Privacy Leakage): वह जोखिम जिसमें ग्रेडिएंट्स या मॉडल अपडेट स्थानीय डेटा के बारे में संवेदनशील जानकारी प्रकट कर सकते हैं, जिसके लिए डिफरेंशियल प्राइवेसी (DP) की आवश्यकता होती है।

मुख्य संघर्ष (The Core Conflict): मौजूदा विधियाँ इन दोनों सुरक्षाओं को संयोजित करने में संघर्ष करती हैं।

सैद्धांतिक सीमाएँ: अधिकांश पूर्व कार्य अवास्तविक धारणाओं पर निर्भर करते हैं, जैसे कि सीमित ग्रेडिएंट नॉर्म्स (जो सरल क्वाड्रेटिक ऑब्जेक्टिव्स के लिए भी विफल हो जाते हैं) या सर्वर-साइड पर सहायक डेटासेट तक पहुँच की आवश्यकता होती है।
एल्गोरिद्मिक संघर्ष: DP के लिए अपडेट में शोर (noise) जोड़ने की आवश्यकता होती है, जो निरंतरता (consistency) को कम करता है और बाइजेंटाइन हमलों का पता लगाना कठिन बना देता है। इसके विपरीत, रोबस्ट एग्रीगेशन (बाइजेंटाइन हमलों को फ़िल्टर करने के लिए) DP शोर के नकारात्मक प्रभावों को बढ़ा सकता है, जिससे अभिसरण (convergence) में बाधा आती है।
अंतराल (Gap): ऐसे एल्गोरिदम की कमी थी जो मानक धारणाओं (L-smoothness और sub-Gaussian noise) के तहत उच्च-संभाव्यता गारंटी (high-probability convergence guarantees) प्रदान कर सकें, जबकि साथ ही बाइजेंटाइन हमलावरों और DP दोनों को संभाल सकें।

2. कार्यप्रणाली: Byz-Clip21-SGD2M

लेखक एक नया एल्गोरिदम, Byz-Clip21-SGD2M प्रस्तावित करते हैं, जो उपरोक्त सीमाओं को दूर करने के लिए चार प्रमुख तंत्रों को एकीकृत करता है:

डबल मोमेंटम (Double Momentum):
- क्लाइंट-साइड मोमेंटम ( $v_t$ ): मिनी-बैच ग्रेडिएंट शोर को सुचारू (smooth) बनाता है। लेखक नोट करते हैं कि इसके बिना, EF21-SGD जैसी विधियाँ मिनी-बैच शोर के तहत अभिसरण करने में विफल रहती हैं।
- सर्वर-साइड मोमेंटम ( $m_t$ ): बफ़र्स में DP शोर के संचय का मुकाबला करता है, जिससे शोर को अभिसरण को नष्ट करने से रोका जा सके।
एरर फीडबैक (Error Feedback - EF21-शैली):
- यह विषम (heterogeneous) क्लाइंट डेटा और संपीड़न/क्लिपिंग संचालन से उत्पन्न पूर्वाग्रह (bias) की भरपाई करता है। यह एल्गोरिदम को उस प्रतिबंधात्मक "सीमित ग्रेडिएंट" धारणा की आवश्यकता के बिना डेटा विषमता को संभालने की अनुमति देता है जो पिछले कार्यों में पाई जाती थी।
सावधानीपूर्वक डिज़ाइन किया गया क्लिपिंग (Carefully Designed Clipping):
- DP शोर जोड़ने से पहले अपडेट को एक थ्रेशोल्ड $\tau$ तक क्लिप किया जाता है। यह सुनिश्चित करता है कि तंत्र की संवेदनशीलता (sensitivity) सीमित रहे, जो DP गारंटी के लिए आवश्यक है।
- महत्वपूर्ण रूप से, क्लिपिंग एक कॉन्ट्रैक्टिव कंप्रेसर (contractive compressor) के रूप में कार्य करता है, जिसका उपयोग लेखक अपने उच्च-संभाव्यता विश्लेषण में अपडेट नॉर्म्स को सीमित रखने के लिए करते हैं।
रोबस्ट एग्रीगेशन (Robust Aggregation):
- सर्वर $(\delta_{byz}, c)$ -रोबस्टनेस परिभाषा (जैसे, कोऑर्डिनेट-वाइज मीडियन या ज्योमेट्रिक मीडियन) को संतुष्ट करने वाला एक रोबस्ट एग्रीगेशन नियम ( $R_{Agg}$ ) का उपयोग करता है। यह बाइजेंटाइन क्लाइंट्स द्वारा किए गए नुकसान को सीमित करता है।

एल्गोरिदम प्रवाह (Algorithm Flow):

क्लाइंट स्थानीय ग्रेडिएंट की गणना करते हैं और एक मोमेंटम बफ़र अपडेट करते हैं।
ग्रेडिएंट को क्लिप किया जाता है, और DP शोर जोड़ा जाता है।
पूर्वाग्रह को ठीक करने के लिए एरर फीडबैक लागू किया जाता है।
सर्वर एक रोबस्ट नियम का उपयोग करके शोर युक्त, क्लिप्ड अपडेट को एकत्रित करता है।
ग्लोबल मॉडल को सर्वर-साइड मोमेंटम बफ़र का उपयोग करके अपडेट किया जाता है।

3. मुख्य योगदान (Key Contributions)

नया एल्गोरिदम: Byz-Clip21-SGD2M का परिचय, जो डबल मोमेंटम और एरर फीडबैक वाले एकीकृत डिज़ाइन के साथ बाइजेंटाइन मजबूती और डिफरेंशियल प्राइवेसी को संयुक्त रूप से संभालने वाला पहला एल्गोरिदम है।
शिथिल धारणाएँ (Relaxed Assumptions): मानक धारणाओं के तहत सैद्धांतिक विश्लेषण किया गया है:
- स्थानीय फलनों (functions) की $L$ -smoothness।
- $\sigma$ -sub-Gaussian ग्रेडिएंट शोर।
- कोई सीमित ग्रेडिएंट धारणा नहीं: यह पिछले साहित्य (जैसे, Safe-DSHB, DP-BREM) से एक महत्वपूर्ण विचलन है जो अक्सर माना जाता था कि ग्रेडिएंट एक स्थिरांक $M$ द्वारा सीमित हैं।
- कमजोर विषमता धारणा: सीमित ग्रेडिएंट विषमता केवल प्रारंभिक अवस्था ( $x_0$ ) पर आवश्यक है, न कि पूरे स्थान पर समान रूप से।
उच्च-संभाव्यता अभिसरण (High-Probability Convergence): यह पेपर केवल 'इन-एक्सपेक्टेशन' के बजाय उच्च-संभाव्यता अभिसरण गारंटी प्रदान करता है, जो व्यावहारिक विश्वसनीयता के लिए महत्वपूर्ण है।
टाइट यूटिलिटी बाउंड्स (Tight Utility Bounds): प्राप्त अभिसरण दरें हमलावरों की अनुपस्थिति में स्टेट-ऑफ-द-आर्ट लोअर बाउंड्स से मेल खाती हैं और DP एवं बाइजेंटाइन हमलों दोनों की उपस्थिति में यूटिलिटी गारंटी में सुधार करती हैं।
अनुभवजन्य सत्यापन (Empirical Validation): CNN और MLP मॉडल्स के साथ MNIST पर व्यापक प्रयोग एल्गोरिदम की प्रभावशीलता को प्रदर्शित करते हैं।

4. सैद्धांतिक परिणाम (Theoretical Results)

मुख्य अभिसरण प्रमेय (Theorem 5.1) स्थापित करता है कि औसत स्क्वेर्ड ग्रेडिएंट नॉर्म निम्नलिखित आकार के पड़ोस (neighborhood) में अभिसरित होता है:
$\tilde{O}\left( \Delta_0 \left( R + R^{2/3} \right) \right)$
जहाँ $R$ त्रुटि पदों (error terms) को दर्शाता है:
$R = \underbrace{\frac{\sqrt{d}\sigma_\omega}{\sqrt{GT\tau}}}_{\text{Privacy Error}} + \underbrace{\frac{\sqrt{c\delta_{byz}d}\sigma_\omega}{\sqrt{T\tau}}}_{\text{Privacy-Byzantine Interaction}} + \underbrace{\sqrt{c\delta_{byz}}}_{\text{Byzantine Error}}$

मुख्य निहितार्थ (Key Implications):

प्राइवेसी-यूटिलिटी ट्रेड-ऑफ: पहला पद DP शोर की लागत को दर्शाता है।
बाइजेंटाइन मजबूती: अंतिम पद बाइजेंटाइन क्लाइंट्स की लागत को दर्शाता है।
इंटरैक्शन: मध्य पद उस अतिरिक्त दंड को दर्शाता है जो गोपनीयता और मजबूती दोनों को एक साथ लागू करने पर होता है।
विशेष मामले:
- कोई हमलावर नहीं: गैर-कॉन्वेक्स ऑप्टिमाइज़ेशन के लिए मानक $\tilde{O}(1/\sqrt{GT})$ दर को पुनः प्राप्त करता है।
- केवल DP: लोकल DP के लिए ज्ञात लोअर बाउंड्स से मेल खाता है।
- केवल बाइजेंटाइन: पूर्व बाइजेंटाइन-रोबस्ट कार्यों के 'इन-एक्सपेक्टेशन' लोअर बाउंड्स से मेल खाता है।

5. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने MNIST डेटासेट पर CNN और MLP मॉडल्स के साथ Byz-Clip21-SGD2M का मूल्यांकन बेसलाइन Byz-Clip-SGD और Safe-DSHB के विरुद्ध किया।

हमले के परिदृश्य (Attack Scenarios):
- IPM हमला: बाइजेंटाइन क्लाइंट्स ईमानदार अपडेट के औसत को $-10$ से गुणा करते हैं।
- लेबल फ्लिपिंग (Label Flipping): बाइजेंटाइन क्लाइंट्स लेबल को बदलते हैं ( $y \to 9-y$ )।
चर (Variables): बाइजेंटाइन क्लाइंट्स की संख्या (कुल का 40% तक) और प्राइवेसी बजट ( $\epsilon \in \{3, 8, 13, 18, 23\}$ )।
निष्कर्ष:
- श्रेष्ठ प्रदर्शन: Byz-Clip21-SGD2M ने सभी कॉन्फ़िगरेशन में टेस्ट एक्यूरेसी में बेसलाइन को लगातार मात दी या उनके बराबर रही।
- मजबूती: एल्गोरिदम उच्च बाइजेंटाइन क्लाइंट अंश और सख्त प्राइवेसी बजट के साथ भी उच्च सटीकता बनाए रखता है।
- सब-सैंपलिंग: प्राइवेसी एम्प्लीफिकेशन के लिए सब-सैंपलिंग का उपयोग करने वाला एक विस्तारित संस्करण (Byz-Clip21-SGD2M+) भी परीक्षण किया गया, जिसने विशेष रूप से उच्च प्राइवेसी बजट पर प्रतिस्पर्धी प्रदर्शन दिखाया।

6. महत्व और प्रभाव (Significance and Impact)

सैद्धांतिक प्रगति: यह कार्य "सीमित ग्रेडिएंट" धारणाओं पर निर्भरता को तोड़ता है जो डिफरेंशियल प्राइवेट और बाइजेंटाइन-रोबस्ट FL के क्षेत्र में बनी हुई थी। यह सिद्ध करता है कि मानक, यथार्थवादी स्थितियों के तहत मजबूत गारंटी संभव है।
व्यावहारिक प्रयोज्यता: सहायक डेटासेट की आवश्यकता को हटाकर और धारणाओं को शिथिल करके, एल्गोरिदम को वास्तविक दुनिया के परिदृश्यों में अधिक तैनात करने योग्य बनाता है जहाँ डेटा वितरण विषम है और ग्रेडिएंट अनबाउंडेड हो सकते हैं।
नियामक अनुपालन (Regulatory Compliance): एकीकृत ढांचा डेटा गोपनीयता और सिस्टम मजबूती/सुरक्षा दोनों के संबंध में आधुनिक AI नियमों (जैसे, GDPR, EU AI Act) के दोहरे आवश्यकताओं को संबोधित करता है।
विश्वसनीय AI का आधार: यह शोध पत्र एक सिद्धांत आधारित आधार प्रदान करता है जिससे ऐसे FL सिस्टम बनाए जा सकें जो एक साथ निजी, मजबूत और कुशल हों, जो संवेदनशील डोमेन में अधिक विश्वसनीय AI परिनियोजन का मार्ग प्रशस्त करता है।