🤖 machine learning

FedSteer: Taming Extreme Gradient Staleness in Federated Learning with Corrective Projections and Caching

FedSteer एक नवीन फेडेरेटेड लर्निंग पद्धति है जो सक्रिय क्लाइंट ग्रेडिएंट्स को एक कैश किए गए सबस्पेस पर प्रोजेक्ट करके ऐसे निर्देशांक उत्पन्न करती है जो पुराने अपडेट्स को वर्तमान वैश्विक उद्देश्य की ओर निर्देशित करते हैं, जिससे विषम क्लाइंट भागीदारी के कारण होने वाली अत्यधिक ग्रेडिएंट स्टेलेनेस (staleness) को कम किया जा सके, जिससे प्रशिक्षण अस्थिरता को रोका जा सके और सटीकता में महत्वपूर्ण सुधार हो सके।

मूल लेखक: Haoran Zhang, Cainã Figueiredo Pereira, Marie Siew, Xutong Liu, Carlee Joe-Wong, Rachid El-Azouzi

प्रकाशित 2026-06-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Haoran Zhang, Cainã Figueiredo Pereira, Marie Siew, Xutong Liu, Carlee Joe-Wong, Rachid El-Azouzi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक विशाल समूह परियोजना (group project) की कल्पना करें जहाँ एक शिक्षक (Server) 100 छात्रों (Clients) को मिलकर एक जटिल पहेली सुलझाने के लिए मार्गदर्शन करने की कोशिश कर रहा है। लक्ष्य सभी के विचारों को मिलाकर एक आदर्श समाधान खोजना है।

एक आदर्श दुनिया में, हर छात्र अपना हाथ उठाकर हर दिन अपनी प्रगति साझा करेगा। लेकिन वास्तविक दुनिया में (जिसे यह शोध पत्र Federated Learning कहता है), छात्र व्यस्त होते हैं। कुछ का इंटरनेट खराब होता है, कुछ की बैटरी कम होती है, और कुछ बस कक्षा में नहीं आ पाते। इसे partial participation कहा जाता है।

समस्या: "पुराने समाचार" का जाल (The "Old News" Trap)

जब कोई छात्र कुछ दिनों तक कक्षा से अनुपस्थित रहता है, तो शिक्षक आमतौर पर समूह को आगे बढ़ाने के लिए उसके अंतिम ज्ञात उत्तर का उपयोग करता है। शोध पत्र इन उत्तरों को stale updates कहता है।

यहाँ पेच यह है: यदि कक्षा एक कठिन, बदलती हुई पहेली (जैसे कि एक खेल जिसके नियम हर दिन थोड़े बदल जाते हैं) पर काम कर रही है, तो तीन दिन पहले का उत्तर आज पूरी तरह से गलत हो सकता है।

पुराना तरीका: पिछले तरीकों ने इसे ठीक करने की कोशिश की या तो अनुपस्थित छात्रों को अनदेखा कर दिया या बस उनके पुराने उत्तरों को एक "डिस्काउंट" (छूट) दे दिया (यानी उन्हें कम महत्व दिया)।
परिणाम: चरम स्थितियों में, ये पुराने उत्तर इतने गलत थे कि उन्होंने शिक्षक को भ्रमित कर दिया, जिससे पूरी कक्षा अटक गई या यहाँ तक कि प्रोजेक्ट में विफल हो गई। शोध पत्र इसे gradient staleness कहता है।

समाधान: FedSteer (द "स्टीयरिंग व्हील")

लेखक FedSteer नामक एक नई विधि का प्रस्ताव करते हैं। अनुपस्थित छात्र के पुराने उत्तर को एक स्थिर, जड़ तथ्य मानने के बजाय, FedSteer इसे एक दिशा (direction) मानता है जिसे अपडेट करने की आवश्यकता है।

यह कैसे काम करता है, इसके लिए एक सरल उपमा देखें:

1. "मुख्य समूह" (The Gradient Subspace)

शिक्षक छात्रों का एक छोटा, विश्वसनीय समूह चुनता है (मान लीजिए 100 में से 10) जो हमेशा उपस्थित रहते हैं। यह Core Set है।

शिक्षक इन 10 छात्रों के चलने और सोचने के तरीके को देखता है।
उनके आंदोलनों से, शिक्षक वर्तमान दिशा का एक मानचित्र (एक लो-डायमेंशनल सबस्पेस) बनाता है। इसे एक "कंपास" की तरह समझें जो दिखाता है कि समूह अभी इस समय कहाँ जा रहा है।

2. "निर्देशांक" (The Coordinates/Projection)

जब कोई छात्र कक्षा में होता है, तो शिक्षक केवल उसका उत्तर नहीं लेता। शिक्षक पूछता है: "यदि हम आपके उत्तर को हमारे वर्तमान कंपास के माध्यम से देखें, तो आपके विशिष्ट निर्देशांक (coordinates) क्या हैं?"

पूरे भारी उत्तर को सहेजने के बजाय, शिक्षक केवल निर्देशांकों (संख्याओं) का एक छोटा सेट सहेजता है जो यह बताता है कि वह छात्र वर्तमान मानचित्र में कैसे फिट बैठता है।
यह छात्र की पूरी यात्रा के वीडियो को सहेजने के बजाय एक GPS पिन सहेजने जैसा है।

3. "स्टीयरिंग" (The Corrective Projection)

अब, कल्पना करें कि एक छात्र एक सप्ताह से अनुपस्थित है।

पुराना तरीका: शिक्षक पिछले सप्ताह का छात्र का पुराना उत्तर लेता है और उसे नए पहेली में जबरदस्ती फिट करता है। यह फिट नहीं बैठता।
FedSteer: शिक्षक छात्र के सहेजे गए GPS निर्देशांकों (जब वह पिछली बार सक्रिय था) को देखता है। फिर शिक्षक पूछता है: "यदि हम इन समान निर्देशांकों को हमारे नए, अपडेटेड कंपास (जो सक्रिय छात्रों के साथ आगे बढ़ चुका है) पर लागू करें, तो यह छात्र आज कहाँ होगा?"
परिणाम एक पुनर्निर्मित उत्तर (reconstructed answer) है। यह पुराना उत्तर नहीं है; यह वर्तमान वास्तविकता के अनुरूप "स्टीयर" किया गया पुराना उत्तर है। यह प्रभावी रूप से कहता है, "तुम उस समय इस दिशा में जा रहे थे; अब समूह जहाँ है, उसके आधार पर, तुम आज इस दिशा में जा रहे हो।"

यह एक बड़ी बात क्यों है?

1. यह मेमोरी बचाता है ("बैकपैक" की उपमा)
कल्पना करें कि शिक्षक को प्रत्येक छात्र के लिए एक बैकपैक ले जाना पड़ता है।

पुराने तरीके: शिक्षक को प्रत्येक छात्र (यहाँ तक कि अनुपस्थित छात्रों) के लिए पूरा भारी बैकपैक (पूरा उत्तर) ले जाना पड़ता था। यह भारी और धीमा था।
FedSteer: शिक्षक केवल 10 सक्रिय "कोर ग्रुप" छात्रों के लिए भारी बैकपैक ले जाता है। बाकी 90 के लिए, शिक्षक केवल एक छोटा सा कागज का टुकड़ा ले जाता है जिस पर उनके GPS निर्देशांक लिखे होते हैं। यह मेमोरी लोड को लगभग 10 गुना कम कर देता है।

2. यह "ट्रेनिंग कोलैप्स" को रोकता है
शोध पत्र ने इसका परीक्षण उन कठिन परिदृश्यों में किया जहाँ डेटा बहुत अव्यवस्थित था और छात्र बहुत अविश्वसनीय थे।

पुराने तरीके: कक्षा अक्सर भ्रमित हो जाती थी और विफल हो जाती थी (सटीकता शून्य के करीब गिर जाती थी)।
FedSteer: कक्षा सही रास्ते पर बनी रही। सबसे कठिन परीक्षणों में, FedSteer ने अगली सबसे अच्छी विधि की तुलना में सटीकता में 7% से अधिक का सुधार किया, और कुछ मामलों में, इसने प्रोजेक्ट को पूरी तरह विफल होने से बचाया।

सारांश

FedSteer एक स्मार्ट शिक्षक की तरह है जो यह समझता है कि एक अनुपस्थित छात्र का पुराना विचार पुराना (outdated) हो चुका है। इसे खारिज करने या जबरदस्ती फिट करने के बजाय, शिक्षक एक छोटे, सक्रिय समूह का उपयोग करके एक "कंपास" बनाता है। वे अनुपस्थित छात्र की पुरानी "दिशा" लेते हैं और उसे समूह के वर्तमान पथ के अनुरूप स्टीयर (steer) करते हैं। यह पूरी टीम को बिना किसी भारी, पुराने डेटा को ढोए, कुशलतापूर्वक आगे बढ़ने में मदद करता है।

तकनीकी सारांश: FedSteer

समस्या विवरण (Problem Statement)
फेडरेटेड लर्निंग (FL) प्रणालियाँ अक्सर प्रशिक्षण अस्थिरता और उच्च एकत्रीकरण विचरण (aggregation variance) का सामना करती हैं, जो आंशिक क्लाइंट भागीदारी (partial client participation) के कारण होता है, जहाँ प्रत्येक दौर में केवल कुछ ही क्लाइंट्स भाग लेते हैं। यह समस्या सांख्यिकीय विषमता (statistical heterogeneity/non-IID data) और सिस्टम विषमता (system heterogeneity/varying device capabilities) द्वारा और भी बढ़ जाती है, जिससे पक्षपाती भागीदारी पैटर्न उत्पन्न होते हैं।

मौजूदा दृष्टिकोण इन समस्याओं को निष्क्रिय क्लाइंट्स से पुराने अपडेट्स (ग्रेडिएंट्स या वेट्स) को पुन: उपयोग करके कम करने का प्रयास करते हैं। हालाँकि, यह शोध पत्र इन विधियों में एक गंभीर दोष की पहचान करता है: वे पुराने ग्रेडिएंट्स को स्थिर वेक्टर्स (fixed vectors) के रूप में मानते हैं। जैसे-जैसे ग्लोबल मॉडल विकसित होता है, किसी क्लाइंट के पुराने ग्रेडिएंट की दिशा वर्तमान अनुकूलन परिदृश्य (optimization landscape) के साथ तेजी से असंतुलित होती जाती है। अत्यधिक पुरानापन (extreme staleness) वाले परिदृश्यों में (उदाहरण के लिए, बहुत कम भागीदारी संभावना वाले क्लाइंट्स), यह मिसअलाइनमेंट प्रशिक्षण को अस्थिर कर सकता है, जिससे प्रदर्शन पूरी तरह गिर सकता है या समाधान उप-इष्टतम (suboptimal) हो सकते हैं। वर्तमान विधियों में सक्रिय क्लाइंट्स से प्राप्त समसामयिक जानकारी का उपयोग करके इन पुराने ग्रेडिएंट्स की दिशा को सक्रिय रूप से सुधारने के लिए कोई तंत्र नहीं है।

कार्यप्रणाली: FedSteer (Methodology)
लेखक FedSteer प्रस्तावित करते हैं, जो एक नया एल्गोरिदम है जो सुधारात्मक प्रक्षेप (Corrective Projections) और चयनात्मक कैशिंग (Selective Caching) के माध्यम से अत्यधिक ग्रेडिएंट पुरानेपन को "वश में" (tames) करता है। मुख्य तंत्र में वर्तमान अनुकूलन परिदृश्य का एक निम्न-आयामी प्रतिनिधित्व (low-dimensional representation) बनाना शामिल है ताकि पुराने डेटा को वर्तमान वैश्विक उद्देश्य की ओर "स्टीयर" (steer) किया जा सके।

गतिशील ग्रेडिएंट उपस्थान (Dynamic Gradient Subspace):
- सर्वर क्लाइंट्स के एक छोटे, प्रतिनिधि कोर सेट ( $X$ ) से हालिया कच्चे ग्रेडिएंट्स का एक कैश बनाए रखता है।
- ये ग्रेडिएंट्स एक गतिशील, निम्न-आयामी उपस्थान ( $Q_t$ ) बनाते हैं जो $X$ में सक्रिय क्लाइंट्स की भागीदारी के साथ विकसित होता है।
- $Q_t$ किसी भी क्लाइंट के अपडेट का अनुमान लगाने के लिए एक आधार (basis) के रूप में कार्य करता है, जो हालिया ग्रेडिएंट्स की प्रमुख दिशाओं को कैप्चर करता है।
सुधारात्मक प्रक्षेप (Corrective Projections):
- सक्रिय क्लाइंट्स (Active Clients): जब कोई क्लाइंट सक्रिय होता है, तो उसके वास्तविक ग्रेडिएंट ( $g_i^t$ ) को वर्तमान उपस्थान $Q_t$ पर प्रोजेक्ट किया जाता है ताकि इष्टतम निम्न-आयामी निर्देशांक ( $s_i$ ) प्राप्त किए जा सकें। स्थिरता सुनिश्चित करने और विशिष्ट आधार वेक्टर्स के प्रति ओवरफिटिंग को रोकने के लिए इसे एक नियमितीकृत लीस्ट-स्क्वेयर्स समस्या (Ridge Regression) के माध्यम से हल किया जाता है।
- निष्क्रिय क्लाइंट्स (Inactive Clients): पुराने ग्रेडिएंट ( $h_i^t$ ) को पुन: उपयोग करने के बजाय, FedSteer क्लाइंट के कैश किए गए निर्देशांकों ( $s_i$ ) को प्राप्त करता है और उन्हें नए विकसित उपस्थान ( $Q_{t+k}$ ) पर लागू करता है।
- पुनर्निर्मित ग्रेडिएंट अनुमान $\hat{g}_i^{t+k} = Q_{t+k}s_i$ है। यह प्रक्रिया क्लाइंट की ऐतिहासिक जानकारी को वर्तमान अनुकूलन पथ के साथ संरेखित करने के लिए "स्टीयर" करती है, जो कच्चे पुराने अपडेट्स में निहित दिशात्मक मिसअलाइनमेंट को ठीक करती है।
एकत्रीकरण नियम (Aggregation Rule):
- ग्लोबल अपडेट सभी क्लाइंट्स के लिए बेसलाइन अनुमान के रूप में प्रोजेक्टेड ग्रेडिएंट्स का उपयोग करता है।
- सक्रिय सेट से वास्तविक ग्रेडिएंट्स का उपयोग करके एक विचरण न्यूनीकरण सुधार (variance reduction correction) लागू किया जाता है: $\Delta_t = \sum d_i \hat{g}_i + \sum_{i \in A_t} \frac{d_i}{p_i}(g_i^t - \hat{g}_i)$ ।
- लेखक सिद्ध करते हैं कि यह एस्टिमेटर निष्पक्ष (unbiased) है।
चयनात्मक कैशिंग रणनीति (Selective Caching Strategy):
- मेमोरी ओवरहेड को संबोधित करने के लिए, FedSteer सभी $N$ क्लाइंट्स के लिए पूर्ण ग्रेडिएंट कैश नहीं करता है।
- यह केवल छोटे कोर सेट $X$ के लिए पूर्ण ग्रेडिएंट ( $O(|X|d)$ ) और पूरी आबादी के लिए निम्न-आयामी निर्देशांक वेक्टर्स ( $O(N|X|)$ ) कैश करता है।
- एक वार्म-अप चरण (warm-up phase) एक ग्रीडी लोकल सर्च का उपयोग करता है ताकि इष्टतम कोर सेट $X$ को इटरेटिव रूप से चुना जा सके जो पूरी क्लाइंट आबादी में कुल नियमितीकृत प्रक्षेप त्रुटि (regularized projection error) को कम करता है, जिससे यह सुनिश्चित होता है कि उपस्थान प्रतिनिधि (representative) है।

प्रमुख योगदान (Key Contributions)

दिशात्मक सुधार तंत्र (Directional Correction Mechanism): FedSteer पहला ऐसा दृष्टिकोण है जो एक गतिशील ग्रेडिएंट उपस्थान के माध्यम से अन्य क्लाइंट्स की सामूहिक, सामयिक जानकारी का लाभ उठाकर एक क्लाइंट के पुराने अपडेट की दिशा को ठीक करता है, न कि पुराने अपडेट्स को स्थिर वेक्टर्स के रूप में पुन: उपयोग करता है।
मेमोरी दक्षता (Memory Efficiency): सभी क्लाइंट्स के लिए उच्च-आयामी ग्रेडिएंट्स के बजाय निम्न-आयामी निर्देशांकों को कैश करके, FedSteer सर्वर मेमोरी जटिलता को पूर्व विधियों (जैसे FedVARP, MIFA) के $O(Nd) $से घटाकर$ O(N|X| + |X|d) $कर देता है, जहाँ$ |X| \ll N$ है।
सैद्धांतिक गारंटी (Theoretical Guarantees): शोध पत्र एक कठोर अभिसरण विश्लेषण (convergence analysis) प्रदान करता है जो सिद्ध करता है कि FedSteer वैश्विक एकत्रीकरण विचरण को कम करता है। फलस्वरूप, यह पूर्व विधियों की तुलना में अधिक सटीक अभिसरण ऊपरी सीमा (convergence upper bound) प्राप्त करता है जो बिना दिशात्मक सुधार के पुराने डेटा का पुन: उपयोग करती हैं।
अनुभवजन्य प्रदर्शन (Empirical Performance): व्यापक प्रयोगों से पता चलता है कि FedSteer, विशेष रूप से चुनौतीपूर्ण विषमता वाले परिदृश्यों में, अत्याधुनिक बेसलाइन्स (FedAvg, FedVARP, FedStale, SCAFFOLD, MIFA, FedProx) से काफी बेहतर प्रदर्शन करता है।

प्रायोगिक परिणाम (Experimental Results)
EMNIST, Fashion-MNIST और CIFAR-10 पर मध्यम ( $\gamma=0.7$ ) और अत्यधिक ( $\gamma=0.9$ ) विषमता सेटिंग्स के तहत, 10% की सिम्युलेटेड भागीदारी दर (कमजोर और शक्तिशाली क्लाइंट समूहों के बीच विभाजित) के साथ प्रयोग किए गए।

पतन की रोकथाम (Prevention of Collapse): अत्यधिक विषमता वाले परिदृश्यों (जैसे $\gamma=0.9$ के साथ EMNIST) में, SCAFFOLD और FedProx जैसे बेसलाइन विधियों में पूर्ण प्रशिक्षण पतन (सटीकता ~0.05 तक गिरना) देखा गया, जबकि FedVARP और FedStale का प्रदर्शन मानक FedAvg से बेहतर नहीं था। FedSteer ने स्थिर अभिसरण बनाए रखा।
सटीकता में वृद्धि (Accuracy Gains): FedSteer ने अत्यधिक परिदृश्यों में अगले-सर्वश्रेष्ठ विधि से 7.9% से अधिक की सटीकता वृद्धि हासिल की। उदाहरण के लिए, EMNIST ( $\gamma=0.9$ ) पर, FedSteer ने 0.620 की सटीकता प्राप्त की जबकि FedAvg की 0.314 थी। Fashion-MNIST ( $\gamma=0.9$ ) पर, इसने FedAvg पर 8.8% का सुधार किया।
मजबूती (Robustness): विधि लगातार "पूर्ण भागीदारी" ऊपरी सीमा (full participation upper bound) के प्रदर्शन के करीब पहुँचती है, भले ही बेसलाइन विफल हो रहे हों।

महत्व और दावे (Significance and Claims)
यह शोध पत्र दावा करता है कि FedSteer वर्तमान फेडरेटेड लर्निंग साहित्य की एक मौलिक सीमा को संबोधित करता है: मौजूदा पुराने-अपडेट विधियों की विकसित होते अनुकूलन परिदृश्य के अनुकूल न हो पाने की अक्षमता। स्थिर पुराने वेक्टर्स के पुन: उपयोग के बजाय एक गतिशील उपस्थान पर स्थिर प्रक्षेप निर्देशांकों (stable projection coordinates) के पुन: उपयोग की ओर बढ़कर, FedSteer प्रभावी रूप से आंशिक भागीदारी के कारण होने वाले विचरण को कम करता है। लेखक का तर्क है कि यह दृष्टिकोण न केवल अत्यधिक विषम वातावरणों में प्रशिक्षण पतन को रोकता है, बल्कि संसाधन-बाधित एज डिवाइसेस पर मेमोरी-कुशल, उच्च-प्रदर्शन वाले फेडरेटेड लर्निंग के लिए एक सैद्धांतिक और व्यावहारिक ढांचा भी प्रदान करता है। इस कार्य को वास्तविक दुनिया की डिवाइस बाधाओं और डेटा विषमता से उत्पन्न होने वाले "अत्यधिक ग्रेडिएंट पुरानेपन" (extreme gradient staleness) को संभालने की दिशा में एक महत्वपूर्ण कदम के रूप में प्रस्तुत किया गया है।