Adaptive Data Admission and Retention for Streaming Federated Learning

तकनीकी सारांश: स्ट्रीमिंग फेडरेटेड लर्निंग के लिए अनुकूली डेटा प्रवेश और प्रतिधारण (Adaptive Data Admission and Retention for Streaming Federated Learning)

समस्या विवरण (Problem Statement)
यह शोध पत्र उन वातावरणों में स्ट्रीमिंग फेडरेटेड लर्निंग (FL) की चुनौती को संबोधित करता है जहाँ क्लाइंट डिवाइसों में सीमित मेमोरी होती है और प्रशिक्षण डेटा क्रमिक रूप से आता है जिसमें परिवर्तनीय नमूनाकरण लागत (time-varying sampling costs) शामिल होती है। स्थिर ऑफलाइन डेटासेट वाले पारंपरिक FL सेटअप के विपरीत, स्ट्रीमिंग FL में नए नमूनों का एक निरंतर प्रवाह होता है जिसमें अधिग्रहण, एनोटेशन या ट्रांसमिशन लागत आती है। क्लाइंट सभी ऐतिहासिक डेटा को अनिश्चित काल तक संग्रहीत नहीं कर सकते। फलस्वरूप, सिस्टम एक मौलिक ट्रेड-ऑफ (trade-off) का सामना करता है: नए नमूनों को स्वीकार करने से डेटा विविधता और सामान्यीकरण (generalization) में सुधार होता है लेकिन तत्काल लागत आती है, जबकि ऐतिहासिक नमूनों को बनाए रखने और पुन: उपयोग करने से लागत कम होती है लेकिन "पुन: उपयोग असंतुलन" (stale डेटा पर अत्यधिक निर्भरता) और मेमोरी ओवरफ्लो का जोखिम होता है।

मुख्य समस्या को एक प्रतिबंधित स्टोकेस्टिक ऑप्टिमाइज़ेशन (constrained stochastic optimization) कार्य के रूप में तैयार किया गया है। इसका उद्देश्य संचयी अतिरिक्त जनसंख्या जोखिम (cumulative excess population risk) (सीखे गए मॉडल के जोखिम और इष्टतम जनसंख्या जोखिम के बीच का अंतर) को न्यूनतम करना है, जो दो दीर्घकालिक बाधाओं के अधीन है:

1. नमूनाकरण-लागत बजट (Sampling-cost budget): नमूनों को स्वीकार करने की औसत लागत एक निर्धारित सीमा से अधिक नहीं होनी चाहिए।
2. बफर-कब्जा बाधा (Buffer-occupancy constraint): प्रत्येक क्लाइंट के स्थानीय बफर में संग्रहीत नमूनों की औसत संख्या उसकी मेमोरी क्षमता से अधिक नहीं होनी चाहिए।

महत्वपूर्ण रूप से, यह ढांचा नियंत्रण को अलग करता है: एक केंद्रीय पैरामीटर सर्वर (PS) प्रवेश मात्रा (कितने नए नमूने स्वीकार किए जाएं) का निर्णय लेता है, जबकि व्यक्तिगत क्लाइंट स्थानीय जानकारी के आधार पर अपने स्थानीय बफर्स का स्वतंत्र रूप से प्रबंधन करते हैं (कौन से नमूने हटा दिए जाएं), बिना PS द्वारा कच्चे डेटा तक पहुँच प्राप्त किए।

कार्यप्रणाली (Methodology)
लेखक एक एकीकृत ढांचे का प्रस्ताव करते हैं जिसमें एक सैद्धांतिक शिक्षण सीमा (theoretical learning bound) और एक ऑनलाइन नियंत्रण नीति शामिल है।

1. लर्निंग-एरर बाउंड व्युत्पत्ति (Learning-Error Bound Derivation):
   शोध पत्र पहले संचयी अतिरिक्त जनसंख्या जोखिम पर एक स्पष्ट ऊपरी सीमा (upper bound) व्युत्पन्न करता है। यह सीमा स्पष्ट रूप से तीन महत्वपूर्ण कारकों को दर्शाती है:

• तत्काल प्रशिक्षण नमूना आकार ($n(t)$): बफर में वर्तमान में उपयोग किए जा रहे नमूनों की संख्या।
• विशिष्ट-नमूना वृद्धि ($N(t)$): देखे गए अद्वितीय नमूनों की संचयी संख्या।
• पुन: उपयोग असंतुलन (Reuse imbalance): संग्रहीत नमूनों के असमान पुन: उपयोग के कारण होने वाला सांख्यिकीय विविधता का नुकसान।
  इसे पकड़ने के लिए, लेखक एक प्रभावी नमूना आकार (effective sample size) मीट्रिक, $\tilde{N}_{eff}(t) = N(t) \cdot \tilde{V}(t)$ पेश करते हैं, जहाँ $\tilde{V}(t)$ नमूना पुन: उपयोग की एकरूपता को मापने वाला एक कारक है। यह सीमा दर्शाती है कि यदि नमूना पुन: उपयोग अत्यधिक असमान है, तो सीखने का प्रदर्शन गिर जाता है।

2. एक्टिव-कंस्ट्रेंट ड्रिफ्ट-प्लस-पेनल्टी (ACDPP) नीति:
   सिस्टम को ऑनलाइन अनुकूलित करने के लिए, लेखक ACDPP नीति विकसित करते हैं, जो निम्नलिखित का संयोजन है:

• क्लाइंट-साइड $K$-स्टेप रिटेंशन (Client-Side $K$-Step Retention): एक संरचित नियम जहाँ प्रत्येक स्वीकृत नमूने को छोड़ने से पहले ठीक $K$ राउंड के लिए रखा जाता है। यह नियत (deterministic) नियम पुन: उपयोग पैटर्न को सरल बनाता है, जिससे प्रभावी नमूना आकार कारक $\tilde{V}(t)$ को क्लोज्ड फॉर्म में व्यक्त किया जा सकता है।
• सर्वर-साइड ऑनलाइन एडमिशन (Server-Side Online Admission): एक संशोधित ड्रिफ्ट-प्लस-पेनल्टी (DPP) एल्गोरिदम। सर्वर नमूनाकरण-लागत उल्लंघनों को ट्रैक करने के लिए एक वर्चुअल कॉस्ट-डेट क्यू (cost-debt queue) बनाए रखता है। यह एक "ड्रिफ्ट-प्लस-पेनल्टी" अभिव्यक्ति को न्यूनतम करता है जहाँ पेनल्टी टर्म पहले व्युत्पन्न लर्निंग-एरर बाउंड के सरोगेट (surrogate) के रूप में कार्य करता है।
• समय-परिवर्तनीय आयताकार बाधाएं (Time-Varying Rectangular Constraints): मानक DPP ढांचे में एक नवीन जुड़ाव। व्यवहार्य प्रवेश क्षेत्र को एक समय-परिवर्तनीय अंतराल $[\Lambda_{min}(t), \Lambda_{max}(t)]$ के भीतर सीमित किया गया है जो जैसे-जैसे समय बीतता है, एक लक्ष्य ऑपरेटिंग पॉइंट $\bar{\Lambda}$ की ओर धीरे-धीरे सिकुड़ता जाता है। यह डिज़ाइन शुरुआती चरण के लचीलेपन (बदलती लागतों के अनुकूल होने के लिए) और अंतिम चरण की स्थिरता (एरर बाउंड में $1/n(t)$ पदों को कम करने के लिए) के बीच संतुलन बनाता है।

प्रमुख योगदान (Key Contributions)

• सैद्धांतिक लक्षण वर्णन (Theoretical Characterization): शोध पत्र मेमोरी-आधारित स्ट्रीमिंग FL के लिए एक लर्निंग-एरर बाउंड स्थापित करता है जो प्रदर्शन को तत्काल नमूना आकार, विशिष्ट नमूना गणना और पुन: उपयोग असंतुलन से प्रभावी नमूना आकार प्रतिनिधित्व के माध्यम से स्पष्ट रूप से जोड़ता है।
• एल्गोरिदम डिज़ाइन: ACDPP नीति का प्रस्ताव, जो एक संरचित $K$-स्टेप क्लाइंट रिटेंशन नियम के साथ समय-परिवर्तनीय आयताकार बाधाओं वाले सर्वर-साइड ऑनलाइन एडमिशन नियम को एकीकृत करता है।
• प्रदर्शन गारंटी (Performance Guarantees): लेखक सिद्ध करते हैं कि प्रस्तावित नीति प्राप्त करती है:
  • सबलीनियर रिग्रेट (Sublinear Regret): संचयी अतिरिक्त जोखिम एक लागत रहित ओरेकल बेंचमार्क (जिसमें असीमित मेमोरी और शून्य नमूनाकरण लागत है) के सापेक्ष उप-रेखीय (sublinearly) रूप से बढ़ता है।
  • सबलीनियर कॉस्ट वायलेशन (Sublinear Cost Violation): नमूनाकरण-लागत बजट का संचयी उल्लंघन उप-रेखीय रूप से बढ़ता है।
  • बाउंडेड बफर वायलेशन (Bounded Buffer Violation): रिटेंशन होराइजन $K$ के ऑफलाइन चयन के माध्यम से, दिखाया गया है कि संचयी बफर-कब्जा उल्लंघन समान रूप से सीमित ($O(1)$) है।
• तुलना ढांचा (Comparison Framework): विश्लेषण एक बहु-चरणीय तुलना श्रृंखला का उपयोग करता है जो ACDPP नीति को एक सहायक निरंतर-प्रवेश (constant-admission) नीति और अंततः लागत रहित ओरेकल से जोड़ता है, जिससे स्पष्ट रिग्रेट बाउंड प्राप्त होते हैं।

प्रायोगिक परिणाम (Experimental Results)
नीति का मूल्यांकन तीन इमेज क्लासिफिकेशन डेटासेट्स पर किया गया: MNIST, CIFAR-10, और ImageNette, दोनों नॉन-आई.आई.डी. (non-i.i.d.) और आई.आई.डी. (i.i.d.) डेटा पार्टीशन के तहत।

• प्रदर्शन: ACDPP ने हाइब्रिड पॉलिसी (ताज़ा और पुराने नमूनों का मिश्रण) और निरंतर-प्रवेश पॉलिसी सहित बेसलाइन्स को लगातार पछाड़ दिया। CIFAR-10 (non-i.i.d.) पर, ACDPP ने हाइब्रिड बेसलाइन पर 26.7 प्रतिशत अंक और निरंतर-प्रवेश बेसलाइन पर 3.5 अंक का सुधार किया।
• अभिसरण गति (Convergence Speed): ACDPP काफी तेजी से अभिसरित हुआ, विभिन्न डेटासेट्स पर बेसलाइन्स की तुलना में लगभग 2.2x से 2.6x तेज़ लक्ष्य सटीकता तक पहुँचा।
• बाधा संतुष्टि (Constraint Satisfaction): प्रयोगों ने पुष्टि की कि नीति ने बफर ऑक्यूपेंसी को निर्धारित सीमाओं के भीतर बनाए रखा और कॉस्ट-डेट क्यू को स्थिर किया, जो इसके सैद्धांतिक दावों को प्रमाणित करता है।

महत्व और दावे (Significance and Claims)
शोध पत्र का दावा है कि यह केवल सिस्टम-स्तरीय संसाधनों (संचार/कंप्यूटेशन) या स्थिर नमूना चयन के बजाय, गतिशील लागतों के तहत प्रवेश और मेमोरी प्रबंधन को संयुक्त रूप से अनुकूलित करने वाला एक लर्निंग-केंद्रित ढांचा प्रदान करके मौजूदा साहित्य के अंतर को पाटता है।

• यह "स्कोर-आधारित" चयन विधियों (जो मानते हैं कि उच्च-ग्रेडिएंट नमूने मूल्यवान हैं) से आगे बढ़कर सीधे संचयी अतिरिक्त जनसंख्या जोखिम को न्यूनतम करता है, जिसके लिए स्पष्ट रिग्रेट गारंटी है।
• यह स्ट्रीमिंग डेटा की विशिष्ट चुनौती को संबोधित करता है जहाँ शिक्षार्थी को यह तय करना होता है कि कितने नमूनों को स्वीकार किया जाए और उन्हें कितनी देर तक रखा जाए, एक ऐसी समस्या जिसे पूर्ववर्ती संसाधन-केंद्रित या चयन-केंद्रित कार्यों द्वारा पूरी तरह से संबोधित नहीं किया गया है।
• लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण स्पष्ट, सबलीनियर रिग्रेट गारंटी प्रदान करता है और नमूना प्रवेश एवं प्रतिधारण के जुड़े प्रभावों को संभालता है, जो विकसित होते डेटा स्ट्रीम वाले एज सिस्टम में गोपनीयता-अनुरत (privacy-aware), बड़े पैमाने पर मॉडल प्रशिक्षण के लिए एक सिद्धांत आधारित समाधान प्रदान करता है।