Federated Learning by Utility-Constrained Stochastic Aggregation for Improving Rational Participation

तकनीकी सारांश: FedUCA – यूटिलिटी-प्रतिबंधित स्टोकेस्टिक एग्रीगेशन द्वारा फेडरेटेड लर्निंग

समस्या विवरण
मानक फेडरेटेड लर्निंग (FL) एल्गोरिदम, जैसे कि FedAvg, अंतर्निहित रूप से यह मान लेते हैं कि क्लाइंट सर्वर-साइड ऑर्केस्ट्रेशन का निष्क्रिय रूप से पालन करते हैं। हालांकि, क्रॉस-साइलो वातावरण (जैसे अस्पताल, उद्यम) में, क्लाइंट तर्कसंगत एजेंट (rational agents) होते हैं जो गैर-मामूली परिचालन लागत (कंप्यूटेशन, अनुपालन, इंफ्रास्ट्रक्चर) वहन करते हैं। फलस्वरूप, भागीदारी एक रणनीतिक निर्णय बन जाती है: एक क्लाइंट केवल तभी सहयोग करेगा यदि कथित वैश्विक मॉडल का उपयोगिता (utility) उसके स्थानीय बेसलाइन से सख्ती से अधिक हो। महत्वपूर्ण सांख्यिकीय विषमता (statistical heterogeneity) के तहत, एक एकल नियतात्मक (deterministic) एग्रीगेशन वेक्टर सभी प्रतिभागियों के विविध व्यक्तिगत तर्कसंगतता (Individual Rationality - IR) थ्रेशोल्ड को एक साथ संतुष्ट करने में विफल रहता है। इससे क्लाइंट एट्रिशन (client attrition) होता है, जहाँ तर्कसंगत क्लाइंट बाहर निकल जाते हैं, जिससे वैश्विक मॉडल के प्रदर्शन में गिरावट आती है और फेडरेटेड प्रशिक्षण प्रक्रिया ध्वस्त हो जाती है।

कार्यप्रणाली (Methodology)
लेखक FedUCA प्रस्तावित करते हैं, जो सर्वर की भूमिका को एक ऐसे ऑप्टिमाइज़र के रूप में पुनर्गठित करता है जो यूटिलिटी-प्रतिबंधित स्टोकेस्टिक एग्रीगेशन के माध्यम से क्लाइंट भागीदारी को बनाए रखकर वैश्विक मॉडल के प्रदर्शन को अधिकतम करने का प्रयास करता है।

1. तर्कसंगत भागीदारी मॉडल (Rational Participation Model):

   • क्लाइंट्स को तर्कसंगत एजेंटों के रूप में मॉडल किया गया है जो एक वैलिडेशन सेट का उपयोग करके वैश्विक मॉडल $\theta_t$ का अपने स्थानीय बेसलाइन के विरुद्ध मूल्यांकन करते हैं।
   • भागीदारी सशर्त है: एक क्लाइंट $k$ तभी भाग लेता है यदि उसकी उपयोगिता $u_k(r_k; \zeta_k) \ge \gamma_k$ हो, जहाँ $r_k$ एग्रीगेशन वेट है, $\zeta_k$ उपयोगिता पैरामीटर हैं, और $\gamma_k$ न्यूनतम स्वीकार्य थ्रेशोल्ड है।
   • पेपर यह मानता है कि क्लाइंट उपयोगिता एग्रीगेशन वेट का एक कन्केव फंक्शन (concave function) है। यह घटते सीमांत प्रतिफल (diminishing marginal returns) को दर्शाता है: एक क्लाइंट एक इष्टतम बिंदु तक बढ़ते प्रभाव से लाभान्वित होता है, जिसके बाद अत्यधिक प्रतिनिधित्व सामान्यीकरण (generalization) को खराब कर देता है।

2. स्टोकेस्टिक एग्रीगेशन और जेन्सन गैप (Jensen's Gap):

   • एक एकल नियतात्मक वेट वेक्टर को अनुकूलित करने के बजाय, सर्वर एक वितरण $s$ से नमूने के रूप में $n_s$ कैंडिडेट एग्रीगेशन रणनीतियों $\{r^j_k\}$ को उत्पन्न करता है।
   • वितरण $s$ स्थिर है और एक डिरिचलेट वितरण (Dirichlet distribution) से लिया गया है जो एक कंसंट्रेशन पैरामीटर $\delta$ द्वारा अभिलक्षित है।
   • मुख्य तंत्र जेन्सन गैप (Jensen's gap) का लाभ उठाता है: क्लाइंट उपयोगिताओं की अवतलता (concavity) के कारण, अपेक्षित एग्रीगेशन वेट की उपयोगिता, यादृच्छिक एग्रीगेशन वेट की अपेक्षित उपयोगिता से अधिक या उसके बराबर होती है ($u_k(\mathbb{E}[r]) \ge \mathbb{E}[u_k(r)]$)।
   • यह गैप एक अंतर्निहित यूटिलिटी सरप्लस (utility surplus) बनाता है। रणनीतियों के मिश्रण पर अनुकूलन करके, सर्वर उन विषम क्लाइंट्स की IR बाधाओं को संतुष्ट कर सकता है जिन्हें एक एकल नियतात्मक वेक्टर संतुष्ट नहीं कर सकता था।

3. अनुकूलन सूत्रीकरण (Optimization Formulation):

   • सर्वर एग्रीगेशन वेट खोजने के लिए एक बाधित व्यवहार्यता समस्या (constrained feasibility problem) को हल करता है जो $\sum s_i u_k(r^i_k) \ge \gamma_k + \epsilon$ को संतुष्ट करता है।
   • यदि अनुकूलन सभी क्लाइंट्स को संतुष्ट करने में विफल रहता है, तो एक फॉलबैक मैकेनिज्म यह सुनिश्चित करता है कि कम से कम एक क्लाइंट भाग ले ताकि डिजेनरेट अपडेट को रोका जा सके।
   • डिरिचलेट कंसंट्रेशन पैरामीटर $\delta$ रणनीति-मिश्रण ज्यामिति (strategy-mixture geometry) को नियंत्रित करता है। सैद्धांतिक विश्लेषण से पता चलता है कि अपेक्षित जेन्सन गैप (और इस प्रकार भागीदारी व्यवहार्यता) $\delta$ के संबंध में गैर-एकदिष्ट (non-monotonic) है, जो मध्यवर्ती मानों पर चरम पर होता है।

4. अभिसरण विश्लेषण (Convergence Analysis):

   • पेपर इस एंडोजेनस सिस्टम के लिए एक अभिसरण लक्षण वर्णन प्रदान करता है जहाँ भागीदारी सेट और एग्रीगेशन वेट सह-विकसित (co-evolve) होते हैं।
   • अभिसरण बाउंड में एक एग्रीगेशन विसंगति (aggregation discrepancy) ($E_{agg}$) शामिल है, जो IR बाधाओं को संतुष्ट करने के लिए लक्षित ऑब्जेक्टिव वेट से विचलित होने के कारण उत्पन्न पूर्वाग्रह का प्रतिनिधित्व करती है। यह विसंगति डिरिचलेट पैरामीटर $\delta$ और रणनीतियों की संख्या $n_s$ द्वारा सीमित है।

प्रमुख योगदान

• FedUCA फ्रेमवर्क: एक गैर-मौद्रिक, प्रदर्शन-संचालित एग्रीगेशन फ्रेमवर्क पेश करता है जो व्यक्तिगत तर्कसंगतता को संतुष्ट करने के लिए सर्वर समन्वय को एक बाधित व्यवहार्यता समस्या के रूप में मानता है।
• जेन्सन सरप्लस मैकेनिज्म: यह प्रदर्शित करता है कि कई एग्रीगेशन रणनीतियों पर जेन्सन लोअर-बाउंड को अनुकूलित करना, अवतल उपयोगिताओं के तहत एक उपयोगिता सरप्लस उत्पन्न करता है, जो विषमता के विरुद्ध एक मजबूती (robustness) बफर के रूप में कार्य करता है।
• स्टोकेस्टिक मैकेनिज्म: एक डिरिचलेट-सैंपल मिश्रण वेट मैकेनिज्म प्रस्तावित करता है जहाँ कंसंट्रेशन पैरामीटर $\delta$ प्रेरित जेन्सन सरप्लस और भागीदारी व्यवहार्यता को नियंत्रित करता है।
• अभिसरण लक्षण वर्णन: इस प्रकृति के पहले फेडरेटेड सिस्टम के लिए अभिसरण विश्लेषण प्रदान करता है, जो एग्रीगेशन विसंगति को सीधे मैकेनिज्म डिज़ाइन पैरामीटर $\delta$ से जोड़ता है।

प्रायोगिक परिणाम
लेखकों ने विभिन्न स्तरों की डेटा विषमता (Dirichlet splits) के तहत CIFAR-10, CIFAR-100, F-MNIST और 20 Newsgroups पर FedUCA का मूल्यांकन किया।

• भागीदारी दरें: तर्कसंगत भागीदारी बाधाओं के तहत, मानक बेसलाइन्स (FedAvg, FedProx, AAggFF-S) स्व-सुदृढ़ीकरण पतन (self-reinforcing collapse) से ग्रस्त हुए, जिसमें CIFAR-10 पर भागीदारी गिरकर 12% से नीचे चली गई। IncFL ने इसमें सुधार किया लेकिन लगभग 35% पर स्थिर हो गया। FedUCA ने भागीदारी दर को 51% और 54% के बीच बनाए रखा।
• वैश्विक सटीकता: FedUCA ने बेसलाइन्स की तुलना में काफी उच्च सर्वर मॉडल सटीकता प्राप्त की। उदाहरण के लिए, Dirichlet(0.5, 1.0) के साथ CIFAR-10 पर, FedAvg (16.63%) और IncFL (32.35%) की तुलना में FedUCA ने 66.89% सटीकता प्राप्त की।
• पैरामीटर संवेदनशीलता: प्रयोगों ने इस सैद्धांतिक भविष्यवाणी की पुष्टि की कि डिरिचलेट कंसंट्रेशन पैरामीटर $\delta$ का भागीदारी पर गैर-एकदिष्ट प्रभाव पड़ता है, जिसमें इष्टतम प्रदर्शन $\delta \in [0.5, 1.0]$ की सीमा में देखा गया।

महत्व और दावे
पेपर दावा करता है कि FedUCA एक व्यावहारिक, गैर-मौद्रिक विकल्प प्रदान करता है जो इक्विलिब्रियम-आधारित और प्रोत्साहन-संचालित दृष्टिकोणों (जैसे कॉन्ट्रैक्ट थ्योरी या प्राइसिंग मैकेनिज्म) का स्थान ले सकता है। व्यक्तिगत तर्कसंगतता के तहत एक व्यवहार्यता समस्या के रूप में एग्रीगेशन को पुनर्गठित करके, FedUCA बाहरी पुरस्कारों या जटिल रणनीतिक मॉडलिंग की आवश्यकता के बिना स्थिर क्रॉस-साइलो सहयोग को सक्षम बनाता है। लेखक इस बात पर जोर देते हैं कि मैकेनिज्म-प्रेरित एग्रीगेशन विसंगति तर्कसंगत भागीदारी प्रबंधन का एक गणितीय पदचिह्न है, जिसे सीधे डिरिचलेट पैरामीटर द्वारा नियंत्रित किया जाता है, जो मैकेनिज्म डिज़ाइन और ऑप्टिमाइज़ेशन थ्योरी के बीच के लूप को प्रभावी ढंग से बंद करता है। यह कार्य प्रमाणित करता है कि रणनीतिक यादृच्छिकता (strategic randomization) केवल एक ह्यूरिस्टिक नहीं है, बल्कि जेन्सन गैप को पाटने और तर्कसंगत FL सेटिंग्स में भागीदारी को स्थिर करने के लिए एक गणितीय रूप से आधारित तरीका है।