🤖 machine learning

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

यह शोध पत्र फेडरेटेड लर्निंग के लिए एक नवीन, गणनात्मक रूप से कुशल द्वितीय-क्रम (second-order) अनुकूलन विधि प्रस्तावित करता है जो बेयसियन दृष्टिकोणों के अनिश्चितता मात्रा निर्धारण और वैयक्तिकरण लाभों को प्राप्त करता है, जबकि सटीकता और दक्षता में मौजूदा अत्याधुनिक विधियों से काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

प्रकाशित 2026-06-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि छात्रों का एक समूह है (क्लाइंट्स) जो सभी अलग-अलग घरों में रहते हैं और उनके पास होमवर्क के अपने अनूठे सेट हैं। वे एक विषय को एक साथ सीखना चाहते हैं, लेकिन एक सख्त नियम है: कोई भी अपना घर नहीं छोड़ सकता या अपने वास्तविक होमवर्क पेपर साझा नहीं कर सकता। वे केवल एक शिक्षक (सर्वर) को अपने उत्तर भेज सकते हैं जो बीच में बैठा है।

यह फेडरेटेड लर्निंग (Federated Learning) है। शिक्षक उत्तरों को एकत्र करता है, उनका औसत निकालता है ताकि एक "मास्टर गाइड" बनाई जा सके, और उसे वापस छात्रों को भेज देता है।

पुराने तरीके के साथ समस्या

आमतौर पर, शिक्षक उत्तरों का एक साधारण औसत लेता है (जैसे FedAvg)। यह तब बहुत अच्छा काम करता है जब सभी के पास समान होमवर्क हो। लेकिन क्या होगा यदि छात्र A के पास केवल गणित के सवाल हैं, छात्र B के पास केवल इतिहास है, और छात्र C के पास दोनों का मिश्रण है? एक एकल "मास्टर गाइड" किसी की भी ज्यादा मदद नहीं कर पाएगी क्योंकि वह सब कुछ का एक धुंधला मिश्रण होगा।

साथ में ही, पुराने तरीके यह नहीं बताते कि वे उत्तर के बारे में कितने आश्वस्त हैं। यदि कोई छात्र अनुमान लगाता है, तो शिक्षक को यह नहीं पता चलता कि यह एक भाग्यशाली अनुमान है या एक आत्मविश्वासपूर्ण गणना।

कुछ शोधकर्ताओं ने बेयसियन लर्निंग (Bayesian Learning) का उपयोग करके इसे ठीक करने की कोशिश की। इसके बजाय केवल एक उत्तर भेजने के बजाय, छात्र एक "संभावनाओं का बादल" (एक प्रोबेबिलिटी डिस्ट्रीब्यूशन) भेजते हैं ताकि यह दिखाया जा सके कि वे कितने आश्वस्त हैं। यह वैयक्तिकरण (personalization) और अनिश्चितता को जानने के लिए बहुत अच्छा है। लेकिन, इन "बादलों" की गणना करना और उन्हें भेजना एक पोस्टकार्ड के बजाय किताबों की एक लाइब्रेरी भेजने जैसा है। यह बहुत भारी, धीमा और महंगा है, खासकर उन छात्रों के लिए जिनके पास कमजोर इंटरनेट या पुराने कंप्यूटर हैं।

नया समाधान: FedIvon

इस शोध के लेखकों ने FedIvon नामक एक नई विधि बनाई है। इसे एक स्मार्ट सारांश के रूप में समझें जो एक भारी लाइब्रेरी की तरह महसूस होता है लेकिन एक पोस्टकार्ड जितना हल्का है।

यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. "सेकंड-ऑर्डर" शॉर्टकट (स्मार्ट मैप)

कल्पना कीजिए कि आप सबसे निचली घाटी (सबसे अच्छा उत्तर) खोजने के लिए पहाड़ से नीचे उतर रहे हैं।

पुराने तरीके (जैसे Adam) एक ऐसे हाइकर की तरह हैं जो केवल अपने पैरों के नीचे के ढलान को देखता है। वे वर्तमान में जमीन कितनी ढालू है, इसके आधार पर छोटे कदम उठाते हैं। यह काम करता है, लेकिन यह धीमा हो सकता है और छोटे गड्ढों में फंस सकता है।
पारंपरिक बेयसियन तरीके पूरी घाटी के आकार को समझने के लिए पूरे पर्वत श्रृंखला का मानचित्र बनाने की कोशिश करते हैं। यह सटीक है लेकिन इसमें नक्शा बनाने में बहुत समय लगता है।
FedIvon एक स्मार्ट कंपास का उपयोग करने वाले हाइकर की तरह है। यह पूरे पहाड़ का नक्शा नहीं बनाता, बल्कि IVON नामक एक ट्रिक का उपयोग करके जमीन की वक्रता (curvature) का तेजी से अनुमान लगाता है (क्या यह एक खड़ी चट्टान है या एक हल्की ढलान?)। यह इसे पूरे नक्शे की आवश्यकता के बिना बड़े, स्मार्ट कदम उठाने की अनुमति देता है। यह "पूर्ण मानचित्र" (अनिश्चितता और सटीकता) के लाभ प्राप्त करता है, बिना भारी कार्यभार के।

2. "पर्सनलाइज्ड" प्रायर (शिक्षक का संकेत)

इस नई प्रणाली में, शिक्षक एक "संकेत" (प्रायर डिस्ट्रीब्यूशन) वापस भेजता है जो इस पर आधारित होता है कि पूरी क्लास क्या जानती है।

जब एक छात्र सीखता है, तो वह शिक्षक के संकेत से शुरू करता है और फिर अपने विशिष्ट होमवर्क के आधार पर इसे बहुत अधिक समायोजित करता है।
यदि छात्र के पास बहुत कम होमवर्क (डेटा) है, तो वे शिक्षक के संकेत पर अधिक भरोसा करते हैं।
यदि छात्र के पास बहुत अधिक अद्वितीय होमवर्क है, तो वे अपने स्वयं के डेटा पर अधिक भरोसा करते हैं।
यह हर छात्र के लिए एक पर्सनलाइज्ड मॉडल बनाता है जो अभी भी समूह से जुड़ा हुआ है।

3. कुशल विनिमय (Efficient Exchange)

डेटा के भारी "बादल" को भेजने के बजाय, FedIvon मॉडल के प्रत्येक भाग के लिए केवल दो छोटी संख्याएं भेजता है:

सबसे अच्छा अनुमान (औसत)।
आत्मविश्वास का स्तर (उत्तर कितना भिन्न हो सकता है)।

क्योंकि FedIivon के पीछे का गणित इतना कुशल है (यह अलग से, महंगी गणना करने के बजाय सीखते समय इन संख्याओं की गणना आंतरिक रूप से करता है), यह लगभग साधारण, गैर-बेयसियन तरीकों जितना तेज़ चलता है।

उन्होंने क्या पाया?

लेखकों ने तीन अलग-अलग "होमवर्क सेट्स" (डेटासेट्स) पर इसका परीक्षण किया:

EMNIST (हाथ से लिखे अक्षर/संख्याएं)।
SVटन (SVHN) (सड़क के संकेतों से घर के नंबर)।
CIFAR-10 (बिल्लियों, कारों जैसी वस्तुओं की तस्वीरें)।

उन्होंने एक ऐसा परिदृश्य सिम्युलेट किया जहाँ 200 छात्रों में से प्रत्येक के पास बहुत कम उदाहरण (100 से कम) और बहुत अलग प्रकार का डेटा था।

परिणाम:

बेहतर सटीकता: FedIvon ने पुराने "औसत" तरीकों और यहाँ तक कि अन्य जटिल बेयसियन तरीकों से भी बेहतर स्कोर प्राप्त किया।
बेहतर आत्मविश्वास: यह यह जानने में बहुत बेहतर था कि वह कब अनिश्चित है। एक परीक्षण में जहाँ उन्होंने "अजीब" छवियों (Out-of-Distribution) को पहचानने की कोशिश की, FedIvon अन्य के मुकाबले यह कहने में सबसे अच्छा था कि, "मुझे नहीं पता कि यह क्या है," बजाय इसके कि वह आत्मविश्वास के साथ गलत अनुमान लगाए।
गति: इस सारी फैंसी गणित के बावजूद, इसने प्रक्रिया को धीमा नहीं किया। यह साधारण तरीकों जितना ही तेज़ था।

मुख्य निष्कर्ष

FedIvon निजी डेटा साझा किए बिना कंप्यूटरों के एक साथ सीखने का एक नया तरीका है। यह स्मार्ट (यह जानने में कि वह कितना आश्वस्त है), पर्सनल (प्रत्येक उपयोगकर्ता के अद्वितीय डेटा के अनुकूल होने में) और तेज़ (नेटवर्क को धीमा किए बिना) होने में सक्षम है। यह "बेयसियन लर्निंग बहुत भारी है" की समस्या को एक चतुर गणितीय शॉर्टकट का उपयोग करके हल करता है जो भारी काम को हल्का बना देता है।

तकनीकी सारांश: अनिश्चितता और वैयक्तिकरण के माध्यम से कुशल द्वितीय-क्रम अनुकूलन के साथ फेडरेटेड लर्निंग

समस्या विवरण

फेडरेटेड लर्निंग (FL) विकेंद्रीकृत क्लाइंट्स के बीच कच्चा डेटा साझा किए बिना सहयोगात्मक मॉडल प्रशिक्षण को सक्षम बनाता है। हालाँकि, मानक FL दृष्टिकोणों को दो प्राथमिक चुनौतियों का सामना करना पड़ता है:

डेटा विषमता (Data Heterogeneity): जब क्लाइंट डेटा गैर-IID (गैर-स्वतंत्र और समान रूप से वितरित) होता है, तो एक एकल वैश्विक मॉडल अक्सर व्यक्तिगत क्लाइंट वितरणों का प्रभावी ढंग से प्रतिनिधित्व करने में विफल रहता है, जिससे उप-इष्टतम प्रदर्शन होता है।
अनिश्चितता परिमाणीकरण का अभाव (Lack of Uncertainty Quantification): मानक FL विधियाँ आमतौर पर मॉडल मापदंडों के पॉइंट एस्टीमेट्स (point estimates) सीखती हैं। यह उन्हें कम-डेटा वाले परिदृश्यों में ओवरफिटिंग के प्रति संवेदनशील बनाता है और प्रेडिक्टिव अनिश्चितता प्रदान करने में असमर्थ बनाता है, जो आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन जैसे कार्यों के लिए महत्वपूर्ण है।

जबकि बेयसियन FL (Bayesian FL) हिलेरार्किकल फ्रेमवर्क के माध्यम से अनिश्चितता को कैप्चर करने और वैयक्तिकरण को सक्षम करने के लिए पोस्टीरियर वितरणों को सीखने के माध्यम से एक सिद्धांतवादी समाधान प्रदान करता है, मौजूदा विधियाँ महत्वपूर्ण बाधाओं का सामना करती हैं। वर्तमान बेयसियन FL दृष्टिकोण अक्सर महंगे रूटीन (जैसे, MCMC सैंपलिंग, स्पष्ट हेसियन (Hessian) गणना की आवश्यकता वाला लैप्लेस अप्रोक्सिमेशन, या डीप एन्सेम्बल्स) पर निर्भर करते हैं और पूर्ण पोस्टीरियर वितरणों को ट्रांसमिट करके उच्च संचार लागत (communication costs) वहन करते हैं। ये कारक स्केलेबिलिटी को सीमित करते हैं, विशेष रूप से संसाधन-बाधित क्लाइंट्स के लिए।

कार्यप्रणाली: FedIvon

लेखक FedIvon प्रस्तावित करते हैं, जो एक नवीन बेयसियन FL एल्गोरिदम है जो कुशल द्वितीय-क्रम वैरायशनल इन्फरेंस (second-order variational inference) करने के लिए इम्प्रूव्ड वैरायशनल ऑनलाइन न्यूटन (IVON) का लाभ उठाता है। यह विधि बेयसियन इन्फरेंस के लाभों को Adam जैसे प्रथम-क्रम ऑप्टिमाइज़र की तुलनात्मक कम्प्यूटेशनल और संचार दक्षता के साथ संतुलित करती है।

मुख्य घटक

क्लाइंट-साइड वैरायशनल इन्फरेंस (IVON):
- एक पॉइंट एस्टीमेट सीखने के बजाय, प्रत्येक क्लाइंट अपने स्थानीय पोस्टीरियर वितरण $q_k(\theta)$ को एक डायगोनल कोवेरिएंस मैट्रिक्स के साथ गाऊसी (Gaussian) $N(\theta | m_k, \text{diag}(\sigma_k^2))$ के रूप में अनुमानित करता है।
- द्वितीय-क्रम दक्षता (Second-Order Efficiency): Adam के विपरीत, जो वर्गाकार ग्रेडिएंट्स के आधार पर लर्निंग रेट को एडजस्ट करता है, IVON स्पष्ट गणना के बिना डायगोनल हेसियन ( $h$ ) का अनुमान लगाने के लिए रीपैरामीट्राइजेशन का उपयोग करता है। वेरिएंस को $\sigma^2 = 1/(h + \delta)$ के रूप में प्राप्त किया जाता है।
- अनुकूलन (Optimization): एल्गोरिदम नेचुरल ग्रेडिएंट्स का उपयोग करके दोनों मीन वेक्टर ( $m$ ) और वेरिएंस ( $\sigma^2$ ) को अपडेट करता है। यह स्वाभाविक रूप से अनिश्चितता अनुमान प्रदान करता है और तेज़ अभिसरण (convergence) के लिए लॉस फंक्शन की ज्यामिति को कैप्चर करता है, जबकि Adam के समान कम्प्यूटेशनल लागत बनाए रखता है।
सर्वर-साइड पोस्टीरियर एग्रीगेशन:
- सर्वर वैश्विक पोस्टीरियर की गणना करने के लिए क्लाइंट पोस्टीरियर्स को एकत्रित करता है। चूंकि गाऊसी वितरणों का गुणन भी गाऊसी होता है, इसलिए वैश्विक पोस्टीरियर को गाऊसी $N(\theta | \mu, \Lambda^{-1})$ के रूप में अनुमानित किया जाता है।
- एग्रीगेशन रणनीति: वैश्विक माध्य ( $\mu$ ) और प्रिसिजन मैट्रिक्स ( $\Lambda$ ) की गणना स्थानीय माध्य और प्रिसिजन के भारित योग (weighted sums) के रूप में की जाती है, जहाँ वेट्स क्लाइंट डेटासेट के आकार ( $N_k$ ) के समानुपाती होते हैं। यह रणनीति कम्प्यूटेशनल रूप से कुशल है क्योंकि इसमें पूर्ण मॉडल वेट्स या जटिल वितरणों के बजाय केवल माध्य और डायगोनल वेरिएंस (या हेसियन) को ट्रांसमिट करने की आवश्यकता होती है।
हाइरार्किकल बेयसियन फ्रेमवर्क के माध्यम से वैयक्तिकरण:
- FedIvon स्वाभाविक रूप से वैयक्तिकृत FL का समर्थन करता है। सर्वर से प्राप्त वैश्विक पोस्टीरियर क्लाइंट के स्थानीय अनुकूलन के लिए एक प्रायर ( $p_k(\theta)$ ) के रूप में कार्य करता है।
- क्लाइंट एक वैयक्तिकृत लॉस फंक्शन को कम करता है: $L_k(q) = \mathbb{E}_{q_k}[\bar{\ell}_k(\theta)] + \beta D_{KL}(q_k(\theta) \| p_k(\theta))$ ।
- हाइपरपैरामीटर $\beta$ स्थानीय अनुकूलन और वैश्विक ज्ञान के बीच ट्रेड-ऑफ को नियंत्रित करता है। जब $\beta=0$ होता है, तो मॉडल पूरी तरह से वैयक्तिकृत होता है; उच्च मान अधिक वैश्विक जानकारी को शामिल करते हैं।

प्रमुख योगदान

कुशल द्वितीय-क्रम बेयसियन FL: FedIvon का परिचय, जो IVON का उपयोग करता है ताकि प्रथम-क्रम विधियों (जैसे Adam) के समान कम्प्यूटेशनल लागत के साथ वैरायशनल इन्फरेंस किया जा सके, जबकि यह स्पष्ट गणना के बिना दूसरे-क्रम की जानकारी (हेसियन अनुमान) प्रदान करता है।
बेहतर प्रदर्शन और अनिश्चितता: यह प्रदर्शन करना कि FedIvon, स्टेट-ऑफ-द-आर्ट (SOTA) बेयसियन और गैर-बेयसियन FL विधियों की तुलना में बेहतर प्रेडिक्टिव सटीकता और बेहतर अनिश्चितता अनुमान प्राप्त करता है।
नेटिव वैयक्तिकरण (Native Personalization): एक ढांचा जो सर्वर के पोस्टीरियर को प्रायर के रूप में उपयोग करके क्लाइंट-स्तरीय मॉडल वैयक्तिकरण को स्वाभाविक रूप से सक्षम करता है, जो स्थानीय डेटा विशेषताओं और वैश्विक साझा ज्ञान के बीच प्रभावी ढंग से संतुलन बनाता है।

प्रयोगात्मक परिणाम

लेखकों ने तीन डेटासेट्स (EMNIST, SVHN, CIFAR-10) पर 200 क्लाइंट्स के साथ नॉन-IID सेटिंग्स के तहत FedIvon का मूल्यांकन किया, जिनमें से प्रत्येक के पास सीमित डेटा (<100 उदाहरण) था।

मानक FL परिणाम

सटीकता और अंशांकन (Accuracy & Calibration): FedI目前的 सभी डेटासेट्स में टेस्ट सटीकता, एक्सपेक्टेड कैलिब्रेशन एरर (ECE), नेगेटिव लॉग लाइकलीहुड (NLL) और ब्रायर स्कोर (Brier Score) में FedIvon ने बेसलाइन्स (FedAvg, FedLaplace) को पछाड़ दिया।
OOD डिटेक्शन: आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन कार्यों में, FedIvon ने बेसलाइन्स की तुलना में प्रतिस्पर्धी या बेहतर AUROC स्कोर प्राप्त किया, जो इसकी प्रेडिक्टिव अनिश्चितता को प्रभावी ढंग से मापने की क्षमता को प्रमाणित करता है।
अभिसरण (Convergence): हालांकि FedIvon ने ग्रेडिएंट एस्टीमेशन के लिए वेट्स के स्टोकेस्टिक सैंपलिंग के कारण थोड़ा धीमा प्रारंभिक अभिसरण दिखाया, लेकिन बेहतर हेसियन एप्रोक्सिमेशन के कारण प्रशिक्षण के दौरान यह अन्य विधियों से आगे निकल गया।

वैयक्तिकृत FL परिणाम

क्लास डिस्ट्रीब्यूशन स्क्यू (CIFAR-10) और क्लास कॉन्सेप्ट ड्रिफ्ट (CIFAR-100) पर CIFAR-100 के विरुद्ध pFedME, pFedBayes, और pFedVEM के साथ CIFAR-10 के प्रयोगों के परिणाम:

CIFAR-10: FedIvon ने pFedVEM के समान क्लाइंट सटीकता प्राप्त की लेकिन महत्वपूर्ण सुधार के साथ ग्लोबल सर्वर सटीकता प्रदर्शित की, जो विषम डेटा के बेहतर एकत्रीकरण को दर्शाता है।
CIFAR-100: FedIvon ने व्यक्तिगत क्लाइंट सटीकता और वैश्विक सर्वर सटीकता दोनों में सभी बेसलाइन्स पर महत्वपूर्ण सुधार दिखाया, जो कॉन्सेप्ट ड्रिफ्ट को संभालने में इसकी मजबूती को उजागर करता है।

महत्व और दावे

पेपर का दावा है कि FedIvon बेयसियन FL (अनिश्चितता परिमाणीकरण, वैयक्तिकरण) के सैद्धांतिक लाभों और फेडरेटेड सिस्टम की व्यावहारिक बाधाओं (कम्प्यूटेशन, संचार) के बीच के अंतर को पाटता है। एक कुशल द्वितीय-क्रम अनुकूलन दृष्टिकोण का उपयोग करके, यह विधि पूर्ववर्ती कार्यों में पाए जाने वाले भारी कम्प्यूटेशनल ओवरहेड (MCMC या स्पष्ट हेसियन गणना) से बचती है।

लेखक दावा करते हैं कि FedIvon पहली ऐसी विधि है जो प्रदान करती है:

प्रथम-क्रम ऑप्टिमाइज़र (जैसे Adam) के समान कम्प्यूटेशनल दक्षता।
मौजूदा बेयसियन FL विधियों की स्केलेबिलिटी समस्याओं के बिना पूर्ण बेयसियन लाभ (अनिश्चितता और वैयक्तिकरण)।
विशेष रूप से उच्च डेटा विषमता और सीमित क्लाइंट डेटा वाले परिदृश्यों में, मानक और वैयक्तिकृत FL दोनों सेटिंग्स में बेहतर प्रदर्शन।

यह कार्य FedIvon को वास्तविक दुनिया के फेडरेटेड वातावरण में मजबूत, अनिश्चितता-जागरूक और वैयक्तिकृत मशीन लर्निंग मॉडल तैनात करने के लिए एक स्केलेबल, व्यावहारिक समाधान के रूप में स्थापित करता है।