🤖 machine learning

PLayer-FL: A Principled Approach to Personalized Layer-wise Cross-Silo Federated Learning

यह शोधपत्र PLayer-FL प्रस्तुत करता है, जो व्यक्तिगत क्रॉस-सिलो फेडरेटेड लर्निंग (personalized cross-silo federated learning) के लिए एक सिद्धांतपूर्ण दृष्टिकोण है, जो एक नवीन, कुशलतापूर्वक गणना किए गए फेडरेशन-सेंसिटिविटी मीट्रिक का उपयोग करके स्वचालित रूप से इष्टतम लेयर-वाइज स्प्लिट पॉइंट की पहचान करता है, जिससे गैर-IID डेटा स्थितियों के तहत क्लाइंट प्रदर्शन और समानता में सुधार करने के लिए हस्तांतरणीय फीचर शेयरिंग (transferable feature sharing) और कार्य-विशिष्ट अनुकूलन (task-specific adaptation) के बीच संतुलन बनाया जा सके।

मूल लेखक: Ahmed Elhussein, Florent Pollet, Gamze Gürsoy

प्रकाशित 2026-07-21

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ahmed Elhussein, Florent Pollet, Gamze Gürsoy

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आपका स्मार्टफोन, आपकी स्मार्टवॉच और आपके पड़ोसी का टैबलेट सब मिलकर स्मार्ट बनने के लिए सीखना चाहते हैं, लेकिन वे अपना निजी डेटा साझा नहीं कर सकते। यह फेडरेटेड लर्निंग (Federated Learning) का मूल है, जो कंप्यूटरों के लिए सहयोग करने का एक चतुर तरीका है बिना एक-दूसरे के रहस्यों को देखे। इसे ऐसे समझें जैसे छात्रों का एक समूह एक विशाल पहेली को हल करने की कोशिश कर रहा है। अपने अनूठे पहेली के टुकड़ों को एक केंद्रीय मेज पर लाने के बजाय (जो निजी फोटो या मेडिकल रिकॉर्ड साझा करने जैसा होगा), वे अपने टुकड़ों को घर पर ही रखते हैं। वे केवल इस बात का विवरण वापस भेजते हैं कि उनका टुकड़ा कैसे फिट बैठता है। समस्या यह है, यदि सभी के पहेली के टुकड़े पूरी तरह से अलग चित्रों से हैं (एक अवधारणा जिसे non-IID डेटा कहा जाता है), तो समूह की अंतिम तस्वीर अक्सर धुंधली और टूटी हुई निकलती है। इसे ठीक करने के लिए, वैज्ञानिकों ने "पर्सनलाइज्ड फेडरेटेड लर्निंग" (Personalized Federated Learning) आज़माने की कोशिश की है, जहाँ प्रत्येक छात्र अपने कुछ विशेष टुकड़ों को अपने पास रखता है जबकि बाकी को साझा करता है। लेकिन अब तक, यह तय करना कि किन टुकड़ों को साझा करना है, अंधेरे में अनुमान लगाने जैसा था, जो अक्सर उन नियमों पर निर्भर करता था जो हर पहेली के लिए काम नहीं करते।

यह शोध पत्र साझा करने के निर्णय लेने का एक नया, स्मार्ट तरीका पेश करता है, जिसे PLayer-FL कहा जाता है। शोधकर्ताओं ने पाया कि इन सहयोगात्मक शिक्षण सत्रों में, मस्तिष्क के "शुरुआती" हिस्से (एक न्यूरल नेटवर्क की पहली परतें) एक सार्वभौमिक भाषा की तरह हैं जिस पर सभी सहमत होते हैं, जबकि "बाद के" हिस्से विशिष्ट बोलियों की तरह हैं जो केवल व्यक्ति के लिए समझ में आते हैं। उन्होंने पाया कि आप इसे लगभग तुरंत—अभ्यास के केवल एक दौर के बाद—माप सकते हैं कि प्रत्येक भाग दूसरों के साथ मिलने पर कितना "संवेदनशील" है। यदि कोई भाग संवेदनशील है, तो यह एक नाजुक फूल की तरह है जो दूसरे पौधे पर ग्राफ्ट करने पर मुरझा जाता है; यदि यह मजबूत है, तो यह एक मजबूत चट्टान की तरह है जिसे सुरक्षित रूप से साझा किया जा सकता है। इस नए "सेंसिटिविटी मीटर" (संवेदनशीलता मीटर) का उपयोग करके, यह शोध पत्र दिखाता है कि हम एक ऐसा सिस्टम बना सकते हैं जहाँ सभी को लाभ हो, साझाकरण प्रक्रिया में किसी को नुकसान न पहुँचे, और अंतिम परिणाम पहले की तुलना में बहुत अधिक स्पष्ट हो।

समस्या: धुंधली सामूहिक तस्वीर

आइए कहानी में उतरते हैं। एक कक्षा की कल्पना करें जहाँ प्रत्येक छात्र के पास होमवर्क के अलग-अलग सेट हैं। किसी के पास गणित है, किसी के पास इतिहास है, और किसी के पास कला है। शिक्षक चाहता है कि पूरी कक्षा एक-दूसरे से सीखे, इसलिए वे अपने उत्तरों को एक विशाल "ग्लोबल आंसर की" (Global Answer Key) में मिलाने की कोशिश करते हैं। लेकिन क्योंकि समस्याएँ इतनी अलग हैं, संयुक्त कुंजी एक गड़बड़ी बन जाती है—जो सबके लिए गलत होती है। यह non-IID डेटा (डेटा जो सभी के बीच समान नहीं है) के साथ फेडरेटेड लर्निंग का क्लासिक संघर्ष है।

इसे ठीक करने के लिए, पिछले तरीकों ने एक "आंशिक" (Partial) दृष्टिकोण अपनाया। उन्होंने कहा, "ठीक है, आइए केवल होमवर्क के पहले कुछ पन्ने साझा करें जहाँ सभी बुनियादी बातें सीखते हैं, और प्रत्येक को अपने अंतिम कुछ पन्ने अपने पास रखने दें।" यह व्याकरण के सामान्य नियमों को साझा करने जैसा है लेकिन अपनी अनूठी शब्दावली को अपने पास रखना है। समस्या क्या है? पुराने तरीके एक शेफ की तरह थे जो यह अनुमान लगा रहा था कि कितना नमक डालना है। उन्होंने मॉडल के प्रकार (जैसे CNNs के लिए एक विशिष्ट रेसिपी) के आधार पर निश्चित नियमों का उपयोग किया, न कि वास्तव में व्यंजन को चखकर। कभी-कभी उन्होंने बहुत अधिक साझा किया, जिससे स्थानीय स्वाद बिगड़ गया, और कभी-कभी उन्होंने बहुत कम साझा किया, जिससे टीम वर्क के लाभ हाथ से निकल गए।

खोज: "वन-इपोक" (One-Epoch) टॉर्चलाइट

इस शोध पत्र के लेखकों ने इस पर रोशनी डाली कि ठीक कब और कहाँ यह साझाकरण गलत होता है। उन्होंने एक व्यवस्थित विश्लेषण चलाया, यह देखते हुए कि एक न्यूरल नेटवर्क की विभिन्न परतें अलग-अलग डेटा पर प्रशिक्षित होने पर कैसे व्यवहार करती हैं।

यहाँ बड़ी घोषणा है: यह परिवर्तन लगभग तुरंत होता है।

केवल एक प्रशिक्षण इपोक (one training epoch) (डेटा का एक पूर्ण चक्कर) के बाद, एक स्पष्ट पैटर्न उभरता है। मॉडल की शुरुआती परतें एक मजबूत, सार्वभौमिक नींव की तरह हैं। वे सामान्य विशेषताओं (जैसे छवियों में किनारे या बुनियादी वाक्य संरचनाएं) को सीखते हैं जो साझा करने के लिए सुरक्षित हैं। वे "मजबूत" (robust) हैं, जिसका अर्थ है कि अन्य लोगों के डेटा के साथ मिलने पर वे आसानी से टूटते नहीं हैं। हालाँकि, बाद की परतें सूक्ष्म विवरणों की तरह हैं। वे "संवेदनशील" (sensitive) हैं। यदि आप उन्हें अन्य लोगों के डेटा के साथ औसत निकालने की कोशिश करते हैं, तो वे भ्रमित हो जाते हैं, और प्रदर्शन गिर जाता है।

यह शोध पत्र इस विचार को स्पष्ट रूप से खारिज करता है कि आपको यह जानने के लिए प्रशिक्षण के अंत तक प्रतीक्षा करने की आवश्यकता है। आपको यह जानने के लिए पूरा मैराथन दौड़ने की आवश्यकता नहीं है कि फिनिश लाइन कहाँ है; संकेत चिन्ह शुरुआती रेखा पर ही दिखाई देता है। वे पुराने "ह्यूरिस्टिक" (heuristic) तरीकों (मॉडल के आकार के आधार पर अनुमान लगाना) के विरुद्ध भी तर्क देते हैं, यह दिखाते हुए कि एक डेटा-संचालित दृष्टिकोण कहीं अधिक श्रेष्ठ है।

समाधान: "फेडरेशन सेंसिटिविटी" मीटर

अनुमान लगाने के खेल को हल करने के लिए, टीम ने एक नया उपकरण बनाया जिसे फेडरेशन सेंसिटिविटी (Federation Sensitivity) कहा जाता है। इसे मॉडल की प्रत्येक परत के लिए एक "तनाव परीक्षण" (stress test) के रूप में समझें।

मॉडल प्रूनिंग (model pruning) (एक ऐसी तकनीक जहाँ वैज्ञानिक मस्तिष्क के उन हिस्सों को काट देते हैं जो बहुत अधिक काम नहीं कर रहे हैं) से प्रेरित होकर, उन्होंने एक मीट्रिक बनाया जो पूछता है: "यदि हम इस परत को दूसरों के साथ मिलाते हैं, तो इससे कितना नुकसान होता है?"

कम संवेदनशीलता (Low Sensitivity): परत एक चट्टान की तरह है। यह स्थिर, सामान्य और फेडरेट करने (साझा करने) के लिए सुरक्षित है।
उच्च संवेदनशीलता (High Sensitivity): परत ताश के पत्तों के घर की तरह है। यह स्थानीय डेटा के लिए विशिष्ट है और मिश्रण होने पर ढह जाएगी।

इस मीट्रिक का जादू यह है कि यह आर्किटेक्चर-अज्ञेकी (architecture-agnostic) है। इसे इससे फर्क नहीं पड़ता कि मॉडल एक CNN है, एक ट्रांसफार्मर है, या कुछ और; यह केवल ग्रेडिएंट्स और वेट्स (weights) के गणित को देखता है। यह प्रशिक्षण के केवल एक इपोक के बाद इस स्कोर की गणना करता है। इसका मतलब है कि सिस्टम तुरंत निर्णय ले सकता है, "ठीक है, परत 1 से 3 साझा करने के लिए सुरक्षित हैं; परत 4 से 10 स्थानीय रहनी चाहिए।"

परिणाम: निष्पक्षता और प्रदर्शन

शोधकर्ताओं ने चिकित्सा रिकॉर्ड (MIMIC-III), त्वचा के घावों की छवियों (ISIC-2019), और टेक्स्ट डेटा (Sent-140) सहित विभिन्न वास्तविक दुनिया के डेटासेट पर PLayer-FL का परीक्षण किया।

यहाँ उन्होंने क्या पाया:

निरंतर प्रदर्शन: PLayer-FL ने केवल एक परिदृश्य में जीत हासिल नहीं की; इसने व्यापक रूप से प्रतिस्पर्धी प्रदर्शन किया, अक्सर शीर्ष तीन में रहा या प्रथम स्थान भी प्राप्त किया।
निष्पक्षता (Fairness): यह एक बहुत बड़ी बात है। कई पिछले तरीकों में, केवल कुछ क्लाइंट बेहतर हुए जबकि अन्य बदतर हो गए। PLayer-FL ने लाभों को अधिक समान रूप से वितरित किया। शोध पत्र दिखाता है कि इसने सर्वश्रेष्ठ "फेयरनेस रैंक" प्राप्त किया, जिसका अर्थ है कि किसी भी क्लाइंट को व्यवस्थित रूप से पीछे नहीं छोड़ा गया।
प्रोत्साहन (Incentivization): यह सिस्टम सुनिश्चित करता है कि क्लाइंट अकेले प्रशिक्षण करने की तुलना में भाग लेने में बेहतर स्थिति में हों। शोध पत्र नोट करता है कि इसने सर्वश्रेष्ठ "इंसेंटिवाइजेशन रैंक" प्राप्त किया, जिसका अर्थ है कि उच्च प्रतिशत क्लाइंटों ने केवल अपने स्वयं के डेटा पर प्रशिक्षण करने की तुलना में प्रदर्शन में सुधार देखा।

लेखक सावधानीपूर्वक नोट करते हैं कि हालांकि परिणाम कई डेटासेट में मजबूत और सुसंगत हैं, लेकिन वे औपचारिक गणितीय प्रमाण के बजाय अनुभवजन्य साक्ष्य (प्रयोगों और सिमुलेशन) पर आधारित हैं। वे सुझाव देते हैं कि यह विधि अत्यधिक विश्वसनीय है लेकिन स्वीकार करते हैं कि एक सैद्धांतिक गारंटी भविष्य के शोध की दिशा है।

निष्कर्ष

सरल शब्दों में, यह शोध पत्र हमें फेडरेटेड लर्निंग को बेहतर बनाने का एक सिद्धांतपूर्ण, "प्लग-एंड-प्ले" तरीका देता है। यह अनुमान लगाने के बजाय कि मॉडल के किन हिस्सों को साझा करना है, अब हम माप सकते हैं कि प्रत्येक हिस्सा कितना "नाजुक" है और प्रशिक्षण के केवल एक दौर के बाद एक स्मार्ट निर्णय ले सकते हैं। यह एक जीपीएस (GPS) होने जैसा है जो आपको बताता है कि सड़क कहाँ सुरक्षित है ताकि सभी मिलकर चल सकें, यह सुनिश्चित करते हुए कि यात्रा हर एक प्रतिभागी के लिए सुचारू, निष्पक्ष और सफल हो।

तकनीकी सारांश: PLayer-FL: व्यक्तिगत लेयर-वाइज क्रॉस-साइलो फेडरेटेड लर्निंग के लिए एक सिद्धांतपूर्ण दृष्टिकोण

समस्या विवरण

फेडरेटेड लर्निंग (FL) डेटा साझा किए बिना सहयोगात्मक मॉडल प्रशिक्षण को सक्षम बनाता है, फिर भी प्रदर्शन अक्सर तब गिर जाता है जब क्लाइंट डेटा नॉन-इंडिपेंडेंटली आइडेंटिकली डिस्ट्रिब्यूटेड (non-IID) होता है। ऐसे परिवेश में, मानक ग्लोबल मॉडल (जैसे, FedAvg) संघर्ष करते हैं क्योंकि स्थानीय अपडेट विचलित हो जाते हैं, जिससे एग्रीगेटेड ग्लोबल मॉडल स्थानीय मिनिमा (local minima) से बाहर सेटल हो जाता है। जबकि पर्सनलाइज्ड FL विधियाँ इस समस्या को हल करने के लिए क्लाइंट मॉडल्स को विचलित करने की अनुमति देकर प्रयास करती हैं, वे अक्सर स्थानीय प्रशिक्षण बेसलाइन्स से लगातार बेहतर प्रदर्शन करने या सभी क्लाइंट्स के बीच लाभों को समान रूप से वितरित करने में विफल रहती हैं।

पार्शियल FL, पर्सनलाइज्ड FL का एक उपसमुच्चय है, जो केवल परतों के एक हिस्से (आमतौर पर शुरुआती परतों) को फेडरेट करता है जबकि बाद की परतों को स्थानीय रखता है। यह दृष्टिकोण इस अंतर्निहित धारणा पर निर्भर करता है कि शुरुआती परतें सार्वभौमिक, हस्तांतरणीय (transferable) विशेषताओं को कैप्चर करती हैं, जबकि बाद की परतें कार्य-विशिष्ट (task-specific) होती हैं। हालांकि, मौजूदा पार्शियल FL विधियाँ दो महत्वपूर्ण कमियों से ग्रस्त हैं:

व्यवस्थित सत्यापन का अभाव: यह व्यवस्थित रूप से स्थापित नहीं किया गया है कि लेयर-वाइज जनरलाइजेशन डायनेमिक्स (जहाँ शुरुआती परतें सामान्य होती हैं और बाद की परतें विचलित होती हैं) फेडरेटेड, non-IID प्रशिक्षण स्थितियों के तहत बनी रहती हैं।
ह्यूरिस्टिक सीमाएँ: वर्तमान विधियाँ यह चुनने के लिए कि किन परतों को फेडरेट किया जाए, आर्किटेक्चर-विशिष्ट ह्यूरिस्टिक्स (जैसे, फिक्स्ड स्प्लिट पॉइंट्स) का उपयोग करती हैं, जो विभिन्न मॉडल आर्किटेक्चर और कार्यों में उनकी सामान्यीकरण क्षमता को सीमित करती है।

कार्यप्रणाली

1. लेयर-वाइज जनरलाइजेशन डायनेमिक्स का अनुभवजन्य विश्लेषण

लेखक पहले यह निर्धारित करने के लिए एक व्यवस्थित विश्लेषण करते हैं कि क्या समान रूप से इनिशियलाइज्ड मॉडल non-IID डेटा पर प्रशिक्षित होने पर अनुमानित लेयर-वाइज पैटर्न प्रदर्शित करते हैं। स्वतंत्र प्रशिक्षण (अधिकतम विचलन) के साथ फेडरेटेड प्रशिक्षण की तुलना करके, वे विविध आर्किटेक्चर और डेटासेट्स में एक सुसंगत ट्रांजिशन पॉइंट देखते हैं:

शुरुआती परतें (Early Layers): समान, व्यापक रूप से हस्तांतरणीय समाधानों की ओर अभिसरण (converge) करती हैं और लॉस लैंडस्केप के फ्लैट क्षेत्रों (कम ग्रेडिएंट वेरिएंस, कम हेसियन आइजनवैल्यू सम) को घेरती हैं। ये परतें व्यवधान (perturbation) के प्रति मजबूत होती हैं।
बाद की परतें (Later Layers): स्पष्ट रूप से क्लाइंट-विशिष्ट समाधानों में विचलित होती हैं और लॉस लैंडस्केप के शार्प क्षेत्रों को घेरती हैं। ये परतें व्यवधान के प्रति संवेदनशील होती हैं।
समय (Timing): महत्वपूर्ण रूप से, यह ट्रांजिशन पॉइंट केवल एक ट्रेनिंग एपोक के बाद उभरता है और प्रशिक्षण प्रक्रिया के दौरान स्थिर रहता है।

2. फेडरेशन सेंसिटिविटी मेट्रिक

मॉडल प्रूनिंग से प्रेरित, जो उन मापदंडों की पहचान करती है जो प्रदर्शन के लिए महत्वपूर्ण हैं, लेखक एक नया फेडरेशन सेंसिटिविटी मेट्रिक ( $F_l(\Theta)$ ) पेश करते हैं। यह मेट्रिक एक लेयर की एग्रीगेशन के प्रति मजबूती को मापता है।

परिभाषा: मेट्रिक पैरामीटर महत्व के प्रथम-क्रम सन्निकटन (first-order approximation) का उपयोग करता है, जिसे पैरामीटर और उसके ग्रेडिएंट के वर्ग उत्पाद के रूप में परिभाषित किया गया है: $I_p(\theta) = (\theta_p \nabla \theta_p)^2$ ।
गणना: एक लेयर $l$ के लिए, सेंसिटिविटी उस लेयर तक के सभी मापदंडों के नॉर्मलाइज्ड इम्पोर्टेंस स्कोर का संचयी योग है:
$F_l(\Theta) \triangleq \sum_{k=1}^{l} \frac{1}{n_k} \sum_{p=1}^{n_k} (\theta_p \nabla \theta_p)^2$
जहाँ $n_k$ लेयर $k$ में मापदंडों की संख्या है।
व्याख्या: कम मान मजबूती (फेडरेशन के लिए उपयुक्त) दर्शाते हैं, जबकि उच्च मान भेद्यता (नेगेटिव ट्रांसफर के प्रति प्रोन) दर्शाते हैं। यह मेट्रिक आर्किटेक्चर-एग्नोस्टिक है और गणनात्मक रूप से कुशल है, जिसमें केवल वे वेट्स और ग्रेडिएंट्स आवश्यक हैं जो मानक प्रशिक्षण के दौरान पहले से ही कंप्यूट किए जा चुके होते हैं।

3. PLayer-FL फ्रेमवर्क

प्रिंसिपल लेयर-वाइज FL (PLayer-FL) फेडरेटेड और लोकल लेयर्स के बीच इष्टतम स्प्लिट पॉइंट को गतिशील रूप से निर्धारित करने के लिए फेडरेशन सेंसिटिविटी मेट्रिक का उपयोग करता है:

इनिशियलाइजेशन: क्लाइंट्स मॉडल्स को समान रूप से इनिशियलाइज करते हैं।
सेंसिटिविटी गणना: प्रशिक्षण के पहले एपोक के बाद, क्लाइंट्स प्रत्येक लेयर के लिए फेडरेशन सेंसिटिविटी की गणना करते हैं।
स्प्लिट पॉइंट निर्धारण: सर्वर सेंसिटिविटी वैल्यूज को एग्रीगेट करता है और एक ट्रांजिशन पॉइंट $p$ की पहचान करता है जहाँ क्रमिक परतों के बीच रिलेटिव सेंसिटिविटी एक थ्रेशोल्ड $t$ से अधिक हो जाती है। लेयर्स $1 $से$ p $को फेडरेट किया जाता है; लेयर्स$ p+1 $से$ L$ स्थानीय रहती हैं।
प्रशिक्षण: आगामी राउंड्स में केवल चयनित शुरुआती लेयर्स को फेडरेट करना शामिल है जबकि क्लाइंट्स शेष लेयर्स को स्थानीय रूप से अपडेट करते हैं।

मुख्य योगदान

जनरलाइजेशन पैटर्न की शीघ्र पहचान: पेपर यह प्रदर्शित करता है कि लेयर-वाइज जनरलाइजेशन पैटर्न (शुरुआती परतों का अभिसरण बनाम बाद की परतों का विचलन) non-IID डेटासेट्स में सुसंगत हैं और एक एकल एपोक के बाद उभरते हैं। यह इस बात की विश्वसनीय पहचान को सक्षम बनाता है कि कौन सी परतें फेडरेशन से लाभान्वित होती हैं।
फेडरेशन सेंसिटिविटी मेट्रिक: एक नया, आर्किटेक्चर-एग्नोस्टिक मेट्रिक जो कुशलतापूर्वक एग्रीगेशन के प्रति लेयर की मजबूती का अनुमान लगाता है। यह स्थापित जनरलाइजेशन मापदंडों (ग्रेडिएंट वेरिएंस, हेसियन आइजनवैल्यूज, रिप्रेजेंटेशनल सिमिलैरिटी) के साथ मजबूती से सह-संबंधित है और न्यूनतम कम्प्यूटेशनल ओवरहेड की आवश्यकता होती है।
PLayer-FL एल्गोरिदम: एक सिद्धांतपूर्ण पार्शियल FL दृष्टिकोण जो बिना किसी विस्तृत हाइपरपैरामीटर ट्यूनिंग के फेडरेशन स्प्लिट पॉइंट निर्धारित करने के लिए सेंसिटिविटी मेट्रिक का उपयोग करता है। यह विविध सेटिंग्स में स्थिर प्रदर्शन सुनिश्चित करता है।

परिणाम

लेखकों ने इमेज, टैबुलर और NLP मोडैलिटीज (जिसमें FashionMNIST, CIFAR-10, ISIC-2019, और MIMIC-III शामिल हैं) को कवर करने वाले सात डेटासेट्स पर PLayer-FL का मूल्यांकन किया, और इसकी तुलना मानक FL (FedAvg), पर्सनलाइज्ड FL (FedProx, pFedMe, Ditto), और मौजूदा पार्शियल FL विधियों (FedBABU, FedLP) से की।

प्रदर्शन: PLayer-FL ने सभी बेंचमार्क्स में मैक्रो-एवरेज F1 स्कोर में उच्चतम मीन रैंक हासिल की, जो सांख्यिकीय महत्व ( $p < 5 \times 10^{-3}$ ) के साथ है। यह लगातार टॉप थ्री में रहा, जो बिना किसी टास्क-विशिष्ट हाइपरपैरामीटर ट्यूनिंग के मजबूती प्रदर्शित करता है।
फेयरनेस (Fairness): PLayer-FL ने सर्वश्रेष्ठ औसत फेयरनेस रैंक (क्लाइंट प्रदर्शन में निम्नतम वेरिएंस) प्राप्त की, यह सुनिश्चित करते हुए कि प्रदर्शन सुधार केवल क्लाइंट के एक हिस्से को लाभ पहुँचाने के बजाय समान रूप से वितरित किया गया है।
इंसेंटिवाइजेशन (Incentivization): इस पद्धति ने सर्वश्रेष्ठ इंसेंटिवाइजेशन रैंक प्राप्त किया, जिसका अर्थ है कि अधिक प्रतिशत क्लाइंट्स ने स्थानीय प्रशिक्षण या FedAvg की तुलना में बेहतर प्रदर्शन किया। यह क्रॉस-साइलो सेटिंग्स में FL अपनाने के लिए एक मौलिक बाधा को संबोधित करता है।
रैंडम स्प्लिट के साथ तुलना: PLayer-FL ने "PLayer-FL-Random" (जो एक रैंडमली चुने गए लेयर तक फेडरेट करता है) से काफी बेहतर प्रदर्शन किया, जो यह प्रमाणित करता है कि सेंसिटिविटी मेट्रिक सफलतापूर्वक इष्टतम ट्रांजिशन पॉइंट की पहचान करता है।

महत्व और दावे

पेपर का दावा है कि PLayer-FL पर्सनलाइज्ड FL के लिए एक सिद्धांतपूर्ण, सुरक्षात्मक और न्यायसंगत दृष्टिकोण प्रदान करता है। मॉडल प्रूनिंग और रिप्रेजेंटेशन लर्निंग के अंतर्दृष्टि का लाभ उठाकर, यह लेयर चयन के लिए एड-हॉक ह्यूरिस्टिक्स से आगे बढ़कर एक डेटा-संचालित रणनीति की ओर बढ़ता है।

लेखक जोर देते हैं कि उनका दृष्टिकोण:

जोखिम को कम करता है: ट्रांजिशन पॉइंट की शीघ्र पहचान करके (एक एपोक के बाद), यह क्लाइंट प्रदर्शन को खराब करने वाले हानिकारक एग्रीगेशन डायनेमिक्स के लंबे समय तक संपर्क से बचाता है।
स्थिरता सुनिश्चित करता है: स्थानीय प्रशिक्षण के सापेक्ष प्रदर्शन गिरावट से सभी क्लाइंट्स की रक्षा करके, यह संस्थानों (जैसे स्वास्थ्य सेवा में) को क्रॉस-साइलो FL में भाग लेने के लिए आवश्यक प्रोत्साहन प्रदान करता है।
सामान्यीकरण करता है: मेट्रिक की आर्किटेक्चर-एग्नोस्टिक प्रकृति इसे बिना किसी संशोधन के फुली-कनेक्टेड नेटवर्क्स, CNNs और ट्रांसफॉर्मर्स पर लागू करने की अनुमति देती है।

लेखक विनम्रता से नोट करते हैं कि हालांकि विविध आर्किटेक्चर में अनुभवजन्य प्रमाण मजबूत हैं, वर्तमान में मेट्रिक के लिए औपचारिक सैद्धांतिक गारंटी की कमी है और यह भविष्य के अनुसंधान के लिए एक दिशा है। इसके अतिरिक्त, अध्ययन क्रॉस-डिवाइस सेटिंग के बजाय क्रॉस-साइलो FL पर केंद्रित है जहाँ क्लाइंट्स के पास मेट्रिक की गणना करने के लिए पर्याप्त डेटा है।