Personalized Federated Learning Under Severe Statistical Heterogeneity: A Multi-Dataset Analysis of Accuracy, Tail Performance, and Client Fairness

आधुनिक डिजिटल दुनिया में, आर्टिफिशियल इंटेलिजेंस को अक्सर लाखों उपयोगकर्ताओं से एकत्र किए गए विशाल डेटा पर प्रशिक्षित किया जाता है। पारंपरिक रूप से, इस डेटा को एक एकल, विशाल केंद्रीय रिपॉजिटरी में एकत्र किया जाता है ताकि कंप्यूटर को पैटर्न पहचानने के लिए सिखाया जा सके, जैसे कि तस्वीरों में वस्तुओं की पहचान करना या बोले गए शब्दों को समझना। हालांकि, कंप्यूटर विज्ञान में एक बढ़ता हुआ आंदोलन इन प्रणालियों को उस डेटा को उनके मूल उपकरणों से हटाए बिना प्रशिक्षित करने की खोज कर रहा है जहाँ वे उत्पन्न हुए थे। फेडरेटेड लर्निंग (federated learning) के रूप में जानी जाने वाली यह पद्धति एक वैश्विक मॉडल को कई अलग-अलग स्रोतों से सीखने की अनुमति देती है, जबकि कच्ची जानकारी को निजी और स्थानीय रखती है। इस सेटअप में मौलिक चुनौती यह है कि दुनिया एक समान नहीं है। एक व्यक्ति या संगठन के पास मौजूद डेटा अक्सर दूसरे के पास मौजूद डेटा से बहुत अलग होता है। एक उपयोगकर्ता ज्यादातर बिल्लियों की तस्वीरें ले सकता है, जबकि दूसरा कारों की तस्वीरें लेता है; एक के पास हजारों नमूने हो सकते हैं, जबकि दूसरे के पास केवल कुछ ही। जब एक एकल मॉडल एक साथ सभी की सेवा करने की कोशिश करता है, तो यह अक्सर एक ऐसा समझौता बन जाता है जो औसत उपयोगकर्ता के लिए ठीक काम करता है लेकिन उन लोगों के लिए विफल हो जाता है जिनके पास सबसे असामान्य या दुर्लभ डेटा होता है।

इसे हल करने के लिए, शोधकर्ताओं ने 'पर्सनलाइज्ड फेडरेटेड लर्निंग' (personalized federated learning) नामक एक तकनीक विकसित की है। हर उपयोगकर्ता को बिल्कुल एक ही वैश्विक मॉडल पर निर्भर होने के लिए मजबूर करने के बजाय, यह पद्धति प्रत्येक उपयोगकर्ता को मॉडल का एक ऐसा संस्करण रखने की अनुमति देती है जिसे उनकी विशिष्ट आवश्यकताओं के अनुरूप थोड़ा समायोजित किया गया हो। लक्ष्य एक ऐसी प्रणाली बनाना है जो न केवल औसत रूप से अच्छी हो, बल्कि सभी के लिए अच्छी हो, जिनमें वे लोग भी शामिल हैं जिनके पास सबसे कठिन डेटा है। हालांकि, यह निर्धारित करना कि क्या कोई नई विधि वास्तव में सबसे कमजोर उपयोगकर्ताओं की मदद करती है, आश्चर्यजनक रूप से कठिन है। कई अध्ययन केवल प्रणाली के समग्र औसत स्कोर को देखते हैं। यदि औसत बढ़ता है, तो उस पद्धति को सफल घोषित कर दिया जाता है। लेकिन एक उच्च औसत एक परेशान करने वाली वास्तविकता को छिपा सकता है: प्रणाली बहुसंख्यक लोगों के लिए बेहतर हो सकती है जबकि उन कुछ लोगों के लिए बदतर हो सकती है जिन्हें इसकी सबसे अधिक आवश्यकता है। वोरोनेज़ स्टेट यूनिवर्सिटी ऑफ फॉरेस्ट्री एंड टेक्नोलॉजीज के एक स्वतंत्र शोधकर्ता एम. शाहनूर इस्लाम शागोर का एक नया अध्ययन इन प्रणालियों के परीक्षण के तरीके को चुनौती देता है। शोध का तर्क है कि केवल औसत को देखना पर्याप्त नहीं है और यह एक सख्त, अधिक ईमानदार तरीका प्रस्तावित करता है कि यह मापा जाए कि क्या वैयक्तिकरण (personalization) वास्तव में उन लोगों की मदद करता है जो प्रदर्शन के पैमाने पर सबसे नीचे हैं।

इस कार्य का मूल अत्यधिक असमान डेटा के दौरान विभिन्न व्यक्तिगत शिक्षण विधियों के प्रदर्शन को परीक्षण करने के लिए एक नया ढांचा (framework) है। शोधकर्ता ने फेडरेटेड लर्निंग के छह अलग-अलग दृष्टिकोणों का विश्लेषण किया, जिसमें एक एकल मॉडल साझा करने वाली मानक विधियों से लेकर अधिक उन्नत तकनीकों तक शामिल हैं जो स्थानीय समायोजन की अनुमति देती हैं। इन विधियों का परीक्षण चार प्रसिद्ध इमेज डेटासेट्स पर किया गया, जिनमें सरल ब्लैक-एंड-व्हाइट अंक और जटिल प्राकृतिक रंगीन फोटोग्राफ शामिल हैं। महत्वपूर्ण रूप से, अध्ययन ने केवल इन विधियों को एक बार नहीं चलाया और परिणामों की तुलना नहीं की। इसके बजाय, इसने एक कठोर प्रयोगात्मक डिजाइन का उपयोग किया जहां प्रत्येक विधि का परीक्षण डेटा के बिल्कुल समान विभाजन (partitions) और यादृच्छिक शुरुआती स्थितियों पर किया गया था। यह सुनिश्चित करता है कि प्रदर्शन में कोई भी अंतर स्वयं विधि के कारण है, न कि केवल डेटा को विभाजित करने के तरीके के भाग्य के कारण। अध्ययन ने न केवल समग्र सटीकता की जांच की, बल्कि समूह के "टेल" (tail) के प्रदर्शन की भी जांच की—यानी दस प्रतिशत उपयोगकर्ता जिनका प्रदर्शन सबसे खराब था, और वह एकल उपयोगकर्ता जिसका प्रदर्शन बिल्कुल सबसे खराब था। इसने सभी उपयोगकर्ताओं के बीच परिणामों के फैलाव को भी मापा, यह पूछते हुए कि क्या प्रणाली ने सभी के साथ निष्पक्षता से व्यवहार किया या क्या इसने सर्वश्रेष्ठ और सबसे खराब प्रदर्शन करने वालों के बीच एक बड़ा अंतर पैदा कर दिया।

विश्लेषण ने कई महत्वपूर्ण सत्यों को उजागर किया कि ये प्रणालियाँ कैसे व्यवहार करती हैं। पहला, अध्ययन ने दिखाया कि डेटा असमानता का वर्णन करने का मानक तरीका अक्सर भ्रामक होता है। शोधकर्ता अक्सर डेटा के झुकाव (skewed) को वर्णित करने के लिए एक एकल संख्या का उपयोग करते हैं, लेकिन अध्ययन ने पाया कि यह संख्या पूरी कहानी नहीं बताती है। एक ही सेटिंग के दो प्रयोग वास्तविक डेटा वितरण के बहुत अलग परिणाम दे सकते हैं, जिसका अर्थ है कि सटीक डेटा विभाजन का उपयोग किए बिना विधियों की तुलना करने से गलत निष्कर्ष निकल सकते हैं। दूसरा, शोध ने निष्पक्षता और सटीकता के बीच के संबंध को स्पष्ट किया। निष्पक्षता का एक सामान्य माप यह देखता है कि उपयोगकर्ताओं के बीच परिणाम कितने समान हैं। अध्ययन ने गणितीय रूप से सिद्ध किया कि यह माप केवल इस बात का प्रतिबिंब है कि परिणाम औसत से कितना भिन्न हैं। इसका मतलब है कि एक विधि परिणामों को समान बनाने के लिए सभी के प्रदर्शन को एक ही निम्न स्तर पर नीचे ला सकती है, जो निष्पक्षता में सुधार के रूप में दिखाई देगा लेकिन वास्तव में उपयोगिता (utility) के लिए विनाशकारी होगा। इसलिए, निष्पक्षता को अलग से नहीं आंका जा सकता; इसे हमेशा भविष्यवाणियों की वास्तविक गुणवत्ता के साथ देखा जाना चाहिए।

शायद सबसे महत्वपूर्ण निष्कर्ष यह है कि वैयक्तिकरण (personalization) का अर्थ स्वचालित रूप से सबसे खराब स्थिति वाले उपयोगकर्ताओं के लिए बेहतर परिणाम नहीं है। अध्ययन ने प्रदर्शित किया कि कुछ विधियाँ समूह के औसत प्रदर्शन में सुधार कर सकती हैं जबकि निचले दस प्रतिशत को अपरिवदित या और भी बदतर छोड़ सकती हैं। इसके विपरीत, एक विधि परिणामों को अधिक समान बना सकती है लेकिन समग्र गुणवत्ता को कम कर सकती है। शोध निष्कर्ष निकालता है कि एक वैयक्तिकृत शिक्षण प्रणाली को वास्तव में सफल होने के लिए, इसे समग्र सटीकता से समझौता किए बिना सबसे कम प्रदर्शन करने वाले उपयोगकर्ताओं के प्रदर्शन में सुधार करना चाहिए। पेपर में प्रस्तावित नया मूल्यांकन प्रोटोकॉल इस बात की जांच करने का एक तरीका प्रदान करता है। सबसे खराब परिदृश्यों और परिणामों के फैलाव को औसत के साथ देखकर, शोधकर्ता यह निर्धारित कर सकते हैं कि क्या कोई नई विधि वास्तव में उन लोगों की मदद कर रही है जिन्हें इसकी सबसे अधिक आवश्यकता है। यह दृष्टिकोण क्षेत्र को सरल रैंकिंग से दूर और एक अधिक सूक्ष्म समझ की ओर ले जाता है कि ये प्रणालियाँ नेटवर्क में प्रत्येक व्यक्ति के साथ कैसा व्यवहार करती हैं।

अध्ययन ने यह भी रेखांकित किया कि डेटा असमानता के विभिन्न प्रकारों के लिए अलग-अलग समाधानों की आवश्यकता होती है। शोध ने उन परिदृश्यों का परीक्षण किया जहां उपयोगकर्ताओं के पास अलग-अलग प्रकार के लेबल थे, जैसे कि छवियों की केवल कुछ श्रेणियों का होना, और उन परिदृश्यों का भी जहां उपयोगकर्ताओं के पास डेटा की मात्रा बहुत भिन्न थी। परिणामों ने दिखाया कि एक प्रकार की समस्या को ठीक करने के लिए डिज़ाइन की गई विधि दूसरे के लिए काम नहीं कर सकती है। यह सुझाव देता है कि सभी स्थितियों के लिए कोई एक "सर्वश्रेष्ठ" एल्गोरिदम नहीं है। इसके बजाय, विधि का चुनाव डेटा वितरण की विशिष्ट प्रकृति पर भारी रूप से निर्भर करता है। इस पेपर में विकसित ढांचा शोधकर्ताओं को नियंत्रित, यथार्थवादी स्थितियों के तहत इन विधियों का परीक्षण करने की अनुमति देता है, यह सुनिश्चित करते हुए कि निष्पक्षता और प्रदर्शन के बारे में दावे सांख्यिकीय भाग्य के बजाय ठोस साक्ष्य पर आधारित हों।

अंततः, यह कार्य आर्टिफिशियल इंटेलिजेंस के क्षेत्र में अधिक कठोरता के लिए एक आह्वान है। यह सुझाव देता है कि वैयक्तिकृत शिक्षण का लक्ष्य केवल एक स्मार्ट औसत मॉडल बनाना नहीं है, बल्कि एक ऐसी प्रणाली बनाना है जो प्रत्येक प्रतिभागी के लिए मजबूत और निष्पक्ष हो। सबसे निचले प्रदर्शन स्तर पर ध्यान केंद्रित करके और यह मांग करके कि विधियों का परीक्षण समान डेटा स्थितियों पर किया जाए, अध्ययन एक स्पष्ट मार्ग प्रदान करता है। यह सुनिश्चित करता है कि जब हम कहते हैं कि एक प्रणाली "वैयक्तिकृत" (personalized) है, तो हमारा मतलब है कि यह वास्तव में उन लोगों की मदद कर रही है जो वर्तमान में पीछे छूट गए हैं, न कि केवल उन लोगों के अनुभव को निखार रही है जो पहले से ही अच्छा कर रहे हैं। निष्कर्ष यह दावा नहीं करते कि उन्होंने सांख्यिकीय विषमता (statistical heterogeneity) की समस्या को हल कर दिया है, बल्कि वे प्रगति को सटीक रूप से मापने और भ्रामक औसत के जाल से बचने के लिए आवश्यक उपकरण प्रदान करते हैं।