📄 developmental biology

Distribution-Aware Federated Learning for Diabetes Prediction Using Tabular Clinical Data Under Non-IID and Class-Imbalanced Settings

यह शोध पत्र डिस्ट्रीब्यूशन-अवेयर फेडरेटेड लर्निंग (DA-FL) का प्रस्ताव करता है, जो एक नवीन ढांचा है जो मधुमेह भविष्यवाणी में गैर-IID और क्लास-इम्बैलेंस्ड चुनौतियों को प्रभावी ढंग से कम करने के लिए क्लाइंट-विशिष्ट माइनॉरिटी-क्लास एम्प्लीफिकेशन फैक्टर्स को क्लास-वेटेड लॉस के साथ जोड़ता है, जो CDC BRFSS 2021 डेटासेट पर सटीकता और स्थिरता में FedAvg जैसे पारंपरिक तरीकों की तुलना में काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Amin, R., Rana, M. M. H., Aktar, S.

प्रकाशित 2026-03-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Amin, R., Rana, M. M. H., Aktar, S.

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ⚕️ यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप पाँच अलग-अलग डॉक्टरों के एक समूह को मधुमेह (diabetes) के शुरुआती संकेतों को पहचानने के बारे में सिखाने की कोशिश कर रहे हैं। आप चाहते हैं कि वे मिलकर एक "सुपर डॉक्टर" (Super Doctor) बनाएं जो अकेले काम करने वाले किसी भी डॉक्टर से बेहतर हो। लेकिन यहाँ दो बड़ी समस्याएँ हैं:

प्राइवेसी की दीवार (The Privacy Wall): सख्त गोपनीयता कानूनों के कारण डॉक्टर अपनी वास्तविक रोगी फाइलें साझा नहीं कर सकते। वे केवल अपने "सीखे हुए सबक" (उनके मस्तिष्क के भीतर का गणित) साझा कर सकते हैं, न कि रोगियों के नाम या रिकॉर्ड।
अव्यवस्थित डेटा (The Messy Data): प्रत्येक डॉक्टर अलग प्रकार के रोगियों को देखता है।
- डॉक्टर A एक समृद्ध क्षेत्र में काम करता है जहाँ लगभग सभी स्वस्थ हैं। वे शायद ही कभी मधुमेह देखते हैं।
- डॉक्टर B एक उच्च-जोखिम वाले क्षेत्र में काम करता है और लगभग हर मरीज में मधुमेह देखता है।
- डॉक्टर C के पास रोगियों की एक बहुत लंबी सूची है, लेकिन उनमें से 99% स्वस्थ हैं।
- डॉक्टर D के पास छोटी सूची है, लेकिन उनमें से आधे मधुमेह रोगी हैं।

पुराना तरीका: "शोर मचाने वाला बहुमत" (FedAvg)

पारंपरिक पद्धति (जिसे FedAvg कहा जाता है) में, केंद्रीय कंप्यूटर एक सख्त शिक्षक की तरह कार्य करता है जो सभी की बात सुनता है। लेकिन यह शिक्षक एक बड़ी गलती करता है: वे सबसे महत्वपूर्ण आवाज़ को नहीं, बल्कि सबसे तेज़ आवाज़ को सुनते हैं।

चूंकि डॉक्टर C के पास रोगियों की सबसे बड़ी सूची है, इसलिए शिक्षक सोचता है, "डॉक्टर C ही विशेषज्ञ होना चाहिए!" और वह डॉक्टर C के सबक को "सुपर डॉक्टर" बनाने में हावी होने देता है।

परिणाम: सुपर डॉक्टर "कोई भी मधुमेह से पीड़ित नहीं है!" कहने का जुनूनी हो जाता है क्योंकि उसके अधिकांश रोगियों का स्वरूप ऐसा ही है।
खतरा: सुपर डॉक्टर वास्तव में मधुमेह रोगियों (अल्पसंख्यक) को पहचानने में विफल रहता है क्योंकि शिक्षक ने उन छोटे डॉक्टरों को अनदेखा कर दिया जिन्होंने वास्तव में बीमारी देखी थी। चिकित्सा में, मधुमेह रोगी को पहचान न पाना खतरनाक है; यह एक ऐसे स्मोक डिटेक्टर की तरह है जो घर में आग लगने पर तो बजता है, लेकिन हल्की चिंगारी उठते ही शांत रहता है।

नया तरीका: "संतुलित कक्षा" (DA-FL)

लेखकों ने एक नई विधि बनाई है जिसे डिस्ट्रीबशन-अवेयर फेडरेटेड लर्निंग (DA-FL) कहा जाता है। इस DA-FL को एक स्मार्ट शिक्षक के रूप में समझें जो यह समझता है कि मात्रा (Quantity), गुणवत्ता (Quality) के बराबर नहीं होती।

DA-FL इस प्रकार काम करता है, एक सरल उदाहरण के माध्यम से:

1. "दुर्लभ बीमारी" का बोनस (Local Training)

डॉक्टरों द्वारा अपने सबक केंद्रीय कंप्यूटर को भेजने से पहले, शिक्षक उन्हें एक विशेष नियम देता है: "यदि आप एक मधुमेह रोगी देखते हैं, तो उन पर विशेष ध्यान दें!"

सामान्यतः, एक डॉक्टर मधुमेह रोगी को अनदेखा कर सकता है क्योंकि उनके क्लिनिक में ऐसे मरीज दुर्लभ हैं।
इस नियम के साथ, डॉक्टर को उस विशिष्ट रोगी का गहराई से अध्ययन करने के लिए मजबूर किया जाता है। यह सुनिश्चित करता है कि हर डॉक्टर, भले ही उसके पास ज्यादातर स्वस्थ मरीज हों, बीमारी को पहचानना सीख जाए।

2. "भारित वोट" (Weighted Vote - Global Aggregation)

अब, डॉक्टर "सुपर डॉक्टर" बनाने के लिए अपने सबक केंद्रीय कंप्यूटर को भेजते हैं।

पुराना शिक्षक कहता था: "डॉक्टर C, आपके पास 10,000 मरीज हैं, इसलिए आपका वोट 10,000 बार गिना जाएगा।"
नया शिक्षक (DA-FL) कहता है: "डॉक्टर C, आपके पास 10,000 मरीज हैं, लेकिन केवल 10 मधुमेह रोगी हैं। मधुमेह पर आपका वोट कमजोर है। डॉक्टर B, आपके पास केवल 100 मरीज हैं, लेकिन 50 मधुमेह रोगी हैं। आपका वोट 50 गुना अधिक महत्वपूर्ण है!"

नया शिक्षक एक "माइनॉरिटी एम्प्लीफिकेशन फैक्टर" (Minority Amplification Factor) की गणना करता है। यह एक वॉल्यूम नॉब (Volume Knob) की तरह है।

यदि किसी डॉक्टर के पास बहुत कम मधुमेह रोगी हैं, तो शिक्षक उनका वॉल्यूम कम कर देता है (ताकि वे दूसरों के "मधुमेह नहीं है" वाले शोर से दब न जाएं)।
यदि किसी डॉक्टर के पास बहुत अधिक मधुमेह रोगी हैं, तो शिक्षक उनका वॉल्यूम बढ़ा देता है (ताकि उनके अनुभव को स्पष्ट रूप से सुना जा सके)।

यह क्यों महत्वपूर्ण है?

पेपर का परीक्षण 2,30,000 से अधिक स्वास्थ्य रिकॉर्डों के विशाल डेटासेट पर किया गया। यहाँ क्या हुआ:

स्थिरता (Stability): पुरानी पद्धति एक रोलरकोस्टर की तरह थी। एक दिन सुपर डॉक्टर बेहतरीन था, अगले दिन वह बेकार था। नई पद्धति (DA-FL) एक सुचारू ट्रेन यात्रा की तरह थी—हर बार सुसंगत और विश्वसनीय।
सटीकता (Accuracy): नई पद्धति पुरानी पद्धति की तुलना में 31 गुना अधिक स्थिर थी।
जीवन बचाना: सबसे महत्वपूर्ण बात यह है कि नया तरीका "अल्पसंख्यक" (मधुमेह रोगियों) को पकड़ने में बहुत बेहतर था। इसने केवल उच्च स्कोर पाने के लिए "स्वस्थ" होने का अनुमान नहीं लगाया; इसने वास्तव में बीमार लोगों को खोज निकाला।

निष्कर्ष

यह पेपर उस समस्या को हल करता है जहाँ बड़े डेटा (Big Data) अक्सर दुर्लभ डेटा (Rare Data) पर हावी हो जाते हैं। एक ऐसी दुनिया में जहाँ हम निजी मेडिकल रिकॉर्ड साझा नहीं कर सकते, DA-FL यह सुनिश्चित करता है कि "सुपर डॉक्टर" केवल बहुमत का विशेषज्ञ न बन जाए। इसके बजाय, यह सभी का विशेषज्ञ बनता है, विशेष रूप से उन कमजोर अल्पसंख्यकों का जिन्हें सबसे अधिक मदद की आवश्यकता है।

यह एक कक्षा के नियम को बदलने जैसा है: "सबसे अधिक होमवर्क करने वाले छात्र को सबसे अधिक क्रेडिट मिले" से बदलकर "जिस छात्र ने सबसे कठिन समस्याओं को हल किया, उसे सबसे अधिक क्रेडिट मिले।" इस तरह, दुर्लभ और कठिन मामलों (जैसे मधुमेह) को वह ध्यान मिलता है जिसके वे हकदार हैं।

यहाँ शोध पत्र "Distribution-Aware Federated Learning for Diabetes Prediction Using Tabular Clinical Data Under Non-IID and Class-Imbalanced Settings" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र नैदानिक मधुमेह भविष्यवाणी (clinical diabetes prediction) के लिए फेडरेटेड लर्निंग (FL) को तैनात करने में दो महत्वपूर्ण, परस्पर संबंधित चुनौतियों को संबोधित करता है:

सांख्यिकीय विषमता (Statistical Heterogeneity - Non-IID Data): विभिन्न स्वास्थ्य देखभाल संस्थानों में रोगी का डेटा जनसांख्यिकीय अंतर, नैदानिक उपकरणों और रोग के प्रसार के कारण काफी भिन्न होता है। इस स्थिति में मानक FL एल्गोरिदम (जैसे FedAvg) "क्लाइंट ड्रिफ्ट" (client drift) से ग्रस्त होते हैं, जिससे वैश्विक मॉडल का अभिसरण (convergence) खराब हो जाता है।
वर्ग असंतुलन (Class Imbalance): नैदानिक डेटासेट में, मधुमेह के मामलों (अल्पसंख्यक वर्ग) की संख्या गैर-मधुमेह मामलों (बहुसंख्यक वर्ग) की तुलना में बहुत कम होती है। उपयोग किए गए CDC BRFSS 2021 डेटासेट में, असंतुलन अनुपात लगभग 6:1 है।
मुख्य संघर्ष (The Core Conflict): पारंपरिक FL एकत्रीकरण रणनीतियाँ (जैसे FedAvg) केवल डेटासेट के आकार ( $n_k/n$ ) के आधार पर क्लाइंट अपडेट को वेटेज देती हैं। यह स्थानीय वर्ग वितरण (local class distributions) की अनदेखी करती है। फलस्वरूप, बहुत कम मधुमेह मामलों वाले बड़े डेटासेट वाले क्लाइंट वैश्विक मॉडल को बहुसंख्यक वर्ग की ओर अत्यधिक झुका देते हैं, जिसके परिणामस्वरूप अल्पसंख्यक वर्ग के लिए खराब संवेदनशीलता (Recall) और F1-Macro एवं G-Mean जैसे मेट्रिक्स पर प्रदर्शन में गिरावट आती है।

2. कार्यप्रणाली: डिस्ट्रीब्यूशन-अवेयर फेडरेटेड लर्निंग (DA-FL)

लेखक DA-FL प्रस्तावित करते हैं, जो एक नवीन ढांचा है जो कच्चे डेटा साझाकरण या जटिल डेटा ऑग्मेंटेशन की आवश्यकता के बिना असंतुलन को संबोधित करने के लिए एक दो-स्तरीय सुधार तंत्र (two-level correction mechanism) लागू करता है।

A. स्तर 1: स्थानीय प्रशिक्षण सुधार (क्लाइंट-साइड)

स्थानीय मॉडलों को प्रशिक्षण के दौरान अल्पसंख्यक वर्ग (minority class) को अनदेखा करने से रोकने के लिए, DA-FL स्थानीय लॉस फंक्शन को संशोधित करता है:

क्लास-वेटेड क्रॉस-एन्ट्रॉपी (Class-Weighted Cross-Entropy): प्रत्येक क्लाइंट $k$ अपने स्थानीय वर्ग वितरण के आधार पर एक स्थानीय वेट $\omega_k$ की गणना करता है:
$\omega_k = \frac{n_k^{(0)}}{n_k^{(1)}}$
जहाँ $n_k^{(0)}$ और $n_k^{(1)}$ क्रमशः नकारात्मक और सकारात्मक नमूनों की संख्या है।
उद्देश्य: स्थानीय लॉस अल्पसंख्यक वर्ग के गलत वर्गीकरण को $\omega_k$ के कारक से दंडित करता है, जिससे स्थानीय मॉडल यह सुनिश्चित करता है कि वह मधुमेह के मामलों के प्रति संवेदनशील बना रहे, चाहे स्थानीय प्रसार कुछ भी हो।

B. स्तर 2: वैश्विक एकत्रीकरण सुधार (सर्वर-साइड)

आकार-अनुपाती एकत्रीकरण द्वारा उत्पन्न पूर्वाग्रह को ठीक करने के लिए, DA-FL एक अल्पसंख्यक-वर्ग प्रवर्धन कारक ( $\phi_k$ ) पेश करता है:

परिभाषा: $\phi_k$ क्लाइंट के स्थानीय सकारात्मक दर ( $p_k$ ) और वैश्विक सकारात्मक दर ( $\bar{p}$ ) का अनुपात है:
$\phi_k = \text{clip}\left(\frac{p_k}{\bar{p}}, \phi_{min}, \phi_{max}\right)$
जहाँ $\phi_{min}=0.1$ और $\phi_{max}=5.0$ है ताकि किसी भी एकल क्लाइंट के प्रभुत्व को रोका जा सके।
तंत्र:
- उच्च स्थानीय सकारात्मक दर ( $p_k > \bar{p}$ ) वाले क्लाइंट $\phi_k > 1$ प्राप्त करते हैं, जो वैश्विक मॉडल में उनके योगदान को प्रवर्धित (amplify) करता है।
- निम्न सकारात्मक दर ( $p_k \ll \bar{p}$ ) वाले क्लाइंट $\phi_k \approx 0.1$ प्राप्त करते हैं, जो बहुसंख्यक-वर्ग पूर्वाग्रह को रोकने के लिए उनके प्रभाव को दबा (suppress) देता है।
गोपनीयता (Privacy): केवल स्केलर सकारात्मक दर ( $p_k$ ) को मेटाडेटा के रूप में साझा किया जाता है; कोई भी कच्चा डेटा या विस्तृत हिस्टोग्राम प्रसारित नहीं किया जाता है।

C. सिस्टम आर्किटेक्चर

मॉडल: 4 परतों वाला एक मल्टी-लेयर पर्सेप्ट्रॉन (MLP) (इनपुट: 21 फीचर्स $\to$ 64 $\to$ 128 $\to$ 64 $\to$ आउटपुट)।
फ्रेमवर्क: 5 सिम्युलेटेड क्लाइंट्स के साथ Flower (flwr) लाइब्रेरी का उपयोग करके कार्यान्वित।
डेटा: CDC BRFSS 2021 डेटासेट (236,378 रिकॉर्ड, 21 फीचर्स)।

3. मुख्य योगदान

नवीन एकत्रीकरण रणनीति: DA-FL का परिचय, जो फेडरेशन स्तर पर डेटा को संशोधित किए बिना, $\phi_k$ कारक के माध्यम से स्थानीय वर्ग वितरण की जानकारी को सर्वर-साइड एकत्रीकरण वेट्स में एकीकृत करता है।
दो-स्तरीय सुधार: प्रशिक्षण और एकत्रीकरण दोनों चरणों में असंतुलन को एक साथ हल करने के लिए क्लास-वेटेड लोकल लॉस और डिस्ट्रीब्यूशन-अवेयर ग्लोबल एग्रीगेशन का संयोजन।
व्यापक मूल्यांकन: तीन Non-IID गंभीरता स्तरों (डिरिचलेट पैरामीटर $\alpha$ द्वारा नियंत्रित) के तहत एक बड़े पैमाने के वास्तविक दुनिया के नैदानिक डेटासेट पर व्यवस्थित परीक्षण।
ओपन सोर्स: असंतुलित फेडरेटेड नैदानिक भविष्यवाणी के लिए एक पुनरुत्पादक (reproducible) सिमुलेशन फ्रेमवर्क का विमोचन।

4. प्रयोगात्मक परिणाम

प्रयोग 30 संचार राउंड (communication rounds) में FedAvg, FedProx, Local Only, और Centralized Training के विरुद्ध DA-FL की तुलना करते हुए किए गए।

A. मध्यम Non-IID ( $\alpha = 0.5$ ) के तहत प्रदर्शन

DA-FL ने नैदानिक रूप से महत्वपूर्ण मेट्रिक्स पर बेसलाइन से काफी बेहतर प्रदर्शन किया:

F1-Macro: FedAvg की तुलना में 18.2% सुधार (0.4471 बनाम 0. 2650)।
G-Mean: FedAvg की तुलना में 26.7% सुधार (0.7329 बनाम 0.4658)।
Recall: FedAvg की तुलना में 15.1% सुधार (0.7503 बनाम 0.5997), जो गलत नकारात्मक (मिस्ड डायबिटीज केस) में पर्याप्त कमी को दर्शाता है।
Accuracy: FedAvg की तुलना में 31.5% सुधार।

B. प्रशिक्षण स्थिरता (Training Stability)

DA-FL ने असाधारण स्थिरता प्रदर्शित की, जो नैदानिक तैनाती के लिए एक महत्वपूर्ण कारक है:

F1-Macro स्थिरता: इसका मानक विचलन (standard deviation) FedAvg की तुलना में 31 गुना कम था (0.0046 बनाम 0.1431)।
विफलता मोड (Failure Modes): FedAvg और FedProx अपने सबसे खराब राउंड में G-Mean के 0.000 तक पहुँच गए (अल्पसंख्यक वर्ग का पता लगाने में पूर्ण विफलता), जबकि DA-FL का सबसे खराब G-Mean 0.5633 रहा, जो निरंतर सुरक्षा सुनिश्चित करता है।
AUC-ROC स्थिरता: DA-FL ने FedAvg की तुलना में वेरिएंस रिडक्शन में 14-गुना सुधार दिखाया।

C. Non-IID स्तरों के बीच प्रदर्शन

मध्यम/हल्का ( $\alpha = 0.5, 1.0$ ): DA-FL सभी मेट्रिक्स में लगातार श्रेष्ठ रहा।
चरम ( $\alpha = 0.1$ ): हालांकि FedProx ने F1-Macro और Accuracy में DA-FL से थोड़ा बेहतर प्रदर्शन किया, लेकिन DA-FL ने उच्चतम G-Mean (0.7020) और Recall (0.7067) बनाए रखा, जो सबसे महत्वपूर्ण नैदानिक मेट्रिक (मधुमेह रोगियों के प्रति संवेदनशीलता) को सुरक्षित रखता है।

5. महत्व और निष्कर्ष

नैदानिक प्रासंगिकता: यह अध्ययन दर्शाता है कि DA-FL मानक FL में निहित "बहुसंख्यक वर्ग पूर्वाग्रह" को प्रभावी ढंग से कम करता है, यह सुनिश्चित करता है कि मॉडल मधुमेह रोगियों का पता लगाने में विफल न हो—जो स्वास्थ्य सेवा में एक महत्वपूर्ण सुरक्षा आवश्यकता है।
व्यावहारिक तैनात करने योग्यता (Practical Deployability): यह विधि कम्प्यूटेशनल रूप से हल्की ( $O(K)$ ओवरहेड) है, इसमें किसी डेटा ऑग्मेंटेशन की आवश्यकता नहीं है, और केवल स्केलर मेटाडेटा साझा करके गोपनीयता बनाए रखती है।
स्थिरता गारंटी: DA-FL की अत्यधिक स्थिरता यह सुझाव देती है कि यह वास्तविक दुनिया की तैनाती के लिए उपयुक्त है जहाँ राउंड के बीच अप्रत्याशित मॉडल दोलन (oscillations) रोगी सुरक्षा जोखिम पैदा कर सकते हैं।
भावी कार्य: लेखक मल्टी-क्लास क्लासिफिकेशन, चरम वितरणों के लिए एडेप्टिव क्लिपिंग, और डिफरेंशियल प्राइवेसी के साथ एकीकरण के लिए इस पद्धति को विस्तारित करने का सुझाव देते हैं।

संक्षेप में, DA-FL फेडरेटेड नैदानिक भविष्यवाणी के लिए एक मजबूत, गोपनीयता-संरक्षित समाधान प्रदान करता है, जो विश्वसनीय, उच्च-संवेदनशीलता वाले नैदानिक मॉडल बनाने के लिए सांख्यिकीय विषमता और वर्ग असंतुलन के बीच के ट्रेड-ऑफ को सफलतापूर्वक संतुलित करता है।