⚡ electrical engineering

FedProIn: Mitigating Client Drift for Learnable Prototypes in Federated Medical Imaging

FedProIn एक प्रोटोटाइप-आधारित फेडरेटेड लर्निंग फ्रेमवर्क है जो फीचर और प्रोटोटाइप डाइवर्जेंस लॉस के साथ-साथ एक नॉर्मलाइज्ड इन्फ्लुएंस एग्रीगेशन रणनीति का उपयोग करके मेडिकल इमेजिंग में क्लाइंट ड्रिफ्ट को कम करता है, जिससे विषम डेटासेट्स पर मौजूदा बेसलाइन्स की तुलना में बेहतर प्रदर्शन प्राप्त होता है।

मूल लेखक: Harsh Kumar, Tarun Kumar Garg, Vaanathi Sundaresan

प्रकाशित 2026-07-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Harsh Kumar, Tarun Kumar Garg, Vaanathi Sundaresan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि विभिन्न अस्पतालों के डॉक्टरों का एक समूह एक ही AI को त्वचा की बीमारियों या रक्त कोशिकाओं को पहचानना सिखाने की कोशिश कर रहा है। वे गोपनीयता कानूनों (जैसे HIPAA) के कारण मरीजों की वास्तविक तस्वीरें साझा नहीं कर सकते। इसके बजाय, वे फेडरेटेड लर्निंग (Federated Learning) नामक एक विधि का उपयोग करते हैं।

इसे ऐसे समझें जैसे शेफ का एक समूह एक एकल "मास्टर रेसिपी" (Master Recipe) को बेहतर बनाने की कोशिश कर रहा है। प्रत्येक शेफ अपने स्वयं के रसोईघर में अपनी स्थानीय सामग्रियों के साथ खाना पकाता है। वे रेसिपी को बेहतर बनाने के लिए अपने निर्देश केंद्रीय मुख्य शेफ को भेजते हैं, जो एक बेहतर "मास्टर रेसिपी" बनाने के लिए उन्हें जोड़ता है।

समस्या: "क्लाइंट ड्रिफ्ट" (Client Drift)

वास्तविक दुनिया में, हर अस्पताल अलग होता है। किसी के पास एक विशिष्ट प्रकार का कैमरा हो सकता है, किसी के पास ज्यादातर बुजुर्ग मरीज हो सकते हैं, और तीसरे के पास ज्यादातर बच्चे हो सकते हैं। इसे सांख्यिकीय विषमता (Statistical Heterogeneity) कहा जाता है।

क्योंकि इन अंतरों के कारण, स्थानीय शेफ (क्लाइंट) मास्टर रेसिपी से भटकने लगते हैं।

फीचर ड्रिफ्ट (Feature Drift): एक शेफ एक "लाल धब्बे" को "चमकदार गहरा लाल" (bright crimson) के रूप में वर्णित करना शुरू कर देता है, जबकि दूसरा उसे "गहरा सुर्ख लाल" (deep scarlet) कहता है। वे एक ही चीज़ को देख रहे हैं लेकिन उसे पूरी तरह से अलग तरीकों से वर्णित कर रहे हैं।
प्रोटोटाइप ड्रिफ्ट (Prototype Drift): शेफ अपनी स्थानीय विशिष्टताओं को याद करने लगते हैं। यदि एक शेफ केवल दुर्लभ बीमारियों को देखता है, तो वह उन पर बहुत अधिक ध्यान केंद्रित कर सकता है, जिससे सामान्य बीमारियों की अनदेखी हो सकती है।

जब मुख्य शेफ इन परस्पर विरोधी निर्देशों को मिलाने की कोशिश करता है, तो अंतिम रेसिपी भ्रमित, अस्थिर और कम सटीक हो जाती है। इसे ही शोध पत्र में "क्लाइंट ड्रिफ्ट" कहा गया है।

समाधान: FedProIn

लेखक FedProIn (Federated Learning with Prototype aggregation with Influence) नामक एक नया सिस्टम प्रस्तावित करते हैं। केवल शेफ के निर्देशों को औसत निकालने के बजाय, यह तीन ट्रिक्स के साथ एक स्मार्ट दृष्टिकोण का उपयोग करता है:

1. "आर्केटाइप्स" सीखना (Learnable Prototypes)

डेटा का औसत निकालने के बजाय, यह सिस्टम लर्नेबल प्रोटोटाइप्स (Learnable Prototypes) बनाता है।

उपमा: कल्पना करें कि केवल "लाल धब्बा" कहने के बजाय, सिस्टम हर बीमारी के लिए कुछ आदर्श "आर्केटाइप कार्ड्स" (Archetype Cards) बनाता है। "मेलानोमा" (Melanoma) के लिए केवल एक कार्ड नहीं है; इसमें मेलानोमा के विभिन्न प्रकारों का प्रतिनिधित्व करने वाले कई कार्ड हैं।
ये कार्ड स्थिर नहीं हैं; वे "लर्नेबल" हैं, जिसका अर्थ है कि AI इन कार्डों को हर बीमारी का सटीक प्रतिनिधित्व बनाने के लिए सक्रिय रूप से ट्यून कर सकता है, न कि केवल उन सभी तस्वीरों का एक धुंधला औसत ले सकता है जो उसने देखी हैं।

2. "डबल-चेक" सिस्टम (ड्रिफ्ट को कम करना)

शेफों को अलग होने से रोकने के लिए, FedProIn दो विशिष्ट "लॉस फंक्शन्स" (जो गलतियों के लिए दंड स्कोर हैं) का उपयोग करता है:

फीचर डाइवर्जेंस लॉस (The "Translation" Check): यह स्थानीय शेफों को इस तरह से चीजों का वर्णन करने के लिए मजबूर करता है जो वैश्विक "शब्दकोश" से मेल खाता हो। यदि कोई स्थानीय शेफ एक धब्बे को "क्रिमसन" कहता है, तो सिस्टम उसे धीरे से वैश्विक परिभाषा के साथ "लाल" के रूप में संरेखित करने के लिए प्रेरित करता है ताकि हर कोई एक ही भाषा बोल सके।
प्रोटोटाइप कॉन्ट्रास्टिव लॉस (The "Memory" Check): यह सुनिश्चित करता है कि स्थानीय शेफ के "आर्केटाइप कार्ड्स" बहुत अजीब या उनकी अपनी रसोई के प्रति पक्षपाती न हो जाएं। यह उनके कार्डों को वैश्विक मास्टर कार्डों के करीब खींचता है और उन्हें उनके अपने पिछले, संभावित रूप से पक्षपाती संस्करणों से दूर धकेलता है।

3. "स्मार्ट वोट" (Normalized Influence Aggregation)

यह सबसे अनूठा हिस्सा है। मानक प्रणालियों में, प्रत्येक शेफ को उनके पास मौजूद तस्वीरों की संख्या के आधार पर वोट मिलता है। लेकिन क्या होगा यदि एक शेफ के पास एक सामान्य बीमारी के 1,000 फोटो हैं लेकिन एक दुर्लभ बीमारी के शून्य फोटो हैं? उनका वोट उस एक शेफ के वोट को दबा सकता है जिसके पास वास्तव में दुर्लभ फोटो हैं।

FedProIn नॉर्मलाइज्ड इन्फ्लुएंस एग्रीगेशन (Normalized Influence Aggregation - NIA) पेश करता है।

उपमा: सिरों को गिनने के बजाय, सिस्टम यह गिनता है कि किसने वास्तव में आर्केटाइप कार्ड्स का उपयोग किया।
यदि किसी विशिष्ट "दुर्लभ बीमारी कार्ड" का उपयोग किसी विशेष शेफ द्वारा अपने मरीजों को वर्गीकृत करने के लिए बार-बार किया गया था, तो उस शेफ को उस विशिष्ट कार्ड के लिए एक मजबूत वोट मिलता है।
यदि किसी शेफ के पास एक ऐसा कार्ड है जिसका उन्होंने वास्तव में कभी उपयोग नहीं किया (शायद उनके पास उस स्थिति से संबंधित कोई मरीज नहीं था), तो उस कार्ड के लिए उनका वोट चुप करा दिया जाता है। यह रोकता है कि "शोर" (noise) महत्वपूर्ण, दुर्लभ जानकारी को दबा न दे।

परिणाम

लेखकों ने इस सिस्टम का परीक्षण दो वास्तविक चिकित्सा डेटासेट्स पर किया:

HAM10000: स्किन लीजन (त्वचा के घाव) की छवियां।
Matek-19: रक्त कोशिका (blood cell) की छवियां।

उन्होंने एक ऐसा परिदृश्य बनाया जहाँ डेटा अव्यवस्थित और असमान (Non-IID) था, जैसा कि वास्तविक जीवन में होता है।

परिणाम: FedProIn ने अन्य सभी तरीकों को पछाड़ दिया। यह "मास्टर रेसिपी" को सटीक बनाए रखने में बेहतर था, भले ही स्थानीय रसोई बहुत अलग क्यों न हों।
आंकड़े: स्किन डेटासेट पर, इसने इस अव्यवस्थित, वास्तविक दुनिया के परिदृश्य में 81.1% सटीकता प्राप्त की (अन्य तरीकों के निचले स्कोर की तुलना में)। ब्लड सेल डेटासेट पर, इसने 95.8% हासिल किया।

सारांश

संक्षेप में, FedProIn एक स्मार्ट तरीका है जिससे AI मॉडल निजी डेटा साझा किए बिना एक साथ सीख सकते हैं। यह उन्हें स्थानीय अंतरों से भ्रमित होने से रोकने के लिए निम्नलिखित का उपयोग करता है:

बीमारियों के लिए लचीले "आर्केटाइप कार्ड्स" बनाना।
सबको एक ही "फीचर भाषा" बोलने के लिए मजबूर करना।
उन शेफों को अधिक आवाज देना जो वास्तव में दुर्लभ बीमारियों को जानते हैं, न कि केवल उन्हें जिनके पास अधिक फोटो हैं।

शोध पत्र निष्कर्ष निकालता है कि यह विधि वैश्विक AI मॉडल को मेडिकल इमेजिंग की अव्यवस्थित और विविध वास्तविकता में बहुत अधिक मजबूत और सटीक बनाती है।

तकनीकी सारांश: FedProIn – लर्नबल प्रोटोटाइप्स के लिए क्लाइंट ड्रिफ्ट को कम करना

समस्या विवरण

मेडिकल इमेजिंग में फेडरेटेड लर्निंग (FL), विभिन्न स्कैनर प्रोटोकॉल, अधिग्रहण विधियों और विभिन्न मेडिकल सेंटरों में विविध रोगी आबादी से उत्पन्न सांख्यिकीय विषमता (statistical heterogeneity) के कारण काफी बाधित होती है। यह नॉन-IID (नॉन-इंडिपेंडेंट एंड आइडेंटिकली डिस्ट्रीब्यूटेड) डेटा वितरण क्लाइंट ड्रिफ्ट (client drift) को प्रेरित करता है, जहाँ स्थानीय मॉडल अनुकूलन (optimization) के दौरान वैश्विक मॉडल से विचलित हो जाते हैं। विशेष रूप से, समान इंस्टेंस को अलग-अलग क्लाइंट्स द्वारा फीचर स्पेस में अलग-अलग क्षेत्रों में मैप किया जाता है, और स्थानीय प्रतिनिधित्व (representations) क्लाइंट-विशिष्ट विशेषताओं की ओर पक्षपाती हो जाते हैं।

मौजूदा दृष्टिकोणों की सीमाएँ हैं:

प्रतिबंध-आधारित नियमितीकरण (Constraint-based regularization) (जैसे FedProx, MOON) उच्च-आयामी स्थानों में सिमेंटिक प्रतिनिधित्व को संरेखित करने में संघर्ष करते हैं।
मानक प्रोटोटाइप-आधारित विधियाँ अक्सर प्रति क्लास एक एकल वैश्विक प्रोटोटाइप (मीन फीचर वेक्टर्स के माध्यम से) मानती हैं, जो विषम चिकित्सा डेटा के लिए अपर्याप्त है।
मल्टी-प्रोटोटाइप विधियाँ अक्सर उच्च कम्प्यूटेशनल जटिलता पेश करती हैं या ऐसी यूनिमोडल प्रस्तुतियों पर निर्भर करती हैं जो निर्णय सीमाओं (decision boundaries) को प्रभावी ढंग से अनुकूलित करने में विफल रहती हैं।

कार्यप्रणाली: FedProIn

लेखक FedProIn (इन्फ्लुएंस के साथ प्रोटोटाइप एग्रीगेशन के साथ फेडरेटेड लर्निंग) का प्रस्ताव करते हैं, जो एक ढांचा है जो लर्नबल प्रोटोटाइप्स (LPs) का उपयोग स्टैटिक मीन वेक्टर्स के बजाय अनुकूलनीय मॉडल पैरामीटर्स के रूप में करता है। ग्लोबल मॉडल में एक फीचर एनकोडर $f_\theta$ और प्रोटोटाइप्स का एक सेट $P \in \mathbb{R}^{C \times M \times d}$ शामिल है, जहाँ $M$ प्रति क्लास प्रोटोटाइप्स की संख्या है।

1. क्लाइंट ड्रिफ्ट का अपघटन (Decomposition of Client Drift)

FedProIn क्लाइंट ड्रिफ्ट को स्पष्ट रूप से दो घटकों में विभाजित करके और विशिष्ट रेगुलराइजेशन लॉस लागू करके इसे संबोधित करता है:

फीचर ड्रिफ्ट (Feature Drift): इसे फीचर डाइवर्जेंस लॉस (FDL) के माध्यम से संबोधित किया जाता है। क्लाइंट एक फ्रीज की गई ग्लोबल फीचर एक्सट्रैक्टर ( $\theta^{t-1}$ ) की प्रतिलिपि बनाए रखते हैं। लोकल एनकोडर को ग्लोबल फीचर्स और रेफरेंस ग्लोबल फीचर्स के बीच मीन स्क्वायर एरर को कम करने के लिए रेगुलराइज किया जाता है, जिससे सिमेंटिक संरेखण सुनिश्चित होता है।
प्रोटोटाइप ड्रिफ्ट (Prototype Drift): इसे प्रोटोटाइप कॉन्ट्रास्टिव लॉस (PCL) के माध्यम से संबोधित किया जाता है। यह लॉस अपडेट किए गए लोकल प्रोटोटाइप्स को वर्तमान ग्लोबल प्रोटोटाइप्स के करीब खींचता है और उन्हें उनके पिछले लोकल स्टेट्स से दूर धकेलता है। यह प्रोटोटाइप्स को स्थानीय डेटा शिफ्ट के प्रति अत्यधिक पक्षपाती होने से रोकता है।

कुल लोकल ऑब्जेक्टिव प्राथमिक क्लासिफिकेशन लॉस ( $\ell_{Task}$ ) को इन रेगुलराइजेशन टर्म्स के साथ जोड़ता है:
$\ell_{Total} = \ell_{Task} + \lambda_{FDL}\ell_{FDL} + \lambda_{PCL}\ell_{PCL}$

लॉन्ग-टेल्ड मेडिकल डेटासेट में क्लास इम्बैलेंस को संभालने के लिए, यह विधि क्लास-बैलेंस्ड सैंपलिंग और अडैप्टिव ऑग्मेंटेशन का उपयोग करती है ताकि यह सुनिश्चित हो सके कि दुर्लभ बीमारी के सबटाइप्स प्रोटोटाइप अपडेट के दौरान पर्याप्त रूप से प्रतिनिधित्व प्राप्त करें।

2. नॉर्मलाइज्ड इन्फ्लुएंस एग्रीगेशन (NIA)

स्टैंडर्ड एग्रीगेशन (जैसे FedAvg) मल्टी-प्रोटोटाइप के लिए अपर्याप्त है क्योंकि यह अपडेट को केवल डेटासेट के आकार द्वारा वेट करता है, प्रोटोटाइप उपयोगिता को अनदेखा करता है। यह कम उपयोग किए गए प्रोटोटाइप्स से शोर (noise) को बढ़ा सकता है या विशिष्ट मामलों के लिए विशेष प्रस्तुतियों को दबा सकता है।

FedProIn नॉर्मलाइज्ड इन्फ्लुएंस एग्रीगेशन (NIA) पेश करता है:

इन्फ्लुएंस मैट्रिक्स ( $I_i$ ): लोकल ट्रेनिंग के दौरान, प्रत्येक क्लाइंट प्रत्येक प्रोटोटाइप के लिए एक इन्फ्लुएंस स्कोर ट्रैक करता है, जो यह गिनता है कि एक विशिष्ट प्रोटोटाइप ने कितनी बार लोकल सैंपल्स के लिए 'नियरेस्ट नेबर' के रूप में सेवा की है।
एग्रीगेशन: ग्लोबल प्रोटोटाइप्स को उनके उपयोग स्कोर ( $I_{k,c}^i$ ) के अनुपात में वेट करके एग्रीगेट किया जाता है, न कि केवल क्लाइंट के डेटासेट आकार के आधार पर। यह अनुपयोगी प्रोटोटाइप्स से आने वाले शोर वाले अपडेट को कम करता है और विशिष्ट क्लाइंट सबसेट्स के लिए प्रासंगिक विशेष प्रोटोटाइप्स को सुरक्षित रखता है।

मुख्य योगदान

लर्नबल प्रोटोटाइप्स फॉर्मूलेशन: क्लास सेपरेशन मार्जिन को अधिकतम करने के लिए प्रोटोटाइप्स को स्टैटिक मीन वेक्टर्स के बजाय अनुकूलनीय पैरामीटर्स (फीचर एक्सट्रैक्टर के साथ संयुक्त रूप से) के रूप में अपनाना।
डुअल रेगुलराइजेशन स्ट्रैटेजी: फीचर और प्रोटोटाइप ड्रिफ्ट को अलग करके (FDL और PCL के माध्यम से) क्लाइंट ड्रिफ्ट को स्पष्ट रूप से कम करना।
नॉर्मलाइज्ड इन्फ्लुएंस एग्रीगेशन (NIA): एक अभिनव एग्रीगेशन मैकेनिज्म जो उनकी स्थानीय उपयोगिता के आधार पर क्लाइंट प्रोटोटाइप्स को एडेप्टिवली वेट करता है, जो मल्टी-प्रोटोटाइप सेटिंग्स में विषम उपयोगिता और स्पार्स एक्टिवेशन की समस्याओं को संबोधित करता है।
एम्पिरिकल वैलिडेशन: सांख्यिकीय विषमता के विरुद्ध मजबूती प्रदर्शित करने के लिए सार्वजनिक मेडिकल इमेजिंग डेटासेट पर व्यापक मूल्यांकन।

प्रयोगात्मक परिणाम

इस फ्रेमवर्क का मूल्यांकन दो सार्वजनिक लॉन्ग-टेल्ड मेडिकल इमेजिंग डेटासेट पर किया गया: HAM10000 (डर्मेटोस्कोपिक इमेज) और Matek-19 (पेरिफेरल ब्लड सेल इमेज)। प्रयोग $K=10$ क्लाइंट्स के साथ IID और Non-IID (Dirichlet $\alpha=0.5$ ) दोनों सेटिंग्स में किए गए।

परफॉरमेंस हाइलाइट्स:

HAM10000: FedProIn ने 83.5% सटीकता (IID) और 81.1% सटीकता (Non-IID) प्राप्त की, जो FedAvg, FedProx, MOON और अन्य प्रोटोटाइप-आधारित विधियों (FedProto, FedTGP, FedPLVM) सहित सभी बेसलाइन्स से बेहतर प्रदर्शन करती है।
Matek-19: FedProIn ने 96.2% सटीकता (IID) और 95.8% सटीकता (Non-IID) प्राप्त की।
मजबूती (Robustness): Non-IID स्थितियों के तहत, मौजूदा प्रोटोटाइप विधियों ने महत्वपूर्ण प्रदर्शन गिरावट देखी (जैसे HAM10000 पर 6-7% सटीकता हानि), जबकि FedProIn ने HAM10000 और Matek-19 पर क्रमशः केवल 2.4% और 0.4% के सापेक्ष नुकसान को सीमित कर दिया।
एब्लेशन स्टडी (Ablation Study): परिणामों ने पुष्टि की कि इष्टतम प्रदर्शन के लिए FDL और PCL दोनों आवश्यक हैं। FDL को हटाने से प्रदर्शन में सबसे तीव्र गिरावट आई, जो दर्शाता है कि फीचर ड्रिफ्ट प्रमुख विफलता मोड है। पूर्ण मॉडल सिंगल-कंपोनेंट वेरिएंट और डिजेनरेट केस (जो FedAvg के समान है) की तुलना में काफी बेहतर रहा।

महत्व और दावे

पेपर का दावा है कि FedProIn लर्नबल प्रोटोटाइप्स और इन्फ्लुएंस-अवेयर एग्रीगेशन का लाभ उठाकर फेडरेटेड मेडिकल इमेजिंग में क्लाइंट ड्रिफ्ट को प्रभावी ढंग से कम करता है। लेखक का तर्क है कि उनका दृष्टिकोण:

मौजूदा FL बेसलाइन्स और पर्सनलाइज्ड मेथड्स की तुलना में बेहतर सामान्यीकरण (generalization) प्राप्त करता है, विशेष रूप से अत्यधिक विषम (Non-IID) वातावरण में।
सिंगल-प्रोटोटाइप धारणाओं और मल्टी-प्रोटोटाइप सेटिंग्स में अनवेटेड एग्रीगेशन की सीमाओं को सफलतापूर्वक संबोधित करता है।
एक मजबूत समाधान प्रदान करता है जहाँ डेटा विषमता और क्लास इम्बैलेंस प्रचलित है।

लेखक नोट करते हैं कि भविष्य के कार्य में FedProIn को पर्सनलाइज्ड FL (ग्लोबल मॉडल डिपेंडेंसी को हटाकर) के लिए अनुकूलित करना और विविध मॉडल आर्किटेक्चर के साथ हेट्रोजेनियस FL सेटिंग्स में फ्रेमवर्क का विस्तार करना शामिल होगा। पुनरुत्पादकता (reproducibility) के समर्थन के लिए कोड उपलब्ध कराया गया है।