⚡ electrical engineering

Probabilistic Feature Imputation and Uncertainty-Aware Multimodal Federated Aggregation

यह शोध पत्र प्रोबेबिलिस्टिक फीचर इम्प्यूटेशन नेटवर्क (P-FIN) को प्रस्तुत करता है, जो एक फेडरेटेड लर्निंग फ्रेमवर्क है जो लुप्त मोडैलिटीज़ के लिए कैलिब्रेटेड अनिश्चितता अनुमान उत्पन्न करता है ताकि विश्वसनीयता-जागरूक स्थानीय फीचर गेटिंग और वैश्विक एकत्रीकरण को सक्षम बनाया जा सके, जिससे गोपनीयता-संरक्षित स्वास्थ्य सेवा परिवेशों में मल्टीमॉडल चेस्ट एक्स-रे वर्गीकरण प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Nafis Fuad Shahid, Maroof Ahmed, Md Akib Haider, Saidur Rahman Sagor, Aashnan Rahman, Md Azam Hossain

प्रकाशित 2026-04-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nafis Fuad Shahid, Maroof Ahmed, Md Akib Haider, Saidur Rahman Sagor, Aashnan Rahman, Md Azam Hossain

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि विभिन्न अस्पतालों के डॉक्टरों की एक टीम एक सुपर-स्मार्ट एआई (AI) सहायक बनाने की कोशिश कर रही है जो चेस्ट एक्स-रे (छाती के एक्स-रे) के निदान में मदद कर सके। वे मिलकर काम करना चाहते हैं, लेकिन उनके सामने एक बड़ी समस्या है: गोपनीयता (Privacy)। वे मरीजों की फाइलें साझा नहीं कर सकते क्योंकि इसके लिए सख्त कानून हैं। इसलिए, वे फेडरेटेड लर्निंग (Federated Learning) नामक एक तकनीक का उपयोग करते हैं, जहाँ एआई प्रत्येक अस्पताल में जाता है, स्थानीय डेटा से सीखता है, और केवल अपने "सबक" (गणितीय अपडेट) वापस लाता है, बिना वास्तविक मरीज के रिकॉर्ड को देखे।

हालाँकि, उनके पास एक दूसरी, अधिक पेचीदा समस्या है: लापता जानकारी (Missing Information)।

समस्या: "आधा खाली" पहेली

कुछ बड़े अस्पतालों के पास सब कुछ होता है: एक्स-रे इमेज और रेडियोलॉजिस्ट की लिखित रिपोर्ट भी। लेकिन छोटे क्लीनिकों के पास केवल एक्स-रे इमेज हो सकती है और कोई लिखित नोट नहीं।

अतीत में, जब एआई इन छोटे क्लीनिकों से सीखने की कोशिश करता था, तो उसे अनुमान लगाना पड़ता था कि गायब रिपोर्ट क्या कहती।

पुराना तरीका (Deterministic): कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है जिसे उत्तर नहीं पता। पुराना एआई बस एक उत्तर चुन लेता और उसे 100% आत्मविश्वास के साथ लिख देता, भले ही वह पूरी तरह से एक अनुमान हो। यदि वह अनुमान गलत होता, तो पूरी टीम गलत सबक सीख लेती और एआई और भी खराब हो जाता। यह एक आत्मविश्वासी झूठे की तरह था।
जोखिम: चिकित्सा के क्षेत्र में, एक आत्मविश्वासी गलत अनुमान गलत निदान (misdiagnosis) की ओर ले जा सकता है।

समाधान: P-FIN (एक "ईमानदार" एआई)

लेखकों ने एक नया सिस्टम बनाया जिसे P-FIN (प्रोबेबिलिस्टिक फीचर इम्प्यूटेशन नेटवर्क) कहा जाता है। केवल एक उत्तर का अनुमान लगाने के बजाय, P-FIN एक ईमानदार छात्र की तरह व्यवहार करता है।

जब यह एक एक्स-रे देखता है और इसे गायब रिपोर्ट का अनुमान लगाना होता है, तो यह केवल यह नहीं कहता: "मरीज को निमोनिया है।" इसके बजाय, यह कहता है:

"इस इमेज के आधार पर, मुझे लगता है कि यह निमोनिया हो सकता है, लेकिन मैं इसके बारे में केवल 60% सुनिश्चित हूँ। मेरी अनिश्चितता इसलिए है क्योंकि इमेज धुंधली है।"

यह दो चीजें आउटपुट करता है:

अनुमान (The Guess): यह क्या सोचता है कि गायब टेक्स्ट क्या है।
कॉन्फिडेंस स्कोर (The Confidence Score): एक संख्या जो सबको बताती है कि उसका अनुमान कितना डगमगाया हुआ है।

यह इस "कॉन्फिडेंस स्कोर" का उपयोग कैसे करता है

पेपर में इस कॉन्फिडेंस स्कोर का उपयोग दो चतुर तरीकों से किया गया है, जैसे कि एक स्मार्ट ट्रैफिक कंट्रोल सिस्टम:

1. लोकल गेटिंग (क्लीनिक में एक "फ़िल्टर")

इससे पहले कि कोई भी अस्पताल अपने खुद के अनुमान का उपयोग निदान करने के लिए करे, सिस्टम कॉन्फिडेंस स्कोर की जांच करता है।

उच्च आत्मविश्वास (High Confidence): "ठीक है, यह अनुमान ठोस है। चलिए इसका उपयोग करते हैं।"
कम आत्मविश्वास (Low Confidence): "रुको, यह अनुमान डगमगाया हुआ है। आइए इस जानकारी के इस हिस्से को म्यूट (बंद) कर दें ताकि यह निदान को भ्रमित न करे।"
उपमा (Analogy): कल्पना कीजिए कि एक शेफ सूप चख रहा है। यदि सामग्री ताज़ा है (उच्च आत्मविश्वास), तो वे बहुत सारा डालते हैं। यदि सामग्री पुरानी और संदिग्ध है (कम आत्मविश्वास), तो वे बस एक चुटकी या बिल्कुल नहीं डालते, ताकि पूरा सूप खराब न हो जाए।

2. ग्लोबल एग्रीगेशन (एक "टीम मीटिंग")

सभी अस्पतालों के स्थानीय शिक्षण पूरा करने के बाद, वे एक एकल मॉडल में संयोजन करने के लिए एक केंद्रीय सर्वर को अपने अपडेट भेजते हैं।

पुराना तरीका (FedAvg): सर्वर हर अस्पताल को समान मानता था। यदि एक छोटे क्लिनिक के पास 1,000 मरीज थे लेकिन उसने बहुत खराब अनुमान लगाए, तो उनकी खराब सलाह भी उतनी ही महत्वपूर्ण मानी जाती थी जितनी कि एक बड़े अस्पताल की अच्छी सलाह।
नया तरीका (Fed-UQ-Avg): सर्वर कॉन्फिडेंस स्कोर को देखता है।
- यदि किसी अस्पताल के अनुमान आत्मविश्वासी और विश्वसनीय थे, तो सर्वर कहता है, "बहुत अच्छा काम! हम आपकी बात अधिक सुनेंगे।"
- यदि किसी अस्पताल के अनुमान अनिश्चितता से भरे थे, तो सर्वर कहता है, "हम आपकी बात सुनते हैं, लेकिन हम आपकी सलाह को बहुत कम महत्व देंगे ताकि आप पूरी टीम को नीचे न खींच सकें।"
उपमा (Analogy): कल्पना कीजिए कि एक ग्रुप प्रोजेक्ट चल रहा है। यदि एक छात्र वह पेपर जमा करता है जो उसने आधी नींद में लिखा था (कम आत्मविश्वास), तो शिक्षक (सर्वर) उसे ग्रेड तो देता है लेकिन उसे पूरे समूह के औसत को खराब करने की अनुमति नहीं देता। वे उस छात्र को अधिक सुनते हैं जिसने पूरी रात पढ़ाई करके (उच्च आत्मविश्वास) काम किया है।

परिणाम

शोधकर्ताओं ने तीन अलग-अलग डेटासेट्स से वास्तविक चेस्ट एक्स-रे डेटा पर इसका परीक्षण किया।

परिणाम: सबसे कठिन परिदृश्यों में (जहाँ अधिकांश अस्पतालों के पास टेक्स्ट डेटा गायब था), उनके नए तरीके ने पुराने "आत्मविश्वासी अनुमान लगाने वाले" तरीकों की तुलना में एआई की सटीकता में 5.36% का सुधार किया।
निष्कर्ष: एआई को यह सिखाकर कि वह कब "मुझे नहीं पता" (या "मैं सुनिश्चित नहीं हूँ") कहना है, पूरा सिस्टम अधिक सुरक्षित, सटीक और भरोसेमंद बन जाता है।

यह क्यों महत्वपूर्ण है

वास्तविक दुनिया में, हमें ऐसा एआई नहीं चाहिए जो आत्मविश्वास के साथ गलत हो। हमें ऐसा एआई चाहिए जो अपनी सीमाओं को जानता हो। यह पेपर हमें ऐसे मेडिकल एआई बनाने का ब्लूप्रिंट देता है जो विभिन्न अस्पतालों में सहयोग कर सके, लापता डेटा को कुशलता से संभाल सके, और हमेशा डॉक्टर को बता सके, "यह मेरा सबसे अच्छा अनुमान है, और यह है कि आपको इस पर कितना भरोसा करना चाहिए।"

यहाँ शोध पत्र "Probabilistic Feature Imputation and Uncertainty-Aware Multimodal Federated Aggregation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र स्वास्थ्य सेवा (healthcare) में मल्टीमॉडल फेडरेटेड लर्निंग (FL) की एक महत्वपूर्ण चुनौती: मोडैलिटी विषमता (Modality Heterogeneity) को संबोधित करता है।

संदर्भ: वास्तविक दुनिया के चिकित्सा परिवेश में, संस्थानों के पास संसाधनों की भिन्नता होती है। बड़े अस्पतालों के पास अक्सर रेडियोलॉजिकल इमेज (X-rays) और टेक्स्ट रिपोर्ट्स दोनों होते हैं, जबकि छोटे क्लीनिकों के पास केवल इमेज हो सकते हैं।
अंतराल (The Gap): मौजूदा FL दृष्टिकोण लुप्त मोडैलिटीज़ (जैसे, टेक्स्ट रिपोर्ट का गायब होना) को संभालने के लिए डिटरमिनिस्टिक फीचर इम्प्यूटेशन नेटवर्क (deterministic feature imputation networks) का उपयोग करते हैं। ये नेटवर्क गायब डेटा को एक एकल "पॉइंट एस्टीमेट" (point estimate) के रूप में संश्लेषित (synthesize) करते हैं।
जोखिम: डिटरमिनिस्टिक मॉडल तब भी उच्च आत्मविश्वास (high confidence) के साथ भविष्यवाणियां करते हैं जब इनपुट अस्पष्ट हो या इम्प्यूटेशन खराब हो। सुरक्षा-महत्वपूर्ण चिकित्सा अनुप्रयोगों में, यह "साइलेंट फेल्योर" (silent failures) की ओर ले जाता है जहाँ मॉडल उच्च विश्वास के साथ फीचर्स को 'हैलुसिनेट' (hallucinate) करता है, जिससे गलत निदान हो सकता है। वर्तमान विधियों में अनिश्चितता परिमाणीकरण (Uncertainty Quantification - UQ) का अभाव है, जो डाउनस्ट्रीम क्लासिफायर को विश्वसनीय और अविश्वसनीय इम्प्यूटेड डेटा के बीच अंतर करने से रोकता है।

2. कार्यप्रणाली (Methodology)

लेखक P-FIN (Probabilistic Feature Imputation Network) के साथ Fed-UQ-Avg, एक नवीन एग्रीगेशन रणनीति प्रस्तावित करते हैं। यह ढांचा दो मुख्य चरणों में कार्य करता है:

A. प्रोबेबिलिस्टिक फीचर इम्प्यूटेशन नेटवर्क (P-FIN)

एक निश्चित वेक्टर आउटपुट देने के बजाय, P-FIN कंडीशनल डिस्ट्रीब्यूशन $p(z_T | z_I)$ को एक हेटरोसेडास्टिक गौसियन (heteroscedastic Gaussian) के रूप में मॉडल करता है।

आर्किटेक्चर:
- एनकोडर्स (Encoders): इमेज के लिए ResNet-50 और टेक्स्ट के लिए BERT-base का उपयोग करता है, जो फीचर्स को एक साझा 256-डायमेंशनल स्पेस में प्रोजेक्ट करते हैं।
- इम्प्यूटेशन कोर (Imputation Core): एक ट्रांसफार्मर-आधारित एनकोडर इमेज फीचर्स और एक लर्न करने योग्य क्वेरी टोकन (learnable query token) को लेता है।
- डुअल आउटपुट हेड्स (Dual Output Heads): दो मल्टी-लेयर परसेप्ट्रॉन (MLPs) फीचर वेक्टर के प्रत्येक डायमेंशन के लिए मीन ( $\mu$ ) (इम्प्यूटेड फीचर) और वेरिएंस ( $\sigma^2$ ) (अनिश्चितता) आउटपुट करते हैं।
प्रशिक्षण (Calibration): मॉडल को केवल अनंत अनिश्चितता (infinite uncertainty) की भविष्यवाणी करके लॉस को कम करने से रोकने के लिए (जो कि Gaussian NLL की एक सामान्य समस्या है), लेखक $\beta$ -NLL लॉस का उपयोग करते हैं। यह लॉस फंक्शन वेरिएंस टर्म पर एक स्टॉप-ग्रेडिएंट ऑपरेशन लागू करता है, जिससे मॉडल को पुनर्निर्माण गुणवत्ता (reconstruction quality) और कैलिब्रेटेड अनिश्चितता अनुमान के बीच संतुलन बनाने के लिए मजबूर किया जाता है।

B. स्थानीय अनिश्चितता-जागरूक फ्यूजन (Local Uncertainty-Aware Fusion)

उन क्लाइंट्स पर जहाँ मोडैलिटीज़ गायब हैं, इम्प्यूटेड फीचर्स का सीधे उपयोग नहीं किया जाता है। इसके बजाय, एक अनिश्चितता गेटिंग (Uncertainty Gating) तंत्र लागू किया जाता है:

गेटिंग (Gating): प्रेडिक्टेड वेरिएंस से एक सिग्मॉइड गेट कंप्यूट किया जाता है: $g = \text{sigmoid}(-\log \sigma^2)$ $g = sigmoid (- lo g σ^{2})$ ।
- उच्च अनिश्चितता $\rightarrow$ गेट 0 के करीब पहुँचता है (फीचर को दबा देता है)।
- कम अनिश्चितता $\rightarrow$ गेट 1 के करीब पहुँचता है (फीचर को बनाए रखता है)।
फ्यूजन (Fusion): गेटेड इम्प्यूटेड फीचर्स को क्रॉस-मोडल अटेंशन (Cross-Modal Attention) का उपयोग करके मूल इमेज फीचर्स के साथ फ्यूज किया जाता है, जिससे मॉडल को विश्वसनीयता के आधार पर योगदान को गतिशील रूप से तौलने की अनुमति मिलती है।

C. ग्लोबल एग्रीगेशन: Fed-UQ-Avg

मानक फेडरेटेड एवरेजिंग (FedAvg) क्लाइंट्स को केवल उनके डेटासेट के आकार के आधार पर वेट देता है, जो हानिकारक हो सकता है यदि किसी बड़े क्लाइंट की इम्प्यूटेशन गुणवत्ता खराब हो। लेखक Fed-UQ-Avg पेश करते हैं:

वेटिंग स्कीम (Weighting Scheme): क्लाइंट $k$ $k$ के लिए एग्रीगेशन वेट $W_k$ $W_{k}$ दो घटकों का मिश्रण है:
1. डेटा वेट ( $w_{data}$ ): नमूनों (samples) की संख्या के समानुपाती (मानक FedAvg)।
2. कॉन्फिडेंस वेट ( $w_{conf}$ ): क्लाइंट के औसत इम्प्यूटेशन अनिश्चितता ( $\bar{\sigma}^2$ ) पर आधारित, जिसे टेम्परेचर-स्केल्ड एक्सपोनेंशियल के माध्यम से गणना की जाती है: $\exp(-\bar{\sigma}^2 / T)$ ।
तंत्र (Mechanism): उच्च अनिश्चितता (खराब इम्प्यूटेशन गुणवत्ता) वाले क्लाइंट्स को कम वेट मिलता है, जिससे वैश्विक मॉडल पर उनका नकारात्मक प्रभाव कम हो जाता है।

3. प्रमुख योगदान (Key Contributions)

प्रोबेबिलिस्टिक इम्प्यूटेशन: P-FIN का परिचय, जो फेडरेटेड मल्टीमॉडल सेटिंग में कैलिब्रेटेड अनिश्चितता अनुमानों के साथ फीचर्स आउटपुट करने वाला पहला फ्रेमवर्क है।
दोहरे स्तर का अनिश्चितता उपयोग:
- स्थानीय (Local): अनिश्चितता गेटिंग वर्गीकरण से पहले अविश्वसनीय सिंथेटिक फीचर्स को दबा देती है।
- वैश्विक (Global): Fed-UQ-Avg मॉडल एग्रीगेशन के दौरान उच्च-विश्वास वाले इम्प्यूटेशन वाले अपडेट्स को प्राथमिकता देता है।
कैलिब्रेटेड प्रशिक्षण: "वेरिएंस एक्सप्लोजन" को रोकने के लिए $\beta$ -NLL लॉस का उपयोग, जो यह सुनिश्चित करता है कि प्रेडिक्टेड अनिश्चितता सार्थक और वास्तविक पुनर्निर्माण त्रुटि के साथ सह-संबंधित है।
विषमता में मजबूती (Robustness in Heterogeneity): यह प्रदर्शित किया गया कि अनिश्चितता को स्पष्ट रूप से मॉडल करने से सिस्टम को खराब डेटा पर "अविश्वास करना सीखने" में मदद मिलती है, जो मोडैलिटी असंतुलन वाले परिदृश्यों में डिटरमिनिस्टिक बेसलाइन से काफी बेहतर प्रदर्शन करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

डेटासेट: तीन चेस्ट एक्स-रे डेटासेट पर प्रयोग किए गए: CheXpert, NIH Open-I, और PadChest।
सेटअप: 10 क्लाइंट्स और यूनिमोडल (इमेज-ओनली) बनाम मल्टीमोडल (इमेज+टेक्स्ट) क्लाइंट्स के विभिन्न अनुपातों (8:2, 6:4, 4:6) के साथ सिम्युलेटेड फेडरेटेड वातावरण।
बेसलाइन्स: Zero-filling, Uniform-filling, डिटरमिनिस्टिक FIN + FedAvg, और उनके मेथड (P-FIN + FedAvg) के एब्लेशन के विरुद्ध तुलना की गई।
प्रदर्शन:
- P-FIN + Fed-UQ-Avg ने सभी कॉन्फ़िगरेशन में उच्चतम AUC प्राप्त किया।
- सबसे चुनौतीपूर्ण परिदृश्य (80% यूनिमोडल क्लाइंट्स) में, प्रस्तावित विधि ने डिटरमिनिस्टिक बेसलाइन (FIN + FedAvg) की तुलना में 5.36% एब्सोल्यूट AUC गेन हासिल किया।
- एब्लेशन स्टडी (Ablation Study): पुष्टि की गई कि प्रोबेबिलिस्टिक इम्प्यूटेशन (P-FIN) और अनिश्चितता-जागरूक एग्रीगेशन (Fed-UQ-Avg) दोनों स्वतंत्र रूप से प्रदर्शन में योगदान देते हैं, जिसमें एग्रीगेशन रणनीति लगभग 2.4–2.8% का अतिरिक्त लाभ प्रदान करती है।
- कैलिब्रेशन: मॉडल ने उत्कृष्ट कैलिब्रेशन प्रदर्शित किया (Expected Calibration Error = 0.0422), जिसमें प्रेडिक्टेड अनिश्चितता वास्तविक इम्प्यूटेशन त्रुटि के साथ मजबूती से सह-संबंधित थी।

5. महत्व (Significance)

सुरक्षा-महत्वपूर्ण AI (Safety-Critical AI): यह कार्य चिकित्सा AI में अनिश्चितता परिमाणीकरण (Uncertainty Quantification) के लिए नियामक आवश्यकताओं (जैसे, FDA) को सीधे संबोधित करता है। यह सुनिश्चित करता है कि क्लिनिशियन को तब चेतावनी दी जाए जब सिस्टम गायब डेटा का "अनुमान" लगा रहा हो, बजाय इसके कि वह हैलुसिनेटेड फीचर्स को तथ्य के रूप में प्रस्तुत करे।
व्यावहारिक तैनाती (Practical Deployment): यह कच्चे डेटा को साझा किए बिना संसाधन-संपन्न और संसाधन-विहीन अस्पतालों के बीच प्रभावी सहयोग को सक्षम करके, अधिक समावेशी और मजबूत मेडिकल AI विकास को सुगम बनाता है।
पैराडाइम शिफ्ट (Paradigm Shift): यह क्षेत्र को "ब्लाइंड इम्प्यूटेशन" से "अनिश्चितता-जागरूक संश्लेषण" (uncertainty-aware synthesis) की ओर ले जाता है, जो फेडरेटेड लर्निंग में लुप्त मोडैलिटीज़ को संभालने के लिए एक नया मानक स्थापित करता है।