💻 computer science

Principled Uncertainty in Clinical AI: End-to-End Bayesian Modelling and Algorithmic Equity Auditing Across Multimodal Patient Data

यह शोध पत्र मल्टीमॉडल क्लिनिकल डेटा के लिए एक एंड-टू-एंड बायेसियन डीप लर्निंग फ्रेमवर्क प्रस्तुत करता है जो न केवल एलियटोरिक (aleatoric) और एपिस्टेमिक (epistemic) अनिश्चितता को परिमाणित करता है, बल्कि अल्पसेवा प्राप्त रोगी उपसमूहों में महत्वपूर्ण एल्गोरिद्मिक इक्विटी अंतराल का औपचारिक रूप से ऑडिट करने और उन्हें प्रकट करने के लिए कैलिब्रेटेड अनिश्चितता अनुमानों का लाभ भी उठाता है।

मूल लेखक: Oladimeji Anthonio, Dimeji Abdulsobur Olawuyi, Oloruntoba Ajayi, Temiloluwa Aderemi, Joseph Odamo

प्रकाशित 2026-06-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Oladimeji Anthonio, Dimeji Abdulsobur Olawuyi, Oloruntoba Ajayi, Temiloluwa Aderemi, Joseph Odamo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक डॉक्टर मरीजों का निदान करने में मदद करने के लिए एक हाई-टेक कंप्यूटर प्रोग्राम का उपयोग कर रहा है। आमतौर पर, यह कंप्यूटर एक सरल उत्तर देता है: "इस बात की 73% संभावना है कि इस मरीज को बीमारी है।" लेकिन यहाँ समस्या यह है: कंप्यूटर आपको यह नहीं बताता कि वह इस नंबर के बारे में कितना आश्वस्त है। यह एक मौसम ऐप की तरह है जो कहता है "कल बारिश होगी" बिना यह बताए कि वह हल्की बूंदाबांदी होगी या तूफान, या क्या ऐप केवल इसलिए अंदाज़ा लगा रहा है क्योंकि उसने पहले उस क्षेत्र में बारिश नहीं देखी है।

यह शोध पत्र एक नए प्रकार के "स्मार्ट" कंप्यूटर प्रोग्राम को पेश करता है जो केवल एक उत्तर ही नहीं देता; बल्कि इसमें एक अंतर्निहित "कॉन्फिडेंस मीटर" (आत्मविश्वास मापने वाला यंत्र) भी है जो इस बात के प्रति ईमानदार है कि वह क्या जानता है और क्या नहीं।

यहाँ बताया गया है कि यह कैसे काम करता है और शोधकर्ताओं ने क्या पाया, सरल उपमाओं का उपयोग करते हुए:

1. "कॉन्फिडेंस मीटर" (अनिश्चितता)

अधिकांश कंप्यूटर प्रोग्राम उस छात्र की तरह होते हैं जिसने किताब को पूरी तरह से रट लिया है लेकिन विषय से बाहर पूछे गए प्रश्न पर घबरा जाता है। वे फिर भी एक उत्तर देते हैं, यह दिखाने का नाटक करते हुए कि वे आश्वस्त हैं।

वर्णित इस नए सिस्टम की तुलना उस छात्र से की जा सकती है जो अपनी सीमाओं को जानता है। यह बेयसियन मॉडलिंग (Bayesian modeling) नामक एक विशेष गणितीय तकनीक का उपयोग करता है। केवल एक उत्तर देने के बजाय, यह संभावनाओं की एक सीमा देता है और कहता है, "मैं इस बारे में बहुत आश्वस्त हूँ," या "मैं अनिश्चित हूँ क्योंकि मैंने पहले इस तरह का डेटा नहीं देखा है।"

शोधकर्ताओं ने इस "निश्चित न होने" की भावना को दो प्रकारों में विभाजित किया है:

एलेटोरिक अनिश्चितता (Aleatoric Uncertainty - बिखरा हुआ डेटा): यह एक धुंधले या मिटे हुए हाथ से लिखे नोट को पढ़ने की कोशिश करने जैसा है। डेटा स्वयं शोर भरा (noisy) है, और कितनी भी पढ़ाई कर ली जाए, इसे स्पष्ट नहीं किया जा सकता।
एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty - ज्ञान की कमी): यह उस छात्र की तरह है जो किसी ऐसे विषय पर सवाल का सामना करता है जिसका उसने कभी अध्ययन ही नहीं किया। डेटा स्पष्ट हो सकता है, लेकिन कंप्यूटर ने इस विशिष्ट प्रकार के रोगी के बारे में पर्याप्त रूप से नहीं सीखा है।

2. "विशेषज्ञों की टीम" (मल्टीमॉडल फ्यूजन)

निदान करने के लिए, डॉक्टर कई चीजों को देखते हैं: रक्त परीक्षण (संख्याएँ), एक्स-रे (छवियाँ), और मेडिकल नोट्स (टेक्स्ट)।

पुराना तरीका: कंप्यूटर इन्हें अलग-अलग देखता है या उन्हें एक एकल, कठोर ढांचे में फिट करने की कोशिश करता है। यदि डेटा का एक हिस्सा गायब है (जैसे एक्स-रे नहीं है), तो कंप्यूटर या तो अनुमान लगा सकता है या उसे अनदेखा कर सकता है।
नया तरीका: शोधकर्ताओं ने एक ऐसा सिस्टम बनाया है जो विशेषज्ञों की एक टीम की तरह काम करता है। प्रत्येक विशेषज्ञ (एक संख्याओं के लिए, एक छवियों के लिए, एक टेक्स्ट के लिए) अपनी राय देता है। यदि एक विशेषज्ञ गायब है (जैसे कोई एक्स-रे नहीं है), तो सिस्टम घबराता नहीं है। इसके बजाय, यह शेष विशेषज्ञों को अधिक महत्व देता है लेकिन स्वीकार करता है, "मेरी समग्र धारणा कम है क्योंकि हमारे पास पहेली का एक हिस्सा गायब है।"

3. "निष्पक्षता परीक्षण" (एल्गोरिद्मिक इक्विटी)

यह इस शोध पत्र का सबसे महत्वपूर्ण हिस्सा है। शोधकर्ताओं ने पूछा: क्या यह "कॉन्फिडेंस मीटर" हमें सिस्टम में अनfairness (अनुचितता) खोजने में मदद करता है?

उन्होंने विभिन्न पृष्ठभूमियों के 1,000 मरीजों के एक सिम्युलेटेड समूह पर इसका परीक्षण किया:

अमीर बनाम गरीब: समृद्ध क्षेत्रों के मरीज बनाम कम आय वाले क्षेत्रों के मरीज।
शहर बनाम ग्रामीण क्षेत्र: बड़े शहर के अस्पतालों के मरीज बनाम ग्रामीण क्लीनिकों के मरीज।
आयु: युवा बनाम वृद्ध।
लिंग: पुरुष बनाम महिला।

खोज:
कंप्यूटर का "कॉन्फिडेंस मीटर" विशेष रूप से उन मरीजों के लिए चमक उठा (उच्च अनिश्चितता दिखाई) जो अक्सर उपेक्षित रह जाते हैं।

ग्रामीण मरीज: कंप्यूटर ग्रामीण क्लीनिकों के मरीजों के बारे में बहुत कम आश्वस्त था। क्यों? क्योंकि कंप्यूटर को मुख्य रूप से बड़े शहरों के अस्पतालों के डेटा पर प्रशिक्षित किया गया था। यह एक शहर के ड्राइवर की तरह था जो पहली बार कच्ची सड़क पर गाड़ी चलाने की कोशिश कर रहा हो; वे जानते थे कि वे अपनी क्षमता से बाहर हैं।
गरीब मरीज: इसी तरह, कंप्यूटर कम सामाजिक-आर्थिक स्थिति वाले मरीजों के बारे में भी कम आश्वस्त था, संभवतः इसलिए क्योंकि उनके मेडिकल रिकॉर्ड कम पूर्ण या निम्न गुणवत्ता के थे।
लिंग: दिलचस्प बात यह है कि कंप्यूटर ने पुरुषों और महिलाओं के बीच आत्मविश्वास में कोई अंतर नहीं दिखाया। इससे पता चलता है कि आत्मविश्वास की कमी जैविक (biological) नहीं थी, बल्कि मरीज के पास उपलब्ध संसाधनों के बारे में थी (जैसे कि पास में एक अच्छा अस्पताल होना)।

4. यह क्यों मायने रखता है

यह शोध पत्र तर्क देता है कि हमें कंप्यूटर की अनिश्चितता को छिपाने या ठीक करने की कोशिश नहीं करनी चाहिए। इसके बजाय, हमें अनिश्चितता को एक संकेत (signal) के रूप में देखना चाहिए।

पुराना दृष्टिकोण: "कंप्यूटर अनिश्चित है? यह एक बग (खामी) है। चलिए इसे अधिक आश्वस्त बनाने की कोशिश करते हैं।"
नया दृष्टिकोण: "कंप्यूटर ग्रामीण मरीजों के बारे में अनिश्चित है? यह एक फीचर है! यह हमें बता रहा है, 'हे, मैंने ग्रामीण क्षेत्रों के लोगों के बारे में पर्याप्त नहीं सीखा है। हमें यहाँ अतिरिक्त सावधानी बरतने की आवश्यकता है, या हमें ग्रामीण क्लीनिकों से अधिक डेटा एकत्र करने की आवश्यकता है।'"

निष्कर्ष

शोधकर्ताओं ने एक ऐसा सिस्टम बनाया है जो अपनी सीमाओं के प्रति ईमानदार है। इस "ईमानदारी" को सुनकर, उन्होंने पाया कि यह सिस्टम स्वाभाविक रूप से उन मरीजों को चिह्नित करता है जिन्हें अक्सर स्वास्थ्य सेवा प्रणालियों द्वारा पीछे छोड़ दिया जाता है (वे जो ग्रामीण क्षेत्रों या कम आय वाले समूहों से आते हैं)।

शोध पत्र का निष्कर्ष है कि एक वास्तव में निष्पक्ष और भरोसेमंद मेडिकल AI वह नहीं है जो हमेशा आश्वस्त हो; बल्कि वह है जो जानता है कि वह कब नहीं जानता, और उस ज्ञान की कमी का उपयोग यह उजागर करने के लिए करता है कि स्वास्थ्य सेवा प्रणाली कहाँ अपने सबसे कमजोर लोगों की सेवा करने में विफल हो रही है।

तकनीकी सारांश: नैदानिक AI में सिद्धांतगत अनिश्चितता

समस्या विवरण
वर्तमान नैदानिक आर्टिफिशियल इंटेलिजेंस (AI) प्रणालियाँ मुख्य रूप से नियतात्मक (deterministic) मॉडलों पर निर्भर करती हैं जो जोखिम या रोग की संभावना के लिए पॉइंट एस्टीमेट (point estimates) आउटपुट करती हैं, बिना उन भविष्यवाणियों के आत्मविश्वास या विश्वसनीयता को मापे। यह सीमा उच्च-दांव वाले चिकित्सा वातावरणों में दो महत्वपूर्ण मुद्दे पैदा करती है:

तकनीकी अंधापन (Technical Blindness): नियतात्मक मॉडल यह अंतर नहीं कर सकते कि किन मामलों में उच्च आत्मविश्वास उचित है और किन मामलों में मॉडल अपने प्रशिक्षण वितरण (training distribution) से बाहर काम कर रहा है (जैसे, एक ग्रामीण सुविधा के मरीज जिसके रिकॉर्ड अधूरे हैं बनाम एक अच्छी तरह से प्रलेखित तृतीयक-देखभाल (tertiary-care) वाला मरीज)।
समता अदृश्यता (Equity Invisibility): अनिश्चितता मात्रा निर्धारण (uncertainty quantification) की अनुपस्थिति वंचित आबादी को प्रभावित करने वाली व्यवस्थित मॉडल विफलताओं को चिकित्सकों और प्रशासकों के लिए अदृश्य बना देती है। फलस्वरूप, डेटा गुणवत्ता संबंधी विसंगतियों से प्रेरित पूर्वाग्रह मानक सटीकता मेट्रिक्स द्वारा अन détecter रह जाते हैं।

कार्यप्रणाली
लेखक एक एकीकृत अनुसंधान कार्यक्रम का प्रस्ताव करते हैं जिसमें एक पूर्ण एंड-टू-एंड बेयसियन अनिश्चितता मॉडलिंग ढांचा और एक एल्गोरिदम इक्विटी ऑडिट शामिल है।

सिस्टम आर्किटेक्चर: सिस्टम एक संभाव्य डीप लर्निंग आर्किटेक्चर का उपयोग करता है जिसे मल्टीमॉडल डेटा (इलेक्ट्रॉनिक हेल्थ रिकॉर्ड्स, मेडिकल इमेजिंग और क्लिनिकल टेक्स्ट) के लिए डिज़ाइन किया गया है।
- मोडैलिटी-विशिष्ट एनकोडर: प्रत्येक डेटा मोडैलिटी को एक वेरिएशनल एनकोडर द्वारा प्रोसेस किया जाता है जो इनपुट को एक साझा लेटेंट स्पेस में गाऊसियन वितरण के मापदंडों में मैप करता है ( $q_\phi(z|x) = \mathcal{N}(z; \mu_\phi(x), \sigma^2_\phi(x)I)$ )।
- प्रिसिजन-वेटेड लेट फ्यूजन (Precision-Weighted Late Fusion): ढांचा प्रत्येक मोडैलिटी को उनके प्रिसिजन (precision) $\Lambda_m = 1/\sigma^2_m$ के आधार पर वेट देता है। लुप्त मोडैलिटीज को उनके लॉग-वेरिएंस को उच्च मान पर सेट करके संभाला जाता है, जो प्रभावी रूप से उनके प्रिसिजन को शून्य कर देता है और उन्हें फ्यूजन से बाहर कर देता है, जबकि रोगी के रिकॉर्ड को सुरक्षित रखता है।
- अनिश्चितता अपघटन (Uncertainty Decomposition): आउटपुट हेड अनिश्चितता को दो अलग प्रकारों में विभाजित करता है:
  - एलेयटोरिक अनिश्चितता (Aleatoric Uncertainty): अवलोकनों में निहित अपरिहार्य शोर (irreducible noise) को पकड़ने के लिए एक समर्पित हेड के माध्यम से अनुमानित।
  - एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty): अपरिचित रोगी प्रोफाइल के संबंध में मॉडल के ज्ञान की कमी को पकड़ने के लिए $T$ स्टोकेस्टिक फॉरवर्ड पास के साथ मोंटे कार्लो ड्रॉपआउट (MC Dropout) का उपयोग करके अनुमानित।
प्रशिक्षण उद्देश्य (Training Objective): मॉडल को एक कंपोजिट बेयसियन लॉस फंक्शन का उपयोग करके अनुकूलित किया जाता है जिसमें शामिल हैं:
1. भविष्यवाणी सटीकता के लिए बाइनरी क्रॉस-एन्ट्रॉपी।
2. लेटेंट डिस्ट्रीब्यूशन को बाधित करने के लिए कुलबैक-लीब्लर (KL) डाइवर्जेंस रेगुलराइजेशन।
3. एपिस्टेमिक अनिश्चितता को प्रेडिक्शन एरर के साथ संरेखित करने के लिए एक अनिश्चितता कैलिब्रेशन पेनल्टी।
मूल्यांकन मेट्रिक्स:
- कैलिब्रेशन: एक्सपेक्टेड कैलिब्रेशन एरर (ECE) के माध्यम से मापा गया।
- समता (Equity): सुविधा प्रकार, सामाजिक-आर्थिक स्थिति (SES), आयु और जैविक लिंग द्वारा परिभाषित उपसमूहों में अनिश्चितता विसंगति अनुपात (UDR) और अनिश्चितता इक्विटी गैप (UEG) का उपयोग करके औपचारिक रूप दिया गया।

प्रायोगिक सेटअप
अध्ययन ने 1,000 रोगियों के एक सिंथेटिक क्लिनिकल डेटासेट का उपयोग किया जिसमें यथार्थवादी मल्टीमॉडल डेटा और उपसमूह संरचनाएं थीं। डेटा पूर्णता को स्पष्ट रूप से उपसमूह सदस्यता के फलन (function) के रूप में मॉडल किया गया था ताकि वास्तविक दुनिया की असमानताओं का अनुकरण किया जा सके (जैसे, तृतीयक रोगियों की तुलना में प्राथमिक/ग्रामीण रोगियों के लिए इमेजिंग डेटा गायब होने की संभावना 45% थी, जबकि तृतीयक के लिए यह 10% थी)। मॉडल को एडम ऑप्टिमाइज़र का उपयोग करके 50 इपोक के लिए प्रशिक्षित किया गया था।

प्रमुख परिणाम

मॉडल प्रदर्शन: सिस्टम ने 85.7% की होल्ड-आउट सटीकता और 0.096 का ECE प्राप्त किया, जो अच्छी तरह से कैलिब्रेटेड भविष्यवाणियों को दर्शाता है। कंपोजिट लॉस प्रशिक्षण के दौरान 94.5% कम हुआ।
अनिश्चितता प्रसार (Uncertainty Propagation): मॉडल ने लुप्त डेटा से अनिश्चितता को सही ढंग से प्रसारित किया। लुप्त इमेजिंग डेटा वाले रोगियों में पूर्ण डेटा वाले रोगियों की तुलना में फ्यूज्ड लेट स्टैंडर्ड डेविएशन में 42.2% की वृद्धि देखी गई।
इक्विटी ऑडिट निष्कर्ष: कैलिब्रेटेड एपिस्टेमिक अनिश्चितता ने व्यवस्थित रूप से कम सेवा प्राप्त आबादी की पहचान की, जिससे वे विसंगतियां भी सामने आईं जिन्हें मानक सटीकता मेट्रिक्स मिस कर गए थे (जैसे, प्राथमिक/ग्रामीण सटीकता 85.5% बनाम तृतीयक 82.6% थी, जो कि नगण्य 2.9% का अंतर है, जबकि अनिश्चितता गैप 15.3% था)।
- सुविधा प्रकार: प्राथमिक/ग्रामीण रोगियों ने सबसे बड़ा इक्विटी गैप (UEG = 15.3%, $p < 0.001$ , प्रभाव आकार $r = 0.698$ ) दिखाया। वे उच्च-अनिश्चितता समूह में 42.8% अधिक प्रतिनिधित्व रखते थे।
- सामाजिक-आर्थिक स्थिति: कम SES वाले रोगियों ने 6.8% का अनिश्चितता गैप प्रदर्शित किया ( $p < 0.001$ )।
- आयु: बुजुर्ग रोगियों ने 3.9% का गैप दिखाया ( $p < 0.001$ )।
- जैविक लिंग: कोई महत्वपूर्ण विसंगति नहीं पाई गई (UEG = 0.5%, $p = 0.909$ ), जो यह सुझाव देता है कि देखी गई असमानताएं संरचनात्मक और संसाधन-आधारित हैं न कि जनसांख्यिकीय।

महत्व और दावे
यह पेपर नैदानिक AI में अनिश्चितता के पुनर्गठन का प्रस्ताव करता है: अनिश्चितता को केवल न्यूनतम की जाने वाली तकनीकी सीमा के रूप में देखने के बजाय, कैलिब्रेटेड अनिश्चितता को एक सक्रिय इक्विटी सिग्नल (actionable equity signal) के रूप में माना जाना चाहिए।

लेखक दावा करते हैं कि उनका ढांचा प्रदर्शित करता है कि:

एपिस्टेमिक अनिश्चितता स्वास्थ्य असमानता का मानचित्रण करती है: जब एक मॉडल कम संसाधन वाले परिवेश (जो कम डेटा गुणवत्ता और लुप्त मोडैलिटीज द्वारा विशेषता है) से डेटा का सामना करता है, तो वह स्वाभाविक रूप से उच्च एपिस्टेमिक अनिश्चितता प्रदर्शित करता है।
अनिश्चितता पूर्वाग्रह के लिए एक नैदानिक उपकरण है: अनिश्चितता विसंगतियों को मापकर, हितधारक उन रोगी आबादी की पहचान कर सकते हैं जिनके लिए मॉडल व्यवस्थित रूप से कम विश्वसनीय है, भले ही समग्र सटीकता उच्च दिखाई दे रही हो।
पारदर्शिता के माध्यम से विश्वसनीयता: एक नैदानिक AI सिस्टम जो "जानता है कि वह क्या नहीं जानता" और इसे विश्वसनीय रूप से संचारित करता है, वह न केवल अधिक सटीक है बल्कि मौलिक रूप से अधिक न्यायसंगत भी है।

अध्ययन निष्कर्ष निकालता है कि कैलिब्रेटेड अनिश्चितता एल्गोरिदम इक्विटी के एक औपचारिक माप के रूप में कार्य करती है, जो पोस्ट-हॉक पूर्वाग्रह सुधार पर निर्भर रहने के बजाय स्वास्थ्य डेटा में संरचनात्मक असमानताओं का पता लगाने और उन्हें संबोधित करने के लिए एक तंत्र प्रदान करती है।

1. "कॉन्फिडेंस मीटर" (अनिश्चितता)

2. "विशेषज्ञों की टीम" (मल्टीमॉडल फ्यूजन)

3. "निष्पक्षता परीक्षण" (एल्गोरिद्मिक इक्विटी)

4. यह क्यों मायने रखता है

निष्कर्ष

इसी तरह के और पेपर