📊 statistics

Not Just How Much, But Where: Decomposing Epistemic Uncertainty into Per-Class Contributions

यह शोध पत्र सुरक्षा-महत्वपूर्ण वर्गीकरण (safety-critical classification) में स्केलर मेट्रिक्स की सीमाओं को संबोधित करने के लिए म्यूचुअल इंफॉर्मेशन को एपिस्टेमिक अनसर्टेन्टी (epistemic uncertainty) के प्रति-वर्ग वेक्टर (per-class vector) में विघटित करने का प्रस्ताव देता है, जो चिकित्सा और इमेज बेंचमार्क पर सैद्धांतिक विश्लेषण और अनुभवजन्य सत्यापन के माध्यम से यह प्रदर्शित करता है कि यह दृष्टिकोण उस वर्ग-विशिष्ट अज्ञानता (class-specific ignorance) को प्रकट करके चयनात्मक भविष्यवाणी (selective prediction), आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन और शोर मजबूती (noise robustness) में महत्वपूर्ण सुधार करता है जिसे स्केलर माप अस्पष्ट कर देते हैं।

मूल लेखक: Mame Diarra Toure, David A. Stephens

प्रकाशित 2026-02-27

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mame Diarra Toure, David A. Stephens

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो रेटिनल स्कैन से आंखों की बीमारियों का निदान करने के लिए एक AI का उपयोग कर रहे हैं। AI आमतौर पर बहुत अच्छा होता है, लेकिन कभी-कभी यह भ्रमित हो जाता है।

मानक AI की दुनिया में, जब मॉडल भ्रमित होता है, तो वह आपको एक संख्या देता है: "मैं 30% अनिश्चित हूँ।"

यह एक मौसम विज्ञानी की तरह है जो कहता है, "बारिश होने की 30% संभावना है।" यह बताता है कि कितनी अनिश्चितता मौजूद है, लेकिन यह नहीं बताता कि उस भ्रम का कारण क्या है। क्या मॉडल इस बात को लेकर अनिश्चित है कि दिन धूप वाला होगा या बादल वाला? या क्या वह धूप वाले दिन और बवंडर (टोरनेडो) के बीच अनिश्चित है?

सुरक्षा-महत्वपूर्ण क्षेत्रों में, जैसे कि चिकित्सा के क्षेत्र में, यह अंतर जीवन और मृत्यु का अंतर है। "धूप" और "बादल" के बीच अनिश्चित होना ठीक है। लेकिन "स्वस्थ आंख" और "अंधापन" (यानी 'धूप' और 'बवंडर') के बीच अनिश्चित होना एक संकट है।

यह शोध पत्र हमें AI को सुनने का एक नया तरीका सिखाता है। यह पूछने के बजाय कि "आप कितने अनिश्चित हैं?", यह पूछता है, "आप ठीक कहाँ अनिश्चित हैं?"

यहाँ उनके समाधान का विवरण दिया गया है, सरल उपमाओं का उपयोग करते हुए:

1. समस्या: भ्रम का "ब्लैक बॉक्स" (The "Black Box" of Confusion)

वर्तमान AI मॉडल बेयसियन डीप लर्निंग (Bayesian Deep Learning) नामक विधि का उपयोग करते हैं। वे एक ही छवि को नेटवर्क के माध्यम से कई बार चलाते हैं (जैसे 100 अलग-अलग डॉक्टरों की राय लेना) और देखते हैं कि उनमें कितना मतभेद है।

पुराना तरीका (म्युचुअल इंफॉर्मेशन): वे उस पूरे मतभेद को एक एकल संख्या में समेट देते हैं। यह एक शिक्षक की तरह है जो छात्र के टेस्ट को ग्रेड देते समय केवल यह कहता है, "तुमने 'सी' (C) ग्रेड प्राप्त किया है।" यह नहीं बताता कि छात्र गणित में असफल हुआ क्योंकि उसे गणित नहीं आता था, या इसलिए क्योंकि उसे इतिहास नहीं आता था।
दोष: यदि AI दो हानिरहित बीमारियों के बीच भ्रमित है, तो यह ठीक है। लेकिन यदि वह एक हानिरहित बीमारी और एक घातक बीमारी के बीच भ्रमित है, तो यह एक आपदा है। पुराना एकल नंबर दोनों स्थितियों के साथ बिल्कुल एक जैसा व्यवहार करता है।

2. समाधान: "प्रति-वर्ग" विभाजन (The "Per-Class" Breakdown)

लेखकों ने एक नया मीट्रिक बनाया जिसे $C_k$ कहा जाता है (इसे प्रत्येक विशिष्ट बीमारी के लिए एक "कन्फ्यूजन स्कोर" समझें)।

एक संख्या के बजाय, AI अब आपको एक वेक्टर (संख्याओं की एक सूची) देता है, जो हर संभावित बीमारी के लिए एक है।

बीमारी A (सौम्य/Benign): कन्फ्यूजन स्कोर: 0.1 (कम)
बीमारी B (सौम्य/Benign): कन्फ्यूजन स्कोर: 0.2 (कम)
बीमारी C (घातक/Deadly): कन्फ्यूजन स्कोर: 0.9 (उच्च!)

अब, डॉक्टर को पता है कि खतरा वास्तव में कहाँ है। AI केवल "अनिश्चित" नहीं है; वह विशेष रूप से एक स्वस्थ आंख को अंधेपन के साथ भ्रमित करने को लेकर डरा हुआ है।

3. गुप्त मंत्र: "दुर्लभ वर्ग" का समाधान (The "Rare Class" Fix)

इसे करने के पिछले प्रयासों के साथ एक पेचीदा गणितीय समस्या थी।

"दुर्लभ वर्ग" की समस्या: कल्पना कीजिए कि एक ऐसी बीमारी है जो लगभग कभी नहीं होती (जैसे 10,000 में से 1)। मानक गणित कहता है कि यदि कोई बीमारी दुर्लभ है, तो उस बीमारी के बारे में AI की "अनिश्चितता" बहुत कम होनी चाहिए। यह ऐसा है जैसे कहना, "चूंकि यह बीमारी इतनी दुर्लभ है, इसलिए AI इसके बारे में भ्रमित नहीं हो सकता।"
वास्तविकता: AI दुर्लभ बीमारियों के बारे में भ्रमित होता है, लेकिन मानक गणित उस संकेत को दबा देता है। यह एक ऐसे स्मोक डिटेक्टर की तरह है जो रसोई में धुएं के प्रति इतना संवेदनशील है कि वह बेसमेंट में लगी आग को अनदेखा कर देता है क्योंकि बेसमेंट का उपयोग शायद ही कभी किया जाता है।

लेखकों ने इसे एक चतुर गणितीय "वेटिंग" (औसत प्रायिकता से विभाजित करना) के साथ ठीक किया।

उपमा: कल्पना कीजिए कि आप एक शोर भरे कमरे में फुसफुसाहट सुन रहे हैं। यदि आप एक ज़ोरदार चिल्लाहट सुन रहे हैं, तो आपको वॉल्यूम बढ़ाने की आवश्यकता नहीं है। लेकिन यदि आप एक फुसफुसाहट (एक दुर्लभ बीमारी) सुन रहे हैं, तो आपको उसे एम्प्लीफाई (बढ़ाने) करने की आवश्यकता है।
उनका फॉर्मूला एक "वॉल्यूम नॉब" की तरह काम करता है जो स्वचालित रूप से दुर्लभ, खतरनाक वर्गों के लिए सिग्नल को तेज़ कर देता है। यह सुनिश्चित करता है कि यदि AI एक दुर्लभ, घातक बीमारी के बारे में भ्रमित है, तो अलार्म ज़ोर से बजेगा, भले ही वह बीमारी बहुत दुर्लभ क्यों न हो।

4. "स्क्यूनेस" चेक: यह जानना कि AI पर कब भरोसा करें

लेखकों ने यह भी महसूस किया कि कभी-कभी जिस गणित का उपयोग वे इन स्कोर को बनाने के लिए करते हैं, वह थोड़ा अस्थिर हो जाता है, विशेष रूप से जब AI बहुत अधिक भ्रमित होता है।

उपमा: कल्पना कीजिए कि आप एक इमारत की ऊंचाई का अनुमान लगा रहे हैं। यदि इमारत छोटी है, तो एक साधारण रूलर काम करता है। यदि इमारत एक गगनचुंबी इमारत है, तो एक साधारण रूलर टूट सकता है या अजीब उत्तर दे सकता है।
उन्होंने एक "स्क्यूनेस डायग्नोस्टिक" (एक छोटा चेतावनी लाइट) जोड़ा है। यदि AI किसी अजीब, एकतरफा तरीके से भ्रमित है, तो यह लाइट जल जाती है, जो डॉक्टर को बताती है: "हे, मेरी सामान्य गणना शायद गलत हो सकती है; आइए एक बैकअप योजना का उपयोग करें।"

5. वास्तविक दुनिया के परिणाम: दृष्टि बचाना

उन्होंने इसका परीक्षण डायबिटिक रेटिनोपैथी (अंधापन का एक प्रमुख कारण) पर किया।

लक्ष्य: AI को "सुरक्षित" मामलों पर निर्णय लेने की अनुमति दी जानी चाहिए, लेकिन जब वह "खतरनाक" मामलों के बारे में अनिश्चित हो, तो उसे मामला हैंडओवर (मरीज को मानव डॉक्टर के पास भेजना) करना चाहिए।
परिणाम: उनके नए "प्रति-वर्ग" (Per-Class) पद्धति का उपयोग करके, सिस्टम ने पुराने तरीकों की तुलना में खतरनाक मामले को मिस करने के जोखिम को 35% तक कम कर दिया।
रूपक: पुराना सिस्टम एक सुरक्षा गार्ड की तरह था जो तब तक सबको जाने देता है जब तक पूरी इमारत में आग न लग जाए। नया सिस्टम एक ऐसे गार्ड की तरह है जो जानता है कि कौन सा दरवाज़ा आग की ओर जाता है और केवल उसी दरवाज़े को रोकता है, जिससे बाकी सब सुरक्षित रूप से गुजर सकें।

सारांश

यह शोध पत्र हमें सिखाता है कि आप अपनी अज्ञानता के बारे में क्या नहीं जानते, यह जानना उतना ही महत्वपूर्ण है जितना कि आप कितना नहीं जानते।

अनिश्चितता को विशिष्ट श्रेणियों में तोड़कर और दुर्लभ, खतरनाक वर्गों पर अतिरिक्त ध्यान देकर, हम ऐसे AI सिस्टम बना सकते हैं जो न केवल स्मार्ट हैं, बल्कि सुरक्षित भी हैं। यह एक ऐसी कार के बीच का अंतर है जो कहती है "मैं दुर्घटनाग्रस्त हो सकता हूँ" और एक ऐसी कार के बीच का अंतर जो कहती है "मैं उस विशिष्ट पैदल यात्री से टकरा सकता हूँ, इसलिए मैं ब्रेक लगा रहा हूँ।"

यहाँ शोध पत्र "Not Just How Much, But Where: Decomposing Epistemic Uncertainty into Per-Class Contributions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

सुरक्षा-महत्वपूर्ण वर्गीकरण कार्यों (जैसे चिकित्सा निदान, स्वायत्त ड्राइविंग) में, विफलता की लागत अक्सर असममित (asymmetric) होती है। एक दुर्लभ, गंभीर स्थिति (जैसे दृष्टि-घातक रेटिनोपैथी) को पहचानने में चूक करना, एक फाल्स पॉजिटिव या दो सौम्य वर्गों के बीच भ्रमित होने की तुलना में कहीं अधिक गंभीर है।

वर्तमान बेयसियन डीप लर्निंग विधियाँ एपिस्टेमिक अनिश्चितता (epistemic uncertainty) (मॉडल की अज्ञानता) को एक एकल स्केलर मीट्रिक: म्युचुअल इंफॉर्मेशन (MI) का उपयोग करके सारांशित करती हैं। जबकि MI प्रभावी रूप से यह मात्रा निर्धारित करता है कि मॉडल कितना अनिश्चित है, यह यह बताने में विफल रहता है कि वह अनिश्चितता कहाँ स्थित है। एक स्केलर MI मान निम्नलिखित के बीच अंतर नहीं कर सकता है:

दो सौम्य वर्गों के बीच भ्रम (कम जोखिम)।
एक सौम्य वर्ग और एक सुरक्षा-महत्वपूर्ण वर्ग के बीच भ्रम (उच्च जोखिम)।

अनिश्चितता को प्रति-वर्ग (per-class) विघटित करने के मौजूदा प्रयास बाउंड्री सप्रेशन (boundary suppression) से ग्रस्त हैं: कच्चा विचरण (raw variance - $\text{Var}[p_k]$ ) गणितीय रूप से $\mu_k$ के 0 या 1 के करीब पहुँचने पर शून्य होने के लिए बाध्य है। यह कच्चे विचरण को दुर्लभ वर्गों (निम्न $\mu_k$ ) के लिए अविश्वसनीय बनाता है, जहाँ सुरक्षा-महत्वपूर्ण निर्णय सबसे अधिक आवश्यक होते हैं।

2. कार्यप्रणाली (Methodology)

लेखक एक नया मीट्रिक, $C_k(x)$ , प्रस्तावित करते हैं, जो कुल एपिस्टेमिक अनिश्चितता (MI) को प्रति-वर्ग योगदान के एक वेक्टर में विघटित करता है।

A. सैद्धांतिक व्युत्पत्ति (Theoretical Derivation)

यह विधि माध्य भविष्यवाणी $\mu$ के आसपास शैनन एंट्रॉपी $H(p)$ के सेकंड-ऑर्डर टेलर विस्तार (second-order Taylor expansion) से व्युत्पन्न है।

एंट्रॉपी विस्तार: अपेक्षित एंट्रॉपी $E[H(p)]$ को इस प्रकार अनुमानित किया जाता है:
$E[H(p)] \approx H(\mu) - \frac{1}{2} \sum_{k=1}^K \frac{\text{Var}[p_k]}{\mu_k}$
MI का विघटन: चूंकि म्यूचुअल इंफॉर्मेशन को $I(y; \omega | x) = H(\mu) - E[H(p)]$ के रूप में परिभाषित किया गया है, विस्तार से प्राप्त होता है:
$I(y; \omega | x) \approx \sum_{k=1}^K C_k(x)$
जहाँ प्रति-वर्ग एपिस्टेमिक अनिश्चितता को इस प्रकार परिभाषित किया गया है:
$C_k(x) = \frac{1}{2} \frac{\text{Var}[p_k](x)}{\mu_k(x)}$

B. मुख्य तंत्र (Key Mechanisms)

बाउंड्री करेक्शन (Boundary Correction): पद $1/\mu_k$ एक कर्वेचर वेट (curvature weight) के रूप में कार्य करता है जो एंट्रॉपी फंक्शन के हेसियन (Hessian) से प्राप्त होता है। यह बाउंड्री सप्रेशन का प्रतिकार करता है। जैसे-जैसे $\mu_k \to 0$ , विचरण सीमा $\text{Var}[p_k] \le \mu_k(1-\mu_k)$ कच्चे विचरण को शून्य की ओर ले जाती है। हालाँकि, अनुपात $\text{Var}[p_k]/\mu_k$ एक गैर-शून्य स्थिरांक ( $\approx 1/2$ ) के करीब रहता है, जिससे यह मीट्रिक दुर्लभ, महत्वपूर्ण वर्गों के लिए संवेदनशीलता बनाए रखने में सक्षम होता है।
योगात्मकता (Additivity): निर्माण के अनुसार, सभी $C_k$ का योग कुल स्केलर MI का अनुमान लगाता है, जिससे यह सुनिश्चित होता है कि यह विघटन स्थापित अनिश्चितता सिद्धांत के साथ सुसंगत है।

C. विश्वसनीयता डायग्नोस्टिक (Skewness)

लेखक स्वीकार करते हैं कि टेलर विस्तार इस बात पर निर्भर करता है कि पोस्टीरियर वितरण लगभग सममित (symmetric) हो। वे एक स्क्यूनेस डायग्नोस्टिक (skewness diagnostic) $\rho_k$ पेश करते हैं:
$\rho_k(x) = \frac{|m_{3,k}|}{3 \mu_k \cdot \text{Var}[p_k]}$
जहाँ $m_{3,k}$ तीसरा सेंट्रल मोमेंट है। यदि $\rho_k$ उच्च है (जैसे, $>0.3$ ), तो सेकंड-ऑर्डर सन्निकटन (approximation) खराब हो जाता है। ऐसे मामलों में, लेखक एक वैकल्पिक मीट्रिक, CBEC (क्रॉस-बाउंड्री एपिस्टेमिक कन्फ्यूजन) का प्रस्ताव करते हैं, जो टेलर सन्निकटन के बजाय सुरक्षित और महत्वपूर्ण वर्गों के बीच अनुभवजन्य सहसंबंधों (empirical correlations) का उपयोग करता है।

3. मुख्य योगदान (Key Contributions)

प्रति-वर्ग विघटन ( $C_k$ ): एक नवीन, सामान्यीकृत प्रति-वर्ग एपिस्टेमिक अनिश्चितता वेक्टर जो MI के प्रति योगात्मक है और दुर्लभ वर्गों के लिए बाउंड्री सप्रेशन को ठीक करता है।
स्वयंसिद्ध विश्लेषण (Axiomatic Analysis): लेखक सिद्ध करते हैं कि जबकि $C_k$ , "लोकेशन-शिफ्ट इनवेरिएंस" एक्सिओम (A5) का उल्लंघन करता है, यह उल्लंघन बाउंड्री सप्रेशन को रोकने के लिए एक आवश्यक विशेषता है, जो इसे सुरक्षा-महत्वपूर्ण सेटिंग्स के लिए श्रेष्ठ बनाता है जहाँ क्लास बेस रेट भिन्न होते हैं।
डायग्नोस्टिक फ्रेमवर्क: एक स्क्यूनेस डायग्नोस्टिक ( $\rho_k$ ) का परिचय जो यह संकेत देता है कि कब सन्निकटन अविश्वसनीय है, और उन परिदृश्यों के लिए एक मजबूत फॉलबैक मीट्रिक (CBEC) प्रदान करता है।
अनुभवजन्य सत्यापन (Empirical Validation): तीन अलग-अलग डोमेन में व्यापक मूल्यांकन: चयनात्मक भविष्यवाणी (selective prediction), आउट-ऑफ-डिस्ट्रीब्यूशन (OoD) डिटेक्शन, और अनिश्चितता विलगन (uncertainty disentanglement)।

4. प्रयोगात्मक परिणाम (Experimental Results)

A. चयनात्मक भविष्यवाणी (डायबिटिक रेटिनोपैथी)

कार्य: रेटिनल छवियों का ग्रेडिंग जहाँ गंभीर बीमारी (ग्रेड 3) को मिस करना विनाशकारी है।
परिणाम: मानक MI और कच्चे विचरण बेसलाइन की तुलना में $C_{crit\_max}$ (महत्वपूर्ण वर्गों में से अधिकतम $C_k$ ) का उपयोग करने वाली डिफरल पॉलिसी ने चयनात्मक जोखिम (Selective Risk - AUSC) में 34.7% की कमी की और कच्चे विचरण बेसलाइन की तुलना में 56.2% की कमी की।
अंतर्दृष्टि: पद्धति ने "विनाशकारी चूक" (ग्रेड 3 को ग्रेड 0 के रूप में अनुमानित करना) को सफलतापूर्वक पहचाना, जो मध्यवर्ती वर्ग (ग्रेड 2) पर एपिस्टेमिक मास को केंद्रित करके हुआ, एक ऐसा पैटर्न जो स्केलर MI में अदृश्य था।

B. आउट-ऑफ-डिस्ट्रीब्यूशन (OoD) डिटेक्शन

कार्य: FashionMNIST $\to$ KMNIST (इमेज) और MIMIC-III ICU $\to$ Newborn (टेबुलर)।
परिणाम: कुल $\sum C_k$ ने दोनों डेटासेट पर उच्चतम AUROC प्राप्त किया, जो MI और कच्चे विचरण से बेहतर प्रदर्शन करता है।
अंतर्दृष्टि: प्रति-वर्ग दृश्य ने असममित वितरण संबंधी बदलाव (asymmetric distributional shifts) को प्रकट किया। उदाहरण के लिए, चिकित्सा कार्य में, बदलाव मुख्य रूप से "सर्वाइवल" वर्ग द्वारा संचालित था न कि "मॉर्टालिटी" वर्ग द्वारा, एक सूक्ष्मता जो स्केलर मीट्रिक में खो जाती है।

C. अनिश्चितता विलगन (लेबल नॉइज़)

कार्य: यह मापना कि एपिस्टेमिक अनिश्चितता अनुमान एलीटोरिक शोर (लेबल नॉइज़) के प्रति कितने असंवेदनशील रहते हैं।
परिणाम: एंड-टू-एंड बेयसियन ट्रेनिंग के तहत, $\sum C_k$ ने MI की तुलना में शोर के प्रति कम संवेदनशीलता दिखाई (बेहतर विलगन/disentanglement)। हालांकि, ट्रांसफर लर्निंग (फ्रोजन बैकबोन) के तहत, दोनों मीट्रिक काफी खराब हो गए, जिससे विलगन (entanglement) में एक क्रम की वृद्धि हुई।
अंतर्दृष्टि: नेटवर्क के माध्यम से अनिश्चितता कैसे प्रसारित होती है (जैसे, एंड-टू-एंड ट्रेनिंग बनाम ट्रांसफर लर्निंग) यह मीट्रिक के चुनाव जितना ही महत्वपूर्ण कारक है।

5. महत्व और निहितार्थ (Significance and Implications)

सुरक्षा-महत्वपूर्ण निर्णय लेना: यह शोध सिद्ध करता है कि यह जानना कि कौन सा वर्ग अनिश्चित है, यह जानने जितना महत्वपूर्ण है कि अनिश्चितता कितनी है। यह लक्षित डिफरल रणनीतियों (जैसे, केवल तब डिफर करना जब एक महत्वपूर्ण वर्ग एक सुरक्षित वर्ग के साथ भ्रमित हो) की अनुमति देता है।
सैद्धांतिक कठोरता: यह एक समाधान प्रदान करता है जो "बाउंड्री सप्रेशन" की समस्या को संबोधित करता है जो डीप लर्निंग में विचरण-आधारित अनिश्चितता अनुमानों को प्रभावित करती है।
व्यावहारिक मार्गदर्शन: यह अध्ययन रेखांकित करता है कि अनिश्चितता को नेटवर्क के माध्यम से कैसे प्रसारित किया जाता है (जैसे, फ्रोजन बैकबोन पर पोस्ट-हॉक बेयसियन विधियाँ) एक महत्वपूर्ण कारक है। यह सुझाव देता है कि फ्रोजन बैकबोन पर पोस्ट-हॉक बेयसियन विधियाँ अविश्वसनीय अनिश्चितता अनुमान उत्पन्न कर सकती हैं, चाहे मीट्रिक कोई भी हो।
व्याख्यात्मकता (Interpretability): यह विघटन त्रुटियों के लिए एक नया "फिंगरप्रिंट" प्रदान करता है, जिससे डेवलपर्स को केवल एक जेनेरिक "उच्च अनिश्चितता" फ्लैग देखने के बजाय विशिष्ट भ्रम पैटर्न (जैसे, "मॉडल अनिश्चित है कि यह ग्रेड 2 है या ग्रेड 3") का निदान करने में सक्षम बनाता है।

संक्षेप में, यह कार्य बेयसियन डीप लर्निंग को एक "ब्लैक बॉक्स" स्केलर अनिश्चितता अनुमान से एक सूक्ष्म, व्याख्या योग्य और सुरक्षा-जागरूक ढांचे की ओर ले जाता है, यह सिद्ध करते हुए कि उच्च-दांव वाले वातावरण में विश्वसनीय AI के लिए अनिश्चितता का स्थान (location) एक महत्वपूर्ण आयाम है।