📊 statistics

Integral Imprecise Probability Metrics

यह शोध पत्र इंटीग्रल इम्प्रेसिस प्रोबेबिलिटी मेट्रिक (IIPM) प्रस्तुत करता है, जो एक चोक्वेट इंटीग्रल-आधारित ढांचा है जो शास्त्रीय मेट्रिक्स को इम्प्रेसिस प्रोबेबिलिटी मॉडल्स में सामान्यीकृत करता है, जिससे विविध अनिश्चितता निरूपणों की तुलना और 'मैक्सिमम मीन इम्प्रेसिशन' नामक एक नए माप के माध्यम से एपिस्टेमिक अनिश्चितता का परिमाणीकरण संभव होता है, जो चयनात्मक वर्गीकरण कार्यों में उत्कृष्ट प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Siu Lun Chau, Michele Caprio, Krikamol Muandet

प्रकाशित 2026-05-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Siu Lun Chau, Michele Caprio, Krikamol Muandet

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: जब "शायद" काफी नहीं होता

कल्पना कीजिए कि आप मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं।

शास्त्रीय संभाव्यता (Classical Probability) एक मौसम विज्ञानी की तरह है जो कहता है, "बारिश होने की 70% संभावना है।" वे बहुत विशिष्ट हैं। उनके पास अपने विश्वास को दर्शाने के लिए एक एकल संख्या है।
अस्पष्ट संभाव्यता (Imprecise Probability) एक अलग मौसम विज्ञानी की तरह है जो कहता है, "बारिश होने की संभावना 60% और 80% के बीच है।" वे सुनिश्चित नहीं हैं। उनके पास एक रेंज (सीमा) है क्योंकि उनके पास अधूरी जानकारी है (शायद सेंसर खराब हैं, या डेटा पुराना है)।

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, हम अक्सर पहले प्रकार (एकल संख्या) का उपयोग करते हैं। लेकिन जब AI ऐसी स्थितियों का सामना करता है जहाँ वह वास्तव में नहीं जानता कि क्या हो रहा है—जैसे कि कोहरे में एक अजीब वस्तु को देखते हुए एक सेल्फ-ड्राइविंग कार—तो सुरक्षित रहने के लिए उसे दूसरे प्रकार (रेंज) की आवश्यकता होती है। इस "न जानने" को एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty) कहा जाता है।

समस्या क्या है? हमारे पास यह मापने के लिए बेहतरीन उपकरण हैं कि दो "एकल संख्या" वाली भविष्यवाणियां एक-दूसरे से कितनी अलग हैं, लेकिन हमारे पास यह मापने के लिए कोई अच्छा पैमाना नहीं था कि दो "रेंज" एक-दूसरे से कितनी अलग हैं, या "न जानने" के आकार को कैसे मापा जाए।

यह शोध पत्र एक नया पैमाना पेश करता है जिसे IIPM (इंटीग्रल इप्रेसाइज प्रोबेबिलिटी मेट्रिक) कहा जाता है और "न जानने" को मापने का एक नया तरीका जिसे MMI (मैक्सिमम मीन इम्प्रेसिजन) कहा जाता है।

1. नया पैमाना: IIPM

उपमा: दो बादलों की तुलना करना
कागज पर स्याही के दो बादलों की कल्पना करें।

बादल A एक AI मॉडल की अनिश्चितता का प्रतिनिधित्व करता है।
बादल B दूसरे मॉडल की अनिश्चितता का प्रतिनिधित्व करता है।

पुरानी दुनिया (शास्त्रीय संभाव्यता) में, हम केवल एकल बिंदुओं (dots) की तुलना कर सकते थे। यदि बिंदु दूर थे, तो मॉडल अलग थे।
इस नई दुनिया (अस्पष्ट संभाव्यता) में, हम पूरे बादलों की तुलना कर रहे हैं। आप दो बादलों के बीच की दूरी को कैसे मापते हैं?

लेखकों ने IIPM नामक एक उपकरण बनाया है। इसे एक "आकार बदलने वाले जाल" (shape-shifting net) के रूप में सोचें।

आप बादलों के ऊपर एक जाल (एक गणितीय फलन/function) फेंकते हैं।
जाल अपने आकार के आधार पर बादलों के विभिन्न हिस्सों को पकड़ता है।
आप मापते हैं कि जाल बादल A बनाम बादल B में कितना "इंक" (संभाव्यता द्रव्यमान/probability mass) पकड़ता है।
आप हजारों अलग-अलग जाल के आकार आज़माते हैं। IIPM उन दो बादलों के बीच का सबसे बड़ा अंतर है जो आप किसी भी संभावित जाल का उपयोग करके ढूंढ सकते हैं।

यह क्यों शानदार है?
यह तथ्य सामने आता है कि यदि यह "सबसे बड़ा अंतर" शून्य है, तो दोनों बादल वास्तव में एक समान हैं। यह शोधकर्ताओं को विभिन्न प्रकार के AI अनिश्चितता मॉडलों (जैसे विश्वास कार्य या संभाव्यता अंतराल) की तुलना एक समान स्तर पर करने की अनुमति देता है। यह अंततः एक मानक पैमाने के होने जैसा है जो सीधी रेखाओं और टेढ़ी-मेढ़ी आकृतियों दोनों के लिए काम करता है।

2. "न जानने" को मापना: MMI

उपमा: आशावादी बनाम निराशावादी
कल्पना कीजिए कि आप घोड़े की दौड़ पर दांव लगा रहे हैं, लेकिन आप घोड़ों को अच्छी तरह नहीं जानते।

निराशावादी (Lower Probability): "मैं इस घोड़े पर तभी दांव लगाने को तैयार होऊँगा यदि संभावनाएं कम से कम 10-से-1 हों। मैं बहुत सतर्क हूँ।"
आशावादी (Upper Probability): "मुझे खुशी होगी यदि संभावनाएं 2-से-1 हों। मैं अधिक आशावादी हूँ।"

शास्त्रीय संभाव्यता में, आशावादी और निराशावादी एक ही व्यक्ति होते हैं (वे सटीक संभावनाओं पर सहमत होते हैं)। अस्पष्ट संभाव्यता में, वे आपके दिमाग में दो अलग-अलग आवाजें हैं। उनके बीच का अंतर आपकी एपिस्टेमिक अनिश्चितता (आपकी अज्ञानता) को दर्शाता है।

शोध पत्र इस अंतर के आकार को मापने के लिए MMI (मैक्सिमम मीन इम्प्रेसिजन) पेश करता है।

यह कैसे काम करता है: MMI पूछता है, "आशावादी और निराशावादी के बीच सबसे बड़ा संभावित असहमति क्या है?"
यदि आशावादी और निराशावादी पूरी तरह से सहमत हैं (अंतर शून्य है), तो आपके पास शून्य अनिश्चितता है। आप जानते हैं कि क्या हो रहा है।
यदि वे बुरी तरह असहमत हैं (अंतर बहुत बड़ा है), तो आपके पास उच्च अनिश्चितता है। आप अंधेरे में हैं।

"लीनियर-टाइम" शॉर्टकट
आशावादी और निराशावादी के बीच के सटीक अंतर की गणना करना अविश्वसनीय रूप से कठिन हो सकता है, जैसे दो ढेरों के बीच के अंतर को खोजने के लिए समुद्र तट पर रेत के हर कण को गिनने की कोशिश करना।
लेखकों ने एक चतुर शॉर्टकट (एक अपर बाउंड/upper bound) खोजा है। यह रेत के ढेर के बीच के अंतर का अनुमान लगाने के लिए रेत के कणों को गिनने के बजाय ढेरों की ऊंचाई मापने जैसा है। यह बहुत तेज़ है और फिर भी बहुत सटीक है, खासकर जब आपके पास बहुत बड़ी संख्या में श्रेणियाँ (जैसे कि एक AI द्वारा देखी जाने वाली वस्तुओं के 100 अलग-अलग प्रकार) हों।

3. क्या यह काम करता है? (प्रयोग)

लेखकों ने सिलेक्टिव क्लासिफिकेशन (Selective Classification) नामक एक खेल में अपने नए पैमाने (MMI) का परीक्षण किया।

खेल: एक AI एक छवि देखता है और अनुमान लगाने की कोशिश करता है कि वह क्या है।
ट्विस्ट: AI को यह कहने की अनुमति है, "मुझे नहीं पता," और यदि उसे लगता है कि वह बहुत अनिश्चित है, तो वह अनुमान लगाने से बच सकता है।
लक्ष्य: AI को केवल उन अनुमानों को छोड़ना चाहिए जिनके बारे में वह वास्तव में अनिश्चित है, ताकि जब वह अनुमान लगाता है, तो वह लगभग हमेशा सही हो।

उन्होंने अपने नए MMI पैमाने की तुलना पुराने पैमानों (जैसे एंट्रॉपी डिफरेंस और जनरलाइज्ड हार्टले) से की।

परिणाम: MMI पैमाना मौजूदा सर्वोत्तम तरीकों के समान ही प्रदर्शन करता है।
जीत: जब श्रेणियों की संख्या बहुत बड़ी हो गई (जैसे 100 क्लासेज), तो पुराने तरीके धीमे और अव्यवस्थित हो गए। MMI पैमाना (अपने शॉर्टकट का उपयोग करके) तेज़ और सटीक बना रहा, और इन कठिन, बड़े पैमाने की स्थितियों में दूसरों से बेहतर प्रदर्शन किया।

सारांश

समस्या: हमें जटिल "अनिश्चितता श्रेणियों" के बीच की दूरी को मापने और यह मापने के लिए एक तरीके की आवश्यकता थी कि एक AI कितना "न जान" रहा है।
समाधान: उन्होंने IIPM बनाया, जो "चोक्वेट इंटीग्रेशन" (गैर-मानक आकृतियों को जोड़ने का एक फैंसी तरीका) पर आधारित एक नया गणितीय पैमाना है, और MMI बनाया, जो एक AI के आशावादी और निराशावादी दृष्टिकोण के बीच के अंतर का माप है।
लाभ: यह AI को अपनी अज्ञानता को बेहतर ढंग से समझने में मदद करता है। यह सैद्धांतिक रूप से काम करता है (यह सिद्ध करना कि यह एक वैध पैमाना है) और व्यावहारिक रूप से (यह AI को बेहतर निर्णय लेने में मदद करता है क्योंकि वह जानता है कि कब "मुझे नहीं पता" कहना है, विशेष रूप से जटिल, बड़े पैमाने की समस्याओं में)।

संक्षेप में: उन्होंने AI को बेहतर तरीके से यह कहने का तरीका दिया कि, "मैं सुनिश्चित नहीं हूँ," और यह मापने का बेहतर तरीका दिया कि वह कितना अनिश्चित है।

तकनीकी सारांश: इंटीग्रल इम्प्रेसिव प्रोबेबिलिटी मेट्रिक्स (IIPM)

1. समस्या विवरण

संभाव्यता वितरणों (probability distributions) के बीच अंतर को मापना सांख्यिकी और मशीन लर्निंग में मौलिक है, जो मुख्य रूप से सांख्यिकीय (aleatoric) अनिश्चितता की तुलना करने के लिए उपयोग किया जाता है। हालाँकि, शास्त्रीय संभाव्यता सिद्धांत, जो एक एकल योज्य माप (additive measure) पर निर्भर करता है, एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty - EU)—जो अपूर्ण ज्ञान, अस्पष्टता, या "अनजान अज्ञात" (unknown unknowns) से उत्पन्न होती है—को दर्शाने में संघर्ष करता है। शास्त्रीय मॉडल अक्सर वास्तविक अज्ञानता और उदासीनता (indifference) के बीच अंतर करने में विफल रहते हैं, जिससे मशीन लर्निंग सिस्टम में अति-आत्मविश्वास (overconfidence) और खराब सामान्यीकरण (generalization) जैसी समस्याएं उत्पन्न होती हैं।

जबकि इम्प्रेसिव प्रोबेबिलिस्टिक मशीन लर्निंग (IPML) एपिस्टेमिक अनिश्चितता को मॉडल करने के लिए समृद्ध प्रतिनिधित्व (जैसे कि credal sets, belief functions, lower/upper probabilities) प्रदान करता है, इम्प्रेसिव मॉडलों की तुलना करने के लिए मजबूत सांख्यिकीय मेट्रिक्स का अभाव है। मौजूदा विचलन माप (divergence measures) अक्सर एक एकीकृत सैद्धांतिक ढांचे की कमी रखते हैं या इम्प्रेसिव मॉडलों के स्थान (space) में अभिसरण (convergence) को मापने में विफल रहते हैं। इसके अलावा, एक एकल इम्प्रेसिव मॉडल के भीतर EU को मापना चुनौतीपूर्ण बना हुआ है, क्योंकि कई मौजूदा मापों में कठोर स्वयंसख्यात्मक समर्थन (axiomatic support) और कम्प्यूटेशनल स्केलेबिलिटी की कमी है।

2. कार्यप्रणाली

2.1 सैद्धांतिक ढांचा: IIPM

लेखक इंटीग्रल इम्प्रेसिव प्रोबेबिलिटी मेट्रिक (IIPM) को पेश करते हैं, जो कैपसिटीज (capacities - गैर-योगात्मक सेट फंक्शन) के संदर्भ में शास्त्रीय इंटीग्रल प्रोबेबिलिटी मेट्रिक्स (IPMs) का एक सामान्यीकरण है।

गणितीय आधार: यह ढांचा 'चोक्वेट इंटीग्रेशन' (Choquet integration) का लाभ उठाता है ताकि कैपसिटीज पर अपेक्षाओं (expectations) को परिभाषित किया जा सके, जो मानक IPMs में उपयोग किए जाने वाले लेबेग इंटीग्रल (Lebesgue integral) का सामान्यीकरण है।
परिभाषा: एक फंक्शन क्लास $\mathcal{F} \subseteq C_b(X)$ और दो कैपसिटीज $\nu, \mu$ के लिए, IIPM को इस प्रकार परिभाषित किया गया है:
$\text{IIPM}_{\mathcal{F}}(\nu, \mu) := \sup_{f \in \mathcal{F}} \left| \int f d\nu - \int f d\mu \right|$
जहाँ इंटीग्रल चोक्वेट इंटीग्रल हैं।
गुण: लेखक स्थापित करते हैं कि IIPM कैपसिटीज के स्थान पर एक स्यूडोमेट्रिक (pseudometric) है। विशिष्ट स्थितियों के तहत (उदाहरण के लिए, जब $\mathcal{F}$ , $\|\cdot\|_\infty$ नॉर्म के सापेक्ष $C_b(X)$ में सघन/dense हो), IIPM एक वैध मेट्रिक के रूप में कार्य करता है जो चोक्वेट वीक कन्वर्जेंस (Choquet weak convergence) को मेट्राइज़ करता है। यह सुनिश्चित करता है कि IIPM में अभिसरण, अंतर्निहित कैपसिटीज के "वास्तविक" अभिसरण को दर्शाता है।
व्यापकता: यह ढांचा विभिन्न IP मॉडलों को समाहित करता है, जिसमें लोअर प्रोबेबिलिटीज़, बिलीफ फंक्शन्स और प्रोबेबिलिटी इंटरवल्स, कैपसिटीज के विशेष मामलों के रूप में शामिल हैं।

2.2 एपिस्टेमिक अनिश्चितता मात्रा निर्धारण: MMI

एक एकल मॉडल के भीतर EU के मात्रा निर्धारण को संबोधित करने के लिए, लेखक मैक्सिमम मीन इम्प्रेसिवनेस (MMI) प्रस्तावित करते हैं। यह माप एक कैपसिटी (जैसे कि लोअर प्रोबेबिलिटी $\underline{P}$ ) और उसके संयुग्मी (conjugate - अपर प्रोबेबिलिटी $\overline{P}$ ) के बीच के अंतर को मापता है।

परिभाषा:
$\text{MMI}_{\mathcal{F}}(\underline{P}) := \text{IIPM}_{\mathcal{F}}(\underline{P}, \overline{P}) = \sup_{f \in \mathcal{F}} \left( \int f d\overline{P} - \int f d\underline{P} \right)$
(नोट: पूर्ण मान (absolute value) को हटा दिया गया है क्योंकि $\overline{P}$ सेटवाइज $\underline{P}$ पर हावी है, जो गैर-ऋणात्मकता सुनिश्चित करता है)।
स्वयंसख्यात्मक गुण (Axiomatic Properties): लेखक सिद्ध करते हैं कि MMI साहित्य में प्रस्तावित प्रमुख स्वयंसख्याओं (A1–A6) को संतुष्ट करता है, जिसमें गैर-ऋणात्मकता, निरंतरता (continuity), एकतंत्रीयता (monotonicity), और संभाव्यता स्थिरता (प्रोबेबिलिटी कंसिस्टेंसी - सटीक संभाव्यता के लिए शून्य EU) शामिल हैं।
कम्प्यूटेशनल दक्षता: टोटल वेरिएशन (TV) दूरी के विशिष्ट मामले के लिए, MMI की सटीक गणना करने के लिए $2^K$ सबसेट्स का मूल्यांकन करना आवश्यक है, जो बड़े $K$ के लिए अव्यवहार्य (intractable) है। लेखक एक लीनियर-टाइम अपर बाउंड (MMI-Lin) व्युत्पन्न करते हैं, जो लोअर प्रोबेबिलिटी को निकटतम $\epsilon$ -कंटैमिनेशन मॉडल के साथ अनुमानित करके काम करता है। यह बाउंड कम्प्यूटेशनल रूप से कुशल ( $O(K)$ ) है और मॉनोटोनिसिटी स्वयंसख्या के माध्यम से सैद्धांतिक रूप से न्यायसंगत है।

3. प्रमुख योगदान

एकीकृत मेट्रिक ढांचा: IIPM का परिचय, जो चोक्वेट इंटीग्रेशन का उपयोग करके इम्प्रेसिव प्रोबेबिलिटीज के लिए विशेष रूप से डिज़ाइन किए गए पहले सांख्यिकीय दूरियों के परिवार का परिचय देता है। यह ढांचा शास्त्रीय IPMs (जैसे कि Wasserstein distance और MMD) को इम्प्रेसिव सेटिंग में सामान्यीकृत करता है।
सैद्धांतिक गारंटी: यह प्रमाण कि IIPM, चोक्वेट वीक कन्वर्जेंस को मेट्राइज़ करता है, जो इम्प्रेसिव मॉडलों की तुलना के लिए एक कठोर आधार प्रदान करता है। यह पेपर यह भी प्रदर्शित करता है कि कैसे IIPM मौजूदा परिणामों को रिकवर कर सकता है, जैसे कि $\epsilon$ -कंटैमिनेशन के तहत ऑप्टिमल ट्रांसपोर्ट में।
नया EU माप (MMI): स्थापित स्वयंसख्यात्मक गुणों को संतुष्ट करने वाले एपिस्टेमिक अनिश्चितता के एक सिद्धांतबद्ध माप के रूप में MMI का प्रस्ताव।
स्केलेबल सन्निकटन (Scalable Approximation): MMI के लिए एक लीनियर-टाइम अपर बाउंड (MMI-Lin) का व्युत्पत्ति, जो उच्च-आयामी वर्गीकरण कार्यों में MMI के अनुप्रयोग को सक्षम बनाता है जहाँ सटीक गणना अव्यवहार्य है।

4. अनुभवजन्य परिणाम (Empirical Results)

लेखकों ने विभिन्न क्लासों की संख्या ( $K=7, 10, 100$ ) वाले डेटासेट्स (UCI डेटासेट्स जैसे Obesity, Digits और इमेज डेटासेट्स जैसे CIFAR-10, CIFAR-100) पर सिलेक्टिव क्लासिफिकेशन प्रयोगों के माध्यम से MMI और MMI-Lin को मान्य किया।

प्रदर्शन मेट्रिक: अध्ययन ने एक्यूरेसी-रिजेक्शन (AR) कर्व्स का उपयोग किया, जहाँ एक मॉडल अनिश्चित इनपुट पर भविष्यवाणी करने से बचता है। एक सूचनात्मक EU माप को एक मोनोटोनिक AR कर्व देना चाहिए जो ऊपर-बाएँ कोने की ओर बढ़ता हो।
तुलना: MMI और MMI-Lin की तुलना एंट्रॉपी डिफरेंस (E-Diff) और जनरलाइज्ड हार्टले (GH) माप से की गई।
निष्कर्ष:
- MMI और MMI-Lin ने सभी डेटासेट्स में E-Diff को लगातार पछाड़ दिया।
- MMI और MMI-Lin ने GH के समान प्रदर्शन किया, जिसे अक्सर क्रेडियल UQ के लिए गोल्ड स्टैंडर्ड माना जाता है।
- स्केलेबिलिटी: बड़े पैमाने की समस्याओं ( $K=100$ ) पर, जहाँ MMI और GH की सटीक गणना ( $O(2^K)$ ) अव्यवहार्य हो जाती है, लीनियर-टाइम बाउंड MMI-Lin कुशल बना रहा और E-Diff से बेहतर प्रदर्शन करना जारी रखा, जो व्यावहारिक उपयोगिता को प्रदर्शित करता है।

5. महत्व और दावे

पेपर का दावा है कि यह IPML के सिद्धांत और व्यवहार दोनों को उन्नत करता है:

सैद्धांतिक उन्नति: यह कैपसिटीज की तुलना करने के लिए एक सिद्धांतबद्ध, चोक्वेट-इंटीगल-आधारित ढांचे को प्रदान करता है, जो इम्प्रेसिव मॉडलों के लिए सांख्यिकीय दूरियों के संबंध में साहित्य के अंतराल को भरता है। यह उन स्थितियों को स्थापित करता है जिनके तहत ये मेट्रिक्स वैध हैं और अभिसरण को मेट्राइज़ करते हैं।
व्यावहारिक उपयोगिता: MMI पेश करके, यह कार्य एपिस्टेमिक अनिश्चितता को मापने के लिए एक स्वयंसख्यात्मक रूप से सुदृढ़ उपकरण प्रदान करता है। इसका लीनियर-टाइम अपर बाउंड उस कम्प्यूटेशनल बाधा को दूर करता है जिसने क्रेडियल UQ उपायों के बड़े पैमाने पर अनुप्रयोग को सीमित किया था।
व्यापक प्रभाव: यह ढांचा विविध IP मॉडलों (जैसे बिलीफ फंक्शन्स, रैंडम सेट्स) को एक एकीकृत मेट्रिक के तहत तुलना करने में सक्षम बनाता है, जो संभावित रूप से सुरक्षा-महत्वपूर्ण अनुप्रयोगों में अस्पष्टता के तहत बेहतर निर्णय लेने की सुविधा प्रदान करता है।

लेखक सीमाओं को स्वीकार करते हैं, विशेष रूप से सामान्य IIPMs के लिए सैंपलिंग-आधारित अनुमान पद्धति की वर्तमान कमी (शास्त्रीय IPMs के विपरीत) के कारण, जो इम्प्रेसिव मॉडलों की व्यक्तिपरक प्रकृति के कारण है, और भविष्य के कार्य के लिए एक प्रमुख दिशा के रूप में नॉन-पैरामीट्रिक एस्टिमेटर्स के विकास की पहचान करते हैं।