📊 statistics

Courtroom Analogy: New Perspective on Uncertainty-Aware Classification

यह शोध पत्र अनिश्चितता-जागरूक वर्गीकरण (uncertainty-aware classification) के लिए "कोर्टरूम एनालॉजी" (courtroom analogy) प्रस्तुत करता है, जो क्लास-विशिष्ट अधिवक्ताओं के बीच एक संरचित बहस के रूप में प्रेडिक्टिव अनसर्टेन्टी को मॉडल करने के लिए 'मिक्सचर ऑफ डिरिचलेट एक्सपर्ट्स' (Mixture of Dirichlet EXperts - MoDEX) आर्किटेक्चर का प्रस्ताव करता है, जिससे अत्यधिक व्याख्या योग्य अनसर्टेन्टी अनुमानों के साथ अत्याधुनिक प्रदर्शन प्राप्त होता है।

मूल लेखक: Taeseong Yoon, Heeyoung Kim

प्रकाशित 2026-05-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Taeseong Yoon, Heeyoung Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं, जैसे कि एक धुंधली तस्वीर में किस तरह का जानवर है यह पता लगाना। अधिकांश कंप्यूटर प्रोग्राम बस एक उत्तर का अनुमान लगाते हैं और कहते हैं, "यह एक कुत्ता है!" 100% विश्वास के साथ, भले ही वह वास्तव में एक बिल्ली या लोमड़ी हो। यह खतरनाक है क्योंकि कंप्यूटर को यह नहीं पता होता कि वह कब अनुमान लगा रहा है।

यह शोध पत्र हमें यह सिखाने का एक नया तरीका पेश करता है कि कंप्यूटर अपनी अनिश्चितता के बारे में ईमानदार कैसे हों। लेखक इसके विचार को "कोर्टरूम एनालॉजी" (अदालती रूपक) कहते हैं।

कोर्टरूम का दृश्य

एक एकल कंप्यूटर मस्तिष्क द्वारा त्वरित अनुमान लगाने के बजाय, एक अदालत की कल्पना करें जिसमें K वकील हैं (प्रत्येक संभावित उत्तर के लिए एक वकील, जैसे "कुत्ता" के लिए एक वकील, "बिल्ली" के लिए एक, "पक्षी" के लिए एक, आदि)।

मामला (The Case): धुंधली तस्वीर अदालत के सामने प्रस्तुत किया गया "मामला" है।
साझा साक्ष्य (The Shared Evidence): सभी वकील एक ही फोटो को देखते हैं। वे बुनियादी तथ्यों पर सहमत होते हैं (जैसे, "इसमें फर है," "इसके चार पैर हैं")। कंप्यूटर के गणित में, इसे साझा साक्ष्य (Shared Evidence) कहा जाता है। यह वस्तुनिष्ठ सत्य है जिसे सभी देखते हैं।
वकीलों की दलील (The Lawyers' Spin): भले ही वे एक ही तथ्यों को देखते हैं, प्रत्येक वकील अपने क्लाइंट के लिए तर्क देता है। "कुत्ता" वाला वकील कह सकता है, "कानों को देखो! यह निश्चित रूप से एक कुत्ता है!" "बिल्ली" वाला वकील कह सकता है, "नहीं, इसकी पूंछ बिल्ली जैसी दिख रही है!" इस अतिरिक्त दबाव को क्लास-स्पेसिफिक एडवोकेसी (Class-Specific Advocacy) कहा जाता है। यह दर्शाता है कि प्रत्येक विकल्प अपने लेबल के लिए कितनी मजबूती से लड़ता है जो उसे प्रशिक्षण के दौरान प्राप्त हुआ है।
जज का निर्णय (The Judge's Decision): जज (कंप्यूटर का अंतिम आउटपुट) केवल सबसे तेज़ बोलने वाले वकील की बात नहीं सुनता। जज यह तौलता है कि इस विशिष्ट फोटो के लिए प्रत्येक वकील की दलील कितनी तर्कसंगत (plausible) है। यदि फोटो बहुत धुंधली है, तो जज सोच सकता है, "कुत्ते और बिल्ली दोनों वकीलों के पास अच्छे तर्क हैं," और उन्हें दोनों को उच्च स्कोर दे सकता है। यदि फोटो स्पष्ट है, तो जज कह सकता है, "कुत्ते वाला वकील बिल्कुल सही है," और अन्य को अनदेखा कर सकता है।

नया कंप्यूटर: MoDEX

लेखकों ने MoDEX (Mixture of Dirichlet Experts) नामक एक नया AI मॉडल बनाया है जो इस अदालती नाटक को निभाता है।

यह कैसे काम करता है: जब आप MoDEX को एक तस्वीर दिखाते हैं, तो यह केवल एक लेबल नहीं देता। यह गणना करता है:
- साझा साक्ष्य (Shared Evidence) क्या कहता है (वस्तुनिष्ठ तथ्य)।
- प्रत्येक वकील (Lawyer) अपने मामले के लिए कितनी ज़ोरदार दलील दे रहा है (Advocacy)।
- जज प्रत्येक वकील पर कितना विश्वास (Trust) रखता है (Plausibility)।
परिणाम: MoDEX आपको एक अंतिम उत्तर देता है, लेकिन यह भी बताता है कि वह क्यों अनिश्चित है।
- अनिश्चितता प्रकार 1 (धुंधलापन - The Blur): यदि फोटो इतनी धुंधली है कि अंतर करना मुश्किल है, तो "साझा साक्ष्य" कमजोर है। कंप्यूटर जानता है कि उसके पास पर्याप्त तथ्य नहीं हैं।
- अनिश्चितता प्रकार 2 (असहमति - The Disagreement): यदि फोटो कुत्ते और बिल्ली दोनों जैसी दिखती है, तो वकील एक-दूसरे के खिलाफ जमकर बहस करेंगे। कंप्यूटर जानता है कि डेटा में संघर्ष है।

यह बेहतर क्यों है?

पिछले तरीकों ने कंप्यूटर के "अनुमानित वितरण" (guessing distribution) को अधिक जटिल बनाने की कोशिश की, लेकिन उन्होंने यह स्पष्ट नहीं किया कि अनिश्चितता कैसे बनी। यह एक ब्लैक बॉक्स की तरह था।

MoDEX अलग है क्योंकि यह अनिश्चितता को समझने योग्य भागों में तोड़ता है:

दक्षता (Efficiency): यह यह सब एक ही बार में (बहुत तेज़) करता है, अन्य तरीकों के विपरीत जिन्हें एक अच्छा अनुमान लगाने के लिए कंप्यूटर को हजारों बार चलाने की आवश्यकता होती है।
ईमानदारी (Honesty): यह कठिन स्थितियों को बेहतर ढंग से संभालता है, जैसे कि जब प्रशिक्षण डेटा में किसी विशेष जानवर के बहुत कम उदाहरण हों ("लॉन्ग-टेल्ड" समस्या)। ऐसे मामलों में, पुराने मॉडल अक्सर अत्यधिक आत्मविश्वासी और गलत हो जाते हैं। MoDEX महसूस करता है, "हे, मैंने इन्हें बहुत कम देखा है, इसलिए मैं 100% सुनिश्चित नहीं हूँ," और अपनी अनिश्चितता को उच्च रखता है।
व्याख्यात्मकता (Interpretability): आप वास्तव में नंबरों को देख सकते हैं और कह सकते हैं, "मॉडल इसलिए अनिश्चित है क्योंकि साझा साक्ष्य कमजोर है," या "मॉडल इसलिए अनिश्चित है क्योंकि कुत्ते और बिल्ली के वकील आपस में लड़ रहे हैं।"

मुख्य निष्कर्ष (The Bottom Line)

शोध पत्र का दावा है कि इस "कोर्टरूम" संरचना का उपयोग करके, MoDEX एक स्मार्ट, तेज़ और अधिक ईमानदार AI बनता है। यह मानक इमेज डेटासेट्स (जैसे CIFAR-10) पर परीक्षण में शीर्ष स्कोर प्राप्त करता है, सही ढंग से पहचान करता है कि वह कब उत्तर नहीं जानता, और अपनी उलझन को इस तरह समझाता है जो तार्किक अर्थ निकालता है, बिल्कुल एक वास्तविक अदालती बहस की तरह।

तकनीकी सारांश: कोर्टरूम एनालॉजी (अदालती रूपक): अनिश्चितता-जागरूक वर्गीकरण पर एक नया दृष्टिकोण

समस्या विवरण
आधुनिक मशीन लर्निंग मॉडल अक्सर अत्यधिक आत्मविश्वासी भविष्यवाणियां उत्पन्न करते हैं जो पूर्वानुमानित अनिश्चितता को प्रतिबिंबित करने में विफल रहती हैं, जिससे उच्च-जोखिम वाले क्षेत्रों में महत्वपूर्ण जोखिम उत्पन्न होते हैं। जबकि सिंगल-पास अनिश्चितता मात्रा निर्धारण (Uncertainty Quantification - UQ) विधियां, विशेष रूप से एविडेंशियल डीप लर्निंग (Evidential Deep Learning - EDL), सैंपलिंग-आधारित दृष्टिकोणों के कुशल विकल्प के रूप में उभरी हैं, वे एक गंभीर सीमा का सामना करती हैं: वे मुख्य रूप से आउटपुट वितरण (आमतौर पर डिरिचलेट वितरण) की अभिव्यक्ति को बढ़ाने पर ध्यान केंद्रित करती हैं, बिना इस बात की स्पष्ट अंतर्दृष्टि दिए कि अनिश्चितता कैसे संरचित और एकत्रित होती है। फलस्वरूप, मौजूदा विधियां अक्सर कमजोर व्याख्यात्मकता वाली अनिश्चितता अनुमान प्रदान करती हैं, जिससे विभिन्न प्रकार की अनिश्चितताओं (जैसे, अपर्याप्त साक्ष्य बनाम परस्पर विरोधी व्याख्याएं) के बीच अंतर करना कठिन हो जाता है।

कार्यप्रणाली: कोर्टरूम एनालॉजी और MoDEX
लेखक एक "कोर्टरूम एनालॉजी" (अदालती रूपक) पर आधारित अनिश्चितता-जागरूक वर्गीकरण के लिए एक नया वैचारिक ढांचा प्रस्तावित करते हैं। इस परिप्रेक्ष्य में, वर्गीकरण को $K$ अधिवक्ताओं (advocates) के बीच एक संरचित बहस के रूप में मॉडल किया गया है, जहाँ प्रत्येक अधिवक्ता एक संभावित क्लास लेबल का प्रतिनिधित्व करता है।

जेनरेटिव प्रक्रिया (Generative Process):
- अधिवक्ताओं की राय: प्रत्येक अधिवक्ता $k$ क्लास प्रोबेबिलिटी वेक्टर $\pi$ के बारे में एक संभाव्य राय बनाता है। उनकी राय को डिरिचलेट वितरण, $Dir(\pi | \alpha_k)$ के रूप में मॉडल किया गया है।
- संरचित अपघटन (Structured Decomposition): स्केलेबिलिटी और व्याख्यात्मकता सुनिश्चित करने के लिए, प्रत्येक अधिवक्ता के लिए एकाग्रता पैरामीटर (concentration parameter) $\alpha_k$ $α_{k}$ को दो घटकों में विभाजित किया गया है:
  - साझा साक्ष्य ( $\alpha$ ): एक आधारभूत विश्वास जो उन वस्तुनिष्ठ केस तथ्यों को दर्शाता है जिन्हें सभी अधिवक्ताओं द्वारा देखा गया है।
  - क्लास-विशिष्ट वकालत ( $\tau_k$ ): अतिरिक्त एकाग्रता द्रव्यमान (concentration mass) जो अधिवक्ता $k$ अपनी स्वयं की क्लास को आवंटित करता है, जो उस क्लास के लिए अद्वितीय व्याख्यात्मक तर्कों या चयनात्मक फ्रेमिंग का प्रतिनिधित्व करता है।
- एकत्रीकरण (Aggregation): अंतिम निर्णय इनपुट-निर्भर प्लासिबिलिटी वेट्स (plausibility weights) $\omega(x)$ द्वारा भारित मतों का एक मिश्रण है। गणितीय रूप से, प्रेडिक्टिव वितरण डिरिचलेट वितरणों का एक संरचित मिश्रण है:
  $p(\pi | x) = \sum_{k=1}^K \omega_k(x) \text{Dir}(\pi | \alpha(x) + \tau_k(x)e_k)$
MoDEX आर्किटेक्चर:
इस ढांचे को क्रियान्वित करने के लिए, लेखक Mixture of Dirichlet EXperts (MoDEX) नामक एक सिंगल-पास न्यूरल आर्किटेक्चर पेश करते हैं। एक इनपुट $x$ दिए जाने पर, MoDEX तीन सेट पैरामीटर्स को लाइटवेट न्यूरल हेड्स के माध्यम से भविष्यवाणी करता है:
- कॉन्सेंट्रेशन हेड (Concentration Head): साझा आधारभूत साक्ष्य $\alpha(x)$ की भविष्यवाणी करता है।
- गेटिंग हेड (Gating Head): मिश्रण प्लासिबिलिटी वेट्स $\omega(x)$ की भविष्यवाणी करता है।
- एडवोकेसी-स्ट्रेंथ हेड (Advocacy-Strength Head): क्लास-विशिष्ट वकालत शक्ति $\tau(x)$ की भविष्यवाणी करता है।
  ये पैरामीटर्स एक सुसंगत संभाव्य मॉडल को परिभाषित करते हैं जो एक्सटेंडेड फ्लेक्सिबल डिरिचलेट (EFD) वितरण के समकक्ष है।
प्रशिक्षण और अनिश्चितता माप:
- ऑब्जेक्टिव फंक्शन: MoDEX को एक मिश्रित लॉस (loss) का उपयोग करके प्रशिक्षित किया जाता है जिसमें शामिल हैं: (i) प्रेडिक्टिव मीन पर मीन स्क्वेर्ड एरर (MSE), (ii) $\omega(x)$ पर ब्रियर-स्कोर-आधारित रेगुलाइजेशन ताकि डिजेनरेट वेटिंग को रोका जा सके, और (iii) $\tau(x)$ को निर्देशित करने के लिए $\tau(x)$ पर KL-डाइवर्जेंस रेगुलाइजेशन।
- अनिश्चितता अपघटन (Uncertainty Decomposition): यह ढांचा अनिश्चितता को स्पष्ट रूप से विभाजित करता है:
  - एलेयटोरिक अनिश्चितता (Aleatoric Uncertainty): प्रेरित प्रथम-क्रम प्रेडिक्टिव वितरण का एंट्रॉपी (अंतिम निर्णय में अवशिष्ट अस्पष्टता)।
  - एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty): द्वितीय-क्रम वितरण का कुल वेरिएंस, जो आगे इंटर-एक्सपर्ट अनिश्चितता (अधिवक्ताओं के बीच असहमति) और इंट्रा-एक्सपर्ट अनिश्चितता (कमजोर साक्ष्यों के कारण व्यक्तिगत अधिवक्ताओं के भीतर अपूर्णता) में विच्छेदित है।

प्रमुख योगदान

वैचारिक ढांचा: कोर्टरूम एनालॉजी का परिचय जो अनिश्चितता एकत्रीकरण को मॉडल करने के लिए एक अर्थपूर्ण रूप से आधारित तंत्र प्रदान करता है, जो ध्यान को केवल अभिव्यंजक वितरण परिवारों से हटाकर संरचनात्मक रूप से प्रेरित अनिश्चितता की ओर ले जाता है।
MoDEX आर्किटेक्चर: एक अभिनव सिंगल-पास न्यूरल नेटवर्क जो कोर्टरूम एनालॉजी को साकार करता है, जो एक पैरामीटर-कुशल ( $O(K)$ ) और व्याख्यात्मक विकल्प प्रदान करता है।
सैद्धांतिक प्रगति:
- सामान्यीकरण (Generalization): सिद्ध किया गया है कि विशिष्ट पैरामीटर सेटिंग्स के तहत MoDEX, मानक EDL और F-EDL में बदल जाता है, जो इसे मौजूदा मॉडलों के एक सिद्धांतपूर्ण सामान्यीकरण के रूप में स्थापित करता है।
- दोहरी व्याख्याएं: सिद्ध किया गया है कि MoDEX दो समकक्ष दृष्टिकोणों को स्वीकार करता है: (i) $K$ EDL विशेषज्ञों का एक भारित समूह, और (ii) एक बेस EDL प्रेडिक्टर और एक सॉफ्टमैक्स प्रिडिक्टर का मिश्रण।
- अनिश्चितता अपघटन: सिद्ध किया गया है कि एपिस्टेमिक अनिश्चितता स्वाभाविक रूप से इंटर-एक्सपर्ट और इंट्रा-एक्सपर्ट घटकों में विभाजित होती है, जो अनिश्चितता के विभिन्न स्रोतों को कैप्चर करती है।
प्रदर्शन: विविध बेंचमार्क जैसे कि मानक, लॉन्ग-टेल्ड (long-tailed), और नॉइजी (noisy) सेटिंग्स में अत्याधुनिक प्रदर्शन प्रदर्शित किया गया।

प्रायोगिक परिणाम
CIFAR-10, CIFAR-100, CIFAR-10-LT (लॉन्ग-टेल्ड), और DMNIST-LT (नॉइजी और लॉन्ग-टेल्ड) पर व्यापक प्रयोग किए गए।

मानक और लॉन्ग-टेल्ड सेटिंग्स: MoDEX ने मिसक्लासिफिकेशन डिटेक्शन और आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन कार्यों में उत्कृष्ट वर्गीकरण सटीकता प्राप्त की और अत्याधुनिक EDL वेरिएंट्स (जैसे, I-EDL, R-EDL, F-EDL) को पछाड़ दिया। विशेष रूप से, गंभीर लॉन्ग-टेल्ड सेटिंग्स ( $\rho=0.01$ ) में, MoDEX ने हेड-क्लास बायस (head-class bias) को काफी हद तक कम किया, जिससे उन स्थानों पर भी मजबूत OOD डिटेक्शन बना रहा जहाँ अन्य विधियां विफल रहीं।
डिस्ट्रीब्यूशन शिफ्ट: MoDEX ने डिस्ट्रीब्यूशन शिफ्ट (CIFAR-10-C) का पता लगाने में मजबूत क्षमता प्रदर्शित की, जिसमें भ्रष्टाचार (corruption) की गंभीरता के साथ एपिस्टेमिक अनिश्चितता लगातार बढ़ती गई।
दक्षता: एक सिंगल-पास विधि के रूप में, MoDEX का इन्फरेंस समय EDL और F-EDL के तुल्य रहता है, जो कम्प्यूटेशनल दक्षता में डीप एनसेम्बल्स (Deep Ensembles) और MC Dropout जैसे सैंपलिंग-आधारित तरीकों की तुलना में काफी बेहतर प्रदर्शन करता है, जबकि प्रतिस्पर्धी या बेहतर UQ प्रदर्शन प्राप्त करता है।
गुणात्मक विश्लेषण: अस्पष्ट टेल-क्लास इनपुट पर विज़ुअलाइज़ेशन से पता चला कि MoDEX साझा साक्ष्य को क्लास-विशिष्ट वकालत से अलग कर सकता है, जिससे हेड-क्लास बायस को बेस एविडेंस को विकृत करने से रोका जा सके, और व्याख्यात्मक अनिश्चितता अनुमान प्रदान किए जा सकें जो मानव एनोटेशन वितरण के साथ संरेखित होते हैं।

महत्व और दावे
यह पेपर दावा करता है कि MoDEX अनिश्चितता-जागरूक वर्गीकरण के लिए एक सिद्धांतपूर्ण ढांचा प्रदान करता है जो कम्प्यूटेशनल दक्षता के साथ गहरी व्याख्यात्मकता को संतुलित करता है। कोर्टरूम एनालॉजी के माध्यम से अनिश्चितता एकत्रीकरण को संरचित करके, MoDEX अभ्यासकर्ताओं को अनिश्चितता के स्रोत (जैसे, परस्पर विरोधी विशेषज्ञ विचारों और अपर्याप्त साक्ष्य के बीच अंतर करना) का निदान करने में सक्षम बनाता है। लेखक MoDEX को केवल एक ऐसी विधि के रूप में नहीं देखते जो केवल वन-हॉट सुपरविजन से एक अद्वितीय ग्राउंड-ट्रुथ सेकंड-ऑर्डर वितरण को पुनः प्राप्त करती है, बल्कि एक ऐसे मॉडल के रूप में देखते हैं जो अपने आर्किटेक्चरल इंडक्टिव बायस के माध्यम से संरचित, सार्थक अनिश्चितता सिग्नल उत्पन्न करता है। यह दृष्टिकोण पिछले EDL वेरिएंट्स की "ब्लैक बॉक्स" प्रकृति को संबोधित करता है, जो यह पारदर्शी तंत्र प्रदान करता है कि प्रेडिक्टिव अनिश्चितता कैसे बनती और एकत्रित होती है, जो सुरक्षा-महत्वपूर्ण अनुप्रयोगों में विश्वसनीय तैनाती के लिए अत्यंत आवश्यक है।

कोर्टरूम का दृश्य

नया कंप्यूटर: MoDEX

यह बेहतर क्यों है?

मुख्य निष्कर्ष (The Bottom Line)

इसी तरह के और पेपर