📊 statistics

Density-Informed Pseudo-Counts for Calibrated Evidential Deep Learning

यह शोध पत्र डेनसिटी-इन्फॉर्म्ड स्यूडो-काउंट ई-डी-एल (DIP-EDL) को पेश करके आउट-ऑफ-डिस्ट्रीब्यूशन डेटा पर मानक एविडेंशियल डीप लर्निंग के अति-आत्मविश्वास को संबोधित करता है, जो बेहतर-कैलिब्रेटेड अनिश्चितता और वितरण संबंधी बदलाव (डिस्ट्रिब्यूशनल शिफ्ट) के तहत मजबूती प्राप्त करने के लिए मार्जिनल कोवेरिएट डेंसिटी के माध्यम से क्लास प्रेडिक्शन को अनिश्चितता अनुमान से अलग करता है।

मूल लेखक: Pietro Carlotti, Nevena Gligić, Arya Farahi

प्रकाशित 2026-07-20

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Pietro Carlotti, Nevena Gligić, Arya Farahi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को जानवरों को पहचानना सिखा रहे हैं। आप उसे बिल्लियों और कुत्तों की हजारों तस्वीरें दिखाते हैं, और वह पूरी सटीकता के साथ "बिल्ली" या "कुत्ता" कहना सीख जाता है। लेकिन क्या होता है जब आप उसे एक टोस्टर की तस्वीर दिखाते हैं? एक मानक रोबोट अभी भी 99% निश्चितता के साथ चिल्ला सकता है कि "बिल्ली!", इस बात से पूरी तरह आश्वस्त होकर कि वह सही है, भले ही वह रसोई के उपकरण को देख रहा हो। यह आर्टिफिशियल इंटेलिजेंस की दुनिया में एक बड़ी समस्या है: मशीनें अक्सर यह जानने में बहुत खराब होती हैं कि वे क्या नहीं जानती हैं। वे अत्यधिक आत्मविश्वासी हो जाती हैं, खासकर तब जब वे ऐसी चीजें देखती हैं जिन पर उन्हें प्रशिक्षित नहीं किया गया है।

इसे ठीक करने के लिए, वैज्ञानिक एविडेंशियल डीप लर्निंग (EDL) नामक तकनीक का उपयोग करते हैं। EDL को अपने उत्तर के साथ एक "कॉन्फिडेंस मीटर" (आत्मविश्वास मापने वाला यंत्र) देने के रूप में सोचें। केवल अनुमान लगाने के बजाय, रोबोट यह अनुमान लगाने की कोशिश करता है कि उसके पास कितना "साक्ष्य" (एविडेंस) है। यदि उसने दस लाख बिल्लियाँ देखी हैं, तो उसके पास साक्ष्यों का एक पहाड़ है। यदि वह एक टोस्टर देखता है, तो उसके पास बहुत कम साक्ष्य होने चाहिए और उसे कहना चाहिए, "मुझे यकीन नहीं है।" हालांकि, शोधकर्ताओं ने पाया है कि वर्तमान कॉन्फिडेंस मीटर दोषपूर्ण है। यह दो अलग-अलग प्रकार की अनिश्चितता को आपस में मिला देता है: वह अनिश्चितता जो डेटा के अस्त-व्यस्त होने के कारण होती है (जैसे कि एक धुंधली फोटो) और वह अनिश्चितता जो केवल इसलिए है क्योंकि रोबोट ने पहले कभी इस प्रकार की वस्तु नहीं देखी है। इस गड़बड़ी के कारण, रोबोट तब भी दृढ़ता से आत्मविश्वासी बना रहता है जब वह कुछ बिल्कुल नया देख रहा होता है।

यह शोध पत्र, जिसका शीर्षक "डेंसिटी-इन्फॉर्म्ड स्यूडो-काउंट्स फॉर कैलिब्रेटेड एविडेंशियल डीप लर्निंग" है, इसी टूटे हुए कॉन्फिडेंस मीटर को संबोधित करता है। टेक्सास विश्वविद्यालय ऑस्टिन के पिएत्रो कार्लोटी, नेवेना ग्लिगिक और आर्या फराह द्वारा लिखित यह पत्र पहले गणितीय रूप से सिद्ध करता है कि पुराना तरीका क्यों विफल होता है। वे दिखाते हैं कि रोबोट का आत्मविश्वास वास्तव में उस रैंडम सेटिंग द्वारा नियंत्रित किया जा रहा है जिसे मानव प्रोग्रामर द्वारा चुना गया है, न कि वास्तविक डेटा द्वारा। इसे ठीक करने के लिए, वे एक नई विधि का आविष्कार करते हैं जिसे DIP-EDL कहा जाता है। केवल अनुमान लगाने के बजाय, DIP-EDL रोबोट को दो अलग-अलग कौशल सिखाता है: पहला, जानवर को पहचानना (वर्गीकरण), और दूसरा, डेटा के "पड़ोस" का मानचित्र बनाना ताकि यह देखा जा सके कि वह क्षेत्र कितना भरा हुआ या खाली है (घनत्व/डेंसिटी)। यदि रोबोट एक बहुत ही खाली, अपरिचित हिस्से में एक टोस्टर देखता है, तो DIP-EDL उसे यह स्वीकार करने के लिए मजबूर करता है कि, "मुझे नहीं पता कि यह क्या है," बजाय इसके कि वह बेतहाशा अनुमान लगाए।

टूटा हुआ दिशा-सूचक और नया नक्शा

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। आपके पास एक नोटबुक है जिसमें आप सुराग लिखते हैं। पुराने सिस्टम (मानक EDL) में, हर बार जब आपको कोई सुराग मिलता है, तो आप उसे लिखते हैं और तुरंत चिल्लाते हैं, "मैंने इसे सुलझा लिया!" लेकिन इसमें एक पेंच है: नोटबुक का एक अजीब नियम है। चाहे आप कितने भी सुराग खोज लें, आप कितना "आत्मविश्वास" महसूस करते हैं, यह उस डायल से निर्धारित होता है जिसे आपने केस की शुरुआत में सेट किया था। यदि आपने डायल को "उच्च आत्मविश्वास" पर सेट किया है, तो आप केवल एक छोटे से, कमजोर सुराग के मिलने पर भी बहुत आश्वस्त महसूस करेंगे। यदि आपने इसे "कम आत्मविश्वास" पर सेट किया है, तो सबूतों का ढेर होने पर भी आप खुद पर संदेह कर सकते हैं। इस पेपर के लेखकों ने सिद्ध किया है कि यही वास्तव में मानक AI में होता है। AI की "अनिश्चितता" वास्तव में यह नहीं माप रही है कि वह क्या जानती है; यह केवल उस डायल का अनुसरण कर रही है जिसे इंसान ने घुमाया है। इसका मतलब है कि AI यह अंतर नहीं कर सकता कि एक बिल्ली की धुंधली फोटो (जो स्वाभाविक रूप से देखने में कठिन है) और एक टोस्टर की तस्वीर (जो एक पूरी तरह से नई वस्तु है) के बीच क्या अंतर है। वह टोस्टर पर अत्यधिक आत्मविश्वासी हो जाता है, जिससे खतरनाक गलतियाँ होती हैं।

दो-चरणीय जासूस

इसे ठीक करने के लिए, लेखकों ने एक नया जासूस बनाया, DIP-EDL। एक टूटे हुए डायल वाले एक नोटबुक के बजाय, यह नया जासूस दो अलग-अलग उपकरणों का उपयोग करता जो मिलकर काम करते हैं।

पहला, जासूस के पास एक क्लासिफायर (वर्गीकर) है। यह वह हिस्सा है जो तस्वीर को देखता है और कहता है, "यह एक बिल्ली जैसा दिखता है।" यह इस काम में बहुत अच्छा है।

दूसरा, जासूस के पास एक डेंसिटी एस्टिमेटर (घनत्व अनुमानक) है। यह शहर के नक्शे की तरह है। इसे बिल्लियों या कुत्तों की परवाह नहीं है; इसे बस इस बात की परवाह है कि सड़कें कितनी भीड़भाड़ वाली हैं। यह जानता है कि "कैट डिस्ट्रिक्ट" घरों से भरा हुआ है, लेकिन "टोस्टर डिस्ट्रिक्ट" एक विशाल, खाली रेगिस्तान है।

यहाँ जादू है: नया जासूस इन दोनों को जोड़ता है। जब क्लासिफायर भीड़भाड़ वाले कैट डिस्ट्रिक्ट में एक बिल्ली को देखता है, तो वह कहता है, "मैं सुनिश्चित हूँ!" क्योंकि आसपास बहुत सारे समान घर हैं। लेकिन जब क्लासिफयर टोस्टर डिस्ट्रिक्ट में एक टोस्टर को देखता है, तो डेंसिटी एस्टिमेटर फुसफुसाता है, "हे, यह क्षेत्र खाली है! हमने यहाँ कभी कुछ ऐसा नहीं देखा है।" नया जासूस इस फुसफुसाहट को सुनता है और तुरंत अपना आत्मविश्वास कम कर देता है। वह अनुमान लगाने के बजाय कहता है, "मुझे नहीं पता कि यह क्या है।"

उन्होंने क्या पाया

लेखकों ने केवल यह विचार नहीं दिया; उन्होंने इसका कड़ाई से परीक्षण किया। उन्होंने तीन अलग-अलग डेटासेट पर प्रयोग चलाए:

MNIST: हस्तलिखित अंकों का एक संग्रह (जैसे 0 से 9 तक)।
CIFAR-10: रोजमर्रा की वस्तुओं जैसे हवाई जहाज, कार और पक्षियों की छोटी, रंगीन तस्वीरों का एक संग्रह।
LAMOST: एक वास्तविक दुनिया का वैज्ञानिक डेटासेट जिसमें तारों और आकाशगंगाओं की छवियां शामिल हैं।

हर परीक्षण में, उन्होंने अपने नए DIP-EDL जासूस की तुलना पुराने, टूटे हुए तरीकों और यहाँ तक कि कुछ बहुत महंगे, जटिल तरीकों से भी की, जिन्हें भारी कंप्यूटिंग पावर की आवश्यकता होती है।

परिणाम प्रभावशाली थे। हस्तलिखित अंकों (MNIST) पर, DIP-EDL ने 99.53% बार वर्गीकरण सही किया। इससे भी महत्वपूर्ण बात यह है कि जब उन्होंने इसे "आउट-ऑफ-डिस्ट्रीब्यूशन" (अपरिचित) छवियां दिखाईं (जैसे नंबरों के बजाय अक्षर), तो इसने लगभग पूर्ण सटीकता के साथ उन्हें अज्ञात के रूप में पहचाना। यह पुराने तरीकों की तुलना में "टोस्टर्स" को पकड़ने में बहुत बेहतर था।

अधिक कठिन CIFAR-10 तस्वीरों पर, DIP-EDL सबसे अच्छा सिंगल-मॉडल तरीका था, जिसने 95.03% सटीकता हासिल की। यह एकमात्र ऐसा तरीका भी था जो अज्ञात चीजों को रैंक करने (यह जानने में कि कौन सी चीजें अजीब हैं) और अपने आत्मविश्वास को कैलिब्रेट करने (जब उसे यकीन नहीं होना चाहिए तब बहुत अधिक सुनिश्चित न होने) में सटीक होने में सफल रहा।

यहाँ तक कि चुनौतीपूर्ण तारा-दर्शन वाले डेटासेट (LAMOST) पर भी, जहाँ अन्य कई तरीके पूरी तरह से विफल रहे, DIP-EDL ने उच्चतम सटीकता (89.29%) के लिए बराबरी की और "तारों" की छवियों को आउटलेयर (विपथत) के रूप में पहचानने में बेहतरीन काम किया।

यह क्यों मायने रखता है

यह शोध पत्र सुझाव देता है कि "यह क्या है?" के प्रश्न को "यह जगह कितनी भरी हुई है?" के प्रश्न से अलग करके, हम ऐसा AI बना सकते हैं जो अपनी सीमाओं के बारे में बहुत ईमानदार हो। लेखकों ने गणितीय रूप से सिद्ध किया कि उनका तरीका डेटा बढ़ने के साथ काम करता है, जिसका अर्थ है कि रोबोट जैसे-जैसे सीखता है, वह बेहतर और अधिक विश्वसनीय होता जाता है।

उन्होंने यह भी दिखाया कि यह नया तरीका लचीला है। इसके लिए यह आवश्यक नहीं है कि रोबोट एक विशिष्ट प्रकार का न्यूरल नेटवर्क हो; यह लगभग किसी भी क्लासिफायर के साथ काम कर सकता है जिसे आप इसमें डालें। और अन्य तरीकों के विपरीत, जिन्हें एक अच्छा उत्तर प्राप्त करने के लिए तस्वीर को दस बार प्रोसेस करने की आवश्यकता होती है, DIP-EDL को केवल एक बार देखने की आवश्यकता होती है, जिससे यह तेज़ और कुशल बनता है।

संक्षेप में, लेखकों ने केवल पुराने सिस्टम में सुधार नहीं किया; उन्होंने महसूस किया कि पुराना सिस्टम मौलिक रूप से इस बात को लेकर भ्रमित था कि "अनिश्चितता" का अर्थ क्या है। इसे अपने ज्ञान के नक्शे के साथ, उन्होंने AI को अज्ञात में विनम्र होना सिखाया, जिससे यह वास्तविक दुनिया के उपयोग के लिए अधिक सुरक्षित और विश्वसनीय बन गया।

तकनीकी सारांश: कैलिब्रेटेड एविडेंशियल डीप लर्निंग के लिए डेंसिटी-इन्फॉर्म्ड स्यूडो-काउंट्स (Density-Informed Pseudo-Counts)

समस्या विवरण (Problem Statement)

एविडेंशियल डीप लर्निंग (EDL) अनिश्चितता-जागरूक वर्गीकरण (uncertainty-aware classification) के लिए एक व्यापक रूप से उपयोग किया जाने वाला ढांचा है, जो डिरिचलेट वितरणों (Dirichlet distributions) के माध्यम से भविष्य कहनेवाला अनिश्चितता को मॉडल करता है। अपनी अनुभवजन्य सफलता के बावजूद, EDL के सैद्धांतिक आधार अभी भी कम समझ में आए हैं, विशेष रूप से वितरण संबंधी बदलाव (distributional shift) के तहत इसके व्यवहार के संबंध में। यह शोध पत्र मानक EDL में एक महत्वपूर्ण दोष की पहचान करता है: यह एपिस्टेमिक (मॉडल) और एलियटोरिक (डेटा) अनिश्चितता को मिला देता है। यह मिश्रण आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) इनपुट पर व्यवस्थित अति-आत्मविश्वास (overconfidence) की ओर ले जाता है। सैद्धांतिक विश्लेषण बताता है कि मानक EDL डेटा फिट और प्रायोर रेगुलाइजेशन के बीच संतुलन बनाने के लिए एक हाइपरपैरामीटर (तापमान $\nu$ ) पर निर्भर करता है, जिससे इसकी अनिश्चितता का परिमाण मनमाना और उपयोगकर्ता-निर्धारित ट्यूनिंग पर आधारित हो जाता है। फलस्वरूप, EDL सीमित डेटा (एपिस्टेमिक) और अंतर्निहित शोर (एलियटोरिक) के बीच अंतर करने में विफल रहता है; इसकी अनिश्चितता अनुमान नमूना आकार बढ़ने के साथ लुप्त नहीं होते हैं।

कार्यप्रणाली (Methodology)

EDL की सांख्यिकीय व्याख्या

लेखक पहले EDL की एक सिद्धांत-आधारित सांख्यिकीय व्याख्या प्रदान करते हैं, यह सिद्ध करते हुए कि इसका प्रशिक्षण उद्देश्य एक टेम्पर्ड स्यूडो-लाइक्लीहुड (tempered pseudo-likelihood) वाले पदानुक्रमित बेयसियन मॉडल में एमोर्टाइज्ड वेरिएशनल इन्फरेंस (VI) के अनुरूप है।

टेम्पर्ड ICD मॉडल: लेखक एक "टेम्पर्ड इंडिपेंडेंट कैटेगोरिकल-डिरिचलेट" (ICD) मॉडल पेश करते हैं जहाँ लाइक्लीहुड को $\nu$ (तापमान पैरामीटर) की घात तक बढ़ाया जाता है।
तुल्यता (Equivalence): वे प्रदर्शित करते हैं कि मानक EDL लॉस को कम करना गणितीय रूप से इस टेम्पर्ड मॉडल पर एमोर्टाइज्ड VI करने के समान है।
सैद्धांतिक सीमा: इस ढांचे के तहत, लेखक सिद्ध करते हैं कि एक इष्टतम न्यूरल नेटवर्क और अनंत डेटा के साथ भी, सीखा गया वितरण (vacuity/अनिश्चितता का एक माप) स्थिर रहता है और पूरी तरह से हाइपरपैरामीटर $\nu$ और प्रायोर $\alpha$ द्वारा निर्धारित होता है। यह पुष्टि करता है कि मानक EDL एपिस्टेमिक और एलियटोरिक अनिश्चितता के बीच अंतर करना नहीं सीख सकता; अनिश्चितता डेटा घनत्व से उत्पन्न होने के बजाय बाहरी रूप से थोपी जाती है।

प्रस्तावित समाधान: DIP-EDL

इन सीमाओं को दूर करने के लिए, लेखक डेंसिटी-इन्फॉर्म्ड स्यूडो-काउंट EDL (DIP-EDL) का प्रस्ताव करते हैं। यह विधि क्लास प्रेडिक्शन को अनिश्चितता मात्रा निर्धारण से अलग करती है, जो दो घटकों का अलग-अलग अनुमान लगाती है:

कंडीशनल लेबल डिस्ट्रीब्यूशन ( $P^*_{Y|X}$ ): एक डिस्क्रिमिनेटिव क्लासिफायर (न्यूरल नेटवर्क या अन्य) द्वारा अनुमानित।
मार्जिनल कोवेरिएट डेंसिटी ( $P^*_X$ ): एक डेंसिटी एस्टिमेटर द्वारा अनुमानित।

पैरामीट्राइजेशन (Parametrization):
एक निश्चित वैश्विक स्यूडो-काउंट के बजाय, DIP-EDL इनपुट डेंसिटी के आधार पर स्थानीय रूप से स्यूडो-काउंट को स्केल करता है। वेरिएशनल पोस्टीरियर को इस प्रकार परिभाषित किया गया है:
$q^{\psi, \phi}_{X_i} = \text{Dir}\left(\alpha + n \cdot DE^\psi_{X_i} \cdot NN^\phi_{X_i}\right)$
जहाँ:

$n$ प्रशिक्षण सेट का आकार है।
$DE^\psi_{X_i}$ कोवेरिएट $X_i$ का अनुमानित मार्जिनल डेंसिटी है।
$NN^\phi_{X_i}$ अनुमानित कंडीशनल लेबल डिस्ट्रीब्यूशन (प्रत्येक क्लास के लिए स्यूडो-काउंट्स) है।

मुख्य तंत्र (Key Mechanisms):

वितरण जागरूकता (Distributional Awareness): उच्च-घनत्व वाले क्षेत्रों (इन-डिस्ट्रीब्यूशन) में, डेंसिटी टर्म बड़ा होता है, जिससे मॉडल को सीखे गए कंडीशनल डिस्ट्रीब्यूशन पर ध्यान केंद्रित करने की अनुमति मिलती है। कम-घनत्व वाले क्षेत्रों (OOD) में, डेंसिटी टर्म छोटा हो जाता है, जिससे पोस्टीरियर यूनिफॉर्म प्रायोर की ओर झुक जाता है, जिससे अनिश्चितता बढ़ जाती है।
एसिम्प्टोटिक कंसिस्टेंसी (Asymptotic Consistency): लेखक सिद्ध करते हैं कि डेंसिटी और कंडीशनल डिस्ट्रीब्यूशन दोनों का सुसंगत अनुमान लगाने से, $n \to \infty$ होने पर पोस्टीरियर वास्तविक कंडीशनल डिस्ट्रीब्यूशन पर केंद्रित हो जाता है।
मॉड्यूलरिटी (Modularity): एंड-टू-एंड EDL के विपरीत, DIP-EDL डेंसिटी एस्टिमेटर और क्लासिफायर के स्वतंत्र प्रशिक्षण की अनुमति देता है। यह नॉन-डिफरेंशिएबल क्लासिफायर्स (जैसे रैंडम फॉरेस्ट) और ऑफ-द-शेल्फ डेंसिटी एस्टिमेटर्स के उपयोग को सक्षम बनाता है।

मुख्य योगदान (Key Contributions)

सैद्धांतिक स्पष्टीकरण: यह शोध पत्र स्थापित करता है कि मानक EDL प्रशिक्षण एक टेम्पर्ड मॉडल पर एमोर्टाइज्ड VI के समान है, जो यह प्रकट करता है कि इसकी अनिश्चितता मात्रा निर्धारण मौलिक रूप से एक हाइपरपैरामीटर ( $\nu$ ) द्वारा संचालित है न कि डेटा-संचालित साक्ष्य द्वारा। यह समझाता है कि EDL एपिस्टेमिक और एलियटोरिक अनिश्चितता के बीच अंतर करने में क्यों विफल रहता है।
नवीन पैरामीट्राइजेशन (DIP-EDL): एक डेंसिटी-इन्फॉर्म्ड स्यूडो-काउंट तंत्र का परिचय जो स्वाभाविक रूप से प्रेडिक्शन को अनिश्चितता से अलग करता है। यह दृष्टिकोण सुनिश्चित करता है कि अनिश्चितता कोवेरिएट स्पेस में प्रशिक्षण डेटा की कमी के साथ स्केल होती है।
सैद्धांतिक गारंटी: DIP-EDL के लिए एसिम्प्टोटिक कंसंट्रेशन का प्रमाण, जो दिखाता है कि यह विधि सही ढंग से वास्तविक कंडीशनल डिस्ट्रीब्यूशन को प्राप्त करती है और जैसे-जैसे नमूना आकार बढ़ता है वैसे ही अनिश्चितता को कम करती है, जो मानक EDL के विपरीत है।
मॉड्यूलर फ्रेमवर्क: एक लचीला आर्किटेक्चर जो मनमाने क्लासिफायर और डेंसिटी एस्टिमेटर्स का समर्थन करता है, जिससे एंड-टू-एंड डिफरेंशिएबल ट्रेनिंग की आवश्यकता समाप्त हो जाती है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक तीन डेटासेट्स पर DIP-EDL का मूल्यांकन करते हैं: MNIST, CIFAR-10, और LAMOST (तारकीय स्पेक्ट्रा)। वे इसकी तुलना मानक EDL, R-EDL, Re-EDL, DAEDL, PostNet, MC-Dropout, और Deep Ensembles से करते हैं।

इन-डिस्ट्रीब्यूशन (ID) प्रदर्शन: DIP-EDL MNIST और CIFAR-10 पर स्टेट-ऑफ-द-आर्ट सटीकता और कैलिब्रेशन (न्यूनतम ब्रायर स्कोर) प्राप्त करता है, जो मानक EDL से बेहतर है और Deep Ensembles के बराबर या उससे अधिक है, जबकि इसके लिए केवल एक सिंगल फॉरवर्ड पास की आवश्यकता होती है।
आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिटेक्शन:
- MNIST: DIP-EOL K-MNIST (नियर-OOD) और Omniglot (फार-OOD) दोनों पर लगभग पूर्ण AUROC (0.9997) प्राप्त करता है और सबसे कम OOD ब्रायर स्कोर प्राप्त करता है, जो उन बेसलाइन्स की तुलना में बेहतर कैलिब्रेशन दर्शाता है जो अक्सर OOD डेटा पर उच्च आत्मविश्वास दिखाते हैं।
- CIFAR-10: DIP-EOL, AUROC और AUPR के मामले में, फार-OOD डिटेक्शन (SVHN) पर Deep Ensembles सहित सभी बेसलाइन्स को पछाड़ता है। यह सबसे अच्छा दूसरा OOD ब्रायर स्कोर भी प्राप्त करता है, जो मजबूत अनिश्चितता कैलिब्रेशन का प्रदर्शन करता है।
- LAMOST: गंभीर क्लास इम्बैलेंस वाले इस चुनौतीपूर्ण वास्तविक वैज्ञानिक डेटासेट पर, DIP-EOL उच्चतम ID सटीकता (0.8929) के लिए Deep Ensembles के साथ टाई करता है और सिंगल-मॉडल दृष्टिकोणों में सर्वश्रेष्ठ OOD डिटेक्शन प्राप्त करता है।
एब्लेशन स्टडीज (Ablation Studies): प्रयोग पुष्टि करते हैं कि डेंसिटी एस्टिमेटर को हटाने से रैंडम OOD डिटेक्शन होता है, जबकि क्लासिफायर को हटाने से रैंडम ID सटीकता होती है। स्केलिंग फैक्टर $n$ को कैलिब्रेशन के लिए महत्वपूर्ण दिखाया गया है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि इसका व्यापक महत्व तीन दिशाओं में है:

सैद्धांतिक आधार: यह EDL की एक कठोर सांख्यिकीय व्याख्या प्रदान करता है, जो रेगुलाइजेशन की भूमिका को स्पष्ट करता है और अनिश्चितता के प्रकारों के बीच अंतर करने की मौलिक सीमाओं को उजागर करता है।
सामान्यीकरण और मॉड्यूलरिटी: वर्गीकरण और अनिश्चितता मात्रा निर्धारण को अलग करके, DIP-EDL, EDL फ्रेमवर्क को मनमाने क्लासिफायर वर्गों (नॉन-डिफरेंशिएबल मॉडल सहित) तक सामान्य बनाता है और स्वतंत्र घटक प्रशिक्षण की अनुमति देता है।
व्यावहारिक दक्षता: यह विधि एकल फॉरवर्ड पास के साथ मानक EDL की कम्प्यूटेशनल दक्षता बनाए रखती है, जबकि वितरण संबंधी बदलाव के तहत मजबूती और कैलिब्रेशन में महत्वपूर्ण सुधार करती है, जिससे यह सुरक्षा-महत्वपूर्ण अनुप्रयोगों में विश्वसनीय अनिश्चितता-जागरूक भविष्यवाणी के लिए एक स्केलेबल फ्रेमवर्क बन जाता है।

लेखक भविष्य के कार्यों के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि डेंसिटी एस्टिमेशन को परिष्कृत करना और फाइनाइट-सैंपल गारंटी स्थापित करना संभावित अगले कदम हैं।