📊 statistics

Minimal Sufficient Representations for Self-interpretable Deep Neural Networks

यह शोध पत्र DeepIn को प्रस्तुत करता है, जो एक स्व-व्याख्यात्मक (self-interpretable) डीप लर्निंग फ्रेमवर्क है जो प्रदर्शन से समझौता किए बिना पूर्वानुमान सटीकता को बढ़ाने, औपचारिक सांख्यिकीय अनुमान को सक्षम करने और मानव-व्याख्या योग्य पैटर्न को उजागर करने के लिए अनुकूल रूप से न्यूनतम पर्याप्त निरूपणों (minimal sufficient representations) की पहचान करता है।

मूल लेखक: Zhiyao Tan, Liu Li, Huazhen Lin

प्रकाशित 2026-03-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Zhiyao Tan, Liu Li, Huazhen Lin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को फोटो में बिल्ली पहचानना सिखाने की कोशिश कर रहे हैं। आप रोबोट को जानकारी का एक विशाल पुस्तकालय देते हैं: चित्र का हर पिक्सेल, बाहर का मौसम, दिन का समय और फोटोग्राफर का नाम।

वर्तमान के अधिकांश AI मॉडल (डीप न्यूरल नेटवर्क) अति-उत्साही इंटर्न की तरह हैं। वे उस पुस्तकालय की हर चीज़ को रटने की कोशिश करते हैं। वे बिल्ली को देखते हैं, लेकिन वे मौसम, फोटोग्राफर के नाम और उस कागज की बनावट से भी विचलित हो जाते जिस पर फोटो छपी है। क्योंकि वे बहुत अधिक अनावश्यक डेटा को प्रोसेस करने की कोशिश करते हैं, इसलिए वे बन जाते हैं:

भ्रमित: वे गलत सुरागों को देखते हुए गलतियाँ करते हैं।
धीमे: उन्हें सोचने में बहुत समय लगता है।
रहस्यमयी: भले ही वे सही उत्तर दे दें, लेकिन आप उनसे यह नहीं पूछ सकते कि, "आपको क्यों लगा कि यह एक बिल्ली थी?" क्योंकि उनका मस्तिष्क अरबों कनेक्शनों का एक उलझा हुआ जाल है।

यह पेपर DeepIn (डीप इंटरप्रिटेबल) नामक एक नया फ्रेमवर्क पेश करता है। DeepIn को एक इंटर्न के रूप में नहीं, बल्कि एक बुद्धिमान जासूस के रूप में सोचें।

जासूस का टूलकिट: "मैजिक फ़िल्टर" (मैट्रिक्स B)

DeepIn का मुख्य नवाचार एक विशेष उपकरण है जिसे वे मैट्रिक्स B कहते हैं। कल्पना कीजिए कि यह एक स्मार्ट फ़िल्टर या एक छलनी है जिसे जासूस के मस्तिष्क के प्रवेश द्वार पर रखा गया है।

फ़िल्टर डेटा को साफ करता है: जासूस के फोटो देखने से पहले ही, फ़िल्टर (मैट्रिक्स B) जानकारी के विशाल पुस्तकालय को स्कैन करता है। यह पूछता है: "क्या मौसम प्रासंगिक है? नहीं, इसे बाहर निकालो। क्या फोटोग्राफर का नाम प्रासंगिक है? नहीं, इसे हटा दो। क्या कान का आकार प्रासंगिक है? हाँ, इसे रखो!"
यह "न्यूनतम" सत्य को खोजता है: जासूस केवल चीजों को बेतरतीब ढंग से नहीं फेंकता; वे सीखते हैं कि वास्तव में केस सुलझाने के लिए जानकारी के कौन से कुछ हिस्से आवश्यक हैं। गणितीय शब्दों में, वे "मिनिमल सफिशिएंट रिप्रेजेंटेशन" (न्यूनतम पर्याप्त प्रतिनिधित्व) पाते हैं। यह समझने जैसा है कि बिल्ली को पहचानने के लिए, आपको कान, मूंछों और पूंछ के बारे में जानने की आवश्यकता है, न कि बैकग्राउंड के शोर के बारे में।
यह मस्तिष्क को छोटा करता है: एक बार जब फ़िल्टर तय कर लेता है कि क्या महत्वपूर्ण है, तो जासूस का मस्तिष्क (न्यूरल नेटवर्क) स्वचालित रूप से खुद को छोटा कर लेता है। यदि फ़िल्टर कहता है कि "हमें केवल 5 सुरागों की आवश्यकता है," तो मस्तिष्क खुद को छोटा और कुशल बनाने के लिए पुनर्गठित हो जाता है, बजाय इसके कि वह विशाल और फूला हुआ बना रहे।

यह क्यों मायने रखता है: "ब्लैक बॉक्स" की समस्या

वर्तमान AI को अक्सर "ब्लैक बॉक्स" कहा जाता है क्योंकि हम यह नहीं समझ पाते कि वे निर्णय कैसे लेते हैं।

पुराना तरीका: AI कहता है, "मुझे लगता है कि यह एक बिल्ली है।" आप पूछते हैं, "क्यों?" AI कहता है, "क्योंकि मैंने 50,000 जटिल गणनाएँ कीं।" आपको पता ही नहीं चलता कि उनमें से कौन सी महत्वपूर्ण थीं।
DeepIn का तरीका: क्योंकि जासूस ने फ़िल्टर का उपयोग किया, वे विशिष्ट सुरागों की ओर इशारा कर सकते हैं और कह सकते हैं, "मुझे पता है कि यह एक बिल्ली है क्योंकि मैं मूंछें और नुकीले कान देख रहा हूँ, और मैंने बैकग्राउंड को अनदेखा कर दिया है।"

पेपर दिखाता है कि DeepIn न केवल AI को स्मार्ट बनाता है; यह इसे ईमानदार भी बनाता है। यह आपको ठीक से बता सकता है कि कौन से चर (जैसे चिकित्सा में विशिष्ट जीन या इमेज में विशिष्ट पिक्सेल) निर्णय को संचालित कर रहे हैं।

"सांख्यिकीय अदालत" (स्टैटिस्टिकल कोर्टरूम)

यह पेपर इन निर्णयों को अदालत में पेश करने का एक तरीका भी पेश करता है। कल्पना कीजिए कि जासूस को एक सुराग (चर) मिलता है और वह कहता है, "यह महत्वपूर्ण है!"

पुराना AI: "मुझ पर भरोसा करो, मैं एक न्यूरल नेटवर्क हूँ।"
DeepIn: "मेरे पास एक गणितीय प्रमाण है। मैंने एक हाइपोथीसिस टेस्ट (एक अदालती मुकदमे की तरह) चलाया और साक्ष्य दिखाते हैं कि इस बात की 99.9% संभावना है कि यह सुराग वास्तविक है और केवल रैंडम शोर नहीं है।"

यह वैज्ञानिकों को उच्च-दांव वाले क्षेत्रों जैसे चिकित्सा में DeepIn का उपयोग करने की अनुमति देता है। यदि कोई डॉक्टर अल्जाइमर की भविष्यवाणी करने के लिए DeepIn का उपयोग करता है, तो AI विशिष्ट जीनों की ओर इशारा कर सकता है और कह सकता है, "ये 64 जीन असली अपराधी हैं," और सांख्यिकीय प्रमाण दे सकता है कि वे केवल अनुमान नहीं लगा रहे हैं।

वास्तविक दुनिया की जीत

शोधकर्ताओं ने चार अलग-अलग मामलों में इस जासूस का परीक्षण किया:

मेडिकल डेटा (ADNI): अल्जाइमर की भविष्यवाणी करना। DeepIn ने सही जीन खोजे और अन्य तरीकों की तुलना में बहुत कम चरों का उपयोग करके बीमारी की बेहतर भविष्यवाणी की।
ब्लॉग कमेंट्स: एक ब्लॉग पोस्ट पर कितने कमेंट आएंगे, इसकी भविष्यवाणी करना। इसने उन कुछ प्रमुख शब्दों को खोज निकाला जो मायने रखते थे।
हस्तलिखित नंबर (MNIST): संख्या "5" बनाम "6" को पहचानना। DeepIn ने इमेज को देखा और हाइलाइट किया कि वास्तव में कौन से पिक्सेल महत्वपूर्ण थे (जैसे 5 का ऊपरी वक्र), बाकी को अनदेखा करते हुए।
फैशन (FashionMNIST): टी-शर्ट और स्नीकर के बीच अंतर करना। इसने सही ढंग से पहचाना कि शर्ट के लिए आस्तीन (sleeve) मायने रखती है और जूते के लिए एड़ी (heel) मायने रखती है।

मुख्य निष्कर्ष

DeepIn यह सिद्ध करता है कि स्मार्ट होने के लिए आपको एक विशाल, अव्यवस्थित मस्तिष्क की आवश्यकता नहीं है। आपको बस यह जानने की आवश्यकता है कि किसे अनदेखा करना है।

AI को शोर को फ़िल्टर करना, समस्या के अनुरूप अपने स्वयं के मस्तिष्क को छोटा करना, और सांख्यिकीय प्रमाण के साथ अपने तर्क को समझाना सिखाकर, यह पद्धति AI को बनाती है:

अधिक सटीक (कम त्रुटि)।
तेज़ (कम कंप्यूटिंग पावर की आवश्यकता)।
विश्वसनीय (हम जानते हैं कि इसने निर्णय क्यों लिया)।

यह उस छात्र के बीच का अंतर है जो पूरी पाठ्यपुस्तक रट लेता है और उस छात्र के बीच जो मूल अवधारणाओं को समझता है और उन्हें आपको समझा सकता है।

यहाँ पेपर "Minimal Sufficient Representations for Self-interpretable Deep Neural Networks" (DeepIn) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डीप न्यूरल नेटवर्क (DNNs) अत्याधुनिक प्रेडिक्टिव परफॉरमेंस प्राप्त करते हैं, लेकिन वे व्याख्यात्मकता (interpretability) और सांख्यिकीय कठोरता (statistical rigor) के अभाव से ग्रस्त हैं। मुख्य चुनौतियाँ निम्नलिखित हैं:

ओवरपैरामीटराइजेशन (Overparameterization): DNNs में आवश्यक मापदंडों (parameters) की तुलना में कहीं अधिक पैरामीटर होते हैं, जिससे अस्थिर अनुमान, बढ़ा हुआ वेरिएंस और कम्प्यूटेशनल अक्षमता उत्पन्न होती है।
ब्लैक बॉक्स प्रकृति (Black Box Nature): भविष्यवाणियों को संचालित करने वाले डेटा की आंतरिक विमा (intrinsic dimensionality) अज्ञात होती है, और अप्रासंगिक फीचर्स अक्सर सूचनात्मक फीचर्स के साथ उलझ जाते हैं।
मौजूदा व्याख्यात्मकता विधियों की सीमाएँ:
- पोस्ट-हॉक विधियाँ (जैसे LIME, SHAP): ये स्थानीय सन्निकटन (local approximations) प्रदान करती हैं जो असंगत या भ्रामक हो सकते हैं और प्रशिक्षण प्रक्रिया का मार्गदर्शन नहीं करते हैं।
- स्व-व्याख्यात्मक विधियाँ (Self-interpretable methods): ये अक्सर व्याख्यात्मकता के लिए प्रेडिक्टिव सटीकता का त्याग करती हैं या सख्त स्पर्सिटी (sparsity) धारणाओं पर निर्भर करती हैं (केवल कुछ मजबूत वेरिएबल्स का चयन करना), जिससे कमजोर वेरिएबल्स के संयुक्त/सिनर्जिस्टिक प्रभावों को पकड़ने में विफलता होती है।
- सांख्यिकीय अनुमान का अभाव (Lack of Statistical Inference): मौजूदा DNN विधियों में आमतौर पर वेरिएबल्स या सीखे गए रिप्रजेंटेशन के लिए कठोर परिकल्पना परीक्षण (hypothesis testing) प्रक्रियाओं की कमी होती है, जो चिकित्सा जैसे उच्च-दांव वाले क्षेत्रों में उनके उपयोग को सीमित करती है।

मूल प्रश्न: क्या हम व्याख्यात्मकता और सांख्यिकीय कठोरता को प्रेडिक्टिव सटीकता को कम किए बिना, DNNs में 'मिनिमल सफिशिएंट रिप्रजेंटेशन्स' (minimal sufficient representations) को रिकवर कर सकते हैं?

2. कार्यप्रणाली: DeepIn फ्रेमवर्क (Methodology: The DeepIn Framework)

लेखक DeepIn प्रस्तावित करते हैं, जो एक स्व-व्याख्यात्मक फ्रेमवर्क है जो मानक DNNs में एक सीखने योग्य लीनियर ट्रांसफॉर्मेशन मैट्रिक्स को एकीकृत करता है।

मॉडल आर्किटेक्चर (Model Architecture)

मॉडल को इस प्रकार परिभाषित किया गया है:
$Y \sim g(BX)$
जहाँ:

$X \in \mathbb{R}^d$ एक उच्च-विमीय (high-dimensional) इनपुट है।
$B \in \mathbb{R}^{d \times d}$ एक सीखने योग्य मैट्रिक्स है।
$g(\cdot)$ एक डीप न्यूरल नेटवर्क है (डेरिवेटिव अनुमान को सुगम बनाने के लिए RePU एक्टिवेशन फंक्शन, यानी $\sigma(x) = \{max(x,0)\}^p$ जहाँ $p \ge 2$ , का उपयोग करके अनुमानित)।
लचीलापन (Flexibility): क्लासिकल इंडेक्स मॉडल्स के विपरीत, जो एक कम विमा (low dimension) को पूर्व-निर्धारित करते हैं, $B$ का आकार $d \times d$ तक हो सकता है। यदि $B=I$ है, तो यह मॉडल एक मानक DNN ( $Y \sim g(X)$ ) में बदल जाता है, जिससे पूर्ण अभिव्यंजक क्षमता (expressive capacity) बनी रहती है।

अनुमान और अनुकूलन (Estimation and Optimization)

अनुमानित $\hat{\mu} = (\hat{\theta}, \hat{B})$ को एक रेगुलराइज्ड लॉस फंक्शन को मिनिमाइज करके प्राप्त किया जाता है:
$\hat{\mu} = \arg\min_{\mu} \left[ \frac{1}{n}\sum_{i=1}^n L(g_\theta(BX_i), Y_i) + \lambda_1 \rho_1(B) + \lambda_2 \rho_2(B) + \lambda_3 \rho_3(\theta) \right]$

पेनल्टीज़ तीन अलग-अलग उद्देश्यों की पूर्ति करती हैं:

रो पेनल्टी ( $\rho_1$ ): $B$ की पंक्तियों (rows) पर ग्रुप लासो (Group Lasso)। पंक्तियों को शून्य करना $BX$ की प्रभावी विमा को कम करता है, जिससे मिनिमल रिप्रजेंटेशन डायमेंशन (MRD) की पहचान होती है।
कॉलम पेनल्टी ( $\rho_2$ ): $B$ के कॉलमों पर ग्रुप लासो। कॉलमों को शून्य करना वेरिएबल सिलेक्शन करता है, जिससे अप्रासंगिक इनपुट वेरिएबल्स को बाहर कर दिया जाता है।
नेटवर्क पेनल्टी ( $\rho_3$ ): DNN वेट्स ( $\theta$ ) पर एक आर्किटेक्चर-अवेयर पेनल्टी जो नेटवर्क संरचना (गहराई और चौड़ाई) को सीखे गए रिप्रजेंटेशन डायमेंशन के अनुरूप संकुचित करती है, जिससे सांख्यिकीय त्रुटि कम होती है।

अनुकूलन एल्गोरिदम (Optimization Algorithm)

शून्य पर लासो पेनल्टी की नॉन-डिफरेंशिएबिलिटी के कारण, लेखक सबग्रेडिएंट डिसेंट एल्गोरिदम को पैरामीटर ट्रंकेशन के साथ नियोजित करते हैं। प्रशिक्षण के दौरान छोटे नॉर्म्स वाले रो, कॉलम और वेट्स को स्पष्ट रूप से शून्य करने के लिए थ्रेशोल्ड ( $\tau_1, \tau_2, \tau_3$ ) का उपयोग किया जाता है। हाइपरपैरामीटर को ट्यून करने के लिए एक अनुक्रमिक ग्रिड सर्च का उपयोग किया जाता है।

3. प्रमुख योगदान (Key Contributions)

A. सैद्धांतिक गारंटी (Theoretical Guarantees)

सिलेक्शन कंसिस्टेंसी (Selection Consistency): लेखक सिद्ध करते हैं कि अनुमानक (estimator) वास्तविक मिनिमल रिप्रजेंटेशन डायमेंशन ( $d_0$ ), महत्वपूर्ण वेरिएबल्स का सेट ( $s_0$ ), और न्यूनतम नेटवर्क आकार ( $S_{net}^0$ ) को लगातार पहचानता है, भले ही $d$ , $n$ के साथ तेजी से बढ़ रहा हो।
इष्टतम नॉन-एसिम्प्टोटिक एरर बाउंड्स (Optimal Non-Asymptotic Error Bounds): वे एरर बाउंड्स निकालते हैं जो $\hat{d}^{\beta \vee (1+\lfloor\beta\rfloor)} (n/\log^c n)^{-2\beta/(\hat{d}+2\beta)}$ के क्रम के हैं। यह दर्शाता है कि एरर रेट एम्बिएंट डायमेंशन $d$ के बजाय सीखे गए इंट्रिन्सिक डायमेंशन $\hat{d}$ के अनुकूल होता है, जो जनरलाइजेशन में काफी सुधार करता है।
एसिम्प्टोटिक नॉर्मलिटी (Asymptotic Normality): पेपर रिप्रजेंटेशन मैट्रिक्स अनुमानक $\hat{B}$ की एसिम्प्टोटिक नॉर्मलिटी और $g$ की फंक्शनल एसिम्प्टोटिक नॉर्मलिटी को स्थापित करता है, जो सांख्यिकीय अनुमान का आधार बनता है।

B. सांख्यिकीय अनुमान (Statistical Inference - Hypothesis Testing)

एसिम्प्टोटिक नॉर्मलिटी के आधार पर, लेखक कठोर परीक्षण प्रक्रियाएं विकसित करते हैं:

वेरिएबल सिग्निफिकेंस: यह निर्धारित करने के लिए कि क्या विशिष्ट इनपुट वेरिएबल्स महत्वपूर्ण हैं, $H_0: \|B_{0, [j]}\|_2 = 0$ का परीक्षण करता है।
रिप्रजेंटेशन सिग्निफिकेंस: स्प्लिट-सैंपल दृष्टिकोण का उपयोग करके सीखे गए रिप्रजेंटेशन्स (वेरिएबल्स के संयोजन) की संयुक्त महत्ता का परीक्षण करता है, ताकि ऐसे टेस्ट स्टैटिस्टिक्स बनाए जा सकें जो नल (null) के तहत स्टैंडर्ड नॉर्मल डिस्ट्रीब्यूशन का पालन करते हैं।

C. अनुभवजन्य प्रदर्शन (Empirical Performance)

श्रेष्ठ सटीकता (Superior Accuracy): DeepIn, रिग्रेशन और क्लासिफिकेशन कार्यों में वैनिला DNN, मल्टी-इंडेक्स मॉडल्स और अन्य व्याख्यात्मक विधियों (DFS, LassoNet, GCRNet) को लगातार पछाड़ देता है।
व्याख्यात्मकता (Interpretability): यह पोस्ट-हॉक विश्लेषण के बिना स्वचालित रूप से मानव-व्याख्या योग्य पैटर्न (जैसे, अंकों में विशिष्ट स्ट्रोक, फैशन में गारमेंट क्षेत्र) को उजागर करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

सिमुलेशन अध्ययन (Simulation Studies)

सेटिंग्स: विभिन्न कोरिलेशन स्ट्रक्चर के साथ एडिटिव/इंटरैक्टिव रिग्रेशन और क्लासिफिकेशन मॉडल्स पर परीक्षण किया गया।
प्रदर्शन: DeepIn ने सबसे कम प्रेडिक्टिव एरर (PE) और मीन स्क्वेर्ड एरर (MSE) प्राप्त किया।
- इसने सही डायमेंशन (जैसे, ~5 या ~10) की पहचान की, जबकि प्रतिस्पर्धी अक्सर फुल डायमेंशन बनाए रखते हैं या विफल रहते हैं।
- इसने DFS, LassoNet और GCRNet की तुलना में उच्च ट्रू पॉजिटिव रेट (TPR) और काफी कम फॉल्स पॉजिटिव रेट (FPR) के साथ श्रेष्ठ वेरिएबल सिलेक्शन प्रदर्शित किया।
हाइपोटिसिस टेस्टिंग: प्रस्तावित परीक्षणों ने सूचनात्मक वेरिएबल्स के लिए लगभग पूर्ण पावर प्राप्त की और नॉइज़ वेरिएबल्स के लिए नाममात्र महत्व स्तर (Type I error) को बनाए रखा।

वास्तविक दुनिया के बेंचमार्क (Real-World Benchmarks)

ADNI (अल्जाइमर रोग):
- कार्य: 48,157 जीन एक्सप्रेशन प्रोफाइल से संज्ञानात्मक गिरावट (MMSE स्कोर) की भविष्यवाणी करना।
- परिणाम: DeepIn ने DFS की तुलना में प्रेडिक्शन एरर को 30.26% कम कर दिया। इसने 64 महत्वपूर्ण जीन की पहचान की, जिनमें से कई (जैसे, GBA, EIF2AK3) जैविक रूप से AD पैथोजेनेसिस के लिए प्रासंगिक प्रमाणित हैं।
BlogFeedback:
- कार्य: टेक्स्ट फीचर्स से ब्लॉग कमेंट काउंट की भविष्यवाणी करना।
- परिणाम: DFS की तुलना में एरर को 19.65% कम किया, और सबसे कम डायमेंशन और वेरिएबल्स का उपयोग किया।
MNIST और FashionMNIST:
- कार्य: इमेज क्लासिफिकेशन।
- परिणाम: DeepIn ने उच्चतम सटीकता प्राप्त की (जैसे, MNIST पर 97.30% बनाम DNN के लिए 95.83%)।
- व्याख्यात्मकता: विज़ुअलाइज़ेशन ने दिखाया कि मॉडल डिस्क्रिमिनेटिव पिक्सेल (जैसे, अंक 5 के लिए "गर्दन" और "निचला स्ट्रोक" बनाम अंक 6 के लिए "लूप") पर ध्यान केंद्रित करता है, जो यह सिद्ध करता है कि यह शोर के बजाय सार्थक फीचर्स सीखता है।

5. महत्व और प्रभाव (Significance and Impact)

अंतराल को पाटना (Bridging the Gap): DeepIn सफलतापूर्वक डीप लर्निंग की उच्च प्रेडिक्टिव शक्ति और सांख्यिकीय कठोरता एवं व्याख्यात्मकता की आवश्यकता के बीच के अंतर को पाटता है।
स्पर्सिटी से परे (Beyond Sparsity): मैट्रिक्स $B$ के माध्यम से जॉइंट प्रभावों को मॉडल करके, यह उन विधियों की सीमाओं को दूर करता है जो केवल यह मानती हैं कि कुछ ही मजबूत सिग्नल मौजूद हैं, जिससे यह जटिल जैविक और सामाजिक डेटा के लिए उपयुक्त बनता है।
स्वचालित आर्किटेक्चर डिज़ाइन (Automatic Architecture Design): फ्रेमवर्क स्वचालित रूप से इष्टतम नेटवर्क आकार और वेरिएबल सबसेट को निर्धारित करता है, जिससे आर्किटेक्चर के मैनुअल हाइपरपैरामीटर ट्यूनिंग की आवश्यकता समाप्त हो जाती है।
सांख्यिकीय वैधता (Statistical Validity): औपचारिक हाइपोटिसिस टेस्टिंग का प्रावधान डीप लर्निंग मॉडल्स को विनियमित, उच्च-दांव वाले डोमेन (चिकित्सा, नीति) में तैनात करने की अनुमति देता है जहाँ साक्ष्य-आधारित निर्णय लेने की आवश्यकता होती है।

निष्कर्षतः, DeepIn यह प्रदर्शित करता है कि मिनिमल सफिशिएंट रिप्रजेंटेशन्स को रिकवर करके व्याख्यात्मकता और सांख्यिकीय कठोरता को सीधे डीप आर्किटेक्चर में एम्बेड किया जा सकता है, जिससे ऐसे मॉडल बनते हैं जो न केवल अधिक सटीक और स्थिर हैं, बल्कि वैज्ञानिक रूप से भी व्याख्या योग्य हैं।