🤖 machine learning

In Defense of Information Leakage in Concept-based Models

यह शोध पत्र इस पारंपरिक दृष्टिकोण को चुनौती देता है कि अवधारणा-आधारित मॉडलों (concept-based models) में सूचना का रिसाव (information leakage) स्वाभाविक रूप से अवांछनीय है, और यह तर्क देता है कि अपूर्ण अवधारणाओं वाले वास्तविक परिदृश्यों में, सटीकता और हस्तक्षेप क्षमता (intervenability) दोनों प्राप्त करने के लिए "सौम्य रिसाव" (benign leakage) का एक रूप वास्तव में आवश्यक है, और इस लाभकारी रिसाव को अनुकूलित करने के लिए एक नए प्रशिक्षण उद्देश्य का प्रस्ताव करता है।

मूल लेखक: Mateo Espinosa Zarlenga

प्रकाशित 2026-06-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mateo Espinosa Zarlenga

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "In Defense of Information Leakage in Concept-based Models" पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।

मुख्य विचार: "लीकेज" (Leakage) एक अच्छी चीज़ क्यों हो सकती है

कल्पना कीजिए कि आप एक रोबोट को अलग-अलग प्रकार के पक्षियों की पहचान करना सिखा रहे हैं। आप रोबोट को उन "कॉन्सेप्ट्स" (अवधारणाओं) की एक सूची देते हैं जिन्हें उसे देखना है, जैसे कि "लाल चोंच है," "नीले पंख हैं," या "छोटा है।" यह कॉन्सेप्ट-बेस्ड मॉडल्स (CMs) बनाने का मानक तरीका है।

इस क्षेत्र में पारंपरिक नियम यह रहा है: "रोबोट को केवल आपके द्वारा दी गई सूची को ही देखना चाहिए। यदि वह इसके अलावा किसी और चीज़ को देखता है (जैसे पृष्ठभूमि में पेड़ का आकार), तो वह 'चीटिंग' कर रहा है या जानकारी 'लीक' कर रहा है, और यह बुरा है।"

यह पेपर तर्क देता है कि यह नियम त्रुटिपूर्ण है। वास्तविक दुनिया में, आपकी कॉन्सेप्ट्स की सूची लगभग कभी भी पूर्ण या संपूर्ण नहीं होती। यदि आप रोबोट को अपनी अपूर्ण सूची के अलावा बाकी सब कुछ अनदेखा करने के लिए मजबूर करते हैं, तो रोबोट मूर्ख बन जाएगा और गलतियाँ करेगा।

लेखक कहते हैं: कभी-कभी, स्मार्ट और सटीक होने के लिए हमें रोबोट को थोड़ी अतिरिक्त जानकारी "लीक" करने की आवश्यकता होती है। वे इसे "बेनाइन लीकेज" (Benign Leakage - सौम्य रिसाव) कहते हैं।

उपमा: जासूस और गायब सुराग

इसे समझने के लिए, आइए एक जासूस की उपमा का उपयोग करें।

परिदृश्य:
आप एक अपराध को सुलझाने के लिए एक जासूस (AI) को काम पर रखते हैं। आप उन्हें खोजने के लिए विशिष्ट सुरागों की एक सूची देते हैं (ये "कॉन्सेप्ट्स" हैं): एक कीचड़ वाला जूते का निशान, एक टूटी हुई खिड़की, और एक गायब घड़ी।

"सख्त" दृष्टिकोण (कोई लीकेज नहीं):
आप जासूस से कहते हैं: "आपको केवल इन तीन सुरागों का उपयोग करने की अनुमति है। यदि आप कांच पर उंगलियों के निशान या धुएं की गंध देखते हैं, तो आपको उसे पूरी तरह से अनदेखा करना होगा क्योंकि वह आपकी सूची में नहीं है।"

समस्या:
क्या होगा यदि आपने जासूस को जो सूची दी थी वह अधूरी थी? क्या होगा यदि अपराध सुलझाने की असली कुंजी "धुएं की गंध" थी, लेकिन आप उसे सूची में डालना भूल गए थे?
यदि जासूस सख्ती से आपके नियम का पालन करता है, तो वह अपराध सुलझाने में विफल रहेगा, भले ही वह नियमों का पूरी तरह से पालन कर रहा हो। वह नियमों के प्रति सटीक है, लेकिन काम के लिए बेकार है।

"बेनाइन लीकेज" दृष्टिकोण:
अब, कल्पना कीजिए कि आप जासूस से कहते हैं: "इन तीन सुरागों को अपने मुख्य मार्गदर्शक के रूप में उपयोग करें। लेकिन, यदि आप कुछ और देखते हैं जो मामले को सुलझाने में मदद करता है (जैसे धुएं की गंध), तो आप उसका भी उपयोग कर सकते हैं, बशर्ते आप अभी भी मुख्य सुरागों का उपयोग करके अपने तर्क को समझा सकें।"

परिणाम:
जासूस अपराध को बहुत अधिक बार सुलझाता है। वे अभी भी आपके द्वारा दिए गए कॉन्सेप्ट्स का उपयोग कर रहे हैं, लेकिन वे इस तथ्य से पंगु नहीं होते कि आपकी सूची में एक महत्वपूर्ण हिस्सा गायब था।

"इन्फॉर्मेशन लीकेज" (सूचना का रिसाव) क्या है?

पेपर के तकनीकी शब्दों में, इन्फॉर्मेशन लीकेज तब होता है जब AI का आंतरिक "कॉन्सेप्ट" (जैसे "लाल चोंच") गलती से अन्य चीजों (जैसे "एक रॉबिन है") या अंतिम उत्तर ("एक पक्षी है") के बारे में जानकारी पकड़ लेता है।

पुराना दृष्टिकोण: यह एक बग (त्रुटि) है। इसका मतलब है कि AI भ्रमित है और हम उसके स्पष्टीकरण पर भरोसा नहीं कर सकते।
नया दृष्टिकोण: यह अक्सर एक फीचर (विशेषता) है। ऐसी दुनिया में जहाँ हमारे कॉन्सेप्ट्स की सूचियाँ अधूरी होती हैं, AI को सही उत्तर पाने के लिए अतिरिक्त जानकारी पकड़ने की आवश्यकता होती है।

समाधान: "सेफ्टी नेट" ट्रेनिंग

लेखक केवल यह नहीं कहते कि "AI को चीटिंग करने दें।" वे AI को प्रशिक्षित करने का एक विशिष्ट तरीका प्रस्तावित करते हैं ताकि यह "चीटिंग" सुरक्षित और नियंत्रित हो।

वे एक प्रशिक्षण विधि पेश करते हैं (जिसे $L_{int}$ कहा जाता है) जो एक सुरक्षा जाल (सेफ्टी नेट) के रूप में कार्य करती है। यह कैसे काम करता है, यहाँ बताया गया है:

परीक्षण: प्रशिक्षण के दौरान, शोधकर्ता AI के कॉन्सेप्ट्स को "ठीक करने" का नाटक करते हैं। वे कहते हैं, "ठीक है, भूल जाओ कि तुम्हें पक्षी कैसा दिखता है। चलो 'लाल चोंच' को सच होने के लिए मजबूर करते हैं। अब, क्या तुम अभी भी पक्षी का सही अनुमान लगा सकते हो?"
लक्ष्य: यदि AI सही अनुमान लगा सकता है भले ही आप उसके कॉन्सेप्ट्स को परफेक्ट होने के लिए मजबूर करें, तो इसका मतलब है कि AI ने शेष जानकारी (लीकेज) का प्रभावी ढंग से उपयोग करना सीख लिया है।
परिणाम: AI सीखा हुआ है कि "लीक" की गई जानकारी को एक सुरक्षित स्थान में रखना है। वह जानता है कि उसके दिमाग का कौन सा हिस्सा "लाल चोंच" को देख रहा है और कौन सा हिस्सा "धुएं की गंध" को देख रहा है।

यह क्यों मायने रखता है

यह पेपर लीकेज के बारे में तीन सामान्य डरों को चुनौती देता है:

डर: "लीकेज AI को अन-इंटरवेनेबल (हस्तक्षेप न करने योग्य) बनाता है।"
- वास्तविकता: यदि सही ढंग से प्रशिक्षित किया जाए, तो आप कॉन्सेप्ट्स को बदलकर AI का निर्णय बदल सकते हैं। AI आपके नए इनपुट के आधार पर अपना उत्तर बदल लेगा, ठीक वैसे ही जैसे एक इंसान जासूस करेगा।
डर: "लीकेज AI को अन-इंटरप्रिटेबल (व्याख्या न करने योग्य) बनाता है।"
- वास्तविकता: लेखक दिखाते हैं कि लीकेज के साथ भी, AI अभी भी आपके द्वारा दिए गए कॉन्सेप्ट्स पर बहुत अधिक निर्भर करता है। वह अचानक से रैंडम अंदाज़े लगाने नहीं लगता; वह बस सटीक होने के लिए थोड़ी अतिरिक्त मदद लेता है।
डर: "लीकेज हमेशा खतरनाक होता है।"
- वास्तविकता: एक आदर्श दुनिया में, जिसमें पूर्ण डेटा हो, शायद। लेकिन इस अस्त-व्यस्त वास्तविक दुनिया में, सभी लीकेज को रोकने की कोशिश करने से AI इतना कठोर हो जाता है कि वह उपयोगी ही नहीं रहता।

निचोड़

यह पेपर तर्क देता है कि हमें ऐसे "शुद्ध" कॉन्सेप्ट मॉडल बनाने की कोशिश छोड़ देनी चाहिए जो बाकी सब कुछ अनदेखा कर देते हैं। इसके बजाय, हमें ऐसे मॉडल बनाने चाहिए जो अपनी सीमाओं के बारे में ईमानदार हों।

यदि आपके कॉन्सेप्ट्स की सूची अधूरी है (जो कि लगभग हमेशा होती है), तो आपको सटीक होने के लिए मॉडल को थोड़ी अतिरिक्त जानकारी "लीक" करने की आवश्यकता है। लक्ष्य लीक को खत्म करना नहीं है; बल्कि इसे वश में करना है ताकि मॉडल सटीक, सहायक और मानवीय फीडबैक सुनने में सक्षम बना रहे।

संक्षेप में: जासूस को इसलिए न निकालें क्योंकि उसने उन चीजों पर ध्यान दिया जो आपने उसे देखने के लिए नहीं कहा था। इसके बजाय, उसे यह सिखाएं कि उन अतिरिक्त सुरागों का उपयोग करके केस को बेहतर तरीके से कैसे सुलझाया जाए।

तकनीकी सारांश: अवधारणा-आधारित मॉडलों (Concept-based Models) में सूचना रिसाव (Information Leakage) के पक्ष में

समस्या विवरण

अवधारणा-आधारित मॉडल (CMs) डीप न्यूरल नेटवर्क हैं जिन्हें मानव-समझने योग्य अवधारणाओं (जैसे, "धारियाँ," "पंख") में भविष्यवाणियों को आधारित करने के लिए डिज़ाइन किया गया है। एक प्रचलित विमर्श यह है कि सूचना रिसाव (information leakage)—जहाँ अवधारणा प्रतिनिधित्व (concept representations) उन सूचनाओं को संचित कर लेते हैं जो उनके इच्छित अर्थों के प्रति विशेष रूप से उत्तरदायी नहीं हैं—स्वाभाविक रूप से अवांछनीय है। इस रिसाव को आमतौर पर अंतर-अवधारणा रिसाव (inter-concept leakage) (एक अवधारणा प्रतिनिधित्व अन्य अवधारणाओं के बारे में जानकारी संचित करता है) और कार्य रिसाव (task leakage) (एक अवधारणा प्रतिनिधित्व डाउनस्ट्रीम कार्य लेबल $Y$ के बारे में जानकारी संचित करता है) में वर्गीकृत किया जाता है।

पारंपरिक दृष्टिकोण का तर्क है कि रिसाव हस्तक्षेपशीलता (intervenability) (अवधारणा इनपुट को संशोधित करके भविष्यवाणियों को सुधारने की क्षमता) और व्याख्यात्मकता (interpretability) (केवल अवधारणाओं के आधार पर मॉडल के तर्क को पुनर्गठित करने की क्षमता) को कमजोर करता है। फलस्वरूप, हालिया शोध वास्तुशिल्प बाधाओं या नियमितीकरण (regularization) के माध्यम से रिसाव को समाप्त करने पर केंद्रित रहा है।

हालाँकि, लेखक तर्क देते हैं कि यह सख्त दृष्टिकोण अपूर्ण है और प्रतिकूल है, विशेष रूप से वास्तविक दुनिया के परिवेश में जहाँ अवधारणा अपूर्णता (concept incompleteness) सामान्य है। इन परिदृश्यों में, उपलब्ध प्रशिक्षण अवधारणाओं का सेट $C$ अक्सर डाउनस्ट्रीम कार्य $Y$ का पूर्ण वर्णन करने में विफल रहता है (अर्थात, $I(Y; X | C) \neq 0$ )। लेखक प्रतिपादित करते हैं कि ऐसे अपूर्ण परिवेश में सख्ती से गैर-लीकी (non-leaky) प्रतिनिधित्व लागू करने से उच्च कार्य सटीकता को बाधित किया जाता है, जिससे CMs अव्यवहारिक हो जाते हैं।

कार्यप्रणाली

1. सौहार्दपूर्ण रिसाव (Benign Leakage) को औपचारिक रूप देना

यह शोध पत्र सौहार्दपूर्ण रिसाव (Benign Leakage) की अवधारणा प्रस्तुत करता है, जिसे एक विशिष्ट प्रकार के रिसाव के रूप में परिभाषित किया गया है जो अपूर्ण सेटिंग्स में सटीक CMs के लिए आवश्यक और वांछनीय है। एक प्रतिनिधित्व $\hat{C}$ सौहार्दपूर्ण रिसाव प्रदर्शित करता है यदि वह दो शर्तों को पूरा करता है:

पर्याप्तता (Sufficiency): प्रतिनिधित्व उस सभी लेबल-प्रासंगिक जानकारी को संरक्षित करता है जो ग्राउंड-ट्रुथ अवधारणाओं $C$ द्वारा कैप्चर नहीं की गई है। औपचारिक रूप से, $I(Y; R | C) \approx I(Y; X | C)$ , जहाँ $R$ प्रतिनिधित्व का एक अवशिष्ट (residual) घटक है।
स्थानीयकरण (Localization): किसी विशिष्ट अवधारणा $C_i$ के बारे में वह जानकारी जो $Y$ की भविष्यवाणी करने के लिए उपयोगी है, प्रतिनिधित्व के एक विशिष्ट घटक $\bar{C}_i$ के भीतर स्थानीयकृत है। औपचारिक रूप से, $I(Y; \bar{C}_i | R_i, \hat{C}_{-i}) \approx I(Y; C_i | C_{-i})$ ।

यह अपघटन (decomposition) एक मॉडल को सटीकता के लिए रिसाव का लाभ उठाने ( $R$ के माध्यम से) और हस्तक्षेपशीलता ( $\bar{C}_i$ के माध्यम से) बनाए रखने की अनुमति देता है।

2. $L_{int}$ के माध्यम से अनुकूलन

सौहार्दपूर्ण रिसाव प्राप्त करने के लिए, लेखक एक नया प्रशिक्षण उद्देश्य, $L_{int}$ (इंटरवेंशन लॉस) को अनुकूलित करने का प्रस्ताव देते हैं। यह लॉस तब होने वाले कार्य लॉस (task loss) को कम करता है जब सभी अवधारणाओं पर हस्तक्षेप किया जाता है (अर्थात, प्रशिक्षण के दौरान उन्हें ग्राउंड-ट्रुथ मानों पर मजबूर किया जाता है):
$L_{int} = \mathbb{E}_{(x,c,y) \sim D} \left[ -\log P_f(y | \hat{C} = g(x | C := c)) \right]$

शोध पत्र का तर्क है कि $L_{int}$ को कम करना अप्रत्यक्ष रूप से पर्याप्तता को प्रोत्साहित करता है। इस धारणा के तहत कि लेबल प्रेडिक्टर सुस्पष्ट (well-specified) है, पूर्ण हस्तक्षेप के तहत नकारात्मक लॉग-लाइक्लीहुड को कम करना, अवधारणाओं के दिए जाने पर, अवशिष्ट प्रतिनिधित्व और कार्य लेबल के बीच म्यूचुअल इंफॉर्मेशन को अधिकतम करने के बराबर है।

इसके अतिरिक्त, लेखक परिकल्पना करते हैं कि डीप न्यूरल नेटवर्क के सरलता पूर्वाग्रह (simplicity bias) (SGD सरल परिकल्पनाओं को प्राथमिकता देता है) के कारण, $L_{int}$ को कम करना अप्रत्यक्ष रूप से स्थानीयकरण को भी प्रोत्साहित करता है। मॉडल के लिए एक सरल परिकल्पना वह है जहाँ लेबल प्रेडिक्टर अवधारणा-संरेखित घटकों पर अवधारणा-विशिष्ट तर्क के लिए निर्भर होना सीखता है, न कि अवशिष्ट रिसाव में अवधारणा जानकारी को पुन: संचित करना।

3. प्रयोगात्मक सेटअप

लेखक CUB-200 डेटासेट (पक्षियों) का उपयोग करके अपने दावों का मूल्यांकन करते हैं, विशेष रूप रूप से एक अपूर्ण संस्करण (CUB-Incomplete) बनाकर, जिसमें मूल 112 में से 22 अवधारणाओं (7 समूहों) को सबसैंपल किया गया है। वे विभिन्न आर्किटेक्चर का परीक्षण करते हैं, जिनमें शामिल हैं:

स्वतंत्र/अनुक्रमिक/संयुक्त CBMs: अलग-अलग डिग्री के रिसाव वाले मानक बेसलाइन।
हाइब्रिड CBMs: बायपास चैनल (अवशिष्ट कनेक्शन) वाले मॉडल जो स्पष्ट रूप से रिसाव की अनुमति देते हैं।
कॉन्सेप्ट एम्बेडिंग मॉडल्स (CEMs) और ProbCBMs: डायनेमिक एम्बेडिंग्स का उपयोग करने वाले मॉडल।
ब्लैक बॉक्स बेसलाइन: बिना किसी अवधारणा संरेखण लॉस के DNNs।

प्रमुख मेट्रिक्स में टास्क फिडेलिटी (सटीकता), कॉन्सेप्ट फिडेलिटी (अवधारणा भविष्यवाणियों की सटीकता), और हस्तक्षेपशीलता (ग्राउंड-ट्रुथ अवधारणाएं प्रदान किए जाने पर प्रदर्शन में सुधार) शामिल हैं।

मुख्य परिणाम

1. रिसाव अनिवार्य रूप से हस्तक्षेपशीलता को नष्ट नहीं करता है

प्रचलित विमर्श के विपरीत, लेखक प्रदर्शित करते हैं कि लीकी मॉडल भी अपूर्ण सेटिंग्स में अत्यधिक हस्तक्षेप करने योग्य बने रह सकते हैं, बशर्ते कि वे उचित रूप से कंडिशन किए गए हों।

बिना $L_{int}$ के: कई लीकी मॉडल (जैसे, जॉइंट लॉजिट CBMs, बड़े बायपास वाले हाइब्रिड CBMs) अपूर्ण सेटिंग्स में अन-इंटरवेनेबल हो जाते हैं; अवधारणाओं को ठीक करने पर उनकी सटीकता में सुधार नहीं होता (या घट जाती है)।
$L_{int}$ के साथ: जब इन समान लीकी मॉडलों को $L_{int}$ रेगुलराइज़र के साथ प्रशिक्षित किया जाता है, तो वे उच्च हस्तक्षेपशीलता पुनः प्राप्त कर लेते हैं। उदाहरण के लिए, बड़े हाइब्रिड CBMs (500 अवशिष्ट न्यूरॉन्स के साथ) गैर-लीकी इंडिपेंडेंट CBMs की तरह ही हस्तक्षेप करने योग्य बन जाते हैं, जबकि वे काफी उच्च कार्य सटीकता बनाए रखते हैं।

2. सौहार्दपूर्ण रिसाव सटीकता में सुधार करता है बिना व्याख्यात्मकता से समझौता किए

सटीकता: अपूर्ण सेटिंग्स में, $L_{int}$ के साथ प्रशिक्षित मॉडल गैर-लीकी बेसलाइन (जैसे, इंडिपेंडेंट CBMs) की तुलना में काफी उच्च टास्क फिडेलिटी प्राप्त करते हैं, जो केवल अपूर्ण अवधारणा सेट पर निर्भर रहने के लिए मजबूर होते हैं।
व्याख्यात्मकता: प्रॉक्सी मेट्रिक्स (कॉन्सेप्ट ROC-AUC और लेबल प्रेडिक्टर वेट एनालिसिस) का उपयोग करते हुए, लेखक दिखाते हैं कि अच्छी तरह से कंडिशन किए गए लीकी मॉडल (जैसे, $L_{int}$ के साथ हाइब्रिड CBMs) गैर-लीकी मॉडलों के सांख्यिकीय रूप से अविभेद्य कॉन्सेप्ट-टू-टास्क वेट स्ट्रक्चर प्रदर्शित करते हैं। वर्गों की भविष्यवाणी करने के लिए लीकी मॉडल्स द्वारा उपयोग किए जाने वाले शीर्ष अवधारणाएं गैर-लीकी मॉडल्स द्वारा उपयोग किए जाने वाले अवधारणाओं के साथ निकटता से संरेखित होती हैं, जो यह सुझाव देती है कि रिसाव मॉडल की तर्क प्रक्रिया को उस तरह से बाधित नहीं करता है जैसा कि मानक मेट्रिक्स पहचानते हैं।

3. अपूर्णता की भूमिका

पूर्ण डेटासेट पर प्रयोगों से पता चलता है कि लीकी मॉडल $L_{int}$ के बिना भी अक्सर हस्तक्षेप करने योग्य होते हैं। हालाँकि, अपूर्ण सेटिंग्स में, $L_{int}$ की अनुपस्थिति लीकी मॉडलों में अन-इंटरवेनेबल व्यवहार की ओर ले जाती है। यह पुष्टि करता है कि रिसाव का "हानि" संदर्भ-निर्भर है और विशेष रूप से तब उत्पन्न होता है जब मॉडल लापता कार्य-प्रासंगिक जानकारी का पर्याप्त प्रतिनिधित्व सीखने में विफल रहता है।

महत्व और दावे

यह शोध पत्र CMs में सूचना रिसाव के प्रति दृष्टिकोण को एक ऐसी घटना से बदलकर जो इसे मिटाया जाना चाहिए, उसे नियंत्रित और उपयोग करने योग्य बनाने की ओर ले जाने का दावा करता है।

विमर्श को नया रूप देना: लेखक तर्क देते हैं कि रिसाव को "अव्याख्यायनीय" मानने का सख्त दृष्टिकोण अपूर्ण है क्योंकि यह वास्तविक दुनिया के अपूर्ण परिदृश्यों में रिसाव की व्यावहारिक आवश्यकता को अनदेखा करता है। उनका कहना है कि ऐसे सेटिंग्स में रिसाव को समाप्त करना एक ऐसा ट्रेड-ऑफ थोपता है जहाँ सटीकता को एक सैद्धांतिक शुद्धता के लिए त्याग दिया जाता है जो कोई व्यावहारिक लाभ नहीं देती है।
व्यावहारिक आवश्यकता: शोध पत्र प्रतिपादित करता है कि सौहार्दपूर्ण रिसाव (benign leakage) आवश्यक है ताकि ऐसे CMs का निर्माण किया जा सके जो सटीक और हस्तक्षेप करने योग्य दोनों हों जब अवधारणा सेट अपूर्ण हों। $I(Y; X | C)$ को रिसाव के माध्यम से कैप्चर करने की अनुमति दिए बिना, CMs अपना प्राथमिक कार्य—सटीक भविष्यवाणी—करने में सक्षम नहीं हो सकते।
मेथोडोलॉजिकल योगदान: $L_{int}$ का परिचय "सौहार्दपूर्ण रिसाव" को सक्षम करने वाला एक सरल, आर्किटेक्चर-अज्ञेयवादी (architecture-agnostic) रेगुलराइज़र प्रदान करता है। यह विभिन्न मौजूदा तंत्रों (जैसे, CEMs में स्टोकेस्टिक इंटरवेंशन) को विशेष मामलों के रूप में पुनर्प्राप्त करता है और मजबूत CMs के प्रशिक्षण के लिए एक एकीकृत दृष्टिकोण प्रदान करता है।
कार्रवाई का आह्वान: लेखक समुदाय से रिसाव को व्यापक रूप से 'व्याख्यात्मकता को नष्ट करने वाला' घोषित करने के बजाय, इसके लिए सत्यापन योग्य मानदंडों के बिना दावे करने से रुकने का आह्वान करते हैं। इसके बजाय, वे शोधकर्ताओं से आग्रह करते हैं कि वे:
- अपूर्ण सेटिंग्स में CMs का मूल्यांकन करें।
- रिसाव को समाप्त करने के बजाय उसे नियंत्रित करने (स्थानीयकरण और पर्याप्तता) पर ध्यान केंद्रित करें।
- CM-विशिष्ट घटनाओं को शॉर्टकट लर्निंग जैसे सामान्य डीप लर्निंग विफलता मोड से अलग करें।

निष्कर्षतः, शोध पत्र का दावा है कि "रिसाव" स्वाभाविक रूप से बुरा नहीं है; बल्कि, अनियंत्रित रिसाव समस्या है। पर्याप्तता और स्थानीयकरण के लिए $L_{int}$ को अनुकूलित करके, यह संभव है कि ऐसे CMs बनाए जाएं जो अपूर्ण सेटिंग्स में उच्च सटीकता प्राप्त करने के लिए रिसाव का लाभ उठा सकें और साथ ही व्याख्यात्मकता और हस्तक्षेपशीलता के मूल गुणों को बनाए रख सकें।