🤖 machine learning

CAPA: Contribution-Aware Pruning and FFN Approximation for Efficient Large Vision-Language Models

यह शोध पत्र CAPA प्रस्तुत करता है, जो लार्ज विजन-लैंग्वेज मॉडल्स के लिए एक कुशल फ्रेमवर्क है जो अटेंशन कॉन्ट्रिब्यूशन मेट्रिक्स के माध्यम से पहचाने गए कम योगदान वाले विजुअल टोकन को हटाकर और मध्यवर्ती परतों में अनावश्यक फीड-फॉरवर्ड नेटवर्क गणनाओं का अनुमान लगाकर इन्फरेंस गति में सुधार करता है।

मूल लेखक: Samyak Jha, Junho Kim

प्रकाशित 2026-02-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Samyak Jha, Junho Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़े विज़न-लैंग्वेज मॉडल (LVLM) की कल्पना एक अत्यंत बुद्धिमान, लेकिन अविश्वसनीय रूप से व्यस्त कला समीक्षक के रूप में करें। जब आप इसे एक तस्वीर दिखाते हैं और उससे कोई प्रश्न पूछते हैं, तो यह केवल चित्र को "देखता" नहीं है; बल्कि यह चित्र को हज़ारों छोटे पहेली के टुकड़ों (जिन्हें विजुअल टोकन कहा जाता है) में तोड़ देता है। फिर यह इन टुकड़ों को आपके टेक्स्ट के साथ पढ़ता है, यह समझने की कोशिश करता है कि क्या महत्वपूर्ण है।

समस्या यह है कि यह समीक्षक बहुत अधिक बोझ महसूस कर रहा है। यह पहेली के हर एक टुकड़े को समान तीव्रता के साथ प्रोसेस करने की कोशिश करता है, यहाँ तक कि उबाऊ, खाली बैकग्राउंड वाले हिस्सों को भी। यह इस प्रक्रिया को धीमा और महंगा बना देता है, जैसे किसी एक विशिष्ट तथ्य को खोजने के लिए पूरी विश्वकोश को पढ़ना।

यह शोध पत्र एक नया तरीका पेश करता है जिसे CAPA (कंट्रीब्यूशन-अवेयर प्रूनिंग एंड FFN एप्रोक्सिमेशन) कहा जाता है, ताकि इस समीक्षक को बिना भ्रमित हुए तेज़ी से काम करने में मदद मिल सके। CAPA को एक स्मार्ट सहायक के रूप में सोचें जो समीक्षक को दो नए करतब सिखाता है:

करतब 1: "वास्तविक प्रभाव" फ़िल्टर (कंट्रीब्यूशन-अवेयर प्रूनिंग)

पुराना तरीका (दोषपूर्ण अंतर्ज्ञान):
पहले, समीक्षक यह तय करता था कि किन पहेली के टुकड़ों को अनदेखा करना है, इस आधार पर कि उन्हें कितना "अटेंशन" (ध्यान) मिला। यदि चित्र का कोई हिस्सा (जैसे नीले आकाश का एक पैच) टेक्स्ट से बहुत अधिक ध्यान प्राप्त करता था, तो समीक्षक उसे रखता था। यदि उसे कम ध्यान मिलता था, तो वह उसे फेंक देता था।

समस्या: यह एक फिल्म के दृश्य को केवल दर्शकों के शोर के आधार पर आंकने जैसा है। कभी-कभी, एक पात्र को बहुत सारा शोर (अटention) मिल सकता है लेकिन वास्तव में वह कुछ भी महत्वपूर्ण नहीं कहता। शोध पत्र की शब्दावली में, इन्हें "प्रोबेबिलिटी डम्प्स" (Probability Dumps) कहा जाता है। ये शोर तो करते हैं लेकिन बेकार होते हैं। इसके विपरीत, कुछ शांत टुकड़े सारा भारी काम कर रहे हो सकते हैं लेकिन उन्हें अनदेखा कर दिया जाता है क्योंकि वे पर्याप्त "शोर" नहीं कर पा रहे थे।

CAPA का तरीका (स्मार्ट फ़िल्टर):
CAPA नियम बदल देता है। केवल "शोर" (अटेंशन स्कोर) सुनने के बजाय, यह "वास्तविक प्रभाव" (अटेंशन कंट्रीब्यूशन) की जाँच करता है।

उपमा: एक निर्माण स्थल की कल्पना करें। "शोर" वह है कि कितने लोग एक विशिष्ट ईंट पर चिल्ला रहे हैं। "प्रभाव" वह है कि वह ईंट वास्तव में कितना भार उठाती है।
- प्रकार A (प्रोबेबिलिटी डम्प्स): एक ईंट जिसके बारे में हर कोई चिल्ला रहा है, लेकिन वह थर्माकोल (स्टायरोफोम) की बनी है। वह कोई भार नहीं उठाती। CAPA कहता है, "इसे फेंक दो; यह सिर्फ शोर है।"
- प्रकार B (स्ट्रक्चरल एंकर्स): एक ईंट जिसके बारे में कोई चिल्ला नहीं रहा है, लेकिन वह पूरी छत को थामे हुए है। CAPA कहता है, "इसे रखो! यह असली काम कर रही है।"
परिणाम: CAPA भारी काम करने वाली ईंटों को रखता है और थर्माकोल वाली ईंटों को फेंक देता है, जिससे यह सुनिश्चित होता है कि समीक्षक महत्वपूर्ण विवरणों को खोए बिना खाली स्थान को अनदेखा कर सके।

करतब 2: उबाऊ कार्यों के लिए "शॉर्टकट" (FFN एप्रोक्सिमेशन)

पुराना तरीका (भारी काम):
पहेली के टुकड़ों को देखने के बाद, मॉडल को एक जटिल मस्तिष्क सर्किट के माध्यम से उन्हें प्रोसेस करना होता है जिसे फीड-फॉरवर्ड नेटवर्क (FFN) कहा जाता है। इसे एक बहुत ही महंगे, उच्च-शक्ति वाले कैलकुलेटर के रूप में समझें जो डेटा के हर एक टुकड़े पर जटिल गणित करता है।

समस्या: शोध पत्र में पाया गया कि इमेज के टुकड़ों (विजुअल टोकन) के लिए, यह जटिल कैलकुलेटर अक्सर ज़रूरत से ज़्यादा है। मॉडल के मध्य परतों में, कैलकुलेटर जो गणित करता है वह लगभग एक सीधी रेखा (लीनियर) की तरह है। यह 2 को 2 से गुणा करने के लिए सुपरकंप्यूटर का उपयोग करने जैसा है। यह ऊर्जा की बर्बादी है।

CAPA का तरीका (शॉर्टकट):
CAPA उन "उबाऊ" परतों की पहचान करता है जहाँ जटिल गणित की वास्तव में आवश्यकता नहीं होती है।

उपमा: कल्पना कीजिए कि आपके पास एक शेफ है जो सलाद के एक पत्ते को काटने के लिए $10,000 के इंडस्ट्रियल ब्लेंडर का उपयोग करता है। यह काम तो करता है, लेकिन यह अक्षम है। CAPA कहता है, "इस विशिष्ट चरण में, बस एक साधारण चाकू का उपयोग करें।"
क्रियान्वयन: महंगे, जटिल गणित को चलाने के बजाय, CAPA इसे एक सरल, हल्के "हाडामाड प्रोडक्ट" (एक फैंसी शब्द जो सरल, एलिमेंट-बाय-एलिमेंट मल्टीप्लिकेशन के लिए है) के साथ बदल देता है। यह इंडस्ट्रियल ब्लेंडर को हाथ से काटने (hand-chop) के त्वरित तरीके से बदलने जैसा है।
परिणाम: मॉडल ऊर्जा (कंप्यूटेशन) की भारी बचत करता है क्योंकि वह भारी मशीनरी का उपयोग करना बंद कर देता है जहाँ एक साधारण उपकरण भी काम को समान रूप से अच्छी तरह से कर सकता है।

ग्रैंड फिनाले: CAPA कैसे जीतता है

इन दोनों करतबों को मिलाकर, CAPA एक सुपर-एफिशिएंट सिस्टम बनाता है:

यह कचरे को हटा देता है: यह उन "थर्माकोल की ईंटों" (बेकार विजुअल टोकन) को हटा देता है जो समय बर्बाद कर रहे थे।
यह गणित को सरल बनाता है: यह "इंडस्ट्रियल ब्लेंडर" (महंगी गणनाओं) को "साधारण चाकू" (हल्के गणित) से बदल देता है जहाँ ऐसा करना सुरक्षित है।

परिणाम:
शोध पत्र ने इसका परीक्षण कई लोकप्रिय AI मॉडल्स (जैसे LLaVA और Qwen) पर किया। परिणाम दिखाते हैं कि CAPA एक ऐसे मैराथन धावक की तरह है जो अनावश्यक वजन को कम करता है और अधिक कुशल चाल में बदल जाता है।

यह बहुत तेज़ चलता है (78% तक कम कंप्यूटेशनल काम)।
यह फिनिश लाइन पर लड़खड़ाता नहीं है (यह उच्च सटीकता बनाए रखता है)।
यह जटिल कार्यों (जैसे इमेज में टेक्स्ट पढ़ना या पहेलियाँ सुलझाना) को अन्य तरीकों की तुलना में बेहतर ढंग से संभालता है जो केवल अनुमान लगाते हैं कि किन टुकड़ों को फेंकना है।

संक्षेप में, CAPA AI को खाली जगह पर चिल्लाना बंद करने और अखरोट तोड़ने के लिए हथौड़े का उपयोग न करने की शिक्षा देता है, जिससे यह अपनी धार खोए बिना तेज़ और स्मार्ट बनता है।

तकनीकी सारांश: CAPA – कुशल लार्ज विजन-लैंग्वेज मॉडल्स के लिए कंट्रीब्यूशन-अवेयर प्रूनिंग और FFN एप्रोक्सिमेशन

1. समस्या विवरण (Problem Statement)

लार्ज विजन-लैंग्वेज मॉडल्स (LVLMs) उच्च-रिज़ॉल्यूशन वाली छवियों को संभालने के दौरान हजारों विजुअल टोकन्स को प्रोसेस करने की उच्च लागत के कारण महत्वपूर्ण कम्प्यूटेशनल बाधाओं का सामना करते हैं। जबकि विजुअल टोकन प्रूनिंग (visual token pruning) एक प्राथमिक त्वरण रणनीति (acceleration strategy) के रूप में उभरी है, मौजूदा विधियाँ महत्वहीन टोकनों की पहचान करने के लिए कच्चे अटेंशन स्कोर या उनसे प्राप्त ह्यूरिस्टिक मेट्रिक्स पर बहुत अधिक निर्भर करती हैं। लेखक तर्क देते हैं कि अटेंशन स्कोर वास्तविक टोकन महत्व के लिए एक अपूर्ण प्रॉक्सी (imperfect proxy) हैं क्योंकि वे संबंधित वैल्यू वेक्टर्स (value vectors) के परिमाण (magnitude) को अनदेखा करते हैं।

इसके अलावा, वर्तमान दृष्टिकोण विजुअल और टेक्स्ट टोकन्स के साथ समान व्यवहार करते हैं। हालांकि, हालिया साक्ष्य बताते हैं कि LVLM बैकबोन इन दोनों मोडैलिटीज (modalities) को अलग-अलग तरह से प्रोसेस करते हैं। विशेष रूप से, FFNs (Feed-Forward Networks) में विजुअल टोकन्स के संबंध में रेडंडेंसी (redundancy) काफी हद तक अनएक्सप्लोर्ड (unexplored) बनी हुई है। LLM डोमेन में पिछले कार्यों में FFN एप्रोक्सिमेशन (जैसे, स्पार्स एप्रोक्सिमेशन, MoE) का अन्वेषण किया गया है, लेकिन इन तकनीकों को LVLMs में विजन टोकन्स के विशिष्ट रेडंडेंसी पैटर्न तक विस्तारित नहीं किया गया है।

2. अनुभवजन्य विश्लेषण और मुख्य अवलोकन (Empirical Analysis and Key Observations)

लेखकों ने विजुअल टोकन व्यवहारों को समझने के लिए LVLMs (LLaVA-1.5, Qwen2.5-VL, InternVL3) पर अनुभवजन्य विश्लेषण किए, जिससे दो महत्वपूर्ण अवलोकन सामने आए:

विजुअल अटेंशन सिंक्स की विषमता (Heterogeneity of Visual Attention Sinks):
- पारंपरिक "अटेंशन सिंक्स" (वे टोकन्स जिनमें अत्यधिक उच्च अटेंशन मास होता है) कार्यात्मक रूप से एकसमान नहीं होते हैं।
- एक नए मेट्रिक, अटेंशन कंट्रीब्यूशन (Attention Contribution) का उपयोग करते हुए, लेखक दो प्रकार के सिंक्स के बीच अंतर करते हैं:
  - टाइप I (प्रोबेबिलिटी डम्प्स - Probability Dumps): वे टोकन्स जिनमें उच्च अटेंशन वेट्स होते हैं लेकिन कम वैल्यू वेक्टर मैग्नीट्यूड होता है। ये अतिरिक्त प्रोबेबिलिटी मास के निष्क्रिय पात्र (passive receptacles) के रूप में कार्य करते हैं और रेसिडुअल स्ट्रीम (residual stream) में नगण्य योगदान देते हैं। इन्हें प्रून करना सुरक्षित है।
  - टाइप II (स्ट्रक्चरल एंकर्स - Structural Anchors): वे टोकन्स जिनमें उच्च अटेंशन वेट्स और विशाल वैल्यू वेक्टर मैग्नीट्यूड दोनों होते हैं। ये मॉडल के प्रदर्शन को बनाए रखने के लिए महत्वपूर्ण हैं; इन्हें हटाने से रिप्रेजेंटेशनल कोलैप्स (representational collapse) हो सकता है।
- निष्कर्ष: केवल अटेंशन स्कोर पर निर्भर रहने से इन दोनों प्रकारों के बीच अंतर करने में विफलता होती है, जिससे आवश्यक टोकन्स के गलती से प्रून होने का खतरा रहता है।
मोडैलिटी-डिपेंडेंट FFN रेडंडेंसी (Modality-Dependent FFN Redundancy):
- लेखकों ने इनपुट हिडन स्टेट $x$ और रेसिडुअल आउटपुट $x + \text{FFN}(x)$ के बीच कोसाइन सिमिलरिटी (cosine similarity) की गणना करके FFN ट्रांसफॉर्मेशन की लीनियरिटी (linearity) को मापा।
- निष्कर्ष: इमेज टोकन्स अधिकांश इंटरमीडिएट लेयर्स में लगभग आइडेंटिटी मैपिंग (कोसाइन सिमिलरिटी > 0.96) प्रदर्शित करते हैं, जो यह दर्शाता है कि विजुअल डेटा के लिए FFN ट्रांसफॉर्मेशन प्रभावी रूप से लीनियर और रेडंडेंट हैं। इसके विपरीत, टेक्स्ट टोकन्स शुरुआती और मध्यवर्ती लेयर्स में महत्वपूर्ण नॉन-लिनियरिटी दिखाते हैं।
- निष्कर्ष: इंटरमीडिएट लेयर्स में विजुअल टोकन्स के लिए महंगे $O(d^2)$ FFN कंप्यूटेशन को हल्के लीनियर एप्रोक्सिमेशन (linear approximations) के साथ बदला जा सकता है, जिससे रिप्रेजेंटेशनल इंटीग्रिटी से समझौता नहीं होता।

3. कार्यप्रणाली: CAPA फ्रेमवर्क (Methodology: CAPA Framework)

इन निष्कर्षों के आधार पर, लेखक CAPA (कंट्रीब्यूशन-अवेयर प्रूनिंग एंड FFN एप्रोक्सिमेशन) प्रस्तावित करते हैं, जो एक दोहरी रणनीति वाला फ्रेमवर्क है:

A. कंट्रीब्यूशन-अवेयर प्रूनिंग (Contribution-Aware Pruning)

कच्चे अटेंशन स्कोर के बजाय, CAPA प्रत्येक विजुअल टोकन $i$ के लिए एक अटेंशन कंट्रीब्यूशन स्कोर ( $C_i$ ) की गणना करता है। यह स्कोर अटेंशन प्रोबेबिलिटी को आउटपुट मैट्रिक्स द्वारा प्रोजेक्ट किए गए वैल्यू वेक्टर के मैग्नीट्यूड के साथ वेट करता है।

फॉर्मूला: $C_i = \left\| \sum_{h=1}^{H} A_{i,h} (x_i W_{V,h}) W_{O,h} \right\|_2$
मैकेनिज्म: जनरेशन के दौरान, सिस्टम उच्चतम कंट्रीब्यूशन स्कोर वाले टॉप- $k$ विजुअल टोकन्स को की-वैल्यू कैश (key-value cache) में बनाए रखने के लिए चुनता है, और उन टोकन्स को हटा देता है जिनका योगदान नगण्य है। यह सुनिश्चित करता है कि "स्ट्रक्चरल एंकर्स" सुरक्षित रहें जबकि "प्रोबेबिलिटी डम्प्स" को हटाया जा सके।

B. रेडंडेंसी की पहचान और FFN एप्रोक्सिमेशन (Redundancy Identification & FFN Approximation)

उन लेयर्स के लिए जिन्हें उच्च रेडंडेंसी वाली लेयर्स के रूप में पहचाना गया है (जहाँ इनपुट-आउटपुट कोसाइन सिमिलरिटी थ्रेशोल्ड $\eta$ से अधिक है), CAPA मानक डेंस FFN को एक हल्के हादामर्ड प्रोडक्ट (Hadamard product) से बदल देता है।

एप्रोक्सिमेशन: रेसिडुअल ब्लॉक $y^{(l)} = x^{(l)} + \text{FFN}(x^{(l)})$ को $\hat{y}^{(l)} = x^{(l)} \odot \alpha$ के रूप में एप्रोक्सिमेट किया जाता है, जहाँ $\alpha$ एक सीखा हुआ एलिमेंट-वाइज स्केलिंग वेक्टर है।
कॉम्प्लेक्सिटी रिडक्शन: यह लेयर की कम्प्यूटेशनल कॉम्प्लेक्सिटी को $O(d^2)$ से घटाकर $O(d)$ कर देता है।
ऑप्टिमाइजेशन: अनुकूलतम स्केलिंग वेक्टर $\alpha$ को एक कैलिब्रेशन सेट पर ऑर्डिनरी लीस्ट स्क्वायर्स (OLS) समाधान का उपयोग करके विश्लेषणात्मक रूप से प्राप्त किया जाता है, जिससे इटरेटिव ग्रेडिएंट डिसेंट से बचा जा सकता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

फ्रेमवर्क का मूल्यांकन तीन LVLM बैकबोन (LLaVA-1.5-7B, Qwen2.5-VL-7B, InternVL3-8B) और छह बेंचमार्क (VQAv2, MMBench, MMVet, TextVQA, SEED-Bench, MMMU) पर किया गया।

बेसलाइन्स के विरुद्ध प्रदर्शन (Performance vs. Baselines): CAPA ने सभी बेंचमार्क पर मौजूदा प्रूनिंग बेसलाइन्स (FastV, Feather, Uniform pruning) को लगातार पछाड़ दिया। विशेष रूप से, महत्वपूर्ण "ट्रांजिशन लेयर्स" पर, जहाँ प्रूनिंग सबसे संवेदनशील होती है, CAPA ने अनप्रून्ड वैनिला मॉडल के करीब प्रदर्शन बनाए रखा, जबकि बेसलाइन्स में महत्वपूर्ण गिरावट देखी गई।
रोबस्टनेस (Robustness): CAPA ने उच्च स्पर्सिटी स्तरों पर बेहतर रोबस्टनेस प्रदर्शित की। जहाँ बेसलाइन्स 50% प्रूनिंग के बाद प्रदर्शन में भारी गिरावट का अनुभव करते हैं, वहीं CAPA ने 75% प्रellening पर भी वैनिला के करीब सटीकता बनाए रखी।
दक्षता लाभ (Efficiency Gains):
- टोकन प्रूनिंग: सीक्वेंस लेंथ से जुड़ी क्वाड्रेटिक लागत (quadratic cost) को कम किया।
- FFN एप्रोक्सिमेशन: रेडंडेंट लेयर्स में डोमिनेंट $O(d^2)$ लागत को समाप्त किया।
- कुल प्रभाव: संयुक्त दृष्टिकोण ने टास्क परफॉरमेंस को बनाए रखते हुए कुल FLOPs में 78% की कमी हासिल की।
एब्लेशन स्टडीज (Ablation Studies):
- लॉगिट डायवर्जेंस (Logit Divergence): अटेंशन स्कोर-आधारित प्रूनिंग की तुलना में, अटेंशन कंट्रीब्यूशन पर आधारित प्रूनिंग ने कम हेलिंगर डिस्टेंस (वैनिला मॉडल के आउटपुट डिस्ट्रीब्यूशन के करीब) दिखाया, विशेष रूप से लॉन्ग-फॉर्म जनरेशन में।
- FFN रिप्लेसमेंट: केवल FFN लेयर्स को छोड़ने से प्रदर्शन में गिरावट आई, लेकिन उन्हें हाडमर्ड प्रोडक्ट के साथ बदलने से अधिकांश खोए हुए प्रदर्शन को सफलतापूर्वक रिकवर किया गया, जो लीनियरिटी हाइपोथेसिस की पुष्टि करता है।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि CAPA विजुअल टोकन्स के व्यवहार (अटेंशन मैकेनिज्म और FFN प्रोसेसिंग दोनों में) को पहचानकर LVLM ऑप्टिमाइजेशन के एक महत्वपूर्ण अंतर को संबोधित करता है।

प्रूनिंग प्रतिमान में बदलाव (Shift in Pruning Paradigm): लेखक तर्क देते हैं कि टोकन चयन के लिए अटेंशन स्कोर पर्याप्त नहीं हैं। अटेंशन कंट्रीब्यूशन पेश करके, वे यह पहचानने के लिए एक अधिक विश्वसनीय सिग्नल प्रदान करते हैं कि कौन से विजुअल टोकन्स कार्यात्मक रूप से आवश्यक हैं।
मोडैलिटी-विशिष्ट ऑप्टिमाइजेशन (Modality-Specific Optimization): यह कार्य इस बात पर प्रकाश डालता है कि LVLMs में दक्षता लाभ के लिए विजुअल और टेक्स्ट मोडैलिटीज के लिए अलग-अलग रणनीतियों की आवश्यकता होती है। विशेष रूप से, विजुअल FFNs में लीनियर रेडंडेंसी की पहचान से आर्किटेक्चरल सरलीकरण संभव होता है जो टेक्स्ट प्रोसेसिंग पर लागू नहीं होता है।
एफिशिएंसी-परफॉरमेंस ट्रेड-ऑफ (Efficiency-Performance Trade-off): CAPA एक अनुकूल ट्रेड-ऑफ प्राप्त करता है, जो टास्क परफॉरमेंस या मॉडल रोबस्टनेस से समझौता किए बिना पर्याप्त अनुमान त्वरण (78% FLOP रिडक्शन) प्रदान करता है, और मौजूदा टोकन-प्रूनिंग-ओनली बेसलाइन्स से बेहतर प्रदर्शन करता है।

6. सीमाएं (Limitations)

लेखक स्वीकार करते हैं कि CAPA एक पोस्ट-हॉक (post-hoc) रणनीति है जो फिक्स्ड, प्री-ट्रेंड बैकबोन पर काम करती है। फलस्वरूप, यह जॉइंटली लर्न (jointly learned) टोकन सिलेक्शन और मॉडल कंप्यूटेशन के लाभों का पूरी तरह से लाभ नहीं उठा सकती है। भविष्य के कार्य निम्नलिखित दिशाओं में सुझाए गए हैं:

एडेप्टिव टोकन रिटेंशन के लिए लर्नड कंट्रोलर्स (learned controllers) को डिजाइन करना।
विजुअल टोकन्स के लिए विशेष रूप से तैयार किए गए नेटिव, कुशल FFN मॉड्यूल के साथ विजन-लैंग्वेज बैकबोन विकसित करना।
विविध डिस्ट्रीब्यूशन शिफ्ट्स के माध्यम से इन रणनीतियों का मूल्यांकन करना और लर्न की गई पॉलिसीज की व्याख्यात्मकता (interpretability) की जांच करना।