💻 computer science

Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

यह शोध पत्र "Alike Parts" प्रस्तुत करता है, जो एक ऐसा ढांचा (framework) है जो स्थानीय व्याख्यात्मकता (local interpretability) के लिए साझा प्रासंगिक विशेषताओं को उजागर करने और भविष्यवाणी निष्ठा (prediction fidelity) से समझौता किए बिना वैश्विक प्रोटोटाइप चयन में विशेषता विविधता (feature diversity) को बढ़ावा देने के लिए फीचर महत्व स्कोर (feature importance scores) का उपयोग करके प्रोटोटाइप-आधारित स्पष्टीकरणों को बढ़ाता है।

मूल लेखक: Jacek Karolczak, Jerzy Stefanowski

प्रकाशित 2026-05-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jacek Karolczak, Jerzy Stefanowski

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन रहस्यमयी, "ब्लैक बॉक्स" कंप्यूटर है जो निर्णय लेता है—जैसे कि ऋण (loan) को मंजूरी देना, बीमारी का निदान करना, या फलों को छाँटना। आप इस पर भरोसा करते हैं क्योंकि यह सटीक है, लेकिन आप यह नहीं देख सकते कि यह कैसे सोचता है। इसे ठीक करने के लिए, वैज्ञानिक प्रोटोटाइप्स (prototypes) का उपयोग करते हैं।

एक प्रोटोटाइप को एक "प्रतिनिधि उदाहरण" के रूप में सोचें। यदि कंप्यूटर कहता है, "यह सेब पका हुआ है," तो यह अपने प्रशिक्षण डेटा (training data) से एक आदर्श लाल सेब की विशिष्ट फोटो की ओर इशारा कर सकता है और कह सकता है, "मैं ऐसा इसलिए कह रहा हूँ क्योंकि यह बिल्कुल इसकी तरह दिखता है।"

समस्या:
कभी-कभी, पूरे उदाहरण को दिखाना मददगार नहीं होता है। यदि प्रोटोटाइप एक फलों की टोकरी की फोटो है जिसमें 20 अलग-अलग चीजें हैं, या 50 अलग-अलग नंबरों वाला एक मेडिकल रिकॉर्ड है, तो यह बहुत अधिक जानकारी वाला (overwhelming) हो जाता है। आपको पता नहीं चलेगा कि उस विशिष्ट उदाहरण का कौन सा हिस्सा वास्तव में महत्वपूर्ण था। क्या वह रंग था? वजन? या उम्र? कंप्यूटर महत्वपूर्ण सुरागों को डेटा के समुद्र के भीतर छिपा देता है।

समाधान: "अलाइक पार्ट्स" (Alike Parts - समान भाग)

इन प्रोटोटाइप्स को समझाने के लिए लेखक एक नया तरीका प्रस्तावित करते हैं जिसे "अलाइक पार्ट्स" कहा जाता है।

पूरे प्रोटोटाइप को दिखाने के बजाय, उनका तरीका एक हाइलाइटर पेन की तरह काम करता है। यह आपके द्वारा पूछे गए विशिष्ट आइटम (जिसे "इंस्टेंस" कहा जाता है) और उस प्रतिनिधि उदाहरण (प्रोटोटाइप) को देखता है जिससे उसकी तुलना की गई थी। फिर, यह एक विशेष स्कोरिंग सिस्टम का उपयोग करता है ताकि उन साझा विशेषताओं (shared features) को खोजा जा सके जो आपके आइटम और प्रोटोटाइप दोनों में समान हैं और जिन्हें कंप्यूटर निर्णय लेने के लिए सबसे महत्वपूर्ण मानता है।

उपमा (Analogy): कल्पना करें कि आप और आपका एक दोस्त दोनों ने लाल टोपियाँ पहनी हुई हैं। यदि कंप्यूटर तय करता है कि आप "टीम रेड" के सदस्य हैं, तो उसे केवल आपके दोस्त का पूरा पहनावा (जींस, जूते, जैकेट) नहीं दिखाना चाहिए। उसे केवल उन लाल टोपियों को हाइलाइट करना चाहिए जो आप दोनों के पास साझा हैं, क्योंकि वे ही "अलाइक पार्ट्स" हैं जिन्होंने वास्तव में निर्णय को प्रभावित किया।

उन्होंने इसे कैसे किया (दो-चरणीय जादू):

लोकल एक्सप्लेनेशन (हाइलाइटर):
एक एकल निर्णय की व्याख्या करते समय, सिस्टम यह गणना करता है कि कौन सी विशेषताएं आपके आइटम और प्रोटोटाइप दोनों के लिए "महत्वपूर्ण" हैं। इसके बाद, यह एक मास्क बनाता है जो बाकी सब कुछ छिपा देता है, जिससे आपको केवल महत्वपूर्ण, साझा विशेषताएं दिखाई देती हैं। यह आपको अप्रासंगिक विवरणों से विचलित होने से रोकता है।
ग्लोबल एक्सप्लेनेशन (विविध टीम):
आमतौर पर, जब कंप्यूटर पूरे सिस्टम का प्रतिनिधित्व करने के लिए प्रोटोटाइप का एक सेट चुनता है, तो वे केवल उन उदाहरणों को चुनते हैं जो गणितीय रूप से डेटा के सबसे करीब होते हैं। लेखकों ने नियम बदल दिए। उन्होंने कंप्यूटर को बताया: "केवल निकटतम उदाहरण न चुनें; ऐसे उदाहरण चुनें जो महत्वपूर्ण विशेषताओं की एक विविध श्रेणी (diverse range) को कवर करते हों।"
- उपमा: यदि आप किसी जटिल विषय को समझाने के लिए विशेषज्ञों की एक टीम बना रहे हैं, तो आप पाँच ऐसे विशेषज्ञ नहीं चाहते जो बिल्कुल एक जैसी चीज़ जानते हों। आप चाहते हैं कि एक विशेषज्ञ बजट पर हो, एक समयसीमा पर हो, और एक डिज़ाइन पर हो। प्रोटोटाइप का एक "विविध टीम" चुनने के लिए कंप्यूटर को मजबूर करके, वे यह सुनिश्चित करते हैं कि जब आप पूरे सेट को देखें, तो आपको उन कारणों की एक विस्तृत विविधता दिखाई दे जिसकी वजह से निर्णय लिए जाते हैं।

उन्होंने क्या पाया:
शोधकर्ताओं ने छह अलग-अलग डेटासेट्स (जैसे वाइन की गुणवत्ता, मधुमेह का जोखिम, या यात्री संतुष्टि की भविष्यवाणी करना) पर इसका परीक्षण किया।

इससे कंप्यूटर खराब नहीं हुआ: प्रोटोटाइप चुनने के लिए इन नए नियमों को जोड़ने से कंप्यूटर की सटीकता कम नहीं हुई। वास्तव में, कई मामलों में, इस सरल "प्रोटोटाइप" संस्करण वाले कंप्यूटर ने मूल जटिल कंप्यूटर के समान ही प्रदर्शन किया।
इसे बेहतर सुराग मिले: मधुमेह डेटा के एक परीक्षण में, पुराने तरीके ने केवल "ग्लूकोज" के स्तर को हाइलाइट किया। नए "अलाइक पार्ट्स" तरीके ने "आयु" और "पारिवारिक इतिहास" को भी हाइलाइट किया, जो वास्तव में चिकित्सकीय रूप से अधिक प्रासंगिक हैं।
इसने अधिक विविधता दिखाई: नए तरीके ने यह सुनिश्चित किया कि सिस्टम को समझाने के लिए उपयोग किए जाने वाले प्रोटोटाइप का सेट महत्वपूर्ण विशेषताओं के विभिन्न प्रकारों को कवर करता है, न कि बार-बार एक ही तरह के कुछ सुरागों को दोहराता है।

संक्षेप में:
यह पेपर यह बताने का तरीका पेश करता है कि "पूरा उलझा हुआ चित्र" दिखाने के बजाय "विशिष्ट, साझा सुराग" कैसे दिखाए जाएं जो वास्तव में निर्णय के पीछे के कारण थे। यह AI स्पष्टीकरणों को स्पष्ट बनाकर उन्हें "अलाइक पार्ट्स" को हाइलाइट करता है और यह सुनिश्चित करता है कि AI की उदाहरणों की लाइब्रेरी विविध है ताकि वह सटीकता खोए बिना विभिन्न प्रकार के निर्णयों को समझा सके।

तकनीकी सारांश: अलाइक पार्ट्स (ALIKE PARTS): स्थानीय और वैश्विक प्रोटोटाइप स्पष्टीकरणों के लिए एक फीचर-इंफॉर्म्ड दृष्टिकोण

समस्या का विवरण (Problem Statement)
प्रोटोटाइप-आधारित स्पष्टीकरण (Prototype-based explanations), ब्लैक-बॉक्स मशीन लर्निंग क्लासिफायर की व्याख्या करने के लिए एक सहज, उदाहरण-आधारित विधि प्रदान करते हैं, जो भविष्यवाणियों को प्रतिनिधि प्रशिक्षण इंस्टेंस (representative training instances) से जोड़ते हैं। हालाँकि, एक महत्वपूर्ण सीमा मौजूद है: जबकि प्रोटोटाइप एक समग्र दृश्य प्रदान करते हैं, वे अक्सर फीचर-स्तर की सूक्ष्मता (feature-level granularity) की कमी रखते हैं। उपयोगकर्ता यह पहचानने में संघर्ष करते हैं कि एक प्रोटोटाइप के भीतर कौन से विशिष्ट फीचर्स एक भविष्यवाणी के लिए सबसे अधिक प्रासंगिक हैं, जिससे उच्च-आयामी (high-dimensional) टैबुलर डेटा के मामले में संज्ञानात्मक भार (cognitive overload) उत्पन्न होता है। इसके अलावा, वैश्विक प्रोटोटाइप चयन अक्सर स्थानिक वितरण या दूरी न्यूनीकरण (distance minimization) को प्राथमिकता देता है, बिना यह सुनिश्चित किए कि चयनित प्रोटोटाइप के फीचर एट्रिब्यूशन्स (feature attributions) में विविधता है, जिससे महत्वपूर्ण और विविध निर्णय सीमाएं (decision boundaries) छूट सकती हैं।

कार्यप्रणाली (Methodology)
लेखक एक ऐसा ढांचा प्रस्तावित करते हैं जो दो अलग-अलग स्तरों पर फीचर महत्व स्कोर (feature importance scores) को एकीकृत करता है: स्थानीय स्पष्टीकरण परिशोधन (local explanation refinement) और वैश्विक प्रोटोटाइप चयन संवर्धन (global prototype selection augmentation)।

स्थानीय स्पष्टीकरण: "अलाइक पार्ट्स" (Alike Parts)
कागज में "अलाइक पार्ट्स" की पहचान करने की एक विधि पेश की गई है, जिसे वर्गीकृत इंस्टेंस ( $x_i$ ) और उसके निकटतम प्रोटोटाइप ( $p_j$ ) के बीच सबसे प्रासंगिक, साझा फीचर उपसमुच्चयों (feature subsets) के रूप में परिभाषित किया गया है।

प्रक्रिया: मॉडल-एग्नोस्टिक या मॉडल-विशिष्ट एस्टिमेटर्स (जैसे, Tree SHAP, Tree Interpreter) का उपयोग करके इंस्टेंस और प्रोटोटाइप दोनों के लिए फीचर महत्व स्कोर ( $\phi$ ) की गणना की जाती है।
संरेखण (Alignment): विधि एक वेट वेक्टर ( $w$ ) की गणना करती है जो इंस्टेंस और प्रोटोटाइप के बीच महत्व की समानता को दर्शाता है। यह एक समानता ऑपरेटर ( $\circ$ ) के माध्यम से प्राप्त किया जाता है, जैसे कि हैडामार्ड उत्पाद (Hadamard product/element-wise multiplication), एलिमेंट-वाइज $l_1$ , या $l_2$ दूरियां।
मास्किंग (Masking): एक बाइनरी मास्क जनरेट किया जाता है जो उन फीचर्स को उजागर करता है जहाँ महत्व संरेखण (importance alignment) एक थ्रेशोल्ड से अधिक होता है। रणनीतियों में मीन थ्रेशोल्डिंग या एडेप्टिव टॉप- $k$ चयन (जैसे, $k = \lceil\sqrt{d}\rceil$ या $k = \lceil\log(d)\rceil$ ) शामिल हैं।
आउटपुट: यह उपयोगकर्ता का ध्यान संपूर्ण फीचर वेक्टर के बजाय उन सीमित, उच्च-प्रासंगिकता वाले फीचर उपसमुच्चयों की ओर निर्देशित करता है जो इंस्टेंस और प्रोटोटाइप के बीच साझा हैं।

वैश्विक स्पष्टीकरण: संवर्धित उद्देश्य फलन (Augmented Objective Function)
लेखक प्रोटोटाइप चयन के मानक उद्देश्य फलन को सक्रिय रूप से फीचर एट्रिब्यूशन्स में विविधता को बढ़ावा देने के लिए संशोधित करते हैं।

मानक उद्देश्य: पारंपरिक $k$ -medoids दृष्टिकोण प्रशिक्षण इंस्टेंस और उनके निकटतम प्रोटोटाइप के बीच दूरी $d(x_i, p_j)$ को कम करता है।
संवर्धित उद्देश्य: लेखक एक फीचर महत्व पद ( $f_i$ ) को शामिल करते हुए एक नया उद्देश्य फलन पेश करते हैं जो स्थानीय विधि में उपयोग किए गए संरेखण स्कोर से प्राप्त होता है। नया उद्देश्य फलन है:
$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$
यहाँ, $\beta$ मेट्रिक दूरी और फीचर महत्व संरेखण के बीच एक ट्रेड-ऑफ पैरामीटर के रूप में कार्य करता है। यह उन प्रोटोटाइप के चयन को प्रोत्साहित करता है जो न केवल डेटा स्पेस को कवर करते हैं बल्कि विविध फीचर एट्रिब्यूशन्स का भी प्रतिनिधित्व करते हैं।

प्रमुख योगदान (Key Contributions)

अलाइक पार्ट्स की पहचान: एक बाइनरी मास्क जनरेट करने के लिए एक नवीन विधि जो इंस्टेंस और उसके निकटतम प्रोटोटाइप के बीच साझा, उच्च-महत्व वाले फीचर्स को उजागर करती है, जिससे स्थानीय व्याख्यात्मकता (local interpretability) बढ़ती है।
फीचर-विविध प्रोटोटाइप चयन: प्रोटोटाइप जनरेशन एल्गोरिदम (विशेष रूप से G-KM, SM-A, और A-PETE) का एक विस्तार जो फीचर एट्रिब्यूशन में वैश्विक विविधता सुनिश्चित करने के लिए अनुकूलन लूप (optimization loop) में फीचर महत्व को शामिल करता है।
व्यापक मूल्यांकन: अध्ययन कई प्रोटोटाइप जनरेशन एल्गोरिदम के साथ नए मूल्यांकन कार्यों का परीक्षण करता है, फीचर महत्व एल्गोरिदम (Tree SHAP, Tree Interpreter) के एक व्यापक सेट की खोज करता है, और हाइपरपैरामीटर (जैसे, $\beta$ , समानता ऑपरेटर, मास्किंग रणनीतियां) पर व्यापक संवेदनशीलता विश्लेषण (sensitivity analysis) करता है।
मॉडल एग्नोस्टिक (Model Agnosticism): यह ढांचा विभिन्न अंतर्निहित घटकों के साथ संगत होने के लिए डिज़ाइन किया गया है, हालांकि इसके प्रयोग रैंडम फॉरेस्ट एन्सेम्बल्स और ट्री-आधारित दूरी मेट्रिक्स पर केंद्रित हैं।

प्रायोगिक परिणाम (Experimental Results)
प्रयोग रैंडम फॉरेस्ट को ब्लैक-बॉक्स मॉडल के रूप में उपयोग करते हुए छह बेंचमार्क डेटासेट्स (Apple Quality, Australia Rain, Breast Cancer, Diabetes, Passenger Satisfaction, Wine Quality) पर किए गए।

फिडेलिटी (Fidelity): संवर्धित चयन प्रक्रिया ने मूल (रॉ) प्रोटोटाइप चयन की तुलना में सरोगेट 1-नेरेस्ट नेबर (1-NN) मॉडल की भविष्यवाणी फिडेलिटी को बनाए रखा या कई मामलों में बढ़ाया। सांख्यिकीय विश्लेषण (Wilcoxon signed-rank test) ने बेहतर फिडेलिटी ( $p \approx 0.068$ ) और मानक व्याख्यात्मक बेसलाइन्स जैसे Naive Bayes, Logistic Regression, और Decision Trees पर महत्वपूर्ण सुधार ( $p < 0.05$ ) की ओर एक सकारात्मक रुझान दिखाया।
फीचर विविधता (Feature Diversity): FI-इंफॉर्म्ड दृष्टिकोण ने फीचर विविधीकरण वाले प्रोटोटाइप की सफलतापूर्वक पहचान की। उदाहरण के लिए, डायबिटीज डेटासेट में, FI-इंफॉर्म्ड पद्धति ने उन नैदानिक रूप से प्रासंगिक फीचर्स (Age, Diabetes Pedigree Function) को उजागर किया जिन्हें रॉ डिस्टेंस-ओनली विधि मिस कर गई थी।
हाइपरपैरामीटर संवेदनशीलता: हैडामार्ड उत्पाद को सभी डेटासेट्स में सबसे प्रभावी समानता मेट्रिक पाया गया। अध्ययन ने नोट किया कि जबकि कुछ रुझान वैश्विक थे, विशिष्ट डेटासेट्स के लिए विशेष ट्यूनिंग (जैसे, दिशा को अनदेखा करना या नॉर्मलाइजेशन) आवश्यक बनी रही।
एक्टिवेशन फ्रीक्वेंसी (Activation Frequency): फीचर एक्टिवेशन फ्रीक्वेंसी के विश्लेषण ने पुष्टि की कि FI-इंफॉर्म्ड उद्देश्य फीचर उपयोग के वेरिएंस को कम करता है, जिससे अधिक विविध प्रोटोटाइप के सेट का चयन करने के लिए मजबूर किया जाता है।

महत्ता और दावे (Significance and Claims)
यह शोध दावा करता है कि फीचर महत्व को प्रोटोटाइप चयन में एकीकृत करने से मॉडल फिडेलिटी से समझौता नहीं होता है; बल्कि, विविध फीचर एट्रिब्यूशन्स खोजना, दूरी-आधारित कवरेज के पूरक हो सकते हैं। प्राथमिक महत्व उच्च-स्तरीय प्रोटोटाइप उदाहरणों और निम्न-स्तरीय फीचर तर्क के बीच के अंतर को पाटने में निहित है। "अलाइक पार्ट्स" की पहचान करके, यह विधि उपयोगकर्ता का ध्यान साझा किए गए विशिष्ट तर्क की ओर निर्देशित करती है, जो उच्च-आयामी टैबुलर डेटा के लिए व्याख्यात्मकता की चुनौतियों का समाधान करती है। लेखक इस बात पर जोर देते हैं कि यह दृष्टिकोण व्याख्यात्मकता और विविधता के बीच संतुलन बनाता है, जो मॉडल के आंतरिक तर्क में संशोधन की आवश्यकता के बिना स्थानीय स्पष्टीकरण और वैश्विक प्रोटोटाइप चयन दोनों को बढ़ाता है।

लेखक विनम्रतापूर्वक नोट करते हैं कि जबकि उनकी विधि स्पष्टीकरण की गुणवत्ता (प्रॉक्सी मेट्रिक्स जैसे फिडेलिटी और फीचर विविधता के माध्यम से) में सुधार करती है, केंद्रीय परिकल्पना—कि "अलाइक पार्ट्स" वास्तविक उपयोगकर्ता समझ में सुधार करते हैं—के लिए औपचारिक मानव-कंप्यूटर इंटरेक्शन अध्ययनों के माध्यम से भविष्य के सत्यापन की आवश्यकता है। इसके अतिरिक्त, हालांकि वर्तमान कार्यान्वयन ट्री एन्सेम्बल्स पर केंद्रित है, इसका मॉड्यूलर डिज़ाइन दूरी और महत्व अनुमान घटकों को बदलकर अन्य आर्किटेक्चर (जैसे, न्यूरल नेटवर्क) के अनुकूल होने की अनुमति देता है।

इसी तरह के और पेपर