🔢 mathematics

When Are AI Explanations Recoverable? Identifiability, Stability, and Transfer from an Inverse-Problem Perspective

यह शोधपत्र एआई (AI) स्पष्टीकरणों को प्रतिलोम समस्याओं (inverse problems) के रूप में प्रतिपादित करके उनकी पुनरुप्राप्ति (recoverability) निर्धारित करने के लिए एक गणितीय ढांचा स्थापित करता है, रैखिक और गैर-रैखिक प्रणालियों के लिए पहचान क्षमता (identifiability) और स्थिरता (stability) की स्थितियों का एक पूर्ण त्रिपदीकरण (trichotomy) व्युत्पन्न करता है, और स्पष्ट सीमाएं प्रदान करता है जो आंतरिक अल्प-निर्धारण (underdetermination) को एल्गोरिद्मिक परिवर्तनशीलता से अलग करती हैं।

मूल लेखक: Chibuike Chiedozie Ibebuchi

प्रकाशित 2026-08-24

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chibuike Chiedozie Ibebuchi

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक मॉडल का मूल्यांकन अक्सर इस बात से किया जाता है कि वह भविष्य की कितनी अच्छी तरह भविष्यवाणी करता है। यदि कोई प्रणाली किसी रोगी के स्वास्थ्य परिणाम या किसी स्टॉक की कीमत का सटीक पूर्वानुमान लगा सकती है, तो हम उसके निर्णय पर भरोसा करने लगते हैं। लेकिन भविष्यवाणी में विश्वास करना, स्पष्टीकरण में विश्वास करने से अलग है। जब कोई मॉडल निर्णय लेता है, तो हम अक्सर जानना चाहते हैं कि क्यों। क्या इसने किसी विशिष्ट लक्षण पर भरोसा किया? क्या इसने एक कारक को दूसरे की तुलना में अधिक महत्व दिया? ये स्पष्टीकरण मशीन के तर्क को प्रकट करने के लिए होते हैं, जो उसके तर्क के भीतर एक खिड़की के रूप में कार्य करते हैं। हालाँकि, एक परेशान करने वाली वास्तविकता मौजूद है: दो अलग-अलग मॉडल हर एक मामले के लिए बिल्कुल एक ही भविष्यवाणी कर सकते हैं, फिर भी ऐसा करने के लिए पूरी तरह से अलग कारण बता सकते हैं। एक विशिष्ट विशेषता को दोष दे सकता है जबकि दूसरा उसे पूरी तरह से अनदेखा कर सकता है, भले ही दोनों सही उत्तर तक पहुँचते हों। यह एक मौलिक पहेली पैदा करता है: यदि दृश्य व्यवहार समान है, तो हम कभी भी कैसे सुनिश्चित हो सकते हैं कि कौन सा स्पष्टीकरण सत्य है?

यह प्रश्न एक नए अध्ययन के केंद्र में है जो एआई (AI) स्पष्टीकरणों की खोज को बेहतर सॉफ्टवेयर के मामले के रूप में नहीं, बल्कि भौतिकी और ज्यामिति की समस्या के रूप में देखता है। मॉर्गन स्टेट यूनिवर्सिटी के शोधकर्ता चिबुकैके चीदोजी इबेबुची ने इस मुद्दे को एक 'इनवर्स प्रॉब्लम' (inverse problem) के रूप में फ्रेम करके इस पर दृष्टिकोण बनाया। विज्ञान में, एक 'फॉरवर्ड प्रॉब्लम' पूछती है कि क्या होता है जब आप एक बटन दबाते हैं; एक 'इनवर्स प्रॉब्लम' पूछती है कि जो परिणाम आप देखते हैं उसे उत्पन्न करने के लिए मशीन के अंदर क्या हुआ होगा। अध्ययन यह पूछता है कि क्या भविष्यवाणी के "क्या" से उसके "क्यों" को विशिष्ट और स्थिर रूप से पुनः प्राप्त किया जा सकता है। लेखक का निष्कर्ष है कि इसका उत्तर सरल हाँ या ना नहीं है। इसके बजाय, स्पष्टीकरण की पुन: प्राप्ति पूरी तरह से उस डेटा के गणितीय आकार पर निर्भर करती है जिस पर मॉडल को प्रशिक्षित किया गया था। अध्ययन सिद्ध करता है कि कुछ प्रकार के प्रश्नों के लिए, उत्तर आँखों के सामने छिपा होता है, जबकि अन्य के लिए, उत्तर खोजना गणितीय रूप से असंभव है, चाहे आप कितना भी कंप्यूटिंग पावर क्यों न लगा दें।

शोधकर्ता ने स्पष्टीकरण की सीमाओं को मापने का एक सटीक तरीका विकसित किया। उन्होंने एक ऐसी स्थिति की कल्पना की जहाँ दो एआई सिस्टम इतने समान हैं कि उनकी भविष्यवाणियाँ केवल एक मामूली, लगभग अदृश्य मात्रा से भिन्न होती हैं। फिर उन्होंने पूछा: इन दो प्रणालियों के स्पष्टीकरणों में कितना अंतर हो सकता है? यदि भविष्यवाणियाँ लगभग एक जैसी होने पर भी स्पष्टीकरण बहुत अधिक बदल सकते हैं, तो स्पष्टीकरण अस्थिर है। यदि भविष्यवाणियाँ बिल्कुल एक समान होने पर भी स्पष्टीकरण पूरी तरह से अलग हो सकते हैं, तो स्पष्टीकरण अपरिभाषित (unidentifiable) है। अध्ययन इन अवस्थाओं के बीच एक स्पष्ट सीमा स्थापित करता है। यह दर्शाता है कि एक स्पष्टीकरण तभी पुनः प्राप्त किया जा सकता है जब वह डेटा की उन दिशाओं के साथ संरेखित हो जिन्हें मॉडल वास्तव में "देख" सकता है। यदि स्पष्टीकरण उस दिशा पर निर्भर है जिसे मॉडल नहीं देख सकता, तो वह स्पष्टीकरण हमेशा के लिए खो जाता है। यदि स्पष्टीकरण उस दिशा पर निर्भर है जिसे मॉडल देख तो सकता है लेकिन बहुत धुंधले रूप में, तो वह सिद्धांत में तो मौजूद है लेकिन शोर (noise) के प्रति इतना संवेदनशील है कि वह व्यावहारिक रूप से बेकार है।

रैखिक मॉडलों (linear models) के विशिष्ट मामले में, जो कई सांख्यिकीय अनुप्रयोगों में सामान्य हैं, लेखक ने इस अनिश्चितता के लिए एक पैमाना (ruler) के रूप में एक सटीक सूत्र निकाला है। यह सूत्र स्पष्टीकरण की स्थिरता को सीधे डेटा के संबंधों की ज्यामिति से जोड़ता है। जब डेटा की विशेषताएं अत्यधिक सह-संबंधित होती हैं, जिसे कोलिनेैरिटी (collinearity) कहा जाता है, तो यह पैमाना दिखाता है कि स्पष्टीकरण तेजी से अस्थिर होते जाते हैं। अध्ययन प्रदर्शित करता है कि जैसे-जैसे डेटा बिंदुओं के बीच सहसंबंध बढ़ता है, स्पष्टीकरण की अनिश्चितता भी बढ़ती जाती है, और यदि सहसंबंध पूर्ण हो जाए तो यह अनंत हो जाती है। शोधकर्ता ने इस सिद्धांत का परीक्षण कंप्यूटर सिमुलेशन के साथ किया। उन्होंने ऐसे परिदृश्य बनाए जहाँ डेटा संबंधों को पूरी तरह से स्पष्ट से लेकर लगभग पहचानना असंभव होने तक बदला गया। हर मामले में, कंप्यूटर का व्यवहार गणितीय भविष्यवाणी के साथ बिल्कुल मेल खाता था। जब डेटा सुव्यवस्थित था, तो स्पष्टीकरण स्थिर थे। जब डेटा अलग-अलग तरीकों से लगभग एक जैसा था, तो स्पष्टीकरण बेतहाशा अलग हो गए, जिससे पुष्टि हुई कि अस्थिरता सॉफ्टवेयर का बग नहीं बल्कि उपलब्ध जानकारी का एक मौलिक गुण है।

अध्ययन ने यह भी पता लगाया कि क्या होता है जब एआई निर्णयों को लेने के लिए अधिक जटिल, गैर-रैखिक (non-linear) नियमों का उपयोग करता है। कोई उम्मीद कर सकता है कि एक अधिक जटिल मॉडल अव्यवस्थित डेटा के कारण होने वाले भ्रम को सुलझा सकता है। हालाँकि, शोधकर्ता ने पाया कि जटिलता खोए हुए स्पष्टीकरण को बचाने में सक्षम नहीं है। यदि जानकारी पहली ही जगह से डेटा में गायब है, तो कोई भी गैर-रैखिक घुमाव उसे वापस नहीं ला सकता। अध्ययन सिद्ध करता है कि यदि कोई स्पष्टीकरण एक छिपे हुए चर (variable) पर निर्भर है जिसे मॉडल देख नहीं सकता, तो एक गैर-रैखिक मॉडल भी इसे पहचानने में विफल रहेगा। स्पष्टीकरण उतना ही अदृश्य बना रहता है जितना कि सरल रैखिक मामले में था। यह निष्कर्ष महत्वपूर्ण है क्योंकि यह इस विचार को खारिज करता है कि अधिक जटिल एल्गोरिदम उन समस्याओं को हल कर सकते हैं जो मौलिक रूप से डेटा द्वारा अपर्याप्त रूप से निर्धारित (underdetermined) हैं।

इसके अलावा, अनुसंधान 'ट्रांसफर' (transfer) के मुद्दे को संबोधित करता है, यह पूछते हुए कि क्या एक स्पष्टीकरण जो एक स्थिति में काम करता है, वह तब भी कायम रहेगा जब डेटा थोड़ा बदल जाता है। लेखक ने पाया कि स्थिरता डेटा में छोटे बदलावों से सुनिश्चित नहीं होती है। यदि अंतर्निहित डेटा वितरण थोड़ा भी बदलता है, तो एक स्पष्टीकरण जो कभी स्थिर था, अचानक पुनः प्राप्त करना असंभव हो सकता है। ऐसा तब होता है जब डेटा का बदलाव समस्या को उस सीमा की ओर धकेल देता है जहाँ सूचना लुप्त हो जाती है। अध्ययन एक विशिष्ट स्थिति, एक "स्पेक्ट्रल मार्जिन" (spectral margin) प्रदान करता है, जिसे यह सुनिश्चित करने के लिए बनाए रखना आवश्यक है कि एक डेटासेट से दूसरे में जाने पर स्पष्टीकरण विश्वसनीय बने रहें। इस मार्जिन के बिना, डेटा में एक सूक्ष्म परिवर्तन भी मॉडल के व्यवहार को समझाने की क्षमता को नष्ट कर सकता है।

कार्य इस बात पर निष्कर्ष निकालता है कि हमें व्याख्यात्मक कृत्रिम बुद्धिमत्ता (explainable AI) के प्रति अपने दृष्टिकोण को कैसे बदलना चाहिए। केवल सबसे अच्छे एल्गोरिदम को खोजने के बजाय, अध्ययन सुझाव देता है कि हमें पहले यह पूछना चाहिए कि क्या स्पष्टीकरण खोजना संभव भी है या नहीं। किसी फीचर एट्रिब्यूशन या संवेदनशीलता स्कोर पर भरोसा करने से पहले, हमें यह निर्धारित करना चाहिए कि क्या उस स्पष्टीकरण को उत्पन्न करने के लिए आवश्यक जानकारी वास्तव में अवलोकन योग्य भविष्यवाणियों में मौजूद है। अध्ययन एल्गोरिदम के चयन के कारण होने वाली परिवर्तनशीलता को डेटा के कारण होने वाली अंतर्निहित अनिश्चितता से अलग करता है। यह जानने के लिए एक गणितीय आधार प्रदान करता है कि कब एक स्पष्टीकरण का दावा साक्ष्य द्वारा समर्थित है और कब वह मौलिक रूप से अपर्याप्त रूप से निर्धारित है। सीमाओं को परिभाषित करके, यह शोध आर्टिफिशियल इंटेलिजेंस में विश्वास बनाने के लिए एक आवश्यक आधार प्रदान करता है, यह सुनिश्चित करता है कि हम एक स्थिर एल्गोरिदम को एक स्थिर सत्य समझने की गलती न करें।

तकनीकी सारांश: AI स्पष्टीकरण कब रिकवरेबल (Recoverable) होते हैं?

समस्या का निरूपण (Problem Formulation)
यह शोध पत्र 'एक्सप्लेनेबल आर्टिफिशियल इंटेलिजेंस' (XAI) में एक मौलिक अंतराल को संबोधित करता है: यह धारणा कि भविष्य कहनेवाला समानता (predictive similarity) से स्पष्टीकरण संबंधी सहमति (explanatory agreement) निहित होती है। लेखक का तर्क है कि विभिन्न मॉडल प्रेक्षित रूप से अविभेद्य भविष्यवाणियां (indistinguishable predictions) दे सकते हैं, जबकि वे सामग्री रूप से भिन्न फीचर एट्रिब्यूशन (feature attributions), संवेदनशीलता (sensitivities), या रैंकिंग का समर्थन कर सकते हैं। केंद्रीय प्रश्न एक 'इनवर्स प्रॉब्लम' के रूप में तैयार किया गया है: एक अवलोकन ऑपरेटर $\mathcal{A}$ (जो दृश्यमान मॉडल व्यवहार का प्रतिनिधित्व करता है) और एक स्पष्टीकरण फलन $\Psi$ (वह मात्रा जिसे रिकवर किया जाना है) दिया गया है, तो किन शर्तों के तहत $\Psi(\theta)$ को $\mathcal{A}(\theta)$ से अद्वितीय और स्थिर रूप से रिकवर किया जा सकता है?

यह अध्ययन तीन अक्सर भ्रमित करने वाली घटनाओं के बीच अंतर करता है:

नॉन-आइडेंटिफिएबिलिटी (Non-identifiability): समान अवलोकनों वाले सिस्टम के बीच स्पष्टीकरण भिन्न होता है।
इल-कंडीशनिंग (Ill-conditioning): स्पष्टीकरण अद्वितीय है लेकिन छोटे अवलोकनात्मक परिवर्तनों के प्रति अनंत रूप से संवेदनशील है।
स्टेबल रिकवरी (Stable recovery): स्पष्टीकरण अद्वितीय रूप से निर्धारित है और अवलोकनों के साथ निरंतर (लिप्सचिट्ज-स्थिरता से) परिवर्तित होता है।

कार्यप्रणाली (Methodology)
यह ढांचा एक स्पष्टीकरण-विशिष्ट आइडेंटिफिएबिलिटी मोडुलस (explanation-specific identifiability modulus), $\omega_{\Psi, \mathcal{A}}(\delta)$ को परिभाषित करता है, जो दो सिस्टमों के बीच स्पष्टीकरण फलन $\Psi$ में अधिकतम संभावित विसंगति को मापता है जिनके अवलोकन $\delta$ की सहनशीलता के भीतर भिन्न होते हैं।

विश्लेषण चार सैद्धांतिक चरणों के माध्यम से आगे बढ़ता है:

लीनियर हिलबर्ट स्पेस थ्योरी (Linear Hilbert Space Theory): इस समस्या को बाउंडेड लीनियर ऑब्जर्वेशन ऑपरेटर्स $A: \mathcal{H} \to \mathcal{Y}$ और लीनियर एक्सप्लेनेशन फंकशन्स $\Psi_a(\theta) = \langle a, \theta \rangle$ का उपयोग करके मॉडल किया गया है। विश्लेषण न्यूल स्पेस (null space) $\ker(A)$ और एडजॉइंट ऑपरेटर के रेंज $\text{Range}(A^*)$ की ज्यामिति पर निर्भर करता है।
फाइनाइट-डायमेंशनल स्पेशलाइजेशन (Finite-Dimensional Specialization): कोवेरिएंस ज्योमेट्री $\Sigma$ वाले लीनियर प्रेडिक्टर्स के लिए, मोडुलस को मूर-पेनरोज प्सूडो-इनवर्स $\Sigma^\dagger$ का उपयोग करके व्युत्पन्न किया जाता है।
नॉन-लीनियर एक्सटेंशन (Nonlinear Extensions): यह सिद्धांत नॉन-लीनियर ऑब्जर्वेशन ऑपरेटर्स $F$ तक विस्तृत है जो एक लीनियर ऑपरेटर $A$ के स्थानीय रूप से बी-लिप्सचिट्ज (bi-Lipschitz) तुलनीय हैं। यह लीनियर काउंटरपार्ट द्वारा स्केल किए गए लीनियर मोडुलस का उपयोग करके नॉन-लीनियर मोडुलस को बांधने की अनुमति देता है।
परटर्बेशन एनालिसिस (Perturbation Analysis): यह अध्ययन जांच करता है कि कोवेरिएंस मैट्रिक्स के सापेक्ष परिवर्तनों का विश्लेषण करके स्पष्टीकरण रिकवरेबिलिटी (recoverability) वितरण परिवर्तन (सोर्स $P$ से टारगेट $Q$ ) के माध्यम से कैसे स्थानांतरित होती है।

प्रमुख परिणाम

रिकवरेबिलिटी का त्रिरिध (The Trichotomy of Recoverability - लीनियर केस):
एक लीनियर स्पष्टीकरण दिशा $a$ के लिए, ठीक तीन में से एक स्थिति लागू होती है:
1. नॉन-आइडेंटिफिएबल (Non-identifiable): यदि $a \notin (\ker A)^\perp$ , तो किसी भी $\delta \geq 0$ के लिए मोडुलस अनंत है। स्पष्टीकरण को रिकवर नहीं किया जा सकता।
2. आइडेंटिफिएबल लेकिन अनंत रूप से अस्थिर (Identifiable but Infinitely Unstable): यदि $a \in (\ker A)^\perp$ लेकिन $a \notin \text{Range}(A^*)$ , तो $\delta=0$ पर मोडुलस शून्य है लेकिन किसी भी $\delta > 0$ के लिए अनंत है। यह शोर रहित सीमा (noiseless limit) में अद्वितीय है लेकिन परिवर्तन (perturbation) के तहत अनरिकवरेबल है।
3. लिप्सचिट्ज-स्टेबल (Lipschitz-Stable): यदि $a \in \text{Range}(A^*)$ , तो मोडुलस $\omega_a(\delta) = \delta \|y_a^\dagger\|$ है, जहाँ $y_a^\dagger$ का $A^*y = a$ का न्यूनतम-नोर्म समाधान है। यह एक सटीक इष्टतम स्थिरता स्थिरांक प्रदान करता है।
फाइनाइट-डायमेंशनल प्सूडो-इनवर्स फॉर्मूला:
फाइनाइट डायमेंशन में, जहाँ $\text{Range}(A^*)$ क्लोज्ड है, मध्यवर्ती अस्थिर स्थिति समाप्त हो जाती है। यदि स्पष्टीकरण दिशा ऑब्जर्वेबल रेंज में है, तो मोडुलस दिया गया है:
$\omega_a(\delta) = \delta \sqrt{a^\top \Sigma^\dagger a}$
यह स्पष्ट रूप से स्पष्टीकरण रिकवरेबिलिटी को कोवेरिएंस ज्योमेट्री से जोड़ता है। नियर-कोलिनियरिटी (छोटे आइजनवैल्यू) इल-कंडीशनिंग (बड़ा मोडुलस) की ओर ले जाती है, जबकि $a$ की दिशा में रैंक डेफिशिएंसी नॉन-आइडेंटिफिएबिलिटी की ओर ले जाती है।
नॉन-लीनियर बाउंड्स (Nonlinear Bounds):
लिंक फंक्शन $g$ वाले जनरलाइज्ड लीनियर मॉडल्स (जैसे लॉजिस्टिक रिग्रेशन) के लिए, जिसके डेरिवेटिव बाउंड्स $m \leq g' \leq M$ हैं, नॉन-लीनियर मोडुलस को लीनियर काउंटरपर्ट द्वारा $1/M$ और $1/m$ से स्केल किए गए लीनियर मोडुलस द्वारा बांधा गया है। महत्वपूर्ण रूप से, नॉन-लिनियरिटी उस आइडेंटिफिएबिलिटी को बहाल नहीं कर सकती जो ऑब्जर्वेशनल न्यूल स्पेस में खो गई है; यदि कोई दिशा लीनियर प्रेडिक्टर में अनऑब्जर्वेबल है, तो वह मोनोटोन ट्रांसफॉर्मेशन के बाद भी अनऑब्जर्वेबल ही रहेगी।
ट्रांसफर सर्टिफिकेट्स (Transfer Certificates):
यह शोध पत्र स्थापित करता है कि स्पष्टीकरण स्थिरता (explanation stability) केवल तभी ट्रांसफर होती है जब कोवेरिएंस ज्योमेट्री का सापेक्ष परिवर्तन स्पेक्ट्रल कोलैप्स से दूर हो। विशेष रूप से, यदि $\|E\|_{op} \leq \rho < 1$ (जहाँ $E$ सापेक्ष परिवर्तन है), तो टारगेट मोडुलस सोर्स मोडुलस के $1/\sqrt{1 \pm \rho}$ कारक के भीतर रहता है। इसके विपरीत, रैंडम कोवेरिएंस परटर्बेशन के तहत सोर्स-टू-टारगेट मोडुलस के अनुपात रैंक-डेफिशिएंट बाउंड्री के पास मौजूद सोर्स सिस्टम के लिए आइडेंटिफिएबिलिटी को नष्ट कर सकते हैं।

संख्यात्मक सत्यापन (Numerical Verification)
चार नियंत्रित प्रयोगों ने सैद्धांतिक भविष्यवाणियों को सत्यापित किया:

स्पेक्ट्रल कंडीशनिंग (Spectral Conditioning): कोवेरिएंस कंडीशन नंबर $1 $से$ 10^6$ तक की रेंज में सटीक लीनियर मोडुलस को फ्लोटिंग-पॉइंट प्रिसिजन के साथ पुनरुत्पादित किया गया।
न्यूल-स्पेस फेल्योर (Null-Space Failure): न्यूल दिशा में विस्थापन के परिणामस्वरूप शून्य प्रेडिक्टिव विसंगति हुई लेकिन डाइवर्जिंग स्पष्टीकरण विसंगति देखी गई, जिससे सटीक नॉन-आइडेंटिफिएबिलिटी की पुष्टि हुई।
नॉन-लीनियर बाउंड्स (Nonlinear Bounds): लॉजिस्टिक मॉडल के संख्यात्मक मोडुलस लीनियर केस से प्राप्त सैद्धांतिक टू-साइडेड बाउंड्स के भीतर ही रहे।
ट्रांसफर एनवेलप (Transfer Envelope): रैंडम कोवेरिएंस परटर्बेशन के तहत सोर्स-टू-टारगेट मोडुलस के सैंपलड रेश्यो, सापेक्ष परिवर्तन प्रमेय द्वारा अनुमानित सैद्धांतिक एनवेलप के भीतर रहे।

महत्व और दावे (Significance and Claims)
यह शोध पत्र दावा करता है कि यह एक निर्दिष्ट स्पष्टीकरण फलन के सापेक्ष एक निर्दिष्ट ऑब्जर्वेशन ऑपरेटर के लिए एक क्वांटिटेटिव इनवर्स-प्रॉब्लम थ्योरी प्रदान करता है। इसका प्राथमिक योगदान कोई नया एट्रिब्यूशन एल्गोरिदम नहीं है, बल्कि यह निर्धारित करने के लिए एक गणितीय ढांचा है कि क्या उपलब्ध प्रेडिक्टिव जानकारी से एक स्पष्टीकरण लक्ष्य (explanatory target) रिकवरेबल है।

लेखक का तर्क है कि यह ढांचा एल्गोरिद्मिक वेरिएबिलिटी (जो स्पष्टीकरण पद्धति के चयन से उत्पन्न होने वाले अंतर हैं) को इंट्रिंसिक इल-कंडीशनिंग और नॉन-आइडेंटिफिएबिलिटी (जो डेटा और मॉडल संरचना द्वारा लगाए गए मौलिक सीमाएं हैं) से अलग करता है। यह कार्य यह प्रतिपादित करता है कि स्पष्टीकरण एल्गोरिदम की तुलना या चयन करने से पहले, शोधकर्ताओं को यह निर्धारित करना चाहिए कि क्या स्पष्टीकरण लक्ष्य दी गई सूचना संरचना के तहत आइडेंटिफिएबल और स्थिर है। यदि लक्ष्य ऑब्जर्वेबल रेंज के बाहर या अस्थिर क्षेत्र में है, तो कोई भी एल्गोरिदम उसे विश्वसनीय रूप से रिकवर नहीं कर सकता, चाहे उसका डिज़ाइन कैसा भी हो।

अध्ययन निष्कर्ष निकालता है कि स्पष्टीकरण की विश्वसनीयता केवल उपयोग किए जाने वाले एल्गोरिदम का गुण नहीं है, बल्कि इसे हल करने वाले इनवर्स प्रॉब्लम का गुण है। यह XAI दावों की विश्वसनीयता को फिर से परिभाषित करता है: वे केवल तभी समर्थित होते हैं जब स्पष्टीकरण योग्य मात्रा (explanatory quantity) उपलब्ध प्रेडिक्टिव व्यवहार से स्थिर रूप से रिकवरेबल हो।

तकनीकी सारांश: AI स्पष्टीकरण कब रिकवरेबल (Recoverable) होते हैं?

इसी तरह के और पेपर