💻 computer science

The Attribution Impossibility: No Feature Ranking Is Faithful, Stable, and Complete Under Collinearity

यह शोध पत्र सिद्ध करता है कि फीचर कोलीनियैरिटी (feature collinearity) के तहत कोई भी फीचर रैंकिंग विधि एक साथ फथफुलनेस (faithfulness), स्टेबिलिटी (stability) और कम्प्लीटनेस (completeness) प्राप्त नहीं कर सकती, जो परिणामी डिज़ाइन स्पेस को अस्थिर फथफुल विधियों और DASH जैसे स्थिर एन्सेम्बल दृष्टिकोणों के बीच एक सख्त द्विभाजन के रूप में अभिलक्षणित करता है, और सभी निष्कर्षों को Lean 4 में यांत्रिक रूप से सत्यापित किया गया है।

मूल लेखक: Drake Caraker, Bryan Arnold, David Rhoads

प्रकाशित 2026-05-22

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Drake Caraker, Bryan Arnold, David Rhoads

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "The Attribution Impossibility" पेपर का सरल भाषा, उपमाओं और रूपकों के साथ विवरण दिया गया है।

मुख्य समस्या: AI स्पष्टीकरणों का "सिक्का उछालना" (Coin Flip)

कल्पना कीजिए कि आपके पास एक मशीन लर्निंग मॉडल (एक AI) है जो यह भविष्यवाणी करता है कि ऋण (loan) लेने वाला व्यक्ति अपना पैसा वापस चुकाएगा या नहीं। आप जानना चाहते हैं कि AI ने वह निर्णय क्यों लिया। आप उससे पूछते हैं: "कौन सा फीचर सबसे महत्वपूर्ण था? क्या वह उनकी आय (Income) थी या उनका ऋण-से-आय अनुपात (Debt-to-Income Ratio)?"

वास्तविक दुनिया में, ये दोनों संख्याएँ अक्सर अत्यधिक सह-संबंधित (correlated) होती हैं (यदि आपकी आय अधिक है, तो आपकी ऋण सीमा भी अधिक हो सकती है)। यह पेपर तर्क देता है कि जब फीचर्स सह-संबंधित होते हैं, तो AI से एक "विजेता" चुनने के लिए कहना एक रेफरी से सिक्के के उछाल (coin flip) का निर्णय लेने के लिए कहने जैसा है।

बड़ी खोज:
लेखक गणितीय रूप से सिद्ध करते हैं कि कोई भी एकल AI मॉडल आपको ऐसा स्पष्टीकरण नहीं दे सकता जो एक साथ:

वफादार (Faithful) हो: यह सटीक रूप से दर्शाता है कि उस विशिष्ट मॉडल ने क्या सीखा।
स्थिर (Stable) हो: जब आप मॉडल को फिर से प्रशिक्षित (retrain) करते हैं, तो यह हर बार समान उत्तर दे।
पूर्ण (Complete) हो: यह एक रैंकिंग देने के लिए मजबूर करता है (जैसे "आय #1 है, ऋण #2 है") भले ही डेटा स्पष्ट विजेता का समर्थन न करता हो।

पेंच (The Catch): आप केवल दो ही चुन सकते हैं।

यदि आप चाहते हैं कि स्पष्टीकरण वफादार (Faithful) और पूर्ण (Complete) हो (एक विजेता चुने), तो वह स्थिर (Stable) नहीं होगा। यदि आप मॉडल को थोड़े अलग रैंडम सीड (random seed) के साथ फिर से प्रशिक्षित करते हैं, तो AI अचानक यह तय कर सकता है कि "ऋण #1 है" और "आय #2 है।" यह एक सिक्का उछालने जैसा है।
यदि आप चाहते हैं कि स्पष्टीकरण स्थिर (Stable) हो (हमेशा एक जैसा रहे), तो आपको यह स्वीकार करना होगा कि आप विजेता को नहीं जानते। आपको कहना होगा, "आय और ऋण बराबर (tie) हैं।" यह पूर्णता (Completeness) का त्याग करता है (आप रैंकिंग थोप नहीं सकते)।

"राशोमोन" प्रभाव (The Rashomon Effect): कई सत्य, एक कहानी

यह पेपर राशोमोन प्रॉपर्टी (Rashomon Property) की अवधारणा का उपयोग करता है (जिसका नाम एक प्रसिद्ध फिल्म से लिया गया है जहाँ चार लोग एक ही अपराध के अलग-अलग संस्करण बताते हैं)।

AI में, जब फीचर्स सह-संबंधित होते हैं, तो केवल एक "सर्वश्रेष्ठ" मॉडल नहीं होता। हजारों लगभग पूर्ण मॉडल मौजूद होते हैं जो भविष्य की समान रूप से अच्छी भविष्यवाणी करते हैं। हालाँकि, वे इस बात पर असहमत होते हैं कि वे वहाँ कैसे पहुँचे।

मॉडल A कहता है: "मैंने निर्णय लेने के लिए आय का उपयोग किया।"
मॉडल B कहता है: "नहीं, मैंने ऋण का उपयोग किया।"

दोनों मॉडल ऋण के परिणाम की भविष्यवाणी करने में समान रूप से अच्छे हैं। लेकिन क्योंकि वे असहमत हैं, इसलिए आपको मिलने वाला कोई भी एकल स्पष्टीकरण केवल एक विशिष्ट मॉडल की "राय" का एक स्नैपशॉट है। यदि आप मॉडल को फिर से प्रशिक्षित करते हैं, तो आपको मॉडल A की राय के बजाय मॉडल B की राय मिल सकती है।

समाधान: "डैश" एन्सेम्बल (The Dash Ensemble)

चूंकि आप एक एकल मॉडल की रैंकिंग पर भरोसा नहीं कर सकते, इसलिए लेखक Dash (Diversified Aggregation of SHAP) नामक समाधान प्रस्तावित करते हैं।

उपमा: जूरी (The Jury)
कल्पना कीजिए कि आप यह तय करने की कोशिश कर रहे हैं कि एक स्पोर्ट्स टीम का सबसे अच्छा खिलाड़ी कौन है, लेकिन आँकड़े भ्रमित करने वाले हैं।

एकल मॉडल दृष्टिकोण (Single Model Approach): आप एक कोच से पूछते हैं। वह कहता है, "खिलाड़ी A सबसे अच्छा है।" आप कल फिर उससे पूछते हैं (रिट्रेनिंग), और वह कहता है, "खिलाड़ी B सबसे अच्छा है।" आप भ्रमित हैं।
डैश दृष्टिकोण (Dash Approach): आप 25 अलग-अलग कोचों (मॉडल्स का एक एन्सेम्बल) से पूछते हैं और उनके विचारों का औसत लेते हैं।
- यदि कोच खिलाड़ी A और खिलाड़ी B के बीच 50/50 विभाजित हैं, तो औसत परिणाम एक टाई (Tie/बराबरी) है।
- डैश विधि कहती है: "हम खिलाड़ी A और खिलाड़ी B के बीच अंतर नहीं कर सकते। वे समान रूप से महत्वपूर्ण हैं।"

यह बेहतर क्यों है:

ईमानदारी: यह स्वीकार करता है कि डेटा संदिग्ध है। एक विजेता चुनने के बजाय जो हर दिन बदल जाता है, यह एक 'टाई' की रिपोर्ट करता है।
स्थिरता (Stability): यदि आप 25 कोचों से फिर से पूछते हैं, तो वे अभी भी "टाई" ही कहेंगे। उत्तर स्थिर है।
पारेटो इष्टतमता (Pareto Optimality): यह पेपर गणितीय रूप से सिद्ध करता है कि यह तरीका इस ट्रेड-ऑफ को संभालने का सबसे अच्छा तरीका है। आप संदिग्ध फीचर्स के लिए 'टाई' स्वीकार किए बिना एक स्थिर, ईमानदार उत्तर प्राप्त नहीं कर सकते।

अन्य तरीकों के बारे में क्या?

इस पेपर ने कई लोकप्रिय उपकरणों (जैसे SHAP, Lasso, Neural Networks) का परीक्षण किया और पाया कि सह-संबंधित फीचर्स होने पर वे सभी इस समस्या से ग्रस्त हैं।

ग्रेडिएंट बूस्टिंग (जैसे XGBoost): रिट्रेनिंग रन के बीच "विजेता" लगभग 50% बार बदल जाता है।
Lasso: यह एक फीचर को चुनता है और दूसरे को पूरी तरह से अनदेखा कर देता है, लेकिन यह जो भी चुनता है वह रैंडम होता है।
न्यूरल नेटवर्क (Neural Networks): वे ट्री-बेस्ड मॉडल्स की तुलना में और भी अधिक अस्थिर हैं।

पेपर यह भी नोट करता है कि कंडीशनल SHAP (Conditional SHAP) (स्पष्टीकरण उपकरण का एक अधिक जटिल संस्करण) इस समस्या को ठीक नहीं करता है यदि फीचर्स का समान कारण प्रभाव (causal effect) हो। यह अभी भी एक सिक्का उछालने जैसा ही है।

"डिज़ाइन स्पेस" मानचित्र (The Design Space Map)

लेखकों ने AI मॉडल को समझाने के सभी संभावित तरीकों का मानचित्र तैयार किया। उन्होंने पाया कि केवल दो वैध मार्ग हैं:

मार्ग A (एकल मॉडल): आपको एक स्पष्ट रैंकिंग (पूर्णता) मिलती है जो मॉडल से मेल खाती है (वफादारी), लेकिन यह हर बार रिट्रेन करने पर बदल जाती है (अस्थिरता)।
मार्ग B (डैश एन्सेम्बल): आपको एक स्थिर उत्तर मिलता है जो बदलता नहीं है (स्थिरता), लेकिन सह-संबंधित फीचर्स के लिए आपको 'टाई' स्वीकार करना पड़ता है (अपूर्णता)।

कोई मार्ग C नहीं है। आप एक ऐसी रैंकिंग प्राप्त नहीं कर सकते जो हमेशा स्थिर, हमेशा वफादार और हमेशा पूर्ण हो जब फीचर्स सह-संबंधित हों।

वास्तविक दुनिया पर प्रभाव (जैसा कि पेपर में कहा गया है)

पेपर इस बात पर प्रकाश डालता है कि यह केवल एक गणित की समस्या नहीं है; यह एक व्यावहारिक वास्तविकता है।

व्यापकता (Prevalence): 77 सार्वजनिक डेटासेट्स के सर्वेक्षण में, 68% ने इस अस्थिरता को दिखाया। यह स्वास्थ्य सेवा, वित्त और सामान्य डेटा में होता है।
नियामक जोखिम (Regulatory Risk): यदि कोई बैंक ऋण देने से मना करने के लिए AI का उपयोग करता है, और ऋण देने का कारण केवल इसलिए बदल जाता है क्योंकि उन्होंने एक अलग रैंडम सीड के साथ मॉडल को फिर से प्रशिक्षित किया था, तो यह एक अनुपालन जोखिम (compliance risk) है। पेपर सुझाव देता है कि EU AI Act जैसे नियमों के तहत, कंपनियों को यह खुलासा करना चाहिए कि उनके फीचर रैंकिंग अस्थिर हैं।
समाधान: पेपर Dash विधि (25 मॉडल्स का औसत लेना) का उपयोग करने की सिफारिश करता है ताकि एक स्थिर, ईमानदार स्पष्टीकरण प्राप्त किया जा सके जो जहाँ आवश्यक हो वहाँ 'टाई' की रिपोर्ट करे।

एक वाक्य में सारांश

जब AI फीचर्स सह-संबंधित होते हैं, तो एक एकल मॉडल को उन्हें रैंक करने के लिए कहना एक सिक्के से विजेता तय करने के लिए कहने जैसा है; एकमात्र ईमानदार और स्थिर उत्तर यह स्वीकार करना है कि सिक्का निष्पक्ष है और एक 'टाई' (बराबरी) की रिपोर्ट करना है।

तकनीकी सारांश: एट्रिब्यूशन इम्पॉसिबिलिटी (Attribution Impossibility)

1. समस्या विवरण (Problem Statement)

यह शोध पत्र 'एक्सप्लेनेबल एआई' (XAI) की एक मौलिक सीमा को संबोधित करता है: जब इनपुट फीचर्स कोलीनियर (collinear) होते हैं, तो फीचर महत्व रैंकिंग (feature importance rankings) की विश्वसनीयता। जबकि SHAP (SHapley Additive exPlanations) जैसे तरीकों का उपयोग मॉडल भविष्यवाणियों की व्याख्या करने के लिए व्यापक रूप से किया जाता है, लेखक यह प्रदर्शित करते हैं कि कोलीनियर फीचर्स के लिए, महत्व की रैंकिंग मॉडल-डेटा संबंध का एक स्थिर गुण नहीं है, बल्कि प्रशिक्षण प्रक्रिया का एक स्टोकेस्टिक आर्टिफैक्ट (stochastic artifact) है।

विशेष रूप से, यह शोध पत्र इस बात की जांच करता है कि क्या एक फीचर रैंकिंग एक साथ तीन वांछनीय गुणों (desiderata) को संतुष्ट कर सकती है:

वफादार (Faithful): रैंकिंग व्यक्तिगत मॉडल इंस्टेंस द्वारा सीखे गए विशिष्ट एट्रिब्यूशन को दर्शाती है।
स्थिर (Stable): रैंकिंग एक ही मॉडल आर्किटेक्चर पर एक ही डेटा के विभिन्न प्रशिक्षण रन (जैसे, अलग-अलग रैंडम सीड्स) में पुनरुत्पादक (reproducible) है।
पूर्ण (Complete): रैंकिंग प्रत्येक फीचर के जोड़े के लिए एक सख्त क्रम प्रदान करती है (कोई टाई नहीं)।

केंद्रीय थीसिस यह है कि कोलीनियरिटी (सहसंबंध $\rho > 0$ ) की स्थिति में, इन तीनों शर्तों को एक साथ संतुष्ट करना गणितीय रूप से असंभव है।

2. कार्यप्रणाली और सैद्धांतिक ढांचा (Methodology and Theoretical Framework)

राशोमन प्रॉपर्टी और इम्पॉसिबिलिटी थ्योरम (The Rashomon Property and Impossibility Theorem)

मुख्य सैद्धांतिक योगदान एट्रिब्यूशन इम्पॉसिबिलिटी थ्योरम (थ्योरम 5) है। इसका प्रमाण राशोमन प्रॉपर्टी पर आधारित है, जो यह प्रतिपादित करती है कि कोलीनियर फीचर्स के लिए, कई निकट-इष्टतम मॉडल (राशोमन सेट) मौजूद होते हैं जो सममित (symmetric) फीचर्स को विपरीत क्रमों में रैंक करते हैं।

प्रमाण तर्क (Proof Logic): यदि एक रैंकिंग पूर्ण (complete) है, तो उसे एक क्रम चुनना होगा (जैसे, $j \succ k$ )। यदि यह स्थिर (stable) है, तो यह क्रम सभी मॉडलों के लिए बना रहना चाहिए। हालांकि, राशोमन प्रॉपर्टी यह गारंटी देती है कि एक ऐसा मॉडल मौजूद है जहाँ $k \succ j$ है। अतः, रैंकिंग उस विशिष्ट मॉडल के प्रति वफादार और सेट के प्रति स्थिर दोनों नहीं हो सकती।
मात्रात्मक सीमाएं (Quantitative Bounds): शोध पत्र विभिन्न मॉडल वर्गों के लिए इस अस्थिरता की गंभीरता पर मात्रात्मक सीमाएं निर्धारित करता है:
- ग्रेडिएंट बूस्टिंग (GBDT): एट्रिब्यूशन अनुपात ("फर्स्ट-मूवर" फीचर का प्रभुत्व) $1/(1-\rho^2)$ (या डेप्थ करेक्शन के साथ $1/(1-\alpha\rho^2)$ ) के रूप में विचलन करता है।
- लसो (Lasso): किसी भी $\rho > 0$ के लिए अनुपात अनंत ( $\infty$ ) है क्योंकि यह हार्ड सिलेक्शन करता है।
- न्यूरल नेटवर्क: अस्थिरता इनिशियलाइजेशन और ट्रेनिंग डायनेमिक्स पर निर्भर करती, लेकिन यह समान सिमेट्री-ब्रेकिंग पैटर्न का पालन करती है।
- रैंडम फॉरेस्ट: स्वतंत्र ट्री ट्रेनिंग के कारण सीमित उल्लंघन ( $1 + O(1/\sqrt{T})$ ) दिखाता है, जो अनुक्रमिक बूस्टिंग (sequential boosting) की विचलन वाली अस्थिरता के विपरीत है।

सिमेट्रिक बेयस डाइकोटॉमी (The Symmetric Bayes Dichotomy)

लेखक इस परिणाम को सिमेट्रिक बेयस डाइकोटॉमी (थ्योरम 37) का उपयोग करके सामान्यीकृत करते हैं, जो इनवेरिएंट डिसीजन थ्योरी का एक टू-फैमिलीज थ्योरम है। वे दिखाते हैं कि किसी भी सममित निर्णय समस्या (जहाँ डेटा वितरण फीचर परम्यूटेशन के तहत इनवेरिएंट है) के लिए, प्राप्त समाधानों का सेट ठीक दो परिवारों में सिमट जाता है:

परिवार A (सिंगल-मॉडल): वफादार और पूर्ण, लेकिन अस्थिर (सममित जोड़ों के लिए अनफेथफुलनेस $U = 1/2$ )।
परिवार B (एनसेम्बल): स्थिर और जनसंख्या माध्य (population mean) के प्रति वफादार, लेकिन अपूर्ण (सममित फीचर्स के लिए टाई रिपोर्ट करता है, $U=0$ )।
यहाँ तीसरा विकल्प मौजूद नहीं है।

रचनात्मक समाधान: DASH

इस असंभवता को हल करने के लिए, शोध पत्र DASH (Diversified Aggregation of SHAP) प्रस्तावित करता है। यह एक एनसेम्बल विधि है जो $M$ स्वतंत्र रूप से प्रशिक्षित मॉडलों के बीच SHAP वैल्यूज का औसत निकालती है।

तंत्र (Mechanism): औसत निकालकर, DASH व्यक्तिगत मॉडलों में निहित यादृच्छिक "फर्स्ट-मूवर" पूर्वाग्रह को समाप्त कर देता है, जिससे यह जनसंख्या के अपेक्षित मान (population expectation) की ओर अभिसरित होता है।
इष्टतमता (Optimality):ity: DASH को अनबायस्ड एग्रीगेशन के बीच पारेटो-ऑप्टिमल (Pareto-optimal) सिद्ध किया गया है। यह रैंकिंग स्थिरता के लिए क्रैमर-राओ वेरिएंस बाउंड ( $\sigma^2/M$ ) प्राप्त करता है।
समझौता (Trade-off): DASH विथ-ग्रुप पूर्णता (यह सममित फीचर्स के लिए टाई रिपोर्ट करता है) का त्याग करता है ताकि बिटवीन-ग्रूप वफादारी और स्थिरता प्राप्त की जा सके।

औपचारिक सत्यापन (Formal Verification)

कार्यप्रणाली का एक महत्वपूर्ण हिस्सा Lean 4 का उपयोग करके मैकेनिकल वेरिफिकेशन है।

लेखकों ने पूरे सैद्धांतिक ढांचे को औपचारिक रूप दिया, जिसमें इम्पॉसिबिलिटी थ्योरम, मात्रात्मक सीमाएं और DASH इष्टतमता का प्रमाण शामिल है।
औपचारिकता में 54 फाइलों में 305 टाइप-चेक्ड थ्योरम शामिल हैं जिनमें 0 sorry (कोई अप्रमाणित धारणा नहीं) है।
इस प्रक्रिया में 16 एक्सिओम्स (14 डोमेन-विशिष्ट, 2 क्वेरी कॉम्प्लेक्सिटी के लिए) शामिल थे। विशेष रूप से, मुख्य इम्पॉसिबिलिटी थ्योरम के लिए शून्य व्यवहार संबंधी एक्सिओम्स की आवश्यकता थी, जो पूरी तरह से राशोमन प्रॉपर्टी पर निर्भर था।
औपचारिकता प्रक्रिया ने मूल अनौपचारिक एक्सिओम सिस्टम में दो तार्किक विसंगतियों और एक टाइप मिसमैच की पहचान की।

3. मुख्य परिणाम और अनुभवजन्य सत्यापन (Key Results and Empirical Validation)

अनुभवजन्य निष्कर्ष (Empirical Findings)

शोध पत्र 77 सार्वजनिक डेटासेट और कई मॉडल कार्यान्वयन (XGBoost, LightGBM, CatBoost, Neural Networks) पर सिद्धांत को सत्यापित करता है।

व्यापकता (Prevalence): 77 डेटासेट के सर्वेक्षण में, कोलीनियर फीचर जोड़ों के लिए 68% ने एट्रिब्यूशन अस्थिरता (फ्लिप रेट > 10%) प्रदर्शित की। उच्च-आयामी डेटासेट ( $P \ge 20$ ) के लिए, यह दर बढ़कर 93% हो जाती है।
फ्लिप रेट (Flip Rates): समान महत्व वाले अत्यधिक सहसंबद्ध जोड़ों ( $\rho \approx 0.9$ ) के लिए, रिट्रेनिंग सीड्स के माध्यम से फ्लिप रेट सैद्धांतिक अधिकतम (एक कॉइन फ्लिप) के करीब पहुँच जाता है।
DASH प्रभावकारिता: $M \ge 25$ मॉडलों के साथ एनसेम्बल एवरेजिंग फ्लिप रेट को 1% से नीचे ला देती है, जिससे अस्थिरता प्रभावी रूप से हल हो जाती है।
डायग्नोस्टिक्स: शोध पत्र अस्थिर जोड़ों का पता लगाने के लिए एक मल्टी-मॉडल Z-टेस्ट और एक सिंगल-मॉडल स्क्रीन (स्प्लिट फ्रीक्वेंसी पर आधारित) पेश करता है। Z-टेस्ट देखे गए फ्लिप रेट के साथ एक मजबूत नकारात्मक सहसंबंध ( $r \approx -0.89$ ) दिखाता है।

विशिष्ट मॉडल क्लास व्यवहार (Specific Model Class Behaviors)

GBDT: विचलन वाली अस्थिरता दिखाता है। "फर्स्ट-मूवर" फीचर सिग्नल को सोख लेता है, जिससे अन्य फीचर्स के लिए अवशेष सिग्नल बच जाता है, जिससे एक बड़ा एट्रिब्यूशन गैप बनता है जो इस आधार पर बदल जाता है कि कौन सा फीचर पहले चुना गया था।
Lasso: अत्यधिक अस्थिरता प्रदर्शित करता है क्योंकि यह सहसंबद्ध समूह से ठीक एक फीचर चुनता है।
न्यूरल नेटवर्क: उच्च अस्थिरता दिखाते हैं (ब्रेस्ट कैंसर डेटा पर 87% जोड़े अस्थिर हैं), जो बड़े राशोमन सेट और KernelSHAP वेरिएंस द्वारा संचालित है।
रैंडम फॉरेस्ट: अनुक्रमिक अवशेष साझाकरण (sequential residual sharing) की कमी के कारण काफी कम अस्थिरता दिखाते हैं।

विस्तार (Extensions)

कंडीशनल एट्रिब्यूशन: शोध पत्र सिद्ध करता है कि यदि फीचर्स के कारण प्रभाव (causal effects) समान हैं ( $\beta_j = \beta_k$ ), तो कंडीशनल SHAP पर स्विच करने से भी इम्पॉसिबिलिटी से बचा नहीं जा सकता।
फेयरनेस ऑडिट: लेखक प्रदर्शित करते हैं कि कोलीनियरिटी के तहत सिंगल-मॉडल SHAP पर आधारित प्रॉक्सी भेदभाव ऑडिट (proxy discrimination audits) प्रमाणतः अविश्वसनीय हैं, क्योंकि निष्कर्ष (कौन सा फीचर प्रॉक्सी है) एक कॉइन फ्लिप की तरह है।
कॉज़ल आइडेंटिफिकेशन: अस्थिरता को कोलीनियरिटी के तहत कॉज़ल आइडेंटिफिकेशन की कठिनाई को दर्शाती है, जहाँ सैंपल कॉम्प्लेक्सिटी $1/(1-\rho)^2$ के रूप में विचलन करती है।

4. महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह एक्सप्लेनेबल एआई में पहला औपचारिक रूप से सत्यापित इम्पॉसिबिलिटी परिणाम प्रदान करता है। इसका महत्व तीन आयामों में है:

गणितीय अनिवार्यता (Mathematical Necessity): अस्थिरता कोई इंजीनियरिंग विफलता (जैसे, खराब हाइपरपैरामीटर या बग) नहीं है, बल्कि लॉस लैंडस्केप और राशोमन सेट की ज्यामिति से उत्पन्न एक गणितीय अनिवार्यता है। शोध पत्र इस समस्या को "SHAP को कैसे ठीक करें" से बदलकर "बाधाओं को देखते हुए क्या प्राप्त किया जा सकता है" के रूप में पुनर्परिभाषित करता है।
डिज़ाइन स्पेस लक्षण वर्णन (Design Space Characterization): एट्रिब्यूशन डिज़ाइन स्पेस को परिभाषित करके, शोध पत्र यह स्थापित करता है कि अभ्यासकर्ताओं को स्थिरता और पूर्णता के बीच चयन करना होगा। ऐसा कोई "फ्री लंच" नहीं है जहाँ एक एकल मॉडल एक स्थिर, वफादार और पूर्ण रैंकिंग प्रदान करे।
नियामक और व्यावहारिक प्रभाव (Regulatory and Practical Impact):
- EU AI Act अनुपालन: शोध पत्र तर्क देता है कि एट्रिब्यूशन अस्थिरता EU AI एक्ट के अनुच्छेद 13(3)(b)(ii) के तहत एक "ज्ञात और अनुमानित परिस्थिति" है। प्रदाताओं को मनमानी रैंकिंग को तथ्य के रूप में प्रस्तुत करने के बजाय इस अस्थिरता का खुलासा करना चाहिए।
- फेयरनेस (Fairness): सहसंबद्ध फीचर्स के लिए सिंगल-मॉडल फेयरनेस ऑडिट को अविश्वसनीय माना जाता है, जो प्रॉक्सी भेदभाव का पता लगाने में गलत सकारात्मक (false positives) या गलत नकारात्मक (false negatives) की ओर ले जा सकता है।
- एक्शनेबल टूलकिट: शोध पत्र एक ठोस वर्कफ़्लो (Screen $\to$ Z-Test $\to$ DASH) और वांछित स्थिरता स्तर प्राप्त करने के लिए न्यूनतम एनसेम्बल आकार ( $M_{min}$ ) के लिए एक सूत्र प्रदान करता है।

लेखक निष्कर्ष निकालते हैं कि क्षेत्र को कोलीनियरिटी की उपस्थिति में स्पष्टीकरणों के लिए "सिंगल-मॉडल प्रतिमान" से दूर हट जाना चाहिए और ईमानदार, स्थिर और रक्षात्मक स्पष्टीकरण प्रदान करने के लिए DASH जैसे एनसेम्बल-आधारित दृष्टिकोणों को अपनाना चाहिए।