📊 statistics

Explaining Concept Shift with Interpretable Feature Attribution

यह शोध पत्र SGShift प्रस्तुत करता है, जो एक नवीन विधि है जो टैबुलर डेटा में कॉन्सेप्ट शिफ्ट को फीचर सिलेक्शन कार्य के रूप में फ्रेम करती है ताकि व्याख्या योग्य सांख्यिकीय उपकरणों का उपयोग करके विभिन्न डोमेन में मॉडल प्रदर्शन में गिरावट के लिए जिम्मेदार शिफ्टेड फीचर्स के एक स्पार्स सेट की सटीक पहचान की जा सके।

मूल लेखक: Ruiqi Lyu, Alistair Turcan, Bryan Wilder

प्रकाशित 2026-05-29

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ruiqi Lyu, Alistair Turcan, Bryan Wilder

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक शेफ हैं जिसने एक विशिष्ट फार्म के सामग्रियों (जिसे Source Domain कहा जाता है) का उपयोग करके एक स्वादिष्ट सूप की रेसिपी को सिद्ध कर लिया है। आप जानते हैं कि उस फार्म की गाजर और प्याज का स्वाद कैसा होता है, इसलिए आपका सूप हमेशा बेहतरीन बनता है।

अब, कल्पना कीजिए कि आप एक नए शहर में चले जाते हैं और एक अलग फार्म की सामग्रियों का उपयोग करके वही सूप बनाने की कोशिश करते हैं (जिसे Target Domain कहा जाता है)। अचानक, सूप का स्वाद गलत हो जाता है। यह बहुत नमकीन है, या गाजर बहुत सख्त है।

यही वह चीज़ है जो मशीन लर्निंग (ML) मॉडल्स के साथ होती है। उन्हें एक डेटा सेट पर प्रशिक्षित किया जाता है, लेकिन जब वे नए डेटा का सामना करते हैं, तो वे अक्सर विफल हो जाते हैं। कभी-कभी, सामग्रियां थोड़ी बदल जाती हैं (जैसे गाजर का आकार बदल जाना)। लेकिन कभी-कभी, सामग्रियों और उनके स्वाद के बीच का संबंध मौलिक रूप से बदल जाता है। शायद नए शहर में, "तीखा" वास्तव में "मीठा" हो जाता है। इस विशिष्ट समस्या को Concept Shift कहा जाता है।

यह पेपर इस रहस्य को सुलझाने के लिए SGShift नामक एक नया टूल पेश करता है। यह कैसे काम करता है, यहाँ सरल भाषा में समझाया गया है:

समस्या: सूप खराब क्यों है?

जब कोई मॉडल विफल होता है, तो डेवलपर्स को यह जानने की आवश्यकता होती है कि क्यों।

पुराने तरीके अक्सर सामग्रियों को एक-एक करके देखते हैं। "क्या यह गाजर है? क्या यह प्याज है?" लेकिन यह एक अकेले घटक को दोष देने जैसा है जब पूरी रेसिपी का तर्क ही बदल गया हो। यदि सामग्रियां आपस में मिली हुई (correlated) हैं, तो यह भ्रामक हो सकता है।
चुनौती: आपके पास सीधे तुलना करने के लिए "पुराना सूप" और "नया सूप" अगल-बगल में नहीं है। आपके पास केवल रेसिपी और नई सामग्रियां हैं।

समाधान: SGShift (द "रेसिपी फिक्सर")

पूरी रेसिपी को फिर से बनाने की कोशिश करने के बजाय, SGShift एक स्मार्ट 'सू-शेफ' (sous-chef) की तरह कार्य करता है जो आपकी मूल रेसिपी को देखता है और पूछता है: "सामग्रियों की वह छोटी सूची क्या है, जिसे यदि हम थोड़ा बदल दें, तो नया सूप ठीक हो जाएगा?"

लेखकों का मानना है कि आमतौर पर, आपको पूरी रेसिपी बदलने की आवश्यकता नहीं होती है। आपको केवल कुछ चुनिगत, मुख्य सामग्रियों की एक छोटी, स्पार्स (sparse) सूची को समायोजित करने की आवश्यकता होती है।

यहाँ SGShift इसे कैसे करता है:

पुरानी रेसिपी से शुरुआत करें: यह पुराने डेटा पर प्रशिक्षित मॉडल (जिसे "Source Model" कहा जाता है) को एक निश्चित शुरुआती बिंदु के रूप में लेता है।
"सुधार" खोजें: यह नए डेटा को देखता है और सामग्रियों की सबसे छोटी संभव सूची खोजने की कोशिश करता है, जिसे यदि पुरानी रेसिपी में जोड़ा जाए, तो भविष्यवाणियां फिर से सटीक हो जाएंगी।
"स्पार्स" (Sparse) जादू: यह एक गणितीय ट्रिक (जिसे रेगुलराइजेशन कहा जाता है) का उपयोग करता है ताकि समाधान सरल रहे। यह शोर (noise) को अनदेखा करता है और केवल उन कुछ विशेषताओं (features) पर ध्यान केंद्रित करता है जिन्होंने वास्तव में समस्या पैदा की है।
"नॉकऑफ" (Knockoff) ट्रिक (SGShift-K): यह सुनिश्चित करने के लिए कि यह गलती से किसी निर्दोष सामग्री को दोष न दे दे, यह सामग्रियों के "नकली जुड़वां" (fake twins) बनाता है। यह वास्तविक सामग्रियों की तुलना उनके नकली जुड़वाओं से करता है। यदि एक वास्तविक सामग्री अपने नकली जुड़वां से अधिक महत्वपूर्ण है, तो संभावना है कि वह असली अपराधी है। यह गलत अलार्म को रोकता है।

प्रयोगों ने क्या दिखाया

लेखकों ने इस "रेसिपी फिक्सर" का दो तरह से परीक्षण किया:

1. सिमुलेशन किचन (सिंथेटिक डेटा)
उन्होंने ऐसे नकली परिदृश्य बनाए जहाँ वे जानते थे कि कौन सी सामग्रियां बदली गई हैं।

परिणाम: अन्य तरीकों की तुलना में SGShift "खराब सामग्रियों" को खोजने में बहुत बेहतर था। भले ही डेटा अव्यवस्थित, शोर भरा हो, या जब एक साथ कई सामग्रियां बदल गई हों, तब भी SGShift ने सही सामग्रियों को खोज निकाला।
दक्षता: यह नए डेटा के बहुत कम नमूनों (जैसे केवल एक चम्मच सूप चखने के बाद) के साथ भी अच्छी तरह काम करता है।

2. वास्तविक रसोई (वास्तविक डेटा)
उन्होंने वास्तविक मेडिकल डेटा पर SGShift लागू किया:

COVID-19: उन्होंने देखा कि ओमिक्रॉन वेरिएंट के आने के बाद COVID-19 के लिए अस्पताल में भर्ती होने की भविष्यवाणी करने वाले मॉडल क्यों विफल हुए। SGShift ने सही ढंग से पहचाना कि "रेस्पिरेटरी फेल्योर" (श्वसन विफलता) अब पहले की तरह एक मजबूत भविष्यवक्ता नहीं रह गया था। यह वास्तविक दुनिया के चिकित्सा ज्ञान से मेल खाता है: ओमिक्रॉन ने पिछले वेरिएंट की तुलना में फेफड़ों को कम प्रभावित किया।
जेनेटिक्स (ल्यूपस): उन्होंने देखा कि यूरोपीय रोगियों पर प्रशिक्षित मॉडल एशियाई रोगियों पर क्यों विफल हुआ। SGShift ने उन विशिष्ट जीन की पहचान की जो इन समूहों के बीच अलग व्यवहार करते हैं, जो ज्ञात जैविक अंतरों के अनुरूप है।

मुख्य निष्कर्ष

पेपर का दावा है कि जब मशीन लर्निंग मॉडल नए डेटा पर विफल होता है, तो यह अक्सर इसलिए होता है क्योंकि कुछ सीमित संख्या में फीचर्स (विशेषताओं) का परिणाम के साथ संबंध बदल गया है।

SGShift एक ऐसा टूल है जो:

बिना यह जाने कि "कारण" क्या है, उन विशिष्ट विशेषताओं को ढूंढता है।
तब भी काम करता है जब आपके पास बहुत अधिक नया डेटा न हो।
केवल उन कुछ विशेषताओं को समायोजित करके मॉडल के प्रदर्शन को ठीक कर सकता है, न कि सब कुछ फिर से प्रशिक्षित करके।

संक्षेप में, SGShift एक जासूस है जो केवल यह नहीं कहता कि "सूप का स्वाद खराब है," बल्कि सीधे उस विशिष्ट मसाले के डिब्बे की ओर इशारा करता है जिसे स्वादिष्ट बनाने के लिए बदलने की आवश्यकता है।

तकनीकी सारांश: व्याख्या योग्य फीचर एट्रिब्यूशन (SGShift) के साथ कॉन्सेप्ट शिफ्ट की व्याख्या करना

1. समस्या का निरूपण (Problem Formulation)

यह शोधपत्र कॉन्सेप्ट शिफ्ट (concept shift) को संबोधित करता है, जो कि डिस्ट्रीब्यूशन शिफ्ट का एक विशिष्ट प्रकार है जहाँ सोर्स डोमेन और टारगेट डोमेन के बीच फीचर्स के दिए गए लेबल्स की कंडीशनल डिस्ट्रीब्यूशन, $P(Y|X)$ , बदल जाती है। कोवेरिएट शिफ्ट (जहाँ $P(X)$ बदलता है लेकिन $P(Y|X)$ स्थिर रहता है) या लेबल शिफ्ट (जहाँ $P(Y)$ बदलता है) के विपरीत, कॉन्सेप्ट शिफ्ट का अर्थ है कि फीचर्स और परिणामों के बीच का मौलिक संबंध बदल गया है। यह अक्सर उन मशीन लर्निंग मॉडल्स के प्रदर्शन में गंभीर गिरावट का कारण बनता है जो सोर्स डोमेन पर प्रशिक्षित किए गए हैं जब उन्हें टारगेट डोमेन पर लागू किया जाता है।

मुख्य चुनौती निदान (diagnosis) है: बिना किसी पूर्व ज्ञान (जैसे डेटा संरचना, कॉज़ल ग्राफ, या विशिष्ट शिफ्ट मैकेनिज्म) के उन फीचर्स के एक स्पार्स (sparse) सेट की पहचान करना जो इस शिफ्ट के लिए जिम्मेदार हैं। मौजूदा विधियाँ अक्सर पूर्व-निर्धारित संरचनाओं (जैसे कॉज़ल ग्राफ) पर निर्भर करती हैं, या एक्सप्लेनेशन टूल्स (जैसे SHAP) का पुनरुत्पादन करती हैं जो शायद $P(Y|X)$ परिवर्तनों के विशिष्ट चालकों (drivers) को सटीक रूप से नहीं पकड़ पाते, या "प्लगइन" दृष्टिकोणों का उपयोग करने पर त्रुटि संचय (error accumulation) से ग्रस्त होती हैं जहाँ सोर्स और टारगेट डोमेन के लिए अलग-अलग मॉडल फिट किए जाते हैं।

2. कार्यप्रणाली: SGShift

लेखक SGShift प्रस्तावित करते हैं, जो एक फ्रेमवर्क है जो कॉन्सेप्ट शिफ्ट निदान को एक स्पार्स फीचर सिलेक्शन टास्क के रूप में पुनर्गठित करता है। सोर्स और टारगेट डोमेन के लिए अलग-अलग मॉडल फिट करने और उनकी तुलना करने के बजाय, SGShift सोर्स मॉडल $h_S(X)$ को एक फिक्स्ड ऑफसेट के रूप में मानता है और केवल टारगेट डोमेन डेटा का उपयोग करके एक स्पार्स करेक्शन टर्म $\hat{\Delta}(X)$ सीखता है।

मुख्य ऑप्टिमाइज़ेशन समस्या को इस प्रकार तैयार किया गया है:
$\min_{\hat{\Delta}} \mathbb{E}_T [\ell(h_S(X) + \hat{\Delta}(X), Y)] \quad \text{जहाँ } \hat{\Delta} \text{ एक } k\text{-sparse है}$
यहाँ $\ell$ एक लॉस फंक्शन है (जैसे नेगेटिव लॉग-लाइक्लीहुड)।

शोधपत्र इस फ्रेमवर्क के तीन विशिष्ट इंस्टेंशिएशन का विवरण देता है:

3.1. SGShift (L1 रेगुलराइजेशन)

यह वेरिएंट $\ell_1$ रेगुलराइजेशन के साथ एक जनरलाइज्ड एडिटिव मॉडल (GAM) करेक्शन का उपयोग करता है।

मॉडल: $g(\mathbb{E}_T[Y|X]) = h_S(X) + \phi(X)^\top \delta$ , जहाँ $\phi$ एक बेसिस मैप है (डिफ़ॉल्ट रूप से स्टैंडर्डाइज्ड आइडेंटिटी)।
उद्देश्य: यह टारगेट डोमेन पर पेनलाइज्ड लॉस को कम करता है: $\hat{\delta} = \arg\min_{\delta} \{ L(\delta) + \lambda \|\delta\|_1 \}$ ।
मैकेनिज्म: $\ell_1$ पेनल्टी करेक्शन वेक्टर $\delta$ को स्पार्स बनाती है, जिससे उन फीचर्स के एक छोटे उपसमूह की पहचान होती है जिन्हें एडजस्ट करने पर टारगेट डोमेन का प्रदर्शन पुनः प्राप्त किया जा सकता है।

3.2. SGShift-A (मिसस्पेसिफिकेशन के लिए एब्जॉर्प्शन)

यह वेरिएंट उस समस्या को संबोधित करता है जहाँ सोर्स मॉडल $h_S$ स्वयं मिसस्पेसिफाइड हो सकता है (अर्थात, यह सोर्स डेटा को पूरी तरह से फिट नहीं करता है)।

मैकेनिज्म: यह एक शेयर्ड करेक्शन टर्म $\omega$ (जो दोनों डोमेन के लिए सामान्य मिसस्पेसिफिकेशन है) और एक टारगेट-विशिष्ट करेक्शन $\delta$ (जो कॉन्सेप्ट शिफ्ट के कारण है) पेश करता है।
उद्देश्य: यह पदानुक्रमित रेगुलराइजेशन ( $\lambda_\omega < \lambda_\delta$ ) के साथ सोर्स और टारगेट लॉस के भारित योग (weighted sum) को कम करता है ताकि विशिष्ट फीचर्स को शिफ्ट के रूप में जोड़ने से पहले साझा त्रुटियों को अवशोषित (absorb) किया जा सके।

3.3. SGShift-K (फॉल्स डिस्कवरी कंट्रोल के लिए नॉकफ्स)

फीचर सिलेक्शन में फॉल्स पॉजिटिव के जोखिम को संबोधित करने के लिए, विशेष रूप से सह-संबंधित (correlated) फीचर्स या छोटे सैंपल साइज के मामले में, यह वेरिएंट Model-X Knockoffs फ्रेमवर्क को एकीकृत करता है।

मैकेनिज्म: यह मूल फीचर्स के सहसंबंध संरचना (correlation structure) को बनाए रखते हुए सिंथेटिक "नॉकऑफ" फीचर्स उत्पन्न करता है, लेकिन ये रिस्पॉन्स से कंडिशनली इंडिपेंडेंट होते हैं।
सिलेक्शन: यह मूल और नॉकऑफ फीचर्स दोनों का उपयोग करके एक करेक्शन मॉडल फिट करता है। फीचर महत्व के आंकड़ों ( $W_j$ ) की गणना मूल फीचर्स की उनके नॉकऑफ समकक्षों से तुलना करके की जाती है।
कंट्रोल: यह फॉल्स डिस्कवरी रेट (FDR) और पर-फैमिली एरर रेट (PFER) पर कठोर नियंत्रण प्रदान करने के लिए स्टेबिलिटी सिलेक्शन और e-वैल्यू डिरैंडमाइज्ड नॉकऑफ कंस्ट्रक्शन का उपयोग करता है।

3. मुख्य योगदान

नया फ्रेमवर्क: SGShift पहला ऐसा तरीका है जिसे बिना किसी पूर्व-निर्धारित कॉज़ल स्ट्रक्चर या अनलेबल-ओनली धारणाओं के, सोर्स मॉडल के स्पार्स अपडेट को सीखकर कॉन्सेप्ट शिफ्ट को डायग्नोस करने के लिए स्पष्ट रूप से डिज़ाइन किया गया है।
सैद्धांतिक गारंटी: लेखक हाई-डायमेंशनल धारणाओं के तहत एस्टीमेशन कंसिस्टेंसी के लिए सैद्धांतिक गारंटी प्रदान करते हैं। विशेष रूप से, वे सिद्ध करते हैं कि SGShift स्पार्स करेक्शन कोएफिशिएंट्स को रिकवर कर सकता है और SGShift-K, Model-X धारणाओं के तहत फॉल्स डिस्कवरी रेट्स को नियंत्रित कर सकता है।
स्पार्सिटी उल्लंघन के प्रति मजबूती: हालांकि यह विधि स्पर्सिटी मानती है, प्रायोगिक परिणाम दिखाते हैं कि यह "डेंस" शिफ्ट परिदृश्यों में भी प्रभावी रहती है जहाँ कई फीचर्स बदलते हैं, जो एक मजबूत रेगुलराइज्ड फीचर-रैंकिंग प्रक्रिया के रूप में कार्य करती है।
सैंपल दक्षता: यह विधि टारगेट डोमेन में बहुत कम सैंपल के साथ काम करने के लिए डिज़ाइन की गई है, जो इसे ऑनलाइन लर्निंग या उन परिदृश्यों के लिए उपयुक्त बनाती है जहाँ टारगेट डेटा दुर्लभ है।

4. प्रयोगात्मक परिणाम

लेखकों ने सेमी-सिंथेटिक सिमुलेशन (वास्तविक हेल्थकेयर डेटासेट: डायबिटीज रीडमिशनमिशन, कोविड-19 हॉस्पिटलाइजेशन और SUPPORT2 का उपयोग करके) और वास्तविक दुनिया के केस स्टडीज पर SGShift का मूल्यांकन किया।

सिंथेटिक बेंचमार्क्स

स्पार्स शिफ्ट्स: SGShift वेरिएंट्स (विशेष रूप से SGShift-K) बेसलाइन्स (Diff, WhyShift, SHAP) की तुलना में काफी बेहतर रहे, और आमतौर पर ~0.70–0.80 के बेसलाइन AUC की तुलना में >0.90 का AUC प्राप्त किया।
डेंस शिफ्ट्स: भले ही स्पर्सिटी धारणा का उल्लंघन हुआ हो (60%+ फीचर्स बदले), SGShift उच्च प्रदर्शन (AUC >0.80) बनाए रखने में सफल रहा, जबकि बेसलाइन्स में महत्वपूर्ण गिरावट देखी गई।
जटिल परिदृश्य: SGShift ने हाई-डायमेंशनल सेटिंग्स (500 फीचर्स), उच्च फीचर कोरिलेशन ( $\rho=0.9$ ), और लो सिग्नल-टू-नॉइज़ रेशियो में मजबूती प्रदर्शित की, और लगातार बेसलाइन्स से बेहतर प्रदर्शन किया।
सैंपल साइज: SGShift-K केवल 100 टारगेट सैंपल के साथ 50% से अधिक शिफ्टेड फीचर्स की पहचान कर सका और 500 सैंपल के साथ 85% से अधिक की।

वास्तविक दुनिया के अनुप्रयोग

परफॉरमेंस रिकवरी: वास्तविक डेटासेट में, SGShift ने एक स्पार्स फीचर सेट (अक्सर कुल फीचर्स के <1/3, कभी-कभी केवल एक) का उपयोग करके टारगेट डोमेन में प्रदर्शन हानि को सफलतापूर्वक ~90% तक रिकवर किया। इसके विपरीत, केवल कोवेरिएट या लेबल शिफ्ट को ठीक करने (IPW के माध्यम से) से अधिकतम 15–25% की रिकवरी हुई, जो वास्तविक कॉन्सेप्ट शिफ्ट की उपस्थिति की पुष्टि करता है।
हेल्थकेयर केस स्टडी (COVID-19): प्री- और पोस्ट-ओमिक्रॉन डेटा पर लागू होने पर, SGShift ने "रेस्पिरेटरी फेल्योर" को शीर्ष शिफ्टेड फीचर के रूप में पहचाना जिसका कोएफिशिएंट नेगेटिव था। यह क्लिनिकल लिटरेचर के अनुरूप है जो डेल्टा की तुलना में ओमिक्रॉन के गंभीर लोअर-रेस्पिरेटरी डिजीज के साथ कम जुड़ाव को नोट करता है।
जेनेटिक्स केस स्टडी (Lupus): विभिन्न पूर्वजों (यूरोपीय बनाम एशियाई) के बीच जीन एक्सप्रेशन डेटा पर लागू होने पर, SGShift ने लुपस प्रेडिक्शन मॉडल के प्रदर्शन में गिरावट में योगदान देने वाले 6 विशिष्ट जीन की पहचान की। ये जीन पूर्वजों के बीच ज्ञात जैविक अंतरों (eQTLs, रिपीट वेरिएंट्स और इंटरफेरॉन सिग्नेचर) के अनुरूप हैं।

5. महत्व और दावे

शोधपत्र का दावा है कि SGShift कॉन्सेप्ट शिफ्ट को डायग्नोस करने के लिए एक सिद्धांत-आधारित, व्याख्या योग्य और सांख्यिकीय रूप से कठोर दृष्टिकोण प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

कार्यक्षमता (Actionability): एक स्पार्स फीचर सेट की पहचान करके, यह मॉडल डेवलपर्स को अंतर्निहित डेटा पाइपलाइनों को ठीक करने, नए फीचर्स जोड़ने या मॉडल्स को कुशलतापूर्वक फिर से प्रशिक्षित करने के लिए प्रत्यक्ष अंतर्दृष्टि प्रदान करता है।
वैज्ञानिक अंतर्दृष्टि: यह विधि वैज्ञानिक रूप से प्रासंगिक शिफ्ट्स (जैसे नए वायरल जोखिम कारक या जेनेटिक एंसेस्ट्री अंतर) को उजागर कर सकती है जो अन्यथा ब्लैक-बॉक्स मॉडल विफलताओं के कारण छिप सकते हैं।
व्यापकता: यह बिना किसी पूर्व ज्ञान (कॉज़ल स्ट्रक्चर या विशिष्ट शिफ्ट मैकेनिज्म) के काम करता है, जिससे यह वाइड रेंज की टैबुलर डेटा समस्याओं के लिए लागू करने योग्य बनता है।

लेखक निष्कर्ष निकालते हैं कि टैबुलर कार्यों में टारगेट-डोमेन प्रदर्शन में गिरावट को अक्सर एक स्पार्स अपडेट द्वारा अच्छी तरह से अनुमानित किया जा सकता है, और SGShift इस शिफ्ट के चालकों की प्रभावी ढंग से पहचान करता है, जिससे बेहतर मॉडल रखरखाव और वैज्ञानिक खोज संभव होती है।