🤖 AI

C-SHAP for time series: An approach to high-level temporal explanations

यह शोध पत्र C-SHAP प्रस्तुत करता है, जो एक अवधारणा-आधारित व्याख्यात्मक एआई (explainable AI) ढांचा है जो टाइम सीरीज़ मॉडल्स के लिए उच्च-स्तरीय टेम्पोरल पैटर्न स्पष्टीकरण प्रदान करने के लिए SHAP का लाभ उठाता है, जो स्वास्थ्य सेवा और उद्योग जैसे उच्च-जोखिम वाले डोमेन में मौजूदा पॉइंट- या सबसीक्वेंस-आधारित विधियों की सीमाओं को संबोधित करता है।

मूल लेखक: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

प्रकाशित 2026-04-24

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन रहस्यमयी रोबोट सहायक है। यह रोबोट डेटा की एक लंबी, टेढ़ी-मेढ़ी रेखा (जैसे कि हार्टबीट मॉनिटर या किसी मशीन का वाइब्रेशन सेंसर) को देखता है और एक निर्णय लेता है: "यह व्यक्ति चल रहा है," या "यह इंजन 10 दिनों में खराब हो जाएगा।"

समस्या यह है कि यह रोबोट एक "ब्लैक बॉक्स" (Black Box) है। यह आपको उत्तर तो देता है, लेकिन यह नहीं बताता कि क्यों। यदि आप पूछते हैं, "आपने क्यों कहा कि इंजन खराब होने वाला है?" तो वह बस रेखा पर एक विशिष्ट बिंदु की ओर इशारा करता है और कहता है, "क्योंकि यहाँ यह बिंदु है।"

लेकिन यह बहुत उपयोगी नहीं है। एक अकेला बिंदु पूरी कहानी नहीं बताता। असली कारण यह हो सकता है कि पूरी रेखा धीरे-धीरे ऊपर जा रही है (एक ट्रेंड/प्रवृत्ति), या लहरों का आकार (एक स्केल/पैमाना संबंधी मुद्दा) बड़ा होता जा रहा है।

यह पेपर इस समस्या को हल करने के लिए C-SHAP नामक एक नया टूल पेश करता है। C-SHAP को एक अनुवादक (translator) के रूप में समझें जो रोबोट के गुप्त कोड को ऐसी कहानी में बदल देता है जिसे इंसान समझ सकें।

मुख्य विचार: "पिक्सेल" से "चित्रों" तक

AI को समझाने के पुराने तरीके अधिकांशतः माइक्रोस्कोप से फोटो देखने जैसे हैं। वे व्यक्तिगत पिक्सेल (या डेटा पॉइंट्स) पर ज़ूम करते हैं और कहते हैं, "इस पिक्सेल ने रोबोट को बिल्ली सोचने पर मजबूर किया।" लेकिन इंसान फोटो को पिक्सेल के रूप में नहीं देखते; हम पैटर्न (प्रतिरूप) देखते हैं। हम एक "पूंछ," एक "मूंछ," या एक "फर वाली बनावट" देखते हैं।

C-SHAP खेल बदल देता है। व्यक्तिगत बिंदुओं को देखने के बजाय, यह डेटा की रेखा को कॉन्सेप्ट्स (अवधारणाओं) में तोड़ देता है जैसे कि:

ट्रेंड (Trend): क्या रेखा कुल मिलाकर ऊपर जा रही है या नीचे?
बायस (Bias): क्या रेखा ग्राफ पर ऊँची या नीची बैठी है?
स्केल (Scale): क्या लहरें बड़ी और जंगली हैं, या छोटी और शांत?
फ्रीक्वेंसी (Frequency): क्या रेखा तेज़ी से या धीरे-धीरे लहरा रही है?

फिर यह रोबोट से पूछता है: "यदि मैं इस डेटा से 'ट्रेंड' को हटा दूँ, तो क्या आप अभी भी वही निर्णय लेंगे?" यदि रोबोट का उत्तर बदल जाता है, तो C-SHAP जानता है कि ट्रेंड सबसे महत्वपूर्ण सुराग था।

रोबोट से पूछने के दो तरीके

पेपर इस अनुवादक का उपयोग करने के दो तरीके सुझाता है, जो इस बात पर निर्भर करता है कि रोबोट कैसे बनाया गया था:

1. "पोस्ट-हॉक" दृष्टिकोण (जासूस की तरह)

यह कैसे काम करता है: रोबोट पहले से ही बना हुआ है और कच्चे डेटा पर प्रशिक्षित है। हम रोबोट को नहीं छेड़ते। इसके बजाय, हम जासूसों की तरह काम करते हैं। हम रोबोट के इनपुट को लेते हैं, गणितीय रूप से "ट्रेंड" को हटा देते हैं, फिर "स्केल" को हटा देते हैं, और देखते हैं कि रोबोट का उत्तर कैसे बदलता है।
उपमा: कल्पना कीजिए कि एक शेफ ने पहले ही स्टू (stew) पका लिया है। अब आप रेसिपी नहीं बदल सकते, लेकिन आप स्टू को चख सकते हैं, फिर नमक हटाने के बाद उसे फिर से चख सकते हैं, फिर काली मिर्च हटाने के बाद फिर से चख सकते हैं। आप महसूस करते हैं, "आह! नमक मुख्य स्वाद था!" यह बेहतरीन है क्योंकि आप इसे किसी भी मौजूदा रोबोट पर उपयोग कर सकते हैं।

2. "कॉन्सेप्ट-इन्फॉर्म्ड" दृष्टिकोण (शिक्षक की तरह)

यह कैसे काम करता है: रोबोट को प्रशिक्षित करने से पहले ही, हम उसे कॉन्सेप्ट्स (अवधारणाओं) का उपयोग करके सिखाते हैं। कच्ची टेढ़ी-मेढ़ी रेखाओं को खिलाने के बजाय, हम उसे अलग-अलग चैनल देते हैं: एक चैनल "ट्रेंड" के लिए, एक "स्केल" के लिए, एक "नॉइज़" (शोर) के लिए।
उपमा: शेफ को सामग्री का अनुमान लगाने देने के बजाय, हम उन्हें "नमक," "काली मिर्च," और "चीनी" लेबल वाले कटोरे देते हैं और कहते हैं, "इन विशिष्ट सामग्रियों का उपयोग करके स्टू बनाएं।" शेफ (AI) शुरू से ही इन विशिष्ट सामग्रियों पर भरोसा करना सीख जाता है। यह शेफ (AI) को खाना बनाने में और भी बेहतर बना सकता है, और इसे समझाना आसान है क्योंकि हम जानते हैं कि उसने किन सामग्रियों का उपयोग किया है।

वास्तविक दुनिया के उदाहरण

लेखकों ने इसे दो बहुत अलग कार्यों पर परखा:

1. मानव गतिविधि पहचान (द "स्टेप काउंटर")

कार्य: एक रोबोट व्यक्ति के घुटने पर लगे सेंसर को देखता है और यह अनुमान लगाता है कि वह खड़ा है, चल रहा है, बैठा है, या लेटा हुआ है।
पुराना तरीका: रोबोट सेंसर के एक विशिष्ट सेकंड की ओर इशारा करता है जहाँ हलचल हुई थी और कहता है, "इस हलचल के कारण।"
C-SHAP का तरीका: रोबोट कहता है, "मैं जानता हूँ कि वे चल रहे हैं क्योंकि स्केल (पैर के झूलने का आकार) बहुत बड़ा है, और बायस (घुटने का औसत कोण) आगे की ओर झुका हुआ है।" यह एक डॉक्टर या ट्रेनर के लिए पूरी तरह समझ में आने वाला है।

2. प्रेडिक्टिव मेंटेनेंस (द "इंजन डॉक्टर")

कार्य: एक रोबोट हवाई जहाज के इंजन पर नज़र रखता है ताकि यह भविष्यवाणी की जा सके कि वह कब खराब होगा।
पुराना तरीका: रोबोट दबाव के एक छोटे से स्पाइक (उछाल) की ओर इशारा करता है और कहता है, "इस स्पाइक के कारण।"
C-SHAP का तरीका: रोबोट कहता है, "मैं जानता हूँ कि इंजन जल्द ही खराब हो जाएगा क्योंकि दबाव का ट्रेंड समय के साथ धीरे-धीरे ऊपर जा रहा है।" यह मैकेनिक को ठीक वही बताता है जिसे उन्हें देखना चाहिए: एक धीमी, स्थिर वृद्धि, न कि केवल एक रैंडम स्पाइक।

यह क्यों मायने रखता है

विश्वास (Trust): जब डॉक्टर या इंजीनियर यह समझते हैं कि AI ने निर्णय क्यों लिया, तो वे इस पर अधिक भरोसा करते हैं।
सरलता (Simplicity): यह AI को "पॉइंट #452 महत्वपूर्ण है" जैसे भ्रमित करने वाले उत्तर देने से रोकता है। इसके बजाय, यह "कुल मिलाकर ट्रेंड ही समस्या है" जैसे मानवीय उत्तर देता है।
लचीलापन (Flexibility): आप इसे लगभग किसी भी समय-आधारित डेटा (time-based data) पर उपयोग कर सकते, जैसे शेयर बाजार से लेकर मौसम के पैटर्न तक।

निचोड़ (The Bottom Line)

C-SHAP एक ऐसे अनुवादक की तरह है जो AI को "डेटा पॉइंट्स" में बोलने के बजाय "कहानियों" में बोलना सिखाता है। यह डेटा की जटिल, टेढ़ी-मेढ़ी रेखाओं को उन बड़े-चित्र वाली अवधारणाओं (ट्रेंड, स्केल, फ्रीक्वेंसी) में तोड़ देता है जिनका उपयोग इंसान स्वाभाविक रूप से दुनिया को समझने के लिए करते हैं। यह AI को एक रहस्यमयी ब्लैक बॉक्स से बदलकर एक मददगार साथी बना देता जिससे आप वास्तव में बात कर सकते हैं।

यहाँ शोध पत्र "C-SHAP for time series: An approach to high-level temporal explanations" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

स्वास्थ्य सेवा (healthcare) और उद्योग जैसे उच्च-जोखिम वाले क्षेत्रों में, AI मॉडल अक्सर "ब्लैक बॉक्स" की तरह कार्य करते हैं, जिनमें पारदर्शिता का अभाव होता है। हालाँकि व्याख्यात्मक AI (XAI) तकनीकें मौजूद हैं, लेकिन टाइम सीरीज़ डेटा के लिए अधिकांश विधियाँ पॉइंट-आधारित (व्यक्तिगत समय चरण) या सबसीक्वेंस-आधारित (लघु विंडो) स्पष्टीकरणों तक ही सीमित हैं।

सीमाएँ: ये स्थानीय दृष्टिकोण उच्च-स्तरीय वैश्विक पैटर्न (जैसे, समग्र रुझान (trends), विचरण परिवर्तन (variance changes), या आवृत्ति परिवर्तन (frequency shifts)) को पकड़ने में विफल रहते हैं जो अक्सर मॉडल के निर्णयों को संचालित करते हैं।
परिणाम: पॉइंट-आधारित एट्रिब्यूशन (attributions) बिखरे हुए हो सकते हैं और मनुष्यों के लिए व्याख्या करना कठिन होता है, क्योंकि वे कच्चे डेटा बिंदुओं के बजाय अमूर्त अवधारणाओं (abstract concepts) पर आधारित विशेषज्ञ तर्क के साथ मेल नहीं खाते।
अंतराल (Gap): टाइम सीरीज़ के लिए एक मानकीकृत, अवधारणा-आधारित (concept-based) XAI फ्रेमवर्क की कमी है जो कच्चे इनपुट के बजाय उच्च-स्तरीय विशेषताओं (अवधारणाओं) को महत्व दे सके।

2. कार्यप्रणाली: C-SHAP (Methodology: C-SHAP)

लेखक C-SHAP प्रस्तावित करते हैं, जो टाइम सीरीज़ के लिए विशेष रूप से तैयार किया गया SHAP (SHapley Additive exPlanation) फ्रेमवर्क का एक अवधारणा-आधारित विस्तार है।

मूल अवधारणा (Core Concept)

व्यक्तिगत डेटा बिंदुओं ( $x_i$ ) को महत्व देने के बजाय, C-SHAP अवधारणाओं ( $c_i$ ) को महत्व देता है, जिन्हें टाइम सीरीज़ से निकाली गई उच्च-स्तरीय पैटर्न (जैसे, ट्रेंड, फ्रीक्वेंसी, वेरिएंस) के रूप में परिभाषित किया गया है।

दो दृष्टिकोण (Two Approaches)

शोध पत्र C-SHAP के लिए दो अलग-अलग वर्कफ़्लो को औपचारिक रूप देता है:

पूर्णतः पोस्ट-हॉक (Fully Post-Hoc - Concept-Agnostic):
- मॉडल को कच्चे टाइम सीरीज़ डेटा पर प्रशिक्षित किया जाता है (ब्लैक बॉक्स)।
- अवधारणाओं को प्रशिक्षण के बाद एक डिकम्पोजिशन फंक्शन $d(\cdot)$ के माध्यम से निकाला जाता है।
- SHAP मानों की गणना करने के लिए, अवधारणाओं को मास्क (बैकग्राउंड डेटा से बदला) किया जाता है और फिर उन्हें एक सिंथेटिक टाइम सीरीज़ में पुनः संयोजित (re-aggregated) किया जाता है ताकि ब्लैक-बॉक्स मॉडल में वापस फीड किया जा सके।
- आवश्यकता: डिकम्पोजिशन फंक्शन प्रतिवर्ती (invertible) होना चाहिए (अर्थात, मूल सिग्नल को उसके घटकों से पूरी तरह से पुनर्गठित किया जा सके)।
आंशिक रूप से एंटे-हॉक (Partially Ante-Hoc - Concept-Informed):
- मॉडल को सीधे निकाले गए अवधारणाओं को अलग-अलग इनपुट चैनल्स के रूप में उपयोग करके प्रशिक्षित किया जाता है।
- मास्किंग सरल है: विशिष्ट अवधारणा चैनल्स को बैकग्राउंड कॉन्सेप्ट वैल्यूज से बदल दिया जाता है, जिसके लिए पुनः एकत्रीकरण (re-aggregation) की आवश्यकता नहीं होती।
- लाभ: यह मॉडल को प्रासंगिक उच्च-स्तरीय विशेषताओं को सीखने के लिए स्पष्ट रूप से निर्देशित करके प्रदर्शन में सुधार कर सकता है।

अवधारणा निर्माण (Concept Construction/Decomposition)

अवधारणाओं को उत्पन्न करने के लिए, लेखक टाइम सीरीज़ डिकम्पोजिशन का उपयोग करते हैं। वे दो विधियों का प्रस्ताव और परीक्षण करते हैं:

डिस्क्रीट वेवलेट ट्रांसफॉर्म (DWT): सिग्नलों को एप्रोक्सिमेशन (लो फ्रीक्वेंसी) और डिटेल (हाई फ्रीक्वेंसी) घटकों में विभाजित करने वाला एक मानक गणितीय दृष्टिकोण।
कस्टम मानव-केंद्रित डिकम्पोजिशन: एक हाइब्रिड (योगात्मक और गुणात्मक) डिकम्पोजिशन जिसे व्याख्यात्मकता के लिए डिज़ाइन किया गया है। यह विशिष्ट अवधारणाओं को निकालता है:
- ट्रेंड (Trend): रैखिक ढलान (Linear slope)।
- बायस (Bias): औसत सिग्नल स्तर।
- स्केल (Scale): अधिकतम आयाम (Maximum amplitude)।
- वेरिएंस (Variance): समय के साथ आयाम में परिवर्तन।
- लो/हाई फ्रीक्वेंसी (Low/High Frequency): धीमी बनाम तीव्र परिवर्तन।

मास्किंग तंत्र (Masking Mechanism)

SHAP के लिए यह गणना करना आवश्यक है कि जब फीचर्स "अनुपस्थित" होते हैं तो मॉडल का आउटपुट क्या होगा। C-SHAP में:

अवधारणाओं को ट्रेनिंग डिस्ट्रीब्यूशन (बैकग्राउंड डेटा) से नमूने लेकर मास्क किया जाता है।
कॉन्सेप्ट-एग्नोस्टिक दृष्टिकोण के लिए, मास्क किए गए घटकों को डिकम्पोजिशन फंक्शन के व्युत्क्रम (inverse) का उपयोग करके पुनर्संयोजित किया जाता है ताकि एक वैध इनपुट सिग्नल बनाया जा सके जिसे ब्लैक-बॉक्स मॉडल में फीड किया जा सके।

3. प्रमुख योगदान (Key Contributions)

C-SHAP का औपचारिककरण: टाइम सीरीज़ अवधारणाओं पर SHAP लागू करने के लिए दो कठोर दृष्टिकोणों (पोस्ट-हॉक और एंटे-हॉक) को परिभाषित किया।
प्रतिवर्ती स्थिति (Invertibility Condition): एक गणितीय स्थिति (Condition 2) स्थापित की, जिसके अनुसार पोस्ट-हॉक अनुप्रयोगों के लिए अवधारणा निर्माण का प्रतिवर्ती होना आवश्यक है ताकि वैध SHAP मान सुनिश्चित किए जा सकें।
कस्टम डिकम्पोजिशन एल्गोरिदम: एक नवीन, मानव-व्याख्या योग्य डिकम्पोजिशन विधि डिज़ाइन की जो केवल गणितीय आवृत्तियों के बजाय विशिष्ट भौतिक गुणों (ट्रेंड, स्केल, वेरिएंस) को अलग करती है।
अनुभवजन्य सत्यापन (Empirical Validation): दो अलग-अलग डोमेन में इस फ्रेमवर्क का प्रदर्शन किया:
- ह्यूमन एक्टिविटी रिकग्निशन (HAR): लोकोमोशन (Stand, Walk, Sit, Lie) का वर्गीकरण।
- प्रेडिक्टिव मेंटेनेंस: एयरक्राफ्ट टर्बोफैन इंजन के शेष उपयोगी जीवन (RUL) का अनुमान लगाना।

4. परिणाम (Results)

लेखकों ने GRU-आधारित मॉडलों का उपयोग करके KernelSHAP के विरुद्ध C-SHAP का मूल्यांकन किया।

व्याख्यात्मकता (Interpretability):
- HAR (OPPORTUNITY Dataset): C-SHAP ने खुलासा किया कि मॉडल गतिविधियों को अलग करने के लिए "Bias" (औसत घुटने का कोण) और "Scale" (गति का आयाम) पर बहुत अधिक निर्भर करते हैं। पॉइंट-आधारित विधियाँ इन वैश्विक पैटर्न को स्पष्ट रूप से पहचानने में विफल रहीं, जिससे समय चरणों में बिखरा हुआ महत्व दिखाई दिया।
- प्रेडिक्टिव मेंटेनेंस (Turbofan Dataset): C-SHAP ने इंजन विफलता की भविष्यवाणी करने के लिए सबसे महत्वपूर्ण कारक के रूप में "Trend" (रैखिक दबाव परिवर्तन) की पहचान की। KernelSHAP एट्रिब्यूशन की वितरित प्रकृति के कारण इस वैश्विक रुझान को अलग करने में सक्षम नहीं था।
प्रदर्शन (Performance):
- कॉन्सेप्ट-इन्फॉर्म्ड मॉडल (अवधारणाओं पर प्रशिक्षित) ने कुछ मामलों में कॉन्सेप्ट-एग्नोस्टिक मॉडलों की तुलना में समान या थोड़ा बेहतर प्रदर्शन दिखाया, जिससे पता चलता है कि उच्च-स्तरीय विशेषताओं को सीधे मॉडल में फीड करना फायदेमंद हो सकता है।
- कस्टम डिकम्पोजिशन ने गणितीय रूप से कठोर लेकिन कम सहज DWT की तुलना में अधिक सहज स्पष्टीकरण प्रदान किया।

5. महत्व (Significance)

अंतराल को पाटना: C-SHAP व्याख्यात्मकता को स्थानीय, पिक्सेल/पॉइंट-स्तरीय स्पष्टीकरणों से आगे ले जाकर सिमेंटिक, उच्च-स्तरीय तर्क की ओर ले जाता है, जो टाइम सीरीज़ डेटा का विश्लेषण करने के तरीके के साथ बेहतर तालमेल बिठाता है।
लचीलापन: यह फ्रेमवर्क मॉडल-अज्ञेतिक (model-agnostic) है और इसे किसी भी टाइम सीरीज़ मॉडल पर लागू किया जा सकता है, बशर्ते कि अवधारणा निष्कर्षण (concept extraction) प्रतिवर्ती हो (पोस्ट-हॉक उपयोग के लिए)।
डोमेन प्रयोज्यता: वर्गीकरण (HAR) और प्रेडिक्टिव मेंटेनेंस दोनों कार्यों में इस पद्धति को सफलतापूर्वक लागू करके, यह शोध पत्र विभिन्न टाइम सीरीज़ कार्यों में अवधारणा-आधारित स्पष्टीकरणों की सामान्य क्षमता (generalizability) को सिद्ध करता है।
भविष्य की दिशा: यह कार्य इस बात की पुष्टि करने के लिए उपयोगकर्ता अध्ययन (user studies) की आवश्यकता पर प्रकाश डालता है कि क्या ये उच्च-स्तरीय स्पष्टीकरण वास्तव में अंतिम उपयोगकर्ताओं और डोमेन विशेषज्ञों के लिए विश्वास और उपयोगिता बढ़ाते हैं।

संक्षेप में, C-SHAP "कौन सा समय बिंदु महत्वपूर्ण था" के बजाय "कौन सा पैटर्न (ट्रेंड, फ्रीक्वेंसी, वेरिएंस) महत्वपूर्ण था" पर ध्यान केंद्रित करके टाइम सीरीज़ AI को समझाने के लिए एक मजबूत ढांचा प्रदान करता है, जिससे महत्वपूर्ण अनुप्रयोगों में पारदर्शिता और विश्वसनीयता बढ़ती है।