Feature Attribution-Based Explainability Analysis of Deep Learning Models in Predictive Process Monitoring
यह शोध पत्र प्रेडिक्टिव प्रोसेस मॉनिटरिंग में डीप लर्निंग मॉडल्स के लिए एक स्थानीय पोस्ट-हॉक व्याख्यात्मकता पद्धति प्रस्तावित करता है जो सेगमेंट-स्तरीय SHAP स्पष्टीकरण उत्पन्न करने के लिए कंट्रोल-फ्लो-अवेयर सेगमेंटेशन एल्गोरिदम का उपयोग करता है, जो कम्प्यूटेशनल दक्षता और इवेंट लॉग्स में अंतर्निहित कंट्रोल-फ्लो डायनेमिक्स को पकड़ने तथा महत्वपूर्ण चेंज पॉइंट्स की पहचान करने की क्षमता के बीच प्रभावी ढंग से संतुलन बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस के रूप में, लेकिन आपका अपराध स्थल कोई अपराध स्थल नहीं, बल्कि व्यावसायिक गतिविधियों का एक डिजिटल निशान है। इस क्षेत्र को प्रेडिक्टिव प्रोसेस मॉनिटरिंग (Predictive Process Monitoring) कहा जाता है। इसे एक कंपनी के वर्कफ़्लो के लिए जीपीएस (GPS) की तरह समझें: यह एक केस (जैसे कि ऋण आवेदन या परमिट अनुरोध) पर नज़र रखता है क्योंकि वह एक चरण से दूसरे चरण में आगे बढ़ता है, और यह अनुमान लगाने की कोशिश करता है कि वह कहाँ समाप्त होगा। क्या ऋण स्वीकृत होगा? क्या प्रोजेक्ट समय पर पूरा होगा? ऐसा करने के लिए, कंपनियाँ डीप लर्निंग मॉडल्स (Deep Learning models) जैसे शक्तिशाली कंप्यूटर दिमागों का उपयोग करती हैं। ये मॉडल उन सुपर-स्मार्ट छात्रों की तरह हैं जिन्होंने लाखों पिछली कहानियाँ पढ़ी हैं और वे उन पैटर्न को पहचान सकते हैं जिन्हें इंसान मिस कर देते हैं। लेकिन यहाँ एक पेंच है: ये मॉडल "ब्लैक बॉक्स" होते हैं। वे आपको उत्तर तो देते हैं, लेकिन वे यह नहीं बताते कि उन्हें क्यों लगता है कि वह सही है। यह एक शिक्षक की तरह है जो आपको टेस्ट में ग्रेड तो देता है लेकिन यह दिखाने से मना कर देता है कि कौन से उत्तर सही थे या गलत। इस कारण से, लोग महत्वपूर्ण निर्णयों के लिए उन पर भरोसा करने से डरते हैं। इस समस्या को ठीक करने के लिए, वैज्ञानिक एक्सप्लेनेबिलिटी (Explainability) टूल्स का उपयोग करते हैं। ये उन टॉर्च की तरह हैं जो मॉडल की सोच पर रोशनी डालते हैं, और यह उजागर करते हैं कि कहानी के कौन से विशिष्ट हिस्से सबसे अधिक मायने रखते थे। हालाँकि, पुराने टॉर्च या तो बहुत अधिक ज़ूम-इन थे (हर एक छोटे कदम को दिखा रहे थे, जो बहुत अधिक और भ्रमित करने वाला था) या बहुत अधिक ज़ूम-आउट थे (पूरी कहानी को एक बड़े धब्बे में धुंधला कर देते थे, जिससे विवरण खो जाते थे)।
यह शोध पत्र उस टॉर्च को चमकाने का एक नया तरीका पेश करता है, जो विशेष रूप से व्यावसायिक प्रक्रियाओं के लिए है। लेखिका, क्सिनिया साहातोवा और उनकी टीम ने महसूस किया कि व्यावसायिक कहानियाँ केवल घटनाओं की यादृच्छिक सूचियाँ नहीं हैं; उनमें एक लय और प्रवाह होता है, जैसे किसी पुस्तक के अध्याय। वे एक ऐसी विधि प्रस्तावित करते हैं जो एक लंबे, उलझे हुए प्रोसेस लॉग को सार्थक "अध्यायों" या सेगमेंट्स (segments) में तोड़ देती है, जो इस आधार पर होते हैं कि गतिविधियाँ स्वाभाविक रूप से एक-दूसरे के बाद कैसे आती हैं। बजाय इसके कि वे पूछें, "क्या इस एक ईमेल ने महत्व रखा?" या "क्या पूरी फ़ाइल ने महत्व रखा?", वे पूछते हैं, "क्या प्रक्रिया के इस विशिष्ट चरण ने महत्व रखा?"
अपने विचार का परीक्षण करने के लिए, उन्होंने एक "नकली" व्यावसायिक प्रक्रिया बनाई जहाँ वे जानते थे कि कथानक के मोड़ (plot twists) कहाँ आए थे ("ग्राउंड ट्रुथ")। उन्होंने पाया कि उनकी नई विधि इन कथानक मोड़ों को 90% से अधिक सटीकता के साथ पहचान सकती है, जो केवल व्यक्तिगत चरणों को देखने की तुलना में बहुत बेहतर है। जब उन्होंने डच बैंक के ऋण आवेदनों और एक नगर पालिका के प्रशासनिक कार्यों के वास्तविक डेटा पर इसे आजमाया, तो परिणाम और भी दिलचस्प थे। ऋण आवेदनों के लिए, उनके तरीके ने स्पष्ट रूप से दिखाया कि एक सुचारू, संरचित पथ स्वीकृति की ओर ले गया, जबकि "बार-बार प्रस्ताव बनाने" का एक विशिष्ट पैटर्न एक बड़ा रेड फ्लैग था जो अस्वीकृति की ओर ले गया। यह किसी फिल्म के एक विशिष्ट प्लॉट डिवाइस को खोजने जैसा था जो हमेशा एक त्रासदी का संकेत देता है।
यह शोध पत्र सुझाव देता है कि यह "सेगमेंट-लेवल" दृष्टिकोण सबसे सटीक बिंदु है। यह हर एक घटना को देखने जितना गणितीय रूप से पूर्ण नहीं है (जो मॉडल के कच्चे गणित के प्रति सबसे वफादार है), लेकिन यह मनुष्यों के समझने में बहुत आसान है। यह संबंधित घटनाओं को एक साथ समूहित करता है, ताकि आप भविष्यवाणी के पीछे की कहानी देख सकें। हालाँकि, लेखक सावधानी बरतते हुए कहते हैं कि यह तब सबसे अच्छा काम करता है जब व्यावसायिक प्रक्रिया की एक स्पष्ट संरचना हो। यदि कोई प्रक्रिया बहुत अराजक है और प्रत्येक मामला पूरी तरह से अलग है, तो यह विधि भ्रमित हो सकती है और कहानी को बहुत सारे छोटे, अर्थहीन टुकड़ों में विभाजित कर सकती है। लेकिन जिन प्रक्रियाओं में एक तार्किक प्रवाह होता है, उनके लिए, यह नया "अध्याय-आधारित" स्पष्टीकरण हमें यह दिखाकर कि यात्रा के किस हिस्से ने परिणाम को दिशा दी, एआई (AI) पर भरोसा करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।