SENTRY: Deterministic, Intelligent Risk Assessment for IT Change Management
यह शोध पत्र SENTRY को प्रस्तुत करता है, जो एक नियत (deterministic) मशीन लर्निंग प्लेटफॉर्म है जो वित्तीय संस्थानों में आईटी परिवर्तन जोखिमों का सटीक आकलन करने के लिए व्यक्तिपरक प्रश्नावली के स्थान पर एक हाइब्रिड XGBoost और RAG पाइपलाइन का उपयोग करता है, जिससे उच्च सटीकता प्राप्त होती है और स्पष्ट करने योग्य एआई (explainable AI) के माध्यम से ऑडिटेबिलिटी बनाए रखते हुए मौजूदा प्रक्रियाओं से काफी बेहतर प्रदर्शन किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक आधुनिक वित्तीय संस्थान के विशाल, गूँजते हुए तंत्रिका तंत्र में, हर दिन हज़ारों छोटे निर्णय लिए जाते हैं। एक ट्रेडिंग प्लेटफॉर्म पर सॉफ़्टवेयर अपडेट भेजा जाता है, गति में सुधार के लिए सर्वर कॉन्फ़िगरेशन में बदलाव किया जाता है, या किसी भेद्यता (vulnerability) को दूर करने के लिए सुरक्षा पैच लगाया जाता है। ये नियमित रखरखाव के कार्य हैं, जो डिजिटल दुनिया को चालू रखने के लिए दैनिक आधार पर किए जाते हैं। फिर भी, इन संस्थानों में, एक भी गलत कदम विफलताओं की एक श्रृंखला को ट्रिगर कर सकता है, जिससे लाखों ग्राहकों के लिए सेवाएँ ठप हो सकती हैं और गंभीर नियामक दंड (regulatory penalties) का सामना करना पड़ सकता है। इसे रोकने के लिए, बैंक 'चेंज मैनेजमेंट' नामक एक प्रक्रिया पर भरोसा करते हैं, जहाँ प्रत्येक प्रस्तावित परिवर्तन को आगे बढ़ने की अनुमति देने से पहले उसकी समीक्षा और जोखिम का आकलन किया जाना चाहिए। दशकों से, यह मूल्यांकन एक सरल, मानव-केंद्रित उपकरण पर निर्भर रहा है: एक प्रश्नावली (questionnaire)। परिवर्तन का प्रस्ताव रखने वाला व्यक्ति इस बारे में प्रश्नों की एक श्रृंखला का उत्तर देता है कि वे क्या करने की योजना बना रहे हैं, वे इसका परीक्षण कैसे करेंगे, और क्या गलत हो सकता है। उनके उत्तरों को स्कोर दिया जाता है, और वह स्कोर निर्धारित करता है कि परिवर्तन को स्वीकृत किया जाए, अधिक समीक्षा के लिए भेजा जाए, या अस्वीकार कर दिया जाए। समस्या यह है कि यह प्रणाली गहराई से व्यक्तिपरक (subjective) है। यह इसे भरने वाले व्यक्ति की ईमानदारी और आत्म-जागरूकता पर निर्भर करती है, और यह अक्सर एक हानिरहित मामूली बदलाव और एक खतरनाक जुए के बीच अंतर करने में विफल रहती है। एक कुशल अनुरोधकर्ता अपने उत्तरों को इस तरह से तैयार करना सीख सकता है जिससे एक जोखिम भरा परिवर्तन सुरक्षित दिखाई दे, जबकि एक वास्तविक विशेषज्ञ अपने स्वयं के काम की जटिलता को कम आंक सकता है। परिणाम एक ऐसी प्रक्रिया है जो व्यवस्थित महसूस होती है लेकिन नाजुक है, जो अक्सर उन्हीं परिवर्तनों को पहचानने में विफल रहती है जो बाद में बड़ी आउटेज (outages) का कारण बनते हैं।
यह वह चुनौती है जिसे रॉयल बैंक ऑफ कनाडा की शोधकर्ताओं की एक टीम ने SENTRY नामक एक नई प्रणाली के साथ हल करने का प्रयास किया। उनका लक्ष्य मानवीय निर्णय को बदलना नहीं था, बल्कि उसे एक अधिक सटीक और वस्तुनिष्ठ लेंस प्रदान करना था। उन्होंने एक ऐसा प्लेटफॉर्म बनाया जो डेटा विश्लेषण के दो अलग-अलग दृष्टिकोणों को जोड़ता है। सबसे पहले, उन्होंने संरचित जानकारी (structured information) को छाँटने के लिए एक सिद्ध पद्धति का उपयोग किया, जो एक प्रकार का एल्गोरिदम है जो संख्याओं और श्रेणियों की तालिकाओं में पैटर्न खोजने में उत्कृष्ट है। सिस्टम का यह हिस्सा ठोस तथ्यों को देखता है: कितने अन्य कंप्यूटर प्रोग्राम उस प्रोग्राम पर निर्भर हैं जिसे बदला जा रहा है, बैंक के दैनिक कार्यों के लिए वह प्रोग्राम कितना महत्वपूर्ण है, और क्या समान परिवर्तनों के कारण अतीत में समस्याएँ हुई हैं। यह एक ठोस, तथ्यात्मक आधार प्रदान करता है। हालाँकि, शोधकर्ता जानते थे कि सबसे महत्वपूर्ण सुराग अक्सर परिवर्तन अनुरोध के स्वयं के असंरचित टेक्स्ट (unstructured text) में छिपे होते हैं—मानव द्वारा लिखे गए मुक्त-रूप विवरण, कार्यान्वयन योजनाएं और बैक-आउट रणनीतियाँ। इसे कैप्चर करने के लिए, उन्होंने एक दूसरा स्तर जोड़ा जो एक अत्यधिक कुशल लाइब्रेरियन की तरह कार्य करता है। एक जटिल भाषा मॉडल (language model) के साथ हर पिछले अनुरोध के हर शब्द को पढ़ने के बजाय, जो अप्रत्याशित हो सकता है, यह प्रणाली ऐतिहासिक रिकॉर्ड के एक विशाल पुस्तकालय को खोजती है ताकि उन परिवर्तनों को ढूँढा जा सके जो प्रस्तावित परिवर्तन के अर्थपूर्ण रूप से (semantically) समान हैं। यह समान अवधारणाओं और तकनीकी विचारों को खोजता है, भले ही उपयोग किए गए शब्द अलग हों।
इस डिज़ाइन की बुद्धिमत्ता इस बात में निहित है कि ये दोनों भाग मिलकर कैसे काम करते हैं। सिस्टम उस लाइब्रेरी सर्च के परिणामों को लेता है—यह तथ्य कि एक प्रस्तावित परिवर्तन अतीत के एक ऐसे परिवर्तन जैसा दिखता है जिसके कारण बड़ा आउटेज हुआ था—और उसे एक एकल, सरल संख्या में परिवर्तित करता है। इस संख्या को फिर ठोस तथ्यों के साथ मुख्य एल्गोरिदम में फीड किया जाता है। यह दृष्टिकोण सिस्टम को मानवीय लेखन के समृद्ध, अव्यवस्थित विवरणों से सीखने की अनुमति देता है, बिना अपने तर्क को समझाने की क्षमता खोए। बैंकिंग जैसे विनियमित वातावरण में, कंप्यूटर केवल इसलिए नहीं कह सकता कि "यह जोखिम भरा लग रहा है" क्योंकि एक आर्टिफिशियल इंटेलिजेंस ने उसे ऐसा कहा है; उसे ठीक से यह बताने में सक्षम होना चाहिए कि किन कारकों ने उस निष्कर्ष में योगदान दिया। जटिल खोज परिणामों को एक एकल डेटा बिंदु में बदलकर, सिस्टम अंतिम निर्णय को पारदर्शी और ऑडिट योग्य बनाए रखता है। शोधकर्ताओं ने अपने संस्थान के वास्तविक दुनिया के डेटा पर इस नए प्लेटफॉर्म का परीक्षण किया, और पुराने प्रश्नावली-आधारित पद्धति के मुकाबले इसके प्रदर्शन की तुलना की। परिणाम आश्चर्यजनक थे। नए सिस्टम ने उच्च-जोखिम वाले परिवर्तनों की सही पहचान की जिन्हें पारंपरिक प्रक्रिया द्वारा छोड़ दिया गया होता, और इसकी दर पुराने तरीके से तीन गुना से अधिक थी। जहाँ पुराना तरीका उन परिवर्तनों में से केवल लगभग पाँच में से एक को पकड़ पाता था जो अंततः बड़ी घटनाओं का कारण बने, वहीं नए सिस्टम ने लगभग दो-तिहाई को पकड़ा। इसने सुरक्षित परिवर्तनों के लिए उच्च स्तर की सटीकता बनाए रखते हुए ऐसा किया, जिससे यह सुनिश्चित हुआ कि समीक्षा टीमें झूठे अलार्म से अभिभूत न हों।
यह प्रणाली अंतिम निर्णय नहीं लेती कि किसी परिवर्तन को स्वीकृत किया जाए या अस्वीकार किया जाए। इसके बजाय, यह मानव समीक्षकों के लिए एक शक्तिशाली निर्णय-सहायता उपकरण (decision-support tool) के रूप में कार्य करती है। यह उन्हें एक स्पष्ट, साक्ष्य-आधारित जोखिम स्कोर और एक विस्तृत विवरण प्रदान करती है कि वह स्कोर क्यों दिया गया, यह उजागर करते हुए कि जोखिम एप्लिकेशन की महत्वपूर्ण प्रकृति से आता है, समान विफलताओं के इतिहास से आता है, या योजना की विशिष्ट शब्दावली से आता है। यह मानव विशेषज्ञों को अपना ध्यान वहाँ केंद्रित करने की अनुमति देता जहाँ इसकी सबसे अधिक आवश्यकता है, बजाय इसके कि वे सैकड़ों कम-जोखिम वाले अनुरोधों को छानते रहें जो कागज़ पर सुरक्षित दिखते हैं लेकिन व्यवहार में खतरनाक हो सकते हैं। शोधकर्ताओं ने पाया कि संरचित डेटा की विश्वसनीयता को असंरचित टेक्स्ट की सूक्ष्मता के साथ जोड़कर, वे एक ऐसा जोखिम मूल्यांकन बना सकते हैं जो पहले की तुलना में अधिक सटीक और अधिक विश्वसनीय है। यह प्रणाली निरंतरता के एक ऐसे स्तर के साथ काम करती है जिससे मानव समीक्षक मेल नहीं खा सकते, यह कभी थकती नहीं, शब्दों के चयन से प्रभावित नहीं होती, और हमेशा हर एकल अनुरोध पर समान कठोर मानकों को लागू करती है। यह कार्य प्रदर्शित करता है कि उच्च-दांव वाले वातावरण में, जोखिम प्रबंधन का भविष्य मशीनों के साथ मनुष्यों को बदलने के बारे में नहीं है, बल्कि ऐसे उपकरण बनाने के बारे में है जो मनुष्यों को उन छिपे हुए खतरों को देखने में मदद करें जिन्हें नियमित प्रक्रियाएं अक्सर अनदेखा कर देती हैं। इस प्लेटफॉर्म की सफलता बताती है कि सही वास्तुशिल्प विकल्पों के साथ, उन्नत डेटा विश्लेषण की शक्ति का लाभ उठाते हुए भी वह स्पष्टता और जवाबदेही बनाए रखना संभव है जिसकी विनियमित उद्योगों को आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।