Separating AI-assisted authoring from governed execution through specification-driven composition A design framework and industrial experience report for explainable automation in regulated data transformation
यह शोध पत्र एक विनिर्देश-संचालित (specification-driven) संयोजन ढांचे का प्रस्ताव करता है जो एआई-सहायता प्राप्त लेखन को नियंत्रित निष्पादन से अलग करके विनियमित डेटा वर्कफ़्लो में एआई के सुरक्षित उपयोग को सक्षम बनाता है, जिससे यह सुनिश्चित होता है कि केवल सत्यापित, संस्करणबद्ध और पूर्णतः पता लगाने योग्य आर्टिफ़ैक्ट्स ही संयोजित और निष्पादित किए जाएं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
चिकित्सा और वित्त जैसे विनियमित उद्योगों की दुनिया में, डेटा केवल एक स्थान से दूसरे स्थान पर प्रवाहित नहीं होता है; इसे पूर्ण सटीकता के साथ रूपांतरित किया जाना चाहिए। जब कोई फार्मास्युटिकल कंपनी सरकारी समीक्षा के लिए डेटा तैयार करती है, तो प्रत्येक संख्या, तिथि और श्रेणी को सख्त नियमों का पालन करना चाहिए। यदि कोई कंप्यूटर प्रोग्राम इस प्रक्रिया में गलती करता है, तो इसके परिणाम गंभीर हो सकते हैं, जो आवेदन की अस्वीकृति से लेकर सुरक्षा जोखिमों तक हो सकते हैं। दशकों से, इंजीनियर इन कार्यक्रमों को लाइन दर लाइन कोड लिखकर बनाते आए हैं, यह सुनिश्चित करते हुए कि हर कदम को चलाने से पहले उसकी जांच, परीक्षण और अनुमोदन किया जाए। यह प्रक्रिया धीमी है लेकिन विश्वसनीय है क्योंकि हर निर्णय पर नियंत्रण मनुष्यों के हाथ में रहता है।
आज, आर्टिफिशियल इंटेलिजेंस (AI) इन कार्यक्रमों को लिखने का एक नया तरीका प्रदान करता है। ये सिस्टम किसी कार्य का विवरण पढ़ सकते हैं और सेकंडों में आवश्यक कोड उत्पन्न कर सकते हैं। विचारों की खोज करने या किसी प्रोग्राम के प्रारंभिक संस्करणों का मसौदा तैयार करने के लिए यह गति अविश्वसनीय रूप से उपयोगी है। हालाँकि, उच्च-दांव वाले वातावरण में, गति की कीमत सुरक्षा से नहीं चुकाई जा सकती। एक कंप्यूटर को केवल सही उत्तर का अनुमान लगाकर उसे तुरंत चलाने की अनुमति नहीं दी जा सकती। आधुनिक इंजीनियरों के लिए मुख्य चुनौती यह है कि वे परिणाम को समझाने, सत्यापित करने और नियंत्रित करने की क्षमता खोए बिना आर्टिफिशियल इंटेलिजेंस की गति का उपयोग कैसे करें। उन्हें एक ऐसा तरीका चाहिए जिससे मशीन को काम का मसौदा बनाने दिया जा सके, लेकिन अंतिम परिणाम को सुरक्षित, सही और नियमों के अनुरूप होने की पुष्टि करने के लिए मनुष्य को प्रक्रिया के भीतर (इन द लूप) रखा जा सके।
यह वह समस्या है जिसे अमेज़न वेब सर्विसेज के एक शोधकर्ता रोस्तislav मार्कोव, विनियमित डेटा रूपांतरण पर अपने हालिया कार्य में संबोधित करते हैं। वे काम करने का एक नया तरीका प्रस्तावित करते हैं जो कोड लिखने या मसौदा तैयार करने के कार्य को उसे चलाने के कार्य से अलग करता है। आर्टिफिशियल इंटेलिजेंस मॉडल को प्रोग्राम उत्पन्न करने देने और फिर यह उम्मीद करने के बजाय कि वह काम करेगा, यह नया ढांचा (फ्रेमवर्क) AI को पहले एक विस्तृत योजना बनाने के लिए मजबूर करता है। यह योजना, जिसे 'स्पेसिफिकेशन' (विशिष्टीकरण) कहा जाता है, ठीक से वर्णन करती है कि क्या किया जाना है, यह किस डेटा का उपयोग करेगा, और इसे किन नियमों का पालन करना होगा। योजना स्वयं प्रोग्राम नहीं है; यह एक अलग, कड़ाई से नियंत्रित प्रणाली के लिए निर्देशों का एक सेट है जिसे 'कंपोजर' कहा जाता है।
कंपोजर एक द्वारपाल (गेटकीपर) के रूप में कार्य करता है। यह AI द्वारा बनाई गई योजना को देखता है और इसकी तुलना पूर्व-अनुमोदित, परीक्षित और सत्यापित 'बिल्डिंग ब्लॉक्स' (निर्माण खंडों) की एक लाइब्रेरी से करता है। ये ब्लॉक विशिष्ट फंक्शन हैं जिन्हें इंजीनियरों ने पहले ही सही ढंग से काम करने के लिए प्रमाणित किया है। कंपोजर नई लॉजिक (तर्क) का आविष्कार नहीं करता या समस्या को हल करने का अनुमान नहीं लगाता। यह केवल योजना के चरणों को लाइब्रेरी में मौजूद अनुमोदित ब्लॉक्स से जोड़ता है। यदि योजना में ऐसा चरण पूछा जाता है जिसका कोई मिलान करने वाला अनुमोदित ब्लॉक नहीं है, या यदि डेटा प्रकार नियमों से मेल नहीं खाते हैं, तो कंपोजर रुक जाता है और योजना को खारिज कर देता है। यह तब तक कोड नहीं चलाएगा जब तक कि प्रत्येक हिस्से को लाइब्रेरी और नियमों के विरुद्ध सत्यापित न कर लिया जाए। यह सुनिश्चित करता है कि भले ही आर्टिफिशियल इंटेलिजेंस अपने मसौदे में गलती करे, वह गलती वास्तविक डेटा को छूने से पहले ही पकड़ ली जाए।
मार्कोव ने इस विचार का परीक्षण क्लिनिकल डेटा से जुड़े एक वास्तविक परिदृश्य का उपयोग करके किया, जहाँ रोगी की जानकारी को सरकारी प्रस्तुतिकरण के लिए एक मानक प्रारूप में व्यवस्थित किया जाना चाहिए। अपने प्रयोगों में, उन्होंने एक आर्टिफिशियल इंटेलिजेंस को इन रूपांतरणों के लिए कोड लिखने के लिए विभिन्न स्थितियों के तहत कहा। जब AI को केवल एक सरल टेक्स्ट विवरण दिया गया, तो इसने अक्सर ऐसा कोड बनाया जो दिखने में सही था लेकिन बड़े सिस्टम में फिट होने में विफल रहा या छिपे हुए नियमों का उल्लंघन करता था। जब AI को स्पष्ट नियमों और अनुमोदित बिल्डिंग ब्लॉक्स के संदर्भ के साथ एक संरचित योजना दी गई, तो परिणाम बहुत बेहतर थे। मुख्य निष्कर्ष यह नहीं था कि AI अधिक स्मार्ट हो गया, बल्कि यह था कि उसके आसपास का सिस्टम अधिक मजबूत हो गया। आर्टिफैक्ट्स (योजनाएं, परीक्षण और अनुमोदित ब्लॉक्स) ने सुरक्षा सुनिश्चित करने का मुख्य कार्य किया, न कि स्वयं AI मॉडल ने।
यह ढांचा "एक्सप्लेनेबल बाय कंस्ट्रक्शन" (निर्माण द्वारा व्याख्या योग्य) नामक एक अवधारणा पेश करता है। आर्टिफिशियल इंटेलिजेंस के बारे में कई चर्चाओं में, लोग इस बात को लेकर चिंतित रहते हैं कि किसी मॉडल ने एक विशिष्ट निर्णय क्यों लिया, और अक्सर एल्गोरिदम के "ब्लैक बॉक्स" के भीतर देखने का प्रयास करते हैं। यह दृष्टिकोण एक अलग रास्ता अपनाता है। यह तर्क देता है कि विनियमित कार्यों के लिए, आपको यह समझने की आवश्यकता नहीं है कि AI के आंतरिक विचार क्या थे। इसके बजाय, आपको उन इंजीनियरिंग निर्णयों को समझने की आवश्यकता है जो अंतिम परिणाम की ओर ले गए। क्योंकि सिस्टम केवल अनुमोदित ब्लॉक्स के उपयोग की अनुमति देता है और अंतिम प्रोग्राम बनाने के लिए किए गए प्रत्येक चरण का पूर्ण रिकॉर्ड रखता है, इसलिए कोई भी अंतिम परिणाम को देख सकता है और इसे उस विशिष्ट योजना, विशिष्ट अनुमोदित ब्लॉक्स और विशिष्ट नियमों तक वापस ट्रैक कर सकता है जिनका पालन किया गया था। व्याख्या AI के विचारों के बारे में एक अनुमान नहीं है; यह एक तथ्यात्मक रिकॉर्ड है कि क्या अनुमोदित किया गया था और इसे कैसे असेंबल किया गया था।
इस प्रणाली को सिद्ध करने के लिए, शोधकर्ता ने इस ढांचे का एक छोटा, कामकाजी संस्करण बनाया। उन्होंने दिखाया कि यदि आप सिस्टम को वही योजना और वही ब्लॉक लाइब्रेरी दो बार देते हैं, तो यह हर बार बिल्कुल समान परिणाम देता है। यह निरंतरता उन विनियमित वातावरणों के लिए अत्यंत महत्वपूर्ण है जहाँ पुनरुत्पादकता (रिप्रोड्यूसिबिलिटी) आवश्यक है। उन्होंने यह भी प्रदर्शित किया कि यदि लाइब्रेरी में एक नया बिल्डिंग ब्लॉक जोड़ा जाता है, तो सिस्टम गलती से पुराने प्लान के लिए उसका उपयोग नहीं करता है; यह उस विशिष्ट संस्करण पर टिका रहता है जो योजना बनने के समय अनुमोदित किया गया था। यह पृष्ठभूमि में होने वाले परिवर्तनों को प्रक्रिया के परिणाम को अप्रत्याशित रूप से बदलने से रोकता है। सिस्टम प्रत्येक प्रोग्राम जिसे वह बनाता है, उसके लिए एक विस्तृत लॉग या 'ट्रेस' उत्पन्न करता है। यह लॉग अंतिम प्रोग्राम को मूल योजना, प्रत्येक बिल्डिंग ब्लॉक के विशिष्ट संस्करण और पास किए गए सत्यापन जांचों से जोड़ता है।
शोध सुझाव देता है कि विनियमित क्षेत्रों में आर्टिफिशियल इंटेलिजेंस के भविष्य के लिए कर्तव्यों का यह पृथक्करण आवश्यक है। यह संगठनों को विचारों का मसौदा तैयार करने और कोड लिखने के लिए AI की गति का उपयोग करने की अनुमति देता है, लेकिन यह निष्पादन (एग्जीक्यूशन) का अधिकार एक नियंत्रित, नियत (डिटरमिनिस्टिक) सिस्टम के हाथों में रखता है। AI एक शक्तिशाली सहायक बन जाता है जो मनुष्यों को बेहतर योजनाएं लिखने में मदद करता है, लेकिन यह वह सत्ता नहीं है जो यह तय करती है कि क्या चलेगा। प्रोग्राम चलाने का अंतिम निर्णय एक वैध योजना की उपस्थिति, अनुमोदित घटकों की मौजूदगी और सत्यापन प्रक्रिया के सफल समापन पर निर्भर करता है। यह दृष्टिकोण मानवीय निरीक्षण की आवश्यकता को समाप्त नहीं करता है; बल्कि, यह मनुष्यों को उस निरीक्षण को प्रबंधित करने के लिए बेहतर उपकरण प्रदान करता है। योजनाओं, नियमों और अनुमोदित ब्लॉक्स जैसे आर्टिफैक्ट्स पर ध्यान केंद्रित करके, यह ढांचा एक ऐसी सीमा बनाता है जहाँ आर्टिफिशियल इंटेलिजेंस उपयोगी हो सकता है बिना जोखिम बने।
अंततः, यह कार्य प्रदर्शित करता है कि सुरक्षित स्वचालन (ऑटोमेशन) का मार्ग आर्टिफिशियल इंटेलिजेंस को अधिक व्याख्या योग्य बनाने के बारे में नहीं है, बल्कि स्वचालन बनाने की प्रक्रिया को अधिक पारदर्शी बनाने के बारे में है। जब चरण स्पष्ट होते हैं, नियम सख्त होते हैं और घटक सत्यापित होते हैं, तो परिणाम एक ऐसा सिस्टम होता है जिस पर भरोसा किया जा सकता है। शोधकर्ता का अनुभव दिखाता है कि जबकि आर्टिफिशियल इंटेलिजेंस प्रशंसनीय कोड उत्पन्न कर सकता है, यह स्पेसिफिकेशन्स, टेस्ट और अनुमोदित लाइब्रेरी का परिवेश ही है जो सुनिश्चित करता है कि कोड वास्तव में सही और उपयोग के लिए सुरक्षित है। मॉडल की बुद्धिमत्ता से प्रक्रिया के शासन (गवर्नेंस) की ओर यह बदलाव, उन उद्योगों के लिए एक व्यावहारिक मार्ग प्रदान करता है जो गलत होने का जोखिम नहीं उठा सकते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।