Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

हर साल, राष्ट्रीय स्वास्थ्य एजेंसियां कागजी कार्रवाई के पहाड़ का सामना करती हैं। जब कोई कंपनी एक नई दवा बेचना चाहती है, तो उसे एक विशाल डोजियर जमा करना होता है जिसमें इस बात का हजारों पन्नों का डेटा होता है कि दवा कैसे बनाई गई, वह शरीर में कैसे काम करती है, और क्या वह सुरक्षित है। कई देशों में, विशेष रूप से सीमित कर्मचारियों वाले देशों में, इन दस्तावेजों की समीक्षा करने में बहुत समय लगता है, जिससे जीवन रक्षक उपचारों तक पहुंच में देरी होती है। बिना किसी समझौते के इस प्रक्रिया को तेज करने के लिए, नियामकों ने "रिलायन्स" (निर्भरता) नामक एक रणनीति अपनाई है। शून्य से शुरुआत करने के बजाय, एक स्थानीय एजेंसी दूसरे देश के एक विश्वसनीय प्राधिकरण द्वारा किए गए कार्य का उपयोग कर सकती है। यदि उस विश्वसनीय प्राधिकरण ने पहले ही दवा को मंजूरी दे दी है, तो स्थानीय टीम उस मूल्यांकन को एक आधार के रूप में उपयोग कर सकती है। हालांकि, यह प्रक्रिया अभी भी अविश्वसनीय रूप से कठिन है। स्थानीय टीम को मूल दस्तावेजों को पढ़ना होगा, यह जांचना होगा कि उत्पाद बिल्कुल वही है या नहीं, किसी भी छोटे अंतर को ढूंढना होगा, और एक नई रिपोर्ट लिखनी होगी जो उनके निर्णय की व्याख्या करे। इसके लिए जटिल संरचनाओं को समझना, टेक्स्ट में छिपी सूक्ष्म त्रुटियों को पहचानना और यह सुनिश्चित करना आवश्यक है कि प्रत्येक निष्कर्ष विशिष्ट साक्ष्य द्वारा समर्थित हो। यदि कोई गलती होती है, या यदि तर्क को स्रोत दस्तावेज़ से जोड़ा नहीं जा सकता है, तो पूरे निर्णय को चुनौती दी जा सकती है, जिससे सार्वजनिक स्वास्थ्य खतरे में पड़ सकता है।

दक्षिण अफ्रीका के यूनिवर्सिटी ऑफ द वेस्टर्न केप के शोधकर्ताओं ने एक नए प्रकार के कंप्यूटर टूल को डिजाइन करके इस समस्या का समाधान किया है, जिसका उद्देश्य मानव विशेषज्ञों को बदलना नहीं, बल्कि एक अत्यधिक संगठित सहायक के रूप में कार्य करना है। वे इस टूल को RAiA कहते हैं। टीम ने केवल टेक्स्ट को सारांशित करने वाला प्रोग्राम नहीं बनाया, क्योंकि एक सारांश उन सूक्ष्म विवरणों को छोड़ सकता है जो चिकित्सा में महत्वपूर्ण होते हैं। इसके बजाय, उन्होंने 'डिजाइन साइंस रिसर्च' नामक एक पद्धति का उपयोग किया, जो एक वास्तविक दुनिया की समस्या के लिए एक विशिष्ट समाधान बनाने और वास्तविक डेटा पर परीक्षण करने से पहले यह परिभाषित करने पर केंद्रित है कि इसे वास्तव में कैसे काम करना चाहिए। उनका लक्ष्य एक ऐसा सिस्टम बनाना था जो दस्तावेजों को पढ़ने और व्यवस्थित करने का भारी काम संभाल सके, जबकि अंतिम निर्णय के लिए मानव विशेषज्ञ को पूरी तरह से नियंत्रण में रखे। इसका परिणाम एक प्रोटोटाइप सिस्टम है जो दस्तावेजों के अराजक ढेर और नियामक द्वारा लिखी जाने वाली स्पष्ट, बचाव योग्य रिपोर्ट के बीच एक सेतु के रूप में कार्य करता है।

इस डिजाइन का मूल हिस्सा सख्त नियमों का एक सेट है जो कंप्यूटर के व्यवहार को नियंत्रित करते हैं। शोधकर्ताओं ने महसूस किया कि चिकित्सा जैसे उच्च-जोखिम वाले वातावरण में एक टूल उपयोगी होने के लिए, इसे "गवर्नेंस-बाउंड" (शासन-बद्ध) होना चाहिए। इसका अर्थ है कि सिस्टम को सुरक्षा रेलों के साथ बनाया गया है जो इसे अपने स्वयं के निर्णय लेने या अपने काम को छिपाने से रोकता है। उदाहरण के लिए, सिस्टम को इस तरह डिजाइन किया गया है कि यह अपने आप किसी दवा को मंजूरी या अस्वीकार नहीं कर सकता; यह केवल संभावित मुद्दों को उजागर कर सकता है और कागजी कार्रवाई के विभिन्न हिस्सों के बीच संबंध सुझा सकता है। हर बार जब कंप्यूटर किसी तथ्य की ओर इशारा करता है, तो उसे यह भी दिखाना चाहिए कि वह तथ्य कहाँ से आया है, उस खोज को मूल दस्तावेज़ के एक विशिष्ट वाक्य से जोड़ना चाहिए। यह सुनिश्चित करता है कि यदि कोई मानव समीक्षक कंप्यूटर के काम पर सवाल उठाता है, तो वे तुरंत स्रोत देख सकते हैं और उसकी पुष्टि कर सकते हैं। सिस्टम प्रत्येक कदम का एक विस्तृत लॉग भी रखता है, जिससे एक पेपर ट्रेल (कागजी प्रमाण) बनता है जो यह साबित करता है कि काम सही ढंग से और सुरक्षित रूप से किया गया था।

इसे बनाने के लिए, टीम ने दवा के डोजियर की समीक्षा के विशाल कार्य को छोटे, प्रबंधनीय टुकड़ों में तोड़ दिया। उन्होंने सिस्टम को अलग-अलग प्रकार की जानकारी को अलग-अलग रूप में देखने के लिए डिजाइन किया। सिस्टम का एक हिस्सा केवल रासायनिक और विनिर्माण विवरणों को देखता है, दूसरा क्लिनिकल ट्रायल परिणामों पर ध्यान केंद्रित करता है, और तीसरा लेबलिंग और निर्देशों की जांच करता है। यह विशेषज्ञों की एक टीम के काम करने के समान है, जहाँ एक व्यक्ति कार के इंजन की जांच करता है जबकि दूसरा ब्रेक की जांच करता है, बजाय इसके कि एक व्यक्ति एक साथ सब कुछ करने की कोशिश करे। सिस्टम इन विभिन्न क्षेत्रों से जानकारी एकत्र करता है और उन्हें एक साथ लाता है, विरोधाभासों या लापता हिस्सों की तलाश करता है। यदि विनिर्माण रिपोर्ट कहती है कि दवा एक फैक्ट्री में बनाई गई थी, लेकिन क्लिनिकल ट्रायल रिपोर्ट संकेत देती है कि वह दूसरी फैक्ट्री में बनाई गई थी, तो सिस्टम मानव के जांच के लिए इस विसंगति को फ्लैग (चिह्नित) करता है। महत्वपूर्ण रूप से, सिस्टम को रूढ़िवादी (कंजर्वेटिव) होने के लिए प्रोग्राम किया गया है; एक ऐसी संभावित समस्या को फ्लैग करना जो वास्तव में कुछ भी नहीं निकली, बेहतर है जिसे मिस कर देने से वास्तविक खतरा हो सकता है।

शोधकर्ताओं ने इस बात पर भी बहुत ध्यान दिया कि मानव विशेषज्ञ मशीन के साथ कैसे बातचीत करता है। इंटरफ़ेस इस तरह से डिजाइन किया गया है कि मानव आसानी से कंप्यूटर द्वारा दिए गए सुझावों को स्वीकार, संपादित या अस्वीकार कर सके। यदि कंप्यूटर कोई गलती करता है, तो मानव उसे सुधार सकता है, और सिस्टम रिकॉर्ड करता है कि सुधार क्यों किया गया था। यह फीडबैक कंप्यूटर के 'दिमाग' को तुरंत बदलने के लिए उपयोग नहीं किया जाता है, जिससे अप्रत्याशित व्यवहार हो सकता है, बल्कि इसे टीम द्वारा बाद में सावधानीपूर्वक समीक्षा के लिए सहेजा जाता है। यह अलगाव सुनिश्चित करता है कि टूल स्थिर और विश्वसनीय बना रहे। सिस्टम एन्क्रिप्शन के माध्यम से संवेदनशील जानकारी, जैसे व्यापार रहस्य या निजी डेटा, की रक्षा भी करता है और यह सुनिश्चित करता है कि केवल अधिकृत लोग ही इसे देख सकें। कंप्यूटर को इस निजी डेटा का उपयोग खुद को सिखाने के लिए करने की अनुमति नहीं है, जो इस जोखिम को रोकता है कि वह जानकारी बाद में लीक हो जाए।

टीम ने इस सिस्टम का एक कामकाजी संस्करण बनाया, जिसे प्रोटोटाइप कहा जाता है, ताकि यह दिखाया जा सके कि प्रक्रिया शुरू से अंत तक कैसे चलेगी। उन्होंने इसे नकली दस्तावेजों का उपयोग करके परीक्षण किया जो वास्तविक दवा आवेदनों की तरह दिखते थे, लेकिन उन्होंने वास्तविक कंपनियों के किसी भी वास्तविक गोपनीय डेटा का उपयोग नहीं किया। प्रदर्शन ने दिखाया कि सिस्टम एक बड़ी फ़ाइल को ले सकता है, उसे सही अनुभागों में वर्गीकृत कर सकता है, प्रासंगिक साक्ष्य ढूंढ सकता है, और एक ऐसी रिपोर्ट का मसौदा तैयार कर सकता है जिसकी मानव विशेषज्ञ समीक्षा कर सके और उस पर हस्ताक्षर कर सके। मानव विशेषज्ञ हर चरण में अंतिम अधिकारी बना रहा, यह तय करते हुए कि साक्ष्य का क्या अर्थ है और क्या दवा सुरक्षित है। प्रोटोटाइप ने सिद्ध किया कि यह डिजाइन संभव था और कार्य प्रवाह तार्किक था, लेकिन शोधकर्ता सावधानी से कहते हैं कि यह अभी तक वास्तविक दुनिया में उपयोग के लिए तैयार कोई अंतिम उत्पाद नहीं है। उन्होंने अभी तक यह नहीं मापा है कि यह प्रक्रिया को कितना तेज बनाता है या वास्तविक दस्तावेजों में त्रुटियों को कितनी सटीकता से पाता है।

इस कार्य का मुख्य योगदान एक नया प्रकार का कंप्यूटर एल्गोरिदम नहीं है, बल्कि चिकित्सा विनियमन के लिए भरोसेमंद उपकरण बनाने का एक ब्लूप्रिंट (खाका) है। शोधकर्ताओं ने दिखाया है कि एक ऐसा आर्टिफिशियल इंटेलिजेंस सिस्टम बनाना संभव है जो शासन के नियमों का सम्मान करता है, निजी डेटा की रक्षा करता है, और मनुष्यों को नियंत्रण में रखता है। उन्होंने दस मार्गदर्शक सिद्धांतों का एक सेट प्रदान किया है जिसका पालन अन्य डेवलपर्स कर सकते हैं यदि वे इसी तरह के उपकरण बनाना चाहते हैं। ये सिद्धांत इस बात पर जोर देते हैं कि टूल को हमेशा अपने निष्कर्षों को साक्ष्य से जोड़ना चाहिए, इसे अपने आप निर्णय कभी नहीं लेना चाहिए, और इसे इस तरह डिजाइन किया जाना चाहिए कि इसके काम का ऑडिट और जांच की जा सके। शुरुआत से ही इन नियमों पर ध्यान केंद्रित करके, टीम ने एक ऐसा मॉडल तैयार किया है जो अफ्रीका और दुनिया भर के नियामकों को सुरक्षा से समझौता किए बिना दवा अनुमोदन की बढ़ती जटिलता को प्रबंधित करने में मदद कर सकता है।

यह अध्ययन इस बारे में सोचने के तरीके में एक महत्वपूर्ण प्रगति है कि तकनीक महत्वपूर्ण क्षेत्रों में मानव विशेषज्ञों का समर्थन कैसे कर सकती है। यह इस विचार से दूर जाता है कि आर्टिफिशियल इंटेलिजेंस को मानव निर्णय को बदलने के बजाय, यह इस पर ध्यान केंद्रित करता है कि यह मानव निर्णय को अधिक सूचित और कुशल कैसे बना सकता है। शोधकर्ताओं ने प्रदर्शित किया है कि सही डिजाइन के साथ, एक कंप्यूटर दस्तावेजों को छांटने और जांचने का उबाऊ काम संभाल सकता है, जिससे मानव विशेषज्ञों को जटिल तर्क और अंतिम निर्णय लेने पर ध्यान केंद्रित करने के लिए मुक्त किया जा सके जो सार्वजनिक स्वास्थ्य की रक्षा करते हैं। हालांकि यह टूल अभी प्रोटोटाइप चरण में है और इसे और अधिक परीक्षण की आवश्यकता है, डिजाइन स्वयं चिकित्सा विनियमन के भविष्य के लिए सुरक्षित, विश्वसनीय और जवाबदेह सिस्टम बनाने के लिए एक स्पष्ट मार्ग प्रदान करता है।