From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

स्वास्थ्य अनुसंधान की आधुनिक दुनिया में, वैज्ञानिक अक्सर कंप्यूटर प्रोग्रामों पर भरोसा करते हैं जो पैटर्न खोजने, बीमारियों का पूर्वानुमान लगाने या उपचार सुझाने के लिए भारी मात्रा में जानकारी से सीखते हैं। ये प्रोग्राम, जिन्हें आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) कहा जाता है, शक्तिशाली उपकरण हैं, लेकिन वे उन पारंपरिक प्रयोगों से अलग तरीके से काम करते हैं जिनका उपयोग शोधकर्ताओं ने दशकों से किया है। एक मानक अध्ययन में, एक वैज्ञानिक लोगों के एक समूह से उनके मेडिकल रिकॉर्ड का उपयोग किसी विशिष्ट प्रश्न के लिए करने की अनुमति मांग सकता है, विश्लेषण चला सकता है, और परिणाम प्रकाशित कर सकता है। एक बार जब अध्ययन पूरा हो जाता है, तो काम आमतौर पर समाप्त माना जाता है। हालांकि, आर्टिफिशियल इंटेलिजेंस इस समयसीमा को बदल देता है। ये सिस्टम डेटा पर प्रशिक्षित किए जा सकते हैं, फिर उन्हें अपडेट, बेहतर और पूरी तरह से नए कार्यों के लिए पुन: तैनात किया जा सकता है। वे पुराने रिकॉर्ड से नई जानकारी भी बना सकते हैं, या इनका उपयोग अनुसंधान टीम के बाहर की कंपनियों द्वारा किया जा सकता है, जिससे यह सवाल उठता है कि यदि कुछ गलत हो जाता है तो जिम्मेदार कौन है। कनाडा के पास 'ट्राइ-काउंसिल पॉलिसी स्टेटमेंट' नामक नियमों का एक सम्मानित सेट है जो मार्गदर्शन करता है कि शोधकर्ता मानव प्रतिभागियों के साथ कैसा व्यवहार करें। ये नियम तीन ठोस विचारों पर आधारित हैं: लोगों का सम्मान करना, उनके कल्याण की देखभाल करना और निष्पक्षता सुनिश्चित करना। हालांकि ये सिद्धांत मजबूत हैं, लेकिन इन्हें आर्टिफिशियल इंटेलिजेंस के सामान्य हिस्सा बनने से पहले लिखा गया था। कनाडा के अनुसंधान समुदाय के सामने बड़ा सवाल यह है कि क्या ये पुराने नियम इन स्मार्ट कंप्यूटर सिस्टमों की बदलती प्रकृति को संभालने के लिए पर्याप्त हैं।

एक शोधकर्ता अब्दोलरेज़ा बाबामहमूदी ने इस सवाल का जवाब देने के लिए यह देखने का प्रयास किया कि कनाडा के वर्तमान नियम स्वास्थ्य में आर्टिफिशियल इंटेलिजेंस पर कैसे लागू होते हैं। यह कोई ऐसा अध्ययन नहीं था जिसने नई दवाओं का परीक्षण किया हो या रोगियों का सर्वेक्षण किया हो; इसके बजाय, यह कनाडा और दुनिया भर की मौजूदा नीतियों, कानूनों और दिशानिर्देशों का एक सावधानीपूर्वक परीक्षण था। शोधकर्ता ने अट्ठाइस विभिन्न दस्तावेजों को एकत्र किया, जिसमें कनाडा की मुख्य अनुसंधान नैतिकता नीति, विश्व स्वास्थ्य संगठन का अंतर्राष्ट्रीय मार्गदर्शन, और ऑस्ट्रेलिया तथा यूरोपीय संघ के नियम शामिल थे। लक्ष्य यह देखना था कि क्या वर्तमान कनाडाई नियम शोधकर्ताओं और नैतिकता समितियों को स्पष्ट निर्देश प्रदान करते हैं कि आर्टिफिशियल इंटेलिजेंस शामिल होने पर क्या करना है। विश्लेषण छह प्रमुख क्षेत्रों पर केंद्रित था: यह तय करना कि क्या अनुसंधान की श्रेणी में आता है, डेटा कहाँ से आता है, क्या कंप्यूटर मॉडल निष्पक्ष रूप से काम करता है, मनुष्य नियंत्रण कैसे रखते हैं, बाद में सिस्टम में बदलावों को कैसे संभालना है, और स्वदेशी समुदायों के अधिकारों का सम्मान कैसे करना है।

अध्ययन में पाया गया कि जबकि कनाडा के मौजूदा नियम नैतिक स्वर निर्धारित करने में अच्छे हैं, वे शोधकर्ताओं और नैतिकता बोर्डों को दैनिक निर्णय लेने के लिए मार्गदर्शन करने हेतु पर्याप्त विस्तृत नहीं हैं। वर्तमान नीति कहती है कि शोधकर्ताओं को लोगों का सम्मान करना चाहिए और निष्पक्षता सुनिश्चित करनी चाहिए, लेकिन यह निर्दिष्ट नहीं करती है कि एक शोधकर्ता को यह साबित करने के लिए क्या सबूत दिखाने की आवश्यकता है कि एक कंप्यूटर मॉडल निष्पक्ष है। यह यह नहीं बताता कि अनुमोदन के छह महीने बाद मॉडल को अपडेट करने पर क्या होता है, या यदि कोई तीसरी पार्टी कंपनी डेटा का उस तरह से उपयोग करती है जिसकी शोधकर्ता ने अपेक्षा नहीं की थी, तो जिम्मेदार कौन है। शोधकर्ता ने नोट किया कि इन विशिष्ट निर्देशों के बिना, नैतिकता समितियां अनुमान लगाने की स्थिति में छोड़ दी जाती हैं। कुछ बहुत अधिक जानकारी मांग सकते हैं, जिससे महत्वपूर्ण कार्य धीमा हो जाता है, जबकि अन्य महत्वपूर्ण जोखिमों को मिस कर सकते हैं क्योंकि उन्हें पता नहीं होता कि क्या देखना है। पेपर का तर्क है कि सिद्धांत सही और गलत के बीच निर्णय लेने के लिए पर्याप्त हैं, लेकिन वे लोगों को ठीक से क्या करना है, यह बताने के लिए परिचालन रूप से पर्याप्त नहीं हैं।

इसे हल करने के लिए, शोधकर्ता ने एक नए तरीके का प्रस्ताव दिया, जिसे "लाइफसाइकिल रिव्यू" (जीवनचक्र समीक्षा) कहा जाता है। अनुसंधान को एक एकल घटना के रूप में मानने के बजाय जो अध्ययन प्रकाशित होने के साथ समाप्त हो जाता है, यह दृष्टिकोण इसे छह विशिष्ट चेकपॉइंट्स के साथ एक निरंतर यात्रा के रूप में देखता है। पहला चेकपॉइंट उद्देश्य है: यह स्पष्ट रूप से परिभाषित करना कि आर्टिफिशियल इंटेलिजेंस क्या करेगा और यह किसकी मदद करेगा। दूसरा डेटा है: जानकारी कहाँ से आई और किसके पास इसका उपयोग करने का अधिकार है, इसका मानचित्रण करना। तीसरा विकास है: यह जांचना कि कंप्यूटर मॉडल कैसे बनाया और टेस्ट किया गया था। चौथा सत्यापन है: यह सुनिश्चित करना कि मॉडल विभिन्न समूहों के लिए भी अच्छा काम करता है, न कि केवल औसत के लिए। पांचवा परिनियोजन (डिप्लॉयमेंट) है: यह सुनिश्चित करना कि एक इंसान कंप्यूटर के सुझावों को समझ सके और यदि वह गलती करता है तो उसे रोक सके। अंतिम चेकपॉइंट परिवर्तन और सेवानिवृत्ति है: मॉडल को अपडेट करने, नई जगह ले जाने या बंद करने के लिए योजना बनाना।

यह नया ढांचा सुझाव देता है कि शोधकर्ताओं को इन छह चरणों में से प्रत्येक पर विशिष्ट सूचना प्रस्तुत करनी चाहिए। उदाहरण के लिए, जब एक मॉडल का पहली बार प्रस्ताव दिया जाता है, तो शोधकर्ता को इसके इच्छित उपयोग की व्याख्या करनी चाहिए। बाद में, यदि मॉडल को अपडेट किया जाता है या यदि डेटा स्रोत बदलते हैं, तो शोधकर्ता को नैतिकता समिति को इसकी रिपोर्ट करनी चाहिए ताकि यह देखा जा सके कि क्या परिवर्तन इतना महत्वपूर्ण है कि एक नई समीक्षा की आवश्यकता है। पेपर इस बात पर जोर देता है कि यह कागजी कार्रवाई का पहाड़ खड़ा करने के बारे में नहीं है, बल्कि यह सुनिश्चित करने के बारे में है कि सही लोग सही समय पर सही निर्णय ले रहे हैं। यह सुझाव देता है कि एक कम जोखिम वाले अध्ययन के लिए केवल कुछ विवरणों की आवश्यकता हो सकती है, जबकि रोगी देखभाल को प्रभावित करने वाले उच्च-जोखिम वाले अध्ययन के लिए बहुत अधिक विस्तृत योजना की आवश्यकता होगी।

पेपर का एक महत्वपूर्ण हिस्सा कनाडा के स्वदेशी लोगों के अधिकारों को संबोधित करता है। वर्तमान नियम पहले से ही पहचानते हैं कि स्वदेशी समुदायों के पास न केवल व्यक्तिगत अधिकार, बल्कि डेटा पर सामूहिक अधिकार भी हैं। शोधकर्ता ने पाया कि हालांकि मौजूदा नीति इसे स्वीकार करती है, लेकिन यह स्पष्ट नहीं करती है कि ये अधिकार आर्टिफिशियल इंटेलिजेंस पर कैसे लागू होते हैं। उदाहरण के लिए, यदि एक कंप्यूटर मॉडल को एक स्वदेशी समुदाय के डेटा पर प्रशिक्षित किया जाता है, तो क्या उस समुदाय के पास तब कहने का अधिकार है जब उस मॉडल को बाद में किसी कंपनी को बेचा जाता है या किसी अन्य उद्देश्य के लिए उपयोग किया जाता है? पेपर का तर्क है कि इन विशिष्ट शासन संबंधी प्रश्नों का उत्तर बाहरी लोगों द्वारा लिखी गई सामान्य नीति द्वारा नहीं दिया जा सकता है। इसके बजाय, शोधकर्ता स्पष्ट रूप से कहता है कि इन विशिष्ट शासन संबंधी प्रश्नों का नेतृत्व स्वयं स्वदेशी समुदायों द्वारा किया जाना चाहिए। प्रस्तावित ढांचा इन समुदायों के लिए एक स्थान छोड़ता है जहाँ वे अपने स्वयं के नियम परिभाषित कर सकें कि उनके डेटा और परिणामी कंप्यूटर मॉडल के साथ कैसा व्यवहार किया जाए, जिससे यह सुनिश्चित हो सके कि उनकी सत्ता का सम्मान किया जाए और उन्हें एक समान समाधान द्वारा ओवरराइड न किया जाए।

शोधकर्ता ने यह भी देखा कि अन्य देश इन मुद्दों को कैसे संभालते हैं। विश्व स्वास्थ्य संगठन और ऑस्ट्रेलिया ने आर्टिफिशियल इंटेलिजेंस के लिए विशिष्ट मार्गदर्शिकाएँ बनाना शुरू कर दिया है, और यूरोपीय संघ के पास ऐसे कानून हैं जो उच्च-जोखिम वाले सिस्टम की सख्त निगरानी की आवश्यकता रखते हैं। पेपर सुझाव देता है कि कनाडा को इन कानूनों की नकल बिल्कुल नहीं करनी चाहिए, लेकिन वह उनकी संरचना से सीख सकता है। एक समान "जीवंत" मार्गदर्शिका को अपनाकर जो तकनीक के बदलने के साथ अपडेट की जा सकती है, कनाडा अपने मूल नैतिक सिद्धांतों को स्थिर रखते हुए नए चुनौतियों को संभालने के लिए आवश्यक विवरण जोड़ सकता है। अध्ययन का निष्कर्ष है कि वर्तमान प्रणाली टूटी हुई नहीं है, बल्कि यह अपूर्ण है। इसे अपने मजबूत नैतिक सिद्धांतों और आर्टिफिशियल इंटेलिजेंस के काम करने की व्यावहारिक वास्तविकताओं के बीच एक सेतु की आवश्यकता है।

प्रस्तावित समाधान एक कार्यशील मॉडल है जिसका परीक्षण और सुधार किया जा सकता है। शोधकर्ता यह दावा नहीं कर रहा है कि यह ढांचा पूर्ण है या यह तुरंत हर समस्या को हल कर देता है। इसके बजाय, इसे चर्चा और भविष्य के सत्यापन के लिए एक उपकरण के रूप में प्रस्तुत किया गया है। पेपर सुझाव देता है कि इस मॉडल को मानक नियम बनने से पहले, वास्तविक शोधकर्ताओं और नैतिकता समितियों के साथ इसका परीक्षण किया जाना चाहिए ताकि यह देखा जा सके कि क्या यह वास्तव में उन्हें अनावश्यक देरी के बिना बेहतर निर्णय लेने में मदद करता है। अंतिम लक्ष्य एक ऐसी प्रणाली बनाना है जहाँ आर्टिफिशियल इंटेलिजेंस का उपयोग स्वास्थ्य में सुधार के लिए किया जा सके, लेकिन जहाँ शामिल लोग सुरक्षित हों, डेटा का जिम्मेदारी से उपयोग किया जाए, और प्रभावित समुदायों की भी तकनीक के शासन में वास्तविक आवाज हो। प्रक्रिया को स्पष्ट, प्रबंधनीय चरणों में तोड़कर, इस ढांचे का लक्ष्य आर्टिफिशियल इंटेलिजेंस अनुसंधान की जटिल दुनिया को इसमें शामिल सभी लोगों के लिए अधिक पारदर्शी और जवाबदेह बनाना है।