Invisible Agents, Uninformed Patients: Towards Responsible Deployment Of Autonomous AI Diagnostic Agents In Sub-Saharan Africa

उप-सहारा अफ्रीका के हलचल भरे क्लीनिकों और दूरदराज के गांवों में, लोग चिकित्सा देखभाल तक कैसे पहुँचते हैं, इसमें एक शांत क्रांति हो रही है। वर्षों से, डॉक्टर उन उपकरणों पर निर्भर रहे हैं जो उन्हें निर्णय लेने में मदद करते हैं, जो एक दूसरी जोड़ी आँखों या एक संदर्भ मार्गदर्शिका के रूप में कार्य करते हैं। लेकिन तकनीक की एक नई पीढ़ी आ गई है: स्वायत्त कृत्रिम बुद्धिमत्ता (ऑटोनॉमस आर्टिफिशियल इंटेलिजेंस) एजेंट। अतीत के सहायक एजेंटों के विपरीत, ये सिस्टम डॉक्टर के सवाल पूछने का इंतज़ार नहीं करते हैं। इसके बजाय, वे रोगी के डेटा—जैसे कि लक्षण, एक्स-रे इमेज, या रक्त परीक्षण के परिणाम—को लेते हैं और स्वतंत्र रूप से एक निदान या इस पर निर्णय देते हैं कि रोगी को आगे कहाँ जाना चाहिए। वे बिना किसी मानवीय निगरानी के काम करते हैं। यह बदलाव इस क्षेत्र में विशेषज्ञ डॉक्टरों की भारी कमी का एक शक्तिशाली समाधान प्रदान करता है, जो उन लाखों लोगों तक देखभाल पहुँचाने का वादा करता है जो अन्यथा बिना उपचार के रह जाते। हालाँकि, इस गति के साथ एक गहरा प्रश्न उठता है जिसे शायद ही कभी पूछा गया है: यदि कोई मशीन अकेले जीवन बदलने वाला चिकित्सा निर्णय लेती है, तो क्या रोगी को पता होता है कि ऐसा हो रहा है?

शोधकर्ता पर्सी ब्राउन और क्वेकू यामोआ का एक हालिया शोध पत्र ठीक इसी अंतर की जांच करता है। उनका तर्क है कि जबकि तपेदिक (टीबी) और डायबिटिक रेटिनोपैथी जैसी बीमारियों का निदान करने वाली तकनीक तेजी से आगे बढ़ रही है, इन निदानों को प्राप्त करने वाले लोगों के लिए नियम और सुरक्षात्मक उपाय उस गति से नहीं बढ़े हैं। शोधकर्ताओं ने पाया कि उप-सहारा अफ्रीका के कई हिस्सों में, रोगी अक्सर पूरी तरह से अनभिज्ञ होते हैं कि एक स्वायत्त कंप्यूटर प्रोग्राम उनके स्वास्थ्य डेटा का विश्लेषण कर रहा है और उनके उपचार पर अंतिम निर्णय ले रहा है। जागरूकता की यह कमी एक खतरनाक शून्य पैदा करती है जहाँ यदि मशीन कोई गलती करती है, तो स्पष्ट रूप से कोई भी जिम्मेदार नहीं होता। शोध पत्र सुझाव देता है कि केवल बेहतर, अधिक सटीक मशीनें बनाना पर्याप्त नहीं है; पूरे सिस्टम को फिर से डिजाइन करने की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि रोगी सूचित हों, वे मानव द्वारा दूसरी राय (सेकंड ओपिनियन) मांग सकें, और समझ सकें कि निर्णय तक कैसे पहुँचा गया।

इस मुद्दे के पैमाने को समझने के लिए, शोधकर्ताओं ने महाद्वीप में इन प्रणालियों के वर्तमान उपयोग के तीन विशिष्ट उदाहरणों को देखा। तंजानिया में, चेस्ट एक्स-रे का विश्लेषण करके तपेदिक की जांच के लिए कंप्यूटर सॉफ्टवेयर का व्यापक रूप से उपयोग किया जाता है। कई दूरदराज के क्षेत्रों में, छवियों को देखने के लिए रेडियोलॉजिस्ट उपलब्ध नहीं होते हैं। सॉफ्टवेयर को एक्स-रे पढ़ने और यह तय करने के लिए डिज़ाइन किया गया है कि रोगी को बीमारी है या नहीं, और अक्सर रोगी को उपचार के लिए भेजने या घर भेजने से पहले किसी मनुष्य द्वारा परिणाम की समीक्षा किए बिना ही यह निर्णय लिया जाता है। जाम्बिया में, डायबिटिक रेटिनोपैथी (एक ऐसी स्थिति जो अंधापन पैदा कर सकती है) और तपेदिक की जांच के लिए इसी तरह के डीप लर्निंग सिस्टम का उपयोग किया जाता है। इन प्रणालियों को तकनीकी रूप से अच्छा प्रदर्शन करते हुए सिद्ध किया गया है, जो अध्ययनों में मानव डॉक्टरों के प्रदर्शन के बराबर है। फिर भी, जब ये उपकरण अनुसंधान प्रयोगशालाओं से वास्तविक क्लीनिकों में पहुँचे, तो मरीजों को शायद ही कभी बताया गया कि एक कंप्यूटर निदान कर रहा है, और न ही उन्हें परिणाम के बारे में चिंतित होने पर मानव समीक्षा का अनुरोध करने का कोई तरीका दिया गया।

घाना में स्थिति और भी प्रत्यक्ष है, जहाँ मोबाइल हेल्थ चैटबॉट्स लोगों के लिए चिकित्सा सलाह लेने का प्राथमिक तरीका बनते जा रहे हैं। ये डिजिटल सहायक फोन पर टेक्स्ट संदेशों के माध्यम से रोगियों से उनके लक्षणों के बारे में पूछते हैं और फिर जोखिम मूल्यांकन या आगे क्या करना है, इस पर सिफारिश प्रदान करते हैं। कई उपयोगकर्ताओं के लिए, यह चैटबॉट स्वास्थ्य प्रणाली के साथ संपर्क का एकमात्र बिंदु है। शोधकर्ताओं ने पाया कि ये इंटरैक्शन स्वायत्त नैदानिक एजेंट के रूप में कार्य करते हैं, फिर भी इंटरफ़ेस शायद ही कभी यह खुलासा करता है कि एक एल्गोरिदम स्वास्थ्य संबंधी निर्धारण कर रहा है। एक रोगी को गंभीर सिफारिश या उनके लक्षणों को खारिज करते हुए प्राप्त हो सकता है, बिना यह जाने कि वह निर्णय किसी व्यक्ति के बजाय एक मशीन ने लिया है। तीनों मामलों में, तकनीक अपने इंजीनियरों द्वारा इच्छित रूप से कार्य कर रही है, लेकिन विश्वास और जवाबदेही के मानवीय तत्व को पीछे छोड़ दिया गया है।

लेखकों द्वारा पहचाना गया मुख्य मुद्दा एक "पारदर्शिता की कमी" (ट्रांसपेरेंसी डेफिसिट) है जो दो स्तरों पर कार्य करती है। पहला, तकनीक स्वयं अक्सर एक "ब्लैक बॉक्स" होती है, जिसका अर्थ है कि डेवलपर्स भी हमेशा यह नहीं समझा सकते कि कंप्यूटर एक विशिष्ट निष्कर्ष तक कैसे पहुँचा। दूसरा, और रोगी के लिए अधिक महत्वपूर्ण, संचार की विफलता है। रोगियों को यह नहीं बताया जाता कि एक स्वायत्त एजेंट शामिल है, एजेंट क्या करने में सक्षम है, या यदि वे परिणाम से असहमत हैं तो उनके अधिकार क्या हैं। यह जवाबदेही में एक संरचनात्मक अंतर पैदा करता है। यदि एक मानव डॉक्टर गलती करता है, तो रोगी जानता है कि किसे जिम्मेदार ठहराना है और वह निर्णय को चुनौती दे सकता है। यदि एक स्वायत्त प्रणाली गलती करती है और किसी मनुष्य ने इसकी समीक्षा नहीं की है, तो जिम्मेदारी की कड़ी टूट जाती है। रोगी एक ऐसे चिकित्सा परिणाम के साथ रह जाता है जिसे वह समझ नहीं पाया और जिसके पास इसे चुनौती देने का कोई स्पष्ट मार्ग नहीं है।

इन निष्कर्षों के जवाब में, शोध पत्र इन तकनीकों के जिम्मेदार उपयोग के मार्गदर्शन के लिए तीन सरल लेकिन आवश्यक सिद्धांतों पर आधारित एक नया ढांचा प्रस्तावित करता है। पहला सिद्धांत "एजेंट-जागरूक सूचित सहमति" (एजेंट-अवेयर इन्फॉर्म्ड कंसेंट) है। इसका अर्थ है कि किसी रोगी के डेटा का स्वायत्त प्रणाली द्वारा विश्लेषण किए जाने से पहले, उन्हें स्पष्ट रूप से और सरल भाषा में बताया जाना चाहिए कि निर्णय एक कंप्यूटर ले रहा है, न कि मनुष्य। यह प्रकटीकरण विभिन्न स्तरों की शिक्षा वाले लोगों के लिए सुलभ और उनकी स्थानीय भाषाओं में होना चाहिए, जिससे यह सुनिश्चित हो सके कि सहमति केवल एक औपचारिकता नहीं बल्कि वास्तव में सूचित है।

दूसरा सिद्धांत एक "मानवीय ओवरराइड" (ह्यूमन ओवरराइड) को एक संरचनात्मक आवश्यकता के रूप में मांगता है। किसी भी स्वायत्त प्रणाली को ऐसा अंतिम चिकित्सा निर्णय जारी करने की अनुमति नहीं दी जानी चाहिए जिसकी समीक्षा किसी पेशेवर मानव द्वारा न की जा सके। प्रत्येक प्रणाली को एक अंतर्निहित मार्ग के साथ डिज़ाइन किया जाना चाहिए जो रोगी या स्थानीय स्वास्थ्य कार्यकर्ता को मशीन के आउटपुट को रोकने और उपचार शुरू होने से पहले मानव समीक्षा का अनुरोध करने की अनुमति देता है। यह समृद्ध अस्पतालों के लिए कोई विलासिता नहीं है, बल्कि एक मौलिक सुरक्षा विशेषता है जिसे संसाधनों की कमी के बावजूद हर तैनाती में मौजूद होना चाहिए।

तीसरा सिद्धांत "संदर्भगत व्याख्यात्मकता" (कॉन्टेक्स्टुअली एडेप्टेड एक्सप्लेनेबिलिटी) का आह्वान करता है। हालांकि AI के निर्णय के पीछे की जटिल गणित को रोगी को समझाना असंभव हो सकता है, लेकिन सिफारिश का कारण इस तरह से संप्रेषित किया जाना चाहिए जिसे वे समझ सकें। तकनीकी शब्दावली के बजाय, सिस्टम को यह बताना चाहिए कि उसने क्या पाया और क्यों, जो रोगी के साक्षरता स्तर और भाषा के अनुरूप हो। यह सुनिश्चित करता है कि पारदर्शिता केवल इंजीनियरों के लिए एक तकनीकी विशेषता नहीं है, बल्कि उपचार प्राप्त करने वाले व्यक्ति के लिए एक वास्तविक अनुभव है।

शोधकर्ता इस बात पर जोर देते हैं कि ये सिद्धांत कृत्रिम बुद्धिमत्ता के खंडन में नहीं हैं, जो उन क्षेत्रों में जीवन बचाने की वास्तविक क्षमता रखती है जहाँ डॉक्टरों की कमी है। इसके बजाय, उनका तर्क है कि तैनाती की वर्तमान गति आवश्यक शासन (गवर्नेंस) से आगे निकल गई है। ये मशीनें क्या कर सकती हैं, इसके प्रति उत्साह रोगी के अधिकारों की कीमत पर नहीं होना चाहिए। इन तीन सुरक्षा उपायों को स्वायत्त एजेंटों के डिजाइन और तैनाती में शामिल करके, स्वास्थ्य प्रणालियाँ यह सुनिश्चित कर सकती हैं कि देखभाल का विस्तार सबसे कमजोर लोगों को डिजिटल धुंध में पीछे न छोड़ दे। शोध पत्र निष्कर्ष निकालता है कि इन संरचनात्मक परिवर्तनों के बिना, अफ्रीकी स्वास्थ्य सेवा में AI का वादा अधूरा है, जो गति और दक्षता तो प्रदान करता है लेकिन उस जवाबदेही और विश्वास को देने में विफल रहता है जो किसी भी उपचार संबंध की नींव है।