The Doctor Will (Still) See You Now: On the Structural Limits of Agentic AI in Healthcare
20 स्वास्थ्य देखभाल हितधारकों का यह गुणात्मक अध्ययन प्रकट करता है कि बाजार की चकाचौंध के बावजूद, स्वास्थ्य सेवा में एजेंटिक एआई (agentic AI) सुरक्षा, नियामक और उत्तरदायित्व संबंधी बाधाओं से सीमित है, जो स्वायत्तता के व्यावसायिक वादों और मानवीय निरीक्षण की परिचालन वास्तविकता के बीच एक महत्वपूर्ण अंतर पैदा करता है जो जवाबदेही को अस्पष्ट करता है और रोगी सुरक्षा को जोखिम में डालता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि स्वास्थ्य सेवा उद्योग को वर्तमान में एक चमकदार नई कार बेची जा रही है जिसे "द ऑटोनॉमस डॉक्टर" (स्वचालित डॉक्टर) कहा जा रहा है।
विक्रेता (टेक कंपनियाँ और स्टार्टअप्स) हमें बता रहे हैं कि यह कार खुद चल सकती है, जटिल ट्रैफिक से बच सकती है, और बिना किसी इंसान के चालक के, अस्पताल तक पहुँचने का सबसे अच्छा रास्ता तय कर सकती है। वे कहते हैं कि यह चिकित्सा का भविष्य है, जो चिकित्सा संबंधी गलतियों को सुधारने और जीवन बचाने का वादा करता है। बाज़ार उत्साह से भरा हुआ है, और इन कारों को बनाने के लिए अरबों डॉलर निवेश किए जा रहे हैं।
हालाँकि, यह शोध पत्र तर्क देता है कि यह कार वास्तव में अभी अस्तित्व में नहीं है।
जबकि बिक्री के ब्रोशर एक सेल्फ-ड्राइविंग वाहन का वादा करते हैं, वास्तविक दुनिया में ये "कारें" वास्तव में केवल बहुत उन्नत जीपीएस (GPS) सिस्टम हैं जिन्हें चलाने के लिए अभी भी एक मानव चालक की आवश्यकता होती है जो स्टीयरिंग व्हील थामे रखे, सड़क पर नज़र रखे और अंतिम निर्णय ले सके। यदि जीपीएस गलत मोड़ ले लेता है, तो मानव चालक ही वह व्यक्ति होता है जिस पर मुकदमा चलाया जाता है।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के मुख्य बिंदुओं का विवरण दिया गया है:
1. "एजेंटिक" का भ्रम (हम वास्तव में किस बारे में बात कर रहे हैं?)
शोध पत्र इस बात की ओर इशारा करते हुए शुरू होता है कि हर कोई "एजेंटिक" (जिसका अर्थ है "अपने आप कार्य करने में सक्षम") शब्द का उपयोग अलग-अलग चीजों को समझाने के लिए कर रहा है।
- टेक निर्माता सोचते हैं कि "एजेंटिक" का अर्थ है एक रोबोट जो यात्रा की योजना बना सकता है, टिकट बुक कर सकता है और कार चला सकता है।
- डॉक्टर सोचते हैं कि "एजेंटिक" का अर्थ है एक उपकरण जो फॉर्म भर सकता है या उन्हें दवा लेने की याद दिला सकता है, लेकिन केवल तभी जब कोई इंसान इसकी जाँच करे।
उपमा: यह एक "स्मार्ट हाउस" बनाने की कोशिश करने वाले लोगों के समूह जैसा है। इलेक्ट्रीशियन सोचता है कि इसका मतलब है एक ऐसा घर जो रात का खाना बना सके। प्लंबर सोचता है कि इसका मतलब है एक ऐसा घर जो अपनी लीकेज खुद ठीक कर सके। घर मालिक बस एक ऐसा स्विच चाहता है जो ताली बजाने पर चालू हो जाए। क्योंकि वे इस बात पर सहमत नहीं हैं कि वह "घर" क्या है, इसलिए वे इस बात पर भी सहमत नहीं हो पा रहे हैं कि जब रसोई में आग लग जाती है, तो जिम्मेदार कौन है।
2. "स्वायत्तता का विरोधाभास" (वादा बनाम वास्तविकता)
शोध पत्र पाता है कि कंपनियाँ उनके एआई (AI) क्या कर सकता है इसके बारे में जो कहती हैं और उसे जो करने की अनुमति है, उसके बीच एक बहुत बड़ा अंतर है।
- वादा: "हमारा एआई कैंसर का निदान कर सकता है और दवा लिख सकता है!"
- वास्तविकता: "हमारा एआई निदान का सुझाव दे सकता है, लेकिन एक मानव डॉक्टर को इसे पढ़ना, सत्यापित करना और इसे मरीज तक भेजने से पहले इस पर हस्ताक्षर करना होगा।"
उपमा: एक ऐसे रेस्तरां की कल्पना करें जहाँ शेफ (AI) एक जीनियस है जो एक बेहतरीन स्टेक पका सकता है। लेकिन रेस्तरां का मालिक (कानून/समाज) कहता है, "आप सब्जियां काट सकते हैं और मांस को मसाला लगा सकते हैं, लेकिन आपको ग्राहक को स्टेक परोसने की अनुमति नहीं है। एक मानव वेटर को पहले इसे चखना होगा।"
शेफ 99% सटीक हो सकता है, लेकिन क्योंकि वह भोजन परोस नहीं सकता, इसलिए वह वास्तवं में उस तरह से "खाना नहीं बना रहा" है जैसा कि मेनू में दावा किया गया है। वह केवल एक बहुत ही शानदार 'सू-शेफ' (सहायक शेफ) है।
3. "ब्लाइंड स्पॉट" परीक्षण में (ड्राइविंग टेस्ट)
वर्तमान में, हम इन एआई सिस्टम का परीक्षण "पाठ्यपुस्तक" वाले प्रश्नों के माध्यम से कर रहे हैं, जैसे कि यातायात नियमों के बारे में बहुविकल्पीय प्रश्नों वाला एक लिखित ड्राइविंग टेस्ट।
- समस्या: एक कार लिखित परीक्षा में उत्कृष्ट प्रदर्शन कर सकती है, लेकिन वास्तविक जीवन में दुर्घटनाग्रस्त हो सकती है क्योंकि वह अचानक आई बारिश, एक भ्रमित पैदल यात्री, या टूटी हुई ट्रैफिक लाइट को नहीं संभाल पाती।
- शोध पत्र का बिंदु: हम एआई का परीक्षण इस आधार पर कर रहे हैं कि वह प्रश्नों के उत्तर कितनी अच्छी तरह देता है, न कि इस आधार पर कि वह अस्पताल की अव्यवस्थ और अराजकता में कितनी अच्छी तरह फिट बैठता है। हम यह परीक्षण नहीं कर रहे हैं कि एआई "ह्यूमन-इन-द-लूप" (डॉक्टर द्वारा उसके काम की जाँच करना) को कैसे संभालता है या वह वास्तविक आपात स्थिति के तनाव को कैसे झेलता है।
उपमा: यह एक पायलट का परीक्षण करने जैसा है जिसमें उनसे उड़ने के बारे में क्रॉसवर्ड पहेली भरने को कहा जाता है। वे पहेली में 100% अंक प्राप्त कर सकते हैं, लेकिन इसका मतलब यह नहीं है कि वे तूफान में विमान उतार सकते हैं। हम गलत चीजों को माप रहे हैं।
4. "कौन दोषी है?" का शून्य
चूंकि कोई भी इस पर सहमत नहीं है कि "एजेंटिक एआई" क्या है, और चूंकि एआई को वास्तव में अकेले कार्य करने की अनुमति नहीं दी जाती है, इसलिए जब चीजें गलत होती हैं तो कोई नहीं जानता कि जिम्मेदार कौन है।
- यदि एआई कोई गलती करता है, तो डॉक्टर कहता है, "यह मशीन की गलती थी।"
- मशीन बनाने वाला कहता है, "यह केवल एक उपकरण था; डॉक्टर को इसकी जाँच करनी चाहिए थी।"
- नियामक (Regulator) कहता है, "हमने इसे स्वायत्त होने के लिए अनुमोदित नहीं किया था, इसलिए यह हमारी गलती नहीं है।"
उपमा: यह "हॉट पोटैटो" (गर्म आलू) के खेल जैसा है जहाँ आलू एक चिकित्सा संबंधी गलती है। हर कोई आलू को किसी और की ओर फेंक रहा है, और अंततः, आलू मरीज पर गिर जाता है। शोध पत्र का तर्क है कि जब तक हम स्पष्ट रूप से यह परिभाषित नहीं कर देते कि एआई को क्या करना चाहिए, हम यह तय नहीं कर सकते कि प्रभारी कौन है।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि हम वर्तमान में एक "हाइप साइकिल" (अतिशयोक्ति के दौर) में हैं। हम स्वयं-चालित चिकित्सा रोबोटों का विचार बेच रहे हैं, लेकिन वास्तव में हम केवल बहुत समझदार सहायक बना रहे हैं जिन्हें निरंतर मानव पर्यवेक्षण की आवश्यकता होती है।
इसे ठीक करने के लिए, हमें चाहिए:
- कार के बारे में झूठ बोलना बंद करें: ईमानदार रहें कि ये "ड्राइवर-असिस्ट" सिस्टम हैं, न कि "सेल्फ-ड्राइविंग" सिस्टम।
- परीक्षण बदलें: उन्हें पाठ्यपुस्तक के प्रश्नों पर टेस्ट करना बंद करें और उन्हें अस्पताल के वास्तविक, अस्त-व्यस्त वातावरण में टेस्ट करना शुरू करें।
- नियम स्पष्ट करें: स्पष्ट रूप से तय करें कि "ड्राइवर" कौन है और "यात्री" कौन है ताकि यदि कोई दुर्घटना होती है, तो हमें पता हो कि किसे जवाबदेह ठहराना है।
जब तक हम ऐसा नहीं करते, तब तक "डॉक्टर" ही वह व्यक्ति होगा जो आपको देख रहा होगा, और एआई केवल एक बहुत ही सहायक, लेकिन कड़ाई से पर्यवेक्षित, इंटर्न (प्रशिक्षु) बनकर रह जाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।