Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

स्वास्थ्य सेवा प्रणाली की कल्पना एक विशाल, हलचल भरे पुस्तकालय के रूप में करें जहाँ डॉक्टर मुख्य पुस्तकालयाध्यक्ष (हेड लाइब्रेरियन) हैं। वर्षों से, केवल वे ही किताबें लाने, अलमारियों को व्यवस्थित करने और आपको बेहतर महसूस कराने के लिए कहानियाँ सुझाने के लिए अधिकृत थे। लेकिन हाल ही में, एक नए प्रकार का सहायक आया है: एक सुपर-फास्ट, सुपर-स्मार्ट रोबोट लाइब्रेरियन जो आर्टिफिशियल इंटेलिजेंस (AI) द्वारा संचालित है। यह रोबोट एक सेकंड में लाखों किताबों को स्कैन कर सकता है, उन पैटर्न्स को पहचान सकता है जिन्हें इंसान शायद मिस कर दें, और यहाँ तक कि आपके विशिष्ट मूड के लिए एकदम सही कहानी भी सुझा सकता है। यह अद्भुत लगता है, है ना? लेकिन यहाँ एक पेंच है: सिर्फ इसलिए कि रोबोट तेज़ है, इसका मतलब यह नहीं है कि हर कोई उस पर भरोसा करता है। कुछ लोगों को डर है कि रोबोट कहानी गलत कर सकता है, उनके राज चुरा सकता है, या पूरी तरह से मानव लाइब्रेरियन की जगह ले सकता है।

यह अध्ययन आम लोगों के मन की गहराई में उतरकर एक बड़े सवाल का जवाब देता है: क्या हम इस नए रोबोट लाइब्रेरियन पर भरोसा करते हैं, या हमें डर है कि यह हमारे स्वास्थ्य के साथ गड़बड़ कर देगा? जवाबों को समझने के लिए, हमें कुछ बातें जाननी होंगी। पहला है "AI साक्षरता" (AI literacy), जो बस एक फैंसी तरीका है यह कहने का कि, "क्या आप जानते हैं कि इस रोबोट का दिमाग कैसे काम करता है?" फिर है "परिचितता" (familiarity), जो सरल रूप से यह है कि आप अपने दैनिक जीवन में इन रोबोट्स को कितनी बार देखते या उपयोग करते हैं। अंत में, "मानवीय निरीक्षण" (human oversight) का विचार है, जो यह विश्वास है कि मानव लाइब्रेरियन अभी भी प्रभारी है, रोबोट के काम पर नज़र रख रहा है ताकि यह सुनिश्चित किया जा सके कि वह सही काम कर रहा है। शोधकर्ता यह देखना चाहते थे कि क्या अधिक जानना, स्वयं इसका उपयोग करना, या मानव लाइब्रेरियन पर भरोसा करना यह बदलता है कि हम रोबोट को कितना सहायक, जोखिम भरा या निष्पक्ष समझते हैं।

शोधकर्ताओं ने, जो यूनिवर्सिटी ऑफ एम्स्टर्डम की एक टीम है, डच जनता के विचारों का एक विशाल स्नैपशॉट लेने का निर्णय लिया। उन्होंने लगभग 4,000 लोगों से—लगभग आधे पुरुष और आधी महिलाएं, जिनकी औसत आयु 52 वर्ष थी—एक सर्वेक्षण भरने के लिए कहा। उन्होंने केवल यह नहीं पूछा, "क्या आप AI को पसंद करते हैं?" उन्होंने इसे तीन विशिष्ट भावनाओं में विभाजित किया: क्या स्वास्थ्य सेवा में स्वचालित निर्णय लेना (ADM) सहायक है? क्या यह जोखिम भरा है? और क्या यह निष्पक्ष है?

उत्तरों को खोजने के लिए, उन्होंने स्ट्रक्चरल इक्वेशन मॉडलिंग (Structural Equation Modeling) नामक एक विशेष गणितीय उपकरण का उपयोग किया। इसे एक विशाल, जटिल मानचित्र की तरह समझें जो विभिन्न बिंदुओं को जोड़ता है। शोधकर्ताओं ने "आप AI के बारे में कितना जानते हैं?" और "क्या आपको लगता है कि यह जोखिम भरा है?" जैसी चीजों के बीच रेखाएं खींचीं ताकि यह देखा जा सके कि कौन से बिंदु सबसे मजबूत धागे खींच रहे हैं। उन्होंने यह भी देखा कि क्या स्वास्थ्य सलाह के लिए चैटबॉट्स का उपयोग करने वाले लोग उन लोगों से अलग महसूस करते हैं जो केवल गूगल का उपयोग करते हैं। उन्होंने यह भी जांचा कि क्या उन लोगों को, जो अपने डॉक्टरों पर यह पहचानने के लिए भरोसा करते हैं कि सामग्री मानव द्वारा लिखी गई है या AI द्वारा, पूरे सिस्टम के बारे में सुरक्षित महसूस हुआ।

तो, उस मानचित्र ने क्या खुलासा किया? निष्कर्ष थोड़े रोमांचक उतार-चढ़ाव भरे हैं।

पहला, लोग विभिन्न प्रकार के AI (जैसे चैटबॉट्स, डीपफेक, या जेनेरेटिव AI) के बारे में जितना अधिक जानते थे, उतना ही उन्हें लगा कि यह सहायक हो सकता है। यह वैसा ही है जैसे जादू का खेल कैसे काम करता है यह जानने से आप जादूगर के कौशल की अधिक सराहना करते हैं। लेकिन यहाँ एक मोड़ है: उसी परिचितता ने उन्हें यह भी सोचने पर मजबूर किया कि यह अधिक जोखिम भरा है। ऐसा लगता है कि जब आप थोड़ा अधिक जानते हैं, तो आपको एहसास होता है कि यह केवल एक आदर्श उपकरण नहीं है; यह एक शक्तिशाली उपकरण है जो गलत भी हो सकता है। इसलिए, अधिक जानने का मतलब केवल इसे प्यार करना नहीं था; इसने लोगों को इसके खतरों के प्रति अधिक जागरूक भी बना दिया।

दूसो, अध्ययन में मानव लाइब्रेरियन के बारे में कुछ बहुत दिलचस्प पाया गया। वह सबसे बड़ा कारक जिसने लोगों को यह सोचने पर मजबूर किया कि AI निष्पक्ष और सहायक है, वह था डॉक्टर की AI और मानव सामग्री के बीच अंतर करने की क्षमता में उनका विश्वास। यदि किसी व्यक्ति ने माना, "मेरा डॉक्टर पहचान सकता है कि यह कंप्यूटर ने लिखा है," तो वे इस बात की बहुत अधिक संभावना रखते थे कि पूरा सिस्टम निष्पक्ष है। वास्तव में, हम खुद रोबोट पर भरोसा करने के बजाय उस इंसान पर अधिक भरोसा करते हैं जो रोबोट की लगाम थामे हुए है। यदि हम सोचते हैं कि इंसान नियंत्रण में है और गलतियों को पकड़ सकता है, तो हम सुरक्षित महसूस करते हैं।

तीसरा, जो लोग स्वास्थ्य जानकारी प्राप्त करने के लिए संवादात्मक एजेंटों (जैसे चैटबॉट्स या वर्चुअल असिस्टेंट) का वास्तव में उपयोग करते हैं, वे बाकी लोगों से अलग महसूस करते थे। उन्हें लगा कि सिस्टम कम जोखिम भरा और अधिक निष्पक्ष है। यह साइकिल चलाने जैसा है: पहली बार जब आप इस पर चढ़ते हैं, तो यह डगमगाता हुआ और डरावना लगता है। लेकिन एक बार जब आप इसे कुछ बार चला लेते हैं, तो यह सामान्य और सुरक्षित लगने लगता है। इन उपकरणों का उपयोग करने से डरावने रोबोट को एक मित्रवत सहायक जैसा महसूस होने लगा। हालाँकि, अध्ययन ने नोट किया कि सर्वेक्षण में अधिकांश लोग अभी इन चैटबॉट्स का बहुत अधिक उपयोग नहीं करते हैं, इसलिए यह "साइकिल चलाने वाला" प्रभाव अभी सभी के लिए शुरू नहीं हुआ है।

दिलचस्प बात यह है कि अध्ययन ने यह भी देखा कि क्या पारंपरिक स्वास्थ्य वेबसाइटों (जैसे आधिकारिक अस्पताल पृष्ठ) का उपयोग करने वाले लोग अलग महसूस करते हैं। यह पता चला कि पुराने जमाने के डिजिटल स्रोतों पर निर्भर रहने से लोगों को लगा कि AI अधिक जोखिम भरा है, लेकिन इससे उनकी इस धारणा पर कोई फर्क नहीं पड़ा कि यह कितना सहायक या निष्पक्ष है। यह ऐसा है जैसे पुराने तरीकों पर टिके रहने से नया रोबोट और भी संदिग्ध लगने लगता है।

एक चीज़ जो अध्ययन में नहीं मिली, वह था "AI साक्षरता" (आप तकनीक को कितनी अच्छी तरह समझते हैं) और AI को जोखिम भरा महसूस करने के बीच एक मजबूत संबंध। आप सोच सकते हैं कि यदि आप कार के इंजन को समझते हैं, तो आप उससे कम डरेंगे। लेकिन AI के लिए, यह जानना कि यह कैसे काम करता है, जरूरी नहीं कि लोगों को जोखिमों के बारे में सुरक्षित महसूस कराए। शोधकर्ताओं का सुझाव है कि ऐसा इसलिए हो सकता है क्योंकि तकनीक को समझने से कुछ लोग खतरों को स्पष्ट रूप से देख पाते हैं, जबकि अन्य अति-आत्मविश्वासी हो जाते हैं, जिससे दोनों प्रभाव एक-दूसरे को काट देते हैं।

शोधकर्ताओं ने सावधानी से कहा कि यह अध्ययन समय का एक स्नैपशॉट है, भविष्य की फिल्म नहीं। वे निश्चित रूप से यह नहीं कह सकते कि चैटबॉट्स का उपयोग करना लोगों के डर को कम करने का कारण बनता है; वे केवल यह जानते हैं कि ये दोनों चीजें एक साथ होती हैं। उन्होंने यह भी नोट किया कि उनके सर्वेक्षण में सरल प्रश्नों का उपयोग किया गया था, इसलिए इन भावनाओं में अधिक सूक्ष्मता हो सकती है जिसे वे पकड़ नहीं पाए।

अंत में, यह पेपर जो कहानी बताता है वह भरोसे के बारे में है। यह सुझाव देता है कि स्वास्थ्य सेवा में AI को वास्तव में एक सहायक हिस्से के रूप में बनने के लिए, हमें केवल बेहतर रोबोट की आवश्यकता नहीं है। हमें यह सुनिश्चित करने की आवश्यकता है कि लोग उन मानव डॉक्टरों पर भरोसा करें जो उनका उपयोग कर रहे हैं। यदि लोग विश्वास करते हैं कि उनके डॉक्टर AI पर नज़र रख सकते हैं और गलतियों को पकड़ सकते हैं, तो जनता इस तकनीक को बहुत अधिक निष्पक्ष और सहायक के रूप में देखेगी। लेकिन यदि हम इसमें शामिल इंसान को भूल जाते हैं, तो रोबोट हमारे लिए केवल एक डरावनी, जोखिम भरी मशीन बनकर रह जाएगा।