Calibrating trust in AI-assisted pituitary surgery
यह अध्ययन प्रदर्शित करता है कि व्याख्यात्मक विशेषताओं और आत्मविश्वास लेबल के साथ एक एआई-सहायता प्राप्त पिट्यूटरी सर्जरी निर्णय सहायता प्रणाली को उन्नत करने से नैदानिक विश्वास का अंशांकन (कैलिब्रेशन) बेहतर होता है—जो खराब एआई प्रदर्शन के दौरान अत्यधिक निर्भरता को कम करता है—और एक बुनियादी इंटरफ़ेस की तुलना में अधिक निरंतरता और वरिष्ठ-स्तर का प्रदर्शन बढ़ावा देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सर्जन हैं जो खोपड़ी के भीतर एक बहुत ही सूक्ष्म और जटिल संरचना, जिसे पिट्यूटरी ग्रंथि (pituitary gland) कहते हैं, पर एक अत्यंत संवेदनशील ऑपरेशन कर रहे हैं। यह एक अंधे व्यक्ति द्वारा भूलभुलैया में रास्ता खोजने जैसा है, लेकिन आपके पास एक हाई-टेक जीपीएस (आर्टिफिशियल इंटेलिजेंस) है जो आपकी स्क्रीन पर एक चमकती हुई रेखा खींचकर आपको सुरक्षित रास्ता दिखाता है।
बड़ा सवाल जो इस अध्ययन ने पूछा था, वह था: आपको उस जीपीएस पर कितना भरोसा करना चाहिए?
यदि आप उस पर बहुत अधिक भरोसा करते हैं जब वह गलत होता है, तो आप दुर्घटनाग्रस्त हो सकते हैं। यदि आप उस पर पर्याप्त भरोसा नहीं करते जब वह सही होता है, तो आप एक शॉर्टकट चूक सकते हैं। शोधकर्ता यह देखना चाहते थे कि क्या जीपीएस के "दिखने और महसूस होने के तरीके" को बदलकर सर्जनों को विश्वास का सही संतुलन खोजने में मदद की जा सकती है।
प्रयोग: दो प्रकार के जीपीएस
शोधकर्ताओं ने 70 अनुभवी सर्जनों और मेडिकल छात्रों को इकट्ठा किया और उन्हें एक वर्चुअल रियलिटी जैसे ऑनलाइन टेस्ट में डाला। उन्होंने प्रतिभागियों से वास्तविक सर्जरी के छह अलग-अलग वीडियो क्लिप्स पर पिट्यूटरी ग्रंथि की रूपरेखा (outline) बनाने के लिए कहा।
प्रतिभागियों को दो समूहों में बांटा गया था, जिनमें से प्रत्येक एक अलग संस्करण वाले एआई (AI) सहायक का उपयोग कर रहा था:
- "बेसिक" (Basic) जीपीएस: इस संस्करण ने केवल रेखा खींची। यह एक मानक जीपीएस की तरह था जो कहता है, "यहाँ से बाएं मुड़ें," लेकिन यह कोई स्पष्टीकरण नहीं देता कि वह ऐसा क्यों कह रहा है या वह कितना निश्चित है।
- "एन्हांस्ड" (Enhanced) जीपीएस: यह संस्करण एक ऐसे जीपीएस की तरह था जिसके साथ एक बातूनी सह-पायलट (co-pilot) हो। इसने केवल रेखा ही नहीं खींची; बल्कि इसने एक कॉन्फिडेंस मीटर (एक प्रतिशत जो बताता है कि एआई कितना आश्वस्त है) भी दिखाया और एक संक्षिप्त जानकारी दी कि एआई को कैसे प्रशिक्षित किया गया था और यह आमतौर पर कितना विश्वसनीय है।
ट्विस्ट: जीपीएस तनाव में है
विश्वास का परीक्षण करने के लिए, शोधकर्ताओं ने केवल आदर्श वीडियो नहीं दिखाए। उन्होंने क्लिप्स को इस क्रम में रखा कि एआई पहले बिल्कुल सटीक रहा, फिर धीरे-धीरे खराब और भ्रमित होता गया, और अंत में थोड़ा बेहतर हो गया। यह एक साफ शहर में गाड़ी चलाने, फिर घने कोहरे से टकराने और फिर एक ऐसे निर्माण क्षेत्र (construction zone) में पहुँचने जैसा था जहाँ जीपीएस अजीब निर्देश देने लगता है।
क्या हुआ?
1. जब एआई बिल्कुल सटीक था:
दोनों समूहों ने एआई पर समान रूप से भरोसा किया। दिलचस्प बात यह है कि "एन्हांस्ड" समूह (वे जिनके पास बातूनी सह-पायलट था) ने "बेसिक" समूह की तुलना में अधिक भरोसा नहीं किया। हालांकि, "एन्हांस्ड" समूह के वरिष्ठ सर्जनों ने रेखाएं खींचने का काम वास्तव में थोड़ा बेहतर किया। ऐसा लगता है कि अतिरिक्त जानकारी ने विशेषज्ञों को इतना आत्मविश्वासी बना दिया कि वे उपकरण का अधिक प्रभावी ढंग से उपयोग कर सके, लगभग ऐसा जैसे वे एआई की सलाह के सबसे अच्छे हिस्सों को "चुनकर" (cherry-picking) इस्तेमाल कर रहे हों।
2. जब एआई भ्रमित हुआ (कोहरे वाला हिस्सा):
यहीं पर यह अध्ययन बहुत दिलचस्प हो गया। जैसे-जैसे एआई ने गलतियाँ करना शुरू किया, "बेसिक" समूह ने इस पर बहुत अधिक भरोसा करना जारी रखा। वे उन ड्राइवरों की तरह थे जो तब भी जीपीएस का पालन करते रहते हैं जब वह उन्हें किसी झील में गाड़ी चलाने के लिए कहता है।
दूसरी ओर, "एन्हांस्ड" समूह ने बहुत तेज़ी से इस पर भरोसा करना कम कर दिया। क्योंकि उन्होंने "कॉन्फिडेंस मीटर" को गिरते हुए देखा और जान लिया कि एआई संघर्ष कर रहा है, इसलिए उन्होंने अपना विश्वास काफी कम कर दिया। इसे ट्रस्ट कैलिब्रेशन (trust calibration) कहा जाता है। उन्हें समझ आ गया, "अरे, यह टूल आज खराब चल रहा है, मुझे इस पर आँख मूंदकर भरोसा नहीं करना चाहिए।"
3. कम भरोसे का परिणाम:
भले ही "एन्हांस्ड" समूह ने गलत होने पर एआई पर कम भरोसा किया, लेकिन उन्होंने अनिवार्य रूप से "बेसिक" समूह की तुलना में बेहतर रेखाएं नहीं खींचीं। हालांकि, उनके परिणाम अधिक सुसंगत (consistent) थे। उन्होंने बड़ी या खतरनाक गलतियाँ नहीं कीं। यह ऐसा है जैसे "एन्हांस्ड" समूह ने तय किया, "जीपीएस खराब है, इसलिए मैं बस सावधानी से गाड़ी चलाऊंगा और अपने स्वयं के सहज ज्ञान (instincts) पर टिका रहूंगा," जबकि "बेसिक" समूह टूटे हुए जीपीएस का पालन करने की कोशिश करता रहा और अंततः भटक गया।
निष्कर्ष
अध्ययन से पता चला कि सर्जनों को अधिक जानकारी देना (जैसे कॉन्फिडेंस स्कोर और एआई की पृष्ठभूमि) उन्हें अपने विश्वास को कैलिब्रेट करने में मदद करता है।
- अच्छा एआई: अतिरिक्त जानकारी विशेषज्ञों को उपकरण का और भी बेहतर उपयोग करने में मदद करती है।
- खराब एआई: अतिरिक्त जानकारी एक सुरक्षा जांच के रूप में कार्य करती है, जिससे सर्जनों को यह एहसास होता है कि, "यह काम नहीं कर रहा है," और यह उन्हें बिना सोचे-समझे गलती का पीछा करने से रोकता है।
शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि यह अतिरिक्त जानकारी जादू की तरह एआई को पूर्ण नहीं बना देती, लेकिन यह सर्जनों को यह जानने में मदद करती है कि उन्हें कब भरोसा करना है और कब इसे अनदेखा करना है। वास्तविक ऑपरेटिंग रूम में इन उपकरणों के उपयोग से पहले यह एक महत्वपूर्ण सुरक्षा विशेषता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।