When Advice Overrides Reasoning: Diagnostic Deference to AI- and Faculty-Labelled Recommendations in Undergraduate Dental Education
अंडरग्रेजुएट डेंटल छात्रों के इस अध्ययन से पता चलता है कि जबकि बाहरी सलाह आम तौर पर नैदानिक सटीकता में सुधार करती है, एआई (AI) और संकाय दोनों स्रोतों से गलत सिफारिशें छात्रों को समान दरों पर अपने स्वयं के सही निर्णयों को गलत तरीके से पलटने के लिए प्रेरित करती हैं, जो यह दर्शाता है कि एआई लेबल मानव विशेषज्ञता की तुलना में स्वतंत्र तर्क को विशिष्ट रूप से कमजोर नहीं करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे एक जासूस हैं। आपके मन में एक संदेह है कि अपराधी कौन है, लेकिन तभी एक "अति-बुद्धिमान" कंप्यूटर या एक प्रसिद्ध जासूस आकर कहता है, "नहीं, यह निश्चित रूप से यह दूसरा व्यक्ति है।" क्या आप अपने अंतर्ज्ञान पर टिके रहते हैं, या आप तुरंत अपना निर्णय बदल देते हैं? यह सीखने और चिकित्सा की दुनिया में चल रही एक बढ़ती बहस का केंद्र है। हम एक ऐसे युग में जी रहे हैं जहाँ आर्टिफिशियल इंटेलिजेंस (AI) निबंध लिखने से लेकर बीमारियों के निदान तक, हर जगह दिखाई दे रहा है। बड़ा सवाल केवल यह नहीं है कि AI स्मार्ट है या नहीं; बल्कि यह है कि क्या हम इसे सुनने के लिए बहुत अधिक उत्सुक हैं।
एक ज्ञात मानवीय स्वभाव है जिसे "ऑटोमेशन बायस" (स्वचालन पूर्वाग्रह) कहा जाता है। इसे इस तरह सोचें: यदि जीपीएस (GPS) आपको बाएं मुड़ने के लिए कहता है, भले ही आप "रास्ता बंद है" का बोर्ड देख रहे हों, तो आप केवल इसलिए जीपीएस पर भरोसा कर सकते हैं क्योंकि वह बहुत आत्मविश्वास से भरा लगता है। चिकित्सा में, यह जोखिम भरा है। यदि एक छात्र डॉक्टर किसी गलत कंप्यूटर सुझाव पर बहुत अधिक भरोसा करता है, तो वह वास्तविक समस्या को पहचानना भूल सकता है। लेकिन यहाँ एक मोड़ है: हम न केवल कंप्यूटरों पर भरोसा करते हैं; हम अपने शिक्षकों पर भी भरोसा करते हैं। यह अध्ययन जिस बड़े रहस्य को सुलझाता है वह यह है: क्या छात्र एक गलत उत्तर पर अधिक भरोसा करते हैं जब वह एक रोबोट से आता है, या जब वह एक मानव प्रोफेसर से आता है? और क्या इससे कोई फर्क पड़ता है कि दी गई सलाह वास्तव में गलत है या नहीं?
यह शोध पत्र उसी प्रश्न के साथ आगे बढ़ता है और डेंटल छात्रों के एक समूह का अध्ययन करता है। शोधकर्ताओं ने एक खेल तैयार किया जहाँ 80 छात्रों ने, जो मुख्य रूप से स्कूल के चौथे और पांचवें वर्ष के थे, 16 अलग-अलग डेंटल पहेलियों को हल किया। ये वास्तविक मरीज नहीं थे, बल्कि बच्चों के दांतों के दर्द, टूटे हुए दांतों या कैविटी से जुड़ी विस्तृत कहानियाँ (जिन्हें 'विग्नेट्स' कहा जाता है) थीं। प्रत्येक पहेली के लिए, छात्रों ने पहले अपना स्वयं का अनुमान लगाया और यह बताया कि वे कितने आश्वस्त महसूस कर रहे थे। फिर, उन्हें एक सलाह दिखाई गई। यहाँ पेच यह था: सलाह कभी सही होती थी, और कभी गलत। और सलाह को या तो "AI" या "फैकल्टी मेंबर" (प्रोफेसर) के रूप में लेबल किया गया था।
परिणाम थोड़े दोधारी तलवार की तरह थे। जब सलाह सही थी, तो इसने छात्रों को अपनी गलतियों को सुधारने में मदद की। कक्षा का समग्र स्कोर लगभग 58% से बढ़कर 66% हो गया। यह अच्छी खबर है: छात्र सीखने और खुद को सुधारने के लिए तैयार थे जब जानकारी सही थी।
हालाँकि, बुरी खबर काफी महत्वपूर्ण थी। जब सलाह गलत थी, तो छात्र अक्सर अपने सही उत्तरों को छोड़ देते थे और गलत उत्तर की ओर बढ़ जाते थे। ऐसा उन मामलों में लगभग 30% बार हुआ जहाँ छात्रों ने शुरुआत में सही उत्तर दिया था। इसे एक रूपक के रूप में देखें: कल्पना कीजिए कि आप सुनिश्चित हैं कि खजाना ओक के पेड़ के नीचे है। फिर, एक आवाज़ आती है और कहती है, "नहीं, यह पाइन के पेड़ के नीचे है।" भले ही आप ओक के पेड़ के बारे में सही थे, लेकिन एक में से लगभग तीन बार, आपने पाइन के पेड़ को खोदना शुरू कर दिया।
इस अध्ययन का सबसे आश्चर्यजनक हिस्सा वह है जो इसने नहीं पाया। कई लोग चिंतित हैं कि AI एक विशेष प्रकार का "जादू" है जो हमें इंसानों की तुलना में अधिक आसानी से धोखा देता है। उन्हें डर था कि छात्र प्रोफेसर की तुलना में रोबोट का अंधाधुंध पालन करेंगे। लेकिन डेटा ने कोई अंतर नहीं दिखाया। चाहे गलत सलाह "AI" या "फैकल्टी" के लेबल से आई हो, छात्र लगभग एक ही दर से इसके झांसे में आए (AI के लिए लगभग 29.2% बनाम फैकल्टी के लिए 30.5%)। अध्ययन बताता है कि समस्या यह नहीं है कि AI विशिष्ट रूप से खतरनाक है; समस्या यह है कि कोई भी आधिकारिक आवाज छात्र के अपने तर्क को दबा सकती है यदि उन्हें इसकी दोबारा जांच करने के लिए प्रशिक्षित नहीं किया गया है।
तो, निष्कर्ष क्या है? यह शोध पत्र यह नहीं कहता कि AI बुरा है या हमें इसे प्रतिबंधित करना चाहिए। इसके बजाय, यह सुझाव देता है कि भविष्य के डेंटिस्टों (और शायद हम सभी) के लिए वास्तविक सबक यह है कि सलाह को एक आदेश की तरह मानना बंद करें। चाहे सलाह एक सुपर-कंप्यूटर से आए या एक बुद्धिमान शिक्षक से, लक्ष्य इसकी पुष्टि करना होना चाहिए। अध्ययन निष्कर्ष निकालता है कि हमें छात्रों को न केवल इन उपकरणों का उपयोग करना सिखाना चाहिए, बल्कि उन्हें चुनौती देना भी सिखाना चाहिए, ताकि यह सुनिश्चित हो सके कि उनका अपना नैदानिक तर्क (clinical reasoning) नियंत्रण में रहे, चाहे निर्देश देने वाला कोई भी हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।