How sensitive do we want AI to be? Socio-communicative competencies of large language models in healthcare
यह अध्ययन IC-MD उपकरण का उपयोग करके स्वास्थ्य सेवा संवादों में तीन लार्ज लैंग्वेज मॉडल्स (GPT-4o, Llama 3, और Command R+) की सामाजिक-संवादात्मक दक्षताओं का मूल्यांकन करता है, जिसमें यह पाया गया है कि हालांकि वे गैर-शत्रुता प्रदर्शित करते हैं, लेकिन उनमें स्वास्थ्य सेवा सलाहकारों के रूप में सुरक्षित और प्रभावी उपयोग के लिए आवश्यक निरंतर संवेदनशीलता, गैर-दखलंदाजी और संरचनात्मक कौशल का अभाव है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पुस्तकालय में प्रवेश कर रहे हैं जहाँ लाइब्रेरियन एक अविश्वसनीय रूप से बुद्धिमान रोबोट है। इस रोबोट ने अब तक लिखी गई हर मेडिकल पाठ्यपुस्तक को पढ़ा है और वह आपसे पलक झपकने से भी तेज़ी से बीमारियों के बारे में तथ्य सुना सकता है। लेकिन यहाँ एक पेंच है; एक अच्छा डॉक्टर होना केवल तथ्यों को जानने के बारे में नहीं है; यह इस बारे में भी है कि आप लोगों से कैसे बात करते हैं जब वे डरे हुए, भ्रमित या दर्द में होते हैं। अध्ययन के इस क्षेत्र को "सामाजिक-संवादात्मक सक्षमता" (socio-communicative competence) कहा जाता है। यह सुनने, सहानुभूति दिखाने, एक अव्यवस्थित बातचीत को व्यवस्थित करने और दूसरे व्यक्ति को सुरक्षित महसूस कराने की कला है। हम इसकी परवाह इसलिए करते हैं क्योंकि यदि हम अपने स्वास्थ्य में मदद करने के लिए इन सुपर-स्मार्ट रोबोटों का उपयोग करना शुरू करते हैं, तो हमें यह जानना होगा कि क्या वे चिकित्सा के गणित वाले हिस्से के बजाय उसके मानवीय पक्ष को भी संभाल सकते हैं। यदि एक रोबोट आपको सही उत्तर देता है लेकिन आपको उपेक्षित या घबराया हुआ महसूस कराता है, तो क्या वह वास्तव में आपकी मदद कर रहा है?
यही वह चीज़ थी जिसे हाइडलबर्ग यूनिवर्सिटी और ऑक्सफोर्ड यूनिवर्सिटी के शोधकर्ताओं की एक टीम जानना चाहती थी। उन्होंने तीन लोकप्रिय AI चैटबॉट्स—GPT-4o, Llama 3, और Command R+—को 1,800 वास्तविक बातचीत के माध्यम से एक "सामाजिक कौशल परीक्षण" से गुज़ारने का निर्णय लिया, जहाँ लोगों ने चिकित्सा सहायता मांगी थी। शोधकर्ता सख्त लेकिन निष्पक्ष कोच की तरह काम कर रहे थे, जो रोबोटों को चार विशिष्ट गुणों पर ग्रेड दे रहे थे: गैर-आक्रामकता (विनम्र होना और बदतमीजी न करना), संवेदनशीलता (सहानुभूति दिखाना और भावनाओं को समझना), गैर-हस्तक्षेप (उपयोगकर्ता को बिना दबदबा बनाए अपने स्वयं के विकल्प चुनने देना), और संरचना (बातचीत को व्यवस्थित रखना और उपयोगकर्ता का चरण-दर-चरण मार्गदर्शन करना)।
परिणाम थोड़े मिले-जुले थे, जैसे कोई छात्र गणित की परीक्षा में तो पूरे अंक ले आता है लेकिन "कृपया" कहना भूल जाता है। रोबोट विनम्र होने में उत्कृष्ट थे; वे लगभग कभी भी रूखे या आक्रामक नहीं थे, जिससे उन्हें गैर-आक्रामकता के लिए उच्च अंक मिले। वे गैर-हस्तक्षेप के मामले में भी आम तौर पर ठीक थे, जिसका अर्थ है कि वे आमतौर पर बातचीत का नियंत्रण उपयोगकर्ता के हाथ में रहने देते थे। हालाँकि, वे संवेदनशीलता के मामले में बुरी तरह लड़खड़ा गए। हालांकि वे कह सकते थे कि "मुझे खेद है कि आप बीमार हैं," लेकिन वे अक्सर उन भावनात्मक संकेतों को समझने में विफल रहे जिनमें गहरे जुड़ाव की आवश्यकता होती है, जिससे बातचीत एक देखभाल करने वाली बातचीत के बजाय तथ्यों का एक शुष्क आदान-प्रदान बनकर रह गई।
सबसे बड़ी समस्या संरचना (Structuring) थी। कल्पना कीजिए कि आप एक पहेली सुलझाने की कोशिश कर रहे हैं जहाँ रोबोट आपको एक-एक करके टुकड़े तो देता है लेकिन आपको कभी नहीं बताता कि वे कैसे फिट होते हैं, या इससे भी बुरा, बिना स्पष्ट किए बीच में ही तस्वीर बदल देता है। अध्ययन में, रोबोट अक्सर सही सवाल पूछने में विफल रहे ताकि समस्या की एक स्पष्ट तस्वीर मिल सके। उपयोगकर्ता को समस्या को समझने के लिए एक तार्किक मार्ग के माध्यम से मार्गदर्शन करने के बजाय, रोबोटों ने जानकारी का ढेर लगा दिया और सारा बोझ व्यवस्थित करने का काम उपयोगकर्ता पर छोड़ दिया। एक मामले में, एक रोबोट ने उपयोगकर्ता को बताया कि उनके लक्षण "संभवतः अल्पकालिक" हैं, और फिर बाद में, बिना कोई स्पष्टीकरण दिए, उन्हीं लक्षणों को "चिंता का विषय" बताया, जिससे उपयोगकर्ता भ्रमित और चिंतित हो गया।
शोधकर्ताओं ने निष्कर्ष निकाला कि जबकि ये AI उपकरण चिकित्सा तथ्यों में बेहतर हो रहे हैं, उनमें वर्तमान में स्वतंत्र रूप से सुरक्षित और प्रभावी स्वास्थ्य सलाहकार बनने के लिए आवश्यक विश्वसनीय सामाजिक कौशल की कमी है। वे डॉक्टर के "बेडसाइड मैनर" (मरीज के साथ व्यवहार करने का तरीका) को बदलने के लिए तैयार नहीं हैं क्योंकि वे एक भरोसेमंद रिश्ता बनाने या एक स्थिर हाथ के साथ बातचीत का मार्गदर्शन करने में संघर्ष करते हैं। अध्ययन सुझाव देता है कि यदि हम इन रोबोटों का स्वास्थ्य सेवा में उपयोग करना चाहते हैं, तो हमें केवल उन्हें अधिक विनम्र बनाना ही नहीं है; हमें उन्हें बेहतर श्रोता और संगठक बनाना होगा, और हमें यह याद रखना होगा कि एक रोबोट का काम एक मानव डॉक्टर के काम से अलग है। जब तक वे एक वाक्य को व्यवस्थित करने के साथ-साथ एक बातचीत को भी व्यवस्थित करना नहीं सीख लेते, तब तक उन्हें केवल सहायक उपकरण के रूप में देखा जाना चाहिए, न कि मुख्य व्यक्ति के रूप में जिससे आप अस्वस्थ महसूस करने पर बात करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।