From Generation to Collaboration: Using LLMs to Edit for Empathy in Healthcare
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) का उपयोग स्वायत्त जनरेटर के बजाय चिकित्सकों की लिखित प्रतिक्रियाओं को परिष्कृत करने के लिए संपादकीय सहायकों के रूप में करने से, भावनात्मक स्वर और चिकित्सा सटीकता दोनों के मूल्यांकन के लिए नवीन मात्रात्मक मेट्रिक्स द्वारा समर्थित, तथ्यात्मक सटीकता बनाए रखते हुए कथित सहानुभूति में महत्वपूर्ण वृद्धि होती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डॉक्टर हैं जो अभी-अभी सर्जरी कराने वाले एक मरीज को एक त्वरित टेक्स्ट भेजना चाह रहे हैं। आप थके हुए हैं, व्यस्त हैं, और आप बस तथ्य देना चाहते हैं: "आप दो सप्ताह में अपनी बाइक चला सकते हैं।" यह सटीक है, लेकिन शायद थोड़ा नीरस है।
अब, कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट एआई असिस्टेंट है। आपके पास इसका उपयोग करने के दो तरीके हैं।
"मैजिक जनरेटर" (जो पेपर में बचने के लिए कहा गया है)
पहला तरीका यह है कि आप एआई को पूरी बात शुरू से लिखने दें। यह एक प्रतिभाशाली लेकिन थोड़े अधिक उत्साही घोस्टराइटर (ghostwriter) को कहानी सुनाने के लिए कहने जैसा है। परिणाम? संदेश बहुत गर्मजोशी भरा होगा, जिसमें "मुझे आपके दर्द का बहुत दुख है!" और "आप अद्भुत होने वाले हैं!" जैसे शब्द होंगे। यह सुनने में अविश्वसनीय रूप से सहानुभूतिपूर्ण लगता है। लेकिन यहाँ एक पेंच है: वह घोस्टराइटर अनजाने में विवरण बना सकता है। शायद वह कहे, "आप दो सप्ताह में अपनी बाइक चला सकते हैं, और आप अगले महीने तक एक पहाड़ भी चढ़ पाएंगे!" डॉक्टर ने पहाड़ के बारे में कुछ नहीं कहा था। यह एक "हैलुसिनेशन" (hallucination) है—एक बना बनाया तथ्य जो मरीज को भ्रमित या डरा सकता है। पेपर दिखाता है कि जब एआई पूरी तरह से सामग्री बनाने की कोशिश करता है, तो वह सहानुभूति तो सही ढंग से देता है लेकिन चिकित्सा संबंधी सत्यता खो देता है, और डॉक्टर द्वारा दिए गए वास्तविक तथ्यों में से 40% से भी कम को सुरक्षित रख पाता है।
"एम्पैथी एडिटर" (पेपर का मुख्य निष्कर्ष)
दूसरा तरीका, जिसे शोधकर्ताओं ने बहुत अधिक सुरक्षित और बेहतर पाया, वह यह है कि एआई को एक घोस्टराइटर के बजाय एक विनम्र संपादक (editor) की तरह माना जाए। आप पहले ड्राफ्ट लिखते हैं (सटीक, शुष्क चिकित्सा तथ्य), और फिर आप एआई से कहते हैं: "कृपया इसे सुनने में अधिक गर्मजोशी भरा बनाएं, लेकिन एक भी चिकित्सा तथ्य न बदलें।"
इसे एक ऐसे शेफ की तरह समझें जिसने पहले से ही एक उत्तम, पौष्टिक भोजन बनाया है (डॉक्टर के तथ्य)। एआई उस पर सजावट करने वाला कलाकार है। वह व्यंजन को सुंदर दिखने और महसूस करने के लिए उसमें पार्सले की एक सुंदर टहनी और सॉस की एक बूंद जोड़ता है, लेकिन वह चिकन को टोफू से नहीं बदलता या नमक नहीं हटाता।
संख्याएँ हमें क्या बताती हैं
शोधकर्ताओं ने इस "एडिटर" दृष्टिकोण का प्रोस्टेट सर्जरी के बारे में वास्तविक रोगी प्रश्नों का उपयोग करके "जनरेटर" दृष्टिकोण के मुकाबले परीक्षण किया।
- एडिटर का स्कोर: जब एआई ने डॉक्टर के नोट्स को संपादित किया, तो उसने मूल चिकित्सा तथ्यों में से 93% से 99% को सुरक्षित और सही रखा। उसने नए चिकित्सा सुझाव आविष्कार किए बिना सफलतापूर्वक गर्माहट जोड़ी।
- जनरेटर का स्कोर: जब एआई ने शून्य से लिखा, तो वह केवल लगभग 39% तथ्यों को ही रख पाया। वह इतना अधिक दयालु होने में व्यस्त था कि उसने चीजें बनाना शुरू कर दिया।
"बहुत अधिक सहानुभूति" का जाल
अध्ययन में एक मजेदार नियम भी मिला: आप एआई को जितना अधिक "अत्यधिक सहानुभूतिपूर्ण" होने के लिए कहेंगे, वह उतना ही झूठ बोलना शुरू कर देगा।
- जब उन्होंने "मानक" सहानुभूति के लिए कहा, तो एआई ने 91% तथ्यों को सुरक्षित रखा।
- जब उन्होंने इसे बढ़ाकर "अत्यधिक सहानुभूति" कर दिया, तो एआई ने इतनी अधिक फालतू बातें और बनावटी विवरण जोड़ दिए कि उसका फैक्ट-चेकिंग स्कोर गिरकर 78% हो गया।
यह उस दोस्त की तरह है जो आपको सांत्वना देने की इतनी कोशिश करता है कि वह गलती से आपसे ऐसी वादे कर देता है जिन्हें वह पूरा नहीं कर सकता। पेपर सुझाव देता है कि यदि आप चाहते हैं कि एआई एक सहायक उपकरण बने, तो आपको "एम्पैथी डायल" को बस इतना ही कम रखना होगा ताकि वह कहानियाँ बनाना शुरू न कर दे।
यह क्यों महत्वपूर्ण है
पेपर का तर्क है कि हमें इन संदेशों को लिखने में डॉक्टरों की जगह एआई को नहीं लेने देना चाहिए। इसके बजाय, हमें एआई को एक सहयोगी भागीदार के रूप में उपयोग करना चाहिए। डॉक्टर सत्य प्रदान करता है (लंगर/एंकर), और एआई उस सत्य को एक गर्म, देखभाल करने वाले कंबल में लपेटने में मदद करता है।
शोधकर्ता इस बारे में काफी आश्वस्त हैं क्योंकि उन्होंने वास्तविक डेटा के साथ परीक्षण किया और यहाँ तक कि मानव विशेषज्ञों (डॉक्टरों और मरीजों) से भी परिणामों की जांच करवाई। उन्होंने पाया कि "एडिटर" विधि ही एकमात्र तरीका है जिससे दिल और दिमाग दोनों को सही रखा जा सकता है। यदि आप एआई को केवल टेक्स्ट जेनरेट करने देते हैं, तो आपको एक ऐसा दिल मिलता है जो बहुत तेज़ धड़क रहा है और एक ऐसा दिमाग जो बकवास से भरा है। लेकिन यदि आप एआई को डॉक्टर के शब्दों को संपादित करने देते हैं, तो आपको एक ऐसा संदेश मिलता है जो दयालु भी है और सत्य भी।
तो, मुख्य बात यह है: एआई को कहानी लिखने न दें; उसे आपकी कहानी को बेहतर ढंग से बताने में मदद करने दें। यह एक ऐसे जादू के खेल और एक सहायक उपकरण के बीच का अंतर है जो वास्तव में काम करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।