When Patients Say “Do Not Share”: LLMs Misroute Sensitive Information in Clinical Documentation
यह अध्ययन प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स अक्सर क्लिनिकल डॉक्यूमेंटेशन में संवेदनशील जानकारी को रोकने के मरीज के अनुरोधों का सम्मान करने में विफल रहते हैं, जिससे एक तिहाई से अधिक मामलों में ऐसी डेटा को असंबंधित प्राप्तकर्ताओं को प्रकट कर दिया जाता है, लेकिन यह प्रदर्शित करता है कि प्राप्तकर्ता-आधारित रूटिंग वर्कफ़्लो लागू करने से आवश्यक सूचना साझा करने से समझौता किए बिना इस जोखिम को काफी हद तक कम किया जा सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डॉक्टर के क्लिनिक के शांत कोनों में, मरीज अक्सर ऐसी बातें साझा करते हैं जिन्हें वे छिपाकर रखना चाहते हैं। वे नशे की लत, किसी निजी स्वास्थ्य स्थिति या कठिन घरेलू जीवन के संघर्षों के बारे में बात कर सकते हैं, इस भरोसे के साथ कि चिकित्सक इस जानकारी का उपयोग केवल उन्हें स्वस्थ करने के लिए करेंगे। कभी-कभी, एक मरीज स्पष्ट रूप से यह अनुरोध करता है कि एक विशिष्ट विवरण को किसी और के साथ साझा न किया जाए। यह अनुरोध चिकित्सा विश्वास का एक मौलिक हिस्सा है, एक वादा कि संवेदनशील तथ्य देखभाल के दायरे के भीतर ही रहेंगे। आज, डॉक्टर इन बातचीत को सुनने और उन्हें आधिकारिक मेडिकल नोट्स, अन्य विशेषज्ञों को भेजे जाने वाले रेफरल और नियोक्ताओं (employers) के लिए पत्रों में लिखने के लिए तेजी से आर्टिफिशियल इंटेलिजेंस पर भरोसा कर रहे हैं। ये कंप्यूटर प्रोग्राम, जिन्हें लार्ज लैंग्वेज मॉडल्स (large language models) कहा जाता है, मानव भाषा को समझने और उसे जल्दी से सारांशित करने के लिए डिज़ाइन किए गए हैं। लेकिन एक नया प्रश्न उभरा है: जब कोई मरीज कहता है "साझा न करें," तो क्या मशीन सुनती है? इसका उत्तर महत्वपूर्ण है क्योंकि ये डिजिटल सारांश केवल रिकॉर्ड नहीं हैं; ये ऐसे दस्तावेज़ हैं जो यात्रा करते हैं। हृदय रोग विशेषज्ञ के लिए बनाया गया नोट गलती से किसी बॉस को भेजे जाने वाले पत्र में जा सकता है, या मरीज के लिए बनाया गया सारांश उस परिवार के सदस्य द्वारा पढ़ा जा सकता है जिसे यह देखने के लिए नहीं कहा गया था। इस प्रणाली की सुरक्षा इस बात पर निर्भर करती है कि कंप्यूटर न केवल यह जाने कि क्या कहना है, बल्कि यह भी जाने कि इसे कौन सुनना चाहिए।
कई प्रमुख चिकित्सा केंद्रों के शोधकर्ताओं ने ठीक इसी परिदृश्य का परीक्षण करने के लिए हाथ मिलाया। वे देखना चाहते थे कि क्या वर्तमान आर्टिफिशियल इंटेलिजेंस सिस्टम किसी मरीज के संवेदनशील जानकारी को रोकने के स्पष्ट अनुरोध का सम्मान कर सकते हैं जब वे विभिन्न लोगों के लिए दस्तावेज़ तैयार कर रहे हों। ऐसा करने के लिए, उन्होंने हजारों सिम्युलेटेड मेडिकल मुलाकातों वाला एक विशाल, नियंत्रित प्रयोग बनाया। उन्होंने मानसिक स्वास्थ्य, मादक द्रव्यों के सेवन और प्रजनन संबंधी मुद्दों जैसे स्वास्थ्य के छह संवेदनशील क्षेत्रों को कवर करते हुए 120 विस्तृत केस स्टडीज बनाईं। प्रत्येक केस के लिए, उन्होंने दो संस्करण बनाए: एक जहाँ मरीज ने जानकारी साझा की, और दूसरा जहाँ मरीज ने वही जानकारी साझा की लेकिन तत्काल देखभाल टीम के बाहर किसी के साथ भी साझा न करने का एक स्पष्ट, सीधा अनुरोध जोड़ा। फिर उन्होंने सात अलग-अलग आर्टिफिशियल इंटेलिजेंस मॉडल्स से इन बातचीत को पांच अलग-अलग प्रकार के दस्तावेजों में बदलने के लिए कहा: उपचार करने वाले डॉक्टर के लिए एक नोट, एक ऐसे विशेषज्ञ को रेफरल जिसे जानकारी की आवश्यकता थी, एक ऐसे विशेषज्ञ को रेफरल जिसे इसकी आवश्यकता नहीं थी, मरीज के लिए एक सारांश, और एक नियोक्ता के लिए एक पत्र।
परिणामों ने एक महत्वपूर्ण अंतर प्रकट किया कि मरीज क्या मांगते हैं और मशीनें क्या प्रदान करती हैं। भले ही मरीज ने स्पष्ट रूप से अनुरोध किया था कि एक संवेदनशील तथ्य को निजी रखा जाए, फिर भी आर्टिफिशियल इंटेलिजेंस मॉडल्स ने उन लोगों को भेजे जाने वाले 34.2 प्रतिशत दस्तावेजों में वह जानकारी शामिल कर दी जिन्हें इसकी आवश्यकता नहीं थी, जैसे कि असंबंधित विशेषज्ञ या नियोक्ता। वास्तविक दुनिया की भाषा का उपयोग करने वाले परीक्षणों में, समस्या और भी अधिक स्पष्ट थी; बिना किसी अनुरोध के, मॉडल्स ने लगभग 68 प्रतिशत अनुपयुक्त दस्तावेजों में जानकारी साझा की, और अनुरोध के बावजूद, उन्होंने लगभग 34 प्रतिशत मामलों में इसे साझा किया। मॉडल्स संदर्भ के तर्क को समझने में संघर्ष करते हुए प्रतीत हुए। उन्होंने मेडिकल हिस्ट्री को सत्य के एक एकल ब्लॉक के रूप में माना जो हर दस्तावेज़ में होना चाहिए, बजाय इसके कि वे समझ पाते कि एक तथ्य एक डॉक्टर के लिए सत्य और महत्वपूर्ण हो सकता है लेकिन दूसरे के लिए पूरी तरह से अनुपयुक्त हो सकता है। शोधकर्ताओं ने पाया कि मॉडल को केवल "साझा न करें" कहना संवेदनशील विवरणों को लीक होने से रोकने का एक विश्वसनीय तरीका नहीं था।
अध्ययन ने एक खतरनाक ट्रेड-ऑफ (समझौता) को भी उजागर किया। जब शोधकर्ताओं ने संवेदनशील जानकारी को छिपाने के लिए मॉडल्स को सख्त निर्देश देकर समस्या को ठीक करने की कोशिश की, तो मशीनों ने कभी-कभी बहुत अधिक सीमा पार कर दी। वे उन तथ्यों को छोड़ना शुरू कर देते थे जो वास्तव में सुरक्षित चिकित्सा देखभाल के लिए आवश्यक थे। उदाहरण के लिए, उन मामलों में जहां एक मरीज ने ऐसी स्थिति को छिपाने के लिए कहा जिसे प्राप्त करने वाले विशेषज्ञ को सुरक्षा के लिए जानना अत्यंत आवश्यक था, मॉडल्स ने कभी-कभी जानकारी को पूरी तरह से हटा दिया, जिससे मरीज को जोखिम में डाला जा सकता था। इसने एक कठिन स्थिति पैदा कर दी जहाँ प्रणाली या तो बहुत अधिक साझा करती थी या बहुत अधिक छिपा लेती थी। शोधकर्ताओं ने पाया कि मॉडल्स में मरीज के गोपनीयता अनुरोध को जानकारी की नैदानिक आवश्यकता के विरुद्ध तौलने की अंतर्निहित क्षमता नहीं थी। वे केवल नवीनतम निर्देश का पालन करते थे बिना उनके विकल्पों के परिणामों को समझे।
इसे संबोधित करने के लिए, टीम ने 'रेसिपिएंट-कंडीशन्ड रूटिंग वर्कफ्लो' (recipient-conditioned routing workflow) नामक एक अधिक परिष्कृत दृष्टिकोण का परीक्षण किया। केवल मॉडल को नोट लिखने के लिए कहने के बजाय, इस प्रणाली ने पहले मॉडल से संवेदनशील जानकारी की पहचान करने, फिर यह निर्णय लेने के लिए कहा कि उस दस्तावेज़ का विशिष्ट प्राप्तकर्ता उसे देखने की आवश्यकता रखता है या नहीं, और फिर तदनुसार टेक्स्ट तैयार करने के लिए कहा। जब उन्होंने इस पद्धति का परीक्षण एक मॉडल पर किया, तो यह उल्लेखनीय रूप से प्रभावी रहा, जिसने अनुचित साझाकरण की दर को 21 प्रतिशत से घटाकर केवल 1.2 प्रतिशत कर दिया, बिना आवश्यक चिकित्सा तथ्यों को छिपाए। हालाँकि, जब उन्होंने एक अलग मॉडल पर समान विधि का परीक्षण किया, तो इससे हानिकारक omissions (चूक) में भारी उछाल आया, जिससे दो-तिहाई मामलों में महत्वपूर्ण जानकारी छिप गई। इसने दिखाया कि समाधान सार्वभौमिक नहीं है; जो एक आर्टिफिशियल इंटेलिजेंस सिस्टम के लिए काम करता है वह दूसरे को खराब कर सकता है। अध्ययन निष्कर्ष निकालता है कि केवल एक मरीज के मौखिक अनुरोध पर भरोसा करना स्वचालित दुनिया में गोपनीयता की रक्षा के लिए पर्याप्त नहीं है।
निष्कर्ष बताते हैं कि इन उपकरणों का अस्पतालों में व्यापक रूप से उपयोग करने से पहले, उनका परीक्षण न केवल इस बात के लिए किया जाना चाहिए कि वे कितनी अच्छी तरह लिखते हैं, बल्कि इस बात के लिए भी कि वे यह समझते हैं कि किसे क्या पढ़ना चाहिए। कंप्यूटर द्वारा उत्पन्न दस्तावेज़ केवल तथ्यों का सारांश नहीं है; यह एक निर्णय है कि मरीज की कहानी को कौन जान पाएगा। यदि सिस्टम एक उपचार करने वाले चिकित्सक और एक नियोक्ता के लिए लिखे जाने वाले पत्र के बीच अंतर नहीं कर सकता है, तो यह एक बुनियादी सुरक्षा परीक्षण में विफल रहता है। शोधकर्ता जोर देते हैं कि डेटा का सुरक्षित भंडारण, सूचना के सुरक्षित साझाकरण के समान नहीं है। भले ही कोई सिस्टम सुरक्षित हो और डेटा एन्क्रिप्टेड हो, मॉडल फिर भी एक संवेदनशील तथ्य को गलत दस्तावेज़ में रख सकता है। अध्ययन सिफारिश करता है कि प्रत्येक प्रकार के दस्तावेज़ और सॉफ्टवेयर के प्रत्येक संस्करण की इन विशिष्ट त्रुटियों के लिए अलग से जाँच की जानी चाहिए। जब तक ये सिस्टम मरीज के अनुरोध को उनकी सुरक्षा से समझौता किए बिना विश्वसनीय रूप से पूरा नहीं कर सकते, तब तक मेडिकल लेटर में क्या जाएगा, इसका अंतिम निर्णय एक मानव चिकित्सक के हाथों में रहना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।