Protecting patient privacy in clinical foundation models: Technical and legal perspectives
यह शोध पत्र नैदानिक फाउंडेशन मॉडल्स (clinical foundation models) में मॉडल-मध्यस्थ डेटा रिसाव (model-mediated data leakage) को संबोधित करने के लिए पूरक तकनीकी और कानूनी रणनीतियों के माध्यम से गोपनीयता जोखिमों का आकलन करने और उन्हें कम करने हेतु एक व्यावहारिक, संदर्भ-जागरूक ढांचे का प्रस्ताव करता है, क्योंकि मौजूदा नियम जैसे कि HIPAA और GDPR इन अप्रत्यक्ष खतरों के लिए सीमित मार्गदर्शन प्रदान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट शेफ बनाया है। आपने इसे दुनिया भर के लाखों व्यंजन और कुकिंग वीडियो खिलाए हैं ताकि यह सूप से लेकर सूफ़ले तक कुछ भी बनाना सीख सके। अब, आप चाहते हैं कि लोग खाना पकाने में मदद के लिए इस रोबोट का उपयोग कर सकें। लेकिन यहाँ एक पेंच है: क्योंकि रोबोट ने बहुत गहराई से सीखा है, यह अनजाने में किसी अजनबी की विशिष्ट, गुप्त पारिवारिक रेसिपी को याद रख सकता है या परोस सकता है, या यहाँ तक कि यह भी प्रकट कर सकता है कि उसकी ट्रेनिंग बुक में किसी विशेष व्यक्ति का पसंदीदा व्यंजन शामिल था। यह केवल रोबोट द्वारा कोई फ़ाइल चुराने के बारे में नहीं है; यह इस बारे में है कि रोबोट उन रहस्यों को उजागर करने के लिए कार्य करता है जिन्हें उसे नहीं जानना चाहिए था। यह स्वास्थ्य सेवा में "फाउंडेशन मॉडल्स" की दुनिया है। ये विशाल AI सिस्टम हैं जिन्हें बड़ी मात्रा में रोगी डेटा—जैसे मेडिकल नोट्स, एक्स-रे और लैब परिणाम—पर प्रशिक्षित किया गया है ताकि डॉक्टरों को बीमारियों का निदान करने, स्वास्थ्य जोखिमों की भविष्यवाणी करने और उपचार की योजना बनाने में मदद मिल सके। जबकि ये उपकरण चिकित्सा में क्रांति लाने का वादा करते हैं, वे एक नए तरह के छिपे हुए गोपनीयता जोखिम के साथ आते हैं। यह केवल डेटाबेस में घुसपैठ करने वाले हैकर्स के बारे में नहीं है; यह इस बारे में है कि AI स्वयं अपने उत्तरों के माध्यम से संवेदनशील विवरणों को "लीक" कर सकता है, भले ही मूल डेटा से नाम और पते हटा दिए गए हों। बड़ा सवाल यह है: हम इन शक्तिशाली उपकरणों को सुरक्षित कैसे रखें बिना उन्हें कहीं बंद किए?
यह शोध पत्र, जिसे MIT, स्टैनफोर्ड और हार्वर्ड जैसी जगहों के शोधकर्ताओं की एक टीम द्वारा लिखा गया है, ठीक इसी समस्या को संबोधित करता है। वे तर्क देते हैं कि वर्तमान गोपनीयता नियम, जैसे कि अमेरिका में (HIPAA) और यूरोप में (GDPR), पुराने ट्रैफिक कानूनों की तरह हैं जो कारों के लिए लिखे गए थे, लेकिन अब हम सेल्फ-ड्राइविंग रॉकेट चला रहे हैं। ये नियम उस डेटा की सुरक्षा पर ध्यान केंद्रित करते हैं जो AI में जाने से पहले होता है, लेकिन वे उन अजीब तरीकों को नहीं जानते कि कैसे एक AI अनजाने में प्रशिक्षण के बाद राज उगल सकता है।
इसे ठीक करने के लिए, लेखक एक सरल दो-भाग वाले मानचित्र का उपयोग करके गोपनीयता जोखिम के बारे में सोचने का एक नया तरीका प्रस्तावित करते हैं। एक ग्राफ की कल्पना करें जहाँ एक तरफ यह पूछा जाता है, "सवाल पूछने वाला व्यक्ति पहले से कितना जानता है?" और दूसरी तरफ यह पूछा जाता है, "AI कितनी संवेदनशील जानकारी दे देता है?"
- "पूर्व ज्ञान" (Prior Knowledge) अक्ष: कभी-कभी, AI को अपना रहस्य बताने के लिए आपको कुछ भी जानने की आवश्यकता नहीं होती (जैसे कि इसे "एक कहानी बनाने" के लिए कहना और यह गलती से एक वास्तविक रोगी की कहानी बता देता है)। अन्य मामलों में, आपको AI को एक छोटा सा सुराग देने की आवश्यकता होती है, जैसे कि एक विशिष्ट दवा का नाम या एक दुर्लभ लक्षण, ताकि वह किसी विशिष्ट व्यक्ति के बारे में अधिक विवरण प्रकट कर सके।
- "लीक हुई जानकारी" (Leaked Info) अक्ष: दूसरी ओर, AI आपको ऐसी जानकारी दे सकता है जिसे किसी से जोड़ा जा सकता है (जैसे कि एक दुर्लभ बीमारी का पैटर्न), या यह आपको ऐसी जानकारी दे सकता है जो सीधे तौर पर उनकी पहचान करती है (जैसे कि एक नाम या एक विशिष्ट फोन नंबर)।
लेखक इन चीज़ों को गलत होने से बचाने के लिए छह अलग-अलग "लीकेज परिदृश्यों" को देखने के लिए इस मानचित्र का उपयोग करते हैं। उदाहरण के लिए:
- "कॉपीकैट" (Copycat) परिदृश्य: ब्रेन स्कैन पर प्रशिक्षित एक AI से एक सामान्य छवि उत्पन्न करने के लिए कहा जाता है, लेकिन यह गलती से एक वास्तविक रोगी के स्कैन की लगभग सटीक प्रति निकाल देता है, जिसमें विशिष्ट विचित्रताएं भी शामिल होती हैं जो उनकी पहचान कर सकती हैं।
- "मेमोरी लेन" (Memory Lane) परिदृश्य: एक उपयोगकर्ता एक विशिष्ट प्रकार के रोगी के लिए अस्पताल का नोट लिखने के लिए AI से कहता है, और AI, जिसने अपने प्रशिक्षण से एक वास्तविक नोट को याद कर लिया है, लगभग वही कहानी लिखता है, जिससे रोगी के उन निजी विवरणों का खुलासा होता है जो उसने सार्वजनिक रूप से कभी साझा नहीं किए थे।
- "ऑटोकंप्लीट ट्रैप" (Autocomplete Trap): एक डॉक्टर रोगी A के लिए एक नोट टाइप कर रहा है, और AI एक फॉलो-अप प्लान का सुझाव देता है जिसमें रोगी B का नाम और फोन नंबर शामिल है क्योंकि वह गलत स्मृति से जानकारी खींचने में भ्रमित हो गया।
- "मेंबरशिप लीक" (Membership Leak): एक शोधकर्ता AI से एक प्रश्न पूछता है और देखता है कि इसका व्यवहार विशेष रूप से रोगियों के एक समूह के साथ अजीब रूप से सुसंगत है, जिससे यह साबित होता है कि उन विशिष्ट लोगों का डेटा इसके प्रशिक्षण में उपयोग किया गया था, भले ही कोई नाम प्रकट न किया गया हो।
पत्र सुझाव देता है कि ये जोखिम वास्तविक हैं और "लोकल" सेटिंग्स (जहाँ एक अस्पताल अपने स्वयं के सुरक्षित सर्वर पर AI रखता है) और "पब्लिक" सेटिंग्स (जहाँ कोई भी ऑनलाइन AI का उपयोग कर सकता है) दोनों में होते हैं। वे पाते हैं कि वर्तमान कानून थोड़े अस्पष्ट हैं। उदाहरण के लिए, अमेरिका में, यदि कोई अस्पताल AI को प्रशिक्षित करने से पहले डेटा से नाम हटा देता है, तो वे सोच सकते हैं कि वे HIPAA के तहत सुरक्षित हैं। लेकिन लेखक बताते हैं कि यदि AI को अभी भी उस विशिष्ट व्यक्ति के डेटा को प्रकट करने के लिए उकसाया जा सकता है, तो अस्पताल के पास वास्तव में यह "वास्तविक ज्ञान" हो सकता है कि डेटा वास्तव में गुमनाम नहीं है, जो कि एक कानूनी समस्या हो सकती है जिसकी उन्हें उम्मीद नहीं थी। इसी तरह, यूरोप में, नियम कहते हैं कि डेटा को "पहचान योग्य" होना चाहिए ताकि उसे संरक्षित किया जा सके, लेकिन लेखक तर्क देते हैं कि भले ही आप तुरंत किसी व्यक्ति को नाम न दे सकें, यदि AI लक्षणों का एक दुर्लभ संयोजन प्रकट करता है जो पहचान की ओर ले जा सकता है, तो यह अभी भी एक गोपनीयता उल्लंघन है।
तो, समाधान क्या है? लेखक यह दावा नहीं करते कि उनके पास सब कुछ तुरंत ठीक करने वाली कोई जादुई छड़ी है। इसके बजाय, वे तकनीकी और कानूनी सुधारों के मिश्रण का सुझाव देते हैं। तकनीकी पक्ष पर, वे बेहतर परीक्षण (जैसे "रेड टीमिंग," जहाँ हैकर्स लीकेज खोजने के लिए AI को तोड़ने की कोशिश करते हैं), गणित का उपयोग करके यह सीमित करने के लिए कि AI कितना याद रख सकता है (जिसे "डिफरेंशियल प्राइवेसी" कहा जाता है), और यह सुनिश्चित करने के लिए कि रिलीज़ के बाद AI ने रहस्य लीक करना शुरू नहीं कर दिया है, लगातार जाँच करने की सिफारिश करते हैं। कानूनी पक्ष पर, वे तर्क देते हैं कि हमें अपने नियमों को अपडेट करने की आवश्यकता है ताकि वे केवल डेटा को ही नहीं, बल्कि इस बात के संदर्भ को भी देखें कि AI का उपयोग कैसे किया जाता है। वे सुझाव देते हैं कि कंपनियों और अस्पतालों को इस बात पर अधिक ध्यान देने की आवश्यकता है कि वे डेटा किसके साथ साझा करते हैं और इन मॉडलों को कैसे प्रशिक्षित करते हैं, जिसमें नए प्रकार के अनुबंध या निरीक्षण की आवश्यकता हो सकती है।
अंततः, पत्र सुझाव देता है कि हम रोगियों को सुरक्षित रखने के लिए केवल "नाम छिपाने" के पुराने विचार पर भरोसा नहीं कर सकते। जैसे-जैसे AI स्मार्ट होता जा रहा है और हमारे जीवन में एकीकृत हो रहा है, हमें जोखिम को मापने के लिए एक स्मार्ट, अधिक लचीले तरीके की आवश्यकता है। यह महसूस करने जैसा है कि अपने सामने के दरवाजे को लॉक करना अच्छा है, लेकिन आपको अपनी खिड़कियों, अपने बेसमेंट की भी जांच करने की आवश्यकता है और यह सुनिश्चित करने की भी आवश्यकता है कि आपके पड़ोसी गलती से आपके रहस्य न चिल्ला रहे हों। लेखक आशा करते हैं कि इस नए "रिस्क मैप" का उपयोग करके, हम चिकित्सा AI के अद्भुत लाभों को बनाए रख सकते हैं और यह भी सुनिश्चित कर सकते हैं कि रोगियों का निजी जीवन निजी रहे। वे स्वीकार करते हैं कि कानूनी परिदृश्य अभी भी बदल रहा है, जिसमें यूरोपीय संघ के AI एक्ट जैसे नए कानून भी तालमेल बिठाने की कोशिश कर रहे हैं, लेकिन मुख्य संदेश स्पष्ट है: गोपनीयता के मामले में हमें प्रतिक्रियात्मक होने के बजाय सक्रिय होने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।