Revealing Treatment Non-Adherence Bias in Clinical Machine Learning Using Large Language Models
यह अध्ययन प्रदर्शित करता है कि क्लिनिकल नोट्स का विश्लेषण करने के लिए लार्ज लैंग्वेज मॉडल्स का उपयोग करने वाले उच्च रक्तचाप के 21.7% रोगियों में पहचाना गया उपचार गैर-अनुपालन (treatment non-adherence), एक महत्वपूर्ण पूर्वाग्रह पेश करता है जो कारण अनुमान (causal inference) को विकृत करता है, मॉडल के प्रदर्शन को कम करता है, और क्लिनिकल मशीन लर्निंग सिस्टम में स्वास्थ्य असमानताओं को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को सुरक्षित रूप से कार चलाना सिखाने की कोशिश कर रहे हैं। आप रोबोट को पिछले ड्राइविंग लॉग्स का एक विशाल पुस्तकालय देते हैं। लॉग कहते हैं, "जब लाइट लाल हुई, तो ड्राइवर ने ब्रेक दबाया, और कार रुक गई।"
रोबोट एक सरल नियम सीखता है: लाल लाइट = ब्रेक = रुकना। वह यह मान लेता है कि हर बार जब किसी ड्राइवर ने लाल लाइट देखी, तो उन्होंने वास्तव में ब्रेक दबाया था।
लेकिन यहाँ समस्या है: असल जिंदगी में, कुछ ड्राइवर देखते हैं कि "मैं जल्दी में हूँ," और बस रेड लाइट को पार कर जाते हैं। लॉगबुक हमेशा यह नहीं कहती कि "ड्राइवर ने लाइट को अनदेखा किया।" यह बस कहती है "ड्राइवर ने लाल लाइट देखी।"
यदि आपके रोबोट को यह नहीं पता कि किसने वास्तव में ब्रेक लगाया और किसने नहीं, तो वह एक गलत नियम सीख लेगा। वह यह सोचेगा कि ब्रेक पूरी तरह से काम करता है, जबकि वास्तव में, वह लोगों के मिले-जुले व्यवहार से सीख रहा है। यह रोबोट का भविष्य के ट्रैफिक के बारे में अनुमान लगाना खतरनाक और गलत बना देता है।
यह पेपर चिकित्सा मशीन लर्निंग (medical machine learning) में ठीक इसी समस्या को ठीक करने के बारे में है।
वास्तविक दुनिया की समस्या: "मौन" गैर-अनुपालन (The "Silent" Non-Stop)
डॉक्टर कंप्यूटर प्रोग्रामों (मशीन लर्निंग) का उपयोग यह तय करने के लिए करते हैं कि मरीजों के साथ क्या उपचार किया जाए, विशेष रूप से उच्च रक्तचाप (हाइपरटेंशन) के लिए। ये प्रोग्राम इलेक्ट्रॉनिक हेल्थ रिकॉर्ड्स (EHRs) देखते हैं—जो मूल रूप से मरीज की डिजिटल डायरी है।
कंप्यूटर यह मान लेता है: "यदि डॉक्टर ने 'दवा X निर्धारित करें' लिखा है, तो मरीज ने दवा X ली है।"
लेकिन मरीज इंसान होते हैं। कभी-कभी वे भूल जाते हैं, कभी-कभी दवाएं उन्हें चक्कर आने जैसा महसूस कराती हैं, और कभी-कभी वे दवा का नया स्टॉक लेने में असमर्थ होते हैं। वे दवा लेना बंद कर देते हैं, लेकिन कंप्यूटर को यह पता नहीं चलता। वह केवल रिकॉर्ड में लिखी गई प्रिस्क्रिप्शन को देखता है।
इस पेपर के लेखक इसे "ट्रीटमेंट नॉन-एडहेरेंस बायस" (उपचार गैर-अनुपालन पूर्वाग्रह) कहते हैं। यह बिल्कुल वैसा ही है जैसे रोबोट का यह सोचना कि ड्राइवर ने ब्रेक लगाया, जबकि वास्तव में उन्होंने नहीं लगाया था।
उन्होंने झूठ को कैसे पकड़ा: सुपर-रीडर
लंबे समय तक, शोधकर्ताओं को मरीजों से सीधे पूछना पड़ता था, "क्या आपने अपनी दवाएं लीं?" लेकिन लोग अक्सर झूठ बोलते हैं या सच बताना भूल जाते हैं।
इस अध्ययन में, शोधकर्ताओं ने एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग किया। इस LLM को एक बहुत ही स्मार्ट, अथक पढ़ने वाले सहायक के रूप में समझें। उन्होंने इसे हजारों पन्नों के बिखरे हुए, हाथ से लिखे शैली के डॉक्टर के नोट्स दिए।
जबकि कंप्यूटर डेटाबेस केवल "निर्धारित: लिसिनोप्रिल" देख रहा था, LLM ने डॉक्टर के नोट्स को पढ़ा और उसमें छिपे सुराग ढूंढ निकाले जैसे:
- "मरीज का कहना है कि उन्होंने इसे लेना बंद कर दिया क्योंकि इससे उन्हें चक्कर आ रहे थे।"
- "मरीज दवा का नया स्टॉक लेना भूल गया।"
- "मरीज के पास दवा खत्म हो गई।"
इस "सुपर-रीडर" का उपयोग करके, उन्होंने 3,623 मरीजों का विश्लेषण किया। उन्होंने पाया कि 786 मरीज (लगभग 22%) वास्तव में निर्धारित अनुसार अपनी दवा नहीं ले रहे थे, भले ही कंप्यूटर रिकॉर्ड्स में ऐसा दिख रहा था कि वे दवा ले रहे हैं।
उन्होंने क्या खोजा
एक बार जब उन्होंने "ईमानदार" मरीजों को "गैर-अनुपालन" (non-adherent) करने वालों से अलग कर दिया, तो उन्हें कुछ दिलचस्प पैटर्न मिले:
- दवा छोड़ना किसे अधिक पसंद है? युवा मरीज और अश्वेत (Black) मरीज दवा न लेने के प्रति अधिक संवेदनशील थे।
- क्यों? LLM ने नोट्स को पढ़ा और कारणों को समूहों में बांटा। सबसे बड़ा कारण क्या था? साइड इफेक्ट्स (जैसे चक्कर आना या सिरदर्द)। दूसरा सबसे बड़ा कारण? भूल जाना। अन्य लोगों ने रिफिल पाने में परेशानी या दवा खो जाने का भी उल्लेख किया।
खतरा: यह कंप्यूटर को कैसे खराब करता है
पेपर का सबसे महत्वपूर्ण हिस्सा वह है जो तब होता है जब आप इस समस्या को अनदेखा कर देते हैं। शोधकर्ताओं ने दो चीजों का परीक्षण किया:
कॉज़ल इन्फरेंस (Causal Inference - यह समझना कि क्या काम करता है):
उन्होंने यह गणना करने की कोशिश की कि एक विशिष्ट दवा कितनी अच्छी तरह काम करती है।- गलती: जब उन्होंने "गैर-अनुपालन" करने वाले मरीजों (जिन्होंने दवा नहीं ली) को "उपचारित" समूह में शामिल किया, तो कंप्यूटर भ्रमित हो गया। उसे लगा कि दवा काम नहीं कर रही है क्योंकि जिन मरीजों ने दवा नहीं ली, वे ठीक नहीं हुए।
- परिणाम: कुछ मामलों में, यह पूर्वाग्रह इतना मजबूत था कि इसने निष्कर्ष को ही उलट दिया। कंप्यूटर ने सोचा कि एक दवा हानिकारक थी जबकि वह वास्तव में सहायक थी, या इसके विपरीत।
प्रेडिक्टिव मॉडल्स (भविष्य का अनुमान लगाना):
उन्होंने मरीजों के परिणामों की भविष्यवाणी करने के लिए मॉडल बनाए।- गलती: "गंदे" डेटा (जहाँ कंप्यूटर सोचता है कि मरीज ने दवा ली लेकिन उन्होंने नहीं ली) को मॉडल में फीड करने से, मॉडल की सटीकता में 5% की गिरावट आई।
- परिणाम: यह सुनने में बहुत ज्यादा नहीं लग सकता है, लेकिन चिकित्सा में, सटीकता में 5% की गिरावट का मतलब है उन लोगों के निदान को मिस करना जिन्हें मदद की सबसे अधिक आवश्यकता है। इसने सिस्टम को अनुचित (unfair) भी बना दिया, जिससे कमजोर आबादी (जैसे अश्वेत मरीज जो दवा लेने में अधिक संघर्ष करते हैं) के लिए देखभाल का अंतर और बढ़ गया।
समाधान: डेटा की सफाई
शोधकर्ताओं ने दिखाया कि यदि आप प्रशिक्षण डेटा से उन मरीजों को हटा देते हैं जो अपनी दवाएं नहीं ले रहे थे, तो कंप्यूटर मॉडल वास्तव में बेहतर और अधिक निष्पक्ष हो जाते हैं।
यह आपके ड्राइविंग लॉग्स को साफ करने जैसा है। यदि आप उन प्रविष्टियों को हटा देते हैं जहाँ ड्राइवरों ने रेड लाइट जंप की है, तो आपका रोबोट सही नियम सीखता है: "यदि आप ब्रेक दबाते हैं, तो आप रुकते हैं।"
सारांश
यह पेपर मेडिकल एआई (Medical AI) की दुनिया के लिए एक चेतावनी है: आप केवल प्रिस्क्रिप्शन रिकॉर्ड्स पर भरोसा नहीं कर सकते।
यदि आप उस डेटा पर मेडिकल एआई को प्रशिक्षित करते हैं जो यह मानता है कि हर कोई अपनी दवा ले रहा है, तो आप एक झूठ पर आधारित सिस्टम बना रहे हैं। यह झूठ एआई को निम्नलिखित बनाता है:
- यह समझने में गलत कि कौन सी दवाएं वास्तव में काम करती हैं।
- मरीज के स्वास्थ्य के बारे में खराब भविष्यवाणियां करना।
- उन लोगों के प्रति अनुचित होना जो दवा लेने के लिए संघर्ष करते हैं।
लेखक सुझाव देते हैं कि डॉक्टर के नोट्स को पढ़ने, "झूठ बोलने वालों" (गैर-अनुपालन करने वाले मरीजों) को खोजने और मेडिकल मॉडल को प्रशिक्षित करने से पहले डेटा को साफ करने के लिए एआई टूल्स (जैसे कि उनके द्वारा उपयोग किया गया LLM) का उपयोग किया जाए। यह सुनिश्चित करता है कि स्वास्थ्य सेवा का भविष्य सटीक और निष्पक्ष हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।