Position: Medical AI Neglects Real Treatment Outcomes
यह स्थिति पत्र तर्क देता है कि चिकित्सा संबंधी एआई (AI) का अवलोकन संबंधी और प्रयोगात्मक स्रोतों से प्राप्त वास्तविक उपचार परिणाम डेटा के बजाय मानवीय विचारों और पाठ्य संश्लेषणों पर निर्भर होना इसकी क्षमता को गंभीर रूप से सीमित करता है, जिसके लिए रोगी के स्वास्थ्य में सुधार के अंतिम लक्ष्य को बेहतर ढंग से प्राप्त करने हेतु प्रशिक्षण और मूल्यांकन दोनों में वास्तविक दुनिया के परिणाम डेटा को शामिल करने की ओर बदलाव करना आवश्यक है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
चिकित्सा हमेशा से एक ऐसा क्षेत्र रहा है जहाँ एक अच्छे अनुमान और एक जीवन रक्षक निर्णय के बीच का अंतर डेटा का मामला हो सकता है। दशकों से, डॉक्टर व्यक्तिगत विशेषज्ञों के अंतर्ज्ञान पर निर्भर रहने के बजाय, हजारों रोगियों के सामूहिक अनुभव पर आधारित एक प्रणाली की ओर बढ़ रहे हैं। 'एविडेंस-बेस्ड मेडिसिन' (साक्ष्य-आधारित चिकित्सा) के रूप में जानी जाने वाली यह पद्धति, उपचार के पीछे के सिद्धांतों के बजाय उपचार के वास्तविक परिणामों पर हर निर्णय को आधारित करने का प्रयास करती है। यह एक ऐसी प्रणाली है जो न केवल यह पूछती है कि कोई दवा क्या करने के लिए बनी है, बल्कि यह भी पूछती है कि इसे लेने वाले लोगों के लिए वास्तव में इसने क्या किया। हाल के वर्षों में, इस परिदृश्य में एक नया उपकरण आया है: आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता)। ये कंप्यूटर सिस्टम, जिन्हें अक्सर 'लार्ज लैंग्वेज मॉडल्स' कहा जाता है, चिकित्सा ग्रंथों को पढ़ने, स्थितियों का निदान करने और भविष्य के स्वास्थ्य जोखिमों की भविष्यवाणी करने की उल्लेखनीय क्षमता प्रदर्शित कर चुके हैं। इन्हें चिकित्सा संबंधी जर्नल्स, पाठ्यपुस्तकों और नैदानिक दिशानिर्देशों के विशाल पुस्तकालयों पर प्रशिक्षित किया जाता है, जिससे वे मानव विशेषज्ञों की भाषा और तर्क की नकल करना सीख जाते हैं।
हालाँकि, इन बुद्धिमान प्रणालियों को बनाने और परीक्षण करने के तरीके में एक गंभीर अंतराल उभर कर आया है। जबकि वे बीमारियों की पहचान करने या यह भविष्यवाणी करने में बेहतर हो रहे हैं कि किसे बीमार होने का खतरा है, उन्हें उन उपचारों के वास्तविक परिणामों को समझने के लिए नहीं सिखाया जा रहा है जिनका वे सुझाव देते हैं। आज शोधकर्ताओं के सामने मुख्य प्रश्न यह है कि क्या ये मशीनें चिकित्सा पुस्तकों में लिखे गए वृत्तांतों से सीख रही हैं, या रोगियों के परिणामों की कठिन और अक्सर जटिल वास्तविकता से। यदि किसी एआई को केवल विशेषज्ञों की राय और दिशानिर्देशों में लिखे गए नियमों पर प्रशिक्षित किया जाता है, तो वह एक डॉक्टर की तरह बोलने में तो सक्षम हो सकता है, लेकिन वह कभी भी यह वास्तव में नहीं समझ पाएगा कि जब किसी वास्तविक मनुष्य पर उपचार लागू किया जाता है तो क्या होता है। यह अंतर केवल एक अकादमिक विवरण नहीं है; यह एक ऐसी प्रणाली के बीच का अंतर है जो नियमों को दोहराती है और एक ऐसी प्रणाली के बीच का अंतर है जो वास्तव में स्वास्थ्य में सुधार कर सकती है।
एक नया पोजीशन पेपर तर्क देता है कि वर्तमान पीढ़ी का मेडिकल आर्टिफिशियल इंटेलिजेंस वास्तविक उपचार परिणामों से सीखने में विफल हो रहा है। हार्वर्ड पिलग्रिम हेल्थ केयर इंस्टीट्यूट और हार्वर्ड मेडिकल स्कूल के शोधकर्ता, जो इस पत्र के लेखक हैं, उनका कहना है कि हालांकि इन मॉडल्स को चिकित्सा पाठ की भारी मात्रा खिलाई जा रही है, लेकिन वे सबसे महत्वपूर्ण डेटा को समझने में काफी हद तक चूक रहे हैं: वह रिकॉर्ड कि देखभाल प्राप्त करने के बाद वास्तव में रोगियों के साथ क्या हुआ। यह पत्र सुझाव देता है कि क्षेत्र बहुत अधिक मध्यवर्ती चरणों पर केंद्रित हो गया है, जैसे कि किसी स्थिति का निदान करना या जोखिम की भविष्यवाणी करना, जबकि चिकित्सा के अंतिम लक्ष्य की उपेक्षा की जा रही है: उपचार के माध्यम से रोगी के स्वास्थ्य में सुधार करना। शोधकर्ता बताते हैं कि अधिकांश मेडिकल एआई मॉडल स्थिर दस्तावेजों जैसे नैदानिक दिशानिर्देशों, दवाओं के लेबल और प्रकाशित केस रिपोर्टों पर प्रशिक्षित होते हैं। ये स्रोत एक विशिष्ट समय पर चिकित्सा समुदाय के सर्वसम्मति का प्रतिनिधित्व करते हैं, लेकिन वे विविध आबादी में उपचार समय के साथ कैसे चलते हैं, इसकी गतिशील और दीर्घकालिक वास्तविकता को नहीं दर्शाते हैं।
इन स्थिर स्रोतों पर निर्भर रहने के खतरे को समझाने के लिए, शोधकर्ताओं ने परीक्षण किया कि वर्तमान एआई मॉडल जटिल चिकित्सा परिदृश्यों को कैसे संभालते हैं। उन्होंने 'इवाकाफ्टर' नामक दवा से सफलतापूर्वक उपचार किए गए अग्नाशयशोथ (पैनक्रियाटाइटिस) के एक दुर्लभ रूप वाले रोगी से जुड़े एक विशिष्ट मामले का अध्ययन किया। वास्तविक दुनिया में, यह उपचार सफल रहा, लेकिन इस दवा का आधिकारिक लेबल—जो एक सरकारी अनुमोदित दस्तावेज़ है जिसका उपयोग कई एआई सिस्टम को प्रशिक्षित करने के लिए किया जाता है—इसमें इस विशिष्ट उपयोग का उल्लेख नहीं था। जब शोधकर्ताओं ने एक एआई मॉडल से उस रोगी के लिए इस दवा की उपयोगिता का मूल्यांकन करने के लिए कहा, तो मॉडल ने आधिकारिक लेबल पर भरोसा करते हुए गलत निष्कर्ष निकाला कि दवा अप्रभावी होगी। मॉडल अनिवार्य रूप से पुस्तक के नियमों का पालन कर रहा था, न कि रोगी के ठीक होने की वास्तविकता का। यह त्रुटि तब भी हुई जब एआई के पास सफल उपचार का वर्णन करने वाली केस रिपोर्ट उपलब्ध थी; मॉडल के प्रशिक्षण में मौजूद कठोर ड्रग लेबल ने वास्तविक परिणाम के साक्ष्य को दबा दिया। शोधकर्ताओं ने पाया कि यह समस्या व्यापक है। जब उन्होंने नैदानिक दिशानिक्रमों से जुड़े समान परिदृश्यों के विरुद्ध अन्य मॉडल्स का परीक्षण किया, तो सिस्टम अक्सर उन जटिल स्थितियों को पहचानने में विफल रहे जहाँ एक डॉक्टर को एक विशिष्ट रोगी की मदद करने के लिए मानक नियमों से विचलन करने की आवश्यकता हो सकती है।
यह पत्र आगे इस बात पर प्रकाश डालता है कि इन एआई प्रणालियों का मूल्यांकन करने का तरीका ही समस्या का हिस्सा है। कई बेंचमार्क, या टेस्ट जिनका उपयोग यह मापने के लिए किया जाता है कि एक एआई कितना अच्छा प्रदर्शन कर रहा है, वे एआई के उत्तरों को ग्रेड करने के लिए मानव विशेषज्ञों पर निर्भर करते हैं। शोधकर्ताओं का तर्क है कि विशेषज्ञों के एक समूह से किसी उत्तर पर सहमत होने के लिए कहना, सत्य जानने के समान नहीं है। एक विश्लेषण में, उन्होंने पाया कि एआई के उत्तरों को ग्रेड करने के लिए उपयोग किए जाने वाले मानदंडों का एक महत्वपूर्ण हिस्सा केवल दिशानिर्देशों के सीधे उद्धरण थे, न कि वास्तविक नैदानिक सफलता का प्रतिबिंब। यह एक चक्रीय तर्क (सर्कुलर लॉजिक) बनाता है जहाँ एआई को दिशानिर्देशों पर प्रशिक्षित किया जाता है, दिशानिर्देशों के विरुद्ध परखा जाता है, और फिर दिशानिर्देशों का पालन करने के लिए उसकी प्रशंसा की जाती है, भले ही वे दिशानिर्देश पुराने हों या हर व्यक्ति पर लागू न होते हों। शोधकर्ताओं का सुझाव है कि यह दृष्टिकोण आर्टिफिशियल इंटेलिजेंस की क्षमता को सीमित करता है कि वह चिकित्सा में एक सच्चा साथी बन सके, जो नए अंतर्दृख (इनसाइट्स) खोजने में सक्षम हो, न कि केवल वही दोहराने में जो पहले से लिखा जा चुका है।
लेखक मेडिकल एआई के विकास के तरीके में एक मौलिक बदलाव का प्रस्ताव करते हैं। इन प्रणालियों को मुख्य रूप से टेक्स्ट (पाठ) पर प्रशिक्षित करने के बजाय, वे अनुदैर्ध्य रोगी डेटा (लॉन्गीटुडिनल पेशेंट डेटा) का उपयोग करने की सिफारिश करते हैं, जैसे कि इलेक्ट्रॉनिक हेल्थ रिकॉर्ड्स और बीमा दावे, जो यह ट्रैक करते हैं कि कौन से उपचार दिए गए और उसके बाद रोगियों के साथ क्या हुआ। इन रिकॉर्ड्स में वास्तविक दुनिया के साक्ष्य का कच्चा माल होता है, जो एक थेरेपी और रोगी के स्वास्थ्य में सुधार या गिरावट के बीच के कार्य-कारण संबंधों को दर्शाता है। शोधकर्ता यह भी सुझाव देते हैं कि इन मॉडल्स के परीक्षण को दिशानिर्देशों को रटने के बजाय वास्तविक दुनिया के प्रयोगों के परिणामों की भविष्यवाणी करने या नैदानिक परीक्षणों के परिणामों का अनुकरण करने की ओर बढ़ना चाहिए। इन प्रणालियों के प्रशिक्षण और मूल्यांकन को वास्तविक रोगी परिणामों में स्थापित करके, यह क्षेत्र एक ऐसे भविष्य की ओर बढ़ सकता है जहाँ आर्टिफिशियल इंटेलिजेंस डॉक्टरों को ऐसे निर्णय लेने में मदद करे जो न केवल सैद्धांतिक रूप से सुदृढ़ हों, बल्कि उनके सामने बैठे लोगों के लिए व्यावहारिक रूप से प्रभावी भी हों।
यह पत्र यह सुझाव नहीं देता कि वर्तमान मेडिकल एआई बेकार है या मौजूदा बेंचमार्क पूरी तरह से मूल्यहीन हैं। शोधकर्ता स्वीकार करते हैं कि इन उपकरणों ने तीव्र प्रगति की है और निदान तथा सूचना प्राप्ति जैसे क्षेत्रों में मूल्यवान क्षमताएं प्रदर्शित की हैं। हालाँकि, उनका तर्क है कि क्षेत्र एक ऐसे बिंदु पर पहुँच गया है जहाँ समान प्रशिक्षण और मूल्यांकन विधियों पर निर्भर रहना अगली बड़ी छलांग लगाने से रोकेगा। लक्ष्य चिकित्सा साहित्य में निहित ज्ञान को त्यागना नहीं है, बल्कि यह सुनिश्चित करना है कि चिकित्सा ज्ञान का उपयोग करने के लिए बनाई गई आर्टिफिशियल इंटेलिजेंस प्रणालियाँ वास्तविक रोगी देखभाल की वास्तविकता में भी जमी हुई हों। वास्तविक उपचार परिणामों को उनके विकास के मूल में शामिल करके, शोधकर्ताओं का मानना है कि मेडिकल एआई विकसित होकर एक ऐसी प्रणाली बन सकता है जो केवल नियमों को पढ़ती है, बल्कि परिणामों को समझती है, और अंततः बेहतर दिशानिर्देश लिखने और दुनिया भर में रोगियों के स्वास्थ्य में सुधार करने में मदद करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।