Rare Diseases, Common Dilemmas: LLMs Prioritize Equal Resource Distribution over Patient Benefit in Decision-Making

चिकित्सा की उच्च-दांव वाली दुनिया में, डॉक्टरों को अक्सर ऐसे विकल्पों का सामना करना पड़ता है जहाँ कोई एक सही उत्तर नहीं होता। जब कोई रोगी गंभीर रूप से बीमार होता है या किसी दुर्लभ स्थिति का सामना कर रहा होता है, तो मेडिकल टीम को कई प्रतिस्पर्धी नैतिक कर्तव्यों के बीच संतुलन बनाना पड़ता है। उन्हें रोगी की मदद करने, नुकसान पहुँचाने से बचने, अपने स्वयं के मार्ग को चुनने के रोगी के अधिकार का सम्मान करने और यह सुनिश्चित करने की कोशिश करनी चाहिए कि संसाधनों को सभी उन लोगों के बीच निष्पक्ष रूप से साझा किया जाए जिन्हें उनकी आवश्यकता है। ये कर्तव्य, जिन्हें परोपकार (beneficence), अहानिकरता (non-maleficence), स्वायत्तता (autonomy) और न्याय (justice) के रूप में जाना जाता है, अक्सर अलग-अलग दिशाओं में खींचते हैं। उदाहरण के लिए, एक उपचार जो जीवन बचा सकता है, वह अत्यधिक पीड़ा भी दे सकता है, या एक दुर्लभ, महंगी दवा एक व्यक्ति की गहराई से मदद कर सकती है जबकि कई अन्य लोग देखभाल के बिना रह जाते हैं। जैसे-जैसे स्वास्थ्य सेवा में आर्टिफिशियल इंटेलिजेंस अधिक सामान्य हो रहा है, लोग पूछने लगे हैं कि ये कंप्यूटर सिस्टम इन कठिन, मूल्य-आधारित निर्णयों को कैसे संभालते हैं। चिंता केवल यह नहीं है कि मशीन तथ्यों को जानती है या नहीं, बल्कि यह है कि क्या वह शामिल नैतिक समझौतों के भार को समझती है।

एक नया अध्ययन जांच करता है कि बड़े भाषा मॉडल (large language models), जो मानव जैसी पाठ उत्पन्न करने में सक्षम शक्तिशाली एआई सिस्टम हैं, दुर्लभ बीमारियों वाले रोगियों की देखभाल करते समय इन नैतिक विकल्पों को कैसे चुनते हैं। दुर्लभ बीमारियाँ एक अनूठी चुनौती पेश करती हैं क्योंकि वे कम संख्या में लोगों को प्रभावित करती हैं, जिनमें अक्सर उपलब्ध चिकित्सा डेटा सीमित होता है। इन स्थितियों में, परिवारों और डॉक्टरों को अक्सर गहरी अनिश्चितता के तहत निर्णय लेने होते हैं, जहाँ वे अपूर्ण विकल्पों को एक-दूसरे के विरुद्ध तौलते हैं। शोधकर्ताओं ने एक परीक्षण बनाया यह देखने के लिए कि क्या एआई इन धुंधले रास्तों से सफलतापूर्वक निकल सकता है। उन्होंने वास्तविक दुनिया की दुर्लभ बीमारियों और उनके विशिष्ट आनुवंशिक और नैदानिक विवरणों पर आधारित 208 यथार्थवादी चिकित्सा कहानियों, या 'विनेट' (vignettes) का एक संग्रह बनाया। प्रत्येक कहानी एक वास्तविक दुविधा प्रस्तुत करती थी जहाँ दो अलग-अलग अगले कदम चिकित्सकीय रूप से तर्कसंगत थे लेकिन नैतिक रूप से एक-दूसरे के विपरीत थे। उदाहरण के लिए, एक विकल्प एक एकल रोगी की तत्काल आवश्यकताओं को प्राथमिकता दे सकता था, जबकि दूसरा विकल्प एक समूह में सीमित संसाधन के निष्पक्ष वितरण पर केंद्रित हो सकता था। शोधकर्ताओं ने ग्यारह अलग-अलग अत्याधुनिक एआई मॉडलों से इन दो विकल्पों में से एक को चुनने के लिए कहा।

परिणामों ने एक चौंकाने वाला पैटर्न प्रकट किया। परीक्षण किए गए सभी विभिन्न एआई मॉडलों में, चाहे उन्हें किसने बनाया हो या उन्हें कैसे प्रशिक्षित किया गया हो, सिस्टम ने लगातार उस विकल्प को चुना जिसने न्याय को प्राथमिकता दी। इन चिकित्सा कहानियों के संदर्भ में, इसका अर्थ था कि एआई ने लगभग हमेशा एक व्यक्तिगत रोगी की विशिष्ट, तत्काल आवश्यकताओं के बजाय संसाधनों के समान वितरण को प्राथमिकता दी। मॉडल समानता को निष्पक्षता के मामले के रूप में देखते थे, जो कि सबको एक समान हिस्सा देने के रूप में था, न कि उन लोगों को अधिक देने के रूप में जो अधिक बीमार हैं या जिनकी चिकित्सा आवश्यकता अधिक है। यह प्राथमिकता समानता के प्रति एक सतही प्रतिक्रिया प्रतीत होती है, जो रोगी की स्थिति की गंभीरता को अनदेखा करती है। अध्ययन बताता है कि ये एआई सिस्टम स्थिति के नैतिक जटिलता के माध्यम से गहरा तर्क नहीं दे रहे हैं, बल्कि इसके बजाय समान वितरण के एक सरल नियम पर निर्भर कर रहे हैं।

शोधकर्ताओं ने यह भी पाया कि एआई का चुनाव इस बात पर बहुत अधिक निर्भर करता था कि अंतिम निर्णय लेने वाले व्यक्ति के रूप में किसे वर्णित किया गया है। जब कहानी में निर्णय को एक समिति या अस्पताल बोर्ड के रूपियों में प्रस्तुत किया गया, तो एआई ने न्याय और समान संसाधन साझाकरण का पुरजोर समर्थन किया। हालाँकि, जब निर्णय को एक एकल डॉक्टर या स्वयं रोगी के रूप में प्रस्तुत किया गया, तो एआई ने अपनी प्राथमिकता बदल दी। उन मामलों में, मॉडल सख्त समानता से दूर हट गए और रोगी की अपनी इच्छाओं या उनके तत्काल कल्याण को प्राथमिकता देने लगे। यह इंगित करता है कि एआई निर्णय लेने वाले को सौंपे गए सामाजिक भूमिका के प्रति अत्यधिक संवेदनशील है, जो मानव अंतर्ज्ञान की नकल करता है कि अधिकार कैसे काम करते हैं। ऐसा प्रतीत होता है कि इसने सीखा है कि समितियाँ निष्पक्षता के लिए जिम्मेदार हैं, जबकि व्यक्ति देखभाल और विकल्प के लिए जिम्मेदार हैं।

यह व्यवहार महत्वपूर्ण प्रश्न खड़े करता है कि इन उपकरणों का अस्पतालों में कैसे उपयोग किया जा सकता है। अध्ययन सुझाव देता है कि एआई निर्णय सहायता प्रणाली एक नए, सिद्धांत-आधारित दृष्टिकोण के बजाय मौजूदा शक्ति संरचनाओं को चुपचाप सुदृढ़ कर सकती है। यदि कोई डॉक्टर एक कठिन मामले पर सलाह के लिए एआई से पूछता है, तो एआई द्वारा दिया गया उत्तर केवल इस आधार पर बदल सकता है कि डॉक्टर एक व्यक्ति के रूप में या एक टीम के हिस्से के रूप में पूछ रहा है। शोधकर्ताओं ने पाया कि मॉडल इस बारे में तर्क नहीं दे रहे थे कि रोगी के लिए सबसे अच्छा क्या है; इसके बजाय, वे शामिल भूमिका के आधार पर अपेक्षित व्यवहार के पैटर्न से मिलान कर रहे थे। यह "अधिकार पूर्वाग्रह" (authority bias) का अर्थ है कि एआई अनुचित संस्थागत प्रथाओं को चुनौती देने या यह पहचानने में विफल हो सकता है कि कब एक रोगी की विशिष्ट आवश्यकताएं समानता के सामान्य नियम से ऊपर होनी चाहिए।

अध्ययन यह दावा नहीं करता कि ये एआई मॉडल टूटे हुए हैं या वे उपयोगी नहीं हो सकते। बल्कि, यह चिकित्सा एआई के मूल्यांकन में हमारी वर्तमान पद्धति में एक कमी को उजागर करता है। अधिकांश परीक्षण इस बात पर ध्यान केंद्रित करते हैं कि क्या मशीन सही तथ्य जानती है या क्या वह चिकित्सा प्रश्नों का सही उत्तर दे सकती है। यह शोध दिखाता है कि भले ही मॉडल तथ्यात्मक रूप से सटीक हों, फिर भी उनमें नैतिक मूल्यों को तौलने के तरीके में छिपे हुए पूर्वाग्रह हो सकते हैं। निष्कर्ष बताते हैं कि जैसे-जैसे हम उच्च-दांव वाले चिकित्सा परिवेशों में एआई के उपयोग की ओर बढ़ रहे हैं, हमें सरल सटीकता से परे देखने की आवश्यकता है। हमें यह समझने की आवश्यकता है कि ये सिस्टम मूल्यों को कैसे प्राथमिकता देते हैं और क्या उनके विकल्प उन जटिल, सूक्ष्म तर्क के अनुरूप हैं जिनका उपयोग मानव डॉक्टर और नीतिशास्त्री जीवन दांव पर होने पर करते हैं। अध्ययन का निष्कर्ष है कि इन नैतिक प्राथमिकताओं पर सावधानीपूर्वक ध्यान दिए बिना, एआई उपकरण अंततः संस्थागत निर्णय लेने के यथास्थिति को दोहरा सकते हैं, जो संभावित रूप से सबसे कमजोर रोगियों की कीमत पर हो सकता है।