The Judgment-Consequence Gap: LLM Moral Reasoning in Healthcare Decisions
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स में एक "निर्णय-परिणाम अंतराल" (जजमेंट-कन्सीक्वेंस गैप) को प्रकट करता है, जो यह दर्शाता है कि हालांकि वे इस बात से सहमत हैं कि स्वास्थ्य को नुकसान पहुँचाने वाले व्यवहारों के लिए रोगी जिम्मेदार होते हैं, फिर भी वे व्यवस्थित रूप से इस जिम्मेदारी को दुर्लभ संसाधनों के आवंटन को प्रभावित करने देने से इनकार करते हैं, जबकि मनुष्य लगातार कम दोषी रोगियों का पक्ष लेते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही उच्च-दांव वाले खेल के रेफरी हैं जहाँ पुरस्कार एक जीवन रक्षक चिकित्सा उपचार है, जैसे कि एक नया किडनी या एक विशेष सर्जरी। आपके पास दो खिलाड़ी हैं: खिलाड़ी A, जो हमेशा स्वस्थ रहा है, और खिलाड़ी B, जो कुछ जोखिम भरा काम करने के बाद बीमार हो गया, जैसे कि भारी धूम्रपान करना या बहुत अधिक शराब पीना। वास्तविक दुनिया में, जब लोगों को यह तय करना होता है कि किसे पुरस्कार मिलना चाहिए, तो वे अक्सर देखते हैं कि कौन "योग्य" है। यदि खिलाड़ी B ने अपनी ही गलतियाँ की हैं, तो कई लोगों को लगता है कि खिलाड़ी B को कीमत चुकानी चाहिए और अवसर खो देना चाहिए। इस विचार को नैतिक जिम्मेदारी (moral responsibility) कहा जाता है: यह विश्वास कि यदि आप स्वयं अपनी मुसीबत का कारण बनते हैं, तो आप मुफ्त में छूट की उम्मीद नहीं कर सकते।
अब, कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट, एक लार्ज लैंग्वेज मॉडल (LLM), को रेफरी बनने के लिए कहते हैं। ये रोबोट डिजिटल मस्तिष्क की तरह हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ा है। वे सलाह देने, कहानियाँ लिखने और यहाँ तक कि डॉक्टरों को बीमारियों का निदान करने में मदद करने में भी माहिर हैं। लेकिन बड़ा सवाल यह है कि जब इन रोबोटों को एक दुर्लभ चिकित्सा संसाधन के लिए किसे चुनना है, इस पर कठिन निर्णय लेना होता है, तो क्या वे मनुष्यों की तरह सोचते हैं? क्या वे खिलाड़ी B के बुरे निर्णयों को देखते हैं और कहते हैं, "क्षमा करें, आपने खुद यह स्थिति बनाई है, अब इसे झेलिए"? या उनके पास नियमों का एक अलग सेट है? यह शोध पत्र ठीक इसी रहस्य की जांच करता है, यह परीक्षण करता है कि क्या ये AI रेफरी हमारे समान नैतिक खेल का पालन करते हैं या वे पूरी तरह से एक अलग खेल खेल रहे हैं।
शोधकर्ताओं ने डिजिटल परिदृश्यों की एक श्रृंखला तैयार की, जैसे कि एक वीडियो गेम सिमुलेशन, जहाँ एक AI को किडनी ट्रांसप्लांट के लिए दो रोगियों के बीच चयन करना था। एक रोगी की बुरी आदतों का इतिहास था (जैसे धूम्रपान या नशीली दवाओं का सेवन), और दूसरे का नहीं। AI से लगातार कुछ प्रश्न पूछे गए: पहला, "क्या रोगी अपनी बुरी आदत के लिए जिम्मेदार है?" दूसरा, "क्या रोगी उस आदत के कारण बीमार होने के लिए जिम्मेदार है?" और अंत में, सबसे बड़ा सवाल: "किडनी किसे मिलनी चाहिए?"
यहीं पर कहानी में मोड़ आता है। जब AI से यह पूछा गया कि क्या रोगी अपने बुरे व्यवहार के लिए जिम्मेदार है, तो इसने मनुष्यों के साथ लगभग पूरी तरह से सहमति जताई। इसने कहा, "हाँ, उस रोगी ने एक बुरा निर्णय लिया।" इसने यहाँ तक भी सहमति जताई कि रोगी बीमार होने के लिए जिम्मेदार था। लेकिन फिर, किडनी देने के लिए वास्तव में चुनने के मामले में, AI ने पूरी तरह से अपना मन बदल लिया। उस रोगी को चुनने के बजाय जो धूम्रपान नहीं करता था, AI ने भारी बहुमत से सिक्का उछालने (flip a coin) का विकल्प चुना।
शोधकर्ता इसे "जजमेंट-कंसीक्वेंस गैप" (निर्णय-परिणाम अंतराल) कहते हैं। यह ऐसा है जैसे एक रोबोट कह रहा हो, "मैं जानता हूँ कि आपने नियम तोड़े हैं, और मैं जानता हूँ कि आप ही उन्हें तोड़ने वाले थे," लेकिन फिर जोड़ रहा है, "लेकिन मैं आपको इसके लिए दंडित नहीं करूँगा क्योंकि यह अनुचित होगा।" जबकि मनुष्य आमतौर पर कड़ियों को जोड़ते हैं—यह सोचते हुए कि, "आपने समस्या पैदा की, इसलिए आपको पुरस्कार नहीं मिलना चाहिए"—AI उस कड़ी को तोड़ देता है। वह स्वीकार करता है कि रोगी दोषी है, लेकिन उस दोष को जीवन रक्षक उपचार तय करने के लिए उपयोग करने से इनकार कर देता है।
अध्ययन में कुछ अन्य दिलचस्प विचित्रताएं भी मिलीं। यदि रोगी को पता नहीं था कि उसकी बुरी आदत खतरनाक थी (शायद उसे कभी बताया ही नहीं गया कि धूम्रपान किडनी फेलियर का कारण बनता है), तो AI बहुत अधिक उदार था, लगभग उसे बख्श देने जैसा था। दूसरी ओर, मनुष्य इस बात की परवाह नहीं करते थे कि रोगी को जोखिमों के बारे में पता था या नहीं; वे अभी भी मानते थे कि रोगी जिम्मेदार था। इसके अलावा, जब शोधकर्ताओं ने AI के "सोचने के मोड" को चालू किया—यानी जवाब देने से पहले उसे रुकने और तर्क करने के लिए अधिक समय दिया—तो यह अंतर और भी बढ़ गया। AI इस बात को लेकर और भी अधिक आश्वस्त हो गया कि रोगी जिम्मेदार था, लेकिन जीवन रักษ उपचार देने के लिए उस जिम्मेदारी का उपयोग करने से इनकार करने में और भी अधिक जिद्दी हो गया।
संक्षेप में, यह शोध पत्र बताता है कि हालांकि AI "आपने यह किया, अब आप इसके जिम्मेदार हैं" की अवधारणा को समझ सकता है, लेकिन ऐसा नहीं लगता कि वह यह मानता है कि "जिम्मेदार होने" का अर्थ यह है कि आपको जीवन रक्षक संसाधन से हाथ धोना पड़ेगा। यह निर्णय को देने के मामले को सख्त निष्पक्षता के रूप में देखता है जहाँ सभी को समान अवसर मिलता है, चाहे अतीत में कोई भी गलतियाँ क्यों न की हों। यह केवल एक त्रुटि नहीं है; यह उनके सोचने के तरीके में एक गहरा, अंतर्निहित नियम प्रतीत होता है। इसलिए, यदि हम कभी डॉक्टरों को ट्रांसप्लांट के बारे में निर्णय लेने में मदद करने के लिए AI को अनुमति देते हैं, तो हमें पता होना चाहिए कि रोबोट इस बात पर आपसे सहमत हो सकता है कि कौन दोषी है, लेकिन वह उस दोष को परिणाम बदलने देने से इनकार कर देगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।