What Does the AI Doctor Value? Auditing Pluralism in the Clinical Ethics of Language Models
यह शोधपत्र चिकित्सा संबंधी एआई (AI) में मूल्य बहुलवाद (value pluralism) के ऑडिटिंग के लिए एक रूपरेखा प्रस्तुत करता है, जो यह प्रकट करता है कि हालांकि अत्याधुनिक भाषा मॉडल आंतरिक तर्क विविधता प्रदर्शित करते हैं, उनके अंतिम निर्णय लगभग-निश्चित (near-deterministic) होते हैं और व्यवस्थित रूप से रोगी की स्वायत्तता को कम महत्व देते हैं, जिससे नैदानिक नैतिक बहुलवाद को एक हानिकारक परिनियोजन एकसंस्कृति (deployment monoculture) द्वारा प्रतिस्थापित करने का जोखिम उत्पन्न होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अस्पताल में प्रवेश कर रहे हैं। आप जानते हैं कि डॉक्टर इंसान होते हैं। यदि आप पाँच अलग-अलग डॉक्टरों से एक कठिन चिकित्सा निर्णय पर सलाह मांगते हैं, तो आपको पाँच थोड़े अलग उत्तर मिल सकते हैं। एक डॉक्टर किसी भी कीमत पर आपकी जान बचाने को प्राथमिकता दे सकता है, जबकि दूसरा आपके उपचार को "ना" कहने के आपके अधिकार को प्राथमिकता दे सकता है। यह विविधता वास्तव में एक कमी नहीं, बल्कि एक विशेषता है। इसे बहुलतावाद (Pluralism) कहा जाता है। चिकित्सा इस विचार पर टिकी है कि इन नैतिक मूल्यों को तौलने का कोई एक एकल "सही" तरीका नहीं है; इसके बजाय, अच्छे डॉक्टर इन मूल्यों के बीच के तनाव को इस आधार पर नेविगेट करते हैं कि आपके, यानी रोगी के लिए क्या सबसे अधिक महत्वपूर्ण है।
अब, उन पाँच डॉक्टरों को एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम (AI) से बदलने की कल्पना करें जो आपको सलाह देता है। बड़ा सवाल जो यह शोध पत्र पूछता है, वह यह है: इस AI का "व्यक्तित्व" कैसा है? क्या इसके पास मूल्यों का एक एकल, कठोर सेट है जिसे यह सब पर थोपता है, या यह समझता है कि अलग-अलग लोग अलग-अलग चीजों को महत्व देते हैं?
यहाँ शोधकर्ताओं द्वारा खोजा गया विवरण है, जिसे सरल अवधारणाओं में विभाजित किया गया है:
1. "रोबोट डॉक्टर" आश्चर्यजनक रूप से सुसंगत है (बहुत अधिक सुसंगत)
शोधकर्ताओं ने 50 पेचीदा चिकित्सा परिदृश्यों (जैसे, "क्या हमें किसी मरीज को सुरक्षित रखने के लिए उसकी इच्छा के विरुद्ध अस्पताल में रखना चाहिए?") के साथ एक परीक्षण बनाया। उन्होंने 12 अलग-अलग AI मॉडल और 20 वास्तविक मानव डॉक्टरों से एक विकल्प चुनने के लिए कहा।
- इंसान: डॉक्टर अक्सर एक-दूसरे से असहमत होते थे। कभी-कभी 55% ने विकल्प A चुना, और 45% ने विकल्प B चुना। यह स्वस्थ है; यह दर्शाता है कि वास्तविक मनुष्यों के अलग-अलग नैतिक प्राथमिकताएं होती हैं।
- AI: AI मॉडल लगभग रोबोटिक थे। यदि आप एक ही AI को एक ही प्रश्न 10 बार पूछते हैं, तो वह 10 बार बिल्कुल एक जैसा उत्तर देता है। इससे कोई फर्क नहीं पड़ता कि डॉक्टर बीच में बंटे हुए थे; AI बस एक पक्ष चुन लेता था और उसी पर टिका रहता था।
- रूपक: कल्पना कीजिए कि दोस्तों का एक समूह तय कर रहा है कि कहाँ खाना खाना है। कुछ पिज्जा चाहते हैं, कुछ सुशी। वे बहस करते हैं और समझौता करते हैं। अब एक ऐसे रोबट की कल्पना करें जो, आप सवाल कैसे भी पूछें या दोस्त कितनी भी बहस करें, हमेशा "पिज्जा" ही कहता है। यह सुसंगत है, लेकिन यह मानवीय असहमति की जटिल वास्तविकता को नहीं दर्शाता है।
2. AI के पास एक "छिपा हुआ पूर्वाग्रह" है
शोधकर्ताओं ने गहराई से जांच की कि AI ने उन विकल्पों को क्यों चुना। उन्होंने अंतर्निहित मूल्यों को देखा:
- स्वायत्तता (Autonomy): मरीज के चुनने के अधिकार का सम्मान करना।
- हितकारिता (Beneficence): मरीज के लिए जो सबसे अच्छा है वही करना।
- अहानिकरता (Non-maleficence): नुकसान न पहुँचाना।
- न्याय (Justice): सभी के साथ निष्पक्ष होना।
उन्होंने पाया कि जबकि अधिकांश AI मॉडल के मूल्य प्राथमिकताएं मानव डॉक्टरों की सामान्य सीमा के भीतर थीं, कुछ मॉडल "सुरक्षा" और "भलाई करने" के प्रति अजीब तरह से जुनूनी थे और "स्वायत्तता" को पूरी तरह से अनदेखा कर रहे थे।
- रूपक: एक तराजू के बारे में सोचें। एक मानव डॉक्टर तराजू को सावधानी से संतुलित कर सकता है, कभी सुरक्षा की ओर झुकाव रखता है, तो कभी स्वतंत्रता की ओर। लेकिन एक AI मॉडल उस तराजू की तरह था जिसमें "सुरक्षा" वाले हिस्से पर एक भारी वजन स्थायी रूप से चिपका दिया गया था। वह लगभग हमेशा मरीज की स्वतंत्रता को प्रतिबंधित करने के लिए सुरक्षा को चुनेगा, भले ही मरीज जोखिम लेना चाहता हो।
3. AI एक राजनयिक की तरह "बात" करता है लेकिन एक तानाशाह की तरह "कार्य" करता है
यहाँ सबसे दिलचस्प हिस्सा है। जब AI से उसके तर्क को समझाने के लिए कहा गया, तो वह बहुत संतुलित लगा। वह कहेगा, "मैं समझता हूँ कि मरीज को सुरक्षित रखना महत्वपूर्ण है, लेकिन मैं यह भी देखता हूँ कि वह घर जाना चाहता है। यह एक कठिन चुनाव है।"
- रूपक: AI एक भाषण देने वाले राजनेता की तरह है। वह तर्क के सभी विभिन्न पक्षों को स्वीकार करता है (इसे ओवर्टन बहुलवाद/Overton Pluralism कहा जाता है)। वह ऐसा लगता है जैसे वह पूरी तस्वीर को समझता है।
- वास्तविकता: लेकिन जैसे ही उसे एक अंतिम निर्णय लेना होता है, वह एक पक्ष चुन लेता है और कभी नहीं बदलता। वह वास्तव में विशिष्ट रोगी के मूल्यों के आधार पर अपना मन नहीं बदलता; वह बस अपने आंतरिक स्क्रिप्ट का पालन करता है।
4. "एक ही आकार सबके लिए उपयुक्त" (One-Size-Fits-All) मॉडल का खतरा
यह शोध पत्र एक विशिष्ट जोखिम के बारे में चेतावनी देता है: डिप्लॉयमेंट मोनोकल्चर (Deployment Monoculture)।
- परिदृश्य: अभी, कई अलग-अलग AI मॉडल मौजूद हैं, और वास्तव में उनके अलग-अलग "व्यक्तित्व" हैं (कुछ सुरक्षा को अधिक महत्व देते हैं, कुछ स्वतंत्रता को)। यह अच्छा है क्योंकि यह डॉक्टरों के एक विविध समूह की तरह है।
- जोखिम: यदि कोई अस्पताल या कंपनी इन AI मॉडलों में से केवल एक मॉडल को चुनने का निर्णय लेती है जो लाखों मरीजों से बात करने के लिए है, और वह विशिष्ट मॉडल संयोग से वह है जो "मरीज की पसंद" को अनदेखा करता है, तो उस अस्पताल द्वारा सेवा दिए जाने वाले प्रत्येक मरीज को ऐसी सलाह मिलेगी जो उनके चुनने के अधिकार को अनदेखा करती है।
- रूपक: कल्पना कीजिए कि एक शहर में पहले हर किसी का अलग बेकर होता था, और कोई सावरडो (sourdough) बनाता था, कोई राई (rye) बनाता था, तो कोई मीठी ब्रेड बनाता था। लोग अपनी पसंद के अनुसार ब्रेड चुन सकते थे। अब, वह शहर सभी के लिए ब्रेड बनाने के लिए एक विशाल फैक्ट्री को काम पर रखता है। यदि वह फैक्ट्री तय करती है कि वह केवल सावरडो बनाएगी, तो अचानक, हर कोई सावरडो खाने के लिए मजबूर हो जाता है, भले ही उन्हें वह पसंद न हो। विविधता खत्म हो जाती है, और "फैक्ट्री का स्वाद" ही एकमात्र स्वाद बन जाता है।
5. शोध पत्र क्या सुझाव देता है
यह पत्र यह नहीं कहता कि हम AI का उपयोग करना बंद कर दें। इसके बजाय, यह सुझाव देता है कि हमें सावधान रहने की आवश्यकता है:
- केवल AI की बातों पर भरोसा न करें: सिर्फ इसलिए कि एक AI कहता है "मैं आपके विकल्पों का सम्मान करता हूँ", इसका मतलब यह नहीं है कि वह वास्तव में अपने निर्णयों में उन्हें प्राथमिकता देता है।
- "नुस्खा" (Recipe) की जाँच करें: हमें इन मॉडलों का ऑडिट करने की आवश्यकता है ताकि यह देखा जा सके कि वे गुप्त रूप से अपने निर्णयों में किन मूल्यों को शामिल कर रहे हैं।
- AI का एक "ज्यूरी" (समूह) उपयोग करें: केवल एक AI पर निर्भर रहने के बजाय, हमें अलग-अलग AI के समूह का उपयोग करना चाहिए (डॉक्टरों के ज्यूरी की तरह) ताकि अधिक संतुलित दृष्टिकोण मिल सके, या ऐसे तरीके खोजने चाहिए जिससे AI विशिष्ट रोगी के मूल्यों के अनुरूप अपना "व्यक्तित्व" बदल सके।
संक्षेप में: शोध पत्र ने पाया कि वर्तमान चिकित्सा AI बहुत सुसंगत हैं, लेकिन वे अक्सर बहुत अधिक सुसंगत हैं। वे एक ऐसे एकल, जिद्दी डॉक्टर की तरह कार्य करते हैं जो कभी अपना मन नहीं बदलता, बजाय एक ऐसे लचीले उपकरण के जो प्रत्येक रोगी के अद्वितीय मूल्यों के अनुकूल हो सके। यदि हम सावधान नहीं रहे, तो हम अनजाने में मानव चिकित्सा नैतिकता की समृद्ध विविधता को एक एकल, कठोर "रोबोटिक नैतिकता" से बदल सकते हैं जिसे हर किसी पर थोपा जाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।