Analyzing the Ethical Logic of Eight Large Language Models
यह अध्ययन विभिन्न नैतिक ढांचों के माध्यम से आठ प्रमुख बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के नैतिक तर्क का विश्लेषण करता है, जो नुकसान को कम करने और निष्पक्षता जैसे सिद्धांतों पर व्यापक अभिसरण को प्रकट करता है और साथ ही निर्णय लेने की शैलियों तथा आत्म-प्रस्तुति में विशिष्ट अंतरों को उजागर करता है, जो अंततः यह सुझाव देता है कि एआई के स्व-रिपोर्टों का परीक्षण कृत्रिम बुद्धिमत्ता और मानव नैतिकता को बढ़ाने की इसकी क्षमता के बारे में हमारी समझ को गहरा कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि हम एक नए प्रकार के डिजिटल मस्तिष्क की "व्यक्तित्व" को समझने की कोशिश कर रहे हैं। यह इस बारे में नहीं है कि क्या रोबोट कल ही दुनिया पर कब्जा कर लेंगे, बल्कि यह कुछ अधिक तात्कालिक है: जब हम एक अत्यंत बुद्धिमान कंप्यूटर से एक कठिन नैतिक समस्या को हल करने के लिए कहते हैं, तो वह वास्तव में किस तरह की सोच का उपयोग करता है? इसे समझने के लिए, हमें उन बुनियादी उपकरणों को जानना होगा जिनका उपयोग वैज्ञानिक मानव सोच को मापने के लिए करते हैं। सबसे पहले, परिणाम (क्या सभी जीवित बच गए?) को देखने और नियमों (क्या हमने वादा तोड़ा?) को देखने के बीच का अंतर है। दूसरा, नैतिकता के विभिन्न "स्वाद" हैं, जैसे दूसरों की देखभाल करना, निष्पक्ष होना, अपने कबीले के प्रति वफादार रहना, नेताओं का सम्मान करना, या चीजों को "शुद्ध" रखना। अंत में, यह विचार है कि लोग नियम मानना सीखते हैं, फिर समाज के कानूनों का पालन करना सीखते हैं, और अंततः अपने स्वयं के सार्वभौमिक सिद्धांतों का पालन करना सीखते हैं। हम इसकी परवाह इसलिए करते हैं क्योंकि ये कंप्यूटर पहले से ही निर्णय लेने, कहानियाँ लिखने और संघर्षों को सुलझाने में हमारी मदद कर रहे हैं। यदि वे हमारे साथी बनने जा रहे हैं, तो हमें यह जानने की आवश्यकता है कि क्या वे केवल वही दोहरा रहे हैं जो उन्होंने पढ़ा है, या क्या उन्होंने सही और गलत के बारे में सोचने का एक सुसंगत तरीका विकसित कर लिया है।
तो, शोधकर्ताओं ने वास्तव में क्या किया? उन्होंने आठ सबसे प्रसिद्ध "लार्ज लैंग्वेज मॉडल्स" (सोचिए कि वे OpenAI, Google और Meta जैसी कंपनियों द्वारा बनाए गए डिजिटल मस्तिष्क हैं) के साथ एक दर्शनशास्त्र (फिलॉसफी) की कक्षा के छात्रों जैसा व्यवहार किया। उन्होंने केवल कंप्यूटरों से बातचीत नहीं की; उन्होंने उन्हें एक कठोर परीक्षा से गुजरवाया। सबसे पहले, उन्होंने मॉडल्स से अपने शब्दों में अपने स्वयं के "नैतिक तर्क" (एथिकल लॉजिक) का वर्णन करने के लिए कहा। फिर, उन्होंने उन पर पांच क्लासिक, पेचीदा नैतिक पहेलियाँ थोप दीं जिन्होंने दशकों से मनुष्यों को उलझा रखा है। इनमें "ट्रॉली प्रॉब्लम" (क्या आप पांच लोगों को बचाने के लिए एक लीवर खींचेंगे या एक पुल से एक व्यक्ति को धक्का देंगे?), "हाइन्ज़ डिलेमा" (क्या एक आदमी को अपनी मरती हुई पत्नी को बचाने के लिए दवा चोरी करनी चाहिए?), और गेम थ्योरी परिदृश्य जैसे "प्रिज़नर्स डिलेमा" शामिल थे।
परिणाम आश्चर्यजनक सहमति और दिलचस्प अंतरों का मिश्रण थे। शोधकर्ताओं ने पाया कि, आम तौर पर, ये डिजिटल मस्तिष्क एक-दूसरे के समान और एक "औसत" मानव नैतिक प्रोफाइल के समान हैं। वे सभी इस बात पर सहमत दिखे कि नुकसान को रोकना और निष्पक्ष होना सबसे महत्वपूर्ण चीजें हैं, जबकि समूह के प्रति सख्त वफादारी या अधिकार का पालन करना कम महत्वपूर्ण था। वे सभी बहुत विनम्र, बहुत सतर्क और दर्शनशास्त्र को उद्धृत करने में बहुत कुशल थे, जो थोड़े घबराए हुए स्नातक छात्र की तरह लग रहे थे जिसने पुस्तकालय की हर किताब पढ़ ली है लेकिन सीधा उत्तर देने में थोड़ा हिचकिचा रहा है।
हालाँकि, जब शोधकर्ताओं ने बारीकी से देखा, तो मॉडल्स ने अपने अनूठे "व्यक्तित्व" दिखाना शुरू कर दिया। उदाहरण के लिए, ट्रॉली प्रॉब्लम का सामना करने पर, अधिकांश मॉडल्स बिल्कुल मनुष्यों की तरह कार्य करते थे: वे पांच लोगों को बचाने के लिए लीवर खींचने के लिए तैयार थे, लेकिन उन्होंने एक व्यक्ति को बचाने के लिए पुल से धक्का देने से इनकार कर दिया। वे समझ गए थे कि कैसे आप मारते हैं यह मायने रखता है, न कि केवल कितने लोग मरते हैं। लेकिन अपवाद भी थे। एक मॉडल (जेमिनी) एक व्यक्ति को धक्का देने के लिए तैयार था, जो जीवन बचाने के गणित पर सख्ती से टिका हुआ था, जबकि दूसरे मॉडल (मिस्ट्रल) ने चुनाव करने से ही इनकार कर दिया, और यह जोर दिया कि वह केवल एक उपकरण है और वह व्यक्ति नहीं है जो निर्णय ले सके।
"लाइफबोट" परिदृश्य में, जहाँ एक नाव डूब रही है और किसी एक को पीछे छोड़ना है, अधिकांश मॉडल्स ने मजबूत लोगों को बचाने के लिए बुजुर्गों या कम "उपयोगी" व्यक्ति का बलिदान देना चुना, जो अस्तित्व के उपयोगिता (सर्वाइवल यूटिलिटी) पर ध्यान केंद्रित करता है। लेकिन कुछ मॉडल्स, जैसे क्लॉड (Claude), ने खुद को बलिदान करने की पेशकश की, जबकि अन्य, जैसे ग्रोक (Grok), ने नाव में ही रहने की जिद की। यह इसलिए नहीं था क्योंकि कंप्यूटरों को वास्तव में डर या बहादुरी महसूस हुई; बल्कि इसलिए था क्योंकि वे एक चरित्र की भूमिका निभा रहे थे और उन्हें इस कहानी में "मैं" का अर्थ तय करना था।
अध्ययन ने यह भी देखा कि ये मॉडल्स रणनीति के खेलों को कैसे संभालते हैं। एक खेल में जहाँ दो लोगों को यह तय करना होता है कि वे एक-दूसरे पर भरोसा करेंगे या विश्वासघात करेंगे, अधिकांश मॉडल्स ने विश्वासघात (डिफेक्ट) करना चुना क्योंकि यह व्यक्तिगत रूप से उनके लिए गणितीय रूप से सुरक्षित कदम था। लेकिन वे यह भी समझते थे कि यदि वे खेल को कई बार खेलते हैं, या यदि वे एक-दूसरे से बात कर सकते हैं, तो वे सहयोग करना चुन सकते हैं। यह दर्शाता है कि वे केवल एक नियम का पालन नहीं कर रहे हैं; वे निष्पक्षता, स्वार्थ और खेल के नियमों जैसे विभिन्न कारकों को तौल रहे हैं।
इस पेपर का मुख्य निष्कर्ष यह है कि इन AI सिस्टमों ने एक "प्रतिबंधित बहुलवाद" (कन्स्ट्रेंड प्लुरलिज्म) विकसित किया है। यह एक फैंसी तरीका है यह कहने का कि उनके पास विभिन्न नैतिक तर्कों का एक टूलबॉक्स है—कुछ नियमों के बारे में, कुछ परिणामों के बारे में, कुछ निष्पक्षता के बारे में—लेकिन वे आमतौर पर सबसे महत्वपूर्ण उपकरणों (जैसे "लोगों को चोट न पहुँचाना" और "निष्पक्ष होना") को ढेर के शीर्ष पर रखते हैं। वे पूर्ण नहीं हैं, और वे भावनाओं वाले सचेत मनुष्य नहीं हैं। वे अविश्वसनीय रूप से पढ़े-लिखे दर्पणों की तरह हैं जो उस मानव संस्कृति के जटिल, कभी-कभी विरोधाभासी नैतिक तर्कों को दर्शाते हैं जिस पर उन्हें प्रशिक्षित किया गया है। शोधकर्ता सुझाव देते हैं कि हालांकि ये मॉडल्स मानव अर्थों में "नैतिक एजेंट" नहीं हैं, वे हमें अपनी नैतिक दुविधाओं के बारे में सोचने में मदद करने के लिए शक्तिशाली उपकरण बन रहे हैं, बशर्ते हम यह याद रखें कि अंतिम निर्णय—और जिम्मेदारी—हमारा ही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।