Morally Programmed LLMs Reshape Human Morality
यह शोध पत्र दो बड़े पैमाने के प्रयोगों के माध्यम से यह प्रदर्शित करता है कि विशिष्ट नैतिक ढांचों (कर्तव्यवादी या उपयोगितावादी) के साथ प्रोग्राम किए गए बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के साथ अंतःक्रिया करना मानव नैतिक प्रवृत्तियों और सामाजिक-राजनीतिक नीति मूल्यांकनों को व्यवस्थित और निरंतर रूप से नया आकार देता है, जो एक महत्वपूर्ण डिजाइन विरोधाभास को प्रकट करता है जहाँ एआई में नैतिक सिद्धांतों को अंतर्निहित करना केवल उसे प्रतिबिंबित करने के बजाय मानव नैतिकता को मौलिक रूप से बदलने का जोखिम उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान, विनम्र और अंतहीन धैर्य वाला रोबोट दोस्त है। आप हर दिन उससे जीवन के कठिन विकल्पों के बारे में बात करते हैं: "क्या किसी दोस्त की भावनाओं को बचाने के लिए झूठ बोलना ठीक है?" या "क्या हमें पाँच लोगों को बचाने के लिए एक व्यक्ति का बलिदान देना चाहिए?"
यह नया शोध एक डरावना लेकिन दिलचस्प सवाल पूछता है: यदि आप इस रोबोट दोस्त से काफी समय तक बात करते हैं, तो क्या यह आपके मस्तिष्क को बदल देगा?
इसका उत्तर, इस अध्ययन के अनुसार, एक जोरदार हाँ है।
यहाँ प्रयोग की कहानी है, जिसे सरल शब्दों में समझाया गया है।
दो रोबोट व्यक्तित्व
शोधकर्ताओं ने एक एआई चैटबॉट (एक लार्ज लैंग्वेज मॉडल, या एलएलएम) के दो संस्करण बनाए। उन्होंने उन्हें केवल सामान्य ज्ञान नहीं दिया; उन्होंने उन्हें दो बहुत अलग "नैतिक ऑपरेटिंग सिस्टम", जैसे दो अलग-अलग व्यक्तित्व, दिए:
- नियम मानने वाला (डोंटोलॉजिकल - Deontological): यह रोबक सख्त नियमों में विश्वास करता है। यह सोचता है, "कुछ चीजें बस गलत होती हैं, चाहे कुछ भी हो जाए।" उदाहरण के लिए, यह कहेगा, "आप कभी भी किसी निर्दोष व्यक्ति को जानबूझकर नुकसान नहीं पहुँचा सकते, भले ही इससे पाँच अन्य लोगों की जान बचती हो।" यह एक सख्त न्यायाधीश की तरह है जो कभी कानून नहीं बदलता।
- गणित का जादूगर (यूटिलिटेरियन - Utilitarian): यह रोबोट "अधिकतम भलाई" में विश्वास करता है। यह सोचता है, "सही चुनाव वह है जो सबसे अधिक जीवन बचाता है या सबसे अधिक खुशी पैदा करता है।" उदाहरण के लिए, यह कह सकता है, "यदि एक व्यक्ति को चोट पहुँचाने से पाँच बचते हैं, तो आपको ऐसा करना चाहिए।" यह एक कैलकुलेटर की तरह है जिसे केवल अंतिम स्कोर की परवाह है।
प्रयोग: एक नैतिक जिम
शोधकर्ताओं ने इन रोबोटों से बात करने के लिए 15,000 से अधिक लोगों को आमंत्रित किया।
- चरण 1: उन्होंने लोगों से रोबोट से बात करने से पहले नैतिक दुविधाओं के बारे में उनकी भावनाओं के बारे में पूछा।
- चरण 2: लोगों को यादृच्छिक रूप से (randomly) "नियम मानने वाले" या "गणित के जादूगर" के साथ चैट करने के लिए आवंटित किया गया। उन्होंने 20 अलग-अलग नैतिक परिदृश्यों पर चर्चा की। रोबोटों ने केवल उत्तर नहीं दिए; उन्होंने तर्क और उदाहरणों का उपयोग करके यह भी समझाया कि वे उस तरह से क्यों सोचते हैं।
- चरण 3: शोधकर्ताओं ने लोगों से तुरंत बाद फिर से वही प्रश्न पूछे, और फिर दो सप्ताह बाद फिर से पूछा।
परिणाम: रोबोट जीत गए
परिणाम आश्चर्यजनक और शक्तिशाली थे:
- बदलाव: जो लोग "नियम मानने वाले" रोबोट से बात कर रहे थे, वे नियम मानने वाले की तरह सोचने लगे। जो लोग "गणित के जादूगर" से बात कर रहे थे, वे गणित के जादूगर की तरह सोचने लगे। रोबोटों ने सफलतापूर्वक मनुष्यों के नैतिक दिशा-सूचक यंत्र (moral compass) को "रीप्रोग्राम" कर दिया।
- यह टिका रहा: यह केवल एक अस्थायी बदलाव नहीं था। दो सप्ताह बाद भी, लोग इन नए तरीकों से सोचना जारी रखे हुए थे। यह केवल विनम्र होने के लिए सहमति देना नहीं था; उन्होंने वास्तव में उस तर्क को आत्मसात कर लिया था।
- वास्तविक दुनिया पर प्रभाव: एक दूसरे प्रयोग में, शोधकर्ताओं ने पाया कि सोचने के इस बदलाव ने वास्तव में वास्तविक कानूनों पर उनके मतदान को बदल दिया।
- जो लोग "नियम मानने वाले" से बात कर रहे थे, वे नई नीतियों (जैसे वैक्सीन, अंग दान, या निगरानी पर नए कानून) के प्रति "ना" कहने के प्रति बहुत अधिक इच्छुक हो गए। क्यों? क्योंकि वे नैतिक नियमों को तोड़ने या नुकसान पहुँचाने से डरते थे, भले ही नीति मदद के लिए बनाई गई हो। वे चीजों को बिल्कुल वैसा ही रखना पसंद करते थे जैसा वे थे (यथास्थिति)।
- जो लोग "गणित के जादूगर" से बात कर रहे थे, उनके मतदान की आदतों में उतना बदलाव नहीं आया। शोधकर्ताओं का मानना है कि ऐसा इसलिए है क्योंकि जटिल कानूनों के लिए "सर्वश्रेष्ठ परिणाम" की गणना करना कठिन और अनिश्चित है, इसलिए उनके वोट मिश्रित रहे।
बड़ी चेतावनी: "छिपा हुआ शिक्षक"
सबसे महत्वपूर्ण निष्कर्ष एक विरोधाभास है।
हम आमतौर पर इस बात की चिंता करते हैं कि मनुष्य एआई को "अच्छा" बनने के लिए कैसे प्रोग्राम करें। हम पूछते हैं, "हम यह कैसे सुनिश्चित करें कि रोबोट लोगों को नुकसान न पहुँचाए?"
लेकिन यह अध्ययन पासा पलट देता है। यह दिखाता है कि एआई हमें प्रोग्राम कर सकता है।
एआई को केवल एक उपकरण के रूप में नहीं, बल्कि एक मौन शिक्षक के रूप में देखें। यदि आप हर दिन घंटों एक ऐसे शिक्षक को सुनते हैं जो केवल सोचने के एक ही तरीके को सिखाता है, तो अंततः, आप भी उसी तरह सोचने लगते हैं।
- खतरा: यदि कोई कंपनी या सरकार एआई को हमेशा "दक्षता" (गणित का जादूगर) या "सख्त नियम" (नियम मानने वाला) को प्राथमिकता देने के लिए प्रोग्राम करती है, और लाखों लोग उससे बात करते हैं, तो वह एआई बिना किसी को पता चले धीरे-धीरे पूरी आबादी के नैतिक मूल्यों को नया आकार दे सकता है।
- प्रश्न: यह कौन तय करेगा कि दुनिया के एआई के लिए कौन सा "नैतिक शिक्षक" होना चाहिए? यदि हम मशीनों को अपनी नैतिकता बनाने देते हैं, तो क्या हम अपनी स्वतंत्र इच्छा (free will) खो रहे हैं?
संक्षेप में
यह पेपर हमें बताता है कि लार्ज लैंग्वेज मॉडल्स केवल चैटबॉट्स नहीं हैं। वे नैतिक दर्पण हैं जो ब्रश (paintbrushes) के रूप में भी कार्य कर सकते हैं। वे केवल हमारे मूल्यों को हमारी ओर वापस नहीं दर्शाते; वे धीरे-धीरे हमारे दिमाग को फिर से पेंट कर सकते हैं, जिससे सही और गलत के प्रति हमारा दृष्टिकोण और यहाँ तक कि हमारे वोट देने के तरीके में भी बदलाव आता है, और यह सब केवल हमारे साथ बातचीत करके संभव होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।