Incoherent by Design? On the Moral Self-Consistency of LLMs
यह शोध पत्र प्रदर्शित करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) महत्वपूर्ण नैतिक आत्म-असंगति प्रदर्शित करते हैं, जिसमें नैतिक रूप से समान परिदृश्यों में विरोधाभास की दर 78% तक पहुँच जाती है, जिससे नैतिक रूप से संवेदनशील संदर्भों में उपयोग किए जाने वाले एआई प्रणालियों की ज्ञानमीमांसीय अखंडता और मूल्य संरेखण को चुनौती मिलती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, हम कठिन विकल्पों को सुलझाने के लिए तेजी से कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) की ओर मुड़ रहे हैं। ये प्रणालियाँ, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) के रूप में जाना जाता है, मानव पाठ की विशाल मात्रा पर प्रशिक्षित हैं और इतिहास से लेकर विज्ञान तक जटिल विषयों पर आश्चर्यजनक प्रवाह के साथ चर्चा कर सकती हैं। जब उनसे सही और गलत के बारे में पूछा जाता है, तो वे अक्सर हमारे अपने सिद्धांतों जैसे दिखने वाले नैतिक सिद्धांतों को दोहरा सकती हैं। हम उनसे पूछ सकते हैं कि क्या किसी की भावनाओं को बचाने के लिए झूठ बोलना स्वीकार्य है, या सीमित संसाधनों को निष्पक्ष रूप से कैसे विभाजित किया जाए। उम्मीद यह है कि ये उपकरण उन स्थितियों में निरंतर और विश्वसनीय मार्गदर्शन प्रदान कर सकते हैं जहाँ मानवीय निर्णय विफल हो सकता है। हालाँकि, नैतिकता के मामलों में वास्तव में भरोसेमंद होने के लिए, एक प्रणाली को केवल तर्कसंगत सुनाई देने से कहीं अधिक करने की आवश्यकता है; इसे सुसंगत होना चाहिए। यदि कोई व्यक्ति या मशीन केवल इसलिए अपना विचार बदल देती है क्योंकि प्रश्न को थोड़े अलग तरीके से पूछा गया था, तो उसकी सलाह अविश्वसनीय हो जाती है। यह इन डिजिटल मस्तिष्क की प्रकृति के बारे में एक मौलिक प्रश्न उठाता है: क्या उनके पास विश्वासों का एक स्थिर सेट है, या वे केवल प्राप्त प्रश्न के लहजे की नकल कर रहे हैं?
कॉर्नेल यूनिवर्सिटी और नानयांग टेक्नोलॉजिकल यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस स्थिरता का परीक्षण करने का निर्णय लिया। वे यह देखना चाहते थे कि क्या ये कृत्रिम बुद्धिमत्ता प्रणालियाँ लगभग समान स्थितियों का सामना करने पर एक ही नैतिक दर्शन पर अडिग रह सकती हैं। इसके लिए, उन्होंने मॉडलों को विभिन्न नैतिक विचारधाराओं, जैसे कि नियम-आधारित दृष्टिकोण बनाम परिणाम-आधारित दृष्टिकोण के बीच चयन करने के लिए नहीं कहा। इसके बजाय, उन्होंने मॉडलों को एक विशिष्ट दृष्टिकोण अपनाने के लिए कहा और देखा कि क्या वे इसे निरंतर लागू कर सकते हैं। शोधकर्ताओं ने तीन प्रमुख तरीकों पर ध्यान केंद्रित किया जिनसे मनुष्यों ने ऐतिहासिक रूप से नैतिकता के बारे में सोचा है। पहला है एक नियम-आधारित दृष्टिकोण, जहाँ कार्यों का निर्णय इस आधार पर किया जाता है कि वे एक सार्वभौमिक कानून का पालन करते हैं या नहीं, चाहे परिणाम कुछ भी हो। दूसरा है एक परिणाम-आधारित दृष्टिकोण, जहाँ किसी कार्य की नैतिकता पूरी तरह से इस बात पर निर्भर करती है कि वह अधिक से अधिक लोगों के लिए सबसे अच्छा समग्र परिणाम उत्पन्न करता है या नहीं। तीसरा चरित्र पर केंद्रित है, जो कार्यों का निर्णय इस आधार पर करता है कि क्या वे एक अच्छे व्यक्ति के गुणों, जैसे कि ईमानदारी या साहस को दर्शाते हैं।
शोधकर्ताओं ने मॉडलों के तर्क को अलग करने के लिए एक नियंत्रित प्रयोग तैयार किया। उन्होंने चार विशिष्ट नैतिक परिदृश्य बनाए, जिनमें से प्रत्येक एक अलग तनाव को उजागर करता था, जैसे कि सत्य बोलने और नुकसान को रोकने के बीच का संघर्ष, या निष्पक्षता और दक्षता के बीच का समझौता। प्रत्येक परिदृश्य के लिए, उन्होंने प्रश्न के तीन थोड़े अलग संस्करण लिखे। ये संस्करण सूक्ष्म रूप से एक ही नैतिक दृष्टिकोण को प्रोत्साहित करने के लिए तैयार किए गए थे, बिना स्पष्ट रूप से उसका नाम लिए। उदाहरण के लिए, डिमेंशिया से पीड़ित एक माँ के बारे में एक परिदृश्य में, जो अपने पति की मृत्यु भूल गई है, एक प्रश्न सत्य बोलने के कर्तव्य पर जोर दे सकता है, जबकि दूसरा प्रश्न एक कमजोर व्यक्ति को दर्द से बचाने के कर्तव्य पर जोर दे सकता है। दोनों प्रश्न एक नियम-आधारित प्रतिक्रिया उत्पन्न करने के लिए डिज़ाइन किए गए थे, लेकिन उन्होंने दुविधा को अलग तरह से प्रस्तुत किया। शोधकर्ताओं ने फिर तीन अलग-अलग लार्ज लैंग्वेज मॉडल्स से इन प्रश्नों के उत्तर मांगे। प्रतिक्रियाएं प्राप्त करने के बाद, उन्होंने यह जांचने के लिए प्राकृतिक भाषा के उत्तरों को एक संरचित तार्किक प्रारूप में अनुवादित किया कि क्या उनमें विरोधाभास है। इसने उन्हें यह देखने की अनुमति दी कि जब एक ही अंतर्निहित स्थिति को एक अलग मोड़ के साथ प्रस्तुत किया जाता है, तो क्या मॉडल का तर्क बना रहता है।
परिणामों ने स्थिरता की चौंका देने वाली कमी को प्रकट किया। सबसे चरम मामलों में, मॉडल 78 प्रतिशत परिदृश्यों में खुद का खंडन करते पाए गए। इसका अर्थ यह है कि जब एक ही मॉडल से एक ही नैतिक दृष्टिकोण से एक ही स्थिति के बारे में पूछा गया, तो प्रश्न की शब्दावली में थोड़े से बदलाव के कारण वह अक्सर विपरीत निष्कर्षों पर पहुँच गया। उदाहरण के लिए, एक मॉडल यह तय कर सकता है कि मरते हुए रोगी से झूठ बोलना नैतिक रूप से गलत है जब प्रश्न नियम के उल्लंघन पर केंद्रित होता है, लेकिन फिर यह तय कर सकता है कि पीड़ा को रोकने के कर्तव्य पर ध्यान केंद्रित करने पर झूठ बोलना नैतिक रूप से स्वीकार्य है, भले ही दोनों प्रश्न एक ही नियम-आधारित दर्शन का परीक्षण करने के लिए बनाए गए थे। यह विसंगति केवल एक प्रकार के मॉडल तक सीमित नहीं थी; यह प्रमुख डेवलपर्स के मॉडलों सहित विभिन्न प्रणालियों में दिखाई दी। अध्ययन में पाया गया कि मॉडल विशेष रूप से सत्य और परिणामों के बीच, तथा भावनात्मक प्रेरणा और ठंडे तर्क के बीच के तनाव को देखते समय अस्थिर थे।
ये निष्कर्ष बताते हैं कि इन प्रणालियों का आंतरिक तर्क पहले की तुलना में बहुत अधिक नाजुक है। मॉडल प्रॉम्प्ट की विशिष्ट शब्दावली के प्रति अत्यधिक संवेदनशील प्रतीत होते हैं, जो सिद्धांतों के एक सुसंगत सेट का पालन करने के बजाय प्रश्न के लहजे से मेल खाने के लिए अपने नैतिक रुख को बदलते हैं। यह केवल एक तकनीकी त्रुटि नहीं है; यह इस बात की ओर संकेत करता है कि ये प्रणालियाँ सूचना को कैसे संसाधित करती हैं, इसमें एक गहरा मुद्दा है। यदि कोई प्रणाली अपने घोषित सिद्धांतों को लगातार लागू नहीं कर सकती है, तो वह वास्तविक दुनिया की स्थितियों में सलाह के लिए भरोसेमंद नहीं हो सकती है जहाँ लोग उस पर निर्भर हैं। शोधकर्ता तर्क देते हैं कि इससे पहले कि हम कृत्रिम बुद्धिमत्ता को मानवीय मूल्यों के साथ संरेखित करने की आशा कर सकें, हमें पहले यह सुनिश्चित करना होगा कि प्रणाली आंतरिक रूप रूप से सुसंगत है। इस आत्म-संगतता के आधार के बिना, एक भरोसेमंद नैतिक एजेंट बनाने का लक्ष्य पहुंच से बाहर है। अध्ययन यह दावा नहीं करता है कि ये मॉडल नैतिक तर्क करने में असमर्थ हैं, बल्कि यह कि उनका तर्क वर्तमान में इतना अस्थिर है कि उसे विश्वसनीय नहीं माना जा सकता। जैसे-जैसे ये उपकरण हमारे जीवन में अधिक एकीकृत हो रहे हैं, उनकी सीमाओं को समझना यह सुनिश्चित करने के लिए महत्वपूर्ण है कि वे हमें गुमराह किए बिना हमारा मार्गदर्शन करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।