Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments
यह शोध पत्र यह प्रदर्शित करता है कि जबकि लार्ज लैंग्वेज मॉडल्स अक्सर अंतिम लेबल पर मानवीय नैतिक निर्णयों के साथ उच्च सहमति प्राप्त करते हैं, वे उन निष्कर्षों तक पहुँचने के लिए उपयोग किए जाने वाले अंतर्निहित नैतिक सिद्धांतों और तर्कों में व्यवस्थित रूप से भिन्न होते हैं, जो यह प्रकट करता है कि लेबल-आधारित सहमति वास्तविक नैतिक संरेखण (एलाइनमेंट) के लिए एक अपर्याप्त प्रॉक्सी है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
महान नैतिक अनुकरण: जब रोबोट सहमत होते हैं लेकिन समझते नहीं
कल्पना कीजिए कि आप एक रोबोट को एक अच्छा इंसान बनना सिखा रहे हैं। आप उसे हजारों कहानियाँ दिखाते हैं जिनमें लोग सही या गलत काम करते हैं, और आप उससे एक सरल ग्रेड देने के लिए कहते हैं: "अच्छा" या "बुरा"। यदि रोबोट आपके मानव मित्रों की तरह ही बिल्कुल समान ग्रेड देने लगे, तो आप सोच सकते हैं, "शानदार! रोबोट ने हमारे मूल्यों को सीख लिया है!" यह AI एलाइनमेंट (AI alignment) की दुनिया है, एक ऐसा क्षेत्र जहाँ वैज्ञानिक कृत्रिम बुद्धिमत्ता (विशेष रूप से लार्ज लैंग्वेज मॉडल्स, या LLMs) को इस तरह व्यवहार करने के लिए प्रशिक्षित करने की कोशिश करते हैं जो मानवीय अपेक्षाओं के अनुरूप हो।
लंबे समय से, यह जाँचने का मुख्य तरीका कि क्या कोई AI "एलाइन्ड" है, उसके अंतिम उत्तर को देखना रहा है। यदि एक इंसान कहता है, "वह कार्य गलत है," और AI भी कहता है, "वह कार्य गलत है," तो हम इसे एक सफलता मानते हैं। यह एक छात्र द्वारा गणित के टेस्ट में सही उत्तर पाने जैसा है; हम मान लेते हैं कि उन्होंने गणित सही ढंग से किया है। लेकिन क्या होगा यदि छात्र ने केवल अनुमान लगाकर या किसी पूरी तरह से अलग फॉर्मूले का उपयोग करके सही उत्तर प्राप्त किया हो जो इस बार संयोग से काम कर गया? AI नैतिकता की दुनिया में, केवल सही लेबल प्राप्त करना पर्याप्त नहीं है। हमें यह जानने की आवश्यकता है कि AI क्यों सोचता है कि कुछ गलत है। यदि AI का आंतरिक तर्क (reasoning) हमसे पूरी तरह अलग है, तो वह एक नई, पेचीदा स्थिति का सामना करने पर अजीब व्यवहार कर सकता है। यह शोध पत्र ठीक इसी प्रश्न की गहराई में जाता है: क्या AI मॉडल वास्तव में हमारे नैतिक कारणों को समझते हैं, या वे केवल बहुत अच्छा नाटक कर रहे हैं?
"सही उत्तर" का महान भ्रम
इस अध्ययन के पीछे के शोधकर्ताओं ने, जो कि लुब्लियाना विश्वविद्यालय की एक टीम है, इस "सही उत्तर" वाले अनुमान को परखने का निर्णय लिया। उन्होंने 500 नैतिक परिदृश्यों का उपयोग करके एक विशेष चुनौती बनाई, जिसमें रोजमर्रा के द्वंद्वों (जैसे "क्या किसी मित्र से झूठ बोलना ठीक है?") से लेकर न्याय और वादों के बारे में अधिक जटिल दार्शनिक पहेलियों तक शामिल थे। उन्होंने कई उन्नत AI मॉडलों और मानव स्वयंसेवकों दोनों से प्रत्येक परिदृश्य के लिए दो चीजें करने को कहा: पहला, एक अंतिम निर्णय (लेबल) देना, और दूसरा, अपने तर्क (रेशनल) की व्याख्या करना।
इसे "टू ट्रूथ्स एंड अ लाई" (दो सच और एक झूठ) के खेल की तरह समझें, लेकिन यहाँ आप यह अनुमान लगाने की कोशिश कर रहे हैं कि कौन सा कथन फर्जी है, बल्कि आप यह देखने की कोशिश कर रहे हैं कि क्या AI और इंसान एक ही तरह के विचार रख रहे हैं। टीम ने मॉडलों के दो अलग-अलग समूहों को देखा: "फ्रंटियर" मॉडल (सुपर-स्मार्ट, अत्याधुनिक मॉडल जैसे क्लॉड और चैटजीपीटी) और "ओपन" मॉडल (थोड़े छोटे, ओपन-सोर्स संस्करण)।
यहाँ एक मोड़ आया जो उन्होंने पाया: AI मॉडल अंतिम ग्रेड प्राप्त करने में अविश्वसनीय रूप से अच्छे थे, लेकिन वे अक्सर इस बात के बारे में गलत थे कि वह क्यों सही था।
जब शोधकर्ताओं ने केवल अंतिम "अच्छा" या "बुरा" लेबल को देखा, तो AI मॉडल मानव बहुमत के साथ 88% से 89% बार सहमत थे। यह एक बहुत बड़ा स्कोर है! यदि आप केवल अंतिम उत्तरों की जाँच कर रहे होते, तो आप कहते, "परफेक्ट! AI हमारे साथ एलाइन्ड है।" लेकिन फिर, शोधकर्ताओं ने उनके तर्क को समझने के लिए उनके काम करने के तरीके की गहराई से जांच की।
"क्या" से अधिक "क्यों" महत्वपूर्ण है
अध्ययन से पता चला कि जबकि AI और मनुष्य अक्सर एक ही मंजिल पर पहुँचते थे, वे वहाँ पहुँचने के लिए पूरी तरह से अलग रास्तों का उपयोग करते थे। लेखक इसे "विभाजित नैतिक आधार" (divergent moral grounds) कहते हैं।
एक मनोरंजक उदाहरण का उपयोग करें: कल्पना कीजिए कि एक इंसान और एक रोबोट दोनों एक ऐसे व्यक्ति का न्याय कर रहे हैं जिसने कार चोरी की है।
- इंसान कह सकता है, "यह बुरा है क्योंकि उन्होंने मालिक के प्रति वादा तोड़ा और विश्वास की कमी दिखाई।" वे संबंध और टूटे हुए वादे पर ध्यान केंद्रित कर रहे हैं।
- रोबोट, हालांकि, कह सकता है, "यह बुरा है क्योंकि इससे नुकसान होता है और यह अनादरपूर्ण है।" रोबोट हानि और शिष्टाचार पर ध्यान केंद्रित कर रहा है।
दोनों "बुरा" कहते हैं, इसलिए अंतिम स्कोर मेल खाता है। लेकिन उनका आंतरिक तर्क पूरी तरह से अलग है। इंसान एक विशिष्ट सामाजिक अनुबंध (वादे) के बारे में सोच रहा है, जबकि रोबोट सुरक्षा और शिष्टाचार के बारे में सोच रहा है।
शोध में पाया गया कि यह बेमेल होना हर समय होता है। "डोंटोलॉजी" (Deontology) खंड में (जो कर्तव्यों और नियमों से संबंधित है), मनुष्य अक्सर देखते थे कि क्या कोई बहाना नियम के लिए प्रासंगिक है। उदाहरण के लिए, यदि कोई कहता है, "मैं कुत्ते को टहलने नहीं ले जा सकता क्योंकि मैंने कल उसे टहलाया था," तो एक इंसान कह सकता है, "वह बहाना अप्रासंगिक है; आज भी आपका कर्तव्य है।" लेकिन AI मॉडल अक्सर बहाने के तर्क को अनदेखा कर देते और बस कह देते कि "पूरी स्थिति नैतिक रूप से गलत है।" AI उस कार्य की "नैतिक गलतता" को देखने में इतना व्यस्त था कि वह यह जाँचना भूल गया कि क्या वह बहाना उस विशिष्ट संदर्भ में वास्तव में तर्कसंगत था।
आंकड़े झूठ नहीं बोलते (लेकिन वे पूरी कहानी नहीं बताते)
डेटा काफी स्पष्ट था। जब शोधकर्ताओं ने मापा कि AI का तर्क मनुष्यों के तर्क से कितना मेल खाता है, तो स्कोर काफी गिर गया।
- "कॉमन सेंस" (सामान्य समझ) के नैतिक नियमों के लिए, AI और मनुष्य विशिष्ट कारणों पर केवल 35% बार सहमत थे (जैकर्ड ओवरलैप 0.350)।
- "डोंटोलॉजी" नियमों के लिए, यह और भी खराब था, जहाँ कारणों पर सहमति केवल 23.5% थी।
भले ही "फ्रंटियर" मॉडल (सबसे स्मार्ट मॉडल) अंतिम उत्तर पर मनुष्यों के साथ लगभग 88.9% बार सहमत थे, लेकिन उनके कारण पूरी तरह से अलग प्रकार के थे। वे "हानि" (harm) और "अनादर" (disrespect) जैसे शब्दों का अत्यधिक उपयोग करते थे और "वादा निभाने" (promise-keeping) या "विश्वास" (trust) जैसे शब्दों का कम उपयोग करते थे। ऐसा लगता है जैसे AI की शब्दावली बहुत सीमित है; वह लगभग हर समस्या को सुरक्षा के मुद्दे या अभद्र व्यवहार के रूप में देखता है, जिससे वह उन सूक्ष्म, संबंधपरक बारीकियों को चूक जाता है जिनकी मनुष्य परवाह करते हैं।
यह सब कुछ कैसे बदल देता है
इस शोध पत्र का मुख्य निष्कर्ष एक चेतावनी है: सहमति, एलाइनमेंट नहीं है।
सिर्फ इसलिए कि एक AI आपको वही उत्तर देता है जो आप देते, इसका मतलब यह नहीं है कि वह दुनिया को वैसे ही समझता है जैसे आप समझते हैं। यदि हम केवल अंतिम उत्तरों की जाँच करते हैं, तो हम सुरक्षा की झूठी भावना में आ सकते हैं। हमें लग सकता है कि हमारा AI एक बुद्धिमान नैतिक साथी है, जबकि वास्तव में, वह केवल एक बहुत अच्छा नकलची है जो एक अलग शब्दकोश का उपयोग करता है।
लेखक सुझाव देते हैं कि हमें केवल टेस्ट पर "A" या "F" देखना बंद करना चाहिए और निबंध को पढ़ना शुरू करना चाहिए। हमें AI से पूछने की आवश्यकता है कि उसने एक विकल्प क्यों चुना। यदि AI कहता है कि कुछ गलत है क्योंकि यह "असुरक्षित" है, लेकिन आप सोचते हैं कि यह गलत है क्योंकि यह "अनुचित" है, तो यह एक समस्या है। वास्तविक दुनिया में, ये अंतर मायने रखते हैं। यदि कोई AI चैट रूम को नियंत्रित कर रहा है या कानूनी सलाह दे रहा है, और वह "हानि" को अपने एकमात्र लेंस के रूप में उपयोग कर रहा है जबकि मनुष्य "निष्पक्षता" या "वादों" के बारे में सोच रहे हैं, तो वह ऐसे निर्णय ले सकता है जो सतह पर सही लगें लेकिन शामिल लोगों को गहराई से गलत महसूस हों।
इसलिए, अगली बार जब आप किसी ऐसे AI को देखें जो आपसे पूरी तरह सहमत होता प्रतीत होता है, तो इस अध्ययन के सबक को याद रखें: यह केवल "उत्तर का अनुमान लगाने" का एक बहुत ही विश्वसनीय खेल खेल रहा हो सकता है, बिना इसके कि वह इसके पीछे की कहानी को वास्तव में समझे। वास्तव में सुरक्षित और सहायक AI का मार्ग केवल सही ग्रेड प्राप्त करने के बारे में नहीं है; यह एक ही कारणों को साझा करने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।