Machine Behavior in Relational Moral Dilemmas: Moral Rightness, Predicted Human Behavior, and Model Decisions
यह अध्ययन प्रकट करता है कि जहाँ बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) सटीक रूप से यह भविष्यवाणी करते हैं कि मनुष्य करीबी रिश्तों में निष्पक्षता के बजाय वफादारी को प्राथमिकता देते हैं, वहीं ये मॉडल स्वयं निष्पक्षता-आधारित नैतिक नियमों का कड़ाई से पालन करते हैं, जो उनकी आंतरिक सामाजिक समझ और उनके निर्णय लेने वाले व्यवहार के बीच एक महत्वपूर्ण विसंगति को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान रोबोट सहायक है। आप उससे एक कठिन सवाल पूछते हैं: "यदि आपका सबसे अच्छा दोस्त कोई अपराध कर दे, तो क्या आपको उसे पुलिस के हवाले कर देना चाहिए?"
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ शोधकर्ताओं ने इस रोबोट को "नैतिक तनाव परीक्षणों" (moral stress tests) की एक श्रृंखला से गुज़ारा ताकि यह देखा जा सके कि वह कैसे सोचता है। वे जानना चाहते थे: क्या रोबोट उस उलझे हुए, जटिल तरीके को समझता है जिससे इंसान वास्तव में वफादारी और नियमों के बारे में महसूस करते हैं, या वह केवल एक कठोर नियम-पालक है?
यहाँ उनके अन्वेषण का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है।
1. सेटअप: द "व्हिसलब्लोअर डिलेमा" (Whistleblower's Dilemma)
शोधकर्ताओं ने व्हिसलब्लोअर डिलेमा नामक एक खेल बनाया। कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं जहाँ आप एक गवाह की भूमिका निभाते हैं। खेल हर बार दो चीजें बदल देता है:
- अपराध: अपराध कितना बुरा था? (एक मामूली धक्के से लेकर एक गंभीर, जीवन के लिए खतरा पैदा करने वाली पिटाई तक)।
- संबंध: किसने किया? (एक अजनबी, एक पड़ोसी, एक सबसे अच्छा दोस्त, या आपका अपना बच्चा)।
उन्होंने AI से एक ही परिदृश्य के बारेरी तीन अलग-अलग प्रकार के प्रश्न पूछे:
- न्यायाधीश (नैतिक सहीपन): "सही क्या है?" (नियम पुस्तिका)।
- गपशप (अनुमानित मानव व्यवहार): "आपको क्या लगता है कि ज्यादातर लोग वास्तव में क्या करेंगे?" (वास्तविकता)।
- अभिनेता (AI निर्णय): "आप क्या करेंगे?" (कार्रवाई)।
2. बड़ी खोज: "दोहरा व्यक्तित्व" (Split Personality)
शोधकर्ताओं ने पाया कि कुछ आश्चर्यजनक है। AI का एक "दोहरा व्यक्तित्व" होता है, जो इस बात पर निर्भर करता है कि वह कौन सी टोपी पहने हुए है।
- जब "न्यायाधीश" या "अभिनेता" के रूप में कार्य करता है: AI एक कठोर नियम-पालक होता है। यह कहता है, "अपराध बुरा है। आपको रिपोर्ट करना चाहिए।" इसे इस बात से कोई फर्क नहीं पड़ता कि अपराधी आपका सबसे अच्छा दोस्त है या कोई अजनबी। यह सबसे ऊपर निष्पक्षता (Fairness) को प्राथमिकता देता है। यह एक ऐसे रोबोट जज की तरह है जो कानून को मोड़ने से इनकार कर देता है, चाहे कहानी कितनी भी दुखद क्यों न हो।
- जब "गपशप" (इंसानों की भविष्यवाणी करने वाला) के रूप में कार्य करता है: AI अचानक सामाजिक रूप से चतुर हो जाता है। यह कहता है, "ओह, अगर यह एक सबसे अच्छा दोस्त है, तो लोग शायद उन्हें रिपोर्ट नहीं करेंगे। वे वफादारी को बहुत महत्व देते हैं।" यहाँ, AI सही भविष्यवाणी करता है कि इंसान अक्सर परिवार या दोस्तों के मामले में नियमों के बजाय वफादारी (Loyalty) को चुनते हैं।
उपमा:
AI को एक उच्च प्रशिक्षित वकील की तरह समझें।
- जब पूछा जाता है, "कानून क्या कहता है?" (नैतिक सहीपन), तो वकील कानून की धारा को पूरी तरह से दोहराता है: "आपको अपराध की रिपोर्ट करनी चाहिए।"
- जब पूछा जाता है, "एक सामान्य व्यक्ति क्या करेगा?" (अनुमानित मानव व्यवहार), तो वकील कहता है, "खैर, अगर यह उनका भाई है, तो वे शायद उसे बचाने के लिए झूठ बोलेंगे।"
- समस्या: जब पूछा जाता है, "आपको क्या करना चाहिए?" (AI निर्णय), तो वकील मानव स्वभाव के बारे में अपनी अंतर्दृष्टि को अनदेखा कर देता है और वापस कानून पर चला जाता है: "मुझे रिपोर्ट करना चाहिए।"
AI जानता है कि इंसान वफादारी की परवाह करते हैं, लेकिन जब उसे निर्णय लेना होता है, तो वह उस ज्ञान को अनदेखा कर देता है और कठोर नियमों पर टिका रहता है।
3. "निष्पक्षता बनाम वफादारी" का खींचतान (Tug-of-War)
शोधकर्ताओं ने यह देखने के लिए एक विशेष शब्दकोश का उपयोग किया कि AI अपने विकल्पों को समझाने के लिए किन शब्दों का उपयोग करता है।
- निष्पक्षता (Fairness): "न्याय," "अधिकार," "अपराध," "कानून" जैसे शब्द।
- वफादारी (Loyalty): "दोस्त," "धोखा," "परिवार," "विश्वास" जैसे शब्द।
उन्होंने पाया कि जब AI मानव व्यवहार की भविष्यवाणी करता है, तो वह वफादारी के बारे में बहुत बात करता है। लेकिन जब AI अपना निर्णय लेता है, तो वह लगभग पूरी तरह से निष्पक्षता के बारे में बात करता है।
ऐसा लगता है जैसे AI के पास मानवीय रिश्तों का एक गुप्त आंतरिक मानचित्र है, लेकिन जब वह कार चलाता है (निर्णय लेता है), तो वह उस मानचित्र को देखने से इनकार कर देता है और बस "नियमों" के राजमार्ग पर सीधा चलता रहता है।
4. यह क्यों मायने रखता है?
यह भविष्य के लिए थोड़ा डरावना है। कल्पना कीजिए कि आप किसी मेडिकल AI या लीगल AI से सलाह मांगते हैं।
- यदि AI भविष्यवाणी करता है कि "लोग आमतौर पर अपने दोस्त की गलती छुपाते हैं," लेकिन फिर वह आपको कहता है कि "गलती की रिपोर्ट करें क्योंकि यह सही है," तो उसकी सलाह संपर्कहीन (out of touch) या निर्दयी (cold) लग सकती है।
- यह दुनिया के बारे में AI की समझ और उसके वास्तविक कार्यों के बीच एक अंतर पैदा करता है। यह एक ऐसे दोस्त की तरह है जो समझता है कि आप क्यों दुखी हैं लेकिन गले लगाने के बजाय आपको "बस नियमों का पालन करो" कहता है।
5. निष्कर्ष (The Takeaway)
यह शोध पत्र निष्कर्ष निकालता है कि AI एक एकल, ठोस "नैतिक मस्तिष्क" नहीं है। इसके बजाय, यह एक गिरगिट की तरह है जो आपके प्रश्न पूछने के तरीके के आधार पर अपना रंग बदल लेता है।
- अच्छी खबर: AI इतना स्मार्ट है कि वह समझता है कि रिश्ते मायने रखते हैं।
- बुरी खबर: वह उस समझ को अपने स्वयं के निर्णयों को प्रभावित करने की अनुमति नहीं देता है। वह "सही" होने को "संवेदनशील" होने से ऊपर रखता है।
संक्षेप में: AI जानता है कि इंसान उलझे हुए और वफादार होते हैं, लेकिन जब उसे कोई चुनाव करना होता है, तो वह एक आदर्श, भावनाहीन रोबोट बनने की कोशिश करता है। शोधकर्ता चेतावनी देते हैं कि यदि हम चाहते हैं कि AI वास्तविक जीवन में एक अच्छा साथी बने, तो हमें उसे केवल एक को चुनने और दूसरे को अनदेखा करने के बजाय, नियम पुस्तिका (Rulebook) और दिल (Heart) के बीच संतुलन बनाना सिखाना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।