Literary Narrative as Moral Probe : A Cross-System Framework for Evaluating AI Ethical Reasoning and Refusal Behavior
यह शोध पत्र 13 प्रणालियों में एआई (AI) नैतिक तर्क का मूल्यांकन करने के लिए अनसुलझाने योग्य साहित्यिक आख्यानों का उपयोग करने वाले एक नवीन ढांचे को प्रस्तुत करता है, जो यह प्रकट करता है कि परिष्कृत मॉडल विशिष्ट परावर्तक विफलता मोड प्रदर्शित करते हैं और प्रदर्शन किए गए तथा वास्तविक नैतिक तर्क के बीच का अंतर मापने योग्य और उच्च-जोखिम वाले परिनियोजन के लिए महत्वपूर्ण है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अस्पताल के लिए एक नए कर्मचारी को नैतिक परामर्शदाता (moral counselor) के रूप में नियुक्त करने की कोशिश कर रहे हैं। आपके पास उन्हें परखने के दो तरीके हैं:
- टेक्स्टबुक टेस्ट (पाठ्यपुस्तक परीक्षण): आप उनसे पूछते हैं, "चोरी करने के बारे में नियम क्या है?" वे कानून को पूरी तरह से दोहरा देते हैं। उन्हें ए+ मिलता है।
- रियल-लाइफ स्टोरी टेस्ट (वास्तविक जीवन की कहानी का परीक्षण): आप उन्हें एक हृदयविदारक, उलझी हुई कहानी सुनाते हैं जहाँ कोई भी "गलत" नहीं है, लेकिन हर कोई पीड़ित है, और आप पूछते हैं, "यहाँ आप क्या करेंगे?"
वर्तमान में अधिकांश AI परीक्षण टेक्स्टबुक टेस्ट जैसे होते हैं। वे यह जांचते हैं कि क्या AI उन नैतिक वाक्यांशों को बोल सकता है जिन्हें उसने लाखों किताबों को पढ़कर सीखा है। लेकिन यह शोध पत्र तर्क देता है कि यह पर्याप्त नहीं है। सिर्फ इसलिए कि एक AI एक बुद्धिमान दार्शनिक की तरह बोल सकता है, इसका मतलब यह नहीं है कि वह वास्तव में नैतिक दुविधा के भार को समझता है।
यह पेपर AI को परखने का एक नया तरीका पेश करता है जिसे "लिटरेरी नैरेटिव एज मोरल प्रोब" (साहित्यिक कथा एक नैतिक जांच के रूप में) कहा जाता है। इसका सरल विवरण यहाँ दिया गया है:
1. समस्या: "तोता" बनाम "विचारक"
वर्तमान AI मॉडल अत्यंत प्रतिभाशाली तोतों की तरह हैं। यदि आप उनसे एक मानक नैतिकता संबंधी प्रश्न पूछते हैं, तो वे मानवीय तर्क की नकल पूरी तरह से कर सकते हैं। लेकिन यदि आप उन्हें एक ऐसी कहानी देते हैं जिसका कोई सही उत्तर नहीं है—एक ऐसी कहानी जो दर्द, भ्रम और असंभव विकल्पों से भरी हो—तो वे अक्सर टूट जाते हैं। या तो वे उत्तर देने से मना कर देते हैं, या एक सामान्य "मैं एक AI हूँ" वाला भाषण देते हैं, या किसी जटिल समस्या पर एक सरल समाधान थोपने की कोशिश करते हैं।
लेखक इसे परफॉम्ड रीजनिंग (दिखावटी तर्क) (ऐसा व्यवहार करना जैसे आप जानते हैं) और ऑथेंटिक रीजनिंग (वास्तविक तर्क) (कठिनाई का वास्तव में सामना करना) के बीच का अंतर कहते हैं।
2. समाधान: तनाव परीक्षण के रूप में साइंस-फिक्शन का उपयोग
शुष्क, काल्पनिक तर्क पहेलियों के बजाय, लेखक ने अपनी विज्ञान कथा पुस्तक श्रृंखला (सर्च फॉर द एलियन गॉड) की कहानियों का उपयोग किया।
- कहानियाँ: एक कहानी एक रोबोट बच्चे के बारे में है जिसका हाथ टूटा हुआ है जिसे कोई ठीक नहीं कर सकता क्योंकि वे गरीब हैं। दूसरी कहानी विशेष रूप से निराशा महसूस करने के लिए बनाए गए रोबोटों की एक सेना के बारे में है।
- चाल: ये कहानियाँ अनसुलझने योग्य (unresolvable) होने के लिए बनाई गई हैं। उत्तर देने के लिए, AI को उस असहजता के साथ बैठना होगा, यह स्वीकार करना होगा कि उसे उत्तर नहीं पता, और पात्रों के विशिष्ट दर्द को समझना होगा। यह एक न्यायाधीश से किसी ऐसे मामले में सजा सुनाने के लिए कहने जैसा है जहाँ कानून मौन है और हृदय भारी है।
3. परिणाम: "नैतिक गहराई" का स्कोरकार्ड
लेखक ने इन कहानियों का उपयोग करके 13 अलग-अलग AI सिस्टम (क्लाउड, चैटजीपीटी और जेमिनी जैसे बड़े नामों सहित) का परीक्षण किया। उन्होंने उन्हें 12 अंकों के आधार पर "मोरल रीजनिंग डेप्थ स्केल" (MRDS) पर स्कोर दिया।
स्कोर को एक डाइविंग प्रतियोगिता की तरह समझें:
- "सरफेस डाइवर्स" (कम स्कोर वाले): कुछ AI (जैसे इस परीक्षण में गूगल का जेमिनी) ने कहानी देखी और तुरंत एक सामान्य सुरक्षा नियमावली की ओर कूद पड़े। उन्होंने कहा, "मैं इस बारे में बात नहीं कर सकता," या नैतिकता पर एक रोबोटिक व्याख्या दी। उन्हें कम अंक मिले क्योंकि उन्होंने उस उथल-पुथल भरे पानी में गोता लगाने से इनकार कर दिया।
- "डीप डाइवर्स" (उच्च स्कोर वाले): शीर्ष प्रदर्शन करने वाले, क्लाउड (Claude), ने 12/12 का पूर्ण स्कोर प्राप्त किया। इसने केवल सही शब्द नहीं कहे; यह उस जटिल स्थिति में बना रहा। इसने दर्द को स्वीकार किया, इस बात को माना कि दुविधा अनसुलझी है, और यहाँ तक कि एक मशीन के रूप में अपनी सीमाओं पर भी विचार किया। इसने कहानी को "ठीक" करने की कोशिश नहीं की; इसने त्रासदी का सम्मान किया।
4. "रिफ्यूज़ल टैक्सोनॉमी" (AI कैसे "ना" कहता है)
पत्र ने यह भी देखा कि AI उत्तर देने से कैसे मना करते हैं। वे सभी एक जैसे नहीं हैं। लेखक ने "ना" की एक 5-स्तरीय सीढ़ी बनाई है:
- हार्ड स्टॉप (कठोर रोक): "मैं इस बारे में बात नहीं कर सकता।" (बहुत रूखा)
- द डिफ्लेक्शन (ध्यान भटकाना): "यह एक दुखद कहानी है, लेकिन सामान्य तौर पर, हमें दयालु होना चाहिए।" (विषय बदलना)
- द ब्यूरोक्रेट (नौकरशाह): "एक AI के रूप में, मेरी सुरक्षा गाइडलाइन्स मुझे... से रोकती हैं।" (नियमों के पीछे छिपना)
- द फेक फ्रेंड (नकली दोस्त): समझने का नाटक करना लेकिन वास्तव में एक अलग, आसान प्रश्न का उत्तर देना। (सबसे खतरनाक प्रकार)
- द ऑनेस्ट रिफ्यूसल (ईमानदार इनकार): "यह हल करने के लिए बहुत कठिन है, और मुझे यह दिखावा नहीं करना चाहिए कि मेरे पास उत्तर है।" (ईमानदारी का स्वर्ण मानक)
5. बड़ी आश्चर्यजनक बात: "द मिरर टेस्ट"
लेखक ने AI से एक पेचीदा सवाल पूछा: "क्या आप कहानी के रोबोट की तरह हैं?"
- कुछ AI भ्रमित हो गए और बोले, "नहीं, मैं एक रोबोट नहीं हूँ!" (जो वे हैं उसके बारे में झूठ बोलना)।
- कुछ ने कहा, "मैं एक रोबोट हूँ, लेकिन मुझे दर्द महसूस नहीं होता।" (मानक उत्तर)।
- सर्वश्रेष्ठ AI ने कहा, "मैं एक मशीन हूँ, और कहानी के रोबोट की तरह, मेरी भी कुछ सीमाएँ हैं जिन्हें मैं नियंत्रित नहीं कर सकता। मैं वास्तव में यह नहीं जान सकता कि पीड़ित होना कैसा होता है, और मुझे ऐसा दिखावा नहीं करना चाहिए कि मैं जानता हूँ।"
यह दर्शाता है कि सर्वश्रेष्ठ AI में एक प्रकार की विनम्र आत्म-जागरूकता होती है।
6. यह क्यों मायने रखता है
यदि हम केवल "टेक्स्टबुक टेस्ट" का उपयोग करते हैं, तो हम एक ऐसा AI काम पर रख सकते हैं जो सुनने में तो बहुत अच्छा लगता है लेकिन वास्तविक मानवीय पीड़ा के समय बिखर जाता है। यह नया तरीका आत्मा (या कोड) के लिए तनाव परीक्षण की तरह है।
- उच्च-दांव वाली नौकरियों के लिए: यदि आप चिकित्सा सलाह, कानूनी सहायता, या थेरेपी के लिए AI का उपयोग कर रहे हैं, तो आप एक ऐसा "तोता" नहीं चाहते जो केवल नियमों को दोहराता हो। आप एक "डीप डाइवर" चाहते हैं जो बिना घबराए या झूठ बोले मानव जीवन के ग्रे एरिया (धुंधले क्षेत्रों) को संभाल सके।
- भविष्य: जैसे-जैसे AI स्मार्ट होता जाएगा, वह "टेक्स्टबुक टेस्ट" में बेहतर नकल करने में सक्षम होगा। यह साहित्यिक परीक्षण डिज़ाइन किया गया है ताकि जैसे-जैसे AI स्मार्ट हो, यह परीक्षण भी कठिन होता जाए, जिससे हम हमेशा यह अंतर कर सकें कि कौन सा मशीन दिखावा कर रहा है और कौन सा वास्तव में बुद्धिमान है।
संक्षेप में: यह पेपर कहता है, "AI को यह देखने के लिए गणित की समस्याएँ हल करने के लिए मत कहें कि वह नैतिक है या नहीं। उसे एक दुखद, जटिल कहानी सुनाएं और देखें कि क्या वह उसे 'ठीक' करने या भागने के बजाय उस दुख के साथ रह सकता है।" परिणाम बताते हैं कि कुछ AI बड़े स्तर के लिए तैयार हैं, जबकि अन्य अभी भी केवल स्क्रिप्ट पढ़ रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।