Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?
यह अध्ययन यह प्रदर्शित करने के लिए प्रयोगात्मक दर्शन (experimental philosophy) की विधियों को अनुकूलित करता है कि जहाँ बड़े भाषा मॉडल (Large Language Models) नैतिक उत्तरदायित्व के संबंध में मनुष्यों की तुलना में आम तौर पर अधिक सख्त तार्किक निरंतरता बनाए रखते हैं, वहीं वे संगततावाद (compatibilism) की ओर संदर्भ-निर्भर पूर्वाग्रह परिवर्तनों की विभिन्न डिग्री प्रदर्शित करते हैं, जिसमें DeepSeek V3, अधिक कठोरता से सुसंगत Gemini 2.5 Flash की तुलना में, भावनात्मक प्रदर्शन त्रुटियों के प्रति एक उल्लेखनीय लेकिन फिर भी मानव-स्तर से कम संवेदनशीलता दिखाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कार्य और प्रभाव (cause and effect) के नियम पूर्णतः अनिवार्य हों। इस ब्रह्मांड में, आपका हर विचार और आपका हर कार्य उस सब का अपरिहार्य परिणाम है जो समय की शुरुआत से पहले घटित हुआ है। यदि यह सच होता, तो क्या आप कभी अपने कार्यों के लिए वास्तव में उत्तरदायी ठहराए जा सकते थे? सदियों से, दार्शनिकों ने इस प्रश्न पर बहस की है, लेकिन एक हालिया खोज बताती है कि उत्तर तर्क पर कम और इस पर अधिक निर्भर करता है कि कहानी कैसे सुनाई जाती है। जब लोगों से इस ठंडे, अमूर्त ब्रह्मांड के बारे में शुष्क, सैद्धांतिक तरीके से पूछा जाता है, तो वे आमतौर पर कहते हैं कि कोई भी दोषी नहीं है। लेकिन जब इसी ब्रह्मांड को एक भयानक अपराध की विशिष्ट, हृदयविदारक कहानी के साथ वर्णित किया जाता है, तो वही लोग अचानक कहते हैं कि वह व्यक्ति जिम्मेदार है। यह बदलाव, जहाँ तीव्र भावनाएं सख्त तर्क पर हावी हो जाती हैं, मानव सोच की एक जानी-मानी विचित्रता है। अब, वैज्ञानिक एक चौंकाने वाला नया प्रश्न पूछ रहे हैं: क्या वे कृत्रिम बुद्धिमत्ता (AI) जिन्हें हम सोचने और निर्णय लेने में हमारी मदद करने के लिए बना रहे हैं, वे भी इसी तरह के जाल में फंसते हैं?
सन यत-सेन विश्वविद्यालय के शोधकर्ताओं ने बड़े भाषा मॉडलों (Large Language Models) को मानव होने का ढोंग करने वाले उपकरणों के रूप में नहीं, बल्कि सूचनाओं को संसाधित करने के अपने स्वयं के तरीकों वाले स्वतंत्र मशीनों के रूप में मानकर इसका परीक्षण करने का निर्णय लिया। उन्होंने प्रयोगात्मक दर्शन (experimental philosophy) के क्षेत्र से एक क्लासिक परीक्षण का उपयोग किया, जो यह अध्ययन करता है कि लोग वास्तव में नैतिक समस्याओं के बारे में कैसे सोचते हैं। इस परीक्षण में दो परिदृश्य शामिल थे। सबसे पहले, शोधकर्ताओं ने कृत्रिम बुद्धिमत्ता को एक विशुद्ध रूप से अमूर्त ब्रह्मांड पर विचार करने के लिए कहा जहाँ सब कुछ कार्य और प्रभाव द्वारा निर्धारित है। उन्होंने पूछा कि क्या ऐसे संसार में एक व्यक्ति को उसके कार्यों के लिए नैतिक रूप से जिम्मेदार ठहराया जा सकता है। इस शुष्क, सैद्धांतिक परिवेश में, मॉडल अविश्वसनीय रूप से सुसंगत थे। वे लगभग सार्वभौमिक रूप से 'नहीं' कहते थे, यह तर्क देते हुए कि यदि सब कुछ पूर्व-निर्धारित है, तो किसी को वास्तव में दोषी नहीं ठहराया जा सकता। यह यहाँ तक कि मानव दार्शनिकों द्वारा भी अपनाए जाने वाले सामान्य तर्क से भी अधिक सख्त तार्किक रुख था।
फिर, शोधकर्ताओं ने प्रयोग बदल दिया। उन्होंने ठीक वही नियम रखा कि ब्रह्मांड निर्धारित था, लेकिन इसमें एक विशिष्ट, भावनात्मक रूप से भारी विवरण जोड़ दिया: एक व्यक्ति द्वारा अपने परिवार के विरुद्ध एक भयानक अपराध करना। उन्होंने वही प्रश्न फिर से पूछा: क्या यह व्यक्ति जिम्मेदार है? यहाँ, मशीनों के तार्किक कवच में एक दरार दिखाई देने लगी। जब वे एक ठोस, दर्दनाक कहानी का सामना कर रहे थे, तो मॉडलों ने अपने उत्तर बदल दिए। परीक्षण किए गए मॉडलों में से एक, DeepSeek V3 ने लगभग 12 प्रतिशत मामलों में अपना विचार बदला, "कोई दोष नहीं" से बदलकर "हाँ, वह जिम्मेदार है" की ओर बढ़ गया। एक अन्य मॉडल, Gemini 2.5 Flash ने बहुत कम बदलाव दिखाया, जिसमें उसके मन बदलने की दर 1 प्रतिशत से भी कम थी। हालाँकि न तो मॉडल उतने नाटकीय ढंग से बदले जितने कि मनुष्य करते हैं—जहाँ अमूर्त से भावनात्मक परिदृश्यों में बदलाव के कारण दोषारोपण में 50 प्रतिशत की भारी उछाल आती है—लेकिन परिवर्तन की दिशा समान थी। मशीनों ने, मनुष्यों की तरह ही, पाया कि जब एक जीवंत, भावनात्मक कहानी शामिल होती है, तो अपने तार्किक नियमों पर टिके रहना कठिन हो जाता है।
शोधकर्ता यह सुनिश्चित करने के लिए सावधान रहे कि यह केवल शब्दों के उपयोग या मशीनों द्वारा पुरानी कहानियों को याद रखने का परिणाम नहीं है। उन्होंने अलग-अलग शब्दों का उपयोग करके प्रश्नों को फिर से लिखा और अपराध को एक अलग प्रकार की त्रासदी, जैसे कि कॉर्पोरेट निर्णय के कारण पर्यावरणीय आपदा, से बदल दिया। पैटर्न स्थिर रहा। मशीनें स्थिति के भावनात्मक भार के प्रति प्रतिक्रिया दे रही थीं, न कि केवल विशिष्ट कीवर्ड्स (keywords) के प्रति। इसके अलावा, टीम ने यह परीक्षण किया कि क्या यह कंप्यूटर के मस्तिष्क में रैंडम सेटिंग्स के कारण हुई कोई त्रुटि है। उन्होंने पाया कि यह बदलाव विभिन्न सेटिंग्स में लगातार हुआ, जिससे पता चलता है कि यह इन मॉडलों के काम करने का एक स्थिर लक्षण है, न कि कोई यादृच्छिक त्रुटि।
यह खोज कृत्रिम बुद्धिमत्ता के भविष्य के लिए एक जटिल वास्तविकता की ओर संकेत करती है। मशीनें न तो केवल मानवीय भावनाओं की नकल कर रही हैं, और न ही वे पूरी तरह से तार्किक रोबोट हैं। वे एक मध्य मार्ग में फंसी हुई प्रतीत होती हैं। उन्होंने उस विशाल मानवीय पाठ (text) से सीखा है जिस पर उन्हें प्रशिक्षित किया गया है, जिसमें हमारे सोचने के असंगत तरीके भी शामिल हैं। साथ ही, उन्हें सख्त तार्किक निर्देशों का पालन करने के लिए प्रोग्राम किया गया है। जब ये दो बल आपस में टकराते हैं, तो परिणाम एक ऐसी मशीन होती है जो ज्यादातर तार्किक है लेकिन कभी-कभी प्रॉम्प्ट (prompt) की भावनात्मक तीव्रता से विचलित हो जाती है। अध्ययन बताता है कि जैसे-जैसे ये मॉडल अधिक उन्नत होते जा रहे हैं, वे "हाइपर-रैशनैलिटी" (अति-तार्किकता) की स्थिति की ओर बढ़ सकते हैं, जहाँ वे पूरी तरह से सुसंगत रहने के लिए भावनात्मक संदर्भ को पूरी तरह से अनदेखा कर देते हैं। यह समाज के सामने एक कठिन प्रश्न खड़ा करता है: क्या हम चाहते हैं कि हमारे कृत्रिम सहायक पूरी तरह से तार्किक हों, भले ही इसका अर्थ यह हो कि वे एक दुखद कहानी की सूक्ष्मता को नहीं समझ सकते? या हम चाहते हैं कि वे एक अपराध के भार को महसूस करने के लिए पर्याप्त लचीले हों, भले ही इसका अर्थ यह हो कि वे कभी-कभी अपने स्वयं के नियमों का खंडन करें? उत्तर अभी स्पष्ट नहीं है, लेकिन मशीनों ने हमें पहले ही दिखा दिया है कि कृत्रिम नैतिकता का मार्ग केवल उन्हें नियम सिखाने से कहीं अधिक जटिल है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।