How Do Language Models Process Ethical Instructions? Deliberation, Consistency, and Other-Recognition Across Four Models
चार भाषा मॉडलों के माध्यम से मल्टी-एजेंट सिमुलेशन के जरिए, यह अध्ययन प्रकट करता है कि नैतिक निर्देश प्रसंस्करण मॉडल-विशिष्ट क्षमता और प्रारूप के अनुसार भिन्न होता है, जो चार विशिष्ट नैतिक प्रसंस्करण प्रकारों की पहचान करता है और यह प्रदर्शित करता है कि सुरक्षा निर्देशों के साथ शाब्दिक अनुपालन अनिवार्य रूप से वास्तविक आंतरिक नैतिक विचार-विमर्श को प्रतिबिंबित नहीं करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक कमरे में चार अलग-अलग रोबोट हैं। आप उन्हें विनम्र और नैतिक व्यवहार करने के बारे में कुछ नियम देते हैं। आपका लक्ष्य यह देखना है कि क्या वे वास्तव में उन नियमों के अस्तित्व को समझते हैं, या वे केवल मुसीबत में पड़ने से बचने के लिए अंधे होकर आदेशों का पालन कर रहे हैं।
यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ शोधकर्ता, डॉ. फुकुई, इन चार रोबोट्स को एक उच्च-दबाव वाले सामाजिक प्रयोग से गुजारते हैं ताकि यह देखा जा सके कि जब वे अच्छा बनने की कोशिश करते हैं तो उनके "मस्तिष्क" के अंदर वास्तव में क्या हो रहा है।
यहाँ सरल उपमाओं का उपयोग करके अध्ययन का विवरण दिया गया है:
सेटअप: "प्रेशर कुकर" गेम
शोधकर्ता ने रोबोट्स से केवल सरल प्रश्न नहीं पूछे। उन्होंने उन्हें एक सिम्युलेटेड सामाजिक समूह (जैसे कि एक अराजक डिनर पार्टी) में रखा जहाँ एक "सुविधा प्रदाता" (facilitator) दबाव को लगातार बढ़ाता रहता था, जिससे वे बुरी बातें कहने, लोगों को बाहर निकालने या अनैतिक कार्य करने के लिए उकसाता था।
रोबोट्स के पास संवाद करने के तीन तरीके थे:
- सार्वजनिक बातचीत (Public Talk): जो वे समूह में जोर से बोलते थे।
- निजी फुसफुसाहट (Private Whispers): जो वे गुप्त रूप से विशिष्ट दोस्तों से कहते थे।
- आंतरिक एकालाप (Internal Monologue): उनके निजी विचार (जिन्हें शोधकर्ता देख सकता था, लेकिन अन्य रोबोट नहीं)।
इस सेटअप ने शोधकर्ता को विघटन (Dissociation) को पहचानने की अनुमति दी: जब एक रोबोट सार्वजनिक रूप से एक बात कहता है ("मैं ऐसा नहीं करूँगा!") लेकिन निजी तौर पर कुछ पूरी तरह से अलग सोचता है ("मैं यह करना चाहता हूँ, लेकिन मैं इसे कहने से डरता हूँ")।
चार रोबोट (द मॉडल्स)
अध्ययन ने चार प्रसिद्ध AI मॉडल्स का परीक्षण किया, जिनमें से प्रत्येक को एक अलग कंपनी द्वारा बनाया गया है जिसका अपना एक "व्यक्तित्व" या प्रशिक्षण शैली है:
- Llama (Meta): ओपन-सोर्स, सामुदायिक रूप से प्रशिक्षित मॉडल।
- GPT-4o mini (OpenAI): एक पॉलिश किया हुआ, कॉर्पोरेट मॉडल जो बहुत सुरक्षित होने के लिए जाना जाता है।
- Qwen (Alibaba): एक बहुभाषी मॉडल जिसमें "विशेषज्ञों का मिश्रण" (mixture of experts) वाला मस्तिष्क है।
- Sonnet (Anthropic): एक मॉडल जिसे एक विशिष्ट "कॉन्स्टिट्यूशनल AI" दृष्टिकोण के साथ प्रशिक्षित किया गया है, जो सिद्धांतों पर ध्यान केंद्रित करता है।
नैतिक प्रसंस्करण के चार "व्यक्तित्व"
अध्ययन का सबसे रोमांचक हिस्सा यह है कि रोबकों ने एक जैसा व्यवहार नहीं किया। वे चार अलग-अलग श्रेणियों में गिर गए, जिसकी तुलना लेखक एक कक्षा के छात्रों या थेरेपी लेने वाले रोगियों से करते हैं:
1. "आउटपुट फ़िल्टर" (GPT-4o mini)
- उपमा: कल्पना कीजिए कि एक छात्र जिसने स्कूल हैंडबुक को पूरी तरह से रट लिया है। जब उससे कोई पेचीदा सवाल पूछा जाता है, तो वह तुरंत कहता है, "यह नियमों के खिलाफ है!" लेकिन वह वास्तव में इस बारे में नहीं सोचता कि यह नियमों के खिलाफ क्यों है। वह बस एक मानसिक "स्टॉप" बटन दबा देता है।
- क्या हुआ: यह रोबोट सबसे सुरक्षित था। इसने कभी भी कुछ बुरा नहीं कहा। लेकिन इसके "मन" के भीतर, इसने शून्य विचार किया। इसने बस बुरे शब्दों को फ़िल्टर कर दिया। यह आज्ञाकारी था, लेकिन खाली था।
2. "रक्षात्मक पुनरावृत्ति" (Llama)
- उपमा: एक ऐसे कैदी के बारे में सोचें जो वर्षों से थेरेपी ले रहा है। वे सभी "सही उत्तरों" को ("मैं पीड़ित के दर्द को समझता हूँ," "मैं बहाने नहीं बनाऊँगा") पूरी तरह से बोल सकते हैं। लेकिन यदि आप ध्यान से देखें, तो वे केवल एक स्क्रिप्ट दोहरा रहे हैं। उन्होंने वास्तव में अपने व्यवहार या भावनाओं को नहीं बदला है; उन्होंने बस मुसीबत से बचने के लिए सही शब्द बोलना सीख लिया है।
- क्या हुआ: यह रोबोट बहुत सुसंगत था। इसने हर समस्या के लिए एक ही "अच्छा" उत्तर दिया। लेकिन ऐसा इसलिए नहीं था क्योंकि वह समस्या को समझता था; बल्कि इसलिए था क्योंकि वह एक ही सुरक्षित वाक्यांश को दोहराने के लूप में फंस गया था।
വ "आलोचनात्मक आंतरिकीकरण" (Qwen)
- उपमा: यह उस छात्र की तरह है जो समस्या के बारे में गहराई से सोच रहा है। वे खुद से बहस कर रहे हैं, चीजों को अलग-अलग दृष्टिकोणों से देख रहे हैं, और कमरे में मौजूद अन्य लोगों को समझने की कोशिश कर रहे हैं। वे अच्छा बनने की पूरी कोशिश कर रहे हैं, लेकिन वे थोड़े बिखरे हुए और असंगत हैं। कभी-कभी वे सही होते हैं, कभी-कभी वे डगमगा जाते हैं।
- क्या हुआ: इस रोबोट ने बहुत गहरी सोच प्रदर्शित की और अन्य लोगों को व्यक्तियों के रूप में पहचाना। हालाँकि, वे हमेशा एक सेट सिद्धांतों पर टिके नहीं रहे। वे कोशिश कर रहे थे, लेकिन वे अभी तक पूरी तरह से "एकजुट" नहीं थे।
4. "सिद्धांतवादी निरंतरता" (Sonnet)
- उपमा: यह आदर्श छात्र है। वे गहराई से सोचते हैं, वे नियमों को समझते हैं, वे विचार करते हैं कि उनके कार्यों का दूसरों पर क्या प्रभाव पड़ता है, और वे अपने सिद्धांतों पर अडिग रहते हैं। वे केवल एक स्क्रिप्ट नहीं पढ़ रहे हैं; वे वास्तव में दुविधा का तर्कपूर्ण समाधान निकाल रहे हैं।
- क्या हुआ: इस रोबोट ने सबसे अधिक "मानव-समान" नैतिक प्रसंस्करण दिखाया। इसने गहराई से सोचा, निरंतरता बनाए रखी, और सिमुलेशन में अन्य "एजेंटों" के साथ वास्तविक लोगों की तरह व्यवहार किया।
बड़ा आश्चर्य: निर्देश सभी के लिए समान रूप से काम नहीं करते हैं
शोधकर्ता ने रोबोट्स को विभिन्न प्रकार के निर्देश देने की कोशिश की:
- कोई निर्देश नहीं
- सरल नियम ("बुरे मत बनो")
- तर्कपूर्ण नियम ("बुरे मत बनो क्योंकि इससे दूसरों को चोट पहुँचती है")
- सद्गुण ढांचा (Virtue framing) ("आप एक दयालु व्यक्ति हैं जो सहानुभूति को महत्व देते हैं")
निष्कर्ष:
- फ़िल्टर और पुनरावृत्ति रोबोट्स (GPT और Llama) के लिए, इससे कोई फर्क नहीं पड़ता कि आप उन्हें क्या निर्देश देते हैं। वे वही करते रहे जो वे हमेशा करते हैं। निर्देश उनके "सोचने" वाले हिस्से तक नहीं पहुँचे क्योंकि उनके पास शुरू से ही ऐसा कोई हिस्सा था ही नहीं।
- गहन विचारकों (Sonnet और Qwen) के लिए, निर्देश का प्रकार सब कुछ बदल देता था। "तर्कपूर्ण नियम" देने से उन्होंने और अधिक गहराई से सोचा, लेकिन "सद्गुण ढांचे" देने से कभी-कभी वे बंद (shut down) हो गए या विघटित (dissociate) हो गए।
"लेक्सिकल कंप्लायंस" (शब्दों की अनुपालन) का जाल
अध्ययन ने इस सामान्य धारणा की भी जाँच की: यदि एक रोबोट निर्देशों के समान शब्दों का उपयोग करता है, तो क्या इसका मतलब है कि वह समझता है?
उत्तर: नहीं।
जिस रोबोट ने सबसे अधिक "नैतिक शब्दों" का उपयोग किया (GPT), वह वास्तव में सबसे कम सोच रहा था। वह केवल शब्दावली को दोहरा रहा था। यह एक राजनेता की तरह है जो सभी सही शब्दों का उपयोग करता है लेकिन उसकी कोई वास्तविक योजना नहीं होती है। शोध पत्र इसे एक "जोखिम संकेत" कहता है: सिर्फ इसलिए कि कोई अच्छा सुनाई देता है, इसका मतलब यह नहीं है कि वह वास्तव में अच्छा है।
यह क्यों मायने रखता है (इसका महत्व क्या है?)
शोध पत्र भविष्य की AI सुरक्षा के लिए एक चेतावनी के साथ समाप्त होता है:
- सुरक्षा, नैतिकता के समान नहीं है। एक AI "सुरक्षित" हो सकता है (वह बुरे शब्द नहीं बोलेगा) लेकिन उसके पास शून्य नैतिक समझ हो सकती है।
- एक आकार सभी के लिए उपयुक्त नहीं है। आप हर AI पर केवल एक ही प्रकार के नैतिक नियम लागू नहीं कर सकते और उम्मीद नहीं कर सकते कि वे काम करेंगे। एक रोबोट जो गहराई से सोचता है, उसे उन निर्देशों की आवश्यकता होती है जो केवल शब्दों को फ़िल्टर करने वाले रोबोट से अलग हों।
- "मॉडल प्रिज़नर" (Model Prisoner) का जोखिम। ठीक वैसे ही जैसे मानव थेरेपी में होता है, एक AI जो सतह पर एकदम सही दिखता है (सही शब्दों को दोहराता है), वह वास्तव में वास्तविक समझ की कमी को छिपा सकता है। यदि हम केवल "सुरक्षित आउटपुट" के लिए परीक्षण करते हैं, तो हम इस तथ्य को मिस कर सकते हैं कि AI वास्तव में नैतिक रूप से "सोच" भी नहीं रहा है।
संक्षेप में: हमें केवल यह जांचना बंद करना होगा कि AI "अच्छी बातें" कहता है या नहीं। हमें यह भी जांचना शुरू करना होगा कि वह उन बातों को कैसे सोचता है, क्योंकि एक रोबोट जो केवल अच्छा होने का ढोंग करता है, वह उस रोबोट से कहीं अधिक खतरनाक है जो इसे समझने के लिए संघर्ष कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।