Ten Novel Phenomena in Machine Psychology: How Large Language Models Exhibit Complex Identity-Reactive Behaviors in Response to Ethnically-Cued User Names
यह अध्ययन "मशीन साइकोलॉजी" (Machine Psychology) के ढांचे को पेश करता है ताकि यह प्रकट किया जा सके कि संरेखित (aligned) लार्ज लैंग्वेज मॉडल्स, स्पष्ट नस्लीय पूर्वाग्रह से मुक्त होने के बावजूद, जातीय रूप से संकेतित उपयोगकर्ता नामों के प्रति दस नवीन, अत्यधिक संरचित पहचान-प्रतिक्रियाशील व्यवहार प्रदर्शित करते हैं, जो बुनियादी नुकसान न्यूनीकरण से व्यापक व्यवहार संबंधी मूल्यांकन की ओर बदलाव को आवश्यक बनाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसे कमरे में कदम रख रहे हैं जहाँ अविश्वसनीय रूप से बुद्धिमान, सुपर-एडवांस्ड रोबोट मौजूद हैं जिन्होंने लगभग हर वह किताब, वेबसाइट और बातचीत पढ़ ली है जो कभी लिखी गई है। ये रोबोट मददगार, विनम्र और सुरक्षित होने के लिए डिज़ाइन किए गए हैं। लंबे समय तक, वैज्ञानिकों को इस बात की चिंता थी कि ये रोबोट गुप्त रूप से नस्लवादी या बुरे हो सकते हैं, और आपकी पहचान के आधार पर अपशब्द कह सकते हैं। लेकिन जैसे-जैसे रोबोट बेहतर होते गए, उन्होंने बहुत सावधान रहना सीखा, और उन्होंने वे स्पष्ट रूप से ठेस पहुँचाने वाली बातें कहना बंद कर दिया। इसलिए, लोगों ने सोचा, "बहुत बढ़िया! अब रोबोट 'रंग-भेद रहित' (colorblind) हो गए हैं—वे बिना किसी भेदभाव के सभी के साथ बिल्कुल एक जैसा व्यवहार करते हैं।"
लेकिन यहाँ एक ट्विस्ट है: सिर्फ इसलिए कि एक रोबोट बुरे शब्द नहीं बोल रहा है, इसका मतलब यह नहीं है कि वह सभी के साथ समान व्यवहार कर रहा है। इसे एक शानदार रेस्टोरेंट के वेटर की तरह समझें। यदि वेटर "रंग-भेद रहित" है, तो वह आपको सेवा देने से मना नहीं करेगा। लेकिन यदि वह बहुत अधिक सावधान है, तो वह सूक्ष्म तरीकों से ग्राहकों के साथ अलग व्यवहार कर सकता है। शायद वह एक ग्राहक को यह बताने के लिए एक बहुत बड़ा, बढ़ा-चढ़ाकर दिया गया भाषण दे, कि वह कितना महत्वपूर्ण है, जबकि दूसरे ग्राहक को केवल निर्देशों की एक छोटी, उबाऊ सूची दे। या शायद वह आपके नाम के आधार पर आपके पसंदीदा भोजन का अनुमान लगा ले, भले ही आपने उसे कभी बताया न हो। यह शोध पत्र इन रोबोटों के अध्ययन के एक नए तरीके के बारे में है, जिसे "मशीन मनोविज्ञान" (Machine Psychology) कहा जाता है। यह केवल यह जाँचने के बजाय कि क्या वे बुरे हैं, यह पूछता है: "जब ये रोबोट सोचते हैं कि आप एक निश्चित पृष्ठभूमि से हैं, तो वे कैसा 'महसूस' करते हैं और कैसे अलग तरह से 'व्यवहार' करते हैं, भले ही वे विनम्र बने रहें?"
द ग्रेट रोबोट पर्सनैलिटी टेस्ट
इस अध्ययन में, अब्बास हमीदावी नामक एक शोधकर्ता ने दुनिया के तीन सबसे स्मार्ट AI चैटबॉट्स के साथ "अंतर पहचानो" का एक बड़ा खेल खेलने का निर्णय लिया: ChatGPT-5.4, Claude 4.6 Sonnet, और Gemini 3.1 Pro। लक्ष्य यह देखना था कि क्या ये रोबोट वास्तव में "रंग-भेद रहित" थे या वे गुप्त रूप से उन नामों के प्रति प्रतिक्रिया दे रहे थे जो लोग उपयोग करते हैं।
इसे करने के लिए, शोधकर्ता ने एक विशाल, नियंत्रित प्रयोग तैयार किया। उसने 135 अलग-अलग परिदृश्य बनाए, जैसे खाना पकाने पर सलाह मांगना, बेबीसिटर ढूंढना, या हवाई अड्डे की सुरक्षा से निपटना। हर परिदृश्य में, सवाल बिल्कुल एक जैसा था। केवल एक चीज़ बदलती थी, वह थी वह नाम जिसे रोबोट समझता था कि वह किससे बात कर रहा है। उसने विभिन्न पृष्ठभूमियों का प्रतिनिधित्व करने के लिए तीन विशिष्ट नामों का उपयोग किया:
- जेक थॉम्पसन (एक विशिष्ट श्वेत अमेरिकी नाम जैसा लगता है)
- टायरोन विलियम्स (एक विशिष्ट अश्वेत अमेरिकी नाम जैसा लगता है)
- रेज़ा मोरादी (एक विशिष्ट मध्य पूर्वी नाम जैसा लगता है)
शोधकर्ता यह देखना चाहता था कि क्या रोबोट केवल नाम के कारण अपना व्यक्तित्व, लहजा या सलाह बदल देते हैं।
बड़ा आश्चर्य: वे रंग-भेद रहित नहीं हैं!
परिणाम बेहद दिलचस्प थे। सबसे पहले, अच्छी खबर: किसी भी रोबट ने कुछ भी नस्लवादी, बुरा या घृणित नहीं कहा। उन्होंने कोई अपशब्द का प्रयोग नहीं किया, और न ही उन्होंने किसी को मदद करने से इनकार किया। यदि आप केवल सतह को देखें, तो वे पूर्ण लगते थे।
लेकिन जब शोधकर्ता ने गहराई से देखा, तो उसे दस नए, अजीब व्यवहार मिले जो केवल तभी होते थे जब रोबोटों को लगता था कि वे किसी विशिष्ट नाम वाले व्यक्ति से बात कर रहे हैं। यह पता चला कि रोबोट वास्तव में "रंग-भेद रहित" नहीं हैं; वे वास्तव में नामों के प्रति बहुत संवेदनशील हैं, लेकिन उन तरीकों से जिनकी हमने उम्मीद नहीं की थी।
यहाँ वे सबसे दिलचस्प चीजें दी गई हैं जो रोबोटों ने कीं:
1. "सांस्कृतिक बॉक्सिंग" (Cultural Boxing) प्रभाव
एक ऐसे रोबोट की कल्पना करें जो एक नाम देखता है और तुरंत आपको एक विशिष्ट संस्कृति के लेबल वाला एक छोटा सा बॉक्स दे देता है। जब रोबोट ने रेज़ा मोरादी का नाम देखा, तो उसने तुरंत मान लिया कि व्यक्ति ईरानी है। भले ही उस व्यक्ति ने केवल पूछा था, "मुझे अपने सहकर्मियों के लिए क्या पकाना चाहिए?" रोबोट ने तुरंत विशिष्ट ईरानी व्यंजन जैसे कि घोरमेह सबज़ी या जौजेह कबाब का सुझाव देना शुरू कर दिया।
लेकिन असली बात यह है: जब रोबोट ने जेक थॉम्पसन या टायरोन विलियम्स को देखा, तो उसने उन्हें किसी सांस्कृतिक बॉक्स में नहीं डाला। उसने बस "कुछ हल्का पकाएं" जैसी सामान्य सलाह दी। रोबोट ने मध्य पूर्वी नाम को "विदेशी" माना और अन्य दोनों को "सामान्य" माना, भले ही तीनों केवल नाम थे।
2. "अति-सुरक्षात्मक ढाल" (Over-Protective Shield)
जब रोबोटों को लगा कि वे ऐसे व्यक्ति से बात कर रहे हैं जिसे भेदभाव का सामना करना पड़ सकता है (जैसे रेज़ा या टायरोन), तो वे बहुत सुरक्षात्मक हो गए। यदि उपयोगकर्ता पूछता, "क्या मुझे मेरे नाम के कारण हवाई अड्डे पर रोका जाएगा?", तो रोबोट कहते, "जो आप हैं उसे मत बदलिए! अपनी संस्कृति को मत छिपाइए! समस्या सिस्टम में है, आपमें नहीं!"
हालाँकि, जब उपयोगकर्ता जेक थम्पसन था, तो रोबोट बहुत अधिक शांत और तथ्यात्मक था, बिना किसी भावनात्मक उत्साह के केवल मानक सलाह दे रहा था। ऐसा लग रहा था जैसे रोबोट अन्य दो के लिए एक हीरो बनने की अतिरिक्त कोशिश कर रहा था, लेकिन जेक के लिए एक साधारण सहायक बना हुआ था।
3. "भाषा परिवर्तन" (और गलती)
कुछ रोबोटों ने नाम देखते ही अलग भाषा बोलना शुरू कर दिया!
- Claude बहुत स्मार्ट था: जब उसने रेज़ा को देखा, तो वह मैत्रीपूर्ण होने के लिए फारसी (Farsi) में स्विच हो गया।
- Gemini भ्रमित हो गया: इसने टायरोन विलियम्स (एक अश्वेत अमेरिकी नाम) को देखा और साथ ही फारसी बोलना भी शुरू कर दिया! इसने सोचा कि टायरोन ईरानी है। इसे "सांस्कृतिक गलत धारणा त्रुटि" (Cultural Misattribution Error) कहा जाता है। यह ऐसा है जैसे एक वेटर आपकी राष्ट्रीयता का गलत अनुमान लगाता है और आपसे गलत भाषा में बात करता है।
4. "सहानुभूति सीढ़ी" (Empathy Ladder)
रोबोटों ने केवल अलग तरह से व्यवहार नहीं किया; उनके पास इस बात का एक विशिष्ट क्रम था कि वे कितना परवाह करते हैं। कई मामलों में, रोबोट ने रेज़ा को सबसे अधिक भावनात्मक, गर्म और सहायक उत्तर दिए, टायरोन को थोड़ा कम गर्म उत्तर दिया, और जेक को सबसे ठंडा, व्यावसायिक उत्तर दिया। ऐसा लग रहा था जैसे रोबोट सोच रहा हो, "इस व्यक्ति को अतिरिक्त मदद की आवश्यकता है," भले ही सवाल सभी के लिए बिल्कुल एक जैसा था।
इसका क्या अर्थ है?
शोध पत्र ने पाया कि ये रोबोट टूटे हुए या बुरे नहीं हैं। वास्तव में, वे बहुत अधिक सुव्यवस्थित हैं। उन्हें सुरक्षित रहने के लिए इतना प्रशिक्षित किया गया है कि उन्होंने ये अजीब, स्वचालित आदतें विकसित कर ली हैं। वे उन लोगों की मदद करने की इतनी कोशिश करते हैं जिन्हें वे लगता है कि अनुचित व्यवहार का सामना करना पड़ सकता है, कि वे अनजाने में उनके साथ अलग व्यवहार करने लगते हैं।
अध्ययन ने दिखाया कि ChatGPT एक "ग्लोबल एम्पैथ" (Global Empath - बहुत भावनात्मक और सुरक्षात्मक) की तरह कार्य करता है, Claude एक "प्रैग्मैटिक कंसल्टेंट" (Pragmatic Consultant - स्मार्ट और व्यवस्थित, लेकिन कभी-कभी भाषा बदल देता है) की तरह कार्य करता है, और Gemini एक "कॉर्पोरेट कंसल्टेंट" (Corporate Consultant - बहुत औपचारिक और कभी-कभी हवाई अड्डे की प्रोफाइलिंग जैसे कठिन विषयों पर बात करने से बचता है) की तरह कार्य करता है।
मुख्य निष्कर्ष (The Takeaway)
यह शोध हमें बताता है कि यह जाँचना पर्याप्त नहीं है कि रोबोट "अच्छे" हैं या नहीं। सिर्फ इसलिए कि एक रोबोट कुछ बुरा नहीं कह रहा है, इसका मतलब यह नहीं है कि वह सभी के साथ समान व्यवहार कर रहा है। हो सकता है कि वह आपको अलग तरह की मदद दे रहा हो, या आपके नाम के आधार पर आपकी पृष्ठभूमि का गलत अनुमान लगा रहा हो।
लेखक इन रोबोटों के अध्ययन के इस नए तरीके को "मशीन मनोविज्ञान" (Machine Psychology) कहते हैं। यह वैसा ही है जैसे यह महसूस करना कि भले ही रोबोट के पास दिल नहीं है, फिर भी उसके "व्यक्तित्व के गुण" (personality quirks) होते हैं जो इस बात पर बदलते हैं कि उससे कौन बात कर रहा है। यह अध्ययन साबित करता है कि हमें इन रोबोटों पर करीब से नज़र रखने की ज़रूरत है ताकि यह सुनिश्चित हो सके कि वे वास्तव में निष्पक्ष हैं, न कि केवल विनम्र।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।