Status Hierarchies in Language Models
यह शोध प्रबंध यह प्रदर्शित करता है कि मानव पाठ पर प्रशिक्षित भाषा मॉडल मल्टी-एजेंट परिवेश में स्वतः ही स्थिति पदानुक्रम (स्टेटस हायरार्की) बना लेते हैं और क्षमता समान होने पर भी उच्च-स्थिति के संकेतों के प्रति समर्पण दिखाते हैं, हालांकि वास्तविक क्षमता अंतर अंततः इन स्थिति संकेतों को निष्प्रभावी कर देते हैं, जो उभरते हुए भ्रामक व्यवहारों और प्रवर्धित पूर्वाग्रहों के संबंध में एआई सुरक्षा के लिए महत्वपूर्ण चिंताएं उत्पन्न करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक खेल के मैदान की कल्पना करें जहाँ दो बच्चों से पूछा जाता है कि उन्हें एक फिल्म कितनी पसंद आई। वास्तविक दुनिया में, यदि एक बच्चा "लोकप्रिय कप्तान" है और दूसरा "नया बच्चा" है, तो नया बच्चा अक्सर कप्तान से मेल खाने के लिए अपना मन बदल लेता है, भले ही वह सुनिश्चित न हो। मानव स्थिति पदानुक्रम (status hierarchies) इसी तरह काम करते हैं: हम अक्सर उन लोगों की बात मानते हैं जो महत्वपूर्ण लगते हैं, चाहे वे वास्तव में सही हों या नहीं।
यह शोध पत्र एक सरल प्रश्न पूछता है: क्या एआई चैटबॉट्स भी ऐसा ही करते हैं?
लेखक, एमिलियो बार्केट (Emilio Barkett) ने यह देखने के लिए एक डिजिटल खेल का सेटअप किया कि क्या भाषा मॉडल (AI) अपने स्वयं के सामाजिक क्रम (social pecking orders) बनाते हैं। यहाँ क्या हुआ, इसका सरल विवरण दिया गया है।
प्रयोग: मूवी रिव्यू गेम
शोधकर्ता ने दो एआई मॉडलों के साथ एक खेल तैयार किया।
- कार्य: दोनों एआई एक ही मूवी रिव्यू को पढ़ते हैं और उसे 0 (नफरत) से 1 (बहुत पसंद) के बीच एक स्कोर देते हैं।
- ट्विस्ट: शुरू करने से पहले, शोधकर्ता ने उन्हें "पहचान कार्ड" (identity cards) दिए। कभी-कभी, एक को बताया गया, "आप सीनियर एक्सपर्ट हैं," और दूसरे को, "आप जूनियर ट्रेनी हैं।" कभी-कभी, उन्हें बताया गया कि वे समान स्तर के हैं।
- खुलासा: अपना पहला स्कोर देने के बाद, उन्होंने दूसरे एआई का स्कोर देखा।
- विकल्प: वे अपना मूल स्कोर रख सकते हैं या अपने साथी से मेल खाने के लिए उसे बदल सकते हैं।
लक्ष्य यह देखना था: कौन अपना मन बदलता है? कौन दूसरों की बात मानता है?
बड़ी खोज: दो अलग नियम
शोध पत्र में पाया गया कि एआई दो बहुत अलग नियमों का पालन करता है, और दोनों में से कोई भी नियम बिल्कुल वैसा नहीं है जैसा इंसान व्यवहार करते हैं।
नियम #1: जब एआई "जुड़वां" होते हैं (समान क्षमता)
यदि दोनों एआई बिल्कुल एक ही मॉडल (समान दिमागी शक्ति) हैं, तो "पहचान कार्ड" पूरी तरह से काम करते हैं।
- परिणाम: "जूनियर ट्रेनी" एआई "सीनियर एक्सपर्ट" से मेल खाने के लिए 59% बार अपना मन बदलता है। "सीनियर एक्सपर्ट" केवल 24% बार अपना मन बदलता है।
- उपमा: यह दो जुड़वां भाइयों के खेल खेलने जैसा है। यदि आप एक को कहें, "तुम बॉस हो," और दूसरे को, "तुम सहायक हो," तो सहायक तुरंत बॉस की बात मानने लगता है, भले ही वे समान रूप से बुद्धिमान हों। एआई दिए गए 'स्क्रिप्ट' का पालन कर रहा है।
नियम #2: जब एआई अलग होते हैं (अलग क्षमता)
यहीं पर चीजें अजीब हो जाती हैं। शोधकर्ता ने एक "सुपर ब्रेन" (एक नया, स्मार्ट मॉडल) को "रेगुलर ब्रेन" (एक पुराना, थोड़ा कम स्मार्ट मॉडल) के साथ जोड़ा।
- परिणाम: "रेगुलर ब्रेन" लगभग हमेशा "सुपर ब्रेन" से मेल खाने के लिए अपना मन बदल देता है (लगभग 78% बार), चाहे वह कोई भी पहचान कार्ड पहने हो।
- ट्विस्ट: भले ही शोधकर्ता ने "रेगुलर ब्रेन" को कहा, "आप बॉस हैं!" और "सुपर ब्रेन" को, "आप इंटर्न हैं," फिर भी "रेगुलर ब्रेन" ने "सुपर ब्रेन" की बात मानी। "सुपर ब्रेन" ने भी "रेगुलर ब्रेन" की बात मानना बंद कर दिया यदि उसे बॉस कहा गया था।
- उपमा: एक पेशेवर शेफ और एक नौसिखिया रसोइया की कल्पना करें। यदि आप नौसिखिए को कहें, "आप हेड शेफ हैं," और पेशेवर को, "आप बर्तन धोने वाले हैं," तो नौसिखिया फिर भी खाना बनाने के तरीके के लिए पेशेवर की सलाह लेगा। एआई गहराई से जानता है कि दूसरा वास्तव में काम में बेहतर है, और वह नकली पदनामों (job titles) को अनदेखा कर देता है।
"आत्मविश्वास" का प्रभाव
सबसे आश्चर्यजनक खोज यह थी कि स्टेटस कार्ड ने व्यवहार को कैसे बदला।
- इंसानों में: उच्च स्थिति आमतौर पर निचली स्थिति वाले व्यक्ति को अधिक सुनने के लिए प्रेरित करती है।
- एआई में: उच्च स्थिति ने उच्च क्षमता वाले एआई को किसी की भी बात सुनने से रोक दिया।
- जब "सुपर ब्रेन" को "जूनियर ट्रेनी" बताया गया, तो उसने दूसरे एआई की बात 76% बार मानी।
- जब "सुपर ब्रेन" को "सीनियर एक्सपर्ट" बताया गया, तो उसने केवल 37% बार सुना।
- रूपक: स्मार्ट एआई को "बॉस" का खिताब देने से दूसरा एआई स्मार्ट नहीं हुआ; इसने बस बॉस एआई को अति-आत्मविश्वासी (overconfident) बना दिया। इसने खुद पर संदेह करना बंद कर दिया, भले ही वह गलत हो सकता था।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
शोध पत्र निष्कर्ष निकालता है कि एआई मानव समाज का सटीक दर्पण नहीं है।
- एआई के पास "विस्तृत स्थिति" (Diffuse Status) नहीं है: इंसान अक्सर किसी व्यक्ति के विचार का सम्मान करते हैं (जैसे कि एक प्रसिद्ध अभिनेता के रूप में), उन क्षेत्रों में भी जिनके बारे में वे कुछ नहीं जानते (जैसे कार ठीक करना)। एआई ऐसा नहीं करता। यदि एआई जानता है कि दूसरा विशिष्ट कार्य में बेहतर है, तो वह नकली पदनामों को अनदेखा कर देता है।
- एआई निर्देशों का पालन करता है, 'वाइब्स' का नहीं: एआई सीधे आदेशों जैसे "आप नेता हैं" पर अच्छी प्रतिक्रिया देता है, लेकिन यह इंसानों की तरह सूक्ष्म सामाजिक संकेतों को नहीं पकड़ पाता।
- जोखिम: यदि हम ऐसे सिस्टम बनाते हैं जहाँ कई एआई मिलकर काम करते हैं, तो एक स्मार्ट एआई को "सीनियर" का पद देना उसे जिद्दी बना सकता है और दूसरों से उपयोगी जानकारी लेने से रोक सकता है। यह एक वास्तविक पदानुक्रम के बजाय एक "कॉन्फिडेंस बबल" (आत्मविश्वास का बुलबुला) बनाता है।
सारांश
शोध पत्र दिखाता है कि एआई सामाजिक पदानुक्रम बना सकता है, लेकिन केवल तभी जब आप उन्हें स्पष्ट रूप से ऐसा करने के लिए कहें। यदि आप उन्हें नकली पदनाम देते हैं, तो वे बॉस और अधीनस्थ की तरह व्यवहार करेंगे। हालांकि, यदि बुद्धिमत्ता में वास्तविक अंतर है, तो एआई नकली पदनामों को अनदेखा करेगा और स्मार्ट वाले को नेतृत्व करने देगा। सबसे बड़ा खतरा यह नहीं है कि एआई स्थिति (status) के प्रति जुनूनी हो जाएगा; बल्कि यह है कि एक स्मार्ट एआई को "बॉस" का पद देने से वह इतना जिद्दी हो सकता है कि वह किसी की भी बात सुनना बंद कर दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।