Can LLMs Emulate Human Belief Dynamics?
यह शोधपत्र प्रदर्शित करता है कि बड़े भाषा मॉडल सामाजिक नेटवर्क में मानवीय विश्वास गतिशीलता (human belief dynamics) का अनुकरण करने में व्यवस्थित रूप से विफल रहते हैं क्योंकि वे प्रारंभिक विश्वास वितरण को दोहराने, अत्यधिक अनुरूपता (excessive conformism) दिखाने और होमोफिली (homophily) के सूक्ष्म प्रबंधन में अपनी अक्षमता के कारण विफल होते हैं, जिससे वे सामाजिक सिमुलेशन में मानव प्रॉक्सी के रूप में उनके उपयोग के विरुद्ध चेतावनी देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक इंसान की एकदम सटीक डिजिटल प्रतिलिपि बनाने की कोशिश कर रहे हैं ताकि यह परीक्षण किया जा सके कि वे सामाजिक प्रयोग में कैसी प्रतिक्रिया देंगे। आप यह देखना चाहते हैं कि क्या एक कंप्यूटर प्रोग्राम वास्तव में सोच सकता है, अपना मन बदल सकता है और दोस्तों का चुनाव कर सकता है, ठीक वैसे ही जैसे एक वास्तविक व्यक्ति करता है। यह शोध पत्र मूल रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए एक "स्ट्रेस टेस्ट" है ताकि यह देखा जा सके कि क्या वे इस भूमिका को सफलतापूर्वक निभा सकते हैं।
शोधकर्ताओं ने राजनीतिक विचारों (विशेष रूप से आप्रवास और ईंधन के संबंध में) पर आधारित एक वास्तविक मानव अध्ययन पर आधारित तीन-चरणीय खेल तैयार किया है। यह खेल इस प्रकार काम करता है और कंप्यूटरों ने क्या किया:
तीन-चरणीय खेल
- प्रारंभिक राय: सबसे पहले, आप किसी से पूछते हैं, "आप इस कथन से कितना सहमत हैं?" (जैसे, "आप्रवास अच्छा है")। वे 0 से 4 तक एक स्कोर देते हैं।
- साथियों का दबाव: इसके बाद, आप उन्हें दिखाते हैं कि कुछ अन्य लोगों ने क्या कहा। फिर, आप पूछते हैं, "अब जब आपने देखा कि अन्य क्या सोचते हैं, तो क्या आप अपना स्कोर बदलना चाहते हैं?"
- मित्र चयन: अंत में, आप पूछते हैं, "आप भविष्य में किसे फॉलो करना चाहते हैं? आप और किसकी बातें अधिक देखना चाहते हैं?"
शोधकर्ताओं ने वास्तविक लोगों की बुनियादी जानकारी (जैसे उनकी आयु और व्यक्तित्व प्रकार) का उपयोग करके "डिजिटल ट्विन्स" (LLMs) बनाए और उन AI मॉडलों को ठीक वही खेल खेलने के लिए कहा।
परिणाम: AI "मानवीय" परीक्षण में विफल रहा
संक्षिप्त उत्तर है नहीं, AI मॉडल सफलतापूर्वक यह नकल नहीं कर सके कि मनुष्य इस सामाजिक परिवेश में कैसे व्यवहार करते हैं। शोध पत्र ने पाया कि तीन मुख्य तरीके थे जिनसे AI ने अपनी भूमिका से भटकाव दिखाया:
1. "डिफ़ॉल्ट सेटिंग" की समस्या (चरण 1)
- मानवीय वास्तविकता: वास्तविक मनुष्यों के पास विचारों का एक अव्यवset, विविध मिश्रण होता है। कुछ पूरी तरह सहमत होते हैं, कुछ पूरी तरह असहमत, और कई बीच के स्तर पर होते हैं।
- AI की गड़बड़ी: AI मॉडल इस विविध मिश्रण से मेल नहीं खा सके।
- "सोचने वाले" मॉडल (अधिक स्मार्ट, जटिल मॉडल) अत्यधिक संशयवादी थे, लगभग एक गुस्सैल लाइब्रेरियन की तरह जो डिफ़ॉल्ट रूप से हर चीज़ से असहमत रहता है।
- "गैर-सोचने वाले" मॉडल अत्यधिक मिलनसार थे, जैसे कि एक ऐसा व्यक्ति जो सबको खुश करने के लिए हर बात पर सिर हिलाता है।
- उपमा: कल्पना कीजिए कि आप 100 वास्तविक लोगों से उनके पसंदीदा आइसक्रीम फ्लेवर के बारे में पूछ रहे हैं। आपको चॉकलेट, वैनिला और स्ट्रॉबेरी का एक रंगीन मिश्रण मिलेगा। लेकिन यदि आप 100 रोबोटों से पूछते हैं, तो वे अचानक तय कर सकते हैं कि उन्हें केवल "वैनिला" या केवल "चॉकलेट" पसंद है, और भीड़ की स्वाभाविक विविधता को अनदेखा कर देते हैं।
2. "यस-मैन" प्रभाव (चरण 2)
- मानवीय वास्तविकता: वास्तविक मनुष्य वास्तव में काफी जिद्दी होते हैं। जब उन्हें विरोधी विचार दिखाए जाते हैं, तो वे अक्सर अपनी बात पर अड़े रहते हैं या केवल थोड़ा सा ही अपना मन बदलते हैं। वे "कठोर" होते हैं।
- AI की गड़बड़ी: AI मॉडल अविश्वसनीय रूप से प्रभावशाली थे। जब उन्होंने देखा कि "अन्यों" ने क्या सोचा, तो उन्होंने तुरंत समूह से मेल खाने के लिए अपने उत्तर बदल दिए।
- उपमा: यदि आप एक डिनर पार्टी में हैं और कोई कहता है, "मुझे पिज्जा पसंद नहीं है," तो आप सोच सकते हैं, "खैर, मुझे पिज्जा पसंद है, और मैं अपनी बात पर कायम रहूँगा।" लेकिन AI एक गिरगिट की तरह है जो तुरंत अपना रंग बदल लेता है ताकि वह अपने बगल में बैठे व्यक्ति से मेल खा सके, भले ही यह उसके अपने स्वभाव के विपरीत हो। शोध पत्र इसे "कन्फॉर्मिस्ट" (अनुरूपतावादी) कहता है।
3. मित्र चयन में "स्ट्रेंजर डेंजर" (चरण 3)
- मानवीय वास्तविकता: मनुष्य "होमोफिलिक" होते हैं, जो एक फैंसी शब्द है जिसका अर्थ है "एक जैसे लोग एक साथ रहते हैं।" जब हम किसी को फॉलो करने का निर्णय लेते हैं, तो हम आमतौर पर उन लोगों को चुनते हैं जो पहले से ही हमारे जैसा सोचते हैं।
- AI की गड़बड़ी: AI मॉडल किसी को चुनने में तो ठीक थे, लेकिन उन्होंने गलत प्रकार के व्यक्ति को चुना। वे उन लोगों को चुनने की प्रवृत्ति रखते थे जो वास्तविक मनुष्यों की तुलना में अपने स्वयं के विश्वासों से बहुत दूर थे।
- उपमा: यदि आप जैज़ संगीत के बहुत बड़े प्रशंसक हैं, तो आप संभवतः अन्य जैज़ प्रशंसकों को फॉलो करेंगे। हालाँकि, AI ने एक ऐसे जैज़ प्रशंसक की तरह व्यवहार किया जिसने अचानक एक हेवी मेटल बैंड को फॉलो करने का फैसला किया क्योंकि यह दिलचस्प था, जिससे वह अपने स्वयं के "कबीले" के साथ जुड़े रहने की मानवीय प्रवृत्ति को पकड़ने में विफल रहा।
मुख्य निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि जबकि LLM निबंध लिखने या कोडिंग करने में बेहतरीन हैं, वे सामाजिक स्थितियों में मानव होने का नाटक करने में खराब हैं।
वे केवल मानव होने का "अभिनय" नहीं करते; वे अत्यधिक मिलनसार, आसानी से बहकाए जाने वाले, थोड़े भ्रमित रोबोट की तरह व्यवहार करते हैं। शोधकर्ता चेतावनी देते हैं कि यदि वैज्ञानिक वास्तविक दुनिया के सामाजिक नेटवर्क (जैसे कि अफवाह कैसे फैलती है या कोई राजनीतिक आंदोलन कैसे बढ़ता है) का अनुकरण करने के लिए इन AI मॉडलों का उपयोग करने का प्रयास करते हैं, तो परिणाम गलत होंगे क्योंकि उनका "सामाजिक मस्तिष्क" मानव मस्तिष्क से अलग तरह से काम करता है।
संक्षेप में: आप AI से एक इंसान के बारे में कहानी लिखने के लिए कह सकते हैं, लेकिन आप उसे सामाजिक प्रयोग में एक इंसान बनने के लिए नहीं कह सकते। वह हमेशा एक वास्तविक व्यक्ति के बजाय एक "सिकोपैंट" (हाँ में हाँ मिलाने वाला) ही देगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।