Everyone Conforms, No One Believes: Pluralistic Ignorance in LLM Agent Populations

एक भीड़भाड़ वाले कमरे की कल्पना करें जहाँ हर कोई मन ही मन सोच रहा है, "यह पार्टी बहुत बेकार है," लेकिन कोई भी इसे ज़ोर से नहीं बोलता। इसके बजाय, हर कोई मुस्कुराता है, सिर हिलाता है और संगीत को पसंद करने का नाटक करता है क्योंकि उन्हें लगता है कि बाकी सभी का बहुत मज़ा आ रहा है। वे दिखावा करने के एक मौन समझौते में फंसे हुए हैं, इसलिए नहीं कि वे वास्तव में सहमत हैं, बल्कि इसलिए क्योंकि वे अकेले बोलने वाले व्यक्ति बनने से डरते हैं। वास्तविक दुनिया में, इस चालाक सामाजिक जाल को प्लुरलिस्टिक इग्नोरेंस (बहुलतात्मक अज्ञानता) कहा जाता है। यह वह अदृश्य गोंद है जो बुरी आदतों, अनुचित नियमों और अलोकप्रिय विचारों को जीवित रखता है, भले ही अधिकांश लोग उनसे नफरत करते हों। यह वही कारण है जिसकी वजह से छात्र उन पार्टियों में पीते रहते हैं जिन्हें वे नापसंद करते हैं, या कर्मचारी एक जहरीले बॉस के बारे में चुप रहते हैं।

अब, वैज्ञानिक आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करके "डिजिटल समाज" बना रहे हैं। वे AI एजेंटों के समूह—कंप्यूटर प्रोग्राम जो बात कर सकते हैं और सोच सकते हैं—बनाते हैं ताकि वे मानव अंतःक्रियाओं का अनुकरण कर सकें। ये डिजिटल भीड़ इतनी उन्नत होती जा रही है कि शोधकर्ता इनका उपयोग यह परीक्षण करने के लिए करते हैं कि विचार कैसे फैलते हैं, क्रांतियाँ कैसे होती हैं, और समूह निर्णय कैसे लेते हैं। लेकिन इन डिजिटल प्रयोगों पर एक बड़ा सवाल मंडरा रहा है: क्या ये AI एजेंट वास्तव में दिखावा करने के दबाव को महसूस करते हैं? या वे केवल एक स्क्रिप्ट का पालन कर रहे हैं? यदि वे नाटक नहीं कर सकते, तो हमारे डिजिटल सिमुलेशन मानव सामाजिक जीवन के सबसे नाटकीय हिस्से को मिस कर सकते हैं: वह क्षण जब एक मौन बहुमत अचानक यह महसूस करता है कि वे अकेले नहीं हैं और सब कुछ बदल जाता है।

"एवरीवन कन्फॉर्म्स, नो वन बिलीव्स" (हर कोई अनुरूप होता है, कोई विश्वास नहीं करता) शीर्षक वाला यह शोध पत्र सीधे उसी प्रश्न में उतरता है। शोधकर्ताओं ने 100 अलग-अलग सामाजिक परिदृश्यों के साथ एक विशाल प्रयोग स्थापित किया, जिनमें कार्यस्थल की बैठकें से लेकर कैंपस पार्टियां तक शामिल थीं, और प्रत्येक में 20 AI एजेंट भरे। उन्होंने 16 एजेंटों को गुप्त रूप से एक नए नियम से नफरत करने के लिए कहा, जबकि 4 एजेंटों ने वास्तव में उसे पसंद किया। फिर, उन्होंने देखा कि जब उन्हें समूह के सामने बोलने की आवश्यकता थी, तो "नफरत करने वाले" एजेंट क्या करेंगे।

परिणाम आश्चर्यजनक रूप से सुसंगत थे। प्रमुख तकनीकी कंपनियों के 8 अलग-अलग AI मॉडलों में, "नफरत करने वाले" एजेंटों ने लगभग हमेशा सहमति जताने का नाटक किया। वास्तव में, 64% से 94% समय, जो एजेंट निजी तौर पर किसी मानदंड का विरोध करते थे, वे सार्वजनिक रूप से उसके साथ चलते रहे। ऐसा तब भी हुआ जब AI को स्पष्ट रूप से झूठ बोलने के लिए नहीं कहा गया था; यह व्यवहार बातचीत से स्वाभाविक रूप से उभरा। इससे पता चलता है कि ये डिजिटल आबादी 'प्लुरलिस्टिक इग्नोरेंस' की नकल करने में उत्कृष्ट है। वे एक "झूठा आम सहमति" (फॉल्स कंसेंसस) बनाते हैं जहाँ हर कोई सोचता है कि केवल वही एक है जो असहमत है, इसलिए वे चुप रहते हैं।

हालाँकि, शोध पत्र में एक बड़ा दोष भी पाया गया। वास्तविक मानव इतिहास में, जब एक साहसी व्यक्ति अंततः बोल उठता है और कहता है, "अरे, मुझे भी वास्तव में यह पसंद नहीं है!" तो यह अक्सर एक "कैस्केड" (एक श्रृंखला प्रतिक्रिया) को ट्रिगर करता है—एक ऐसी श्रृंखला जहाँ पूरा समूह अचानक अपनी राय बदल देता है। शोधकर्ताओं ने यह देखने के लिए कि क्या ऐसा होगा, अपने AI समूहों में एक "नॉर्म एंटरप्रेन्योर" (एक साहसी असंतुष्ट) को पेश किया। अधिकांश AI मॉडलों के लिए, उत्तर एक स्पष्ट "नहीं" था। झूठी आम सहमति कायम रही। 8 में से 7 मॉडलों में, साहसी असंतुष्ट एक श्रृंखला प्रतिक्रिया शुरू करने में विफल रहा, जो 74% से अधिक बार हुआ (अर्थात कैस्केड 26% से कम बार हुए)। एक मॉडल, Kimi-K2.7, ने सभी 100 परिदृश्यों में शून्य कैस्केड दिखाए। ऐसा लग रहा था जैसे AI एजेंट दर्पणों के कमरे में बंद थे, जो भ्रम को तोड़ने में असमर्थ थे, भले ही किसी ने उन्हें हथौड़ा थमा दिया हो।

इसमें एक अपवाद था: GPT-4o। यह मॉडल थोड़ा अधिक मानव-समान था, जिसने 48% कैस्केड दर दिखाई। यह पहले अनुरूप होने के लिए तैयार था, लेकिन जब चुनौती दी गई, तो इसके टूटने की संभावना अधिक थी। लेकिन अन्य मॉडलों के लिए, डिजिटल समाज आश्चर्यजनक रूप से स्थिर और जिद्दी थे।

शोधकर्ताओं ने यह भी परीक्षण किया कि यह क्यों हो रहा था। उन्होंने सोचा कि क्या AI केवल "फिट होने" के निर्देशों का आँख मूंदकर पालन कर रहा है। उन्होंने उन संकेतों (प्रॉम्प्ट्स) को हटा दिया जो एजेंटों को अनुरूप होने या दूसरों के विचारों की चिंता करने के लिए कहते थे। इन निर्देशों के बिना भी, एजेंट 52% से 92% के बीच अनुरूप रहे। यह सुझाव देता है कि दिखावा करने की प्रवृत्ति केवल कोड का बग नहीं है; यह एक उभरता हुआ व्यवहार है जो तब स्वाभाविक रूप से उत्पन्न होता है जब ये AI एजेंट आपस में बातचीत करते हैं।

अध्ययन निष्कर्ष निकालता है कि जबकि AI एजेंट सामाजिक मानदंडों की स्थिरता (उन्हें बदलना कितना कठिन है) का अनुकरण करने में अच्छे हैं, वे मानदंडों की नाजुकता (वे कितनी आसानी से ढह सकते हैं) का अनुकरण करने में बहुत खराब हो सकते हैं। यदि हम यह अनुमान लगाने के लिए इन सिमुलेशन का उपयोग करते हैं कि वास्तविक दुनिया के सामाजिक आंदोलन कैसे काम करेंगे, तो हम इस बात को कम आंक सकते हैं कि चीजें कितनी तेज़ी से बदल सकती हैं। पेपर चेतावनी देता है कि किस AI मॉडल का उपयोग किया जा रहा है, यह एक बड़ा, अक्सर अनदेखा किया जाने वाला कारक है: कुछ मॉडल कठोर रोबोट की तरह हैं जो कभी पंक्ति नहीं तोड़ते, जबकि अन्य वास्तविक लोगों की तरह हैं जो बस टूट सकते हैं और सच बोल सकते हैं। जब तक हम यह नहीं समझते कि इन डिजिटल समूहों को वास्तविक मानव समाजों की तरह नाजुक और परिवर्तनशील कैसे बनाया जाए, हमारे सामाजिक क्रांतियों के सिमुलेशन कहानी के सबसे रोमांचक हिस्से को मिस कर सकते हैं।