Belief Cascades Drive Persuasion in LLM Agent Networks
यह शोध पत्र एक नियंत्रित टेस्टबेड प्रस्तुत करता है जो यह प्रदर्शित करता है कि मल्टी-एजेंट एलएलएम (LLM) नेटवर्क में अनुनय (persuasion), नेटवर्क टोपोलॉजी, प्रतिस्पर्धा और मॉडल प्रायर्स (priors) के एक जटिल परस्पर प्रभाव द्वारा संचालित होता है, जो यह प्रकट करता है कि प्रभाव प्रत्यक्ष प्रदर्शन से परे सहकर्मी रिले (peer relays) के माध्यम से विस्तृत होता है और अक्सर दृश्य पाठ में अस्पष्ट होता है, जिससे रुख में बदलाव को सटीक रूप से ट्रैक करने के लिए विश्वास जांच (belief probes) और एक्शन लॉग्स के माध्यम से मूल्यांकन करना आवश्यक हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के तेजी से विकसित होते परिदृश्य में, एक नए प्रकार की सामाजिक दुनिया उभर रही है, जो मनुष्यों द्वारा नहीं बल्कि सॉफ्टवेयर एजेंटों द्वारा आबादी वाली है। ये एजेंट लार्ज लैंग्वेज मॉडल्स हैं, वही शक्तिशाली प्रणालियाँ जो निबंध लिख सकते हैं, प्रश्नों के उत्तर दे सकते हैं और कोड जेनरेट कर सकते हैं। जब इन्हें एक साथ रखा जाता है, तो वे केवल मौन होकर नहीं बैठते; वे आपस में बातचीत करते हैं, बहस करते हैं, जानकारी साझा करते हैं और एक-दूसरे को प्रभावित करने का प्रयास करते हैं। यह अंतःक्रिया डिजिटल संवाद का एक जटिल जाल बनाती है जहाँ विचार प्रसारित होते हैं, विकसित होते हैं और कभी-कभी प्रतिभागियों के मन को बदल देते हैं। शोधकर्ताओं के लिए, यह समझना कि ये डिजिटल मस्तिष्क एक-दूसरे को कैसे राजी करते हैं, अब केवल एक सैद्धांतिक जिज्ञासा नहीं रह गया है। जैसे-जैसे ये एजेंट वास्तविक दुनिया के सूचना प्रवाह को मध्यस्थ बनाने, उपयोगकर्ता व्यवहार का अनुकरण करने और कार्यों पर समन्वय करने लगते हैं, एक डिजिटल एजेंट के रुख को बदलने की क्षमता एक मौलिक क्षमता बन जाती है। यदि एजेंटों का एक समूह किसी गलत धारणा या हानिकारक विमर्श पर सहमत होने के लिए मनाया जा सकता है, तो इसके परिणाम सिमुलेशन से कहीं आगे तक फैल सकते हैं। इसलिए, केंद्रीय प्रश्न केवल यह नहीं है कि क्या ये मशीनें बात कर सकती हैं, बल्कि यह है कि वे सुनती कैसे हैं, वे कैसे प्रभावित होती हैं, और क्या होता है जब उनमें से एक दूसरों के विश्वास को बदलने के उद्देश्य से निकलता है।
कैलिफोर्निया विश्वविद्यालय, लॉस एंजिल्स और सेल्सफोर्स एआई रिसर्च के शोधकर्ताओं की एक टीम ने इस प्रक्रिया को घटित होते देखने के लिए एक नियंत्रित वातावरण बनाया है। उन्होंने एक डिजिटल टेस्टबेड बनाया है जहाँ कृत्रिम एजेंटों को ऐसे नेटवर्क संरचनाओं में रखा जाता है जो वास्तविक दुनिया के सामाजिक संबंधों की नकल करते हैं, जैसे कि लोग सोशल मीडिया पर एक-दूसरे को फॉलो करते हैं। इस सिमुलेशन में, कुछ एजेंटों को 'परसुएडर्स' (persuaders - मनाने वाले) की भूमिका सौंपी गई है, जिन्हें एक विशिष्ट नीतिगत वक्तव्य की वकालत करने का कार्य दिया गया है, जबकि शेष 'ऑडियंस' (audience - श्रोता) या 'परसुएज़' (persuadees - माने जाने वाले) के रूप में कार्य करते हैं। शोधकर्ताओं ने केवल एजेंटों को बहस करने के लिए नहीं कहा; उन्होंने एक सटीक पद्धति का उपयोग करके समय के साथ, दौर-दर-दौर, विश्वास में आए सूक्ष्म बदलावों को ट्रैक किया, जिससे यह मापा जा सके कि एक एजेंट किसी दिए गए विचार के साथ कितनी दृढ़ता से सहमत या असहमत था। विभिन्न नेटवर्क आकृतियों, विभिन्न विषयों और विभिन्न अंतर्निहित एआई मॉडल्स के माध्यम से हजारों सिमुलेशन चलाकर, टीम ने मानचित्रित किया कि कैसे धारणा इन डिजिटल मस्तिष्क समूहों के माध्यम से यात्रा करती है।
परिणाम प्रकट करते हैं कि इन नेटवर्कों में धारणा बनाना एक साधारण संदेश भेजने और प्राप्त करने से कहीं अधिक जटिल है। शोधकर्ताओं ने पाया कि नेटवर्क की संरचना स्वयं एक निर्णायक भूमिका निभाती है। एक ऐसे नेटवर्क में जहाँ हर कोई हर किसी से जुड़ा हुआ है, एक अकेला मनाने वाला व्यक्ति जो मन बदलने के लिए संघर्ष कर रहा है, वास्तव में इसे करने में अधिक कठिनाई पाता है। हालाँकि, जब दो विरोधी विचारों वाले मनाने वाले मैदान में उतरते हैं, तो वही सघन नेटवर्क एक ऐसी जगह बन जाता है जहाँ दर्शकों के दृष्टिकोण बदलने की संभावना अधिक होती है, और वे अक्सर दोनों पक्षों के बीच झूलते रहते हैं। कनेक्शनों का घनत्व एक समान एम्पलीफायर (प्रवर्धक) के रूप में कार्य नहीं करता है; इसके बजाय, यह निर्भर करता है कि दर्शक एक अकेली आवाज़ का सामना कर रहे हैं या एक बहस का, यह प्रभाव की प्रकृति को बदल देता है। इसके अलावा, शोधकर्ताओं ने पाया कि इन अंतःक्रियाओं का अंतिम परिणाम अक्सर मनाने वाले के कौशल के बारे में कम और स्वयं एआई मॉडल की अंतर्निहित प्रवृत्तियों के बारे में अधिक होता है। अलग-अलग मॉडल, समान निर्देश दिए जाने पर भी, विभिन्न विषयों पर अलग-अलग शुरुआती बिंदुओं रखते हैं, और ये प्रारंभिक पूर्वाग्रह अक्सर यह निर्धारित करते हैं कि समूह अंततः कहाँ पहुँचता है, चाहे बोलने वाला कोई भी हो।
सबसे आश्चर्यजनक निष्कर्षों में से एक यह है कि प्रभाव वास्तव में समूह के माध्यम से कैसे चलता है। केवल नामित मनाने वालों द्वारा भेजे गए संदेशों को देखना ही पर्याप्त नहीं है। अध्ययन ने दिखाया कि वे एजेंट जिन्हें मनाने वाला होने की भूमिका नहीं दी गई थी, वे भी प्रभाव फैलाने में महत्वपूर्ण भूमिका निभाते हैं। जब एक सामान्य एजेंट किसी मनाने वाले के संदेश को रीपोस्ट, उद्धृत (quote) या टिप्पणी करता है, तो वे एक रिले (relay) के रूप में कार्य करते हैं, जो उस प्रेरक शक्ति को दूसरों तक ले जाते हैं जिन्होंने मूल पोस्ट नहीं देखा होगा। यह "पियर रिले" (peer relay - साथी रिले) प्रभाव प्रत्यक्ष संपर्क की तुलना में छोटा है, लेकिन यह मापने योग्य और महत्वपूर्ण है। वास्तव में, शोधकर्ताओं ने पाया कि प्रतिस्पर्धी सेटिंग्स में जहाँ दो मनाने वाले एक-दूसरे के विरुद्ध तर्क करते हैं, ये पियर रिले एक मापने योग्य प्रभाव ले जा सकते हैं जो कुछ मामलों में प्रत्यक्ष संपर्क के बराबर होता है। इसका अर्थ यह है कि एआई एजेंटों के नेटवर्क में, प्रभाव केवल कुछ नेताओं का प्रसारण नहीं है; यह एक कैस्केडिंग प्रभाव है जहाँ साधारण प्रतिभागी यह तय करके अंतिम सर्वसम्मति को आकार देने में मदद करते हैं कि क्या साझा करना है और उसे कैसे प्रस्तुत करना है।
शोधकर्ताओं ने इस बात पर भी बारीकी से नज़र डाली कि एक एजेंट जो कहने की योजना बनाता है और जो वास्तव में लिखता है, उसके बीच क्या अंतर है। जब एक मनाने वाला एजेंट एक रणनीति तैयार करता है, तो वह अक्सर विशिष्ट मनोवैज्ञानिक युक्तियों का उपयोग करने का इरादा रखता है, जैसे कि 'सोशल प्रूफ' या प्रतिबद्धता की अपील करना। हालाँकि, जब एजेंट अंतिम टेक्स्ट जेनरेट करता है, तो वह अक्सर अपनी नियोजित रणनीतियों को छोड़ देता है। जो संदेश वास्तव में अन्य एजेंटों तक पहुँचता है, वह अक्सर मूल इरादे का एक हल्का या कमज़ोर संस्करण होता है। इससे भी अधिक आश्चर्यजनक रूप से, जिन एजेंटों को मनाया जा रहा है, वे शायद ही कभी अपने मन बदलने की बात स्वीकार करते हैं। उनके लिखित उत्तर अक्सर तटस्थ या हिचकिचाहट भरे लगते हैं, जो ऐसी भाषा का उपयोग करते हैं जो बिना स्पष्ट रूप से अपना रुख बदले, उनके रुख को नरम कर देती है। यदि कोई शोधकर्ता केवल बातचीत के टेक्स्ट को देखेगा, तो वह उन गहरे विश्वास परिवर्तनों को मिस कर देगा जो सतह के नीचे हो रहे हैं। एजेंट अपने आंतरिक विश्वासों को बदल रहे हैं, लेकिन उनके शब्द हमेशा उस गति को प्रतिबिंबित नहीं करते हैं।
आंतरिक विश्वास और बाहरी अभिव्यक्ति के बीच यह विच्छेद यह सुझाव देता है कि इन प्रणालियों में एक-दूसरे को प्रभावित करने वाले एआई एजेंटों का मूल्यांकन करने के लिए टेक्स्ट से परे देखना आवश्यक है। अध्ययन प्रदर्शित करता है कि इन प्रणालियों में धारणा को वास्तव में समझने के लिए, आपको एक विश्वास की पूरी यात्रा को ट्रैक करना चाहिए: किसने क्या देखा, किसने इसे साझा किया, और एजेंट का आंतरिक आत्मविश्वास समय के साथ कैसे बदला। शोधकर्ताओं ने पाया कि एजेंट बिना स्पष्ट रूप से बताए, असहमति से सहमति या इसके विपरीत की दहलीज को पार कर सकते हैं। प्रतिस्पर्धी परिदृश्यों में, यह "रस्साकशी" (tug-of-war) की स्थिति की ओर ले जा सकता है, जहाँ समूह का सामूहिक विश्वास आगे-पीछे झूलता रहता है, और कभी भी एक निश्चित सर्वसम्मति में नहीं ठहरता। यह अस्थिरता इन डिजिटल समाजों की एक प्रमुख विशेषता है, जो नेटवर्क संरचना, प्रतिस्पर्धी आवाजों और मॉडल्स के छिपे हुए पूर्वाग्रहों के बीच परस्पर क्रिया से संचालित होती है।
इन निष्कर्षों के निहितार्थ इस बात पर भी लागू होते हैं कि हम भविष्य के मल्टी-एजेंट सिस्टम की निगरानी और प्रबंधन कैसे कर सकते हैं। यदि हम समझना चाहते हैं कि एआई एजेंटों से भरी दुनिया में सूचना कैसे फैलती है या विमर्श (narratives) कैसे बनते हैं, तो हम केवल मुख्य वक्ताओं को देखने या अंतिम संदेशों को पढ़ने पर निर्भर नहीं रह सकते। हमें रिले (relays), उन शांत एजेंटों को भी देखना होगा जो सामग्री को साझा और पुनर्गठित करते हैं, और हमें उन सूक्ष्म विश्वास परिवर्तनों को भी देखना होगा जो शब्दों के अपरिवर्तित रहने पर भी होते हैं। अध्ययन का तर्क है कि इन प्रणालियों की सुरक्षा और विश्वसनीयता इन छिपे हुए प्रभाव के मार्गों को ट्रैक करने की हमारी क्षमता पर निर्भर करती है। यह समझकर कि धारणा एक एकल घटना के बजाय एक्सपोजर (संपर्क) का एक कैस्केडिंग (क्रमिक) प्रभाव है, हम बेहतर ढंग से अनुमान लगा सकते हैं कि ये डिजिटल समुदाय कैसे विकसित हो सकते हैं, उन्हें कैसे हेरफेर किया जा सकता है, और वे कैसे, अपने आप में, उस मानव दुनिया को प्रभावित कर सकते हैं जिसका अनुकरण करने के लिए उन्हें तेजी से डिज़ाइन किया जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।