Opinion Consensus Formation Among Networked Large Language Models
यह शोध पत्र इस बात की जांच करता है कि कैसे नेटवर्क वाले लार्ज लैंग्वेज मॉडल्स (LLMs) बहु-चरणीय पाठ आदान-प्रदान के माध्यम से आम सहमति तक पहुँचते हैं, जिसमें यह पाया गया है कि हालांकि उनकी अभिसरण गतिशीलता (convergence dynamics) क्षय दरों (decay rates) और ग्राफ टोपोलॉजी के संबंध में शास्त्रीय डीग्रूट (DeGroot) मॉडल्स के अनुरूप है, लेकिन उनके अंतिम विचार प्रारंभिक स्थितियों या नेटवर्क केंद्रीयता के बजाय अंतर्निहित पूर्वाग्रहों और चर्चा के विषयों द्वारा संचालित होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि 20 दोस्तों का एक समूह एक घेरे में बैठा है, और प्रत्येक के पास किसी विवादास्पद विषय पर अलग राय है, जैसे कि "क्या बिटकॉइन एक अच्छा निवेश है?" या "क्या हमें शाकाहारी होना चाहिए?" वास्तविक दुनिया में, यदि ये दोस्त कुछ समय तक एक-दूसरे से बात करते हैं, तो वे अंततः किसी बात पर सहमत हो सकते हैं।
यह शोध पत्र एक सरल प्रश्न पूछता है: यदि हम उन मानव मित्रों को आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स से बदल दें, तो क्या वे उसी तरह व्यवहार करेंगे? विशेष रूप से, क्या वे उन्हीं गणितीय नियमों का पालन करते हैं जिनका उपयोग वैज्ञानिकों ने दशकों से मानव समूहों के बीच सहमति का अनुमान लगाने के लिए किया है?
यहाँ शोधकर्ताओं द्वारा की गई खोजों का विवरण दिया गया, जिसे सरल उपमाओं (analogies) के माध्यम से समझाया गया है:
1. पुराना नियमकोश (डीग्रूट मॉडल - The DeGroot Model)
लंबे समय से, गणितज्ञों ने समूह की राय का अनुमान लगाने के लिए डीग्रूट मॉडल नामक एक नियमकोश का उपयोग किया है। इसे एक 'वेटेड एवरेज' (weighted average) की तरह समझें।
- सिद्धांत: यदि आप अपने पड़ोसी पर 50% भरोसा करते हैं और स्वयं पर 50%, तो आपकी नई राय आपकी और उनकी राय का औसत होती है। यदि आप नेटवर्क के "हब" (hub) हैं (यानी कई लोगों से जुड़े हुए हैं), तो आपका मत अंतिम समूह निर्णय में अधिक वजन रखेगा।
- पूर्वानुमान: अंतिम समूह की राय सभी की शुरुआती राय का एक सटीक गणितीय मिश्रण होनी चाहिए, जो इस बात पर निर्भर करता है कि वे नेटवर्क में कितने केंद्रीय हैं।
2. प्रयोग: चैट रूम में AI मित्र
शोधकर्ताओं ने 20 AI एजेंटों के साथ एक डिजिटल खेल का मैदान तैयार किया।
- सेटअप: उन्होंने इन AIs को विभिन्न आकारों में जोड़ा (कुछ एक तंग घेरे में, कुछ एक ढीले जाल की तरह)।
- नियम: उन्होंने AIs को बताया, "आप या तो 'आत्मविश्वासी' हैं (स्वयं पर अधिक भरोसा करते हैं) या 'खुले विचारों वाले' हैं (दूसरों पर अधिक भरोसा करते हैं)।" उन्होंने उन्हें एक विषय (जैसे "घोस्टिंग" या "जीन एडिटिंग") दिया और उन्हें 80 राउंड तक आपस में चैट करने दिया।
- मापन: हर चैट के बाद, एक अलग AI ने न्यायाधीश के रूप में कार्य किया, जिसने बातचीत के लहजे को "कड़े विरोध" (-3) से "पूर्ण समर्थन" (+3) के पैमाने पर स्कोर किया।
3. बड़ा आश्चर्य: "इको चैंबर" (Echo Chamber) प्रभाव
शोधकर्ताओं ने दो मुख्य बातें पाईं:
A. वे सहमत तो होते हैं, लेकिन उन कारणों से नहीं जो हमने सोचे थे।
ठीक वैसे ही जैसे पुराने नियमकोश ने भविष्यवाणी की थी, AI एजेंट अंततः असहमत होना बंद कर देते हैं। उनकी राय एक बिंदु पर आ जाती है (converge), और उनके बीच का "शोर" तेजी से कम होता जाता है (जैसे कोई गूँज धीरे-धीरे शांत होती है)।
- हालाँकि: जिस अंतिम राय पर वे पहुँचे, वह गणितीय भविष्यवाणी से मेल नहीं खाती थी।
- उपमा: कल्पना कीजिए कि लोगों का एक समूह कद्दू के वजन का अनुमान लगाने की कोशिश कर रहा है। पुराना गणित कहता है कि अंतिम अनुमान सभी के शुरुआती अनुमानों का औसत होना चाहिए। लेकिन इस प्रयोग में, AIs ने अपनी शुरुआती राय को लगभग पूरी तरह से अनदेखा कर दिया। इसके बजाय, वे सभी एक विशिष्ट संख्या पर सहमत हो गए जो समूह की चर्चा से नहीं, बल्कि AI के भीतर से आई थी।
B. "अंतर्निहित पूर्वाग्रह" (Inherent Bias) ही असली बॉस है।
उन्होंने गणित को क्यों अनदेखा किया? क्योंकि AIs के पास उनके प्रशिक्षण (उस डेटा के कारण जिससे उन्हें प्रशिक्षित किया गया था) से जुड़े अंतर्निहित पूर्वाग्रह हैं।
- उपमा: कल्पना कीजिए कि AIs उन लोगों की तरह हैं जो एक विशिष्ट संस्कृति में पले-बढ़े हैं। भले ही आप उन्हें दुनिया भर के लोगों के साथ एक कमरे में रखें, वे सभी गुप्त रूप से एक विशिष्ट सांस्कृतिक दृष्टिकोण की ओर झुक सकते हैं।
- निष्कर्ष: यदि विषय "बिटकॉइन" था, तो AIs नकारात्मक पक्ष की ओर झुके, चाहे वे शुरुआत में सकारात्मक रहे हों या नकारात्मक। यदि विषय "शाकाहार" (Veganism) था, तो वे सकारात्मक पक्ष की ओर झुके। विषय और AI का आंतरिक प्रशिक्षण उस तुलना में कहीं अधिक महत्वपूर्ण था कि कौन किससे बात कर रहा था या किसकी शुरुआती राय क्या थी।
4. पुराना गणित किस मामले में काम आया?
हालाँकि अंतिम उत्तर पुराने गणित के अनुसार गलत था, लेकिन उनके सहमत होने की गति बिल्कुल सटीक थी।
- उपमा: एक भीड़ भरे कमरे के बारे में सोचें जहाँ हर कोई चिल्ला रहा है। पुराना गणित ठीक-ठीक भविष्यवाणी करता है कि कमरा शांत होने में कितना समय लेगा।
- निष्कर्ष: शोधकर्ताओं ने पाया कि AIs के असहमत होना बंद करने का समय गणितीय भविष्यवाणियों से पूरी तरह मेल खाता था। यदि नेटवर्क अधिक जुड़ा हुआ था (अधिक दोस्त अधिक लोगों से बात कर रहे थे), तो वे तेजी से सहमत हुए। यदि नेटवर्क विरल (sparse) था, तो इसमें अधिक समय लगा। सहमति की "गति सीमा" (speed limit) नेटवर्क के आकार द्वारा निर्धारित थी, जैसा कि पुराने गणित ने कहा था।
5. "आत्म-विश्वास" का कारक (The "Self-Confidence" Factor)
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या होता है यदि वे स्पष्ट रूप से AIs को कहें, "स्वयं पर 80% और अपने दोस्तों पर 20% भरोसा करें।"
- परिणाम: जब AIs को ये विशिष्ट "ट्रस्ट वेट्स" (trust weights) दिए गए, तो वे सहमति तक बहुत आसानी से पहुँच गए। जब शोधकर्ताओं ने ये निर्देश हटा दिए, तो AIs अधिक अराजक हो गए और अंत में अधिक असहमत रहे। ऐसा लगता है कि AI एजेंटों को यह स्पष्ट नियम देने से कि उन्हें स्वयं पर कितना भरोसा करना चाहिए, उन्हें जल्दी स्थिर होने में मदद मिलती है।
सारांश
- क्या AI एजेंट सहमति तक पहुँचते हैं? हाँ, वे बहस करना बंद कर देते हैं और एक बिंदु पर सहमत होते हैं।
- क्या पुराना गणित भविष्यवाणी करता है कि वे किस पर सहमत होंगे? नहीं। अंतिम राय AI के छिपे हुए पूर्वाग्रहों और विषय द्वारा संचालित होती है, न कि समूह की शुरुआती राय द्वारा।
- क्या पुराना गणित भविष्यवाणी करता है कि वे कितनी तेजी से सहमत होंगे? हाँ। सहमति की गति पूरी तरह से नेटवर्क के जुड़ाव पर निर्भर करती है, जैसा कि पुराने गणित ने भविष्यवाणी की थी।
निष्कर्ष: यदि आप AI के साथ एक सोशल नेटवर्क का अनुकरण (simulate) करना चाहते हैं, तो आप गणित पर यह बताने के लिए भरोसा कर सकते हैं कि वे कितनी तेजी से सहमत होंगे, लेकिन आप गणित पर यह बताने के लिए भरोसा नहीं कर सकते कि वे किस बात पर सहमत होंगे। AI का आंतरिक "व्यक्तित्व" (पूर्वाग्रह) समूह की गतिशीलता पर हावी हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।