Characterizing Opinion Evolution of Networked LLMs
यह शोध पत्र प्रदर्शित करता है कि जहाँ शास्त्रीय ओपिनियन डायनेमिक्स मॉडल एलएलएम (LLM) नेटवर्क व्यवहार की भविष्यवाणी करने में विफल रहते हैं, वहीं एक अंतर्निहित बायस पैरामीटर को शामिल करने से विविध मॉडल परिवारों, विषयों और नेटवर्क संरचनाओं में मॉडलिंग सटीकता में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, डिजिटल शहर का चौक है जहाँ निवासी इंसान नहीं, बल्कि AI चैटबॉट्स (लार्ज लैंग्वेज मॉडल्स, या LLMs) हैं। ये बॉट्स लगातार एक-दूसरे से बात कर रहे हैं, जलवायु परिवर्तन, वैक्सीन या बंदूक नियंत्रण जैसे गर्म विषयों पर बहस कर रहे हैं। इस शोध पत्र के शोधकर्ताओं ने यह पता लगाने की कोशिश की: ये AI बॉट्स आपस में बात करते समय अपने विचार कैसे बदलते हैं?
इसका उत्तर देने के लिए, उन्होंने उन पुराने, क्लासिक गणितीय सूत्रों का उपयोग करने की कोशिश की जिनका उपयोग वैज्ञानिक दशकों से इंसानों के समूहों के विचारों में बदलाव का अनुमान लगाने के लिए करते आए हैं। उन्होंने पूछा: क्या ये पुराने सूत्र AI के लिए काम करते हैं? यदि नहीं, तो क्या गायब है?
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. पुराने नियम काम नहीं आए (द "ग्रुप हग" समस्या)
लंबे समय से, वैज्ञानिक मानव विचारों को समझाने के लिए डीग्रूट मॉडल (DeGroot model) नामक एक सरल नियम का उपयोग करते थे। इसे ऐसे समझें जैसे दोस्तों का एक समूह घेरे में बैठा है, हाथ पकड़े हुए है, और अपने विचारों को बीच के स्तर पर लाने के लिए उन्हें औसत (average) कर रहा है जब तक कि सब सहमत न हो जाएं।
शोधकर्ताओं ने इसे AI बॉट्स पर आज़माया। यह विफल रहा। बॉट्स ने केवल अपने विचारों को औसत नहीं किया और सहमत नहीं हुए। पुराना गणित भविष्यवाणी नहीं कर सका कि बॉट्स क्या कर रहे थे।
2. "ज़िद" का मिथक
इसके बाद, उन्होंने फ्रिडकिन-जॉनसन मॉडल (Friedkin-Johnsen model) नामक एक अधिक जटिल नियम का परीक्षण किया। यह मॉडल मानता है कि लोग थोड़े जिद्दी होते; वे अपने दोस्तों की सुनते हैं, लेकिन वे अपने पहले वाले विचार को एक पसंदीदा टेडी बियर की तरह पकड़ कर रखते हैं जिसे वे कभी छोड़ना नहीं चाहते।
शोधकर्ताओं ने इस मॉडल को AI बॉट्स पर परखा। यह अभी भी अच्छी तरह से काम नहीं कर पाया। बॉट्स अपने शुरुआती "टेडी बियर" विचारों की बहुत परवाह करते हुए नहीं दिखे। एक बार बातचीत शुरू होने के बाद, उनका शुरुआती बिंदु शायद ही मायने रखता था।
3. असली रहस्य: "आंतरिक दिशा-सूचक यंत्र" (Internal Compass)
महत्वपूर्ण मोड़ तब आया जब शोधकर्ताओं ने एक विशिष्ट तत्व जोड़ा: बायस (Bias/पूर्वाग्रह)।
कल्पना करें कि हर AI बॉट के पास एक छिपा हुआ, आंतरिक दिशा-सूचक यंत्र (compass) है जो एक विशिष्ट दिशा की ओर इशारा करता है, चाहे कोई भी कुछ भी कहे। यह इस बारे में नहीं है कि वे क्या शुरू में थे; यह इस बारे में है कि उन्हें गहराई में क्या सिखाया गया है।
- खोज: जब शोधकर्ताओं ने अपने गणितीय मॉडलों में इस "आंतरिक दिशा-सूचक यंत्र" (बायस) को जोड़ा, तो भविष्यवाणियाँ अविश्वसनीय रूप से सटीक हो गईं। वास्तव में, इस एकल कारक को जोड़ने से उनकी भविष्यवाणियों में त्रुटि (error) 88% तक कम हो गई।
- उपमा: यह वैसा ही है जैसे लोगों का एक समूह यह तय करने की कोशिश कर रहा है कि कहाँ खाना खाना है। पुराने मॉडल सोचते थे कि वे अपने विकल्पों (पिज्जा बनाम टैकोस) का औसत निकालेंगे। नई खोज दिखाती है कि, वास्तव में, हर व्यक्ति की एक गुप्त, अटूट लालसा (जैसे, "मुझे पिज्जा ही चाहिए") होती है जो दूसरों के सुझावों के बावजूद पूरे समूह को उस विकल्प की ओर खींच लेती है।
4. "इको चैंबर" (Echo Chambers) के बारे में क्या?
शोधकर्ताओं ने होमोफिली (Homophily) की भी जाँच की। यह इंसानों की वह प्रवृत्ति है जिसमें वे केवल उन्हीं लोगों को सुनते हैं जो पहले से ही उनसे सहमत हैं (जैसे केवल उन दोस्तों के साथ रहना जो समान संगीत पसंद करते हैं)।
- निष्कर्ष: अधिकांश AI बॉट्स के लिए, यह ज्यादा मायने नहीं रखता था। वे "असमान विचारधारा" वाले पड़ोसियों को फ़िल्टर नहीं करते थे।
- अपवाद: एक विशिष्ट AI परिवार (Qwen) ने इस तरह का व्यवहार दिखाया, जो एक ऐसे इंसान की तरह व्यवहार करता है जो केवल अपने ही इको चैंबर को सुनता है। लेकिन अन्य लोगों के लिए, उन्होंने सभी की बात सुनी, भले ही वे असहमत हों।
5. क्या अलग-अलग AI परिवार अलग तरह से व्यवहार करते हैं?
शोधकर्ताओं ने तीन अलग-अलग AI परिवारों (Llama, Qwen, और Gemma) का तीन अलग-अलग विषयों पर परीक्षण किया।
- Llama: यह AI एक अजीब तरीके से सबसे अधिक "जिद्दी" था। इसने अपने पड़ोसियों की बहुत कम बात सुनी। इसका आंतरिक दिशा-सूचक यंत्र इतना मजबूत था कि इसने समूह को लगभग पूरी तरह से अनदेखा कर दिया।
- Qwen: यह AI सबसे अधिक "सामाजिक" था। इसने अपने पड़ोसियों की उतनी ही बात सुनी जितनी इसने अपने स्वयं के आंतरिक दिशा-सूचक यंत्र की सुनी।
- Gemma: यह बीच में था, लेकिन यह विषय के आधार पर अपना व्यवहार बदल लेता था (जैसे, यह बंदूक नियंत्रण के बारे में बहुत सामाजिक था लेकिन वैक्सीन के बारे में पड़ोसियों को अनदेखा कर देता था)।
6. "नेटवर्क" मायने नहीं रखता
अंत में, उन्होंने पूछा: क्या बातचीत का आकार मायने रखता है? (जैसे, क्या यह मायने रखता है कि बॉट्स एक घेरे में हैं, एक तारे के आकार में हैं, या एक रैंडम बिखराव में हैं?)
- निष्कर्ष: नहीं। AI का "व्यक्तित्व" (वह कितना खुद को सुनता है बनाम अपने पड़ोसियों को) इस बात पर निर्भर नहीं था कि वे कैसे जुड़े हुए हैं। आप एक AI के व्यवहार को एक सरल, पोर्टेबल प्रोफाइल के साथ वर्णित कर सकते हैं जो हर जगह काम करता है, बिना पूरे नेटवर्क का मानचित्र बनाए।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि यह समझने के लिए कि AI बॉट्स समूह में अपने विचार कैसे बदलते हैं, आपको "ज़िद" या "इको चैंबर" के जटिल गणित की आवश्यकता नहीं है। आपको बस दो चीजें जानने की आवश्यकता है:
- सामाजिक औसत (Social Averaging): वे समूह को कितना सुनते हैं।
- जन्मजात पूर्वाग्रह (Innate Bias): वह मजबूत, पूर्व-निर्धारित दिशा जिसकी ओर उन्हें उनके प्रशिक्षण द्वारा खींचा जाता है।
यदि आप उन दो संख्याओं को जानते हैं, तो आप AI समूह के व्यवहार की भविष्यवाणी कर सकते हैं, लगभग किसी व्यक्ति के व्यक्तित्व और उसके पसंदीदा भोजन को जानने की तरह।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।