Hidden Anchors in Multi-Agent LLM Deliberation
यह शोध पत्र मल्टी-एजेंट एलएलएम (LLM) विचार-विमर्श के लिए एक क्लोज्ड-लूप डायनामिकल सिस्टम मॉडल प्रस्तावित करता है जो छिपे हुए आंतरिक "एंकरों" को शामिल करता है, यह प्रदर्शित करते हुए कि कैसे ये एंकर एजेंटों को प्रारंभिक विश्वास सीमाओं से आगे बढ़ने में सक्षम बनाते हैं और इन एंकरों को पुनः प्राप्त करने और मान्य करने की एक विधि प्रदान करते हैं ताकि यह समझाया जा सके कि विचार-विमर्श तर्क सटीकता में सुधार कैसे करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि तीन दोस्तों का एक समूह एक मेज के चारों ओर बैठा है, जो एक पेचीदा रहस्य सुलझाने की कोशिश कर रहे हैं (जैसे कि लक्षणों के आधार पर किसी मरीज की बीमारी का निदान करना)। वे अपने विचार साझा करने, एक-दूसरे की बात सुनने और अपने विचार बदलने के लिए बारी-बारी से प्रयास करते हैं। इसे शोधकर्ता मल्टी-एजेंट एलएलएम डेलिब्रेशन (Multi-Agent LLM Deliberation) कहते हैं।
आमतौर पर, हम यह मान लेते हैं कि जब ये एआई (AI) "दोस्त" आपस में बात करते हैं, तो वे बस अपनी राय का औसत निकाल लेते हैं। यदि एक को लगता है कि फ्लू की संभावना 20% है और दूसरा 40% सोचता है, तो समूह कहीं बीच में ही ठहर जाता है। यह एक क्लासिक "हर्ड मेंटैलिटी" (भेड़चाल) की तरह है जहाँ हर कोई उसी सीमा के भीतर रहता है जो मूल रूप से कही गई थी।
लेकिन इस शोध पत्र ने कुछ आश्चर्यजनक खोजा: कभी-कभी, समूह का अंतिम उत्तर उस सीमा से बहुत बाहर चला जाता है जो मूल रूप से उनमें से किसी ने भी सोची थी।
यहाँ एक सरल विवरण दिया गया है कि लेखकों ने यह कैसे पता लगाया और इसका क्या अर्थ है।
रहस्य: जब "हर्ड" (झुंड) नियम तोड़ देता है
गणित और सामाजिक विज्ञान की दुनिया में, पुराने नियम (जैसे कि डीग्रूट या फ्रिडकिन-जॉनसन मॉडल) कहते हैं कि एक समूह की राय कभी भी शुरुआत में रखी गई सबसे चरम राय से आगे नहीं बढ़ सकती। यह एक रबर बैंड की तरह है: यदि आप इसे 10 से 40 इंच तक खींचते हैं, तो आप केवल सिरों को खींचकर इसे 50 इंच तक नहीं फैला सकते।
हालाँकि, जब शोधकर्ताओं ने इन एआई एजेंटों को बहस करते देखा, तो उन्होंने देखा कि "रबर बैंड" टूट गया। सही उत्तर की संभावना उस स्तर तक ऊपर चली गई जो किसी भी एकल एजेंट ने शुरुआत में कभी अनुमानित नहीं किया था। समूह वह काम कर रहा था जिसे पुरानी गणित ने असंभव बताया था।
समाधान: "हिडन एंकर" (छिपा हुआ लंगर)
इसकी व्याख्या करने के लिए, लेखकों ने एक नया विचार प्रस्तावित किया: द हिडन एंकर (The Hidden Anchor)।
कल्पना कीजिए कि प्रत्येक एजेंट के पास एक गुप्त, आंतरिक दिशा-सूचक यंत्र (एंकर) है जिसे वह दूसरों को कभी नहीं दिखाता।
- पुराना दृष्टिकोण: एजेंट केवल अपने पड़ोसियों की बात सुनते हैं।
- नया दृष्टिकोण: एजेंट अपने पड़ोसियों को सुनते हैं और वे गुप्त रूप से अपने स्वयं के आंतरिक दिशा-सूचक यंत्र (एंकर) द्वारा खींचे जा रहे होते हैं।
इसे एक रस्साकशी (tug-of-war) की तरह समझें।
- टीम नेबर (पड़ोसी): एजेंट को समूह की वर्तमान राय की ओर खींचती है।
- टीम एंकर (लंगर): एजेंट को उसके अपने गहरे, छिपे हुए विश्वास की ओर खींचती है (जो उसके प्रशिक्षण पर आधारित है)।
यदि "एंकर" बहुत मजबूत है और शुरुआती बिंदु से अलग दिशा में संकेत करता है, तो यह पूरी बातचीत को शुरुआती रेखा से आगे खींच सकता है। समूह केवल बीच में नहीं ठहरता; वे एक नए गंतव्य की ओर खिंच जाते जिसे शुरुआत में किसी ने नहीं देखा था।
प्रयोग: तीन अलग-अलग "व्यक्तित्वों" का परीक्षण
शोधकर्ताओं ने एक चिकित्सा निदान कार्य का उपयोग करके तीन अलग-अलग एआई मॉडलों (Llama, Qwen, और gpt-oss) पर इस सिद्धांत का परीक्षण किया। उन्होंने एआई के संवाद डेटा को एक भौतिकी प्रयोग की तरह माना, और यह देखने के लिए "हिडन एंकर" को रिवर्स-इंजीनियर करने की कोशिश की कि क्या यह व्यवहार की व्याख्या करता है।
यहाँ उन्हें क्या मिला:
- Llama (मजबूत एंकर): इस मॉडल का एक बहुत ही विशिष्ट "व्यक्तित्व" था। इसके छिपे हुए एंकर इसकी शुरुआती राय से बहुत दूर थे। जब इसने बहस की, तो यह अपने आंतरिक विश्वास द्वारा मजबूती से खींचा गया, जिससे समूह शुरुआती सीमा से बाहर निकलकर एक बेहतर उत्तर खोजने में सफल रहा। गणित ने सिद्ध किया कि यह छिपा हुआ एंकर वास्तविक और अनुमानित था।
- Qwen (कमजोर एंकर): इसमें एक छिपा हुआ एंकर था, लेकिन वह इसकी शुरुआती राय के ठीक ऊपर स्थित था। यह एक ऐसे दिशा-सूचक यंत्र की तरह था जो वहीं इशारा करता है जहाँ आप खड़े हैं। इसने समूह को कहीं नया नहीं खींचा, इसलिए बहस मुख्य रूप से मूल सीमा के भीतर ही रही।
- gpt-oss (कोई वास्तविक एंकर नहीं): इस मॉडल के लिए, "हिडन एंकर" सिद्धांत बिल्कुल काम नहीं आया। समूह का व्यवहार पूरी तरह से पुराने, सरल गणित द्वारा समझाया गया था जहाँ वे केवल राय का औसत निकाल रहे थे। वहाँ उन्हें कहीं और खींचने वाला कोई गुप्त बल नहीं था।
मुख्य निष्कर्ष
पत्र यह निष्कर्ष निकालता है कि एआई विमर्श (deliberation) एक जैसा नहीं होता।
- कुछ मॉडलों के लिए (जैसे Llama), "हिडन एंकर" एक वास्तविक, शक्तिशाली बल है जो समूह को नए निष्कर्षों तक ले जाता है।
- अन्य के लिए, समूह बस चीजों का औसत निकाल देता है, और "एंकर" केवल यह कहने का एक फैंसी तरीका है कि "वे अपनी शुरुआती बात पर अड़े रहे।"
लेखकों ने एक सरल परीक्षण बनाया: यदि आप "हिडन एंकर" का उपयोग करके बहस के भविष्य के चरणों की भविष्यवाणी कर सकते हैं, तो उस मॉडल में वास्तव में एक एंकर है। यदि परीक्षण विफल हो जाता है, तो मॉडल केवल साधारण औसत निकाल रहा है।
संक्षेप में: यह शोध पत्र दिखाता है कि एआई एजेंट केवल खाली स्लेट नहीं हैं जो एक-दूसरे की बात सुन रहे हैं। वे अदृश्य, आंतरिक विश्वास रखते हैं जो कभी-कभी एक समूह की चर्चा को ऐसी जगह ले जा सकते हैं जिसकी शुरुआत में किसी ने कल्पना भी नहीं की थी। लेकिन यह केवल विशिष्ट प्रकार के एआई मॉडलों के साथ होता है, सभी के साथ नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।