तकनीकी सारांश: मल्टी-एजेंट रीजनिंग के प्रेडिक्टिव मैप्स (अनुमानित मानचित्र)

समस्या विवरण

मल्टी-एजेंट लार्ज लैंग्वेज मॉडल (LLM) सिस्टम डिजाइन करने वाले अभ्यासकर्ताओं के पास वर्तमान में संचार टोपोलॉजी (जैसे: चेन, स्टार, मेश) चुनने के लिए एक सिद्धांत-आधारित, इन्फरेंस-पूर्व (pre-inference) डायग्नोस्टिक का अभाव है। मौजूदा मूल्यांकन विधियाँ पूरी तरह से पोस्ट हॉक (घटना के बाद की) हैं, जो केवल निष्पादन के बाद और केवल विशिष्ट मापे गए कार्य के लिए प्रदर्शन का आकलन करती हैं। फलस्वरूप, डिजाइनर यह अनुमान नहीं लगा सकते कि चुना गया टोपोलॉजी टोकन उत्पन्न होने से पहले रीजनिंग ड्रिफ्ट (तर्क विचलन) को बढ़ाएगा, सर्वसम्मति (consensus) की ओर ले जाएगा, या व्यवधान (perturbation) के तहत मजबूत बना रहेगा। यह शोध पत्र एक ऐसे संरचनात्मक डायग्नोस्टिक की आवश्यकता को संबोधित करता है जो यह लक्षणित करे कि संचार ग्राफ स्वयं सिस्टम के व्यवहार को कैसे प्रभावित करता है।

कार्यप्रणाली

सैद्धांतिक ढांचा: सक्सेसर रिप्रेजेंटेशन (Successor Representation)

लेखक एक मल्टी-एजेंट LLM सिस्टम को एक निर्देशित ग्राफ $G=(V, E)$ के रूप में मॉडल करते हैं जहाँ नोड्स एजेंट हैं और किनारे सूचना चैनल हैं। वे सामान्यीकृत एडजेसेंसी मैट्रिक्स के आधार पर एक रो-स्टोकेस्टिक ट्रांजिशन मैट्रिक्स $P$ को परिभाषित करते हैं। मुख्य डायग्नोस्टिक टूल सक्सेसर रिप्रेजेंटेशन (SR) है:
$$M = (I - \gamma P)^{-1} = \sum_{k=0}^{\infty} \gamma^k P^k$$
जहाँ $\gamma \in [0, 1)$ एक डिस्काउंट फैक्टर है (0.9 पर स्थिर)। $M$ सभी मल्टी-स्टेप इन्फ्लुएंस पाथवेज़ को एक एकल लीनियर ऑपरेटर में संकुचित कर देता है। लेखक $M$ के तीन स्पेक्ट्रल गुणों का विश्लेषण करते हैं:

1. स्पेक्ट्रल रेडियस ($\rho(M)$): अधिकतम पूर्ण आइगेनवैल्यू, जो सैद्धांतिक रूप से व्यवधानों की ज्यामितीय वृद्धि को सीमित करता है।
2. स्पेक्ट्रल गैप ($\Delta(M)$): सबसे बड़े और दूसरे सबसे बड़े आइगेनवैल्यू के बीच का अंतर, जो मिक्सिंग टाइम और सर्वसम्मति अभिसरण (convergence) की गति को नियंत्रित करता है।
3. कंडीशन नंबर ($\kappa(M)$): सबसे बड़े और सबसे छोटे सिंगुलर वैल्यू का अनुपात, जो ड्राइविंग सिग्नल में व्यवधान के प्रति संवेदनशीलता को मापता है।

प्रयोगात्मक सेटअप

इस ढांचे को Qwen2.5-7B-Instruct मॉडल का उपयोग करके एक 12-स्टेप स्ट्रक्चर्ड स्टेट-ट्रैकिंग टास्क पर 100 स्वतंत्र परीक्षणों के माध्यम से सत्यापित किया गया।

• कार्य: एजेंट पुनरावृत्ति के साथ एक JSON स्टेट (Value, Parity, Level) को अपडेट करते हैं, जो एक तीन-नियम, ऑर्डर-डिपेंडेंट प्रोटोकॉल पर आधारित है जिसमें अंकगणितीय सटीकता और कंडीशनल ब्रांचिंग की आवश्यकता होती है।
• मूल्यांकित टोपोलॉजी:
  • चेन (Chain): 12 क्रमिक एजेंट (प्रत्येक स्टेप के लिए एक)।
  • स्टार (Star): प्रत्येक स्टेप के लिए 4 लीफ एजेंट और एक केंद्रीय जज जो प्रस्तावों को एकत्रित करता है।
  • मेश (Mesh): 4 एजेंट जो सहकर्मी विचार-विमर्श (peer deliberation) और बहुमत मतदान करते हैं।
• मेट्रिक्स:
  • संचयी त्रुटि वृद्धि ($E_{ceg}$): ग्राउंड ट्रुथ से विचलन का योग।
  • कंसेंसस डिके ($R_{cdr}$): असहमति के संकुचन की दर।
  • परटर्बेशन सेंसिटिविटी ($F_{ps}$): नियंत्रित इनपुट परटर्बेशन के तहत विचलन।

सैद्धांतिक विस्तार: एफाइन-नॉइज़ मॉडल (Affine-Noise Model)

रैखिक स्पेक्ट्रल भविष्यवाणियों और अनुभवजन्य LLM व्यवहार के बीच विसंगतियों को समझाने के लिए, लेखक एक एफाइन-नॉइज़ मॉडल प्रस्तावित करते हैं। वे तर्क देते हैं कि प्रत्येक एजेंट एक स्वतंत्र स्टोकेस्टिक नॉइज़ $\eta$ पेश करता है। एग्रीगेशन वाले टोपोलॉजी (स्टार/मेश) में, नॉइज़ वेरिएंस $k$ (एग्रीगेशन काउंट) के कारक से कम हो जाता है, जबकि एक चेन में, नॉइज़ जमा (accumulate) होता है। इससे एक ड्रिफ्ट-करेक्टेड गेन $\tilde{\rho}(M; k)$ प्राप्त होता है, जो क्रमिक त्रुटि संचय बनाम एग्रीगेशन लाभों को ध्यान में रखते हुए स्पेक्ट्रल रेडियस को समायोजित करता है।

मुख्य परिणाम

1. कंडीशन नंबर और परटर्बेशन रोबस्टनेस

कंडीशन नंबर $\kappa(M)$ ने अनुभवजन्य परटर्बेशन रोबस्टनेस की सटीक भविष्यवाणी की।

• भविष्यवाणी: $\kappa_{chain} < \kappa_{mesh} < \kappa_{star}$।
• अवलोकन: चेन सबसे अधिक रोबस्ट थी, उसके बाद मेश, और फिर स्टार सबसे अधिक संवेदनशील थी।
• सहसंबंध: स्पीयरमैन रैंक सहसंबंध $r_s = 1.0$।
• निहितार्थ: $\kappa(M)$ प्रतिकूल संवेदनशीलता (adversarial sensitivity) के लिए एक विश्वसनीय प्री-इन्फरेंस मेट्रिक है।

2. स्पेक्ट्रल गैप और कंसेंसस

स्पेक्ट्रल गैप $\Delta(M)$ ने आंशिक रूप से कंसेंसस डायनेमिक्स की भविष्यवाणी की।

• भविתי: मेश सबसे तेजी से अभिसरित (converge) होना चाहिए, उसके बाद स्टार, फिर चेन।
• अवलोकन: चेन असहमति को कम करने में विफल रही (जैसा कि भविष्यवाणी की गई थी), लेकिन स्टार, मेश की तुलना में तेजी से अभिसरित हुआ, जिससे अनुमानित क्रम उलट गया।
• सहसंबंध: $r_s = 0.5$।
• व्याख्या: रॉ स्पेक्ट्रल गैप ग्राफ पर मिक्सिंग को कैप्चर करता है लेकिन स्पष्ट एग्रीगेशन ऑपरेटर्स (स्टार टोपोलॉजी में जज) के प्रभाव को छोड़ देता है, जो ऐसे ज्यामितीय बॉटलनेक्स बनाते हैं जो रॉ ग्राफ स्पेक्ट्रम की तुलना में सर्वसम्मति को तेज करते हैं।

3. स्पेक्ट्रल रेडियस और "स्टेबिलिटी पैराडॉक्स"

स्पेक्ट्रल रेडियस $\rho(M)$ संचयी त्रुटि के संबंध में पूरी तरह से उल्टा (inverted) था।

• भविष्यवाणी: चेन ($\rho=1$) सबसे स्थिर होनी चाहिए; स्टार/मेश ($\rho=10$) अस्थिर होनी चाहिए।
• अवलोकन: चेन ने सबसे बड़ी संचयी त्रुटि प्रदर्शित की (स्टार/मेश की तुलना में लगभग 2 गुना)।
• सहसंबंध: $r_s = -1.0$।
• समाधान: लेखक एक "स्टेबिलिटी पैराडॉक्स" की पहचान करते हैं। रैखिक स्पेक्ट्रा होमोजेनियस फ्लो में नियतात्मक (deterministic) परटर्बेशन के विरुद्ध स्थिरता को एनकोड करते हैं। हालांकि, LLM रीजनिंग स्टोकेस्टिक प्रति-एजेंट ड्रिफ्ट द्वारा संचालित होती है। एक चेन में, छोटे बायस बिना औसत के आगे बढ़ा दिए जाते हैं (जो $T^{3/2}$ के रूप में जमा होते हैं), जबकि स्टार/मेश टोपोलॉजी एजेंटों को एकत्रित करती हैं, जिससे नॉइज़ वेरिएंस $\sqrt{k}$ से कम हो जाता है।
• सुधार: प्रस्तावित ड्रिफ्ट-करेक्टेड गेन $\tilde{\rho}$ ने अनुभवजन्य रैंकिंग को सफलतापूर्वक पुनः प्राप्त किया, और सही ढंग से भविष्यवाणी की कि चेन संचयी त्रुटि के प्रति सबसे नाजुक है।

महत्व और दावे

यह शोध पत्र मल्टी-एजेंट LLM सिस्टम के लिए रिप्रजेंटेशनल, ड्रिफ्ट-अवेयर स्ट्रक्चरल डायग्नोस्टिक्स की दिशा में एक प्रथम चरण के रूप में खुद को स्थापित करता है। इसके प्राथमिक योगदान हैं:

1. औपचारिकीकरण (Formalization): यह एक ढांचा स्थापित करता है जहाँ मल्टी-एजेंट LLM सिस्टम को रो-स्टोकेस्टिक कम्युनिकेशन ग्राफ के रूप में माना जाता है, जिससे सक्सेसर रिप्रेजेंटेशन थ्योरी का अनुप्रयोग संभव होता है।
2. भविष्यवाणी शक्ति: यह प्रदर्शित करता है कि तीन स्केलर स्पेक्ट्रल मात्राएं इन्फरेंस से पहले ड्रिफ्ट, कंसेंसस और एडवरसैरियल सेंसिटिविटी पर टोपोलॉजी को रैंक कर सकती हैं।
3. "स्टेबिलिटी पैराडॉक्स": यह एक महत्वपूर्ण क्षेत्र को उजागर करता है जहाँ शास्त्रीय रैखिक स्पेक्ट्रल स्थिरता (कम $\rho$) स्टोकेस्टिक ड्रिफ्ट स्थिरता के विपरीत होती है। यह सुझाव देता है कि LLM पाइपलाइनों के लिए, स्ट्रक्चरल डायग्नोस्टिक्स को केवल लीनियर ऑपरेटर नॉर्म्स ही नहीं, बल्कि नॉइज़ एक््युमुलेशन और एग्रीगेशन को भी ध्यान में रखना चाहिए।
4. व्यावहारिक छंटनी (Practical Triage): लेखक एक प्री-इन्फरेंस ट्राइएज नियम प्रस्तावित करते हैं: एडवरसैरियल रोबस्टनेस के लिए $\kappa(M)$ का उपयोग करें, कंसेंसस स्पीड के लिए $\Delta(M)$ (चेतावनियों के साथ) का उपयोग करें, और संचयी त्रुटि के लिए ड्रिफ्ट-करेक्टेड $\tilde{\rho}$ का उपयोग करें।

सीमाएं और दायरा:
लेखक स्पष्ट रूप से कहते हैं कि यह एक केस स्टडी है, न कि कोई सार्वभौमिक नियम। निष्कर्ष एक एकल मॉडल फैमिली, एक टास्क फैमिली और तीन टोपोलॉजी पर आधारित हैं। तीन वस्तुओं को रैंक करने का सांख्यिकीय भार कम है। एफाइन-नॉइज़ मॉडल यह मानता है कि नॉइज़ iid (स्वतंत्र और समान रूप से वितरित) है, जो शायद लागू न हो यदि एजेंट एक सामान्य बेस मॉडल से व्यवस्थित पूर्वाग्रह साझा करते हैं। वे अपने काम को एक फ्रेमवर्क के रूप में प्रस्तुत करते जिसके माध्यम से भविष्य के शोध के लिए नए मॉडल, कार्यों और समृद्ध टोपोलॉजी के माध्यम से विस्तार किया जा सकता है।