तकनीकी सारांश: अपने ऑर्केस्ट्रेटर को पहचानें: LLM मल्टी-एजेंट सिस्टम के लिए एक एंट्रॉपी डायनेमिक्स परिप्रेक्ष्य

1. समस्या विवरण

सिंगल-टर्न लार्ज लैंग्वेज मॉडल्स (LLMs) से मल्टी-एजेंट सिस्टम्स (MAS) की ओर संक्रमण वितरित संज्ञानात्मक भार (distributed cognitive loads) के माध्यम से उन्नत समस्या-समाधान क्षमताओं का वादा करता है। हालांकि, प्रचलित केंद्रीकृत ऑर्केस्ट्रेशन प्रतिमान (पदानुक्रमित/मैनेजर-एक्सेक्यूटर टोपोलॉजी) एक महत्वपूर्ण नाजुकता बिंदु प्रदर्शित करता है। चार प्रतिनिधि डोमेन (DeepResearch, AgentCoder, GUIBrowser, AgenticRAG) में अनुभवजन्य विश्लेषण से पता चलता है कि ऑर्केस्ट्रेटर एजेंट कार्यों की विफलता के लिए अत्यधिक जिम्मेदार है (लगभग 67.7%), जबकि व्यक्तिगत एक्सेक्यूटर्स केवल 32.4% के लिए उत्तरदायी हैं।

मुख्य मुद्दा टूल क्षमताओं की कमी नहीं है, बल्कि ऑर्केस्ट्रेटर की वैश्विक तार्किक निरीक्षण बनाए रखने और दीर्घकालिक योजना के दौरान अंतर्निहित अनिश्चितताओं को प्रबंधित करने में असमर्थता है। मौजूदा अनुभवजन्य मूल्यांकन कार्य जटिलता और सिस्टम-व्यापी अनिश्चितता के बीच सूक्ष्म परस्पर क्रिया को पकड़ने में विफल रहते हैं, जिससे ऑर्केस्ट्रेशन पतन (orchestration collapse) के पीछे के भौतिक तंत्रों को समझने में एक अंतराल रह जाता है।

2. कार्यप्रणाली

2.1. मीन-फील्ड एंट्रॉपी डायनेमिक्स फ्रेमवर्क

ऑर्केस्ट्रेशन विफलताओं के तंत्र को औपचारिक रूप देने के लिए, लेखक एक मीन-फील्ड एंट्रॉपी डायनेमिक्स मॉडल प्रस्तावित करते हैं। यह ढांचा असतत (discrete), सूक्ष्म शेड्यूलिंग निर्णयों और निरंतर (continuous), स्थूल (macroscopic) सिस्टम विकास के बीच सेतु बनाता है।

• सैद्धांतिक आधार: ऑर्केस्ट्रेटर की शेड्यूलिंग पॉलिसी को एक निरंतर समय $t$ पर विकसित होने वाले प्रोबेबिलिटी फील्ड के रूप में मॉडल किया गया है। शेड्यूलिंग वेक्टर्स के अनुक्रम को एक लेटेंट निरंतर प्रोबेबिलिटी फील्ड के स्टोरोस्कोपिक अवलोकनों के रूप में माना जाता है।
• ऑर्डर पैरामीटर के रूप में एंट्रॉपी: सिस्टम की स्थिति को अपेक्षित शेड्यूलिंग एंट्रॉपी $\bar{H}(t)$ द्वारा मापा जाता है, जिसे इस प्रकार परिभाषित किया गया है:
  $$\bar{H}(t) = -\sum_{i=1}^{n} p_i(t) \log_2 p_i(t)$$
  जहाँ $p_i(t)$ एक्सेक्यूटर $e_i$ को चुनने की संभावना है।
• डायनेमिक्स समीकरण: एंट्रॉपी का विकास दो प्रतिस्पर्धी ऑपरेटर्स के सुपरपोजिशन द्वारा संचालित होता है:
  1. फोकसिंग ऑपरेटर ($F_{task}$): यह कार्य समाधान (task resolution) का प्रतिनिधित्व करता है। इसे एक डैम्प्ड हार्मोनिक ऑसिलेटर (मोमेंटम-आधारित ऑप्टिमाइजेशन) के रूप में मॉडल किया गया है, जो ऑर्केस्ट्रेटर के "हंटिंग व्यवहार" को कैप्चर करता है जब वह एक समाधान की ओर अभिसरण (converge) करता है।
     $$F_{task} \rightarrow \frac{d}{dt} \left( A_{task} e^{-\gamma t} \sin(\omega t + \phi) \right)$$
  2. डिस्पर्सन ऑपरेटर ($D_{context}$): यह संदर्भ संचय (context accumulation) का प्रतिनिधित्व करता है। इसे एक डिफ्यूजन प्रक्रिया के रूप में मॉडल किया गया है, जो बढ़ते कॉन्टेक्स्ट विंडो से प्रेरित संज्ञानात्मक भार को कैप्चर करता है, जो समय के साथ लॉगरिदमिक रूप से स्केल होता है।
     $$D_{context} \rightarrow \frac{\beta}{t + 1}$$
• एकीकृत समीकरण: स्थूल एंट्रॉपी पथ दिया गया है:
  $$\bar{H}(t) = A_{task} e^{-\gamma t} \sin(\omega t + \phi) + \beta \ln(t + 1) + H_0$$
  यहाँ, पैरामीटर्स $\Theta = (A_{task}, \gamma, \omega, \beta, H_0)$ कार्य जटिलता, समाधान दक्षता, अन्वेषण सूक्ष्मता (exploration granularity), संदर्भ संवेदनशीलता और अंतर्निहित अनिश्चितता के भौतिक अर्थ प्रदान करते हैं।

2.2. इनवर्स वर्कफ्लो जनरेशन (IWG)

एंट्रॉपी मॉडल को मान्य करने के लिए, सघन स्टेप-लेवल निष्पादन लॉग की आवश्यकता होती है, जिसकी मानक बेंचमार्क (जैसे, GAIA, AssistantBench) में कमी है। लेखक इनवर्स वर्कफ्लो जनरेशन (IWG) पेश करते हैं, जो एक पाइपलाइन है जो प्रक्रिया-सत्यापन योग्य, उच्च-जटिलता वाले बेंचमार्क को सिंथेसाइज करती है:

1. स्काउट एजेंट: इनवर्स प्लानिंग करता है, एक सीड सॉल्यूशन (QA पेयर) से आवश्यक मध्यवर्ती कार्यों को पुनरावर्ती रूप से निकालता है और उन्हें विशिष्ट एजेंट क्षमताओं के साथ मैप करता है।
2. रैपर एजेंट: इंटरैक्टिव वातावरण को सिंथेसाइज करता है, टूल आउटपुट और ऑब्जर्वेशन उत्पन्न करता है जो लक्षित समाधान की ओर ले जाते हैं, और सत्यापन के लिए नियतात्मक चेकपॉइंट्स (deterministic checkpoints) को एम्बेड करता है।
3. वैलिडेशन कमेटी: एक तीन-स्तरीय प्रोटोकॉल (सुलभता, निरंतरता, विशेषज्ञ समीक्षा) यह सुनिश्चित करता है कि उत्पन्न वर्कफ्लो तार्किक रूप से सुसंगत, निष्पादन योग्य और तथ्यात्मक रूप से सही है।

3. मुख्य योगदान

1. सैद्धांतिक ढांचा: मल्टी-एजेंट ऑर्केस्ट्रेशन को एंट्रॉपी डायनेमिक्स द्वारा शासित एक भौतिक प्रणाली के रूप में औपचारिक रूप से प्रस्तुत करने वाला पहला कठोर गणितीय निरूपण, जो सूक्ष्म शेड्यूलिंग को स्थूल स्थिरता से जोड़ता है।
2. IWG पाइपलाइन: एक नवीन डेटा सिंथेसिस पद्धति जो सघन, स्टेप-लेवल ऑब्जर्वेबल्स उत्पन्न करती है, जिससे मौजूदा बेंचमार्क की "प्रोसेस-ओपेक" प्रकृति की समस्या दूर होती है।
3. "रीजनिंग ट्रैप" की पहचान: यह अनुभवजन्य खोज कि रीजनिंग-हैवी मॉडल्स (जैसे, व्यापक चेन-ऑफ-थॉट वाले मॉडल) अक्सर ऑर्केस्ट्रेटर के रूप में खराब प्रदर्शन करते हैं क्योंकि "कॉन्टेक्स्ट स्क्वीजिंग" के कारण उनके आंतरिक रीजनिंग टोकन्स बाहरी संकेतों के लिए आवश्यक अटेंशन बजट को कम कर देते हैं।
4. पैरामीटराइज्ड डायग्नोस्टिक्स: भौतिक पैरामीटर्स (जैसे, कॉन्टेक्स्ट सेंसिटिविटी के लिए $\beta$, एक्सप्लोरेशन फ्रीक्वेंसी के लिए $\omega$) का परिचय जो सिस्टम स्थिरता और प्रदर्शन पतन को निदान करने के लिए मजबूत संकेतक के रूप में कार्य करते हैं।

4. प्रयोगात्मक परिणाम

4.1. ऑर्केस्ट्रेटर प्रदर्शन विषमताएं

प्रोप्रायटरी और ओपन-सोर्स मॉडल्स (GPT-5, Claude-4.5, DeepSeek-V3.1 सहित) के मूल्यांकन ने दो प्राथमिक व्यवहारिक आर्कटाइप्स का खुलासा किया:

• ऑसिलेटरी-अग्रेसिव (Oscillatory-Aggressive): DeepSeek-V3.1 और Qwen-3-Max जैसे मॉडल्स उच्च टास्क एम्प्लीट्यूड ($A_{task}$) और फ्रीक्वेंसी ($\omega$) प्रदर्शित करते हैं। वे व्यापक रूप से अन्वेषण करते हैं लेकिन अत्यधिक अनिश्चितता के कारण तेजी से सटीकता पतन (जैसे, स्टेप 2 पर 92% से 22% तक गिरना) का शिकार होते हैं।
• स्मूथ-कंजर्वेटिव (Smooth-Conservative): Claude-4.5-Sonnet और Gemini-2.5-Pro जैसे मॉडल्स कम $\omega$ और $\beta$ दिखाते हैं, जो स्थिर, विचारशील शेड्यूलिंग का संकेत देते हैं। वे उच्च स्टेप सफलता दर (जैसे, 60.83%) प्राप्त करते हैं और कॉन्टेक्स्ट डिस्पर्सन को दबाकर निरंतरता बनाए रखते हैं।

4.2. मॉडल सत्यापन

मीन-फील्ड एंट्रॉपी डायनेमिक्स मॉडल ने अनुभवजन्य एंट्रॉपी प्रक्षेपवक्र (trajectories) को उच्च फिडेलिटी के साथ फिट किया ($p < 0.005$)। फिट किए गए पैरामीटर्स ने सूक्ष्म प्रदर्शन की सफलतापूर्वक भविष्यवाणी की:

• उच्च $\beta$ (कॉन्टेक्स्ट सेंसिटिविटी): कॉन्टेक्स्ट लेंथ बढ़ने के साथ तेजी से प्रदर्शन गिरावट के साथ सह-संबंधित था।
• उच्च $\omega$ (एक्सप्लोरेशन फ्रीक्वेंसी): प्रारंभिक उच्च एंट्रॉपी और बाद की अस्थिरता के साथ सह-संबंधित था।
• कम $\gamma$ (डैम्पिंग): लंबे समय तक अन्वेषण और धीमी अभिसरण (convergence) का संकेत देता है।

4.3. "रीजनिंग ट्रैप"

"लाइट थिंकिंग" बनाम "हैवी थिंकिंग" मोड (जैसे, GPT-5-Low बनाम GPT-5-High) के तुलनात्मक विश्लेषण ने पुष्टि की कि अत्यधिक आंतरिक रीजनिंग को दबाने से ऑर्केस्ट्रेशन में सुधार होता है।

• तंत्र: हैवी रीजनिंग मॉडल्स पर्याप्त आंतरिक टोकन उत्पन्न करते हैं, जो बाहरी निर्देशों और कॉन्टेक्स्ट के लिए अटेंशन बजट को कम कर देते हैं।
• परिणाम: "लाइट थिंकिंग" वेरिएंट्स (जैसे, Qwen3-Max-NoThink) ने काफी उच्च स्टेप सक्सेस रेट (0.413 बनाम 0.302) और टोकन दक्षता प्राप्त की, जो यह प्रमाणित करता है कि कुशल ऑर्केस्ट्रेशन के लिए गहन आंतरिक विचार-विमर्श के बजाय "इंस्टेंट ब्रैडथ-फर्स्ट थिंकिंग" की आवश्यकता होती है।

4.4. मजबूती (Robustness)

नियंत्रित व्यवधानों (गोल्डन कॉन्टेक्स्ट, एक्सेप्शन इंजेक्शन), क्रॉस-डोमेन ट्रांसफर (फाइल ऑपरेशंस, API कॉलिंग), और वास्तविक दुनिया की सेटिंग्स में एंट्रॉपी पैरामीटर्स व्याख्या योग्य रहे, जो सिंथेटिक बेंचमार्क से परे इस ढांचे की सामान्यीकरण क्षमता की पुष्टि करते हैं।

5. महत्व और दावे

यह पेपर मल्टी-एजेंट सिस्टम्स के विश्लेषणात्मक फोकस को व्यक्तिगत एजेंट क्षमताओं से हटाकर ऑर्केस्ट्रेटर की गतिशीलता की ओर स्थानांतरित करने का दावा करता है। ऑर्केस्ट्रेशन विफलताओं का भौतिक व्याख्या प्रदान करके, यह कार्य निम्नलिखित प्रदान करता है:

• डायग्नोस्टिक टूल्स: सिस्टम की अनिश्चितता को मापने और प्रदर्शन पतन होने से पहले उसकी भविष्यवाणी करने के लिए भौतिक रूप से व्याख्या योग्य पैरामीटर्स का एक सेट।
• आर्किटेक्चरल अंतर्दृष्टि: साक्ष्य कि भविष्य के MAS डिजाइनों को "रीजनिंग ट्रैप" से बचने के लिए कच्चे रीजनिंग पावर के बजाय स्थिर, कॉन्टेक्स्ट-मैनेजिंग रणनीतियों को प्राथमिकता देनी चाहिए।
• मूल्यांकन मानक: उच्च-रिज़ॉल्यूशन वाले, सत्यापन योग्य बेंचमार्क उत्पन्न करने के लिए एक कठोर पद्धति (IWG) जो दीर्घकालिक एजेंट डायनेमिक्स के अध्ययन के लिए आवश्यक है।

लेखक निष्कर्ष निकालते हैं कि "ऑर्केस्ट्रेटर के भौतिक तंत्रों" को समझना मजबूत, सुरक्षित और स्केलेबल मल्टी-एजेंट सिस्टम विकसित करने के लिए आवश्यक है, जो ह्यूरिस्टिक मूल्यांकन से हटकर सिस्टम स्थिरता की एक सिद्धांत-आधारित, एंट्रॉपी-आधारित समझ की ओर बढ़ता है।