AgentDropoutV2: Optimizing Information Flow in Multi-Agent Systems via Test-Time Rectify-or-Reject Pruning

यहाँ शोध पत्र "AgentDropoutV2: Optimizing Information Flow in Multi-Agent Systems via Test-Time Rectify-or-Reject Pruning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करने वाले मल्टी-एजेंट सिस्टम्स (MAS) ने जटिल तर्क कार्यों (जैसे गणित, कोडिंग, वैज्ञानिक खोज) में आशाजनक परिणाम दिखाए हैं। हालाँकि, वे एरर प्रोपेगेशन (त्रुटि प्रसार) से ग्रस्त होते हैं, जहाँ एक एजेंट का एकल त्रुटिपूर्ण आउटपुट पूरे सिस्टम में कैस्केड (श्रृंखलाबद्ध रूप से फैलता) हो जाता है, जिससे डाउनस्ट्रीम रीजनिंग दूषित हो जाती है और अंतिम परिणाम समझौतापूर्ण हो जाता है।

मौजूदा समाधान दो मुख्य सीमाओं का सामना करते हैं:

• संरचनात्मक अनुकूलन (Structural Optimization): जो विधियाँ मजबूत संचार टोपोलॉजी (जैसे DAGs) को इंजीनियर करती हैं, वे अक्सर स्थिर होती हैं और पूर्व-निर्धारित कनेक्टिविटी पर निर्भर करती हैं, जिससे वे रनटाइम त्रुटियों के अनुकूल नहीं हो पातीं।
• पैरामीटर आंतरिककरण (Parameter Internalization): विफल प्रक्षेप पथों (failure trajectories) पर एजेंटों को फाइन-ट्यून करने वाली विधियाँ महंगी हैं, उनके लिए पुन: प्रशिक्षण की आवश्यकता होती है, और उनमें टेस्ट-टाइम पर नए, अनदेखे एरर पैटर्न के प्रति अनुकूलन क्षमता का अभाव होता है।

एक टेस्ट-टाइम फ्रेमवर्क की महत्वपूर्ण आवश्यकता है जो बिना पुन: प्रशिक्षण के, त्रुटिपूर्ण एजेंट आउटपुट को गतिशील रूप से रोक सके, सुधार सके या हटा सके, जो त्रुटि प्रसार के विरुद्ध एक सक्रिय फायरवॉल के रूप में कार्य कर सके।

2. कार्यप्रणाली: AgentDropoutV2 (Methodology: AgentDropoutV2)

लेखक AgentDropoutV2 का प्रस्ताव करते हैं, जो एक "Rectify-or-Reject" (सुधारें-या-अस्वीकार करें) प्रूनिंग तंत्र को लागू करता है। अपने पूर्ववर्ती (AgentDropout) के विपरीत, जो केवल त्रुटिपूर्ण एजेंटों को हटा देता है, AgentDropoutV2 उन्मूलन से पहले पुनरावृत्त सुधार (iterative correction) का प्रयास करता है।

मुख्य घटक (Core Components)

1. टेस्ट-टाइम रेक्टिफाई-ऑर-रिजेक्ट प्रूनिंग (Test-Time Rectify-or-Reject Pruning):

   • इंटरसेप्शन (Interception): किसी एजेंट के आउटपुट को उसके उत्तराधिकारियों (successors) को प्रसारित करने से पहले, उसे एक समर्पित रेक्टिफायर मॉडल (Rectifier Model) द्वारा रोका जाता है।
   • एडवर्सरियल इंडिकेटर रिट्रीवल (Adversarial Indicator Retrieval): रेक्टिफायर एक पूर्व-निर्मित फेलियर-ड्रिवन इंडिकेटर पूल (Failure-Driven Indicator Pool) से संकेत प्राप्त करता है। इस पूल में ऐतिहासिक MAS विफलताओं से निकाले गए संरचित एरर पैटर्न (नाम, परिभाषा, ट्रिगर स्थिति) शामिल हैं।
   • पुनरावृत्त परिशोधन (Iterative Refinement):
     • रेक्टिफायर आउटपुट की जांच रिट्राईव किए गए संकेतकों (indicators) के विरुद्ध करता है।
     • यदि कोई उल्लंघन पाया जाता है, तो यह विशिष्ट फीडबैक (तर्क/rationales) उत्पन्न करता है।
     • एजेंट इस फीडबैक के आधार पर अपना आउटपुट पुन: उत्पन्न करता है।
     • यह लूप अधिकतम इटरेशन सीमा ($T_{max}$) तक चलता रहता है।
   • प्रूनिंग (Rejection): यदि $T_{max}$ इटरेशन के बाद भी आउटपुट त्रुटिपूर्ण रहता है, तो इसे त्रुटि प्रसार को रोकने के लिए प्रून (हटा) दिया जाता है।
   • ग्लोबल फॉलबैक (Global Fallback): संरचनात्मक पतन (जहाँ बहुत अधिक एजेंटों को हटा दिया जाता है) को रोकने के लिए, यदि शेष वैध संदेशों की संख्या सुरक्षा थ्रेशोल्ड ($\gamma$) से नीचे गिर जाती है, तो सिस्टम एक ग्लोबल रिसेट को ट्रिगर करता है, जो MAS निष्पादन को शुरू से पुनः आरंभ करता है।

2. फेलियर-ड्रिवन इंडिकेटर पूल निर्माण (ऑफलाइन) (Failure-Driven Indicator Pool Construction - Offline):

   • माइनिंग (Mining): सिस्टम एक सोर्स डेटासेट पर MAS चलाता है। गलत उत्तरों में परिणीत होने वाले प्रक्षेप पथों (trajectories) को एकत्र किया जाता है।
   • डिस्टिलेशन (Distillation): एक "टीचर" मॉडल इन विफलता प्रक्षेप पथों का विश्लेषण करता है और विशिष्ट एरर पैटर्न (जैसे, "इंटीजर कंडीशन मिसमैनेजमेंट") का वर्णन करने वाले नए संकेतक संश्लेषित करता है।
   • डीडुप्लिकेशन (Deduplication): एक दो-चरणीय डीडुप्लिकेशन प्रक्रिया (एम्बेडिंग समानता और एक डीडुप्लिकेशन LLM का उपयोग करके) यह सुनिश्चित करती है कि पूल संक्षिप्त और उच्च-एन्ट्रॉपी बना रहे, जिससे रेडंडेंसी (अनावश्यक दोहराव) को रोका जा सके जहाँ समान त्रुटियाँ हावी हो सकती हैं।

3. जीरो-शॉट अडैप्टेबिलिटी (Zero-Shot Adaptation):

   • उन परिदृश्यों में जहाँ पूर्व-निर्मित पूल उपलब्ध नहीं है, सिस्टम एक एकल "जनरल लॉजिक चेक" इंडिकेटर पर डिफ़ॉल्ट हो जाता है, जिससे यह सुनिश्चित होता है कि तंत्र डोमेन-विशिष्ट डेटा के बिना भी कार्यात्मक बना रहे।

3. प्रमुख योगदान (Key Contributions)

• टेस्ट-टाइम रेक्टिफाई-ऑर-रिजेक्ट फ्रेमवर्क: एक अभिनव, प्लग-एंड-प्ले मॉड्यूल जो सक्रिय रूप से एजेंट आउटपुट को रोकता है, रिट्राईव किए गए बाधाओं (constraints) का उपयोग करके उन्हें पुनरावृत्त रूप से सुधारता है, और अपूरणीय त्रुटियों को हटा देता है, जिससे कैस्केडिंग विफलताओं में काफी कमी आती है।
• फेलियर-ड्रिवन इंडिकेटर पूल: ऐतिहासिक विफलता प्रक्षेप पथों की माइनिंग से निर्मित एक संरचित ज्ञान आधार। यह तर्क संबंधी खामियों के एक विस्तृत स्पेक्ट्रम को समाहित करता है, जो बैकबोन मॉडल्स को पुन: प्रशिक्षित किए बिना सटीक, संदर्भ-जागरूक त्रुटि पहचान सक्षम बनाता है।
• मजबूत सामान्यीकरण (Robust Generalization): विभिन्न कार्य जटिलताओं (सरल गणित से लेकर ओलंपियाड-स्तर की समस्याओं तक) और डोमेन (गणित और कोड) में अनुकूलन क्षमता और विभिन्न मॉडल आकारों (जैसे, Qwen3-4B को सुपरवाइज करने के लिए Qwen3-8B पर निर्मित पूल का उपयोग करना) के बीच स्थानांतरणीयता प्रदर्शित की गई।

4. प्रयोगात्मक परिणाम (Experimental Results)

इस फ्रेमवर्क का मूल्यांकन नौ गणितीय तर्क बेंचमार्क (GSM8K, MATH-500, AIME24/25 सहित) और चार कोड जनरेशन बेंचमार्क (MBPP, HumanEval, आदि) पर किया गया।

• प्रदर्शन लाभ (Performance Gains):
  • गणितीय बेंचमार्क पर, AgentDropoutV2 ने मानक AutoGen बेसलाइन की तुलना में औसत 6.3 प्रतिशत अंक की सटीकता वृद्धि प्राप्त की।
  • विशेष रूप से कठिन AIME25 बेंचमार्क पर, रिट्राईव किए गए संकेतकों का उपयोग करने पर सटीकता 23.33% से बढ़कर 30.00% हो गई।
  • कोड जनरेशन में, विधि ने औसत सटीकता को 46.44% से बढ़ाकर 48.65% कर दिया।
• एब्लेशन अध्ययन (Ablation Studies):
  • रिट्रीवल की आवश्यकता: रैंडमली संकेतकों का चयन करने से प्रदर्शन में गिरावट आई, जिससे पुष्टि हुई कि बाधाओं (constraints) की सिमेंटिक प्रासंगिकता अत्यंत महत्वपूर्ण है।
  • इटरेशन बजट: $T_{max}=3$ को इष्टतम संतुलन पाया गया; उच्च इटरेशन से घटते प्रतिफल (diminishing returns) या ओवर-करेक्शन की स्थिति उत्पन्न हुई।
  • डीडुप्लिकेशन: डीडुप्लिकेशन चरण को हटाने से प्रदर्शन कम हो गया, जो एक विविध, गैर-अनावश्यक इंडिकेटर पूल की आवश्यकता को रेखांकित करता है।
• अनुकूलन क्षमता (Adaptability): सिस्टम हस्तक्षेप की तीव्रता को गतिशील रूप से नियंत्रित करता है। सरल कार्य (जैसे, GSM8K) अक्सर पहले प्रयास में ही पास हो जाते हैं, जबकि जटिल कार्य (जैसे, AIME) को कई परिशोधन दौरों की आवश्यकता होती है या वे अस्वीकृत हो जाते हैं, जो कार्य की कठिनाई मूल्यांकन के रूप में कार्य करता है।

5. महत्व (Significance)

AgentDropoutV2 मल्टी-एजेंट सिस्टम्स में स्थिर संरचनात्मक इंजीनियरिंग से गतिशील, रनटाइम त्रुटि प्रबंधन की ओर एक महत्वपूर्ण बदलाव का प्रतिनिधित्व करता है।

• दक्षता: यह महंगे फाइन-ट्यूनिंग की आवश्यकता को समाप्त करता है, एक "एक बार बनाएं, कहीं भी तैनात करें" प्रतिमान प्रदान करता है जहाँ विफलता पैटर्न का एक ज्ञान आधार विभिन्न मॉडलों और कार्यों की निगरानी कर सकता है।
• विश्वसनीयता: एक सक्रिय फायरवॉल के रूप में कार्य करके, यह सुनिश्चित करता है कि MAS की सामूहिक बुद्धिमत्ता व्यक्तिगत मतिभ्रम (hallucinations) या तार्किक त्रुटियों से बाधित न हो।
• स्केलेबिलिटी: यह फ्रेमवर्क मॉडल-अज्ञेइक (model-agnostic) है और इसे मौजूदा MAS इंफ्रास्ट्रक्चर (जैसे AutoGen) में एक प्लग-एंड-प्ले सुरक्षा परत के रूप में एकीकृत किया जा सकता है, जो इसे कठोर तर्क की आवश्यकता वाले वास्तविक दुनिया के अनुप्रयोगों, जैसे स्वचालित सॉफ्टवेयर विकास और वैज्ञानिक खोज के लिए अत्यधिक उपयोगी बनाता है।