तकनीकी सारांश: HMACE – कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन के लिए हेट्रोजेनियस मल्टी-एजेंट कोलाबोरेटिव इवोल्यूशन

1. समस्या विवरण

कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन प्रॉब्लम्स (COPs), जैसे कि ट्रैवलिंग सेल्समैन प्रॉब्लम (TSP), व्हीकल रूटिंग प्रॉब्लम (VRP), और बिन पैकिंग प्रॉब्लम (BPP), मौलिक हैं लेकिन NP-hard हैं, जिससे बड़े पैमाने पर इष्टतम समाधान खोजना कम्प्यूटेशनल रूप से अत्यधिक कठिन हो जाता है। जबकि पारंपरिक ह्यूरिस्टिक्स (heuristics) महंगे, हाथ से बनाए गए नियमों पर निर्भर करते हैं, हाल के लार्ज लैंग्वेज मॉडल (LLM) दृष्टिकोणों ने ह्यूरिस्टिक डिज़ाइन को स्वचालित करने का प्रयास किया है। हालाँकि, मौजूदा LLM-आधारित विधियों को दो संरचनात्मक बाधाओं का सामना करना पड़ता है:

1. असमय अभिसरण (Premature Convergence): मोनोलिथिक वर्कफ़्लो में अक्सर संरचित अन्वेषण तंत्रों (जैसे व्यवस्थित बैकट्रैकिंग) की कमी होती है, जिससे वे लोकल ऑप्टिमा (local optima) में फंस जाते हैं।
2. भूमिका हस्तक्षेप (Role Interference): एक ही एजेंट को विषम संज्ञानात्मक कार्यों (योजना बनाना, पीढ़ी, मूल्यांकन, शोधन) को करने के लिए मजबूर करने से संज्ञानात्मक उलझाव पैदा होता है और प्रदर्शन गिर जाता है।

वर्तमान मल्टी-एजेंट प्रयास अक्सर संचार ओवरहेड से ग्रस्त होते हैं या उनमें विशिष्ट संज्ञानात्मक फोकस की कमी होती है, जिससे वे मजबूत सिंगल-एजेंट बेसलाइन से बेहतर प्रदर्शन करने में विफल रहते हैं। मुख्य चुनौती एक स्वायत्त, भूमिका-विशिष्ट और मेमोरी-अवेयर आर्किटेक्चर डिजाइन करना है जो तर्क (reasoning) और खोज (search) को प्रभावी ढंग से समन्वित कर सके।

2. कार्यप्रणाली: HMACE फ्रेमवर्क

लेखक HMACE (हेट्रोजेनियस मल्टी-एजेंट कोलाबोरेटिव इवोल्यूशन) प्रस्तावित करते हैं, जो ह्यूरिस्टिक सर्च को एक संगठनात्मक डिज़ाइन समस्या के रूप में पुनर्कल्पित करता है। एक मोनोलिथिक जनरेशन प्रक्रिया के बजाय, HMACE प्रत्येक इवोल्यूशनरी जनरेशन को एक आर्काइव-बैकड मेमोरी के माध्यम से संचार करने वाले चार विशिष्ट एजेंटों के सहयोगी लूप में विभाजित करता है:

• प्रपोजर (Proposer): प्राकृतिक भाषा में रणनीति उम्मीदवारों का मसौदा तैयार करता है। यह वर्तमान जनसंख्या पर आधारित होता है और आर्काइव से विविध उदाहरणों (exemplars) को प्राप्त करता है ताकि यह सुनिश्चित हो सके कि प्रस्ताव एक ही प्रमुख परिवार को परिष्कृत करने के बजाय विभिन्न खोज पैटर्न को जोड़ते या विरोधाभास दिखाते हैं।
• जेनेरेटर (Generator): प्रस्तावित प्राकृतिक-भाषा रणनीतियों को निष्पादनीय पायथन कोड (ह्यूरिस्टिक्स) में अनुवादित करता है जो समस्या के I/O अनुबंध का सख्ती से पालन करते हैं।
• इवैल्यूएटर (Evaluator): उम्मीदवार ह्यूरिस्टिक्स को प्रशिक्षण इंस्टेंस पर निष्पादित करता है ताकि दो संकेत प्राप्त किए जा सकें:
  • फिटनेस ($f_h$): एक स्केलर स्कोर जो समाधान की गुणवत्ता (जैसे, इष्टतमता अंतराल/optimality gap) को मापता है।
  • व्यवहार वेक्टर ($\phi_h$): एक उच्च-आयामी डिस्क्रिप्टर जो निष्पादन के दौरान ह्यूरिस्टिक कैसे व्यवहार करता है (जैसे, रनटाइम सांख्यिकी, संरचनात्मक विशेषताएं) इसका वर्णन करता है।
• रिफ्लेक्टर (Reflector): साझा मेमोरी (आर्काइव) का प्रबंधन करता है और खोज का मार्गदर्शन करता है। यह निम्नलिखित कार्य करता है:
  • व्यवहार-जागरूक पुनर्प्राप्ति (Behavior-Aware Retrieval): प्रपोजर को कंडीशन करने के लिए अलग-अलग व्यवहारिक निश (niches) से विविध उदाहरणों का चयन करता है।
  • आर्काइव अपडेट: कवरेज सुनिश्चित करने के लिए प्रत्येक व्यवहारिक सेल के लिए सर्वश्रेष्ठ इंकंबेंट (incumbent) को संग्रहीत करने के लिए CVT-MAP-Elites संरचना का उपयोग करता है।
  • फिल्टरिंग: महंगे मूल्यांकन से पहले, एक हल्का नियत (deterministic) फ़िल्टर त्रुटिपूर्ण या लगभग समान प्रोग्रामों को हटा देता है ताकि LLM बजट को बचाया जा सके।

वर्कफ़्लो: सिस्टम पीढ़ियों (generations) के माध्यम से पुनरावृत्ति करता है। रिफ्लेक्टर विविध उदाहरण प्राप्त करता है; प्रपोजर रणनीतियों का मसौदा तैयार करता है; जेनेरेटर उन्हें कोड में बदलता है; इवैल्यूएटर उन्हें स्कोर देता है; और रिफ्लेक्टर जनसंख्या और आर्काइव को अपडेट करता है। प्रक्रिया तब समाप्त होती है जब जनरेशन बजट समाप्त हो जाता है या एक निश्चित संख्या तक कोई सुधार नहीं देखा जाता है।

3. मुख्य योगदान

1. ह्यूरिस्टिक डिज़ाइन के लिए संगठनात्मक दृष्टिकोण: HMACE एक हेट्रोजेनियस मल्टी-एजेंट इवोल्यूशनरी फ्रेमवर्क पेश करता है जो खोज प्रक्रिया को विशिष्ट भूमिकाओं (प्रपोजर, जेनेटर, इवैल्यूएटर, रिफ्लेक्टर) में विभाजित करता है, जो मोनोलिथिक LLM-संचालित वर्कफ़्लो से आगे बढ़ता है।
2. दोहरा-संकेत प्रतिबिंब तंत्र (Dual-Signal Reflection Mechanism): फ्रेमवर्क एक नवीन प्रतिबिंब तंत्र को एकीकृत करता है जो व्यवहार-जागरूक पुनर्प्राप्ति और फिटनेस-आधारित आर्काइव अपडेट के माध्यम से ऐतिहासिक प्रक्षेप पथों (trajectories) का लाभ उठाता है। यह एजेंटों को विविध व्यवहारिक निशों का पता लगाकर स्थानीय ऑप्टिमा से बचने में सक्षम बनाता है।
3. गुणवत्ता-दक्षता ट्रेड-ऑफ: व्यापक प्रयोग प्रदर्शित करते हैं कि HMACE अत्याधुनिक सिंगल-एजेंट और मल्टी-एजेंट बेसलाइन की तुलना में काफी कम कम्प्यूटेशनल लागत (टोकन और समय) के साथ बेहतर समाधान गुणवत्ता प्राप्त करता है।

4. प्रयोगात्मक परिणाम

फ्रेमवर्क का मूल्यांकन चार प्रतिनिधि COPs पर किया गया: TSP, ऑनलाइन बिन पैकिंग प्रॉब्लम (Online BPP), मल्टीपल नैपसैक प्रॉब्लम (MKP), और परम्यूटेशन फ्लो-शॉप शेड्यूलिंग (PFSP)।

• प्रदर्शन: HMACE ने GPT-5.4 द्वारा मूल्यांकित विधियों में सबसे कम औसत इष्टतमता अंतराल (optimality gaps) प्राप्त किया।
  • TSP: औसत अंतराल 0.387% (CORAL के 0.431% और EoH के 0.467% के मुकाबले)।
  • Online BPP: औसत अंतराल 0.441% (12/15 सेटिंग्स में MoH से बेहतर)।
  • PFSP और MKP: HMACE ने अनुकूल गुणवत्ता-दक्षता ट्रेड-ऑफ दिखाया, जो अक्सर प्रतिस्पर्धी ऑब्जेक्टिव मानों को बनाए रखते हुए रनटाइम और टोकन उपयोग को काफी कम कर देता है।
• दक्षता: HMACE ने असाधारण टोकन दक्षता प्रदर्शित की।
  • TSP के लिए, इसे केवल 0.13M टोकन की आवश्यकता थी (CORAL के 0.94M के मुकाबले)।
  • Online BPP के लिए, इसे 0.42M टोकन की आवश्यकता थी (CORAL के 5.48M के मुकाबले)।
• एब्लेशन अध्ययन (Ablation Studies): व्यवहार-जागरूक पुनर्प्राप्ति को हटाने (रैंडम सैंपलिंग से बदलने) से समाधान की गुणवत्ता गिर गई, जो लक्षित व्यवहारिक पूर्वग्रहों (behavioral priors) के महत्व की पुष्टि करती है। हल्के स्क्रीनिंग चरण को हटाने से बिना आनुपातिक गुणवत्ता लाभ के टोकन लागत बढ़ गई।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि वर्तमान LLM-आधारित सॉल्वर की प्राथमिक बाधा केवल मॉडल क्षमता नहीं है, बल्कि तर्क और खोज को समन्वित करने के लिए एक उपयुक्त संगठनात्मक संरचना की कमी है।

• मोनोलिथिक एजेंटों से परे: HMACE प्रदर्शित करता है कि समस्या-समाधान को विशिष्ट, इंटरैक्टिव भूमिकाओं में अलग करने से भूमिका हस्तक्षेप मजबूती से समाप्त हो जाता है और विविध अन्वेषण सक्षम होता है।
• खोज तंत्र के रूप में मेमोरी: लेखक तर्क देते हैं कि HMACE में प्रतिबिंब केवल मौखिक आलोचना नहीं है बल्कि एक परिचालन मेमोरी तंत्र (operational memory mechanism) है। फिटनेस-संचालित शोषण (exploitation) को व्यवहार-स्थान अन्वेषण (exploration) के साथ जोड़कर, फ्रेमवर्क समयपूर्व अभिसरण को कम करता है।
• लागत-प्रभावी खोज: परिणाम बताते हैं कि एक सहयोगी विकासवादी वर्कफ़्लो सिंगल-एजेंट दृष्टिकोणों की तुलना में अधिक कुशलता से पुन: प्रयोज्य, उच्च-गुणवत्ता वाले ह्यूरिस्टिक्स की खोज कर सकता है, जिससे समाधान की गुणवत्ता और API टोकन लागत के बीच एक अनुकूल संतुलन प्राप्त होता है।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि फ्रेमवर्क एक पूर्व-निर्धारित, चरणबद्ध पाइपलाइन पर निर्भर करता है और दीर्घकालिक मेमोरी को स्केल करने के लिए सूचना ओवरलोड को रोकने के लिए डायनेमिक क्यूरेशन की आवश्यकता होती है। वे HMACE को क्लासिकल COPs से परे, जैसे कि निरंतर अनुकूलन (continuous optimization) जैसी जटिल वास्तविक दुनिया की चुनौतियों को संबोधित करने की दिशा में एक कदम के रूप में देखते हैं।