Black-Box Optimization of Mixed Binary-Continuous Variables: Challenges and Opportunities in Evolutionary Model Merging

तकनीकी सारांश: इवोल्यूशनरी मॉडल मर्जिंग में मिश्रित बाइनरी-सतत चरों का ब्लैक-बॉक्स अनुकूलन

समस्या की परिभाषा
यह शोध पत्र इवोल्यूशनरी मॉडल मर्जिंग (Evolutionary Model Merging), विशेष रूप से डेटा फ्लो स्पेस (DFS) के भीतर निहित अनुकूलन चुनौतियों को संबोधित करता है। जबकि मॉडल मर्जिंग, लार्ज लैंग्वेज मॉडल्स (LLMs) को शून्य से प्रशिक्षित करने के एक लागत प्रभावी विकल्प के रूप में कार्य करती है, इवोल्यूशनरी एल्गोरिदम का उपयोग करके इष्टतम मर्जिंग कॉन्फ़िगरेशन के लिए स्वचालित खोज अभी भी अपर्याप्त रूप से समझी गई है। लेखक पहचानते हैं कि DFS मर्जिंग एक जटिल खोज स्थान (search space) से जुड़ी है जिसमें शामिल हैं:

1. मिश्रित बाइनरी-सतत चर (Mixed Binary-Continuous Variables): समस्या को एक साथ असतत निर्णयों (कौन से लेयर्स शामिल किए जाने हैं, जिसे बाइनरी वेक्टर $z$ द्वारा दर्शाया गया है) और सतत मापदंडों (चुने गए लेयर्स के लिए स्केलिंग वेट्स, जिसे वेक्टर $x$ द्वारा दर्शाया गया है) को अनुकूलित करने की आवश्यकता होती है।
2. उच्च आयामीता (High Dimensionality): आधुनिक LLMs में कई मॉडल्स के सैकड़ों लेयर्स शामिल होते हैं, जो हजारों आयामों वाले खोज स्थानों का निर्माण करते हैं।
3. सशर्त निर्भरता (Conditional Dependencies - Type-I Interaction): एक महत्वपूर्ण संरचनात्मक चुनौती जहाँ सतत चरों की प्रभावी आयामीता पूरी तरह से बाइनरी कॉन्फ़िगरेशन पर निर्भर करती है। यदि कोई लेयर नहीं चुनी जाती है ($z_{i,j}=0$), तो उसके संगत स्केलिंग वेट ($x_{i,j}$) ऑब्जेक्टिव फंक्शन के लिए अप्रासंगिक हो जाते हैं।

लेखक तर्क देते हैं कि मानक ब्लैक-बॉक्स अनुकूलन विधियाँ, जैसे कि CMA-ES, इस समस्या के लिए अनुपयुक्त हैं क्योंकि वे मुख्य रूप से सतत चरों के लिए डिज़ाइन की गई हैं और इन मिश्रित-चर इंटरैक्शन और सशर्त निर्भरताओं को समझने में विफल रहती हैं।

कार्यप्रणाली और सूत्रीकरण (Methodology and Formulation)
लेखक DFS मर्जिंग समस्या को मिश्रित बाइनरी-सतत चरों वाले एक ब्लैक-बॉक्स अनुकूलन समस्या के रूप में औपचारिक रूप से वर्णित करते हैं। इसका उद्देश्य एक फलन $f(x, z)$ को न्यूनतम करना है जो लक्षित कार्य (target task) पर मर्ज किए गए मॉडल के प्रदर्शन को दर्शाता है, जिसके अधीन है:

• $z \in \{0, 1\}^m$ (बाइनरी लेयर चयन)
• $x \in \mathbb{R}^n$ (सतत स्केलिंग वेट्स)

सूत्रीकरण स्पष्ट रूप से Type-I इंटरैक्शन (जैसा कि अकीमोटो एट अल. [11] द्वारा परिभाषित किया गया है) को उजागर करता है, जहाँ सक्रिय सतत आयाम बाइनरी वेक्टर पर सशर्त होते हैं। शोध पत्र दो दृष्टिकोणों के बीच अंतर करता है:

• अनस्ट्रक्चर्ड DFS (Unstructured DFS): इसे एक जेनेरिक ब्लैक-बॉक्स खोज के रूप में मानता है, जो चयन स्थिति की परवाह किए बिना सभी पैरामीटर समूहों को अनुकूलित करता है, जिससे अप्रासंगिक आयामों पर मूल्यांकन व्यर्थ होता है।
• स्ट्रक्चर्ड DFS (Structured DFS): यह सशर्त निर्भरता का सम्मान करता है, जो पहले सक्रिय लेयर्स का चयन करता है ( $z$ को अनुकूलित करना) और फिर केवल उन्हीं चयनित लेयर्स के लिए स्केलिंग वेट्स को अनुकूलित करता है ($x|z$ को अनुकूलित करना)।

प्रमुख योगदान

1. संरचित सर्वेक्षण (Structured Survey): शोध पत्र मौजूदा इवोल्यूशनरी मॉडल मर्जिंग तकनीकों को तीन अलग-अलग समूहों में वर्गीकृत करता है: पैरामीटर-स्पेस (PS) मर्जिंग, डेटा फ्लो स्पेस (DFS) मर्जिंग, और हाइब्रिड दृष्टिकोण।
2. औपचारिक लक्षण वर्णन (Formal Characterization): यह DFS मर्जिंग समस्या को मिश्रित बाइनरी-सतत ब्लैक-बॉक्स अनुकूलन समस्या के रूप में पहला औपचारिक विवरण प्रदान करता है, जो उन सशर्त निर्भरताओं की स्पष्ट पहचान करता है जो मानक सॉल्वर को बाधित करती हैं।
3. समुदायों को जोड़ना (Bridging Communities): यह कार्य मॉडल मर्जिंग समुदाय को व्यापक इवोलसीय कंप्यूटेशन और ब्लैक-बॉक्स अनुकूलन साहित्य से जोड़ता है, विशेष रूप से CatCMA और ICatCMA जैसे एल्गोरिदम की प्रासंगिकता को रेखांकित करता है (जो समान इंटरैक्शन चुनौतियों को संबोधित करते हैं) को मॉडल मर्जिंग के संदर्भ में उजागर करता है।

प्रायोगिक परिणाम
लेखकों ने 15-प्रश्नों के बेंचमार्क पर दो प्री-ट्रेन्ड मॉडल्स (google/flan-t5-small और declare-lab/flan-alpaca-large) का उपयोग करके प्रारंभिक अनुभवजन्य सत्यापन (empirical validation) किया। उन्होंने 10 इटरेशन के दौरान एक अनस्ट्रक्चर्ड DFS दृष्टिकोण की तुलना स्ट्रक्चर्ड DFS दृष्टिकोण से की:

• सटीकता (Accuracy): स्ट्रक्चर्ड DFS दृष्टिकोण ने 26.7% सटीकता प्राप्त की, जो बेसलाइन (मॉडल A अकेले) के बराबर थी, जबकि अनस्ट्रक्चर्ड DFS दृष्टिकोण घटकर 20.0% रह गया। यह अनस्ट्रक्चर्ड विधि की तुलना में 6.7% का सुधार है।
• खोज दक्षता (Search Efficiency): स्ट्रक्चर्ड दृष्टिकोण ने प्रभावी खोज स्थान को 51.4% कम कर दिया। जहाँ अनस्ट्रक्चर्ड विधि ने प्रत्येक इटरेशन में सभी 192 पैरामीटर समूहों को संशोधित किया, वहीं स्ट्रक्चर्ड विधि ने प्रति इटरेशन औसतन 93.3 लेयर्स पर ध्यान केंद्रित किया।
• गतिशील आयामीता (Dynamic Dimensionality): प्रयोगों ने पुष्टि की कि सक्रिय लेयर्स की संख्या इटरेशन के दौरान गतिशील रूप से बदलती रही (53 से 125 तक), जो इस परिकल्पना की पुष्टि करती है कि प्रभावी सतत आयामीता बाइनरी कॉन्फ़िगरेशन के आधार पर बदलती है।

महत्व और दावे
शोध पत्र का दावा है कि पहचानी गई अनुकूलन चुनौतियाँ—विशेष रूप से सशर्त निर्भरताओं के साथ मिश्रित बाइनरी-सतत संरचना—केवल मॉडल मर्जिंग तक सीमित नहीं हैं, बल्कि किसी भी ऐसे डोमेन में उत्पन्न होती हैं जहाँ ब्लैक-बॉक्स सेटिंग में कॉम्बिनेटोरियल और सतत चरों को एक साथ अनुकूलित करने की आवश्यकता होती है (जैसे, न्यूरल आर्किटेक्चर सर्च, ड्रग डिस्कवरी)।

लेखक अपने कार्य को निम्नलिखित के लिए एक आधार के रूप में प्रस्तुत करते हैं:

• यह समझाना कि वर्तमान इवोल्यूशनरी मॉडल मर्जिंग दृष्टिकोण (जो अक्सर इन संरचनात्मक गुणों को अनदेखा करते हैं) क्यों अक्षम या उप-इष्टतम हो सकते हैं।
• वार्म-स्टार्टिंग और हाइपर-रिप्रेजेंटेशन तकनीकों के साथ उन्नत मिश्रित-चर अनुकूलकों (जैसे ICatCMA) के अनुप्रयोग को प्रेरित करना।
• भविष्य के अनुसंधान दिशाओं का प्रस्ताव करना, जिसमें लेयर चयन के लिए CatCMA को अनुकूलित करना, मिश्रित-चर DFS खोज के लिए सैद्धांतिक अभिसरण गारंटी (convergence guarantees) विकसित करना, और सरोगेट-असिस्टेड सर्च का उपयोग करके इन विधियों को बड़े मॉडल्स (जैसे, 7B पैरामीटर्स) तक स्केल करना शामिल है।

लेखक अपने वर्तमान निष्कर्षों के संबंध में विनम्र बने हुए हैं, यह स्वीकार करते हुए कि यह अध्ययन प्रारंभिक है, छोटे मॉडल्स (76M–247M पैरामीटर्स) का उपयोग करता है, और पूर्ण इवोल्यूशनरी एल्गोरिदम के बजाय रैंडम सैंपलिंग पर निर्भर करता है। वे अपने परिणामों को सैद्धांतिक सूत्रीकरण के अनुभवजन्य सत्यापन के रूप में देखते हैं, जो बड़े पैमाने पर भविष्य के कार्यों को प्रेरित करता है।