तकनीकी सारांश: MAGE – मल्टी-कंपोनेंट प्रॉम्प्ट ऑप्टिमाइज़ेशन में स्टेबिलिटी-परफॉरमेंस ट्रेड-ऑफ को समझना

1. समस्या विवरण (Problem Statement)

यह शोध पत्र ऑटोमैटिक प्रॉम्प्ट ऑप्टिमाइज़ेशन (APO) में एक मौलिक अंतराल को संबोधित करता है: जबकि GEPA जैसे हालिया तरीकों ने प्रदर्शित किया है कि रिफ्लेक्टिव प्रॉम्प्ट इवोल्यूशन (reflective prompt evolution) रिइन्फोर्समेंट लर्निंग का मुकाबला कर सकता है, एक ही सिस्टम के भीतर कई ऑप्टिमाइज़ेशन कंपोनेंट्स के बीच की इंटरैक्शन डायनेमिक्स अभी भी कम समझ में आती है। अधिकांश पूर्व कार्य सिंगल-सीड पीक परफॉरमेंस रिपोर्ट करते हैं, जो स्पष्ट रूप से ऑप्टिमाइज़ेशन को डिटरमिनिस्टिक (deterministic) मानते हैं। हालाँकि, वास्तविक दुनिया के पाइपलाइन मेमोरी, सिलेक्शन और इवैल्यूएशन को इटरेटिव लूप्स में जोड़ते हैं, जिससे युग्मित स्टोकेस्टिक सिस्टम (coupled stochastic systems) बनते हैं जहाँ मीन परफॉरमेंस और वेरिएंस दोनों कंपोनेंट इंटरैक्शन द्वारा संयुक्त रूप से निर्धारित होते हैं।

लेखक यह तर्क देते हैं कि घटकों का अलग-अलग विश्लेषण करना सिस्टम के व्यवहार की भविष्यवाणी करने में विफल रहता है। विशेष रूप से, वे जांचते हैं कि कई स्टोकेस्टिक ऑप्टिमाइज़ेशन सिग्नल्स (एपिसोडिक मेमोरी, मल्टी-ऑब्जेक्टिव सिलेक्शन, और अडैप्टिव इवैल्यूएशन) को संयोजित करने से प्रदर्शन और स्थिरता दोनों कैसे प्रभावित होते हैं। एक महत्वपूर्ण व्यावहारिक प्रश्न भी उठाया गया है: लो-डेटा रेजिम्स (low-data regimes) में, क्या ऑप्टिमाइज़्ड प्रॉम्प्ट वास्तव में मजबूत, अच्छी तरह से डिज़ाइन किए गए फिक्स्ड प्रॉम्प्ट्स से बेहतर प्रदर्शन करते हैं, या क्या "स्कैफोल्ड" (प्रॉम्प्ट स्ट्रक्चर) "ऑप्टिमाइज़र" पर हावी रहता है?

2. कार्यप्रणाली: MAGE फ्रेमवर्क (Methodology: The MAGE Framework)

लेखक MAGE (मेमोरी-ऑगमेंटेड गोल-डायरेक्टेड प्रॉम्प्ट इवोल्यूशन) को पूर्ण रूप से एक श्रेष्ठ ऑप्टिमाइज़र के रूप में नहीं, बल्कि कंपोनेंट इंटरैक्शन का अध्ययन करने के लिए एक नियंत्रित विश्लेषण फ्रेमवर्क के रूप में पेश करते हैं। MAGE, GEPA बैकबोन (जो फेलियर-ग्राउंडेड रिफ्लेक्शन का उपयोग करता है) पर आधारित है और उनके प्रभावों को अलग करने के लिए तीन विशिष्ट तंत्रों को एकीकृत करता है:

1. एपिसोडिक मेमोरी (Episodic Memory): टास्क एम्बेडिंग्स, सर्वश्रेष्ठ पाए गए प्रॉम्प्ट्स, रिफ्लेक्शन ट्रेसेस और स्कोर वेक्टर्स का एक स्टोर बनाए रखता है। एक नए कार्य के लिए, यह प्रोपोज़र को इन-कॉन्टेक्स्ट उदाहरण प्रदान करने के लिए कोसाइन सिमिलरिटी के माध्यम से टॉप-$\kappa$ प्रविष्टियों को रिट्रीव करता है, जिससे क्रॉस-टास्क रेगुलराइजेशन आता है।
2. मल्टी-ऑब्जेक्टिव पारेटो सिलेक्शन (Multi-objective Pareto Selection): यह एक स्केलर ऑब्जेक्टिव के बजाय एक मल्टी-ऑब्जेक्टिव दृष्टिकोण का उपयोग करता है जो एक्यूरेसी, ब्रेविटी (नेगेटिव टोकन काउंट) और सेफ्टी के लिए ऑप्टिमाइज़ करता है। सिस्टम प्रत्येक इटरेशन पर एक नॉन-डोमिनेटेड फ्रंट बनाए रखता है। लेखक एक महत्वपूर्ण पारेटो डायवर्सिटी थ्रेशोल्ड की पहचान करते हैं: एक कैंडिडेट पूल साइज ($n$) का 3 होना सार्थक पारेटो प्रेशर के लिए अपर्याप्त है, जबकि $n=5$ एक सूचनात्मक फ्रंट बनाता है।
3. एन्सेम्बल-एंकरड अडैप्टिव इवैल्यूएटर (Ensemble-Anchored Adaptive Evaluator): इटरेशन्स के दौरान इवैल्यूएटर ड्रिफ्ट को रोकने के लिए, सिस्टम एक एक्सपोनेंशियलली डिकेइंग एंकर ($\alpha_t$) का उपयोग करके एक फिक्स्ड इवैल्यूएटर ($E_{fix}$) के विरुद्ध एक अडैप्टिव इवैल्यूएटर ($E_{adp}$) को कैलिब्रेट करता है। यह बायस संचय को सीमित करता है जबकि सिस्टम को विशिष्ट कार्य बारीकियों के अनुकूल होने की अनुमति देता है।

प्रायोगिक सेटअप (Experimental Setup):

• बेंचमार्क्स: GSM8K-Hard (80 उदाहरण, 30 ट्रेन/50 टेस्ट) और BBH-Logic-Hard (80 उदाहरण, 30 ट्रेन/50 टेस्ट)।
• मॉडेल्स: प्राथमिक प्रयोग gpt-4o-mini पर; वैलिडेशन Llama 3.1 8B और एक ऑन-डिवाइस deepseek-r1:1.5b पर।
• बेसलाइन्स: OPRO (स्कोर-ओनली), Self-Refine (एब्स्ट्रैक्ट क्रिटीक), MIPROv2+CoT (एक स्कैफोल्ड पर बायेसियन ऑप्टिमाइज़र) और GEPA (फेलियर-ग्राउंडेड रिफ्लेक्शन)।
• कंट्रोल्स: फिक्स्ड प्रॉम्प्ट अपर बाउंड्स (जैसे, CoT-math) का मूल्यांकन स्कैफोल्ड गेन्स को ऑप्टिमाइज़र गेन्स से अलग करने के लिए किया जाता है।

3. मुख्य निष्कर्ष और योगदान (Key Findings and Contributions)

प्रॉम्प्ट ऑप्टिमाइज़ेशन कपलिंग इफेक्ट (The Prompt Optimization Coupling Effect - POCE)

केंद्रीय खोज प्रॉम्प्ट ऑप्टिमाइज़ेशन कपलिंग इफेक्ट (POCE) है: जब कई स्टोकेस्टिक ऑप्टिमाइज़ेशन सिग्नल्स एक क्लोज्ड रिफ्लेक्टिव लूप के भीतर काम करते हैं, तो वे गैर-योगात्मक (non-additive) तरीकों से इंटरैक्ट करते हैं। यह इंटरैक्शन प्रदर्शन में सुधार करने के साथ-साथ वेरिएंस को इस तरह बढ़ाता है जिसकी भविष्यवाणी घटकों का अलग-अलग विश्लेषण करके नहीं की जा सकती।

• साक्ष्य: कैंडिडेट पूल को $n=3$ से बढ़ाकर $n=5$ करने से मीन एक्यूरेसी में +21.6% का सुधार हुआ लेकिन वेरिएंस 3.7× बढ़ गया।
• निहितार्थ: वेरिएंस केवल शोर (noise) नहीं है; यह युग्मित सिस्टम का एक संरचनात्मक गुण है। केवल मीन एक्यूरेसी रिपोर्ट करना व्यवस्थित रूप से भ्रामक है।

घटक अनिवार्यता और विफलता मोड (Component Necessity and Failure Modes)

• फेलियर-ग्राउंडेड रिफ्लेक्शन अनिवार्य है: केवल स्कोर (OPRO) या एब्स्ट्रैक्ट क्रिटीक (Self-Refine) पर निर्भर रहने वाले तरीके प्रॉम्प्ट में सुधार करने में विफल रहते हैं। OPRO सीड प्रॉम्प्ट पर ही अटका रहता है, जबकि Self-Refine परफॉरमेंस को सक्रिय रूप से कम करता है (GSM8K-Hard पर 33.3% से गिरकर 16.7% हो जाता है) क्योंकि अनग्राउंडेड क्रिटीक्स वैध रणनीतियों को ठीक करने के बजाय उन्हें ओवरराइट कर देते हैं।
• स्कैफोल्ड डोमिनेंस (Scaffold Dominance): लो-डेटा रेजिम्स ($N_{train}=30$) में, मजबूत फिक्स्ड प्रॉम्प्ट्स (जैसे, CoT-math 70.0% पर) सभी रिफ्लेक्टिव ऑप्टिमाइज़र्स से बेहतर प्रदर्शन करते हैं। यहाँ तक कि MIPROv2, जो एक CoT स्कैफोल्ड पर लागू किया गया था, ने -2.2% का रिग्रेशन दिखाया, जो इंगित करता है कि इन सेटिंग्स में स्कैफोल्ड का चुनाव ऑप्टिमाइज़र के चुनाव से अधिक महत्वपूर्ण है।
• हेडरूम डिपेंडेंस (Headroom Dependence): POCE, ऑप्टिमाइज़ेशन हेडरूम पर निर्भर है। Llama 3.1 8B पर, जहाँ सीड एक्यूरेसी पहले से ही उच्च (~70%) थी, वेरिएंस एम्प्लीफिकेशन गायब हो गया, और ऑप्टिमाइज़र्स समान प्रॉम्प्ट्स पर अभिसरित (converge) हुए।

प्रदर्शन परिणाम (Performance Results)

• GSM8K-Hard: MAGE (फुल) ने 46.4% ± 7.3% प्राप्त किया, जो GEPA के 34.0% ± 7.0% (+12.4%, $P=0.998$) से काफी बेहतर है।
• BBH-Logic-Hard: MAGE वेरिएंट्स ने लगातार GEPA को पछाड़ दिया, जिसमें MAGE-E ने सबसे कम वेरिएंस के साथ 81.6% प्राप्त किया (GEPA के 79.2% के मुकाबले)।
• ऑन-डिवाइस वैलिडेशन: टूल सिलेक्शन के लिए 1.5B मॉडल पर लागू किया गया, MAGE 2.0 ± 0.0 इटरेशन (100% कन्वर्जेंस रेट) में अभिसरित हुआ और 0.95 ± 0.03 टूल-सिलेक्शन एक्यूरेसी के साथ, एडवरसेरियल रूप से डिज़ाइन किए गए प्रॉम्प्ट्स को सफलतापूर्वक हल किया।

4. महत्व और दावे (Significance and Claims)

यह शोध पत्र तर्क देता है कि प्रॉम्प्ट ऑप्टिमाइज़ेशन सिस्टम का मूल्यांकन डिटरमिनिस्टिक एल्गोरिदम के बजाय युग्मित स्टोकेस्टिक प्रक्रियाओं (coupled stochastic processes) के रूप में किया जाना चाहिए।

• इवैल्यूएशन मेट्रिक शिफ्ट: लेखक दावा करते हैं कि वेरिएंस को मीन एक्यूरेसी के साथ एक प्रथम-श्रेणी के इवैल्यूएशन मेट्रिक के रूप में माना जाना चाहिए। सिंगल-सीड रिपोर्टिंग एक "लकी पीक" कैप्चर करने का जोखिम उठाती है न कि एक विश्वसनीय मीन। वे मूल्यांकन के लिए न्यूनतम 5 सीड्स की सिफारिश करते हैं।
• व्यावहारिक मार्गदर्शन: पेपर एक डिप्लॉयमेंट गाइड (टेबल 3) प्रदान करता है जो विशिष्ट MAGE वेरिएंट्स को परिदृश्यों से जोड़ता है:
  • हाई-स्टेबिलिटी, लो-कंप्यूट जरूरतों के लिए MAGE-E।
  • अधिकतम मीन परफॉरमेंस के लिए जहाँ मध्यम वेरिएंस स्वीकार्य है, MAGE (full)।
  • केवल तभी MAGE-P का उपयोग करें जब कैंडिडेट पूल बड़ा ($n \ge 5$) हो ताकि पारेटो प्रेशर ट्रिगर हो सके।
• दावों पर विनम्रता: लेखक स्पष्ट रूप से कहते हैं कि MAGE सभी संदर्भों में मजबूत फिक्स्ड स्कैफोल्ड्स से बेहतर होने का दावा नहीं करता है। वास्तव में, वे इस बात पर जोर देते हैं कि लो-डेटा रेजिम्स में, अच्छी तरह से डिज़ाइन किए गए फिक्स्ड प्रॉम्प्ट्स अक्सर रिफ्लेक्टिव ऑप्टिमाइज़र्स से बेहतर होते हैं, एक ऐसा निष्कर्ष जिसे वे कम करने के बजाय प्रमुखता से सामने रखते हैं। मुख्य योगदान एक सार्वभौमिक रूप से श्रेष्ठ ऑप्टिमाइज़र का प्रस्ताव करने के बजाय कंपोनेंट इंटरैक्शन का नियंत्रित विश्लेषण और POCE का लक्षण वर्णन है।

संक्षेप में, यह पेपर प्रदर्शित करता है कि प्रॉम्प्ट ऑप्टिमाइज़ेशन में स्टेबिलिटी-परफॉरमेंस ट्रेड-ऑफ कंपोनेंट इंटरैक्शन का एक नॉन-लीनियर फंक्शन है, जिसके लिए इन सिस्टम्स को डिज़ाइन, मूल्यांकित और तैनात करने के तरीके में बदलाव की आवश्यकता है।