💬 NLP

SePO: Self-Evolving Prompt Agent for System Prompt Optimization

यह शोध पत्र SePO का प्रस्ताव करता है, जो एक स्व-संदर्भित (self-referential) ढांचा है जो दो-चरणीय विकासवादी खोज (two-stage evolutionary search) के माध्यम से टास्क एजेंटों और प्रॉम्प्ट एजेंट के अपने सिस्टम प्रॉम्प्ट्स दोनों को अनुकूलित करता है, जो मौजूदा विधियों की तुलना में विविध बेंचमार्क पर बेहतर सामान्यीकरण और प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Wangcheng Tao, Han Wu, Weng-Fai Wong

प्रकाशित 2026-06-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Wangcheng Tao, Han Wu, Weng-Fai Wong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन जिद्दी रोबोट सहायक (Task Agent) है जिसे कठिन पहेलियाँ सुलझाने, कोड लिखने या गणित करने की आवश्यकता है। इस रोबोट को बेहतर बनाने के लिए, आप इसे निर्देशों का एक सेट देते हैं जिसे "सिस्टम प्रॉम्प्ट" कहा जाता है।

लंबे समय तक, इंसान ही ये निर्देश लिखते रहे हैं। यदि रोबोट विफल होता है, तो एक इंसान निर्देशों को फिर से लिखता है, दोबारा प्रयास करता है, और बेहतर परिणाम की उम्मीद करता है। कुछ नए तरीके एक "कोच" (Prompt Agent) का उपयोग करते हैं जो स्वचालित रूप से इन निर्देशों को फिर से लिखता है। लेकिन समस्या यह है: कोच के अपने निर्देश अभी भी एक इंसान द्वारा लिखे गए थे और कभी बदले नहीं गए। कोच अपने निर्देशों के एक निश्चित, हाथ से लिखे गए मैनुअल में फंसा हुआ था, चाहे वह रोबोट की मदद करने के लिए कितनी भी बार प्रयास क्यों न करे।

SePO (Self-Evolving Prompt Optimization) खेल बदल देता है क्योंकि यह कोच को खुद को कोचिंग देने की अनुमति देता है।

मुख्य विचार: कोच, कोच को कोचिंग देता है

SePO को AI निर्देश पुस्तिकाओं (instruction manuals) के लिए एक जिम की तरह समझें।

पुराना तरीका: आप एक क्लाइंट (रोबोट) को फिट होने में मदद करने के लिए एक व्यक्तिगत ट्रेनर (कोच) को काम पर रखते हैं। लेकिन ट्रेनर का अपना वर्कआउट प्लान एक इंसान द्वारा लिखा गया था और उसे कभी अपडेट नहीं किया गया। ट्रेनर क्लाइंट को मदद करने में तो बेहतर होता है, लेकिन ट्रेनर खुद कभी फिट नहीं हो पाता।
SePO का तरीका: ट्रेनर भी एक क्लाइंट है। ट्रेनर क्लाइंट को फिट होने में मदद करता है, लेकिन ट्रेनर अपने स्वयं के वर्कआउट प्लान को बेहतर बनाने के लिए उन्हीं प्रशिक्षण विधियों का उपयोग करता है। ट्रेनर न केवल क्लाइंट, बल्कि समय के साथ खुद भी अधिक स्मार्ट और मजबूत होता जाता है।

यह कैसे काम करता है: प्रशिक्षण के दो चरण

पेपर में एक दो-चरणीय प्रक्रिया का वर्णन किया गया है, जो इस तरह है जैसे इंसान कोई नया कौशल सीखते हैं:

चरण 1: "बूट कैंप" (Pre-training)
किसी विशिष्ट रोबोट की मदद करने से पहले, कोच विभिन्न प्रकार की चुनौतियों (गणित, तर्क पहेलियाँ, कोडिंग, विज्ञान) के साथ एक "बूट कैंप" में जाता है।

इस चरण में, कोच इन समस्याओं को हल करने का प्रयास करता है।
जब यह विफल होता है, तो यह अपने स्वयं के निर्देशों की आलोचना करता है, उन्हें फिर से लिखता है और फिर से प्रयास करता है।
यह अपने सबसे अच्छे निर्देशों का एक "स्क्रैपबुक" (अभिलेखागार/archive) रखता है। यदि कोई नया निर्देश पुराने वाले से बेहतर काम करता है, तो यह नए को सुरक्षित रखता है।
परिणाम: कोच निर्देशों को ठीक करने के एक सामान्य "कौशल" के साथ एक मास्टर इंस्ट्रक्टर के रूप में विकसित होता है, न कि केवल एक विशिष्ट ट्रिक को याद रखने के रूप में।

चरण 2: "विशेषज्ञ कार्य" (Fine-tuning)
अब, कोच को एक विशिष्ट कार्य (जैसे, सुडोकू हल करना) के लिए एक विशिष्ट रोबोट की मदद करने के लिए काम पर रखा जाता है।

कोच रोबोट की मदद करने के लिए अपने विकसित, सुपर-स्मार्ट निर्देशों का उपयोग करता है।
यह विशिष्ट पहेली के अनुकूल बनाने के लिए रोबोट के निर्देशों में बदलाव करता है।
चूंकि कोच ने चरण 1 में "सीखना कैसे है" यह सीखा था, इसलिए वह अपने स्वयं के मैनुअल को फिर से लिखने के लिए किसी इंसान पर निर्भर हुए बिना, नए कार्यों के अनुकूल तेजी से ढल सकता है।

यह क्यों महत्वपूर्ण है (परिणाम)

शोधकर्ताओं ने पांच बहुत अलग प्रकार की चुनौतियों पर इसका परीक्षण किया:

गणित (कठिन प्रतियोगिता प्रश्न)
अमूर्त तर्क (दृश्य पैटर्न पहेलियाँ)
विज्ञान (स्नातकोत्तर स्तर के प्रश्न)
कोडिंग (पायथन प्रोग्राम लिखना)
तर्क (सुडोकू पहेलियाँ)

उन्होंने SePO की तुलना इनसे की:

Manual-CoT: एक इंसान द्वारा निर्देश लिखना।
TextGrad: एक विधि जो निर्देशों को बदलती है लेकिन एक निश्चित, मानव-लिखित "क्रिटिक" का उपयोग करती है।
MetaSPO: एक विधि जो एक वैश्विक नियम सीखती है लेकिन फिर भी एक निश्चित मानव-लिखित ऑप्टिमाइज़र पर निर्भर करती है।

परिणाम:
SePO हर एक कार्य में जीत गया। औसतन, इसने मानव-लिखित बेसलाइन की तुलना में सटीकता में 4.49 अंक का सुधार किया।

इसने केवल उत्तरों को याद नहीं किया; इसने बेहतर निर्देश लिखने के सामान्य "कौशल" को सीखा।
यहाँ तक कि जब इसका परीक्षण एक ऐसी पहेली (सुडोकू) पर किया गया जिसे इसने अपने बूट कैंप के दौरान कभी नहीं देखा था, तब भी इसने अन्य तरीकों की तुलना में बेहतर प्रदर्शन किया। यह साबित करता है कि इसने एक हस्तांतरणीय कौशल (transferable skill) सीखा, न कि केवल एक विशिष्ट ट्रिक।

"विकासवादी उद्यान" (Evolutionary Garden) की उपमा

कल्पना कीजिए कि निर्देश एक बगीचे में पौधे हैं।

पुराने तरीके: आप बीज (निर्देश) बोते हैं और उन्हें पानी देते हैं। यदि कोई पौधा मर जाता है, तो आप बैग से एक नया बीज चुनते हैं और फिर से प्रयास करते हैं। माली (कोच) कभी नहीं बदलता।
SePO: माली भी एक पौधा है। माली बढ़ता है, विकसित होता है, और अन्य पौधों की देखभाल करते समय बेहतर होता जाता है। बगीचा सबसे अच्छे पौधों का रिकॉर्ड (अभिलेखागार) रखता है और उन्हें बेहतर पौधे उगाने के लिए सीढ़ी के रूप में उपयोग करता है। अंततः, बगीचा एक ऐसा माली पैदा करता है जो इतना कुशल है कि वह कुछ भी उगा सकता है, यहाँ तक कि वे पौधे भी जिन्हें उसने पहले कभी नहीं देखा।

सारांश

SePO इस चक्र को पूरा करता है। एक AI कोच के लिए एक निश्चित मैनुल लिखने के बजाय, SePO कोच को अपने स्वयं के मैनुल को लिखने और सुधारने की अनुमति देता है। यह कोच को एक स्थिर उपकरण से बदलकर एक सीखने वाले साथी में बदल देता है जो अनुभव के साथ स्मार्ट होता जाता है, जिससे गणित, विज्ञान, कोडिंग और तर्क पहेलियों में बेहतर प्रदर्शन होता है।

तकनीकी सारांश: SePO (Self-Evolving Prompt Optimization)

1. समस्या विवरण (Problem Statement)

वर्तमान सिस्टम प्रॉम्प्ट अनुकूलन विधियाँ मॉडल के अंतर्निहित भार (weights) को संशोधित किए बिना एजेंट के व्यवहार को सुधारने का लक्ष्य रखती हैं, जिससे मानव-पठनीय और मॉडल-अज्ञेय (model-agnostic) निर्देश उत्पन्न होते हैं। हालाँकि, मौजूदा ढाँचों में एक महत्वपूर्ण विषमता मौजूद है: जबकि टास्क एजेंट (task agent) के सिस्टम प्रॉम्प्ट को एक अनुकूलन लक्ष्य (optimization target) के रूप में माना जाता है, प्रॉम्प्ट एजेंट (prompt agent) (वह इकाई जो टास्क एजेंट के प्रॉम्प्ट को परिष्कृत करने के लिए जिम्मेदार है) हस्त-निर्मित (hand-engineered) और स्थिर रहती है।

मौजूदा दृष्टिकोण, जैसे कि विकासवादी खोज (evolutionary search) या टेक्स्टुअल-ग्रेडिएंट फ्रेमवर्क, एक ऐसे प्रॉम्प्ट एजेंट पर निर्भर करते हैं जो अधिक कार्यों का सामना करने पर बेहतर नहीं होता है। फलस्वरूप, अनुकूलन प्रक्रिया प्रॉम्प्ट एजेंट के प्रारंभिक मानवीय डिजाइन द्वारा सीमित हो जाती है और विभिन्न डोमेन में अनुकूलन कौशल को संचित या सामान्यीकृत नहीं कर सकती है। मुख्य मुद्दा यह है कि "ऑप्टिमाइज़र" स्वयं अनुकूलित नहीं है।

2. कार्यप्रणाली: SePO

लेखक सेल्फ-इवॉल्विंग प्रॉम्प्ट ऑप्टिमाइजेशन (SePO) का प्रस्ताव करते हैं, जो एक ऐसा ढांचा है जो प्रॉम्प्ट एजेंट के अपने सिस्टम प्रॉम्प्ट ( $\tilde{p}$ ) को टास्क एजेंट के प्रॉम्प्ट ( $p$ ) के साथ एक अनुकूलन लक्ष्य के रूप में मानता है। यह एक स्व-संदर्भित डिज़ाइन (self-referential design) और दो-चरणीय प्रशिक्षण पाइपलाइन के माध्यम से प्राप्त किया जाता है।

2.1 स्व-संदर्भित डिज़ाइन (Self-Referential Design)

SePO एक "प्रॉम्प्ट टास्क" को परिभाषित करता है जहाँ प्रॉम्प्ट एजेंट एक विशेष टास्क एजेंट के रूप में कार्य करता है। इसका उद्देश्य अन्य टास्क एजेंटों के प्रॉम्प्ट में सुधार करना है। टास्क एजेंट के प्रॉम्प्ट ( $p$ ) के लिए लागू किए जाने वाले समान अनुकूलन प्रक्रिया को प्रॉम्प्ट एजेंट के अपने सिस्टम प्रॉम्प्ट ( $\tilde{p}$ ) पर लागू करके, SePO एक "स्व-संदर्भित क्लोजर" (self-referential closure) बनाता है।

तंत्र (Mechanism): प्रॉम्प्ट एजेंट स्वयं की एक प्रति (copy) को परिष्कृत करता है।
विकासवादी खोज (Evolutionary Search): यह प्रक्रिया उम्मीदवार प्रॉम्प्टों के एक समूह (population) पर एक ओपन-एंडेड विकासवादी खोज का उपयोग करती है। यह उम्मीदवार प्रॉम्प्टों का एक आर्काइव (archive) बनाए रखता है, जिससे शुरुआती सफल प्रॉम्प्ट बाद के सुधारों के लिए "सीढ़ी के पत्थर" (stepping stones) के रूप में कार्य कर सकते हैं, जिससे खोज स्थानीय इष्टतम (local optima) में फंसने से बचती है।

2.2 दो-चरणीय प्रशिक्षण पाइपलाइन (Two-Stage Training Pipeline)

मानक प्री-ट्रेनिंग और फाइन-ट्यूनिंग प्रतिमान (paradigm) की नकल करते हुए, SePO अनुकूलन को दो अलग-अलग चरणों में व्यवस्थित करता है:

चरण 1: प्री-ट्रेनिंग (Self-Evolving Prompt Agent)
- लक्ष्य: व्यापक, सामान्यीकरण योग्य प्रॉम्प्ट अनुकूलन कौशल प्राप्त करने के लिए प्रॉम्प्ट एजेंट के सिस्टम प्रॉम्प्ट ( $\tilde{p}$ ) को विकसित करना।
- प्रक्रिया: प्रॉम्प्ट एजेंट एक मल्टी-टास्क पूल पर विकासवादी खोज से गुजरता है।
- कॉन्फ़िगरेशन:
  - SePO-Generalist (डिफ़ॉल्ट): मजबूती और सामान्यीकरण को अधिकतम करने के लिए विविध कार्यों के मिश्रण पर प्रशिक्षण।
  - SePO-Specialist: लक्षित फाइन-ट्यूनिंग कार्य के समान एक एकल कार्य पर प्रशिक्षण।
- परिणाम: एक एकल, विकसित प्रॉम्प्ट एजेंट ( $\tilde{p}^*$ ) जो विभिन्न परिदृश्यों में प्रॉम्प्ट को अनुकूलित करने में सक्षम है।
चरण 2: फाइन-ट्यूनिंग (Optimize Target Task Agent)
- लक्ष्य: एक विशिष्ट लक्षित कार्य एजेंट के लिए सिस्टम प्रॉम्प्ट ( $p$ ) को अनुकूलित करना।
- प्रक्रिया: विकसित प्रॉम्प्ट एजेंट (चरण 1 से) स्थिर रहता है और लक्षित टास्क एजेंट के प्रॉम्प्ट के लिए विकासवादी खोज को निर्देशित करने के लिए उपयोग किया जाता है।
- दक्षता: प्रॉम्प्ट एजेंट को स्व-विकसित करने की लागत कई फाइन-ट्यूनिंग कार्यों में विभाजित (amortized) हो जाती है, क्योंकि पूर्व-प्रशिक्षित प्रॉम्प्ट एजेंट का पुन: उपयोग किया जाता है।

3. प्रमुख योगदान (Key Contributions)

अनुकूलन लूप को बंद करना: SePO पहला तरीका है जो प्रॉम्प्ट एजेंट को स्वयं एक सीखने योग्य घटक के रूप में मानता है, जिससे एक निश्चित, हस्त-निर्मित ऑप्टिमाइज़र पर निर्भरता समाप्त हो जाती है।
स्व-संदर्भित विकास (Self-Referential Evolution): यह एक तंत्र पेश करता है जहाँ एक ही प्रक्रिया टास्क एजेंट और प्रॉम्प्ट एजेंट दोनों को परिष्कृत करती है, जिससे अनुकूलन कौशल का संचय संभव होता है।
दो-चरणीय प्रशिक्षण: प्री-ट्रेनिंग (कौशल प्राप्ति) को फाइन-ट्यूनिंग (कार्य अनुप्रयोग) से अलग करके, यह विधि ऑप्टिमाइज़र के विकास की लागत को उसके विशिष्ट कार्यों पर अनुप्रयोग से अलग करती है।
आर्काइव-आधारित खोज: आर्काइव का उपयोग करने से सिस्टम ऐतिहासिक सफलताओं को सीढ़ी के पत्थरों के रूप में उपयोग कर सकता है, जो सरल पुनरावृत्ति के बजाय ओपन-एंडेड विकास की सुविधा प्रदान करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने पांच विविध बेंचमार्क पर SePO का मूल्यांकन किया: AIME'25 (गणित), ARC-AGI-1 (अमूर्त तर्क), GPQA (स्नातक स्तर का विज्ञान), MBPP (कोड जनरेशन), और Sudoku (तर्क पहेलियाँ)।

प्रदर्शन: SePO ने लगातार तीन बेसलाइन को पीछे छोड़ दिया:
- Manual-CoT: चेन-ऑफ-थॉट के साथ हस्त-निर्मित प्रॉम्प्ट।
- TextGrad: एक निश्चित प्रॉम्प्ट ऑप्टिमाइज़र के साथ एक टेक्स्टुअल-ग्रेडिएंट फ्रेमवर्क।
- MetaSPO: एक निश्चित मेटा-ऑप्टिमाइज़र के साथ एक मेटा-लर्निंग दृष्टिकोण।
सटीकता में वृद्धि: SePO-Generalist ने सभी पांच कार्यों पर उच्चतम सटीकता प्राप्त की, जिसने Manual-CoT की तुलना में औसत सटीकता में 4.49 अंक का सुधार किया।
सामान्यीकरण (Generalization):
- प्री-ट्रेनिंग के दौरान सीखे गए प्रॉम्प्ट अनुकूलन कौशल प्री-ट्रेनिंग मिश्रण के बाहर के कार्यों पर भी सामान्यीकृत हुए (जैसे, Sudoku प्री-ट्रेनिंग सेट में नहीं था, फिर भी सटीकता में काफी सुधार हुआ)।
- विधि ने विभिन्न मॉडल जोड़ों (DeepSeek-V3.2 और Gemini 3.1 Pro Preview को Gemini 3.1 Flash-Lite और Claude Opus 4.6 के साथ बदलने पर) में मजबूती प्रदर्शित की।
लागत दक्षता: हालांकि प्री-ट्रेनिंग में लागत आती है, SePO-Generalist इसे कई कार्यों में विभाजित करता है, जिसके परिणामस्वरूप प्रत्येक कार्य के लिए एक विशेषज्ञ (specialist) को प्रशिक्षित करने या TextGrad जैसे तरीकों का उपयोग करने की तुलना में कम प्रति-कार्य लागत आती है जो ऑप्टिमाइज़र प्रशिक्षण को विभाजित नहीं करते हैं।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि SePO सिस्टम प्रॉम्प्ट अनुकूलन को एक निश्चित उपकरण से बदलकर एक सीखने योग्य कौशल में मौलिक रूप से बदल देता है। प्रॉम्प्ट एजेंट को स्वयं में सुधार करने की अनुमति देकर, यह ढांचा मानवीय हस्त-निर्माण द्वारा लगाई गई सीमा को तोड़ देता है।

मामूली दावे: लेखक स्पष्ट रूप रूप से कहते हैं कि SePO केवल प्राकृतिक भाषा सिस्टम प्रॉम्प्ट पर कार्य करता है, मॉडल वेट, टूल्स और वर्कफ़्लो को अछूता छोड़ देता है। वे स्वीकार करते हैं कि हालांकि वर्तमान कार्य प्रॉम्प्ट पर केंद्रित है, स्व-संदर्भित डिज़ाइन सैद्धांतिक रूप से भविष्य के कार्य में टूल्स और आर्किटेक्चर तक विस्तारित हो सकता है, लेकिन उन्होंने अभी तक इसे लागू करने का दावा नहीं किया है।
मुख्य अंतर्दृष्टि: प्राथमिक महत्व यह प्रदर्शित करने में निहित है कि प्रॉम्प्ट अनुकूलन केवल एक एकल कार्य के लिए खोज समस्या नहीं है, बल्कि एक कौशल है जिसे प्राप्त और स्थानांतरित किया जा सकता है। "प्रॉम्प्ट एजेंट" अब एक स्थिर वस्तु नहीं है बल्कि एक विकसित घटक है जो अनुभव के साथ मजबूत होता है।

लेखक निष्कर्ष निकालते हैं कि SePO उन स्व-विकसित एजेंटों में निरंतर अनुसंधान को प्रोत्साहित करता है जो अपने स्वयं के आत्म-सुधार के दायरे को लगातार विस्तृत कर सकते हैं।