DD-GEPA: Prompt Optimization for Dialogue Disentanglement Focusing on Task Instruction and Utterance Representation
यह शोध पत्र DD-GEPA प्रस्तुत करता है, जो एक स्वचालित प्रॉम्प्ट अनुकूलन ढांचा (framework) है जो GEPA पद्धति का उपयोग करके कार्य निर्देशों और उच्चारण निरूपणों (utterance representations) को व्यवस्थित रूप से परिष्कृत करके संवाद पृथक्करण (dialogue disentanglement) में लार्ज लैंग्वेज मॉडल के प्रदर्शन को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक मैसेजिंग ऐप जैसे स्लैक (Slack) या व्हाट्सएप (WhatsApp) पर एक व्यस्त ग्रुप चैट चल रही है। कई लोग एक ही समय में बिल्कुल अलग-अलग चीजों के बारे में बात कर रहे हैं। एक व्यक्ति पूछ रहा है कि कंप्यूटर एरर को कैसे ठीक किया जाए, दूसरा पार्टी की योजना बना रहा है, और तीसरा एक मजेदार मीम (meme) साझा कर रहा है। क्योंकि सभी एक साथ टाइप कर रहे हैं, इसलिए ये बातचीत एक ही लंबे, उलझे हुए टेक्स्ट स्ट्रीम में "उलझ" जाती है।
समस्या: उलझन को सुलझाना
यह शोध पत्र इसे "डायलॉग डिसएंटैंगलमेंट" (Dialogue Disentanglement) कहता है। यह उस बिखरे हुए स्ट्रीम को वापस अलग-अलग, सुसंगत बातचीत में छाँटने का काम है। इसे ऐसे समझें जैसे एक लाइब्रेरियन अलग-अलग परिवारों के मिले-जुले पत्रों को सही लिफाफों में अलग करने की कोशिश कर रहा हो।
लंबे समय तक, कंप्यूटर इसमें कमजोर रहे। वे भ्रमित हो जाते थे और सोचते थे कि पार्टी के बारे में की गई टिप्पणी किसी कंप्यूटर एरर का जवाब है।
नया टूल: "स्मार्ट" लाइब्रेरियन
लेखकों ने एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग किया है—एक बहुत ही उन्नत AI जो इंसान की तरह पढ़ और लिख सकता है—ताकि वह इस लाइब्रेरियन की भूमिका निभा सके। उन्हें उम्मीद थी कि AI स्वाभाविक रूप से समझ पाएगा कि कौन किससे बात कर रहा है। हालांकि, जब उन्होंने बस AI से कहा कि "इन संदेशों को छाँट दो," तो इसने बहुत अच्छा काम नहीं किया। यह वैसा ही था जैसे एक नए लाइब्रेरियन को मेल का एक बिखरा हुआ ढेर दे दिया जाए और कहा जाए, "इसे सुलझाओ," बिना उसे कोई विशिष्ट नियम दिए।
समाधान: DD-GEPA (द ऑटो-कोच)
यह पेपर एक नई विधि पेश करता है जिसे DD-GEPA कहा जाता है। इंसानों द्वारा AI को देने के लिए सबसे सटीक नियमों का अनुमान लगाने में हफ्तों बिताने के बजाय, यह विधि AI को खुद के लिए सबसे अच्छे नियम सिखाने देती है।
यह इस प्रकार काम करता है, एक कुकिंग एनालॉजी (खाना बनाने के उदाहरण) का उपयोग करते हुए:
रेसिपी (द प्रॉम्प्ट): AI को संदेशों को छाँटने के लिए, आपको उसे एक "प्रॉम्प्ट" देना होगा। यह प्रॉम्प्ट एक रेसिपी की तरह है। इसके तीन मुख्य भाग हैं:
- कार्य निर्देश (The Task Instruction): "हम क्या बना रहे हैं?" (जैसे, "इन संदेशों को समूहों में छाँटें।")
- सामग्री की सूची (The Ingredients List/Utterance Representation): "हम डेटा को कैसे प्रस्तुत करें?" (जैसे, "यहाँ संदेश, समय और बोलने वाले का नाम दिया गया है।")
- प्लेटिंग निर्देश (The Plating Instructions/Output Instruction): "अंतिम व्यंजन कैसा दिखना चाहिए?" (जैसे, "मुझे उत्तर एक विशिष्ट JSON फॉर्मेट में दें।")
परीक्षण और त्रुटि (The Trial and Error): अतीत में, इंसानों को इन तीन भागों को बार-बार मैन्युअल रूप से बदलना पड़ता था ताकि यह देखा जा सके कि क्या काम करता है। यह धीमा और अनिश्चित था।
ऑटो-कोच (GEPA): लेखकों ने GEPA नामक एक सिस्टम का उपयोग किया। कल्पना कीजिए कि एक सख्त लेकिन मददगार कोच AI के बगल में खड़ा है।
- कोच AI को मिश्रित संदेशों का एक टेस्ट बैच देता है।
- AI अपनी वर्तमान "रेसिपी" का उपयोग करके संदेशों को छाँटने की कोशिश करता है।
- यदि AI कोई गलती करता है, तो कोच केवल यह नहीं कहता कि "गलत।" कोच विश्लेषण करता है कि वह क्यों विफल हुआ और रेसिपी में एक विशिष्ट बदलाव का सुझाव देता है।
- शायद कोच कहता है, "आपने कनेक्शन मिस कर दिया क्योंकि सामग्री स्पष्ट रूप से सूचीबद्ध नहीं थी। आइए 'सामग्री की सूची' वाले हिस्से को फिर से लिखें।"
- या, "आपने सही उत्तर दिया लेकिन इसे गलत फॉर्मेट में लिखा। आइए 'प्लेटिंग निर्देशों' को ठीक करें।"
परिणाम: यह सिस्टम स्वचालित रूप से इस प्रक्रिया को दोहराता है। यह निर्देशों को बदलता है, परीक्षण करता है, गलतियों से सीखता है, और फिर से बदलता है। अंततः, यह एक "परफेक्ट रेसिपी" खोज लेता है जिसका पालन AI बातचीत को उच्च सटीकता के साथ छाँटने के लिए करता है।
उन्होंने क्या पाया
- मानवीय अनुमान से बेहतर: कंप्यूटर ने अपने आप जो रेसिपी खोजी (DD-GEPA), वह उन बेहतरीन रेसिपी से भी बेहतर थी जो एक मानव विशेषज्ञ अपने हाथों से लिख सकता था।
- "ओपन-सोर्स" चुनौती: लेखकों ने इसका परीक्षण एक छोटे, मुफ्त उपयोग वाले AI मॉडल (लगभग 30 बिलियन पैरामीटर्स) पर किया। इस छोटे मॉडल के साथ भी, ऑटो-कोच वाली रेसिपी ने इसे बहुत बेहतर प्रदर्शन कराया। हालांकि, यह अभी भी एक विशाल, महंगी और प्रोप्राइटरी AI मॉडल (जैसे GPT-5) का मुकाबला नहीं कर सका, जिसे एक मानव-लिखित रेसिपी दी गई थी।
- सीमा: सिस्टम एक स्तर पर आकर रुक गया। एक निश्चित बिंदु के बाद, AI और अधिक सुधार नहीं खोज सका। लेखक संदेह करते हैं कि ऐसा इसलिए है क्योंकि टेस्ट डेटा इतना कठिन नहीं था कि AI को अधिक जटिल नियम सीखने के लिए मजबूर किया जा सके, या इसलिए कि "कोच" गलतियों के इतने अलग प्रकार नहीं देख पा रहा था जिससे वह सीख सके।
सारांश में
यह पेपर दिखाता है कि इंसानों द्वारा AI को चैट लॉग को सुलझाने के लिए एकदम सही निर्देश लिखने के संघर्ष के बजाय, हम AI को अपने स्वयं के निर्देश अनुकूलित करने दे सकते हैं। निर्देशों को तीन भागों में तोड़कर और गलतियों के आधार पर निर्देशों को स्वचालित रूप से परिष्कृत करने के लिए एक सिस्टम का उपयोग करके, हम कहीं अधिक स्मार्ट परिणाम प्राप्त कर सकते हैं, यहाँ तक कि छोटे, अधिक सुलभ AI मॉडल के साथ भी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।