💬 NLP

Decoupling Task-Solving and Output Formatting in LLM Generation

यह शोध पत्र Deco-G को प्रस्तुत करता है, जो एक ऐसा डिकोडिंग फ्रेमवर्क है जो एक समर्पित फॉर्मेट एस्टीमेशन मॉड्यूल के माध्यम से समस्या-समाधान को कठोर फॉर्मेटिंग आवश्यकताओं से अलग करके जटिल कार्यों पर लार्ज लैंग्वेज मॉडल के प्रदर्शन में सुधार करता है, जो तर्क करने में बाधा डाले बिना अनुपालन सुनिश्चित करता है।

मूल लेखक: Haikang Deng, Po-Nien Kung, Nanyun Peng

प्रकाशित 2026-07-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Haikang Deng, Po-Nien Kung, Nanyun Peng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट से एक कठिन गणितीय समस्या हल करने के लिए कह रहे हैं, लेकिन आप यह भी मांग करते हैं कि वह अपना उत्तर एक बहुत ही विशिष्ट, कठोर प्रारूप (format) में लिखे, जैसे कि "अंतिम उत्तर 42 है।" आमतौर पर, जब आप "कड़ी मेहनत करने" वाले हिस्से को "परफेक्ट लिखने" वाले हिस्से के साथ एक बड़े निर्देश में मिला देते हैं, तो रोबोट भ्रमित हो जाता है। यह कुछ ऐसा है जैसे रस्सी पर चलते हुए करतब दिखाना (juggling); अक्सर वह गेंद गिरा देता है (गणित) या रस्सी से लड़खड़ा जाता है (प्रारूप)।

हाइकैंग डेंग और सहयोगियों का एक शोध पत्र एक नया सिस्टम पेश करता है जिसे DECO-G कहा जाता है ताकि इसे ठीक किया जा सके। DECO-G को दो विशेषज्ञों की एक शानदार टीम-अप के रूप में समझें: एक समस्या समाधानकर्ता (Problem Solver) और एक फॉर्मेट पुलिस अधिकारी (Format Police Officer)।

समस्या: "उलझा हुआ" (Entangled) मवाद

पुराने तरीके में, आप रोबोट को एक विशाल प्रॉम्प्ट देते थे: "यह गणित की समस्या हल करें और सुनिश्चित करें कि आप उत्तर एक JSON बॉक्स में लिखें।" शोध पत्र तर्क देता है कि यह "एंटैंगलमेंट" (उलझन) रोबोट के दिमाग को नुकसान पहुँचाती है। यह सुझाव देता है कि जब रोबोट एक साथ दोनों काम करने की कोशिश करता है, तो वह प्रारूप के नियमों को पूरा करने के चक्कर में गणित में गलतियाँ करने लगता है।

लेखक स्पष्ट रूप से इस विचार के खिलाफ तर्क देते हैं कि केवल रोबोट को "सावधान रहने" के लिए कहना या कठोर, पूर्व-निर्मित टेम्पलेट (जैसे कि उसे चरण-दर-चरण एक सख्त JSON स्कीमा का पालन करने के लिए मजबूर करना) का उपयोग करना सबसे अच्छा समाधान है। उन्होंने पाया कि ये कठोर तरीके अक्सर रोबोट को उसके विचारों के बीच में ही रोक देते हैं, जिससे उत्तर असंगत हो जाते हैं या गणित गलत हो जाता है, भले ही प्रारूप एकदम सही दिखे।

समाधान: दो-टीम रणनीति

DECO-G काम को विभाजित करता है।

समस्या समाधानकर्ता (The LLM): यह मुख्य रोबोट है। इसे केवल गणित की समस्या मिलती है। इसे प्रारूप की कोई चिंता नहीं है। यह बस स्वतंत्र रूप से सोचता है, तर्क करता है और समस्या को हल करता है।
फॉर्मेट पुलिस (The FEM): यह एक अलग, छोटा सहायक मॉड्यूल है। यह गणित हल नहीं करता है। इसका एकमात्र काम रोबोट के आउटपुट को देखना और फुसफुसाना है, "हे, तुम अंत के करीब पहुँच रहे हो, लेकिन तुम्हें नंबर देने से पहले 'अंतिम उत्तर है' कहना होगा।"

जादू इस बात में है कि वे कैसे बात करते हैं। फॉर्मेट पुलिस एक विशेष "प्रोबेबिलिस्टिक लुकअहेड" (भविष्य में झाँकने का एक फैंसी तरीका) का उपयोग करती है यह अनुमान लगाने के लिए: "यदि रोबोट अभी 'The' कहता है, तो वाक्य को सही ढंग से पूरा करने की कितनी संभावना है?" यदि संभावना कम है, तो पुलिस रोबलेट को बिना उसकी सोच को रोके, उसे वापस पटरी पर लाने के लिए उसके अगले शब्द के चुनाव को धीरे से दिशा देती है।

गुप्त हथियार

इस टीम-अप को तेज़ बनाने और कंप्यूटर को धीमा किए बिना काम करने के लिए, लेखकों ने तीन शानदार तरकीबें पेश की हैं:

इंस्ट्रक्शन-अवेयर डिस्टिलेशन (Instruction-Aware Distillation): फॉर्मेट पुलिस को रैंडम, उबाऊ चैट पर प्रशिक्षित करने के बजाय, उन्होंने इसे विशेष रूप से इस बात पर प्रशिक्षित किया कि रोबोट वास्तव में समस्याओं को हल करते समय कैसा व्यवहार करता है। इससे पुलिस यह जानने में बहुत स्मार्ट हो जाती है कि रोबोट अगला कदम क्या उठाने वाला है।
फ्लेक्सिबल ट्राइ बिल्डिंग (Flexible Trie Building): कल्पना कीजिए कि उत्तर कैसे भी दिख सकता है, उसके सभी संभावित रास्तों का एक नक्शा है। आमतौर पर, यदि उत्तर की लंबाई अलग-अलग हो सकती है, तो ये नक्शे बहुत बड़े और अस्त-व्यस्त हो जाते हैं। लेखकों ने एक "लचीला" नक्शा बनाया जो रास्तों को आपस में जोड़ता है, ताकि कंप्यूटर हर एक संभावना की जाँच करने में अभिभूत न हो जाए।
HMM स्टेट प्रूनिंग (HMM State Pruning): फॉर्मेट पुलिस के पास हजारों छिपे हुए स्टेट्स (states) वाला एक विशाल दिमाग है। लेखकों ने महसूस किया कि अधिकांश समय, रोबोट को वास्तव में उन चुनिंदा स्टेट्स की ही आवश्यकता होती है। इसलिए, उन्होंने पुलिस को बाकी हिस्सों को अनदेखा करने के लिए कहा, जिससे कंप्यूटिंग कार्य लगभग 13 गुना कम हो गया (लगभग 1.08 GFLOPs से घटकर 0.08 GFLOPs प्रति स्टेप) जबकि सटीकता लगभग समान रही।

आंकड़े क्या कहते हैं

टीम ने तीन अलग-अलग चुनौतियों पर इसका परीक्षण किया:

गणित की समस्याएं (GSM8k): स्कूली गणित हल करते समय, DECO-G अन्य तरीकों को लगातार पछाड़ देता है। उदाहरण के लिए, Llama-3.1-8B मॉडल पर, इसने 85.2% उत्तर सही दिए जबकि 100% फॉर्मेट अनुपालन बनाए रखा। इसके विपरीत, "Outlines" नामक एक कठोर विधि केवल 81.3% सही उत्तर दे पाई, और एक मानक "प्रॉम्प्ट-ओनली" दृष्टिकोण ने 82.3% सही उत्तर दिए लेकिन प्रारूप में बार-बार विफल रहा।
इवेंट एक्सट्रैक्शन (Event Extraction): जब समाचार कहानियों से विशिष्ट विवरण निकालने के लिए कहा गया, तो DECO-G ने यह पहचानने के स्कोर में सुधार किया कि किसने क्या किया (Llama के लिए "Argument Id" मेट्रिक बढ़कर 39.4 हो गया)।
LLM-as-a-Judge: जब रोबोट को सारांशों (summaries) को ग्रेड करने के लिए कहा गया, तो DECO-G ने मानव न्यायाधीशों के साथ बेहतर तालमेल बिठाया, उच्चतम औसत सहसंबंध स्कोर (जैसे Coherence के लिए Llama के लिए 0.418) प्राप्त किया।

निष्कर्ष

शोध पत्र सुझाव देता है कि "सोचने" को "फॉर्मेटिंग" से अलग करके, हम दोनों दुनिया का सर्वश्रेष्ठ प्राप्त कर सकते हैं: उत्तर जो गणितीय रूप से सही और पूरी तरह से सही प्रारूप में हैं। लेखकों ने वास्तविक डेटासेट पर इसे मापा और पाया कि DECO-G लगातार एक साथ सब कुछ करने या कठोर बाधाओं का उपयोग करने से बेहतर प्रदर्शन करता है।

हालाँकि, वे कुछ चेतावनियाँ भी देते हैं। यह सिस्टम कोई जादुई छड़ी नहीं है जो किसी भी रोबोट पर तुरंत काम करती है; आपको प्रत्येक विशिष्ट रोबोट मॉडल के लिए एक नया "फॉर्मेट पुलिस" प्रशिक्षित करना होगा। साथ मिलकर, Qwen सीरीज़ जैसे कुछ मॉडल्स के लिए, रोबोट का दिमाग इतना केंद्रित होता है कि आपको फॉर्मेट पुलिस को अधिक जोर से धकेलना पड़ता है (एक कंट्रोल फैक्टर γ=2 का उपयोग करके) ताकि वह सुनने के लिए तैयार हो।

संक्षेप में, DECO-G सुझाव देता है कि यदि आप चाहते हैं कि एक रोबोट गणित में जीनियस हो और फॉर्मेटिंग में परफेक्शनिस्ट हो, तो आपको उसे एक ही समय में दोनों काम करने के लिए नहीं कहना चाहिए। उसे नियमों को संभालने के लिए एक साथी दें, और उसे चमकते हुए देखें।

तकनीकी सारांश: LLM जनरेशन में टास्क-सॉल्विंग और आउटपुट फॉर्मेटिंग का डिकपलिंग (Decoupling)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) ने गणितीय समस्या-समाधान और स्वचालित मूल्यांकन जैसे जटिल तर्क कार्यों (reasoning tasks) में बढ़ती दक्षता प्रदर्शित की है। हालांकि, जब प्रॉम्प्ट्स में टास्क निर्देशों और कठोर आउटपुट-फॉर्मेट आवश्यकताओं को मिला दिया जाता है, तो प्रदर्शन अक्सर गिर जाता है। यह "एंटैंगलमेंट" (entanglement) मॉडल को सख्त फॉर्मेट अनुपालन (compliance) और तर्क सटीकता दोनों के लिए एक साथ अनुकूलित होने के लिए मजबूर करता है, जिससे प्रतिस्पर्धी लक्ष्य उत्पन्न होते हैं जो मॉडल की तर्क क्षमताओं में बाधा डालते हैं।

मौजूदा दृष्टिकोण इन दो मुख्य मार्गों के माध्यम से इसे कम करने का प्रयास करते हैं, जिनमें दोनों की अपनी सीमाएं हैं:

बाधाओं को शिथिल करना (Relaxing Constraints): फॉर्मेट आवश्यकताओं को हटाने या नरम करने से अक्सर कम अनुपालन दर प्राप्त होती है, जिससे आउटपुट संरचित अनुप्रयोगों (structured applications) के लिए अनुपयोगी हो जाता है।
प्रतिबंधित डिकोडिंग (Constrained Decoding): Outlines या Guidance जैसे फ्रेमवर्क सख्त टोकन ट्रांजिशन को लागू करके फॉर्मेट अनुपालन की गारंटी देते हैं। हालांकि, ये विधियां अक्सर अत्यधिक हस्तक्षेप करती हैं, जिससे मॉडल के आंतरिक तर्क प्रवाह में व्यवधान आता है और अचानक कट-ऑफ या असंगत आउटपुट उत्पन्न होते हैं।

हाल के अध्ययन (जैसे, Tam et al., 2024; Long et al., 2025) संकेत देते हैं कि सख्त प्रतिबंध तर्क क्षरण (reasoning degradation) के साथ सह-संबंधित हैं, जो बिना मॉडल की तर्क क्षमता का त्याग किए फॉर्मेट बाधाओं को टास्क सॉल्विंग से अलग करने वाले एक फ्रेमवर्क की महत्वपूर्ण आवश्यकता को दर्शाते हैं।

कार्यप्रणाली: DECO-G

लेखक DECO-G प्रस्तावित करते हैं, जो एक डिकोडिंग फ्रेमवर्क है जो टास्क रीजनिंग को आउटपुट फॉर्मेटिंग से स्पष्ट रूप से अलग करता है। इसका मूल दर्शन फॉर्मेट अनुपालन को एक सहायक मॉड्यूल (auxiliary module) को सौंपना है, जिससे प्राथमिक LLM केवल समस्या-समाधान पर ध्यान केंद्रित कर सके।

आर्किटेक्चर

यह फ्रेमवर्क एक दोहरी-मॉड्यूल प्रणाली के माध्यम से कार्य करता है:

टास्क-सॉल्विंग LLM: यह केवल टास्क-विशिष्ट प्रॉम्प्ट (जैसे, एक गणितीय समस्या) प्राप्त करता है बिना किसी स्पष्ट फॉर्मेटिंग निर्देश के।
फॉर्मेट एस्टीमेशन मॉड्यूल (FEM): यह फॉर्मेट बाधाओं (जैसे, "The final answer is...") को प्राप्त करता है। FEM एक संभाव्यता-आधारित लुकअहेड (probabilistic lookahead) करता है ताकि यह अनुमान लगाया जा सके कि भविष्य के टोकन अनुक्रम फॉर्मेट बाधाओं को संतुष्ट करने की कितनी संभावना रखते हैं।

प्रत्येक डिकोडिंग स्टेप पर, FEM द्वारा अनुमानित अनुपालन संभाव्यता का उपयोग LLM के मूल टोकन वितरण को पुन: भारित (reweigh) करने के लिए किया जाता है। अंतिम संभाव्यता वितरण इस प्रकार निर्मित होता है:
$P(x_t|x_{<t}, \alpha) \propto P_{LM}(x_t|x_{<t}) [P_{FEM}(\alpha|x_{<t}, x_t)]^\gamma$
जहाँ $\alpha$ फॉर्मेट बाधाओं का प्रतिनिधित्व करता है और $\gamma$ एक स्टीयरिंग स्ट्रेंथ हाइपरपैरामीटर है।

प्रमुख तकनीकी नवाचार

इस दृष्टिकोण को व्यावहारिक और कुशल बनाने के लिए, लेखक तीन विशिष्ट नवाचार पेश करते हैं:

इंस्ट्रक्शन-अवेयर डिस्टिलेशन (Instruction-Aware Distillation):
पूर्ववर्ती नियंत्रणीय जनरेशन विधियां (जैसे, GeLaTo, Ctrl-G) अनकंडीशनल रैंडम सैंपलिंग से हिडन मार्कोव मॉडल (HMMs) को डिस्टिल करती हैं। यह फाइन-ट्यून्ड LLMs के इंस्ट्रक्शन-कंडीशनल व्यवहार को पकड़ने में विफल रहता है। DECO-G इसे Natural-Instructions-v2 डेटासेट से इंस्ट्रक्शन-रिस्पॉन्स पेयर्स पर विशेष रूप से HMM को डिस्टिल करके संबोधित करता है। यह सुनिश्चित करता है कि FEM विशिष्ट टास्क निर्देशों का पालन करते समय LLM के व्यवहार का सटीक मॉडल बनाए।
लचीला ट्राइ निर्माण (Flexible Trie Construction):
वास्तविक दुनिया के फॉर्मेट बाधाओं में अक्सर फिक्स्ड टेक्स्ट (Pivots) और वेरिएबल-लेंथ फील्ड्स (Wildcards) वाले जटिल टेम्पलेट्स शामिल होते हैं। स्टैंडर्ड डिटर्मिनिस्टिक फाइनाइट ऑटोमेटा (DFA) निर्माण, वेरिएबल-लेंथ सेगमेंट के श्रृंखलाबद्ध होने पर स्टेट-स्पेस विस्फोट ( $O(K^N)$ ) का कारण बनता है। DECO-G एक लचीला ट्राइ एल्गोरिदम पेश करता है जो स्टेट कन्वर्जेंस (State Convergence) को लागू करता है। यह रणनीति वाइल्डकार्ड सेगमेंट के सभी वैध पथों को अगले सेगमेंट के लिए एक एकल कैनोनिकल एंट्री स्टेट में मर्ज करती है, जिससे जटिलता रैखिक वृद्धि ( $O(N \times K)$ ) तक सीमित हो जाती है।
HMM स्टेट प्रूनिंग (HMM State Pruning):
FEM में प्रोबेबिलिस्टिक लुकअहेड के लिए पूरी शब्दावली (vocabulary) पर एमिशन प्रोबेबिलिटी की गणना करना शामिल है, जो कम्प्यूटेशनल रूप से महंगा ( $O(h|V|)$ ) है। लेखक देखते हैं कि हिडन स्टेट डिस्ट्रीब्यूशन अत्यधिक स्पार्स (sparse) होता है। केवल शीर्ष- $k$ सबसे संभावित स्टेट्स (जैसे, टॉप 5%) पर विचार करने के लिए HMM को प्रून करके, वे जटिलता को $O(k|V| + h \log h)$ तक कम कर देते हैं। अनुभवजन्य परिणाम दिखाते हैं कि केवल 5% स्टेट्स रखने से मॉडल का 98% से अधिक प्रदर्शन बना रहता है और FLOPs में लगभग 13 $\times$ की कमी आती है।

प्रयोगात्मक परिणाम

लेखकों ने Llama-3.1-8B, Qwen2.5-7B, और Qwen3-8B जैसे मॉडल्स का उपयोग करते हुए तीन अलग-अलग कार्यों में DECO-G का मूल्यांकन किया: गणितीय तर्क (GSM8k), इवेंट आर्गुमेंट एक्सट्रैक्शन (ACE05), और LLM-एज़-ए-जज (SummEval)।

गणितीय तर्क (GSM8k): DECO-G ने बेसलाइन्स को लगातार पछाड़ दिया। जबकि स्टैंडर्ड प्रॉम्प्टिंग (Prompt-Only) उच्च सटीकता लेकिन कम फॉर्मेट अनुपालन प्राप्त करती है, और स्ट्रक्चर्ड जनरेशन (Outlines) अनुपालन की गारंटी देती है लेकिन सटीकता को कम कर देती है, DECO-G ने तर्क सटीकता को बनाए रखते हुए या सुधारते हुए 100% फॉर्मेट अनुपालन प्राप्त किया। उदाहरण के लिए, Llama-3.1-8B पर, DECO-G ने 85.2% सटीकता प्राप्त की, जबकि Outlines के लिए 81.3% और Prompt-Only (NL) के लिए 82.3% थी।
इवेंट आर्गुमेंट एक्सट्रैक्शन (ACE05): DECO-G ने समग्र एक्सट्रैक्शन गुणवत्ता में सुधार किया, विशेष रूप से आर्गुमेंट आईडी (AI) और आर्गुमेंट-अटैच्ड आईडी (AI+) की पहचान करने में, जो भूमिकाओं और निकाले गए आर्गुमेंट्स के बेहतर एकीकरण का सुझाव देता है।
LLM-एज़-ए-जज (SummEval): DECO-G ने कोहेरेंस (coherence), कंसिस्टेंसी (consistency), फ्लूएंसी (fluency), और रेलेवेंस (relevance) मेट्रिक्स में मानव एनोटेटर्स के साथ सबसे मजबूत औसत सहसंबंध प्रदर्शित किया। गुणात्मक विश्लेषण से पता चला कि DECO-G मनमाने स्थानों पर स्कोरिंग वाक्यांशों के अधिक प्राकृतिक एकीकरण की अनुमति देता है, जबकि बेसलाइन्स अक्सर रेटिंग के कठोर अपेंडिंग को मजबूर करते हैं।

महत्व और दावे

पेपर का दावा है कि DECO-G तर्क और फॉर्मेटिंग के बीच "जिम्मेदारी के पृथक्करण" (responsibility separation) को प्राप्त करके कंट्रोलेबल टेक्स्ट जनरेशन में एक नया प्रतिमान (paradigm) प्रस्तुत करता है।

तर्क का संरक्षण (Preservation of Reasoning): LLM की तत्काल जनरेशन प्रक्रिया से फॉर्मेटिंग के संज्ञानात्मक बोझ (cognitive burden) को हटाकर, यह फ्रेमवर्क मॉडल की पूर्ण तर्क क्षमता को अनलॉक करता है।
अनुपालन की गारंटी (Guaranteed Compliance): अनकन्स्ट्रेंड प्रॉम्प्टिंग के विपरीत, DECO-G FEM के रीवेटिंग मैकेनिज्म के माध्यम से फॉर्मेट एडहेरेंस की गणितीय गारंटी प्रदान करता है।
व्यावहारिक दक्षता (Practical Efficiency): इंस्ट्रक्शन-अवेयर डिस्टिलेशन, फ्लेक्सिबल ट्राइ कंस्ट्रक्शन और स्टेट प्रूनिंग के माध्यम से, लेखक प्रदर्शित करते हैं कि कम्प्यूटेशनल ओवरहेड नगण्य है (LLM के मुख्य फॉरवर्ड पास का ~0.53% हिस्सा), जिससे यह फ्रेमवर्क वास्तविक दुनिया के परिनियोजन (deployment) के लिए व्यवहार्य हो जाता है।

लेखक निष्कर्ष निकालते हैं कि यह डिकपलिंग दृष्टिकोण समग्र प्रदर्शन लाभ की ओर ले जाता है, जो कठोर डिकोडिंग फ्रेमवर्क के साथ जुड़े तर्क क्षरण के बिना सख्त बाधाओं को लागू करने की क्षमता से प्रेरित है। वे सीमाओं को स्वीकार करते हैं, जैसे कि विभिन्न LLM परिवारों के लिए एक नया HMM डिस्टिल करने की आवश्यकता और मॉडल के टोकन डिस्ट्रीब्यूशन स्क्यूनेस (skewness) के प्रति स्टीयरिंग हाइपरपैरामीटर $\gamma$ की संवेदनशीलता।