💬 NLP

CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization

यह शोध पत्र CROP का प्रस्ताव करता है, जो एक प्रॉम्प्ट ऑप्टिमाइज़ेशन विधि है जो तर्क संबंधी सटीकता को प्रतिस्पर्धी बनाए रखते हुए लार्ज लैंग्वेज मॉडल्स में टोकन खपत और लेटेंसी को महत्वपूर्ण रूप से कम करने के लिए लेंथ रेगुलराइजेशन को शामिल करती है।

मूल लेखक: Deep Shah, Sanket Badhe, Nehal Kathrotia, Priyanka Tiwari

प्रकाशित 2026-04-17

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Deep Shah, Sanket Badhe, Nehal Kathrotia, Priyanka Tiwari

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ शोध पत्र "CROP: Regularized Prompt Optimization के माध्यम से Large Language Models में Token-Efficient Reasoning" का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

समस्या: "ज़रूरत से ज़्यादा बोलने वाला" AI

कल्पना कीजिए कि आपने गणित की समस्या हल करने के लिए एक बहुत ही बुद्धिमान लेकिन बेहद बातूनी ट्यूटर (शिक्षक) को काम पर रखा है।

अच्छी खबर: ट्यूटर अविश्वसनीय रूप से स्मार्ट है। यदि आप उससे पूछते हैं, "2+2 क्या है?", तो वह केवल "4" नहीं कहता। वह संख्याओं के इतिहास, जोड़ के दर्शन और संख्या 2 के नीले रंग की सटीक शेड के बारे में 50 पन्नों का निबंध लिख देता है।
बुरी खबर: क्योंकि वह बहुत अधिक बातें करता है, इसलिए उसे खत्म करने में बहुत समय लगता है, और उनके उत्तर को पढ़ने के लिए आपको "कागजी मुद्रा" (tokens) के रूप में एक बड़ी कीमत चुकानी पड़ती है।

AI की दुनिया में, इसे Chain-of-Thought (CoT) कहा जाता है। यह AI को कदम-दर-कदम सोचने में मदद करता है, जिससे वह अधिक स्मार्ट बनता है। लेकिन अक्सर, AI ज़रूरत से ज़्यादा बहक जाता है और बहुत अधिक लिख देता है। यह सब कुछ धीमा कर देता है और वास्तविक दुनिया के ऐप्स में उपयोग करने के लिए इसे महंगा बना देता है।

पुराना समाधान: "बस संक्षिप्त रहो" (और यह क्यों विफल हुआ)

पहले, यदि आप चाहते थे कि AI छोटा हो जाए, तो आप बस उसे कह देते थे: "कृपया संक्षिप्त रहें।"

परिणाम: AI भ्रमित हो जाता था। या तो वह सोचना पूरी तरह से बंद कर देता था (गलत उत्तर देता था) या वह संक्षिप्त होने की कोशिश करता लेकिन फिर भी बहुत अधिक बोल जाता। यह एक घबराए हुए वक्ता को बिना किसी स्क्रिप्ट के यह कहने जैसा है कि, "बस संक्षेप में बोलें"; वे आमतौर पर घबरा जाते हैं और तेज़ बोलने की कोशिश करते हैं लेकिन फिर भी बहुत अधिक बोल जाते हैं।

मौजूदा उपकरण जो AI प्रॉम्प्ट्स को स्वचालित रूप से ठीक करते हैं (जिन्हें Automatic Prompt Optimization कहा जाता है), वे AI को स्मार्ट बनाने में बेहतरीन थे, लेकिन उनकी एक कमी थी: वे केवल सटीकता (accuracy) पर ध्यान देते थे। उन्होंने AI को और अधिक गहराई से सोचने के लिए और अधिक निर्देश जोड़ना जारी रखा, जिससे अनजाने में AI और भी अधिक बोलने लगा।

नया समाधान: CROP (एक "संपादक" AI)

लेखकों ने CROP (Cost-Regularized Optimization of Prompts) नामक एक नई विधि बनाई है। CROP को एक सख्त, दो-सिर वाले संपादक (editor) के रूप में सोचें जो AI को प्रशिक्षित करता है।

CROP कैसे काम करता है, इसे एक खाना पकाने की उपमा (Cooking Analogy) के माध्यम से समझते हैं:

1. सेटअप: शेफ और आलोचक

शेफ (Target AI): यह वह AI है जिसे आप वास्तव में उपयोग करना चाहते हैं। यह उत्तर "पकाता" है।
दो आलोचक (Evaluators): CROP शेफ के काम का न्याय करने के लिए दो अन्य AI का उपयोग करता है।
- आलोचक A (स्वाद परीक्षक - Taste Tester): "क्या व्यंजन स्वादिष्ट है? क्या गणित सही है?" (सटीकता)।
- आलोचक B (पोर्शन कंट्रोल ऑफिसर - Portion Control Officer): "क्या यह व्यंजन बहुत बड़ा है? क्या आपने बहुत अधिक सामग्री का उपयोग किया है? सजावट कम करें!" (लागत/लंबाई)।

2. ट्रेनिंग लूप

पहले, शेफ केवल स्वाद परीक्षक की बात सुनता था। यदि व्यंजन स्वादिष्ट था, तो शेफ सुरक्षा के लिए उसमें और अधिक फैंसी सजावट (शब्दों का ढेर) जोड़ता रहता था।

CROP के साथ, शेफ को एक साथ दोनों आलोचकों से फीडबैक मिलता है।

यदि व्यंजन स्वादिष्ट है लेकिन बहुत बड़ा है, तो पोर्शन कंट्रोल ऑफिसर कहता है: "स्वाद तो बढ़िया है, लेकिन आपने 500 शब्द इस्तेमाल किए। फालतू बातें हटा दें। मुख्य रेसिपी रखें, लेकिन टमाटर कहाँ से खरीदे इसकी कहानी हटा दें।"
शेफ फिर रेसिपी (प्रॉम्प्ट) को फिर से लिखता है ताकि वह छोटा हो लेकिन अभी भी स्वादिष्ट रहे।

3. जादू: "रेगुलराइजेशन" (Regularization)

गणित और विज्ञान में, "रेगुलराइजेशन" एक तरीका है जिससे मॉडल को बहुत जटिल होने से रोका जाता है।

उपमा: कल्पना कीजिए कि आप एक नक्शा बनाने की कोशिश कर रहे हैं। बिना नियमों के, आप घास की हर एक पत्ती भी बना सकते हैं (बहुत अधिक विवरण)। रेगुलराइजेशन एक नियम की तरह है जो कहता है: "आपको सड़कें और शहर दिखाने चाहिए, लेकिन आपको व्यक्तिगत पेड़ नहीं बनाने की अनुमति है।"
CROP इस नियम को AI के प्रशिक्षण में जोड़ता है। यह AI को सही उत्तर तक पहुँचने का सबसे छोटा रास्ता खोजने के लिए मजबूर करता है।

परिणाम: "ड्राफ्ट" बनाम "उपन्यास"

शोध पत्र में कठिन तर्क और गणित की पहेलियों पर इसका परीक्षण किया गया। यहाँ क्या हुआ:

CROP से पहले: AI एक साधारण गणितीय समस्या को हल करने के लिए 128-शब्दों का एक "उपन्यास" लिखता था।
CROP के बाद: AI ने 44-शब्दों का एक "ड्राफ्ट" लिखा। इसने "आइए हम विचार करें कि..." या "निष्कर्षतः..." जैसे वाक्यों को हटा दिया और सीधे गणित पर आ गया: 8 * 5 + 8 * 3 = 64।

आंकड़े:

Token बचत: उन्होंने "कागज़ के उपयोग" (tokens) को 80.6% तक कम कर दिया।
सटीकता: AI अभी भी उतना ही स्मार्ट था। उसने अपनी समस्या सुलझाने की क्षमता नहीं खोई; उसने बस शब्दों को बर्बाद करना बंद कर दिया।

यह क्यों महत्वपूर्ण है

कल्पना कीजिए कि आप अस्पताल या बैंक के लिए एक रोबोट सहायक बना रहे हैं।

CROP के बिना: रोबोट सोचने में 10 सेकंड लेता है और क्योंकि वह बहुत अधिक बोलता है, इसलिए एक प्रश्न की लागत $0.50 आती है।
CROP के साथ: रोबोट 2 सेकंड में सोचता है और एक प्रश्न की लागत $0.10 आती है, लेकिन वह आपको बिल्कुल वही चिकित्सा या वित्तीय सलाह देता है।

असली मंत्र: "स्मार्ट" संपादक

शोध पत्र में एक दिलचस्प खोज यह है कि "पोर्शन कंट्रोल ऑफिसर" (ऑप्टिमाइज़र AI) को खुद बहुत स्मार्ट होना चाहिए।

यदि आप एक "कम बुद्धिमान" संपादक का उपयोग करते हैं, तो वह शेफ को केवल "बोलना बंद करने" के लिए कहता है, और शेफ सोचना पूरी तरह से बंद कर देता है (गलत उत्तर देता है)।
यदि आप एक "सुपर-स्मार्ट" संपादक (जैसे कि पेपर में उल्लेखित Gemini 3.1 Pro) का उपयोग करते हैं, तो वह जानता है कि किन शब्दों को काटना है और किस तर्क को रखना है। वह शेफ को पूर्ण वाक्यों के बजाय प्रतीकों (symbols) और शॉर्टकट में सोचने के लिए प्रशिक्षित करता है।

सारांश

CROP एक ऐसी विधि है जो AI मॉडल्स को कुशल विचारक (efficient thinkers) बनने के लिए प्रशिक्षित करती है। यह एक विशेष प्रशिक्षण लूप का उपयोग करता है जो AI को बहुत अधिक बोलने के लिए दंडित करता है, जिससे वह सोचने के एक नए तरीके को खोजने के लिए मजबूर होता है जो छोटा, सटीक और प्रतीकात्मक है—जैसे कि एक मानव विशेषज्ञ नैपकिन पर छोटे नोट्स लिखता है, न कि पूरा उपन्यास। यह AI को तेज़, सस्ता और वास्तविक दुनिया के उपयोग के लिए तैयार बनाता है।

यहाँ शोध पत्र "CROP: Token-Efficient Reasoning in Large Language Models via Regularized Prompt Optimization" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) ने जटिल तर्क कार्यों (जैसे गणित, तर्कशास्त्र) में मुख्य रूप से चेन-ऑफ-थॉट (CoT) प्रॉम्प्टिंग के माध्यम से अत्याधुनिक प्रदर्शन हासिल किया है, जो चरण-दर-चरण पीढ़ी को प्रोत्साहित करता है। हालाँकि, यह दृष्टिकोण एक गंभीर परिनियोजन बाधा (deployment bottleneck) से ग्रस्त है:

वाचालता (Verbosity): मॉडल अक्सर अत्यधिक लंबे, संवादात्मक और अनावश्यक मध्यवर्ती तर्क (reasoning traces) उत्पन्न करते हैं जो बहुत कम अतिरिक्त तार्किक मूल्य प्रदान करते हैं।
लागत और विलंबता (Cost & Latency): यह वाचालता भारी टोकन खपत का कारण बनती है, जिससे उच्च इन्फरेंस विलंबता (latency) और अत्यधिक वित्तीय लागत आती है, जिससे जटिल रीजनिंग पाइपलाइन उत्पादन (production) के लिए अव्यवहारिक हो जाती है।
मौजूदा APO की सीमाएँ: वर्तमान ऑटोमैटिक प्रॉम्प्ट ऑप्टिमाइज़ेशन (APO) फ्रेमवर्क (जैसे DSPy, TextGrad) लगभग पूरी तरह से कार्य सटीकता (task accuracy) को अधिकतम करने पर ध्यान केंद्रित करते हैं। ऐसा करने में, वे अनजाने में अधिक निर्देशों और एज-केस हैंडलिंग के लिए अनुकूलित हो जाते हैं, जो समस्या को हल करने के बजाय वाचालता को और बढ़ा देता है। उनमें आउटपुट लंबाई को दंडित (penalize) करने के लिए किसी तंत्र का अभाव है।

2. कार्यप्रणाली: CROP (Methodology: CROP)

लेखक CROP (Cost-Regularized Optimization of Prompts) का प्रस्ताव करते हैं, जो एक नया फ्रेमवर्क है जो प्रॉम्प्ट ऑप्टिमाइज़ेशन लूप में सीधे एक टेक्स्टुअल रेगुलराइजेशन ऑब्जेक्टिव को एकीकृत करता है।

मुख्य अवधारणा (Core Concept)

CROP प्रॉम्प्ट ऑप्टिमाइज़ेशन को एक बहु-उद्देश्यीय समस्या (multi-objective problem) के रूप में मानता है, जो कार्य सटीकता (Task Accuracy) और आउटपुट संक्षिप्तता (Output Brevity) के बीच संतुलन बनाता है। यह पारंपरिक मशीन लर्निंग में L1/L2 रेगुलराइजेशन के समान एक "लंबाई दंड" (length penalty) पेश करता है, लेकिन इसे प्राकृतिक भाषा पीढ़ी (natural language generation) पर लागू करता है।

तकनीकी वर्कफ़्लो (Technical Workflow)

दोहरा-मूल्यांकनकर्ता प्रणाली (Dual-Evaluator System):
- कार्य मूल्यांकनकर्ता ( $E_{task}$ ): ग्राउंड ट्रुथ की तुलना में मॉडल के आउटपुट की तार्किक शुद्धता की आलोचना करते हुए एक टेक्स्टुअल ग्रेडिएंट ( $g_{task}$ ) उत्पन्न करता है।
- संक्षिप्तता मूल्यांकनकर्ता ( $E_{reg}$ ): विशेष रूप से वाचालता को लक्षित करने वाला एक टेक्स्टुअल ग्रेडिएंट ( $g_{reg}$ ) उत्पन्न करता है। यह ग्रेडिएंट केवल तभी कंप्यूट किया जाता है जब आउटपुट टोकन काउंट एक पूर्व-निर्धारित थ्रेशोल्ड ( $\tau$ ) से अधिक हो जाता है। यह ऑप्टिमाइज़र को महत्वपूर्ण कम्प्यूटेशनल चरणों को सुरक्षित रखते हुए संवादात्मक फिलर और कथात्मक फालतू सामग्री (narrative fluff) को हटाने का निर्देश देता है।
ग्रेडिएंट एकत्रीकरण (Gradient Aggregation):
- दोनों टेक्स्टुअल ग्रेडिएंट को जोड़ा जाता है: $g_{total} = g_{task} \oplus g_{reg}$ ।
- यह संयुक्त फीडबैक एक मेटा-ऑप्टिमाइज़र (एक उच्च-क्षमता वाला LLM) को भेजा जाता है जो सिस्टम प्रॉम्प्ट ( $p$ ) को अपडेट करने के लिए परस्पर विरोधी उद्देश्यों को संश्लेषित (synthesize) करता है।
ऑप्टिमाइज़ेशन लूप (Optimization Loop):
- यह प्रक्रिया डेटासेट बैच पर पुनरावृत्त (iterate) होती है।
- सर्वोत्तम प्रॉम्प्ट चुनने के लिए एक मिश्रित स्कोर $S(p)$ की गणना की जाती है: $S(p) = \text{Accuracy}(p) - \lambda \cdot L_{norm}(p)$ , जहाँ $\lambda$ सटीकता और टोकन कमी के बीच संतुलन बनाने वाला एक ट्यून करने योग्य गुणांक है।
मुख्य बाधाएं (Key Constraints):
- "कैटास्ट्रोफिक फॉरगेटिंग" (तार्किक चरणों को भूलने) को रोकने के लिए रेगुलराइजेशन को क्रमिक रूप से लागू किया जाता है।
- मेटा-ऑप्टिमाइज़र को परिधीय कथा तत्वों (peripheral narrative elements) को लक्षित करने के लिए प्रतिबंधित किया जाता है, ताकि मूल तर्क संरचना बरकरार रहे।

3. मुख्य योगदान (Key Contributions)

लागत-जागरूक प्रॉम्प्ट ऑप्टिमाइज़ेशन (CROP): एक फ्रेमवर्क जो प्रॉम्प्ट डिस्कवरी चरण के दौरान एक अनुकूली (adaptive) टेक्स्टुअल लेंथ पेनल्टी पेश करके रीजनिंग सटीकता को जनरेशन वाचालता से अलग करता है।
भारी इन्फरेंस दक्षता (Massive Inference Efficiency): जटिल रीजनिंग बेंचमार्क पर आउटपुट टोकन खपत में 80.6% की कमी प्रदर्शित करता है जबकि प्रतिस्पर्धी सटीकता बनाए रखता है।
प्रतीकात्मक तर्क की स्वायत्त खोज (Autonomous Discovery of Symbolic Reasoning): यह विधि LLMs को स्वतः ही अत्यधिक संकुचित, प्रतीकात्मक तर्क संरचनाओं (जैसे "चेन-ऑफ-ड्राफ्ट") को अपनाने के लिए मजबूर करती है। मॉडल संवादात्मक स्पष्टीकरणों के बजाय सघन गणितीय शॉर्टहैंड आउटपुट करना सीख जाता है।
स्केलेबिलिटी अंतर्दृष्टि (Scalability Insights): पेपर पहचानता है कि सफल बहु-उद्देश्यीय टेक्स्टुअल ऑप्टिमाइज़ेशन के लिए आवश्यक है:
- उच्च-क्षमता वाले मेटा-ऑप्टिमाइज़र: कम क्षमता वाले मॉडल परस्पर विरोधी ग्रेडिएंट्स को संश्लेषित करने में विफल रहते हैं, जिससे प्रॉम्प्ट कोलैप्स (तर्क की कीमत पर संक्षिप्तता के लिए अत्यधिक अनुकूलन) होता है।
- बड़े बैच आकार: छोटे बैच (जैसे, $B=1$ ) ग्रेडिएंट्स में उच्च विचरण (variance) पैदा करते हैं, जिससे अस्थिर ऑप्टिमाइज़ेशन होता है। बड़े बैच ( $B=128$ ) फीडबैक लूप को स्थिर करते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन चुनौतीपूर्ण डेटासेट्स पर CROP का मूल्यांकन किया: GSM8K (गणित), LogiQA (तर्कशास्त्र), और BIG-Bench Hard (ऑब्जेक्ट काउंटिंग)।

टोकन में कमी (Token Reduction):
- GSM8K: टोकन में 74.8% की कमी।
- Object Counting: टोकन में 80.6% की कमी।
- LogiQA: टोकन में 66.5% की कमी।
सटीकता का संरक्षण (Accuracy Preservation):
- टोकन की भारी कमी के बावजूद, CROP ने मानक चेन-ऑफ-थॉट (CoT) और TextGrad बेसलाइन्स के बराबर सटीकता बनाए रखी।
- उदाहरण: GSM8K पर Gemini 2.0 Flash के साथ, CROP ने केवल 50.0 टोकन के औसत के साथ 93.4% सटीकता प्राप्त की, जबकि मानक CoT ने 198.4 टोकन के साथ 95.3% सटीकता प्राप्त की।
गुणात्मक बदलाव (Qualitative Shift):
- मानक CoT आउटपुट वाचाल वाक्य देता है: "Let the cost of one glass be $5... We can group the glasses into pairs..."
- CROP सघन प्रतीकात्मक गणित आउटपुट करता है: "8 * 5 + 8 * (5 * 0.6) = 40 + 24 = 64"

5. महत्व और निहितार्थ (Significance and Implications)

उत्पादन व्यवहार्यता (Production Viability): CROP उन एजेंटिक AI सिस्टम को तैनात करने के लिए एक व्यावहारिक समाधान प्रदान करता है जहाँ विलंबता (latency) और टोकन लागत महत्वपूर्ण बाधाएं हैं। यह बिना "वाचालता कर" (verbosity tax) के उच्च-फिडेलिटी रीजनिंग की अनुमति देता है।
कोई आर्किटेक्चर परिवर्तन नहीं (No Architecture Changes): फाइन-ट्यूनिंग, निरंतर लेटेंट प्रोजेक्शन, या विशेष डिकोडिंग एल्गोरिदम की आवश्यकता वाले तरीकों के विपरीत, CROP पूरी तरह से प्राकृतिक भाषा ऑप्टिमाइज़ेशन स्पेस में काम करता है। यह मॉडल के वेट्स को नहीं, बल्कि प्रॉम्प्ट को संशोधित करता है।
उभरता हुआ व्यवहार (Emergent Behavior): अध्ययन यह रेखांकित करता है कि जब स्पष्ट रूप से रेगुलराइज्ड फीडबैक द्वारा निर्देशित किया जाता है, तो LLMs कुशल रीजनिंग पैटर्न (प्रतीकात्मक संपीड़न) को स्वायत्त रूप से खोज सकते हैं, जो इस धारणा को चुनौती देता है कि सही होने के लिए विस्तृत स्पष्टीकरण आवश्यक हैं।
भविकी दिशाएं (Future Directions): यह कार्य सुझाव देता है कि भविष्य के APO फ्रेमवर्क को बड़े पैमाने पर, वास्तविक समय के अनुप्रयोगों के लिए LLMs को आर्थिक रूप से व्यवहार्य बनाने हेतु लागत-जागरूकता (cost-awareness) को एक प्रथम-श्रेणी के प्रतिबंध के रूप में शामिल करना चाहिए।

निष्कर्षतः, CROP LLM आउटपुट की "वाचालता" को गणितीय रूप से रेगुलराइज करके उच्च-प्रदर्शन वाली रीजनिंग और आर्थिक व्यवहार्यता के बीच के अंतर को सफलतापूर्वक पाटता है, यह सिद्ध करता है कि जटिल तर्क को कंप्यूटिंग लागत के एक अंश के साथ प्राप्त किया जा सकता है।