Reducing Token Usage of State-in-Context Agents using Minification
यह शोध पत्र स्टेट-इन-कॉन्टेक्स्ट एजेंट फ्रेमवर्क के एक प्रतिकृति (रेप्लिकेशन) को प्रस्तुत करता है और यह प्रदर्शित करता है कि कोड मिनिफिकेशन तकनीकों को लागू करने से रेजोल्यूशन दर में 12 प्रतिशत अंकों की गिरावट की कीमत पर इनपुट टोकन के उपयोग में 42% की कमी आती है, जो अधिक लागत प्रभावी सॉफ्टवेयर इंजीनियरिंग एजेंटों के लिए एक आशाजनक समझौता प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक टूटी हुई मशीन को ठीक करने के लिए एक बहुत ही बुद्धिमान लेकिन बहुत महंगे सलाहकार को काम पर रख रहे हैं। वह मशीन एक विशाल, जटिल सॉफ्टवेयर प्रोग्राम (एक कोडबेस) है, और वह सलाहकार एक AI है।
हर बार जब AI मैनुअल का कोई हिस्सा या मशीन के ब्लूप्रिंट का कोई पन्ना पढ़ता है, तो इसमें पैसा खर्च होता है। वह जितने अधिक पन्ने पढ़ेगा, बिल उतना ही अधिक आएगा।
समस्या: बहुत अधिक कागजी कार्रवाई
शोधकर्ताओं ने पाया कि जब ये AI एजेंट सॉफ्टवेयर बग्स को ठीक करने की कोशिश करते हैं, तो वे कागजी कार्रवाई में डूब जाते हैं। वे अपना अधिकांश समय वास्तविक कोड—यानी "ब्लूप्रिंट"—पढ़ने में बिताते हैं, जिसमें कुल लागत का लगभग 90% हिस्सा लगता है। निर्देश और यह सूची कि किन फाइलों को देखना है, इसकी तुलना में वे बहुत छोटे हैं।
यह एक जासूस को अपराध सुलझाने के लिए काम पर रखने जैसा है, लेकिन आप उसे अपराध स्थल को देखने से पहले शहर की पूरी फोन बुक पढ़ने के लिए मजबूर करते हैं। वे थक जाते हैं, बिल बहुत बड़ा हो जाता है, और वे सूचना की भारी मात्रा के कारण सुराग को मिस कर सकते हैं।
समाधान: "मिनिफिकेशन" (श्रिंक रे - संकुचन किरण)
यह पेपर एक तकनीक पेश करता है जिसे Minification कहा जाता है। इसे कोड के लिए एक "Shrink Ray" (सिकुड़ने वाली किरण) के रूप में समझें।
सॉफ्टवेयर की दुनिया में, कोड में अक्सर अतिरिक्त स्पेस, कमेंट्स (इंसानों के लिए नोट्स), और calculate_total_revenue_for_the_month जैसे लंबे वेरिएबल नाम होते हैं। ये इंसानों के पढ़ने के लिए तो बेहतरीन हैं, लेकिन कंप्यूटर के लिए ये केवल "फालतू सामग्री" (fluff) हैं।
शोधकर्ताओं ने इस कोड को "सिकुड़ने" के लिए, जिसे AI को भेजा जाना है, निम्नलिखित रूपांतरणों को लागू किया:
- फालतू सामग्री हटाना: उन्होंने खाली लाइनें, कमेंट्स और डॉक्यूमेंटेशन हटा दिया।
- दबाव बढ़ाना: उन्होंने गणितीय प्रतीकों के आसपास के अतिरिक्त स्पेस को हटा दिया (जैसे
a + bकोa+bमें बदलना)। - नाम छोटे करना: उन्होंने लंबे वेरिएबल्स को छोटे नामों में बदल दिया (जैसे
calculate_total_revenue_for_the_monthकोxमें बदलना)।- महत्वपूर्ण विवरण: यह सुनिश्चित करने के लिए कि AI भ्रमित न हो, उन्होंने एक "अनुवाद डिक्शनरी" प्रदान की ताकि AI जान सके कि
xवास्तव मेंcalculate_total_revenue_for_the_monthका अर्थ है।
- महत्वपूर्ण विवरण: यह सुनिश्चित करने के लिए कि AI भ्रमित न हो, उन्होंने एक "अनुवाद डिक्शनरी" प्रदान की ताकि AI जान सके कि
प्रयोग: क्या श्रिंक रे काम करती है?
टीम ने SWE-bench नामक एक प्रसिद्ध बेंचमार्क पर इसका परीक्षण किया, जो 100 वास्तविक दुनिया के सॉफ्टवेयर बग्स का एक मानकीकृत टेस्ट है। उन्होंने इन बग्स को ठीक करने के लिए एक शक्तिशाली AI मॉडल (GPT-5-mini) का उपयोग किया।
परिणाम:
- अच्छी खबर: "श्रिंक रे" (Shrink Ray) पैसे बचाने में अविश्वसनीय रूप से प्रभावी रही। इसने AI द्वारा पढ़े जाने वाले टेक्स्ट की मात्रा को 42% कम कर दिया। यह लागत में एक बड़ी कमी है।
- बुरी खबर: AI समस्याओं को हल करने में थोड़ा कमजोर हो गया। सफलता दर में 12 प्रतिशत अंक की गिरावट आई (50% सफलता से घटकर 38% रह गई)।
ट्रेड-ऑफ (समझौता):
पेपर निष्कर्ष निकालता है कि आप कोड को छोटा करके बहुत सारे पैसे बचा सकते हैं, लेकिन आपको यह स्वीकार करना होगा कि AI कम समस्याओं को हल करेगा। यह दक्षता (लागत) और प्रभावशीलता (सफलता) के बीच का एक समझौता है।
एक बड़ी चेतावनी: "इंडेंटेशन" का जाल
एक विशिष्ट प्रकार का संकुचन था जिसने बहुत अधिक परेशानी खड़ी की: डीडेंटेशन (Dedentation)।
पायथन कोड (एक लोकप्रिय प्रोग्रामिंग भाषा) यह जानने के लिए इंडेंटेशन (लाइन की शुरुआत में स्पेस) पर निर्भर करता है कि निर्देशों को कैसे समूहबद्ध किया जाए। शोधकर्ताओं ने टोकन बचाने के लिए स्पेस की संख्या को कम करने की कोशिश की।
- क्या हुआ: AI भ्रमित हो गया। वह एक ऐसा सुधार लिखता जो AI के लिए सही दिखता था लेकिन वास्तव में एक टूटा हुआ कोड था क्योंकि स्पेसिंग गलत थी।
- उपमा: यह एक शेफ को "प्याज काटने" के लिए कहने जैसा है, लेकिन यह हटा देना कि चाकू को कैसे पकड़ना है। शेफ कोशिश तो करता है, लेकिन परिणाम एक गड़बड़ होता है।
- समाधान: पेपर सुझाव देता है कि यदि आप इस पद्धति का उपयोग करना चाहते हैं, तो आपको एक "सेफ्टी नेट" की आवश्यकता है जो AI द्वारा उत्तर लिखने के बाद स्पेसिंग को स्वचालित रूप से ठीक कर सके। इसके बिना, सफलता दर गिर जाती है।
सारांश
यह पेपर दिखाता है कि हम AI सॉफ्टवेयर इंजीनियरों को उनकी "पढ़ने की सामग्री" को आवश्यक चीजों तक सीमित करके बहुत सस्ता बना सकते हैं।
- लागत: काफी कम हो जाती है (42% कम टेक्स्ट पढ़ना पड़ता है)।
- प्रदर्शन: मध्यम रूप से गिर जाता है (12% कम बग्स ठीक होते हैं)।
- चेतावनी: आपको इस बात का ध्यान रखना होगा कि आप उस "व्याकरण" (इंडेंटेशन) को न हटा दें जिसकी कोड को समझने के लिए आवश्यकता होती है।
शोधकर्ताओं ने अपने टूल्स GitHub पर उपलब्ध करा दिए हैं, जिससे अन्य लोग अपने स्वयं के सॉफ्टवेयर प्रोजेक्ट्स पर इस "श्रिंक रे" का परीक्षण कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।