Sketch-and-Verify: Structured Inference-Time Scaling via Program Sketching
यह शोध पत्र 'स्केच-एंड-वेरिफाई' (Sketch-and-Verify) को पेश करता है, जो छोटे कोड मॉडलों के लिए एक लागत प्रभावी इन्फरेंस-टाइम स्केलिंग रणनीति है जो विविध एल्गोरिद्मिक स्केचेस को सूचीबद्ध करने और उन्हें कई उम्मीदवारों के साथ भरने के माध्यम से फ्लैट सैंपलिंग से बेहतर प्रदर्शन करती है, हालांकि यह मजबूत मॉडल स्तरों के प्रदर्शन को पूरी तरह से प्रतिस्थापित नहीं कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पेचीदा पहेली को हल करने की कोशिश कर रहे हैं, लेकिन आपके पास मदद के लिए केवल एक छोटा, सस्ता रोबोट है। यह रोबोट तेज़ और सस्ता है, लेकिन इसकी एक बुरी आदत है: जब यह किसी समस्या को हल करने की कोशिश करता है, तो यह लगभग हमेशा सोचने के एक ही गलत तरीके को चुनता है। यदि आप इसे 100 बार प्रयास करने के लिए कहते हैं, तो यह आपको उसी गलत उत्तर के 100 थोड़े अलग संस्करण ही देगा।
यही वह समस्या है जिसे पेपर "Sketch-and-Verify" हल करने की कोशिश करता है। यह इस छोटे, सस्ते रोबट का उपयोग करने का एक नया तरीका प्रदान करता है ताकि यह अधिक समस्याओं को हल कर सके बिना किसी सुपर-महंगे, विशाल रोबोट की आवश्यकता के।
यह विधि कैसे काम करती है, यहाँ सरल चरणों में दिया गया है:
1. समस्या: "वही पुराना गाना"
आमतौर पर, जब हम AI को कोड लिखने के लिए कहते हैं, तो हम बस कहते हैं, "100 बार प्रयास करें और मुझे सबसे अच्छा वाला दें।"
- खामी: यदि AI का "डिफ़ॉल्ट" विचार गलत है, तो उसे 100 बार प्रयास करने के लिए कहना एक व्यक्ति से एक ही खराब गाने के 100 अलग संस्करण लिखने के लिए कहने जैसा है। आप बोल (lyrics) या लय (tempo) बदल सकते हैं, लेकिन धुन अभी भी गलत ही रहेगी। AI "कॉस्मेटिक" बदलावों (वेरिएबल के नाम बदलना या फॉर्मेटिंग बदलना) के लूप में फंस जाता है, बिना किसी मौलिक रूप से भिन्न दृष्टिकोण को आजमाए।
2. समाधान: "आर्किटेक्ट और बिल्डर"
लेखक Sketch-and-Verify नामक एक दो-चरणीय प्रक्रिया का प्रस्ताव देते हैं। AI को तुरंत पूरा कोड लिखने के लिए कहने के बजाय, वे काम को दो भूमिकाओं में विभाजित करते हैं:
चरण 1: आर्किटेक्ट (द स्केच - The Sketch)
सबसे पहले, वे AI को एक आर्किटेक्ट की तरह कार्य करने के लिए कहते हैं। वे कहते हैं: "अभी कोड मत लिखो। बस इस समस्या को हल करने के 5 पूरी तरह से अलग तरीके सूचीबद्ध करो।"- उदाहरण: "रणनीति A: मैप का उपयोग करें। रणनीति B: सूची को पहले सॉर्ट करें। रणनीति C: लूप का उपयोग करें।"
- एक बार जब AI एक रणनीति चुन लेता है, तो AI एक मोटा "ब्लूप्रिंट" (एक स्केच) बनाता है जिसमें छेद होते हैं। ब्लूप्रिंट में मुख्य संरचना (दीवारें और छत) होती है लेकिन विशिष्ट विवरण (पेंट का रंग, दरवाजे का हैंडल) खाली स्लॉट के रूप में छोड़े जाते हैं जिन्हें
??से चिह्नित किया जाता है। - यह क्यों मदद करता है: यह AI को निर्माण शुरू करने से पहले सोचने के लिए मजबूर करता है। यह सुनिश्चित करता है कि AI एक ही जगह चक्कर लगाने के बजाय समाधानों के विभिन्न "पड़ोसों" की खोज करे।
चरण 2: बिल्डर (द फिल - The Fill)
अब, प्रत्येक ब्लूप्रिंट के लिए, AI एक बिल्डर की तरह कार्य करता है। वह??वाले छेदों को भरकर एक पूर्ण प्रोग्राम बनाता है।- यदि AI ने 5 ब्लूप्रिंट बनाए और प्रत्येक को 10 बार भरा, तो अब उसके पास परीक्षण करने के लिए 50 पूरी तरह से अलग प्रोग्राम हैं।
- क्योंकि ब्लूप्रिंट अलग थे, इसलिए ये 50 प्रोग्राम संरचनात्मक रूप से विविध हैं। वे केवल एक ही विचार के पुनर्लेखन नहीं हैं; वे वास्तव में अलग दृष्टिकोण हैं।
चरण 3: इंस्पेक्टर (वेरिफाई - Verify)
अंत में, वे इन सभी प्रोग्रामों को एक परीक्षण के माध्यम से चलाते हैं। वे उन प्रोग्रामों को रखते हैं जो काम करते हैं और सबसे अच्छे को चुनते हैं।
3. परिणाम: सस्ता बनाम महंगा
शोधकर्ताओं ने इसे Google के Gemini AI के तीन संस्करणों का उपयोग करके एक मानक कोडिंग टेस्ट HumanEval+ पर परखा:
- Lite: छोटा, सस्ता, तेज़ मॉडल।
- Flash: मध्यम मॉडल।
- Pro: बड़ा, महंगा, स्मार्ट मॉडल।
मुख्य निष्कर्ष:
सस्ते रोबोट के लिए (Lite): "Sketch-and-Verify" विधि एक गेम-चेंजर साबित हुई।
- यदि उन्होंने केवल Lite रोबोट को सामान्य रूप से 100 बार प्रयास करने के लिए कहा (Flat Sampling), तो उसने कठिन समस्याओं को लगभग 53% हल किया।
- यदि उन्होंने Sketch-and-Verify विधि का उपयोग किया (10 ब्लूप्रिंट बनाना और उन्हें 10 बार भरना), तो इसने कठिन समस्याओं को 79% हल किया।
- उपमा: यह एक छात्र को यह बताने जैसा है, "सिर्फ एक ही विषय पर 100 निबंध न लिखें। 10 अलग-अलग विषयों के लिए 10 रूपरेखाएँ (outlines) लिखें, फिर उन्हें पूरा करें।" छात्र समान प्रयास के लिए अधिक सीखता है और बेहतर ग्रेड प्राप्त करता है।
महंगे रोबोट के लिए (Pro): इस विधि ने ज्यादा मदद नहीं की।
- Pro रोबोट पहले से ही इतना स्मार्ट है कि उसका "डिफ़ॉल्ट" विचार आमतौर पर सही होता है। उसे अलग रणनीतियों का स्केच बनाने के लिए मजबूर करना वास्तव में इसे थोड़ा खराब कर देता है क्योंकि यह उसे उसकी सबसे अच्छी प्रवृत्ति से विचलित कर देता है।
- नियम: यदि आपके पास एक सुपर-स्मार्ट रोबोट है, तो बस उसे गहराई से सोचने दें (Greedy)। यदि आपके पास केवल एक सस्ता रोबोट है, तो रचनात्मक रूप से सोचने के लिए Sketch-and-Verify का उपयोग करें।
4. निचोड़ (The Bottom Line)
यह पेपर तर्क देता है कि Sketch-and-Verify अतिरिक्त कंप्यूटिंग पावर खर्च करने का एक स्मार्ट तरीका है जब आप एक छोटे, सस्ते AI मॉडल के साथ अटके हुए हों।
- यह जादू नहीं है: यह एक कमजोर मॉडल को मजबूत मॉडल से बेहतर नहीं बनाता है। यदि आप महंगे "Pro" मॉडल का खर्च उठा सकते हैं, तो बस उसका उपयोग करें।
- यह एक रणनीति है: यदि आपको सस्ता मॉडल (बजट या गति के कारण) उपयोग करना ही है, तो यह विधि उससे अधिकतम प्रदर्शन निकालने का सबसे अच्छा तरीका है। यह AI को एक ही ढर्रे में फंसने से रोकती है और उसे विभिन्न समाधानों की खोज करने के लिए मजबूर करती है, ठीक वैसे ही जैसे एक मानव मंथन (brainstorming) सत्र होता है।
संक्षेप में: AI को केवल अधिक प्रयास करने के लिए न कहें; उसे अलग तरह से प्रयास करने के लिए कहें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।