HLS-Seek: QoR-Aware Code Generation for High-Level Synthesis via Proxy Comparative Reward Reinforcement Learning
HLS-Seek एक QoR-सचेत कोड जनरेशन फ्रेमवर्क है जो हाई-लेवल सिंथेसिस के लिए एक 7B-पैरामीटर वाले LLM को कुशलतापूर्वक प्रशिक्षित करने हेतु अनिश्चितता-सचेत मोंटे कार्लो ड्रॉपआउट स्विचिंग के साथ एक तुलनात्मक प्रॉक्सी रिवॉर्ड मॉडल का लाभ उठाता है, जिससे बेहतर लेटेंसी और रिसोर्स ऑप्टिमाइज़ेशन प्राप्त होता है और यह सिंटैक्स शुद्धता तथा पारेटो डोमिनेंस दोनों में फ्रंटियर मॉडल्स से काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मास्टर आर्किटेक्ट हैं जो एक कस्टम, हाई-स्पीड फैक्ट्री (जो कि इस मामले में एक कंप्यूटर चिप है) डिजाइन करने की कोशिश कर रहे हैं। आपके पास एक ब्लूप्रिंट है जो साधारण अंग्रेजी या सरल कोड में लिखा गया है। आपका लक्ष्य उस ब्लूप्रिंट को एक ऐसी फैक्ट्री में बदलना है जो यथासंभव तेज़ चले और कम से कम निर्माण सामग्री (जैसे तांबे के तार और मेमोरी ब्लॉक) का उपयोग करे।
यही हाई-लेवल सिंथेसिस (HLS) की चुनौती है। यह मानव विचारों को हार्डवेयर निर्देशों में अनुवाद करने की प्रक्रिया है। समस्या क्या है? सबसे अच्छा डिज़ाइन केवल यह नहीं है कि फैक्ट्री काम करे; बल्कि यह है कि फैक्ट्री कुशल हो। एक ऐसी फैक्ट्री जो काम तो करती है लेकिन कार बनाने में 10 घंटे लेती है, वह उस फैक्ट्री की तुलना में बेकार है जो 10 मिनट में कार बना लेती है, भले ही दोनों कारें बिल्कुल एक जैसी हों।
यहाँ HLS-Seek इस समस्या को कैसे हल करता है, इसे सरल भाषा में समझाया गया है:
समस्या: "धीमा शिक्षक"
पहले, जब AI इन फैक्ट्रियों को डिजाइन करना सीखने की कोशिश करता था, तो उसे एक बड़ी बाधा का सामना करना पड़ता था।
- पुराना तरीका: AI को सिखाने के लिए, आप उसे एक डिज़ाइन लिखने के लिए कहते थे, फिर उसे एक वास्तविक, भौतिक फैक्ट्री सिम्युलेटर (जिसे "सिंथेसिस टूल" कहा जाता है) के पास भेजते थे यह देखने के लिए कि वह कितनी तेज़ थी।
- चुनौती: यह सिम्युलेटर अविश्वसनीय रूप से धीमा है। केवल एक डिज़ाइन को टेस्ट करने में इसे मिनट या घंटों लग जाते हैं। AI को प्रभावी ढंग से प्रशिक्षित करने के लिए, आपको हजारों डिज़ाइन टेस्ट करने की आवश्यकता होती है। इस धीमे सिम्युलेटर के साथ काम करना ऐसा ही है जैसे रेस कार चलाने के सीखने के लिए केवल हर तीन दिन में एक बार इंजन टेस्ट करने की अनुमति मिलना। यह व्यावहारिक होने के लिए बहुत महंगा और धीमा है।
- परिणाम: मौजूदा AI मॉडल ऐसा कोड लिख सकते थे जो काम करता था (फैक्ट्री जलती नहीं थी), लेकिन उन्हें यह नहीं पता था कि फैक्ट्री को तेज़ या कुशल कैसे बनाया जाए। वे "कार्यात्मक रूप से सही" (functionally correct) थे लेकिन "गुणवत्ता-अज्ञानी" (quality-ignorant) थे।
समाधान: "फास्ट प्रॉक्सी कोच"
HLS-Seek के लेखकों ने महसूस किया कि AI को सिखाने के लिए उन्हें हर एक डिज़ाइन की सटीक गति जानने की आवश्यकता नहीं है। उन्हें बस यह जानने की आवश्यकता थी कि दो डिज़ाइनों में से कौन सा बेहतर है।
उन्होंने तीन मुख्य भागों वाला एक चतुर सिस्टम बनाया:
1. "टेस्ट टेस्टर" (द प्रॉक्सी रिवॉर्ड मॉडल)
हर डिज़ाइन को धीमे, वास्तविक फैक्ट्री सिम्युलेटर के पास भेजने के बजाय, उन्होंने एक "प्रॉक्सी कोच" को प्रशिक्षित किया।
- यह कैसे काम करता है: यह कोच दो डिज़ाइनों को अगल-बगल देखता है और तुरंत अनुमान लगाता है, "डिज़ाइन A, डिज़ाइन B से तेज़ है।"
- उपमा: कल्पना कीजिए कि एक फूड क्रिटिक (खाद्य समीक्षक) जिसने हजारों व्यंजन चखे हैं। उन्हें यह जानने के लिए हर सामग्री को तौलने या खाना पकाने के समय को मापने की आवश्यकता नहीं है कि कौन सा बर्गर बेहतर है; वे अनुभव के आधार पर बस जानते हैं। यह "प्रॉक्सी कोच" वही क्रिटिक है। यह वास्तविक सिम्युलेटर (मिनटों) की तुलना में बिजली की तरह तेज़ (मिलीसेकंड) है।
- सटीकता: यह कोच अविश्वसनीय रूप से अच्छा है, जो 99.5% बार तुलना को सही बताता है।
2. "सेफ्टी नेट" (अनसर्टेन्टी-अवेयर स्विचिंग)
क्या होगा यदि AI एक अजीब, पागलपन भरा डिज़ाइन आज़माता है जिसे "प्रॉक्सी कोच" ने पहले कभी नहीं देखा है? कोच गलत अनुमान लगा सकता है।
- समाधान: सिस्टम कोच को एक "कॉन्फिडेंस मीटर" (विश्वास मीटर) देता है। यदि कोच अनिश्चित है (कम आत्मविश्वास), तो सिस्टम स्वचालित रूप से रुक जाता है और उस विशिष्ट डिज़ाइन को वास्तविक, धीमे सिम्युलेटर के पास भेज देता है ताकि वास्तविक उत्तर मिल सके।
- लर्निंग लूप: एक बार जब वास्तविक सिम्युलेटर उत्तर दे देता है, तो सिस्टम उस परिणाम को "प्रॉक्सी कोच" को सिखाने के लिए वापस फीड करता है। समय के साथ, कोच अधिक सीखता है, उसे धीमे सिम्युलेटर की कम आवश्यकता पड़ती है, और वह एक स्व-सुधार करने वाला विशेषज्ञ बन जाता है।
3. "थ्री-स्टेज ट्रेनिंग कैंप"
AI (एक 7-बिलियन पैरामीटर मॉडल) एक कठोर प्रशिक्षण शिविर से गुजरता है:
- चरण 1 (विविधता): यह कई अलग-अलग तरीकों से कोड लिखना सीखता है, ताकि बुनियादी बातें समझ में आ सकें।
- चरण 2 (तर्क/रीजनिंग): यह बोलने से पहले "सोचना" सीखता है। यह हार्डवेयर डिज़ाइन के तर्क को समझने में मदद करने के लिए कुछ विशेष सेटिंग्स क्यों चुनी गईं, इसका चरण-दर-चरण स्पष्टीकरण उत्पन्न करता है।
- चरण 3 (रीइन्फोर्समेंट लर्निंग): यहीं जादू होता है। AI कई डिज़ाइन बनाता है, और "प्रॉक्सी कोच" उन्हें रैंक करता है। AI को बेहतर डिज़ाइनों के लिए "रिवॉर्ड" मिलता है और वह जो काम करता है उसे दोहराना सीखता है। क्योंकि कोच तेज़ है, इसलिए AI उतनी ही बार अभ्यास कर सकता है जितनी बार पहले एक बार अभ्यास करने में लगता था।
परिणाम: एक नया चैंपियन
इस नए सिस्टम, HLS-Seek का परीक्षण उपलब्ध सर्वश्रेष्ठ AI मॉडलों (GPT-5.1 जैसे दिग्गजों और विशेष हार्डवेयर मॉडलों सहित) के विरुद्ध किया गया।
- गति: इसने वास्तविक, धीमे सिम्युलेटर का उपयोग करने वाले तरीकों की तुलना में 8.5 गुना तेज़ी से प्रशिक्षण लिया।
- सटीकता: एक छोटे मॉडल (7 बिलियन पैरामीटर) के बावजूद, इसने विशाल, महंगे मॉडलों की तुलना में अधिक बार सिंटैक्टिक रूप से सही और कार्यात्मक रूप से पूर्ण कोड लिखा।
- गुणवत्ता (बड़ी जीत): जब हार्डवेयर के वास्तविक प्रदर्शन (लेटेंसी और रिसोर्स उपयोग) की बात आई, तो HLS-Seek ने 30 में से 16 टेस्ट केस के लिए सबसे तेज़ डिज़ाइन बनाए। कई मामलों में, इसने केवल सेटिंग्स को नहीं बदला; इसने गति को अनलॉक करने के लिए कोड को पूरी तरह से पुनर्गठित किया जो अन्य मॉडल नहीं ढूंढ सके।
सारांश
HLS-Seek को एक ऐसे छात्र के रूप में सोचें जिसे पहले अपना होमवर्क ग्रेड कराने के लिए दिनों तक इंतज़ार करना पड़ता था। अब, उसके पास एक सुपर-फास्ट, अत्यधिक सटीक "ट्यूटर" है जो एक होमवर्क को ग्रेड करने में लगने वाले समय में 1,000 अभ्यास समस्याओं को ग्रेड कर सकता है। यदि ट्यूटर कभी भी अनिश्चित होता है, तो वह हेड टीचर से दोबारा जाँच करता है, उससे सीखता है, और और भी स्मार्ट बनता है। परिणाम? छात्र तेज़ी से सीखता है, कम गलतियाँ करता है, और दूसरों की तुलना में बेहतर, तेज़ फैक्ट्रियां बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।