HGQ-LUT: Fast LUT-Aware Training and Efficient Architectures for DNN Inference
HGQ-LUT एक नया LUT-जागरूक (LUT-aware) प्रशिक्षण दृष्टिकोण है जो प्रशिक्षण को 100 गुना से अधिक तेज़ करके और सटीकता-संसाधन ट्रेड-ऑफ को अनुकूलित करने के लिए एक एंड-टू-एंड वर्कफ़्लो प्रदान करके FPGAs पर न्यूरल नेटवर्क की तेज़, स्वचालित और हार्डवेयर-कुशल तैनाती को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक हाई-स्पीड, हाई-टेक किचन चलाने की कोशिश कर रहे हैं (यह FPGA चिप है) जिसे हर सेकंड हजारों रेसिपी (यह न्यूरल नेटवर्क) को प्रोसेस करने की आवश्यकता है।
वर्तमान में, खाना पकाने के दो तरीके हैं:
- "शेफ" विधि (पारंपरिक AI): आपके पास एक मास्टर शेफ है जो जटिल गणितीय सूत्रों का पालन करता है। वह बहुत बुद्धिमान और सटीक है, लेकिन वह धीमा है क्योंकि उसे हर एक सामग्री के लिए भारी मानसिक गणित करना पड़ता है।
- "चीट शीट" विधि (मौजूदा LUT-आधारित AI): गणित करने के बजाय, शेफ के पास "लुकअप टेबल्स" (LUTs) की एक विशाल किताब है। यदि रेसिपी कहती है "2+2," तो वह गणना नहीं करता; वह बस किताब में देखता है और पाता है कि उत्तर "4" है। यह अविश्वसनीय रूप से तेज़ है, लेकिन यह "किताब" वर्तमान में एक बुरा सपना है जिसे लिखना, व्यवस्थित करना और अपडेट करना बहुत कठिन है।
समस्या:
वर्तमान "चीट शीट" विधि एक अव्यवस्था है। इस नए AI को लुकअप टेबल्स का उपयोग करके प्रशिक्षित करना एक विशाल विश्वकोश को हाथ से, एक समय में एक अक्षर करके लिखने जैसा है। यह सामान्य AI को प्रशिक्षित करने की तुलना में 100 गुना अधिक समय लेता है। क्योंकि यह बहुत धीमा और कठिन है, वैज्ञानिक इसका उपयोग केवल बहुत छोटे, सरल कार्यों के लिए ही कर पाते हैं।
समाधान: HGQ-LUT (द "स्मार्ट टेम्पलेट" सिस्टम)
शोधकर्ताओं ने HGQ-LUT बनाया है, जो उन चीट शीट्स को प्रिंट करने का एक क्रांतिकारी नया तरीका है। यह कैसे काम करता है, यहाँ देखें:
1. "ट्रेनिंग व्हील्स" (तेज़ प्रशिक्षण)
कंप्यूटर को पहले दिन से ही क्लंकी (clunky) "लुकअप टेबल" प्रारूप का उपयोग करके सीखने के लिए मजबूर करने के बजाय, HGQ-LUTS कंप्यूटर को मानक, तेज़ गणित ( "शेफ" विधि) का उपयोग करके प्रशिक्षित होने देता है। एक बार जब कंप्यूटर पैटर्न सीख लेता है, तो सिस्टम स्वचालित रूप से उन पैटर्न्स को एक बिजली की तरह तेज़ लुकअप टेबल में "प्रिंट" कर देता है। यह दर्पणों वाले स्टूडियो में डांस का अभ्यास करने और फिर अंधेरे मंच पर उसे पूरी तरह से परफॉर्म करने जैसा है। यह प्रशिक्षण को पहले की तुलना में 100 गुना तेज़ बनाता है।
2. "हाइब्रिड किचन" (दोनों दुनियाओं का सर्वश्रेष्ठ)
शोधकर्ताओं ने महसूस किया कि आपको सब कुछ लुकअप टेबल में बदलने की आवश्यकता नहीं है। कुछ जटिल कार्यों के लिए, आपको अभी भी थोड़े से "गणित" (शेफ) की आवश्यकता होती है। HGQ-LUT आपको मिक्स एंड मैच करने की अनुमति देता है: आसान चीजों के लिए तेज़ "चीट शीट्स" का उपयोग करें और कठिन चीजों के लिए "शेफ" का, यह सब एक ही सहज वर्कफ़्लो में।
3. "ऑटोमैटिक ऑर्गनाइज़र" (एंड-टू-एंड वर्कफ़्लो)
पहले, यदि आप अपने AI को एक कंप्यूटर से एक विशेष चिप पर ले जाना चाहते थे, तो आपको मैन्युअल रूप से कोड फिर से लिखना पड़ता था, सेटिंग्स को ट्यून करना पड़ता था और प्रार्थना करनी पड़ती थी कि यह काम कर जाए। HGQ-LUT एक "ऑल-इन-वन" टूल है। आप इसे डिज़ाइन करते हैं, प्रशिक्षित करते हैं, और स्वचालित रूप से इसे हार्डवेयर में "कंपाइल" करते हैं। यह अपने फोन पर एक डिजिटल रेसिपी से एक पूरी तरह से स्वचालित रोबोटिक किचन तक एक क्लिक में जाने जैसा है।
यह क्यों मायने रखता है?
यह केवल कंप्यूटरों को तेज़ बनाने के बारे में नहीं है; यह चरम वातावरणों में वास्तविक दुनिया की समस्याओं को हल करने के बारे में है।
पेपर CERN लार्ज हैड्रोन कोलाइडर का उल्लेख करता है। इन विशाल पार्टिकल एक्सीलरेटरों पर, वैज्ञानिक डेटा के एक "फायरहोज़" (firehose) से निपट रहे हैं—हर सेकंड अरबों कण टकरा रहे हैं। उन्हें यह निर्णय लेने के लिए नैनोसेकंड (एक अरबवें सेकंड) में निर्णय लेने की आवश्यकता होती है कि कौन सा डेटा रखना है और किसे फेंक देना है।
HGQ-LUT उस डेटा को रीयल-टाइम में प्रोसेस करने के लिए आवश्यक "सुपर-फास्ट चीट शीट्स" प्रदान करता है, जिससे हमें ब्रह्मांड के मूल निर्माण खंडों को समझने में मदद मिलती है बिना कंप्यूटर के गणित करने में "अटकने" के।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।