💻 computer science

Hardware-Software Co-Design of Scalable, Energy-Efficient Analog Recurrent Computations

यह शोध पत्र बाइस्टेबल मेमोरी रिकरेंट यूनिट्स (BMRUs) का उपयोग करते हुए एक हार्डवेयर-सॉफ्टवेयर सह-डिज़ाइन दृष्टिकोण प्रस्तुत करता है ताकि शोर संचय की बाधाओं को दूर किया जा सके, जो उच्च-निष्ठा सर्किट-टू-सॉफ्टवेयर पत्राचार के साथ हमेशा चालू रहने वाले एआई अनुप्रयोगों के लिए अल्ट्रा-लो पावर, स्केलेबल एनालॉग रिकरेंट न्यूरल नेटवर्क को सक्षम बनाता है जो सब-माइक्रोवाट इन्फरेंस प्राप्त करते हैं।

मूल लेखक: Arthur Fyon, Julien Brandoit, Loris Mendolia, Damien Ernst, Jean-Michel Redouté, Guillaume Drion

प्रकाशित 2026-05-18

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Arthur Fyon, Julien Brandoit, Loris Mendolia, Damien Ernst, Jean-Michel Redouté, Guillaume Drion

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत छोटा, बैटरी से चलने वाला उपकरण है जिसे 24/7 दुनिया को सुनना है—जैसे कि जंगल में लगा कोई स्मार्ट सेंसर या आपके शरीर के अंदर लगा कोई मेडिकल इम्प्लांट। समस्या यह है कि बैटरियां भारी होती हैं और उन्हें बार-बार बदलने की जरूरत पड़ती है। इन उपकरणों को वर्षों तक चलाने के लिए, उन्हें लगभग शून्य बिजली का उपयोग करना होगा।

लंबे समय तक, इंजीनियरों ने सोचा था कि एक कठिन सीमा है: आप एक ऐसा उपकरण बना सकते हैं जो सुन सके और प्रतिक्रिया दे सके (जैसे "हाँ!" कहना) बहुत कम बिजली का उपयोग करके, लेकिन आप चीज़ों को समय के साथ याद नहीं रख सकते थे (जैसे एक वाक्य को समझना) बिना बहुत अधिक ऊर्जा खर्च किए। यह रेत से घर बनाने की कोशिश करने जैसा था; जैसे ही आप दूसरा तल (मेमोरी) जोड़ने की कोशिश करते, पूरा ढांचा "शोर" (स्थिरता और त्रुटियों) के भार से ढह जाता।

यह शोध पत्र इन उपकरणों को बनाने का एक नया तरीका प्रस्तुत करता है जो चतुर गणित और कस्टम-मेड इलेक्ट्रॉनिक्स के मिश्रण का उपयोग करता है। उन्होंने इसे कैसे किया, यहाँ सरल भाषा में समझाया गया है:

1. समस्या: मेमोरी का "रेत का महल"

एक मानक डिजिटल कंप्यूटर को एक बहुत ही सटीक मुनीम (accountant) के रूप में सोचें। वह सब कुछ पूरी तरह से गिनता है, लेकिन संख्याओं को इधर-उधर ले जाने में बहुत ऊर्जा लगती है।
एक एनालॉग सर्किट (जिसका उपयोग इस शोध पत्र में किया गया है) को एक बहती हुई नदी के रूप में सोचें। यह अविश्वसनीय रूप से ऊर्जा-कुशल है, लेकिन यदि आप एक संदेश को नीचे की ओर भेजते हैं और फिर उसे वापस ऊपर की ओर घुमाते हैं (recurrence), तो पानी गंदा हो जाता है। सिग्नल विकृत हो जाता है (जैसे हवा के तूफान में एक फुसफुसाहट खो जाना) हर बार जब यह लूप करता है। अंततः, संदेश निरर्थक हो जाता है। यही कारण था कि वैज्ञानिकों ने सोचा था कि आप अल्ट्रा-लो पावर एनालॉग सर्किट के साथ मेमोरी-आधारित AI नहीं बना सकते।

2. समाधान: द "बाइस्टेबल स्विच" (Bistable Switch)

लेखकों को एक विशेष प्रकार का गणितीय बिल्डिंग ब्लॉक मिला जिसे बाइस्टेबल मेमोरी रिकरेंट यूनिट (BMRU) कहा जाता है।

उपमा: एक ऐसे लाइट स्विच की कल्पना करें जो केवल चालू या बंद ही नहीं होता, बल्कि उसका एक "चिपचिपा" (sticky) मध्य भाग भी होता है।
- यदि आप स्विच को थोड़ा सा दबाते हैं, तो वह वापस अपनी पुरानी स्थिति में आ जाता है (छोटे झटकोंों को अनदेखा कर देता है)।
- केवल तभी जब आप उसे ज़ोर से दबाते हैं, तो वह दूसरी तरफ जाता है और वहीं टिका रहता है।
यह क्यों मदद करता है: क्योंकि स्विच के केवल दो स्थिर स्थान (On या Off) हैं, यह "गंदे पानी" (शोर) को अनदेखा कर देता है। भले ही संदेश अपने रास्ते में थोड़ा विकृत हो जाए, स्विच बस अपनी स्पष्ट "On" या "Off" स्थिति में वापस आ जाता है। यह शोर को जमा होने से रोकता है।

3. जादू का नुस्खा: हार्डवेयर-सॉफ्टवेयर को-डिज़ाइन (Hardware-Software Co-Design)

आमतौर पर, सॉफ्टवेयर इंजीनियर कोड लिखते हैं, और हार्डवेयर इंजीनियर उस कोड को चलाने के लिए चिप बनाते हैं। वे अक्सर एक-दूसरे से पूरी तरह मेल नहीं खाते।
इस शोध पत्र में, टीम ने को-डिज़ाइन किया। उन्होंने केवल कोड नहीं लिखा और फिर उसके लिए चिप बनाने की कोशिश नहीं की। इसके बजाय, उन्होंने गणित को विशेष रूप से उस छोटे इलेक्ट्रॉनिक स्विच के भौतिक विज्ञान (physics) से मेल खाने के लिए डिज़ाइन किया जिसे उन्होंने शून्य से बनाया था।

परिणाम: उनके सॉफ्टवेयर मॉडल में प्रत्येक संख्या (जैसे कि वेट या थ्रेशोल्ड) सीधे चिप के एक विशिष्ट भौतिक भाग (जैसे कि ट्रांजिस्टर की चौड़ाई या एक विशिष्ट करंट) से मेल खाती है। यह एक ऐसे ब्लूप्रिंट की तरह है जहाँ कागज पर खींची गई हर रेखा दीवार में लगी एक ईंट के अनुरूप है।

4. "फर्स्ट क्वाड्रेंट" (First Quadrant) सुधार

जिस गणित का उन्होंने उपयोग किया था, उसमें मूल रूप से संकेतों को सकारात्मक और नकारात्मक दोनों दिशाओं में जाने की आवश्यकता थी (जैसे कि शून्य के ऊपर और नीचे जाने वाला थर्मामीटर)। लेकिन उनके छोटे, कम शक्ति वाले चिप केवल सकारात्मक संकेतों को संभाल सकते हैं (जैसे कि पानी का प्रवाह जो केवल आगे जा सकता है)।
उन्होंने एक नया संस्करण बनाया जिसे फर्स्ट-क्वाड्रेंट BMRU कहा जाता है।

उपमा: एक सी-सॉ (seesaw) के बजाय, जो ऊपर और नीचे जाता है, उन्होंने एक ऐसा सिस्टम बनाया जो केवल आगे बढ़ता है या स्थिर रहता है। उन्होंने गणितीय रूप से सिद्ध किया कि यह "एक-तरफा" सिस्टम, गणित को थोड़ा पुनर्व्यवस्थित करके, ठीक वही मेमोरी कार्य कर सकता है जो "ऊपर-नीचे" वाला सिस्टम करता है। इसने उन्हें केवल सरल, ऊर्जा-कुशल भागों का उपयोग करके सर्किट बनाने की अनुमति दी।

5. प्रमाण: "यस" डिटेक्टर

यह साबित करने के लिए कि यह काम करता है, उन्होंने एक छोटा चिप (सिमुलेशन में) बनाया जिसे शोर भरे कमरे में "यस" (Yes) शब्द सुनने के लिए डिज़ाइन किया गया था।

चिप: यह 768 छोटे ट्रांजिस्टरों से बना था, जो इतने कम पावर लेवल पर काम कर रहे थे जिसे नैनोवाट (एक अरबवें वाट) में मापा जाता है।
परीक्षण: उन्होंने चिप को हजारों ऑडियो क्लिप्स के माध्यम से चलाया।
परिणाम: चिप का व्यवहार कंप्यूटर सॉफ्टवेयर के अनुमान से लगभग पूरी तरह मेल खाता था। इसने शोर भरे वातावरण में भी "यस" शब्द को सही ढंग से पहचाना, जबकि यह 100 नैनोवाट से भी कम बिजली का उपयोग कर रहा था।
शोर प्रतिरोध (Noise Immunity): जब उन्होंने सिमुलेशन में कृत्रिम शोर जोड़ा (जो खराब कनेक्शन या निर्माण दोष का अनुकरण करता है), तो चिप काम करती रही। "चिपचिपा स्विच" (sticky switch) डिज़ाइन ने सफलतापूर्वक शोर को रोक दिया, जिससे यह साबित हुआ कि मेमोरी अल्ट्रा-लो-पावर एनालॉग सर्किट में बिना ढहे भी अस्तित्व में रह सकती है।

सारांश

यह शोध पत्र दिखाता है कि गणित और भौतिक चिप को एक साथ डिज़ाइन करके, और एक ऐसे "चिपचिपे स्विच" तंत्र का उपयोग करके जो छोटी त्रुटियों को अनदेखा करता है, उन्होंने पहला एनालॉग मस्तिष्क बनाया है जो लगभग शून्य ऊर्जा का उपयोग करते हुए समय के साथ चीजों को याद रख सकता है। उन्होंने एक विशिष्ट शब्द को सुनने के लिए डिज़ाइन किए गए चिप के माध्यम से इसे प्रदर्शित किया, जिससे यह सिद्ध हुआ कि "ऑलवेज-ऑन" AI डिवाइस एक छोटी बैटरी पर वर्षों तक चल सकते हैं।

तकनीकी सारांश: स्केलेबल, ऊर्जा-कुशल एनालॉग रिकरेंट कंप्यूटेशन का हार्डवेयर-सॉफ्टवेयर को-डिज़ाइन

समस्या विवरण

ऑलवेज-ऑन आर्टिफिशियल इंटेलिजेंस (AI) अनुप्रयोगों, जैसे कि पर्यावरणीय सेंसर और बायोमेडिकल इम्प्लांट्स, को अल्ट्रा-लो पावर खपत की आवश्यकता होती है, जो अक्सर सब-माइ microwatt रेंज में होती है। जबकि एनालॉग सर्किट दक्षता प्राप्त करने के लिए एक मार्ग प्रदान करते हैं, मौजूदा एनालॉग कार्यान्वयन मुख्य रूप से फीडफॉरवर्ड आर्किटेक्चर तक सीमित हैं। रिकरेंट डायनेमिक्स (recurrent dynamics) तक इनका विस्तार करना ऐतिहासिक रूप से टेम्पोरल फीडबैक लूप्स के माध्यम से एनालॉग शोर (analog noise) के संचय के कारण अव्यवहारिक माना जाता रहा है। इसके अलावा, वर्तमान डिजिटल एज AI समाधान (जैसे माइक्रोकंट्रोलर्स पर TinyML) मिलीवाट स्तर पर संचालित होते हैं, जो कि सबथ्रेशोल्ड एनालॉग सर्किट द्वारा सैद्धांतिक रूप से प्राप्त किए जा सकने वाले स्तर से कई गुना अधिक है। एक ऐसे आर्किटेक्चर का अभाव है जो समानांतर योग्य प्रशिक्षण (parallelizable training), मल्टीस्टेबल मेमोरी, एनालॉग कंप्यूटेशन और सब-माइ microwatt पावर खपत को एक साथ समर्थन दे सके।

कार्यप्रणाली

लेखक बाइस्टेबल मेमोरी रिकरेंट यूनिट्स (BMRUs) पर केंद्रित एक हार्डवेयर-सॉफ्टवेयर को-डिज़ाइन दृष्टिकोण प्रस्तावित करते हैं, जो डिस्क्रीट-वैल्यूड आउटपुट्स और हिस्टेरेटिक डायनेमिक्स (hysteretic dynamics) द्वारा विशेषता वाले रिकरेंट न्यूरल नेटवर्क (RNNs) का एक वर्ग है। कार्यप्रणाली तीन प्रमुख चरणों में आगे बढ़ती है:

एल्गोरिदमिक रिफॉर्मुलेशन (फर्स्ट-क्वाड्रेंट BMRU):
मानक BMRU फॉर्मुलेशन, जो बाइपोलर आउटपुट्स और इनपुट-डिपेंडेंट थ्रेशोल्ड्स पर निर्भर करता है, सरल, यूनिपोलर करंट-मोड एनालॉग सर्किट के साथ असंगत है। लेखक BMRU को एक फर्स्ट-क्वाड्रेंट (FQ) BMRU में पुनर्गठित करते हैं। यह वेरिएंट पूरी तरह से गैर-ऋणात्मक मानों के साथ काम करता है, जिसमें प्रशिक्षण के दौरान सीखे गए लेकिन अनुमान (inference) के दौरान स्थिर $\beta_{lo}, \beta_{hi}$ थ्रेशोल्ड्स का उपयोग किया जाता है। यह रिफॉर्मुलेशन बिना डिफरेंशियल पेयर्स या नेगेटिव पावर सप्लाई के, सिंगल-एंडेड करंट-मोड सर्किट के साथ सीधा मैपिंग सक्षम बनाता है, जबकि मूल मॉडल की एक्सप्रेसिविटी और ट्रेनैबिलिटी को सुरक्षित रखता है।
सर्किट कार्यान्वयन:
FQ BMRU को लागू करने के लिए शून्य से (from first principles) एक कस्टम अल्ट्रा-लो पावर करंट-मोड एनालॉग सर्किट डिजाइन किया गया है।

करंट-मोड ऑपरेशन: सभी सिग्नल करंट के रूप में दर्शाए जाते हैं, जो प्राकृतिक डायनेमिक रेंज कंप्रेशन और पिकोएम्पियर-लेवल ऑपरेशन के लिए सबथ्रेशोल्ड MOS ट्रांजिस्टर्स के एक्सपोनेंशियल I-V संबंध का लाभ उठाते हैं।
ट्रांजिस्टर-ओनली डिज़ाइन: सर्किट प्रतिरोधकों (resistors), कैपेसिटरों और इंडक्टर्स को हटा देता है, जिससे वास्तविक मोनोलिथिक इंटीग्रेशन प्राप्त होता है। BMRU का इंस्टेंटेनियस कन्वर्जेंस पारंपरिक RNNs या स्टेट-स्पेस मॉडल्स (SSMs) के लिए आवश्यक ऑन-चिप कैपेसिटर्स की आवश्यकता को समाप्त कर देता है।
वन-टू-वन मैपिंग: प्रत्येक सीखा गया पैरामीटर सीधे एक विशिष्ट सर्किट एलिमेंट से मैप होता है। वेट्स (Weights), करंट मिरर्स में ट्रांजिस्टर विड्थ रेश्यो के अनुरूप होते हैं, जबकि थ्रेशोल्ड्स और गेन्स (gains), बायस करंट के अनुरूप होते हैं।
बाइस्टेबल सेल: कोर सेल एक 9-ट्रांजिस्टर करंट-मोड शमिट ट्रिगर (Schmitt trigger) है जो हिस्टेरेसिस को लागू करता है। इसमें हाई स्विचिंग पॉइंट ( $I_{thresh}$ ), आउटपुट एम्प्लीट्यूड ( $I_{gain}$ ), और हिस्टेरेसिस विड्थ ( $I_{width}$ ) का स्वतंत्र रूप से प्रोग्राम करने योग्य फीचर है।

वैलिडेशन पाइपलाइन:
नेटवर्क को पूरी तरह से सॉफ्टवेयर में JAX/Flax का उपयोग करके प्रशिक्षित किया जाता है। सीखे गए पैरामीटर्स को फिर X-FAB 180 nm CMOS तकनीक का उपयोग करके Cadence Spectre ट्रांजिस्टर-लेवल सिमुलेशन में अनुमान (inference) के लिए ट्रांजिस्टर आयामों और बायस करंट में मैप किया जाता है। यह हाई-फिडेलिटी सॉफ्टवेयर मॉडल हार्डवेयर के प्रॉक्सी के रूप में कार्य करता है, जो बड़े पैमाने पर शोर और पावर विश्लेषण को सक्षम बनाता है जो ट्रांजिस्टर-लेवल पर कम्प्यूटेशनल रूप से कठिन हो सकता है।

मुख्य योगदान

पेपर चार प्राथमिक योगदानों का दावा करता है:

वन-टू-वन हार्डवेयर-सॉफ्टवेयर कोरेस्पोंडेंस: FQ BMRU फॉर्मुलेशन यह सुनिश्चित करता है कि प्रत्येक सीखा गया पैरामीटर एक एकल, प्रोग्राम करने योग्य सर्किट एलिमेंट से मैप हो। ट्रांजिस्टर-लेवल सिमुलेशन सॉफ्टवेयर भविष्यवाणियों और सर्किट डायनेमिक्स के बीच हर इंटरमीडिएट सिग्नल स्टेज पर लगभग पूर्ण सहमति की पुष्टि करते हैं।
स्ट्रक्चरल नॉइज़ इम्युनिटी: BMRU के डिस्क्रीट-वैल्यूड आउटपुट्स एनालॉग शोर के विरुद्ध एक स्ट्रक्चरल बैरियर के रूप में कार्य करते हैं। प्रत्येक सेल बाउंड्री पर, हिस्टेरेटिक थ्रेशोल्डिंग संचित एनालॉग शोर को कम से कम 20 गुना कम कर देती है, जो उस एनालॉग शोर संचय बाधा को तोड़ती है जिसने ऐतिहासिक रूप से एनालॉग रिकरेंस को रोका था।
कम मार्जिनल कॉस्ट पर रिकरेंस: पावर स्केलिंग विश्लेषण से पता चलता है कि जबकि फीडफॉरवर्ड लेयर्स (fully connected) स्टेट डायमेंशन के साथ क्वाड्रेटिक रूप से स्केल करती हैं, BMRU रिकरेंट लेयर्स लीनियर रूप से स्केल करती हैं। फलस्वरूप, एनालॉग फीडफॉरवर्ड बैकबोन में टेम्पोरल प्रोसेसिंग क्षमताओं को जोड़ने से केवल एक छोटा, लीनियरली-स्केलिंग मार्जिनल पावर कॉस्ट आता है।
सब-माइ microwatt ऑपरेशन: एक न्यूनतम प्रूफ-ऑफ-कॉन्सेप्ट नेटवर्क का RNN कोर निरंतर अनुमान (continuous inference) के दौरान लगभग 100 nW पावर खपत प्राप्त करता है, जो पूरी तरह से सबथ्रेशोल्ड रिजीम में क्लॉकलेस, कंटीन्यूअस-टाइम डायनेमिक्स के साथ संचालित होता है।

परिणाम

लेखक अपने दृष्टिकोण को निम्नलिखित बेंचमार्क और सिमुलेशन के माध्यम से मान्य करते हैं:

कीवर्ड स्पॉटिंग (KWS): गूगल स्पीच कमांड्स डेटासेट (विशेष रूप से "yes" बनाम अन्य कार्य) पर, एनालॉग कार्यान्वयन $d=16$ के लिए सॉफ्टवेयर में 98.08% सटीकता और ट्रांजिस्टर-लेवल सिमुलेशन में 96.98% सटीकता प्राप्त करता है। हार्डवेयर वैलिडेशन के लिए उपयोग किए गए न्यूनतम $d=4$ कॉन्फ़िगरेशन के लिए, हार्डवेयर भविष्यवाणियां 50 में से 49 टेस्ट केस में सॉफ्टवेयर भविष्यवाणियों से मेल खाती हैं, जिसमें एकमात्र विसंगति एक निर्णय सीमा (decision boundary) टाई पर हुई।
शोर मजबूती (Noise Robustness): sMNIST, pMNIST, और dKWS बेंचमार्क पर बड़े पैमाने पर शोर विश्लेषण से पता चलता है कि FQ BMRU मापे गए एनालॉग शोर स्तरों पर पूर्ण सटीकता बनाए रखता है, जबकि लीनियर रिकरेंट यूनिट्स (LRU) विनाशकारी रूप से विफल हो जाती हैं। FQ BMRU लगभग 2 $\times$ मापे गए एनालॉग शोर परिमाण तक मजबूत रहता है।
पावर दक्षता: $d=4$ पर, RNN कोर ~100 nW उपभोग करता है। पावर ब्रेकडाउन विश्लेषण दिखाता है कि जैसे-जैसे स्टेट डायमेंशन बढ़ता है, रिकरेंट सेल्स का सापेक्ष पावर योगदान फीडफॉरवर्ड लेयर्स की तुलना में कम होता जाता है, जो रिकरेंस की लीनियर मार्जिनल कॉस्ट की पुष्टि करता है।
सामान्यीकरण (Generalization): यह दृष्टिकोण मल्टी-क्लास डिजिट रिकग्निशन (11 क्लासेस) के साथ प्रतिस्पर्धी सटीकता और बेहतर आउटपुट मार्जिन सेपरेशन के साथ सामान्य होता है, जो सब-माइ microwatt अनुमानों के भीतर रहता है।

महत्व और दावे

पेपर दावा करता है कि यह पहला पूर्णतः एनालॉग RNN कार्यान्वयन प्रस्तुत करता है जो स्ट्रक्चरल नॉइज़ इम्युनिटी को समानांतर योग्य प्रशिक्षण के साथ जोड़ता है। यह प्रदर्शित करके कि डिस्क्रीट-वैल्यूड, हिस्टेरेटिक डायनेमिक्स को अल्ट्रा-लो पावर करंट-मोड सर्किट में मैप किया जा सकता है, लेखक तर्क देते हैं कि एनालॉग रिकरेंस की बाधा को पार कर लिया गया है।

इस कार्य का महत्व ऑलवेज-ऑन एज AI को टेम्पोरल प्रोसेसिंग क्षमताओं के साथ पावर स्तरों पर सक्षम करने की क्षमता में निहित है जो पहले रिकरेंट आर्किटेक्चर के लिए अप्राप्य थे। लेखक तर्क देते हैं कि किसी भी मौजूदा या भविष्य के एनालॉग फीडफॉरवर्ड प्लेटफॉर्म को, एक न्यूनतम अतिरिक्त पावर कॉस्ट पर BMRU सेल्स को एकीकृत करके, सिद्धांत रूप में टेम्पोरल इंटेलिजेंस प्राप्त किया जा सकता है। यह को-डिज़ाइन दृष्टिकोण पर्सिस्टेंट मेमोरी के लिए एल्गोरिथमिक आवश्यकताओं और सबथ्रेशोल्ड एनालॉग हार्डवेयर की भौतिक बाधाओं के बीच के अंतर को पाटता है, जो पर्यावरणीय निगरानी और बायोमेडिकल इम्प्लांट्स जैसे अनुप्रयोगों के लिए ऊर्जा-कुशल, कंटीन्यूअस-टाइम इंफरेंस के लिए एक मार्ग प्रदान करता है।

लेखक अपनी सीमाओं के संबंध में विनम्र बने हुए हैं: परिणाम वर्तमान में 180 nm CMOS में ट्रांजिस्टर-लेवल सिमुलेशन के माध्यम से मान्य किए गए हैं और भौतिक निर्माण (physical fabrication) की प्रतीक्षा कर रहे हैं। इसके अलावा, जबकि मल्टी-क्लास और जटिल बेंचमार्क को यथार्थवादी शोर मॉडल के साथ सॉफ्टवेयर में मूल्यांकित किया गया है, हार्डवेयर वैलिडेशन वर्तमान में बाइनरी कीवर्ड स्पॉटिंग पर केंद्रित है।