🤖 machine learning

A Synthesizable RTL Implementation of Predictive Coding Networks

यह शोध पत्र एक पूर्ण, सिंथेसाइज़ेबल (synthesizable) RTL आर्किटेक्चर प्रस्तुत करता है जो स्थानीय प्रेडिक्शन-एरर डायनेमिक्स और एक यूनिफॉर्म क्लैम्पिंग प्रिमिटिव का उपयोग करके हार्डवेयर में डिस्क्रीट-टाइम प्रेडिक्टिव कोडिंग नेटवर्क को लागू करता है, ताकि वैश्विक त्रुटि प्रसार (global error propagation) या केंद्रीकृत मेमोरी के बिना पूर्णतः वितरित, ऑनलाइन सुपरवइज्ड लर्निंग को सक्षम बनाया जा सके।

मूल लेखक: Timothy Oh

प्रकाशित 2026-03-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Timothy Oh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप श्रमिकों की एक विशाल टीम को एक जटिल संरचना, जैसे कि एक गगनचुंबी इमारत बनाना सिखाने की कोशिश कर रहे हैं।

पुराना तरीका: केंद्रीय बॉस (बैकप्रोपैगेशन - Backpropagation)

आधुनिक एआई (डीप लर्निंग) की दुनिया में, हम आमतौर पर बैकप्रोपैगेशन नामक विधि का उपयोग करते हैं। इसे एक निर्माण स्थल के रूप में सोचें जिसका संचालन एक केंद्रीय कार्यालय में बैठे एक अकेले, अत्यधिक व्यस्त बॉस द्वारा किया जा रहा है।

श्रमिक एक मंजिल बनाते हैं।
बॉस पूरी इमारत की जाँच करता है, देखता है कि 10वीं मंजिल पर एक गलती है, और उसे एहसास होता है कि यह गलती वास्तव में दूसरी मंजिल से शुरू हुई थी।
बॉस को उस गलती को ठीक करने के लिए संदेश पूरे रास्ते नीचे दूसरी मंजिल तक भेजना पड़ता है, कि उन्हें ठीक से क्या करना है।
फिर, हर कोई रुक जाता है, बॉस के निर्देशों का इंतज़ार करता है, और अपने काम को अपडेट करता है।

समस्या: इसके लिए इमारत में ऊपर-नीचे बहुत अधिक "बातचीत" करने की आवश्यकता होती है। इसके लिए एक केंद्रीय मस्तिष्क, हर चरण को याद रखने के लिए बहुत सारी मेमोरी, और हर किसी को बॉस के निर्देशों के लिए रुकना और प्रतीक्षा करना पड़ता है। इस तरह के सिस्टम को एक छोटे, आत्मनिर्भर चिप (जैसे कि एक रोबोट का मस्तिष्क) में बनाना कठिन है क्योंकि "बॉस" हर जगह एक साथ नहीं हो सकता।

नया तरीका: पड़ोस की निगरानी (प्रेडिक्टिव कोडिंग - Predictive Coding)

यह पेपर एक अलग दृष्टिकोण प्रस्तावित करता है जिसे प्रेडिक्टिव कोडिंग कहा जाता है। एक बॉस के बजाय, कल्पना करें कि प्रत्येक श्रमिक एक पड़ोस की निगरानी (Neighborhood Watch) का हिस्सा है।

नियम: आप केवल अपने तत्काल पड़ोसियों (अपने ऊपर वाली मंजिल और अपने नीचे वाली मंजिल) से बात करते हैं।
काम:
- आप देखते हैं कि आपके ऊपर वाली मंजिल क्या कर रही है और अनुमान लगाते हैं कि आपके नीचे वाली मंजिल को क्या करना चाहिए।
- आप देखते हैं कि आपके नीचे वाली मंजिल वास्तव में क्या कर रही है।
- यदि आपके अनुमान और वास्तविकता के बीच कोई अंतर है, तो वह एक "प्रेडिक्शन एरर" (अनुमान त्रुटि) है।
समाधान: आप किसी बॉस का इंतज़ार नहीं करते। आप और आपका पड़ोसी तुरंत बात करते हैं, नोट्स की तुलना करते हैं, और उस त्रुटि को कम करने के लिए अभी अपने काम को समायोजित करते हैं।

इस प्रणाली में, सीखना स्थानीय स्तर पर होता है। किसी को भी पूरी इमारत के बारे में जानने की आवश्यकता नहीं है; उन्हें बस अपने तत्काल पड़ोसियों को जानने की आवश्यकता है।

इस पेपर ने वास्तव में क्या बनाया

लेखक, टिमोथी ओह (Timothy Oh) ने केवल एक सिद्धांत नहीं लिखा; उन्होंने एक डिजिटल मशीन का ब्लूप्रिंट बनाया है जो सीधे हार्डवेयर में इस "पड़ोस की निगरानी" प्रणाली को संचालित करती है।

यहाँ उनके आविष्कार का सरल रूपकों के माध्यम से विवरण दिया गया है:

1. "न्यूरल कोर" (श्रमिक की डेस्क)

एक विशाल कंप्यूटर चलाने वाले प्रोग्राम के बजाय, लेखक ने प्रत्येक न्यूरॉन (श्रमिक) के लिए एक छोटा, आत्मनिर्भर "डेस्क" बनाया है।

आत्मनिर्भर: प्रत्येक डेस्क के पास अपना नोटबुक (मेमोरी), अपना कैलकुलेटर और अपने नियम हैं।
हार्डवायर्ड: डेस्क भौतिक रूप से केवल अपने ऊपर और नीचे स्थित डेस्क से जुड़े हुए हैं। कोई वाई-फाई नहीं, कोई केंद्रीय सर्वर नहीं। बस तार।
दिनचर्या: घड़ी के हर "टिक" के साथ, श्रमिक एक सख्त, पूर्व-निर्धारित दिनचर्या का पालन करता है:
1. अनुमान लगाना (Predict): "मुझे क्या लगता है कि मेरा पड़ोसी क्या कर रहा है?"
2. जाँचना (Check): "वे वास्तव में क्या कर रहे हैं?"
3. त्रुटि की गणना करना (Calculate Error): "मैं कितना गलत था?"
4. समायोजन करना (Adjust): "मैं अपने व्यवहार में थोड़ा बदलाव करूँगा और अपने पड़ोसी को भी अपना व्यवहार बदलने के लिए कहूँगा।"

2. "क्लैम्पिंग" (शिक्षक का हाथ)

आप इस प्रणाली को कैसे सिखाते हैं? आप कोड को दोबारा नहीं लिखते। आप बस पहले और आखिरी श्रमिक के हाथों को थाम लेते हैं।

इनपुट क्लैम्पिंग (Input Clamping): आप निचली मंजिल को बिल्ली की तस्वीर देखने के लिए मजबूर करते हैं।
आउटपुट क्लैम्पिंग (Output Clamping): आप ऊपरी मंजिल को "बिल्ली" कहने के लिए मजबूर करते हैं।
जादू: बीच के श्रमिकों (हिडन लेयर्स) को खुद ही बाकी चीजें सुलझानी पड़ती हैं, जिससे त्रुटियाँ ऊपर और नीचे भेजी जाती हैं। यह "टेलीफोन" के खेल की तरह है जहाँ हर कोई संदेश को शुरुआत और अंत के बिंदुओं से मिलाने की कोशिश करता है।

3. यह क्यों महत्वपूर्ण है ("मोर्टल कंप्यूटेशन" का विचार)

पेपर में एक दिलचस्प अवधारणा का उल्लेख है जिसे "मोर्टल कंप्यूटेशन" (Mortal Computation) कहा जाता है।

मानक कंप्यूटर: आप सॉफ्टवेयर (निर्देश) लिखते हैं और इसे किसी भी हार्डवेयर पर चलाते हैं। यदि आपका कंप्यूटर टूट जाता है, तो आप बस नया खरीदते हैं और वही सॉफ्टवेयर लोड कर देते हैं। सॉफ्टवेयर अमर है।
यह प्रणाली: "सॉफ्टवेयर" ही हार्डवेयर है। सीखने के नियम भौतिक रूप से चिप के तारों और लॉजिक गेट्स में बने होते हैं। यदि आप यह चिप बनाते हैं, तो यह स्वयं सीखने वाला एल्गोरिदम है। आप मस्तिष्क को शरीर से अलग नहीं कर सकते। यह इसे अविश्वसनीय रूप से कुशल बनाता है और उन चीजों के लिए आदर्श बनाता है जिन्हें इंटरनेट क्लाउड सर्वर के बिना ऑन-द-फ्लाई सीखने की आवश्यकता होती है।

परिणाम

लेखक ने एक कंप्यूटर सिमुलेशन पर इस डिजिटल "पड़ोस की निगरानी" का परीक्षण किया।

इसने गणितीय समस्याओं (रिग्रेशन) को हल करना सफलतापूर्वक सीखा।
यह विभिन्न आकार के नेटवर्क (छोटे और बड़े) पर काम कर सका।
इसे कुछ भी समन्वित करने के लिए किसी केंद्रीय बॉस की आवश्यकता नहीं थी।
इसने ठीक वैसे ही सीखा जैसा कि सिद्धांत भविष्यवाणी करता है—पड़ोसियों के बीच त्रुटियों को पास करके।

निचोड़

यह पेपर एक प्रूफ-ऑफ-कांसेप्ट ब्लूप्रिंट है। यह दिखाता है कि हम ऐसे एआई चिप बना सकते हैं जो जैविक मस्तिष्क की तरह सीखते हैं: स्थानीय रूप से, निरंतर रूप से, और बिना किसी केंद्रीय मस्तिष्क की आवश्यकता के। यह थोड़ी सी गति (क्योंकि श्रमिक एक-एक करके काम करते हैं) का त्याग करता है, लेकिन सरलता और छोटे, वितरित उपकरणों में निर्मित होने की क्षमता में भारी लाभ प्राप्त करता है।

यह उन रोबोटों के निर्माण की ओर एक कदम है जो वहीं सीख सकते हैं, जहाँ वे हैं, बिना इंटरनेट से कोई बड़ा अपडेट डाउनलोड किए।

यहाँ टिमोथी ओह के शोध पत्र "A Synthesizable RTL Implementation of Predictive Coding Networks" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

आधुनिक डीप लर्निंग भारी रूप से बैकप्रोपैगेशन (backpropagation) पर निर्भर करती है, जो एक ऐसा प्रतिमान (paradigm) है जिसके लिए निम्नलिखित की आवश्यकता होती है:

वैश्विक समन्वय (Global Coordination): त्रुटि संकेतों (error signals) को पूरे नेटवर्क के माध्यम से पीछे की ओर प्रसारित होना चाहिए, जिससे गैर-स्थानीय निर्भरताएं (non-local dependencies) उत्पन्न होती हैं।
चरण पृथक्करण (Phase Separation): अलग-अलग फॉरवर्ड, बैकवर्ड और अपडेट चरणों के लिए सिंक्रोनाइज़ेशन की आवश्यकता होती है।
केंद्रीकृत मेमोरी (Centralized Memory): मध्यवर्ती सक्रियता (intermediate activations) को संग्रहीत करने और मेमोरी एवं कंप्यूट इकाइयों के बीच डेटा स्थानांतरित करने पर भारी निर्भरता।

ये आवश्यकताएं बैकप्रोपैगेशन को हार्डवेयर में एक पूर्णतः वितरित, ऑनलाइन लर्निंग सिस्टम के रूप में लागू करना कठिन बनाती हैं, विशेष रूप से एम्बेडेड या न्यूरोमॉर्फिक अनुप्रयोगों के लिए जहाँ स्थानीयता (locality) और ऊर्जा दक्षता महत्वपूर्ण होती है। यह शोध पत्र एक ऐसे हार्डवेयर सबस्ट्रेट की आवश्यकता को संबोधित करता है जो पूरी तरह से स्थानीय गतिकी (local dynamics) के माध्यम से सीखने का समर्थन करता हो, जिससे वैश्विक त्रुटि प्रसार और केंद्रीकृत नियंत्रण से बचा जा सके।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र एक डिजिटल माइक्रो-आर्किटेक्चर प्रस्तावित करता है जो सीधे हार्डवेयर में प्रेडिक्टिव कोडिंग (Predictive Coding - PC) को लागू करता है। पारंपरिक न्यूरल नेटवर्क के विपरीत, जो अनुमान (inference) और प्रशिक्षण (training) को अलग करते हैं, PC इन दोनों को पदानुक्रम (hierarchy) में प्रेडिक्शन एरर के न्यूनीकरण के रूप में देखता है।

मुख्य एल्गोरिदम (Core Algorithm)

यह प्रणाली एक वैश्विक द्विघाती ऊर्जा फलन (global quadratic energy function) $E = \sum ||\epsilon^{(\ell)}||^2$ को कम करती है, जहाँ $\epsilon^{(\ell)}$ परत $\ell$ पर प्रेडिक्शन एरर है। अपडेट नियम पूरी तरह से स्थानीय हैं:

एक्टिविटी अपडेट ( $\Delta x$ ): एक न्यूरॉन अपनी स्वयं की प्रेडिक्शन एरर और निचली परत से बैक-प्रोपैगेटेड एरर के आधार पर अपनी स्थिति (state) को अपडेट करता है।
वेट अपडेट ( $\Delta \Theta$ ): सिनैप्टिक वेट्स, ऊपर की परत से आने वाली प्री-सिनैप्टिक एक्टिविटी और स्थानीय प्रेडिक्शन एरर के गुणनफल के आधार पर अपडेट होते हैं।
स्थानीयता (Locality): प्रत्येक इकाई को केवल अपनी स्थिति, स्थानीय एरर और तुरंत आसन्न परतों (adjacent layers) से प्राप्त संकेतों की आवश्यकता होती है।

हार्डवेयर आर्किटेक्चर (Hardware Architecture)

कार्यान्वयन एक डिटरमिनिस्टिक, सिंथेसाइजेबल RTL (रजिस्टर ट्रांसफर लेवल) डिज़ाइन है जो निम्नलिखित घटकों के इर्द-गिर्द निर्मित है:

न्यूरल कोर (Neural Core): एक एकल स्केलर न्यूरॉन का प्रतिनिधित्व करने वाला एक कंपोजेबल हार्डवेयर यूनिट। यह अपनी स्थिति ( $x$ ), प्रेडिक्शन एरर ( $\epsilon$ ) और सिनैप्टिक वेट्स ( $\theta$ ) को बनाए रखता है।
सीक्वेंशियल MAC डैटापाथ (Sequential MAC Datapath): क्षेत्र (area) को कम करने के लिए, प्रत्येक कोर एक एकल मल्टीप्लाई-एक्युमुलेट (MAC) यूनिट का उपयोग करता है जो समानांतर वेक्टर इकाइयों के बजाय क्रमवार (sequentially) रूप से प्री-सिनैप्टिक इंडेक्स पर इटरेट करता है।
FSM शेड्यूलर (FSM Scheduler): प्रत्येक कोर प्रति क्लॉक साइकिल में एक निश्चित, टिक-आधारित शेड्यूल का पालन करता है:
1. PRED: टॉप-डाउन प्रेडिक्शन ( $\mu$ ) की गणना करें।
2. ERR: स्थानीय प्रेडिक्शन एरर ( $\epsilon$ ) की गणना करें।
3. BACKSUM: बॉटम-अप एरर सिग्नल्स ( $b$ ) को संचित (accumulate) करें।
4. BACKVEC: ऊपर की परत के लिए गुणनफल (products) उत्सर्जित करें।
5. WUP: सिनैप्टिक वेट्स को अपडेट करें।
6. STATE: न्यूरॉन की एक्टिविटी स्टेट को अपडेट करें।
क्लैम्पिंग इंटरफेस (Clamping Interface): एक समान प्रति-न्यूरॉन प्रिमिटिव विशिष्ट न्यूरॉन्स (जैसे इनपुट या आउटपुट लेयर्स) को "क्लैंप" करने की अनुमति देता है। यह आंतरिक अपडेट शेड्यूल को बदले बिना सुपरवाइज्ड लर्निंग के लिए बाउंड्री कंडीशंस लागू करता है।
संचार (Communication): हार्डवायर्ड कनेक्शन के माध्यम से केवल आसन्न परतों के बीच पॉइंट-टू-पॉइंट संचार। इसमें कोई वैश्विक मध्यस्थता (global arbitration) या साझा मेमोरी का उपयोग नहीं किया गया है।

निष्पादन मॉडल (Execution Model)

यह प्रणाली डिस्क्रीट टाइम टिक्स (discrete time ticks) में कार्य करती है।

इनफरेंस (Inference): क्लैम्प्ड इनपुट्स नेटवर्क को संचालित करते हैं; वेट्स स्थिर ( $\alpha=0$ ) रहते हैं।
लर्निंग (Learning): स्टेट और वेट्स दोनों विकसित होते हैं ( $\alpha>0, \gamma>0$ )।
यह आर्किटेक्चर वेट अपडेट के बीच पूर्ण कन्वर्जेंस (convergence) का अनुमान नहीं लगाता है, बल्कि इसके बजाय एक इन्क्रीमेंटल रिजीम (incremental regime) में कार्य करता है (इन्क्रीमेंटल एक्सपेक्टेशन-मैक्सिमाइजेशन के समान)।

3. मुख्य योगदान (Key Contributions)

सिंथेसाइजेबल RTL सबस्ट्रेट: प्रेडिक्टिव कोडिंग नेटवर्क का पहला पूर्ण, ओपन-सोर्स, सिंथेसाइजेबल SystemVerilog कार्यान्वयन, जो सीधे हार्डवेयर में लर्निंग डायनेमिक्स को निष्पादित करता है।
लोकल-ओनली आर्किटेक्चर: एक ऐसा डिज़ाइन जहाँ प्रत्येक न्यूरल कोर स्व-निहित (self-contained) है, जो केवल आसन्न परतों के साथ संचार करता है, जिससे वैश्विक एरर प्रोपेगेशन कंट्रोलर्स की आवश्यकता समाप्त हो जाती है।
यूनिफॉर्म क्लैम्पिंग प्रिमिटिव: एक तंत्र जो बाउंड्री कंडीशंस के माध्यम से सुपरवाइज्ड ट्रेनिंग और इनफरेंस दोनों का समर्थन करता है, जिससे आंतरिक हार्डवेयर लॉजिक दोनों मोड के लिए समान रहता है।
डायरेक्ट हार्डवेयर-एल्गोरिदम मैपिंग: गणितीय प्रेडिक्टिव कोडिंग समीकरणों और हार्डवेयर FSM चरणों के बीच एक डिटरमिनिस्टिक संबंध, जिसे IEEE-754 फ्लोटिंग-पॉइंट अंकगणित के माध्यम से सत्यापित किया गया है।
स्केलेबिलिटी (Scalability): आर्किटेक्चर अधिक कोर को इंस्टैंशिएट करके स्केल होता है; नेटवर्क के आकार के बावजूद प्रति-न्यूरॉन लॉजिक और लर्निंग नियम अपरिवर्तित रहते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने ओपन-सोर्स रिपॉजिटरी पर Verilator सिमुलेशन का उपयोग करके अपने डिज़ाइन को मान्य किया।

टीचर-स्टूडेंट रिग्रेशन (ReLU): एक $2 \to 4 \to 3$ नेटवर्क ने लक्षित फलन (target function) को अनुमानित करने में सफलतापूर्वक सफलता प्राप्त की। मीन स्क्वेर्ड एरर (MSE) ~0.34 से गिरकर ~0.006 हो गया, जो एक दो-चरणीय प्रोफाइल (तेजी से प्रारंभिक गिरावट के बाद एक धीमी स्थिरता) प्रदर्शित करता है, जो इन्क्रीमेंटल टिक रिजीम के अनुरूप है।
नॉन-लीनियर रिग्रेशन (Tanh): एक $2 \to 2 \to 1$ नेटवर्क ने मात्र 3 एपोच (epochs) के भीतर MSE में भारी कमी (दो ऑर्डर अधिक) हासिल की।
आर्किटेक्चरल स्केलिंग: एक ही RTL कोड को बढ़ते आकार के नेटवर्क ( $2 \to 4 \to 3$ , $4 \to 8 \to 4$ , $8 \to 16 \to 8$ ) पर लागू किया गया। सभी आर्किटेक्चर बिना किसी RTL संशोधन के सफलतापूर्वक अभिसरित (converge) हुए, जो दर्शाता है कि स्थानीय अपडेट डायनेमिक्स नेटवर्क के आयामों (dimensions) केAcross सामान्यीकृत होते हैं।
प्रदर्शन विशेषताएँ:
- लेटेंसी (Latency): प्रति टिक साइकिल काउंट फैन-इन के साथ रैखिक रूप से स्केल करता है ( $C_{tick} \approx 3N + M + 4$ ), जो थ्रूपुट के बदले कम एरिया (area) का व्यापार करता है।
- रेसिडुअल्स (Residuals): बड़े नेटवर्क थोड़े उच्च रेसिडुअल फ्लोर पर स्थिर हुए, जिसका कारण चौड़ी परतों में इनफरेंस इक्विलिब्रेशन तक पहुँचने के लिए अधिक टिक्स की आवश्यकता है।

5. महत्व और निहितार्थ (Significance and Implications)

हार्डवेयर-सॉफ्टवेयर को-डिज़ाइन: यह कार्य सॉफ्टवेयर और हार्डवेयर के वॉन न्यूमैन पृथक्करण को चुनौती देता है। लर्निंग नियम केवल सॉफ्टवेयर निर्देश नहीं हैं बल्कि वे हार्डवेयर डैटापाथ के रूप में स्थापित (instantiated) हैं। यह "मोर्टल कंप्यूटेशन" (mortal computation) की अवधारणा के अनुरूप है, जहाँ एल्गोरिदम भौतिक हार्डवेयर इंस्टेंस से अविभाज्य है।
जैविक संभाव्यता (Biological Plausibility): वैश्विक सिंक्रोनाइज़ेशन और केंद्रीकृत मेमोरी को हटाकर, यह आर्किटेक्चर ऑनलाइन लर्निंग के लिए अधिक जैविक रूप से प्रशंसनीय सबस्ट्रेट प्रदान करता है, जो शोर वाले, स्ट्रीमिंग वातावरण में सेंसरिमोटर कार्यों के लिए उपयुक्त हो सकता है।
भविकी दिशाएँ: पेपर इस बात पर प्रकाश डालता है कि हालांकि डिज़ाइन अनुभवजन्य रूप से स्थिर है, लेकिन डिस्क्रीट-टाइम, फाइनाइट-प्रिसिजन स्थिरता के लिए सैद्धांतिक गारंटी अभी भी एक खुला विषय है। भविष्य के कार्य उच्च थ्रूपुट के लिए MAC इकाइयों को समानांतर (parallelize) करने या ऊर्जा दक्षता के लिए एनालॉग कार्यान्वयन की ओर बढ़ने की खोज कर सकते हैं।

संक्षेप में, यह शोध पत्र एक ठोस प्रमाण प्रस्तुत करता है कि प्रेडिक्टिव कोडिंग को एक व्यावहारिक, वितरित हार्डवेयर लर्निंग सिस्टम के रूप में साकार किया जा सकता है, जो एम्बेडेड और न्यूरोमॉर्फिक अनुप्रयोगों के लिए बैकप्रोपैगेशन का एक व्यवहार्य विकल्प प्रदान करता है।