← नवीनतम पेपर
💻 computer science

Columnar-Embedder: A Biologically Inspired Cortical Architecture for Binary Sparse Distributed Graph Representations

यह शोध पत्र 'कॉलमनर-एम्बेडर' (Columnar-Embedder) का परिचय देता है, जो एक जैविक रूप से प्रेरित आर्किटेक्चर है जो स्थानीय हेब्बियन नियमों और ऑनलाइन रैंडम वॉक का उपयोग करके ग्राफ नोड्स के बाइनरी स्पार्स डिस्ट्रिब्यूटेड रिप्रेजेंटेशन को सीखता है, और पारंपरिक डीप लर्निंग विधियों की तुलना में निरंतर शिक्षण (कंटीन्यूअस लर्निंग), शोर प्रतिरोध (नॉइज़ रेजिलिएंस) और कम्प्यूटेशनल दक्षता में लाभ प्रदान करते हुए ग्राफ कार्यों पर प्रतिस्पर्धी प्रदर्शन प्राप्त करता है।

मूल लेखक: Mohamed Abidalrekab, Dan Hammerstrom

प्रकाशित 2026-08-24
📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Mohamed Abidalrekab, Dan Hammerstrom

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

आधुनिक डेटा के विशाल परिदृश्य में, कई सबसे महत्वपूर्ण संबंध स्प्रेडशीट की तरह पंक्तियों और स्तंभों में सुव्यवस्थित रूप से नहीं बैठते हैं। इसके बजाय, वे जटिल जाल के रूप में मौजूद होते हैं: जैसे एक सहकर्मी के साथ आपके साझा मित्र, वे प्रोटीन जो एक दवा बनाने के लिए आपस में जुड़ते हैं, या वे उद्धरण (citations) जो एक वैज्ञानिक शोध पत्र को दूसरे से जोड़ते हैं। ये ग्राफ हैं, ऐसी संरचनाएं जहाँ चीजों के बीच के संबंध उन चीजों जितने ही महत्वपूर्ण होते हैं जितनी कि वे स्वयं हैं। दशकों से, वैज्ञानिक कंप्यूटर को इन जालों को समझने के लिए सिखाने के लिए संघर्ष कर रहे हैं। पारंपरिक तरीके अक्सर इन जटिल, अनियमित आकृतियों को कठोर, गणितीय बक्सों में जबरन फिट करने की कोशिश करते हैं, जिसके लिए भारी मात्रा में कंप्यूटिंग शक्ति और सावधानीपूर्वक मानवीय पर्यवेक्षण की आवश्यकता होती है। ये दृष्टिकोण नाजुक हो सकते हैं; यदि डेटा शोरयुक्त (noisy) है या यदि कोई नया नोड (node) दिखाई देता है जिसे सिस्टम ने पहले कभी नहीं देखा है, तो पूरी संरचना विफल हो सकती है। चुनौती एक ऐसा तरीका खोजने की थी जिससे इन उलझे हुए नेटवर्क को एक ऐसी भाषा में मैप किया जा सके जिसे कंप्यूटर आसानी से पढ़ सके, बिना संबंधों के अद्वितीय आकार को खोए या मशीन को थकाए बिना।

पोर्टलैंड स्टेट यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने एक ऐसा समाधान प्रस्तावित किया है जो एक मानक कंप्यूटर एल्गोरिदम के बजाय एक स्तनपायी के मस्तिष्क के सीखने के तरीके जैसा दिखता है। उन्होंने 'कॉलमनर-एम्बेडर' (Columnar-Embedder) नामक एक नई प्रणाली विकसित की है, जिसे ग्राफ की जटिल संरचना को एक संक्षिप्त, बाइनरी कोड में अनुवादित करने के लिए डिज़ाइन किया गया है। अधिकांश आधुनिक आर्टिफिशियल इंटेलिजेंस द्वारा उपयोग किए जाने वाले भारी, ऊर्जा-गहन गणितीय अनुकूलन (optimization) पर निर्भर रहने के बजाय, यह प्रणाली स्तनपायी के सेरेब्रल कॉर्टेक्स की जैविक वास्तुकला की नकल करती है। यह नेटवर्क के माध्यम से बहते हुए पैटर्न को देखकर सीखती है, ठीक वैसे ही जैसे मस्तिष्क संवेदी इनपुट के प्रवाह को संसाधित करता है। शोधकर्ताओं ने पाया कि जीव विज्ञान से प्रेरित स्थानीय शिक्षण नियमों (local learning rules) के एक सेट का उपयोग करके, उनका सिस्टम ग्राफ नोड्स के ऐसे प्रतिनिधित्व बना सकता है जो आश्चर्यजनक रूप से प्रभावी हैं। ये प्रतिनिधित्व न केवल सटीक हैं; वे शोर और भ्रष्टाचार के प्रति अविश्वसनीय रूप से लचीले हैं, और उन्हें बिना किसी लेबल या शिक्षक के सुधार के, निरंतर सीखा जा सकता है।

इस कार्य का मूल इस बात में निहित है कि सिस्टम सूचना को कैसे संसाधित करता है। ग्राफ को समझने के लिए अधिकांश वर्तमान विधियाँ 'रैंडम वॉक' (random walks) पर निर्भर करती हैं, जहाँ एक आभासी यात्री एक नोड से दूसरे नोड पर कूदता है और पथ को रिकॉर्ड करता है। इन पथों को फिर जटिल न्यूरल नेटवर्क में फीड किया जाता है जो कनेक्शनों के अर्थ का अनुमान लगाने की कोशिश करते हैं। यह प्रक्रिया कम्प्यूटेशनल रूप से महंगी है और अक्सर पूरे डेटासेट को एक साथ मेमोरी में लोड करने की आवश्यकता होती है। कॉलमनर-एम्बेडर एक अलग रास्ता अपनाता है। यह ग्राफ को सूचना के एक प्रवाह (stream) के रूप में मानता है, ठीक वैसे ही जैसे विजुअल कॉर्टेक्स एक दृश्य को संसाधित करता है। सिस्टम को कृत्रिम न्यूरॉन्स की परतों के साथ बनाया गया है जो छोटे स्तंभों (columns) में व्यवस्थित हैं, जो स्तनपथी मस्तिष्क में पाए जाने वाले मिनी-कॉलम की नकल करते हैं। जब एक रैंडम वॉक नेटवर्क के माध्यम से गुजरता है, तो यह एक विरल (sparse), बाइनरी फैशन में विशिष्ट न्यूरॉन्स को सक्रिय करता है। इसका अर्थ यह है कि किसी भी दिए गए डेटा के लिए, उपलब्ध न्यूरॉन्स का केवल एक बहुत छोटा हिस्सा—लगभग एक से चार प्रतिशत—ही एक समय में सक्रिय होता है। यह विरलता (sparsity) जैविक मस्तिष्क की एक प्रमुख विशेषता है, जो उन्हें कुशलतापूर्वक बड़ी मात्रा में सूचना संग्रहीत करने और क्षति या शोर से उबरने की अनुमति देती है।

इन पैटर्न का अर्थ समझने के लिए, सिस्टम नियमों के एक सेट का उपयोग करता है जो पूरी तरह से स्थानीय (local) हैं। कई आर्टिफिशियल इंटेलिजेंस प्रणालियों में, सीखने के लिए एक वैश्विक संकेत (global signal) की आवश्यकता होती है जो नेटवर्क के माध्यम से पीछे की ओर यात्रा करता है ताकि प्रत्येक कनेक्शन को समायोजित किया जा सके, जिसे बैकप्रोपैगेशन (backpropagation) कहा जाता है। यह शोध पत्र स्पष्ट रूप से उस दृष्टिकोण को खारिज करता है। इसके बजाय, कॉलमनर-एम्बेडर 'बिएनस्टीनकोक-कूपर-मुनरो' सिद्धांत पर आधारित एक लर्निंग रूल का उपयोग करता है, जो न्यूरॉन्स के बीच संबंधों की ताकत को उनकी तत्काल गतिविधि और एक सांख्यिकीय संकेत के आधार पर समायोजित करता है जो रैंडम वॉक में नोड्स कितनी बार एक साथ दिखाई देते हैं उससे प्राप्त होता है। यदि दो नोड्स ग्राफ में अक्सर एक-दूसरे के पास दिखाई देते हैं, तो सिस्टम उन न्यूरॉन्स के बीच संबंध को मजबूत करता है जो उनका प्रतिनिधित्व करते हैं। यदि वे शायद ही कभी एक साथ दिखाई देते हैं, तो संबंध कमजोर हो जाता है। यह बिना किसी बाहरी पर्यवेक्षण या लेबल के होता है जो सिस्टम को सही उत्तर बताता है। सिस्टम बस डेटा के प्रवाह को देखता है और अपने आंतरिक ढांचे को ग्राफ के सांख्यिकी के अनुरूप ढाल लेता है।

शोधकर्ताओं ने वैज्ञानिक उद्धरणों और उत्पाद अनुशंसाओं (product recommendations) सहित कई मानक ग्राफ डेटासेट्स पर इस वास्तुकला का परीक्षण किया। उन्होंने इन जटिल, भारी-भरकम विधियों के मुकाबले, जो नोड्स का प्रतिनिधित्व करने के लिए सघन (dense), निरंतर संख्याओं का उपयोग करती हैं, सिस्टम के प्रदर्शन की तुलना की। परिणामों ने दिखाया कि कॉलमनर-एम्बेडर नोड्स के वर्गीकरण और लुप्त कड़ियों (missing links) की भविष्यवाणी करने जैसे कार्यों में इन जटिल विधियों के प्रतिस्पर्धी था। उदाहरण के लिए, वैज्ञानिक शोध पत्रों के एक डेटासेट पर, सिस्टम ने अपने पड़ोसियों के आधार पर एक पेपर की श्रेणी को उस सटीकता के साथ सही ढंग से पहचाना जो मौजूदा सर्वोत्तम उपकरणों के बराबर थी। जो शायद सबसे अधिक उल्लेखनीय है, वह है दबाव में सिस्टम का व्यवहार। जब शोधकर्ताओं ने डेटा में शोर (noise) पेश किया—कोड में बिट्स को बदला या कनेक्शन हटा दिए—तो कॉलमनर-एम्बेडर पारंपरिक विधियों की तुलना में बहुत बेहतर तरीके से टिका रहा। जबकि सघन प्रतिनिधित्व (dense representations) डेटा के दूषित होने पर तेजी से खराब हो गए, विरल बाइनरी कोडों ने विभिन्न नोड्स के समूहों के बीच अंतर करने की अपनी क्षमता बनाए रखी। यह सुझाव देता है कि सिस्टम की संरचना त्रुटियों के प्रति एक प्राकृतिक प्रतिरोध प्रदान करती है, जो एक लक्षण है जो जैविक प्रणालियों में सामान्य है लेकिन वर्तमान आर्टिफिशियल इंटेलिजेंस में दुर्लभ है।

एक अन्य महत्वपूर्ण खोज सिस्टम की स्केलेबिलिटी (scalability) है। शोधकर्ताओं ने लगभग 35,000 नोड्स वाले भौतिकी सह-लेखकता (physics co-authorships) के एक बड़े नेटवर्क सहित बहुत बड़े ग्राफों पर उसी वास्तुकला को लागू किया, बिना किसी अंतर्निहित सेटिंग या पैरामीटर को बदले। सिस्टम ने उच्च प्रदर्शन और विभिन्न वर्गों के नोड्स के बीच अंतर करने की अपनी क्षमता बनाए रखी। यह स्केलेबिलिटी महत्वपूर्ण है क्योंकि कई वास्तविक दुनिया के ग्राफ, जैसे कि सोशल नेटवर्क या स्वयं इंटरनेट, विशाल और लगातार बदलते रहते हैं। सिस्टम का डिज़ाइन इसे डेटा के एक प्रवाह से निरंतर सीखने की अनुमति देता है, जो नए नोड्स और कनेक्शनों के आने पर खुद को अनुकूलित करता है, बिना इसे फिर से शुरू से प्रशिक्षित किए। यह निरंतर सीखने की क्षमता जैविक प्रेरणा का सीधा परिणाम है; ठीक वैसे ही जैसे मस्तिष्क नए ज्ञान को सीखते समय पुरानी यादों को नहीं भूलता है, कॉलमनर-एम्बेडर "कैटास्ट्रोफिक फॉरगेटिंग" (catastrophic forgetting) से ग्रस्त नहीं होता है, जो पारंपरिक न्यूरल नेटवर्क में एक आम समस्या है जहाँ नया सीखना पुराने ज्ञान को मिटा देता है।

यह वास्तुकला अपने न्यूरॉन्स को एक पदानुक्रम (hierarchy) में व्यवस्थित करके उपलब्धि हासिल करती है। पहली परत इनपुट को एनकोड करती है, दूसरी परत सूचना को स्तंभों में व्यवस्थित करती है जो डेटा का प्रतिनिधित्व करने के लिए प्रतिस्पर्धा करते हैं, और तीसरी परत प्रतिनिधित्व का विस्तार करती है ताकि यह सुनिश्चित हो सके कि जो नोड्स बहुत समान दिखते हैं उन्हें भी अद्वितीय कोड दिए जाएं। यह प्रक्रिया एक तंत्र द्वारा संचालित होती है जो स्तंभों के भीतर विविधता को प्रोत्साहित करती है, यह सुनिश्चित करती है कि सिस्टम एक एकल, दोहराव वाले पैटर्न में न सिमट जाए। परिणाम एक ऐसा प्रतिनिधित्व है जो संक्षिप्त और अत्यधिक विशिष्ट है। शोधकर्ता ने पाया कि वे प्रत्येक नोड को 1,800 में से केवल 28 सक्रिय बिट्स के कोड के साथ प्रदर्शित कर सकते हैं, जो अन्य विधियों द्वारा उपयोग किए जाने वाले सघन वेक्टर्स की तुलना में कई गुना अधिक कुशल स्तर है। यह दक्षता सीधे कम मेमोरी आवश्यकताओं और तेज़ प्रोसेसिंग गति में परिवर्तित होती है, जिससे यह सिस्टम उन अनुप्रयोगों के लिए एक आशाजनक उम्मीदवार बन जाता है जहाँ संसाधन सीमित हैं या जहाँ डेटा निरंतर प्रवाह में आता है।

अंततः, यह कार्य प्रदर्शित करता है कि जैविक शिक्षण को नियंत्रित करने वाले सिद्धांतों को ग्राफ प्रतिनिधित्व की अमूर्त समस्या पर सफलतापूर्वक लागू किया जा सकता है। आधुनिक डीप लर्निंग के भारी, वैश्विक अनुकूलन से दूर हटकर और जैविक प्रणालियों की स्थानीय, विरल और निरंतर प्रकृति को अपनाकर, शोधकर्ताओं ने एक ऐसा उपकरण बनाया है जो न केवल प्रभावी है बल्कि मजबूत और कुशल भी है। इस सिस्टम को उन विशाल कम्प्यूटेशनल संसाधनों या सावधानीपूर्वक क्यूरेट किए गए डेटासेट्स की आवश्यकता नहीं है जो अक्सर अन्य ग्राफ एम्बेडिंग तकनीकों के लिए आवश्यक होते हैं। इसके बजाय, यह डेटा की कच्ची संरचना से सीखता है, पैटर्न और संबंधों को खोजने की प्रक्रिया के माध्यम से जो उस तरीके को दर्शाती है जिससे मस्तिष्क दुनिया को समझता है। निष्कर्ष बताते हैं कि अधिक अनुकूलन योग्य, अधिक ऊर्जा-कुशल और वास्तविक दुनिया के डेटा की अव्यवस्थित, अप्रत्याशित प्रकृति के प्रति अधिक लचीला आर्टिफिशियल इंटेलिजेंस बनाने का एक व्यवहार्य मार्ग मौजूद है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →