Random neural networks match observed dimensionality of neural population recordings and motivate stronger experimental tests

समस्या विवरण

यादृच्छिक रूप से जुड़े न्यूरल नेटवर्क (Randomly connected neural networks) लंबे समय से न्यूरल आबादी के सामूहिक गतिकी (collective dynamics) के अध्ययन के लिए एक सैद्धांतिक ढांचे के रूप में काम करते आए हैं। हालाँकि, इन न्यूनतम मॉडलों और आधुनिक बड़े पैमाने के प्रयोगात्मक रिकॉर्डिंग के बीच मात्रात्मक तुलना सीमित रही है। प्रयोगात्मक तंत्रिका विज्ञान (experimental neuroscience) का एक केंद्रीय अवलोकन यह है कि न्यूरल आबादी की गतिविधि अक्सर निम्न-आयामी (low-dimensional) होती है, जिसका अर्थ है कि कई न्यूरॉन्स के फायरिंग पैटर्न केवल कुछ समन्वित तरीकों से भिन्न होते हैं न कि स्वतंत्र रूप से। हालांकि इस निम्न-आयामीता की व्याख्या अक्सर विशेष रूप से संगठित, सूक्ष्म रूप से ट्यून की गई सर्किट के प्रमाण के रूप में की जाती रही है, लेकिन यह एक खुला प्रश्न बना हुआ है कि क्या ऐसी निम्न-आयामीता बिना किसी फाइन-ट्यूनिंग के सामान्य (generic) यादृच्छिक पुनरावर्ती अंतःक्रियाओं (random recurrent interactions) से उत्पन्न हो सकती है। पूर्ववर्ती सैद्धांतिक कार्य ने डायनेमिकल मीन-फील्ड थ्योरी (DMFT) का उपयोग करके अनंत मापन समय (infinite measurement time) की सीमा में और बाहरी इनपुट के बिना यादृच्छिक नेटवर्क की आयात्मकता (dimensionality) की गणना की थी। यह कार्य इस अंतराल को संबोधित करता है कि क्या एक न्यूनतम संरचित यादृच्छिक नेटवर्क मात्रात्मक रूप से वास्तविक डेटा के अनुरूप निम्न-आयामीता की व्याख्या कर सकता है, जब इसमें यथार्थवादी प्रयोगात्मक बाधाओं—विशेष रूप से परिमित मापन समय (finite measurement time) और बाहरी व्यवहार संबंधी इनपुट (external behavioral inputs)—को शामिल किया जाता है।

कार्यप्रणाली

लेखक $N$ न्यूरॉन्स वाले एक मानक रैंडम रिकरेंट न्यूरल नेटवर्क मॉडल (सोम्पोलिंस्की आदि) का उपयोग करते हैं, जहाँ कपलिंग मैट्रिक्स $J$ को शून्य-माध्य (zero-mean) गाऊसी वितरण ($J_{ij} \sim \mathcal{N}(0, g^2/N)$) से लिया गया है। व्यवहारिक संदर्भों (behavioral contexts) को मॉडल करने के लिए, नेटवर्क शून्य-माध्य गाऊसी वितरण से लिए गए समय-स्वतंत्र बाहरी इनपुट $f_i$ प्राप्त करता है, जिसकी शक्ति $I$ है। गतिकी (dynamics) एक निरंतर-समय दर मॉडल द्वारा शासित होती है जिसमें नॉन-लिनियरिटी $\phi(h) = \text{erf}(\sqrt{\pi}h/2)$ होती है।

मुख्य सैद्धांतिक उपकरण डायनेमिकल मीन-फील्ड थ्योरी (DMFT) है, जिसे निम्नलिखित को संभालने के लिए विस्तारित किया गया है:

1. बाहरी इनपुट (External Inputs): गतिविधि को एक "क्रमित प्रतिक्रिया" ($\bar{r}$), जो इनपुट के प्रति समय-औसत प्रतिक्रिया है, और "टेम्पोरल केओस" ($\tilde{r}$), जो अवशिष्ट उतार-चढ़ाव (residual fluctuations) का प्रतिनिधित्व करता है, में विभाजित करना।
2. परिमित मापन समय ($T$): एक परिमित विंडो $T$ पर मापे गए सांख्यिकी के लिए विश्लेषणात्मक व्युत्पन्न प्राप्त करना, यह स्वीकार करते हुए कि मापा गया आयाम 'केओस' के ऑटोकोरिलेशन समय ($\tau_{\tilde{C}}$) और मापन समय के अनुपात पर निर्भर करता है।
3. बहु-संदर्भ विश्लेषण (Multi-Context Analysis): विभिन्न व्यवहारिक संदर्भों (विभिन्न बाहरी इनपुट) में सांख्यिकी की गणना करने के लिए रेप्लिका विधियों (replica methods) का उपयोग करना, ताकि "ऑर्डर्ड रिस्पॉन्स के क्लाउड" की ज्यामिति का आकलन किया जा सके।

गणना किए गए प्रमुख मात्रात्मक मान (Key quantities) हैं:

• पार्टिसिपेशन रेशियो (PR): टेम्पोरल केओस और ऑर्डर्ड रिस्पॉन्स दोनों के लिए आयात्मकता के रैखिक माप के रूप में उपयोग किया जाता है।
• कोसाइन सिमिलैरिटी (CS): विभिन्न संदर्भों में ऑर्डर्ड रिस्पॉन्स के बीच समानता को मापना।
• ओरिएंटेशन सिमिलैरिटी (OS): विभिन्न संदर्भों में टेम्पोरल केओस के मुख्य अक्षों (principal axes/covariance ellipsoids) के बीच समानता को मापना।

प्रमुख योगदान और परिणाम

• प्रयोगों के साथ मात्रात्मक सहमति: लेखक दिखाते हैं कि जब परिमित मापन समय और बाहरी इनपुट को शामिल किया जाता है, तो एक न्यूनतम संरचित यादृच्छिक नेटवर्क द्वारा अनुमानित आयात्मकता, प्राइमेट मोटर कॉर्टेक्स (PMd और M1) के दौरान रीचिंग कार्यों के दौरान देखे गए प्रयोगात्मक डेटा के साथ मात्रात्मक रूप से सुसंगत होती है। विशेष रूप से, मॉडल यथार्थवादी मापन अवधि ($T \sim 1$ s) और न्यूरॉन संख्या ($N \sim 800$) के लिए देखे गए प्रयोगात्मक निम्न-आयामीता मूल्यों को पुनरुत्पादित करता है।
• भेदभाव करने के लिए आयात्मकता की सीमाएँ: इस सहमति के बावजूद, लेखक पाते हैं कि वर्तमान प्रयोगात्मक अवधियों द्वारा परिभाषित शासन (regime) में, अनुमानित आयात्मकता कम होती है और नेटवर्क मापदंडों (जैसे गेन $g$ या इनपुट स्ट्रेंथ $I$) के प्रति अपेक्षाकृत असंवेदनशील होती है। फलस्वरूप, आयात्मकता के माप एक न्यूनतम संरचित यादृच्छिक नेटवर्क और अतिरिक्त विशिष्ट वायरिंग संरचना वाले नेटवर्क के बीच अंतर नहीं कर सकते हैं। यह सहमति केवल सीमित मापन विंडो का प्रतिबिंब हो सकती है न कि संरचना की अनुपस्थिति का।
• टेम्पोरल केओस की गैर-एकदिष्ट आयात्मकता (Non-Monotonic Dimensionality): टेम्पोरल केओस की दीर्घकालिक आयात्मकता ($PR_\infty$), बाहरी इनपुट की शक्ति के साथ गैर-एकदिष्ट (non-monotonically) रूप से बदलती है। यह शुरू में कमजोर इनपुट के साथ बढ़ता है क्योंकि इनपुट उतार-चढ़ाव को स्वयत्त केओस के उच्च-वेरिएंस दिशाओं के साथ संरेखित करता है, और फिर जैसे-जैसे मजबूत इनपुट न्यूरॉन्स को नॉन-लिनियरिटी के लो-गेन क्षेत्रों में धकेलता है, यह घट जाता है, जिससे केओस दब जाता है।
• ज्यामितीय मापों की विभेदक संवेदनशीलता:
  • ऑर्डर्ड रिस्पॉन्स सिमिलैरिटी (CS): विभिन्न संदर्भों में समय-औसत प्रतिक्रियाओं के बीच समानता उच्च बनी रहती है और इनपुट की शक्ति बढ़ने के साथ जल्दी ही संतृप्त (saturate) हो जाती है, जो इनपुट की समानता को बनाए रखती है। यह मीट्रिक मुख्य रूप से सिंगल-न्यूरॉन गुणों के प्रति संवेदनशील है।
  • टेम्पोरल केओस ओरिएंटेशन सिमिलैरिटी (OS): इसके विपरीत, फ्लक्चुएशन एलिप्सॉइड (टेम्पोरल केओस) का ओरिएंटेशन बाहरी इनपुट की शक्ति के साथ तेजी से बदलता है। भले ही ऑर्डर्ड रिस्पॉन्स अत्यधिक समान हों, अंतर्निहित उतार-चढ़ाव संरचनाएं महत्वपूर्ण रूप से डिकोरिलेट (decorrelate) हो सकती हैं। यह मीट्रिक नेटवर्क संरचना के प्रति अधिक संवेदनशील है।
  • बहु-संदर्भ आयात्मकता (Multi-Context Dimensionality): कई संदर्भों के क्लाउड की आयात्मकता, नमूने के रूप में लिए गए संदर्भों की संख्या के साथ व्यवस्थित रूप से बढ़ती है। यह एक आधार रेखा (baseline) प्रदान करता जिसके विरुद्ध प्रयोगात्मक डेटा की तुलना की जा सकती है ताकि न्यूनतम मॉडल से विचलन का पता लगाया जा सके।

महत्व

यह शोध पत्र तर्क देता है कि न्यूरल पॉपुलेशन रिकॉर्डिंग में निम्न-आयामीता को विशेष रूप से संगठित सर्किट संरचना के निश्चित प्रमाण के रूप में नहीं लिया जाना चाहिए। एक न्यूनतम संरचित यादृच्छिक नेटवर्क, जब यथार्थवादी प्रयोगात्मक बाधाओं (परिमित समय और बाहरी इनपुट) के अधीन होता है, तो स्वाभाविक रूप से प्रयोगात्मक अवलोकनों के तुल्य निम्न-आयात्मकता वाली गतिविधि उत्पन्न करता है। इसलिए, निम्न-आयामीता के केवल अवलोकन को सूक्ष्म रूप से ट्यून की गई कनेक्टिविटी की उपस्थिति का निष्कर्ष निकालने के लिए पर्याप्त नहीं माना जा सकता है।

यह हल करने के लिए कि क्या किसी नेटवर्क में यादृच्छिक अंतःक्रियाओं से परे संरचना है, लेखक प्रस्तावित करते हैं कि प्रयोगों को सरल आयात्मकता गणनाओं से आगे बढ़ना चाहिए। वे विशिष्ट ज्यामितीय मात्राओं की पहचान करते हैं जो मजबूत परीक्षण प्रदान करती हैं:

1. इनपुट स्ट्रेंथ पर टेम्पोरल केओस आयात्मकता की गैर-एकदिष्ट निर्भरता।
2. विभिन्न व्यवहारिक संदर्भों में टेम्पोरल केओस संरचनाओं के बीच ओरिएंटेशन सिमिलैरिटी (OS) का तीव्र क्षय।
3. नमूने के रूप में लिए गए संदर्भों की संख्या के साथ बहु-संदर्भ आयात्मकता का स्केलिंग।

इन विशिष्ट मापों के लिए न्यूनतम संरचित यादृच्छिक नेटवर्क के मात्रात्मक भविष्यवाणियों से विचलन, अंतर्निहित न्यूरल सर्किट्री में अतिरिक्त, गैर-यादृच्छिक संगठन की उपस्थिति को दर्शाएगा। यह कार्य जेनेरिक रैंडम डायनेमिक्स और स्ट्रक्चर्ड कंप्यूटेशन के बीच अंतर करने के लिए प्रयोगों को डिजाइन करने हेतु एक मात्रात्मक ढांचा प्रदान करता है।