🔢 mathematics

Expressivity of Shallow Neural Networks Over Finite Fields

यह शोधपत्र वेइल अनुमानों (Weil conjectures) से जुड़े परिमेय बिंदुओं की गणना के माध्यम से एक न्यूरोमैनिफोल्ड (neuromanifold) को परिभाषित करके, परिमित क्षेत्रों (finite fields) पर उथले बहुपद तंत्रिका नेटवर्क (shallow polynomial neural networks) की अभिव्यंजकता की जांच करता है, और अंततः यह प्रदर्शित करता है कि कैसे शून्य विशेषता (characteristic zero) की तुलना में क्षेत्र की विशेषता (field characteristic) नेटवर्क की अभिव्यंजकता को महत्वपूर्ण रूप से प्रभावित करती है।

मूल लेखक: Maksym Zubkov, Carol Wu, Shiwei Yang, Param Mody, Yifei Chen

प्रकाशित 2026-07-21

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Maksym Zubkov, Carol Wu, Shiwei Yang, Param Mody, Yifei Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक ऐसी मशीन बनाने की कोशिश कर रहे हैं जो पहेलियों को हल कर सके। कंप्यूटर की दुनिया में, इन मशीनों को न्यूरल नेटवर्क कहा जाता है। आमतौर पर, हम उन्हें विशाल कैलकुलेटर के रूप में देखते हैं जो किसी भी संख्या को संभाल सकते हैं, बहुत छोटे दशमलव से लेकर बहुत बड़े पूर्णांकों तक, ठीक वैसे ही जैसे एक मानक कैलकुलेटर पर संख्याएं होती हैं। लेकिन क्या होगा यदि हम इन मशीनों को केवल एक बहुत ही विशिष्ट, छोटी संख्याओं के सेट का उपयोग करने के लिए मजबूर कर दें? कल्पना कीजिए कि आप केवल 0, 1, 2, 3 और 4 संख्याओं का उपयोग करके गिनती कर सकते हैं, और यदि आप 5 तक गिनने की कोशिश करते हैं, तो आप वापस 0 पर आ जाते हैं। गणितज्ञ इसे "फाइनाइट फील्ड" (finite field) कहते हैं। यह एक घड़ी की तरह है जिसमें केवल पांच घंटे होते हैं।

कोई ऐसा क्यों करना चाहेगा? वास्तविक दुनिया में, कंप्यूटर उन सभी बड़ी, जटिल संख्याओं को संग्रहीत करने के लिए बहुत अधिक ऊर्जा और मेमोरी का उपयोग करते हैं। यदि हम इन पहेली सुलझाने वाली मशीनों को केवल कुछ सरल संख्याओं के साथ काम करने के लिए प्रशिक्षित कर सकें, तो हम उन्हें तेज़ चला सकते हैं, कम बैटरी का उपयोग कर सकते हैं और उन्हें छोटे उपकरणों में फिट कर सकते हैं। लेकिन इसमें एक पेच है: जब आप संख्याओं के नियमों को बदलते हैं, तो आप उन नियमों को भी बदल सकते हैं जो यह तय करते हैं कि मशीन वास्तव में क्या कर सकती है। यह शोध पत्र एक बड़ा सवाल पूछता है: यदि हम अपने नंबर सिस्टम को एक बहुत छोटे फाइनाइट फील्ड में सिकोड़ देते हैं, तो क्या हमारा न्यूरल नेटवर्क अपनी सुपरपावर खो देता है, या यह उतना ही शक्तिशाली बना रहता है? लेखक मूल रूप से इन सरल मशीनों की सीमाओं का परीक्षण कर रहे हैं ताकि यह देख सकें कि वे वास्तव में कितने अलग-अलग पहेलियाँ हल कर सकते हैं।

शोध पत्र: एक नन्ही दुनिया में संभावनाओं की गिनती

यह शोध पत्र एक विशिष्ट प्रकार के न्यूरल नेटवर्क की "एक्सप्रेसिविटी" (expressivity) की गहराई में जाता है, जिसे "शैलो पॉलिनोमियल न्यूरल नेटवर्क" (shallow polynomial neural network) कहा जाता है। सरल शब्दों में, "एक्सप्रेसिविटी" बस एक फैंसी शब्द है जिसका अर्थ है कि "यह मशीन वास्तव में कितनी अलग-अलग चीजें बना सकती है?" मशीन को एक शेफ (रसोइया) के रूप में सोचें। यदि शेफ के पास एक विशाल भंडार (एक जटिल संख्या प्रणाली) है, तो वे लगभग कोई भी व्यंजन बना सकते हैं। लेकिन यदि उनका भंडार छोटा है (एक फाइनाइट फील्ड), तो क्या वे अभी भी भोजन की एक विस्तृत श्रृंखला बना सकते हैं, या वे बार-बार एक ही सूप बनाने में फंसे रह जाएंगे?

लेखक "शैलो" (उथले) नेटवर्क पर ध्यान केंद्रित करते हैं, जो एक साधारण रसोई की तरह हैं जिसमें सामग्री और अंतिम प्लेट के बीच केवल एक कुकिंग स्टेशन होता है। वे एक विशेष प्रकार के "एक्टिवेशन फंक्शन" (activation function) का उपयोग करते हैं, जो केवल एक नियम है जिसका पालन मशीन सामग्री मिलाने के लिए करती है। इस मामले में, नियम सरल है: एक संख्या लें और उसे एक घात (power) तक बढ़ाएँ (जैसे किसी संख्या का वर्ग करना या घन करना)।

शोधकर्ताओं ने ठीक से गिनने के लिए एक गणितीय ढांचा तैयार किया है कि ये नेटवर्क कितने अलग-अलग "व्यंजन" (या गणितीय फलनों) को उत्पन्न कर सकते हैं जब उन्हें एक फाइनाइट फील्ड में काम करने के लिए मजबूर किया जाता है। वे इन सभी संभावित व्यंजनों के संग्रह को "न्यूरोमैनीफोल्ड" (neuromanifold) कहते हैं। यह हर उस संभावित भोजन का एक मानचित्र है जो शेफ बना सकता है। मानचित्र जितना बड़ा होगा, नेटवर्क उतना ही अधिक एक्सप्रेसिव होगा।

बड़ी हैरानी: घड़ियाँ बनाम वास्तविक संख्याएँ
सबसे चौंकाने वाला निष्कर्ष यह है कि ये नेटवर्क बहुत अलग तरह से व्यवहार करते हैं, यह इस बात पर निर्भर करता है कि वे "वास्तविक दुनिया" (जटिल संख्याओं का उपयोग करते हुए) में काम कर रहे हैं या "नन्ही दुनिया" (फाइनाइट फील्ड) में।

वास्तविक दुनिया में, यदि आपके पास दो आउटपुट वाला नेटवर्क है (दो प्लेटें भरने के लिए), तो संभावित व्यंजनों का मानचित्र विशाल है और लगभग सब कुछ कवर करता है। यह कहने जैसा है कि, "पर्याप्त अभ्यास के साथ, यह शेफ दो व्यंजनों का कोई भी संयोजन बना सकता है।" हालाँकि, जब लेखकों ने इसी नेटवर्क को एक फाइनाइट फील्ड में स्थानांतरित किया, तो मानचित्र नाटकीय रूप से सिकुड़ गया। एक विशिष्ट सेटअप के लिए, नेटवर्क केवल उन आधे व्यंजनों को बना सकता था जो वह वास्तविक दुनिया में बना सकता था।

दूसरे शब्दों में: वास्तविक दुनिया में, नेटवर्क एक मास्टर शेफ है जो लगभग कुछ भी बना सकता है। फाइनाइट फील्ड में, वही शेफ अचानक प्रतिबंधित हो जाता है, वह मेनू का एक बड़ा हिस्सा बनाने में असमर्थ होता है, भले ही रेसिपी (आर्किटेक्चर) नहीं बदली गई हो। लेखक दिखाते हैं कि क्षेत्र का "विशेषता" (characteristic) (संख्याओं का एक गुण, जैसे कि घड़ी में सम या विषम संख्या में घंटे होना) इस सीमा में महत्वपूर्ण भूमिका निभाता है।

व्यंजनों की गिनती
शोध पत्र केवल यह नहीं कहता कि "यह छोटा है"; यह वास्तव में व्यंजनों को गिनता है।

कुछ सरल सेटअपों के लिए (जैसे एक आउटपुट वाला नेटवर्क), उन्होंने पाया कि नेटवर्क पूरे मेनू को भर सकता है, ठीक वास्तविक दुनिया की तरह।
अन्य के लिए (जैसे ऊपर बताया गया दो-आउटपुट सेटअप), उन्होंने गणना की कि नेटवर्क मेनू के केवल एक विशिष्ट अंश को ही भर पाता है। उदाहरण के लिए, एक विशिष्ट घड़ी के आकार (अभाज्य संख्या $p$ ) के साथ, विविधताओं को बनाने की नेटवर्क की क्षमता कुल संभावनाओं के ठीक 1/2 के बराबर पहुँच जाती है।
उन्होंने संख्याओं के साथ एक अजीब ट्रिक भी खोजा: यदि आप संख्याओं को जिस घात तक बढ़ाते हैं वह घड़ी के आकार का एक गुणक है (जैसे 5-घंटे की घड़ी पर 5 की घात तक बढ़ाना), तो नेटवर्क बिल्कुल वैसा ही व्यवहार करता है जैसे कि आप इसे 1 की घात तक बढ़ा रहे हों। यह एक गणितीय शॉर्टकट है जो समस्या को सरल बनाता है लेकिन विविधता को भी सीमित करता है।

जो उन्होंने हल नहीं किया
लेखक सावधानीपूर्वक नोट करते हैं कि जबकि उन्होंने सरल, एकल-परत वाले नेटवर्क के लिए गणित को हल किया है, गहरे नेटवर्क (अधिक कुकिंग स्टेशन) या अधिक जटिल सेटअप के साथ चीजें बहुत अधिक जटिल हो जाती हैं। वे स्पष्ट रूप से कहते हैं कि तीन या अधिक "सामग्रियों" वाले नेटवर्क के लिए, गिनती अविश्वसनीय रूप से कठिन हो जाती है, और उनके पास अभी तक उनके लिए कोई साफ सूत्र नहीं है। वे यह भी बताते हैं कि हालांकि उन्होंने साबित किया है कि ये नेटवर्क फाइनाइट फील्ड में सीमित हैं, उन्होंने हर एक प्रकार के नेटवर्क आर्किटेक्चर के लिए हर संभावित सीमा का पूरी तरह से मानचित्रण नहीं किया है।

मुख्य निष्कर्ष
अंततः, यह शोध पत्र सिद्ध करता है कि आप यह मानकर नहीं चल सकते कि एक न्यूरल नेटवर्क उसी तरह काम करेगा यदि आप इसके नंबर सिस्टम को सिकोड़ देते हैं। "खेल के नियम" बदल जाते हैं। कुछ सरल कार्यों के लिए, नेटवर्क ठीक है। लेकिन अन्य के लिए, फाइनाइट फील्ड एक फिल्टर की तरह कार्य करता है, जो संभावनाओं के आधे हिस्से को ब्लॉक कर देता है। यह इंजीनियरों के लिए एक महत्वपूर्ण अंतर्दृष्टि है जो कुशल, कम शक्ति वाले AI बनाना चाहते हैं। यह उन्हें बताता है कि हालांकि संख्याओं को सिकोड़ने से ऊर्जा बचती है, उन्हें अपने नेटवर्क के डिज़ाइन के बारे में बहुत सावधान रहने की आवश्यकता है, क्योंकि जो AI सीख सकता है उसका "मेनू" बहुत कम हो सकता है जिसकी उन्होंने उम्मीद की थी। लेखक सुझाव देते हैं कि इन सीमाओं को समझना बेहतर, अधिक कुशल मशीनें बनाने की दिशा में पहला कदम है जो एक छोटे नंबर सिस्टम में स्विच करने पर अपना जादू नहीं खोती हैं।

तकनीकी सारांश: परिमित क्षेत्रों (Finite Fields) पर उथले न्यूरल नेटवर्क की अभिव्यंजना क्षमता (Expressivity)

समस्या विवरण
यह कार्य परिमित क्षेत्रों $\mathbb{F}_q$ पर मोनोमियलल सक्रियण फलन (activation function) $\sigma(x) = x^r$ वाले उथले बहुपद न्यूरल नेटवर्क (PNNs) की अभिव्यंजना क्षमता की जांच करता है। जबकि न्यूरल नेटवर्क की अभिव्यंजना क्षमता का अध्ययन पारंपरिक रूप से सांख्यिकीय विधियों या वास्तविक/जटिल क्षेत्रों (real/complex fields) पर किया जाता है, यह शोध पत्र परिमित क्षेत्रों के संदर्भ में बीजगणितीय अभिव्यंजना (algebraic expressivity) को संबोधित करता है। यह भार प्रमाणीकरण (weight quantization - ऊर्जा और भंडारण को कम करने के लिए) के व्यावहारिक लाभों और वेइल अनुमानों (Weil conjectures) के साथ परिमेय बिंदुओं की गणना के बीच सैद्धांतिक संबंध से प्रेरित है, जो जटिल रूपांतरों (complex varieties) की मोटिविक संरचना से संबंधित हैं।

मुख्य समस्या एक नेटवर्क आर्किटेक्चर की "अंकगणितीय अभिव्यंजक क्षमता" (arithmetic expressive capacity) को मात्रात्मक रूप से निर्धारित करना है। निरंतर क्षेत्रों (continuous fields) के विपरीत, जहाँ अभिव्यंजना को अक्सर आयाम या ज़ारिस्की घनत्व (Zariski density) के माध्यम से मापा जाता है, लेखक परिमित क्षेत्रों पर अभिव्यंजना को न्यूरोमैनिफोल्ड (neuromanifold) की कार्डिनैलिटी (cardinality) के माध्यम से परिभाषित करते हैं—जो कि नेटवर्क वेट्स से प्रतिनिधित्व योग्य बहुपद फलनों के स्थान तक पैरामीटर मैप का प्रतिबिंब (image) है।

कार्यप्रणाली
लेखक एक बीजगणितीय-ज्यामितीय दृष्टिकोण अपनाते हैं, जिसमें नेटवर्क आउटपुट को केवल फलनों के बजाय एक बहुपद रिंग के तत्वों के रूप में माना जाता है।

औपचारिकता (Formalism): एक उथला नेटवर्क आर्किटेक्चर $\mathbf{d}=(n, m, k)$ और सक्रियण डिग्री $r$ , इनपुट $\mathbf{x} \in \mathbb{F}_q^n$ को $(\mathbb{F}_q[x_1, \dots, x_n])^k$ में आउटपुट देता है। आउटपुट डिग्री $r$ के समरूप बहुपदों (homogeneous polynomials) का एक $k$ -टुपल है।
न्यूरोमैनिफोल्ड परिभाषा: न्यूरोमैनिफोल्ड $\mathcal{P}_{\mathbf{d}, r}$ को वेट स्पेस $\mathbb{F}_q^{m(n+k)}$ से समरूप बहुपदों के स्थानों के उत्पाद $(S_r(\mathbb{F}_q^n))^k$ तक पैरामीटर मैप $\Psi_{\mathbf{d}, r}$ के प्रतिबिंब के रूप में परिभाषित किया गया है।
गणना रणनीति: चूंकि परिवेशी स्थान (ambient space) परिमित है, इसलिए अभिव्यंजना को $|\mathcal{P}_{\mathbf{d}, r}|$ $∣ P_{d, r} ∣$ की कार्डिनैलिटी द्वारा मापा जाता है। लेखक निम्नलिखित का उपयोग करते हैं:
- बहुपद सर्वांग conformidad प्रमेय (Multinomial Congruence Theorems): यह निर्धारित करने के लिए कि कौन से मोनोमियलल गुणांक क्षेत्र के अभिलक्षण (characteristic) $p$ के मोड्यूलो शून्य होते हैं।
- टेन्सर अपघटन (Tensor Decomposition): नेटवर्क आउटपुट को सममित टेन्सर अपघटन (विशेष रूप से CP-रैंक और समवर्ती विकर्णीकरण/simultaneous diagonalization) से जोड़ना।
- संयोजन गणना (Combinatorial Counting): परिमित क्षेत्रों पर दिए गए रैंक की मैट्रिसेस की संख्या के सूत्रों (MacWilliams, 1969) और $q$ -बाइनोमियल गुणांकों का उपयोग करना।
- प्रोजेक्टिव ज्यामिति (Projective Geometry): स्केलिंग इनवेरिएंस (scaling invariance) को संभालने के लिए प्रोजेक्टिव स्पेस में न्यूरोमैनिफोल्ड की संरचना का विश्लेषण करना।

प्रमुख योगदान और परिणाम

1. सामान्य ऊपरी सीमाएँ (General Upper Bounds)
यह शोध पत्र सक्रियण डिग्री $r$ के बेस- $p$ विस्तार के आधार पर न्यूरोमैनिफोल्ड की कार्डिनैलिटी पर एक सामान्य ऊपरी सीमा स्थापित करता है। यदि $r = \sum r_t p^t$ , तो गैर-शून्य मोनोमियलल गुणांकों की संख्या $\gamma_{n,p}(r) = \prod \binom{r_t+n-1}{r_t}$ है। फलस्वरूप, कार्डिनैलिटी इस प्रकार सीमित है:
$|\mathcal{P}_{\mathbf{d}, r}| \leq q^{\gamma_{n,p}(r) \cdot k}$
यह सीमा इस कारण उत्पन्न होती है क्योंकि कुछ एक्सपोनेंट टुपल्स के लिए मल्टीनोमियल गुणांक $p$ के मोड्यूलो शून्य हो जाते हैं, जिससे प्रभावी आयाम (effective dimension) कम हो जाता है।

2. विशिष्ट आर्किटेक्चर के लिए सटीक कार्डिनैलिटी
लेखक कई आर्किटेक्चर के लिए सटीक सूत्र प्राप्त करते हैं:

एकल आउटपुट ( $k=1$ ) के साथ वर्गाकार सक्रियण ( $r=2, p \neq 2$ ): न्यूरोमैनिफोल्ड रैंक $\leq m$ वाली सममित $n \times n$ मैट्रिसेस के सेट के अनुरूप है। कार्डिनैलिटी $0 \leq j \leq m$ के लिए रैंक $j$ वाली सममित मैट्रिसेस की संख्या का योग है, जिसमें MacWilliams का सूत्र उपयोग किया गया है।
एकाधिक आउटपुट ( $k>1$ ) के साथ $r=2$ : लेखक $\mathbf{d}=(n, n, 2)$ मामले का विश्लेषण करते हैं। वे परिमित और जटिल क्षेत्रों के बीच एक स्पष्ट अंतर प्रदर्शित करते हैं। $\mathbb{C}$ पर, न्यूरोमैनिफोल्ड ज़ारिस्की सघन (Zariski dense) है (स्थान को भर देता है)। $\mathbb{F}_q$ पर, अंकगणितीय अभिव्यंजक क्षमता $q \to \infty$ होने पर $1/2$ के करीब पहुँच जाती है। यह सममित मैट्रिसेस के कॉन्ग्रुएंस (congruence) के माध्यम से समवर्ती विकर्णीकरण (SDC) की समस्या से जुड़ा है, जो परिमित क्षेत्रों में गैर-नगण्य अंश के लिए विफल रहता है।
$m=1$ और $m=2$ वाले आर्किटेक्चर:
- $m=1$ के लिए, कार्डिनैलिटी को प्रोजेक्टिव स्पेस के उत्पाद के रूप में प्राप्त किया जाता है: $|\mathcal{P}_{\mathbf{d}, r}| = |\mathcal{P}_{(n,1,1), r}| \cdot |\mathbb{P}^{k-1}|$ ।
- $m=2$ के लिए, लेखक आउटपुट टेन्सर्स के विस्तार (span) के आयाम के आधार पर स्थान को विभाजित करते हैं। वे $r > 1$ और $r=1$ के लिए अलग-अलग सूत्र प्रदान करते हैं, यह नोट करते हुए कि $r=1$ के लिए, रैंक-1 टेन्सर्स के रैखिक संयोजन रैंक-1 ही रहते हैं, जिससे गैर-अद्वितीय आधार युग्मों (non-unique basis pairs) के कारण गणना जटिल हो जाती है।

3. अभिलक्षण विभाज्यता ( $p \mid r$ )
अभिलक्षण द्वारा विभाज्य सक्रियण डिग्री का एक महत्वपूर्ण सैद्धांतिक परिणाम है। यदि $r = i \cdot p$ , तो न्यूरोमैनिफोल्ड की कार्डिनैलिटी $i$ सक्रियण डिग्री वाले नेटवर्क की कार्डिनैलिटी के समान है:
$|\mathcal{P}_{\mathbf{d}, ip}| = |\mathbf{\mathcal{P}}_{\mathbf{d}, i}|$
इसे विशेषता $p$ में $(a+b)^p \equiv a^p + b^p$ पहचान और परिमित क्षेत्रों के परफेक्ट (perfect) होने के तथ्य का उपयोग करके सिद्ध किया गया है। यह जटिल मामलों को सरल मामलों में बदलने की अनुमति देता है।

विशेष मामला ( $r=p$ ): जब $r=p$ , तो न्यूरोमैनिफोल्ड अधिकतम $m$ रैंक वाली $k \times n$ मैट्रिसेस के सेट के बिल्कुल समान होता है।

4. संरचनात्मक अंतर: परिमित बनाम जटिल क्षेत्र
यह शोध पत्र इस बात पर प्रकाश डालता है कि परिमित क्षेत्रों पर न्यूरोमैनिफोल्ड का व्यवहार उनके जटिल समकक्षों से काफी भिन्न हो सकता है, यहाँ तक कि छोटे आर्किटेक्चर के लिए भी।

उदाहरण: $\mathbf{d}=(2, 2, 2)$ के लिए $r=2$ के साथ, $\mathbb{C}$ पर न्यूरोमैनिफोल्ड ज़ारिस्की ओपन (स्थान को भरने वाला) है, जबकि $\mathbb{F}_q$ पर, यह केवल लगभग आधे परिवेशी स्थान को घेरता है।
निहितार्थ: "भरने" (surjectivity) जैसे गुण, जो जटिल क्षेत्रों में सत्य होते हैं, परिमित क्षेत्रों पर गारंटीकृत नहीं हैं।

महत्व और दावे
लेखक दावा करते हैं कि यह कार्य क्वांटाइज्ड न्यूरल नेटवर्क की अभिव्यंजना क्षमता को समझने के लिए एक मौलिक बीजगणितीय ढांचा प्रदान करता है। पैरामीटर मैप के प्रतिबिंब की कार्डिनैलिटी पर ध्यान केंद्रित करके, वे क्षेत्र के अभिलक्षण (field characteristic) द्वारा लगाए गए संरचनात्मक प्रतिबंधों को प्रकट करते हैं।

शोध पत्र का तर्क है कि:

क्षेत्र अभिलक्षण (Field Characteristic) महत्वपूर्ण है: क्षेत्र का अभिलक्षण अभिव्यंजना में निर्णायक भूमिका निभाता है, जो अक्सर विशेषता शून्य वाले क्षेत्रों की तुलना में नेटवर्क की क्षमता को कम कर देता है।
गहन गणित से संबंध: इन मैनिफोल्ड्स की गणना करने की समस्या वेइल अनुमानों और परिमेय बिंदुओं के अध्ययन से आंतरिक रूप से जुड़ी हुई है, जो न्यूरल नेटवर्क सिद्धांत और अंकगणितीय ज्यामिति (arithmetic geometry) के बीच एक सेतु प्रदान करती है।
वर्तमान सिद्धांत की सीमाएँ: परिणाम बताते हैं कि जटिल या वास्तविक-मान वाले नेटवर्क से प्राप्त अंतर्ज्ञान (जैसे ज़ारिस्की घनत्व) परिमित क्षेत्रों पर स्थानांतरित नहीं हो सकता है, जिसके लिए क्वांटाइज्ड आर्किटेक्चर के लिए विशिष्ट कॉम्बिनेटरियल और बीजगणितीय उपकरणों की आवश्यकता होती है।

शोध पत्र निष्कर्ष निकालता है कि खुले प्रश्न अभी भी मौजूद हैं, जैसे कि ऐसे आर्किटेक्चर खोजना जहाँ अभिव्यंजक क्षमता एक गैर-शून्य अंश $0 < a/b < 1$ की ओर अभिसरित (converge) होती है, और परिमित क्षेत्रों पर सममित टेन्सर्स के लिए समवर्ती विकर्णीकरण समस्या को हल करना। यह नए प्रशिक्षण एल्गोरिदम या प्रयोगात्मक बेंचमार्क का प्रस्ताव नहीं करता है, बल्कि प्रतिनिधित्व की सैद्धांतिक सीमाओं पर ध्यान केंद्रित करता है।

शोध पत्र: एक नन्ही दुनिया में संभावनाओं की गिनती

तकनीकी सारांश: परिमित क्षेत्रों (Finite Fields) पर उथले न्यूरल नेटवर्क की अभिव्यंजना क्षमता (Expressivity)

इसी तरह के और पेपर