🔬 condensed matter

Criticality in Neural Network Function Space through Wilsonian Fixed Points and Finite-Width Corrections

यह शोध पत्र एक विल्सनियन ढांचे (Wilsonian framework) का प्रस्ताव करता है जो परिमित-चौड़ाई वाले न्यूरल नेटवर्क्स को एक गॉसियन फिक्स्ड पॉइंट से उभरने वाले परस्पर क्रिया करने वाले क्वांटम फील्ड थ्योरीज के रूप में व्याख्यायित करता है, जहाँ क्रिटिकैलिटी (criticality) परिमित-चौड़ाई सुधारों से उत्पन्न होती है जो गैर-गॉसियन इंटरैक्शन पेश करते हैं, जिससे नेटवर्क आर्किटेक्चर और प्रशिक्षण गतिकी (training dynamics) का फंक्शन स्पेस में जटिलता, अभिव्यंजना क्षमता (expressivity) और चरण-समान व्यवहारों के उद्भव से संबंध स्थापित होता है।

मूल लेखक: Eric Howard, Iftekher S. Chowdhury, Hardique Dasore, Hom Nath Dhungana

प्रकाशित 2026-08-24

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Eric Howard, Iftekher S. Chowdhury, Hardique Dasore, Hom Nath Dhungana

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

डीप लर्निंग ने मशीनों के देखने, बोलने और तर्क करने के तरीके को बदल दिया है, फिर भी इन प्रणालियों के पीछे की गणितीय मशीनरी अधिकांश लोगों के लिए एक 'ब्लैक बॉक्स' बनी हुई है। इस रहस्य के केंद्र में एक मौलिक प्रश्न है: जब एक न्यूरल नेटवर्क सीखता है, तो वास्तव में उसके भीतर क्या होता है? पारंपरिक रूप से, वैज्ञानिकों ने इन प्रणालियों को समायोज्य संख्याओं, या 'पैरामीटर्स' के विशाल संग्रह के रूप में देखा है, जहाँ लक्ष्य त्रुटि (error) को कम करने के लिए इन संख्याओं को ट्यून करना है। हालाँकि, एक अधिक अमूर्त दृष्टिकोण उभरा है, जो सुझाव देता है कि एक न्यूरल नेटवर्क को उसके आंतरिक सेटिंग्स द्वारा नहीं, बल्कि उन कार्यों (functions) के संभाव्यता वितरण (probability distribution) द्वारा बेहतर ढंग से समझा जा सकता है जिन्हें वह उत्पन्न कर सकता है। इस दृष्टि में, नेटवर्क संभावनाओं का एक जनरेटर है, और इसका व्यवहार उन कार्यों के आकार द्वारा परिभाषित होता है जिन्हें यह बनाता है, न कि उन विशिष्ट 'नॉब्स' (knobs) द्वारा जिन्हें यह घुमाता है। दृष्टिकोण का यह बदलाव शोधकर्ताओं को यह समझने के लिए सांख्यिकीय भौतिकी (statistical physics) और क्वांटम फील्ड थ्योरी जैसे उपकरणों को लागू करने की अनुमति देता है कि ये प्रणालियाँ स्वयं को कैसे व्यवस्थित करती हैं, विशेष रूप से तब जब वे अत्यंत विस्तृत हों या स्थिरता के किनारे पर हों।

मैक्क्वेरी यूनिवर्सिटी और चार्ल्स स्टर्ट यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस अमूर्त दृष्टिकोण को अपनाया है और यह समझाने के लिए एक नया ढांचा विकसित किया है कि न्यूरल नेटवर्क वास्तव में कैसे व्यवहार करते हैं। वे प्रस्ताव देते हैं कि इन नेटवर्कों के व्यवहार को "क्रिटिकैलिटी" (criticality) के लेंस के माध्यम से समझा जा सकता है, जो भौतिक प्रणालियों में पाया जाने वाला एक ऐसा राज्य है जहाँ पदार्थ व्यवस्था (order) और अराजकता (chaos) के बीच स्थित होता है। अपने विश्लेषण में, वे एक आदर्श, अनंत रूप से विस्तृत न्यूरल नेटवर्क को एक सरल, पूर्वानुमेय आधार रेखा (baseline) के रूप में देखते हैं, जो एक शांत, समतल परिदृश्य के समान है। इसके बाद, वे परीक्षण करते हैं कि क्या होता है जब नेटवर्क आकार में सीमित (finite) होता है, जो कुछ जटिल अंतःक्रियाओं (interactions) को पेश करता है जो इस सरलता को बाधित करती हैं। शोधकर्ता तर्क देते हैं कि ये 'फाइनाइट-साइज़ इफेक्ट्स' केवल तकनीकी त्रुटियां नहीं हैं जिन्हें अनदेखा किया जाना चाहिए, बल्कि वास्तव में ये जटिल पैटर्न सीखने और समृद्ध व्यवहार व्यक्त करने की नेटवर्क की क्षमता का स्रोत हैं।

उनके कार्य के मूल में नेटवर्क के आकार और उसकी जटिलता के बीच के संबंध की पुनर्व्याख्या शामिल है। वर्षों से, क्षेत्र में प्रचलित अंतर्ज्ञान यह रहा है कि अधिक पैरामीटर जोड़ने से प्रणाली अधिक जटिल और नियंत्रण में कठिन हो जाती है। लेखक इस चुनौती को देते हुए दिखाते हैं कि 'फंक्शन स्पेस' की भाषा में, नेटवर्क को व्यापक बनाने से वास्तव में उसका व्यवहार सरल हो जाता है। जैसे-जैसे नेटवर्क अनंत रूप से विस्तृत होता जाता है, इसका आउटपुट पूरी तरह से पूर्वानुमेय हो जाता है और एक सरल सांख्यिकीय नियम का पालन करता है जिसे गाऊसी प्रक्रिया (Gaussian process) कहा जाता है, जहाँ सभी जटिल अंतःक्रियाएं लुप्त हो जाती हैं। इस अनंत सीमा में, नेटवर्क अनिवार्य रूप से "मुक्त" (free) होता है और इसमें कठिन वास्तविक दुनिया की समस्याओं को मॉडल करने के लिए आवश्यक जटिल संबंधों का अभाव होता है। शोधकर्ता सुझाव देते हैं कि एक न्यूरल नेटवर्क की वास्तविक शक्ति उसके परतों के सीमित आकार (finite size) से आती है, जो इन आवश्यक अंतःक्रियाओं को पुन: पेश करती है।

इसे समझने के लिए, लेखक भौतिकी से लिए गए एक तरीके का उपयोग करते हैं जिसे 'विल्सनियन अप्रोच' (Wilsonian approach) कहा जाता है, जो यह अध्ययन करता है कि जब आप किसी प्रणाली को विभिन्न पैमानों (scales) से देखते हैं तो वह कैसे बदलती है। वे अनंत-चौड़ाई वाली सीमा को एक 'फिक्स्ड पॉइंट' (fixed point) के रूप में पहचानते हैं, जो एक स्थिर अवस्था है जिसकी ओर प्रणाली झुकती है। वास्तविक दुनिया के नेटवर्कों की सीमित चौड़ाई एक 'परटर्बेशन' (perturbation) के रूप में कार्य करती है, जो इस पूर्ण स्थिरता से एक छोटा सा धक्का है। शोधकर्ता इन धक्कों को तीन श्रेणियों में वर्गीकृत करते हैं: कुछ नेटवर्क के चौड़ा होने पर फीके पड़ जाते हैं, कुछ सिस्टम पर हावी होने के लिए बढ़ते हैं, और अन्य एक नाजुक सीमा पर स्थित होते हैं जहाँ उन्हें क्रिटिकल व्यवहार बनाने के लिए ट्यून किया जा सकता है। वे पाते हैं कि न्यूरल नेटवर्क के सबसे दिलचस्प और उपयोगी गुण—जैसे कि सीमित डेटा से सामान्यीकरण (generalize) करने की क्षमता और जटिल संरचनाओं को सीखने की क्षमता—तब उभरते हैं जब नेटवर्क इस क्रिटिकल सीमा के पास संचालित होता है।

यह शोध इस व्यवहार को मापने के कई ठोस तरीके प्रदान करता है। शोधकर्ता दिखाते हैं कि जैसे-जैसे नेटवर्क व्यापक होता जाता है, इसके वास्तविक आउटपुट और आदर्श अनंत-चौड़ाई वाले पूर्वानुमान के बीच का अंतर एक विशिष्ट गणितीय क्षय (decay) का पालन करते हुए अनुमानित तरीके से घटता जाता है। वे प्रदर्शित करते हैं कि नेटवर्क के "कनेक्टेड" हिस्से, जो विभिन्न इनपुट्स के बीच जटिल, गैर-रेखीय अंतःक्रियाओं का प्रतिनिधित्व करते हैं, चौड़ाई बढ़ने के साथ कमजोर होते जाते हैं। यह पुष्टि करता है कि ओवरपैरामीट्राइजेशन (overparameterization), जिसे अक्सर जटिलता जोड़ना माना जाता है, वास्तव में इन अंतःक्रियाओं को दबाने और सिस्टम को एक सरल, गाऊसी अवस्था की ओर ले जाने की एक प्रक्रिया है। इसके विपरीत, एक सीमित चौड़ाई वाला नेटवर्क इन अंतःक्रियाओं को बनाए रखता है, जिससे यह सरल सांख्यिकीय नियमों से मुक्त होकर वास्तविक डेटा की बारीकियों को पकड़ने में सक्षम होता है।

अध्ययन का एक प्रमुख निष्कर्ष "एज ऑफ केओस" (edge of chaos) की पुनर्रचना है, जो एक ऐसे नेटवर्क की सीमा का वर्णन करता है जो सीखने के लिए बहुत कठोर है और एक ऐसा जो नियंत्रण के लिए बहुत अराजक है। लेखक इस सीमा को अपने ढांचे पर मैप करते हैं, यह दिखाते हुए कि यह एक 'क्रिटिकल सरफेस' के अनुरूप है जहाँ इनपुट और आउटपुट के बीच सहसंबंध (correlations) कई परतों तक बिना ढहे या विस्फोट किए बने रहते हैं। इस निकट-क्रिटिकल शासन (near-critical regime) में, नेटवर्क नए पैटर्न सीखने के लिए पर्याप्त संवेदनशील है लेकिन जो उसने सीखा है उसे बनाए रखने के लिए पर्याप्त स्थिर भी है। उनका तर्क है कि न्यूरल नेटवर्क को प्रशिक्षित करना प्रभावी रूप से इसके अंतर्निहित सांख्यिकीय ढांचे को विकृत करने की एक प्रक्रिया है, जो इसे एक यादृच्छिक शुरुआती बिंदु से एक ऐसे क्षेत्र की ओर ले जाती है जहाँ ये क्रिटिकल अंतःक्रियाएं संतुलित होती हैं।

शोधकर्ता 'जनरलाइजेशन' (सामान्यीकरण) के रहस्य को भी संबोधित करते हैं, या यह कि बड़े नेटवर्क अक्सर अनदेखे डेटा पर बेहतर प्रदर्शन क्यों करते हैं, जबकि उनके पास प्रशिक्षण उदाहरणों की तुलना में अधिक पैरामीटर होते हैं। उनका ढांचा सुझाव देता है कि सामान्यीकरण तब होता है जब प्रशिक्षण उन विशिष्ट, शोरयुक्त (noisy) अंतःक्रियाओं को दबा देता है जो प्रशिक्षण डेटा के बहुत करीब फिट होती हैं, जबकि उन व्यापक, स्थिर संरचनाओं को सुरक्षित रखता है जो वास्तविक दुनिया पर लागू होती हैं। इसके विपरीत, ओवरफिटिंग तब होती है जब नेटवर्क इन विशिष्ट, अस्थिर अंतःक्रियाओं को बढ़ा देता है। 'इफेक्टिव फील्ड थ्योरी' के लेंस के माध्यम से देखते हुए, लेखक उपयोगी जटिलता और हानिकारक शोर के बीच अंतर करने का एक तरीका प्रदान करते हैं, यह सुझाव देते हुए कि सर्वश्रेष्ठ प्रदर्शन करने वाले नेटवर्क वे हैं जो एक नियंत्रित, क्रिटिकल शासन में स्थित हैं जहाँ सीमित-चौड़ाई के प्रभाव अभिव्यंजक होने के लिए पर्याप्त मजबूत हैं लेकिन अस्थिरता पैदा करने के लिए इतने प्रबल नहीं हैं।

अंततः, यह कार्य न्यूरल नेटवर्क को समझने के लिए एक नया शब्दकोश प्रदान करता है, जो ध्यान को पैरामीटर्स की संख्या से हटाकर उनके द्वारा उत्पादित कार्यों की संरचना पर केंद्रित करता है। यह सुझाव देता है कि डीप लर्निंग का जादू अधिक 'नॉब्स' घुमाने में नहीं है, बल्कि उस सही संतुलन को खोजने में है जहाँ सिस्टम सीखने के लिए पर्याप्त जटिल है लेकिन सामान्यीकरण के लिए पर्याप्त सरल भी है। लेखक प्रस्तावित करते हैं कि भविष्य के शोध को इन क्रिटिकल गुणों को सीधे मापने पर ध्यान केंद्रित करना चाहिए, यह देखना चाहिए कि प्रशिक्षण के दौरान सहसंबंध और अंतःक्रियाएं कैसे विकसित होती हैं, न कि केवल लॉस फंक्शन (loss function) को ट्रैक करना चाहिए। न्यूरल नेटवर्क को परस्पर क्रिया करने वाली भौतिक प्रणालियों के रूप में मानकर, यह दृष्टिकोण कृत्रिम बुद्धिमत्ता के सीखने की एक व्यवस्थित समझ की ओर द्वार खोलता है, जो क्रिटिकैलिटी और स्केल के मौलिक सिद्धांतों के आधार पर बेहतर आर्किटेक्चर और प्रशिक्षण विधियों को डिजाइन करने का मार्ग प्रशस्त करता है।

तकनीकी सारांश: विल्सनियन फिक्स्ड पॉइंट्स और परिमित-चौड़ाई सुधारों के माध्यम से न्यूरल नेटवर्क फंक्शन स्पेस में क्रिटिकैलिटी (Criticality)

समस्या विवरण
वर्तमान डीप लर्निंग सिद्धांत मुख्य रूप से पैरामीटर स्पेस के दृष्टिकोण से न्यूरल नेटवर्क्स का विश्लेषण करता है, जो वेट वेक्टर्स (weight vectors), लॉस लैंडस्केप्स और ऑप्टिमाइज़ेशन डायनेमिक्स पर केंद्रित होता है। जबकि न्यूरल नेटवर्क्स की अनंत-चौड़ाई सीमा (infinite-width limit) को गाऊसी प्रोसेस (GPs) के अभिसरण के रूप में अच्छी तरह समझा गया है, यह परिप्रेक्ष्य परिमित-चौड़ाई वाले नेटवर्क्स को केवल इस सीमा के अपूर्ण सन्निकटन (imperfect approximations) के रूप में मानता है। फलस्वरूप, गैर-गाऊसी प्रभावों (non-Gaussian effects), उच्च-क्रम सहसंबंधों (higher-order correlations) और जटिल अंतःक्रियाओं को, जो परिमित-चौड़ाई वाले वास्तविक दुनिया के नेटवर्क्स में निहित हैं, अक्सर अनुमान त्रुटियों के रूप में खारिज कर दिया जाता है न कि मौलिक संरचनात्मक विशेषताओं के रूप में पहचाना जाता है। यह शोध पत्र एक ऐसे सैद्धांतिक ढांचे की आवश्यकता को संबोधित करता है जहाँ परिमित-चौड़ाई वाले न्यूरल नेटवर्क्स को दोषपूर्ण GPs के बजाय 'इंटरेक्टिंग इफेक्टिव फील्ड थ्योरीज' (interacting effective field theories) के रूप में माना जाए, जहाँ "क्रिटिकैलिटी" (criticality) गाऊसी फिक्स्ड पॉइंट और परिमित-चौड़ाई संबंधी विक्षोभों (perturbations) के बीच परस्पर क्रिया से उत्पन्न होती है।

कार्यप्रणाली (Methodology)
लेखक न्यूरल नेटवर्क-क्वांटम फील्ड थ्योरी (QFT) पत्राचार पर लागू एक विल्सनियन रिनॉर्मलाइजेशन ग्रुप (RG) फ्रेमवर्क का उपयोग करते हैं। मुख्य पद्धतिगत बदलाव निम्नलिखित हैं:

१. फंक्शन-स्पेस फॉर्मुलेशन: नेटवर्क को उसके मापदंडों $\theta$ द्वारा नहीं, बल्कि फलनों के एक प्रायिकता वितरण $P_N[f]$ के रूप में परिभाषित किया गया है। इस वितरण को एक प्रभावी एक्शन (effective action) $S_N[f]$ के माध्यम से औपचारिक रूप दिया गया है, जहाँ $P_N[f] \propto e^{-S_N[f]}$ ।
२. फिक्स्ड पॉइंट पहचान: अनंत-चौड़ाई सीमा ( $N \to \infty$ ) को एक फ्री-फील्ड फिक्स्ड पॉइंट ( $S_\infty[f]$ ) के रूप में पहचाना गया है, जो एक द्विघाती प्रभावी एक्शन (quadratic effective action) और एक टू-पॉइंट कोवेरिएंस कर्नेल (प्रोपेगेटर) द्वारा निर्धारित गाऊसी वितरण द्वारा अनुकूलित है।
३. परिमित-चौड़ाई एक विक्षोभ के रूप में: परिमित-चौड़ाई प्रभावों को फ्री एक्शन में जोड़े गए इंटरेक्शन टर्म्स ( $\Delta S_N[f]$ ) के रूप में माना जाता है। ये टर्म्स गैर-गाऊसी ऑपरेटर्स (जैसे, $k \ge 3$ के लिए $\lambda_k^{(N)} f(x_1)\dots f(x_k)$ ) पेश करते हैं जो कनेक्टेड हायर-ऑर्डर कोरिलेशन फंक्शंस जनरेट करते हैं।
४. विल्सनियन वर्गीकरण: लेखक RG फ्लो के तहत स्केलिंग व्यवहार के आधार पर परिमित-चौड़ाई वाले ऑपरेटर्स को वर्गीकृत करते हैं:
* रेलेवेंट (Relevant): मोटे तौर पर ग्रैनुलैरिटी कम करने (coarse-graining) के दौरान बढ़ते हैं, बड़े पैमाने के व्यवहार पर हावी होते हैं।
* इर्रलेवेंट (Irrelevant): मोटे तौर पर ग्रैनुलैरिटी कम करने के दौरान घटते हैं, चौड़ाई बढ़ने के साथ नगण्य हो जाते हैं।
* मार्जिनल (Marginal): सीमा पर बने रहते हैं, संभावित रूप से क्रिटिकल व्यवहार को नियंत्रित करते हैं।
५. डायग्नोस्टिक्स: यह ढांचा गाऊसी सीमा से विचलन को मापने के लिए विशिष्ट गणितीय डायग्नोस्टिक्स का उपयोग करता है, जिसमें कनेक्टेड हायर-ऑर्डर क्यूमुलेंट्स (cumulants), कोरिलेशन फंक्शन्स के स्केलिंग एक्सपोनेंट्स और प्रभावी कपलिंग्स का प्रवाह शामिल है।

प्रमुख योगदान

ओवरपैरामीट्राइजेशन का पुनर्गठन: पेपर तर्क देता है कि ओवरपैरामीट्राइजेशन (चौड़ाई $N$ बढ़ाना) आवश्यक रूप से कार्यात्मक जटिलता (functional complexity) को नहीं बढ़ाता है। इसके विपरीत, फंक्शन स्पेस में, बढ़ती चौड़ाई परिमित-चौड़ाई वाले इंटरेक्शन टर्म्स को दबा देती है, जिससे सिस्टम सरल गाऊसी फिक्स्ड पॉइंट की ओर बढ़ता है। अतः, एक अत्यधिक ओवरपैरामिटराइज्ड नेटवर्क "कार्यात्मक सरलता" (गाऊसीयता) प्रदर्शित कर सकता है, जबकि एक संकरा या प्रशिक्षित नेटवर्क "कार्यात्मक जटिलता" (मजबूत अंतःक्रियाएं) दिखा सकता है।
क्रिटिकैलिटी की परिभाषा: क्रिटिकैलिटी को केवल गतिशील अर्थों में "एज ऑफ केओस" (edge of chaos) के रूप में ही नहीं, बल्कि फंक्शन स्पेस में एक ऐसी स्थिति के रूप में पुनः परिभाषित किया गया है जहाँ परिमित-चौड़ाई वाले ऑपरेटर्स रेलेवेंट या मार्जिनल हो जाते हैं। इस शासन में, प्रेरित फंक्शन डिस्ट्रीब्यूशन स्केल-डिपेंडेंट स्ट्रक्चर के प्रति संवेदनशील हो जाता है, और उच्च-क्रम के कनेक्टेड कोरिलेशन फंक्शन्स महत्वपूर्ण लेकिन नियंत्रित होते हैं।
प्रशिक्षण की प्रभावी क्षेत्र सिद्धांत (EFT): प्रशिक्षण को प्रभावी एक्शन के विरूपण (deformation) ( $S_{init} \to S_{trained}$ ) के रूप में अवधारणाबद्ध किया गया है। सामान्यीकरण (generalization) नॉन-यूनिवर्सल (इर्रलेवेंट) इंटरैक्शन के दमन से जुड़ा है, जबकि ओवरफिटिंग उन डेटा-विशिष्ट कपलिंग्स के प्रवर्धन से जुड़ी है जो स्थिर फंक्शन-स्पेस व्यवहार को परिभाषित नहीं करती हैं।
आर्किटेक्चरल यूनिवर्सैलिटी: यह ढांचा प्रस्तावित करता है कि विभिन्न आर्किटेक्चर (CNNs, Transformers, RNNs) को उनके पैरामीटर काउंट या अनुभवजन्य प्रदर्शन के बजाय उनके गाऊसी फिक्स्ड पॉइंट्स और उनके द्वारा स्वीकार किए जाने वाले प्रासंगिक/मार्गल परिमित-चौड़ाई विक्षोभों के सेट द्वारा वर्गीकृत किया जा सकता है।

परिणाम
पेपर शमेटिक विश्लेषण और सैद्धांतिक डायग्नोस्टिक्स प्रस्तुत करता है:

कर्नेल कन्वर्जेंस: एम्पिरिकल कर्नेल अनंत-चौड़ाई एनालिटिक कर्नेल के साथ $O(N^{-1/2})$ स्केलिंग एरर के साथ अभिसरित होते हैं, जो फ्री-फील्ड प्रोपेगेटर की पुष्टि करते हैं।
क्यूमुलेंट स्केलिंग: कनेक्टेड हायर-ऑडर क्यूमुलेंट्स (उदाहरण के लिए, चौथा क्यूमुलेंट और एक्सस कर्टोसिस) $O(N^{-1})$ के रूप में स्केल करते हैं। यह पुष्टि करता है कि परिमित-चौड़ाई सुधारв पर्टुबेटिव इंटरेक्शन टर्म्स के रूप में कार्य करते हैं जो $N \to \infty$ होने पर लुप्त हो जाते हैं, लेकिन परिमित चौड़ाई पर शून्य नहीं होते और संरचनात्मक रूप से महत्वपूर्ण होते हैं।
कोरिलेशन प्रोपेगेशन: सेंसिटिविटी पैरामीटर $\chi$ (वेट वेरिएंस और एक्टिवेशन डेरिवेटिव से संबंधित) का विश्लेषण दिखाता है कि क्रिटिकल बाउंड्री ( $\chi = 1$ ) के पास, कोरिलेशन डेप्थ स्केल डाइवर्ज होता है। यह समर्थन करता है कि क्रिटिकल के करीब स्थित नेटवर्क कई लेयर्स तक कोरिलेशन स्ट्रक्चर बनाए रखते हैं, जो व्यवस्थित (कोलैप्स) और अराजक (एक्सप्लोजन) व्यवस्थाओं के बीच संतुलन बनाता है।
फेज स्ट्रक्चर: स्कीमेटिक फेज डायग्राम दर्शाते हैं कि चौड़ाई बढ़ाने से प्रभावी कपलिंग दब जाती है, जिससे सिस्टम एक इंटरेक्टिंग रिजीम से गाऊसी फिक्स्ड पॉइंट की ओर बढ़ता है। क्रिटिकल व्यवहार को एक मध्यवर्ती शासन के रूप में पहचाना गया है जहाँ इंटरैक्शन इतने मजबूत होते हैं कि एक्सप्रेसिविटी पैदा करें, लेकिन इतने नियंत्रित भी होते हैं कि अस्थिरता को रोक सकें।

महत्व और दावे
पेपर दावा करता है कि वह विल्सनियन फिक्स्ड पॉइंट्स और क्रिटिकल सर्फेस के लेंस के माध्यम से ट्रेनैबिलिटी, जनरलाइजेशन और आर्किटेक्चरल यूनिवर्सैलिटी के अध्ययन के लिए एक सैद्धांतिक आधार प्रदान करता है। इसका प्राथमिक महत्व पैरामीटर स्पेस से हटकर फंक्शन स्पेस पर विश्लेषणात्मक ध्यान केंद्रित करना है, जो न्यूरल नेटवर्क व्यवहार का वर्णन करने के लिए एक कठोर गणितीय भाषा (एफेक्टिव एक्शंस, बीटा फंक्शन्स, स्केलिंग एक्सपोनेंट्स) प्रदान करता है।

लेखक स्पष्ट रूप से कहते हैं कि यह ढांचा:
१. अवधारणाओं को एकीकृत करता है: यह अनंत-चौड़ाई सीमाओं, परिमित-चौड़ाई सुधारों, ओवरपैरामीट्राइजेशन और "एज ऑफ केओस" को एक एकल प्रभावी फील्ड थ्योरी में जोड़ता है।
२. जटिलता को स्पष्ट करता है: यह उस विरोधाभास को हल करता है कि बड़े मॉडल अच्छा जनरल असाइन क्यों करते हैं—पैरामीटर-स्पेस कॉम्प्लेक्सिटी (उच्च) और फंक्शन-स्पेस कॉम्प्लेक्सिटी (संभावित निम्न/गाऊसी) के बीच अंतर करके।
३. परिमित-चौड़ाई प्रभावों की पुनर्व्याख्या करता: यह परिमित-चौड़ाई सुधारों को "त्रुटियों" से ऊपर उठाकर उन्हें वास्तव में व्यक्त क्षमता (expressivity) और क्रिटिकल व्यवहार सक्षम करने वाले तंत्र के रूप में स्थापित करता है।

यह काम अपनी वर्तमान सीमा के बारे में विनम्र रहता है, यह स्वीकार करते हुए कि यह एक वैचारिक ढांचा (conceptual framework) है। इसमें उल्लेख किया गया है कि विविध प्रकार के डेटा (छवियां, टेक्स्ट, ग्राफ) के लिए विशिष्ट कोर्स-ग्रैनिंग रूपांतरणों को परिभाषित करना और आधुनिक आर्किटेक्चर (अटेंशन मैकेनिज्म, रेसिडुअल कनेक्शन आदि के साथ) के लिए सटीक बीटा फंक्शन्स निकालना भविष्य के अनुसंधान के खुले प्रश्न हैं। यह नया प्रयोगात्मक प्रोटोकॉल प्रस्तावित नहीं करता है, बल्कि न्यूरल नेटवर्क क्रिटिकैलिटी के भविष्य के अनुभवजन्य और गणितीय निदान के लिए एक सैद्धांतिक शब्दावली स्थापित करता है।

इसी तरह के और पेपर