📊 statistics

Canonical Regularisation of Wide Feature-Learning Neural Networks

यह शोध पत्र फीचर-लर्निंग न्यूरल नेटवर्क में मानक रिज रेगुलराइजेशन (ridge regularisation) की सीमाओं की पहचान करता है और एक नवीन फ्रेमवर्क प्रस्तावित करता है जो रिमानियन ज्योमेट्री (Riemannian geometry) पर आधारित है ताकि एक कैनोनिकल "जियोडेसिक रिज" (geodesic ridge) रेगुलराइज़र व्युत्पन्न किया जा सके जो कर्नेल और फीचर-लर्निंग दोनों व्यवस्थाओं में ग्रेडिएंट फ्लो के निहित प्रायोर (implicit prior) का सामान्यीकरण करता है।

मूल लेखक: George Whittle, Pranav Vaidhyanathan, Juliusz Ziomek, Natalia Ares, Maike A. Osborne

प्रकाशित 2026-05-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: George Whittle, Pranav Vaidhyanathan, Juliusz Ziomek, Natalia Ares, Maike A. Osborne

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: सीखने के दो तरीके

कल्प Imagine कीजिए कि एक न्यूरल नेटवर्क (एक प्रकार का AI) मिट्टी से बनी एक विशाल, लचीली मूर्ति की तरह है। जब हम इसे ट्रेन करते हैं, तो हम मिट्टी को एक विशिष्ट आकार (डेटा) देने के लिए उसे दबाते और खींचते हैं।

यह पेपर तर्क देता है कि लंबे समय से वैज्ञानिक इन मूर्तियों का अध्ययन एक बहुत ही सरल नियम का उपयोग करके कर रहे हैं: "मिट्टी वास्तव में अपना आकार नहीं बदलती; यह बस एक सपाट मेज पर फिसलती है।" इसे कर्नल रिजीम (Kernel Regime) कहा जाता है। इस दुनिया में, गणित आसान है, और मिट्टी को धकेलने का "सबसे अच्छा" तरीका अच्छी तरह से समझ में आता है।

हालाँकि, आधुनिक AI वास्तव में एक अलग दुनिया में काम करता है, जिसे फीचर-लर्निंग रिजीम (Feature-Learning Regime) कहा जाता है। यहाँ, मिट्टी अपना आकार बदलती है। जैसे-जैसे यह सीखता है, मूर्ति मुड़ती है, घूमती है और झुकती है। मिट्टी को धकेलने के पुराने नियम यहाँ अब काम नहीं करते, लेकिन लोग फिर भी उनका उपयोग करते रहे, जिससे अक्सर खराब परिणाम मिले।

समस्या: गलत "धक्का"

पुरानी, सपाट दुनिया (Kernel Regime) में, मूर्ति को निर्देशित करने का सबसे अच्छा तरीका एक विशिष्ट प्रकार का "धक्का" है जिसे एंकोर्ड रिज (Anchored Ridge) कहा जाता है। इसे मूर्ति की शुरुआती स्थिति से बंधी एक रबर बैंड के रूप में सोचें। जैसे-जैसे आप मूर्ति को उसके लक्ष्य की ओर धकेलते हैं, रबर बैंड उसे वापस शुरुआत की ओर खींचता है, जिससे वह बहुत दूर नहीं भटक पाती। यह एक सपाट मेज पर पूरी तरह से काम करता है।

पेपर की मुख्य खोज: घुमावदार दुनिया (Feature-Learning Regime) में, यही रबर बैंड खतरनाक है।

क्योंकि "मेज" (वह रास्ता जिस पर मूर्ति चलती है) अब एक रोलरकोस्टर ट्रैक की तरह घुमावदार है, इसलिए रबर बैंड गलत दिशा में खींचता है। यह मूर्ति को सीधे वापस शुरुआत की ओर खींचने की कोशिश करता है, लेकिन ट्रैक मुड़ जाता है। इससे एक "फैंटम फोर्स" (भ्रमित बल) पैदा होता है जो मूर्ति को ट्रैक से हटाकर शून्य में धकेल देता है।

परिणाम: मूर्ति एक ऐसे स्थान पर पहुँच जाती है जो ट्रेनिंग डेटा पर तो अच्छा दिखता है, लेकिन नए, अनदेखे डेटा के लिए वास्तव में खराब है। यह एक रस्सी पर चलने की कोशिश करने जैसा है जबकि कोई आपको आपकी शुरुआती जगह से बंधी रस्सी से बगल की ओर खींच रहा हो; आप रस्सी से गिर जाएंगे।

यही कारण है कि आधुनिक AI कभी-कभी ठीक से सीखने में विफल रहता है या वह "ज्ञान" खो देता है जो उसने प्री-ट्रेनिंग के दौरान प्राप्त किया था (इस समस्या को "कैटास्ट्रोफिक फॉरगेटिंग" या डिग्रेडेड ट्रांसफर लर्निंग कहा जाता है)।

समाधान: "जियोडेसिक" (Geodesic) धक्का

लेखकों ने पूछा: यदि मेज घुमावदार है, तो मूर्ति को वापस उसके शुरुआती बिंदु पर लाने का सही तरीका क्या है?

उन्होंने महसूस किया कि एक घुमावदार सतह पर, दो बिंदुओं के बीच की सबसे छोटी दूरी एक सीधी रेखा (chord) नहीं है; बल्कि यह एक घुमावदार रेखा है जो सतह का अनुसरण करती है। गणित में, इसे जियोडेसिक (Geodesic) कहा जाता है।

उन्होंने एक नया नियम प्रस्तावित किया जिसे जियोडेसिक रिज (Geodesic Ridge) कहा जाता है:

एक रबर बैंड के बजाय जो हवा में एक सीधी रेखा में खींचता है, एक फिसलने वाली रेल (sliding rail) की कल्पना करें जो घुमावदार ट्रैक से पूरी तरह चिपकी हुई है।
यह रेल मूर्ति को घुमाव के साथ ही वापस शुरुआत की ओर खींचती है।
यह सुनिश्चित करता है कि मूर्ति ट्रैक पर बनी रहे, जिससे AI के फीचर्स सीखने का स्वाभाविक तरीका सुरक्षित रहता है।

व्यावहारिक शॉर्टकट: "आर्क रिज" (Arc Ridge)

एक समस्या है। विशाल AI मॉडल के लिए सटीक "फिसलने वाली रेल" (Geodesic Ridge) की गणना करना अविश्वसनीय रूप से कठिन और धीमा है। यह हर कदम उठाने के लिए पहाड़ की सड़क के सटीक घुमाव की गणना करने जैसा है।

इसलिए, लेखकों ने एक चतुर शॉर्टकट खोजा जिसे आर्क रिज (Arc Ridge) कहा जाता है।

उपमा: कल्पना करें कि आप एक पहाड़ पर चढ़ रहे हैं। आपको यह जानने के लिए कि आपने कितनी दूरी तय की है, पृथ्वी के सटीक घुमाव की गणना करने की आवश्यकता नहीं है। आपको बस अपने कदमों को गिनने की आवश्यकता है।
यह कैसे काम करता है: आर्क रिज बस ट्रेनिंग के दौरान मूर्ति द्वारा तय की गई कुल दूरी को मापता है।
जादू: पेपर यह सिद्ध करता है कि यह सरल "स्टेप काउंटर" (कदम गिनने वाला यंत्र) बिल्कुल एक जटिल "फिसलने वाली रेल" की तरह काम करता है। यह मूर्ति को ट्रैक से भटकने से रोकता है, लेकिन इसे कैलकुलेट करना बेहद आसान है।

यह क्यों महत्वपूर्ण है (पेपर के अनुसार)

यह "बायस" (Bias) को ठीक करता है: पुराने तरीके (Standard और Anchored Ridge) गुप्त रूप से AI को पक्षपाती बनाते हैं, उसे एक बुरी स्थिति में धकेल देते हैं भले ही आपको लगे कि आप बहुत कम रेगुलराइजेशन का उपयोग कर रहे हैं। नया तरीका इस बायस को हटा देता है।
यह "अर्ली स्टॉपिंग" (Early Stopping) से जुड़ता है: पेपर दिखाता है कि इस "स्टेप काउंटर" (Arc Ridge) का उपयोग करना गणितीय रूप से ठीक उसी क्षण प्रशिक्षण को रोकने (Early Stopping) के समान है। यदि आप जानते हैं कि आपने कितने कदम चले हैं, तो आप बिना किसी अलग टेस्ट सेट के, सर्वोत्तम परिणाम प्राप्त करने के लिए सही समय पर रुकना जान सकते हैं।
वास्तविक दुनिया का प्रमाण: लेखकों ने इमेज रिकग्निशन (चेहरों से उम्र का अनुमान लगाना) और टेक्स्ट एनालिसिस (रिव्यू स्कोर का अनुमान लगाना) पर इसका परीक्षण किया। उन्होंने पाया कि जब उन्होंने उच्च रेगुलराइजेशन के साथ पुराने तरीकों का उपयोग किया, तो AI और खराब हो गया। जब उन्होंने अपने नए "आर्क रिज" तरीके का उपयोग किया, तो AI स्थिर रहा और बहुत बेहतर प्रदर्शन किया।

सारांश

पुराना दृष्टिकोण: AI सीखना एक सपाट फर्श पर फिसलने जैसा है। हम इसे एक सीधी रबर बैंड से पीछे खींचते हैं।
नई वास्तविकता: AI सीखना एक घुमावदार रोलरकोस्टर पर फिसलने जैसा है। एक सीधी रबर बैंड आपको ट्रैक से बाहर खींच लेती है।
समाधान: एक "फिसलने वाली रेल" (Geodesic Ridge) का उपयोग करें जो घुमाव का अनुसरण करती है।
शॉर्टकट: आपको रेल बनाने की आवश्यकता नहीं है। बस अपने कदम गिनें (Arc Ridge), और यह वही काम पूरी तरह से करेगा।

यह पेपर गणितीय प्रमाण प्रदान करता है कि पुराने नियम आधुनिक AI में क्यों विफल होते हैं और इसे ठीक करने के लिए एक सरल, व्यावहारिक उपकरण प्रदान करता है।

तकनीकी सारांश: वाइड फीचर-लर्निंग न्यूरल नेटवर्क का कैनोनिकल रेगुलराइजेशन (Canonical Regularisation)

समस्या विवरण (Problem Statement)

वाइड न्यूरल नेटवर्क जो फीचर-लर्निंग रिजीम (feature-learning regime) में काम करते हैं—जहाँ नेटवर्क एक फिक्स्ड कर्नेल मशीन के रूप में व्यवहार करने के बजाय सक्रिय रूप से रिप्रेजेंटेशन सीखता है—आधुनिक डीप लर्निंग के इंजन हैं। हालाँकि, इनके बारे में सैद्धांतिक समझ कर्नेल रिजीम (kernel regime) (जिसे न्यूरल टेंगेंट कर्नेल, NTK द्वारा औपचारिक रूप दिया गया है) की तुलना में काफी पीछे है। फीचर-लर्निंग नेटवर्क द्वारा प्रेरित इम्प्लिसिट रेगुलराइजेशन (implicit regularisation) और फंक्शन-स्पेस प्रायर (function-space prior) के संबंध में एक महत्वपूर्ण अंतराल मौजूद है।

कर्नेल रिजीम में, यह स्थापित है कि ग्रेडिएंट फ्लो उस अद्वितीय समाधान का चयन करता है जो इनिशियलाइजेशन से पैरामीटर-स्पेस की स्क्वेर्ड दूरी (anchored ridge, $\|\theta - \theta_0\|^2$ ) को कम करता है। यह गुण न्यूरल नेटवर्क-गॉसियन प्रोसेस (NN-GP) पत्राचार (correspondence) का आधार बनता है, जिससे सिद्धांतिक शोर मॉडलिंग और अनिश्चितता मात्रा निर्धारण संभव होता है। हालाँकि, व्यवहारकर्ता अक्सर फीचर-लर्निंग नेटवर्क पर डिफ़ॉल्ट रूप से मानक वेट डिके ( $\|\theta\|^2$ ) या एंकोर्ड रिज (anchored ridge) लागू करते हैं। यह शोध पत्र तर्क देता है कि ये रेगुलराइज़र फीचर-लर्निंग रिजीम में ज्यामितीय रूप से गलत संरेखित (misaligned) हैं, जिससे एक "साइलेंट" बायस (silent bias) उत्पन्न होता है जो नेटवर्क के इंडक्टिव बायस को विकृत कर देता है, विशेष रूप से ट्रांसफर लर्निंग परिदृश्यों में जहाँ प्रीट्रेन्ड फीचर्स सूचनात्मक होते हैं।

कार्यप्रणाली और सैद्धांतिक ढांचा (Methodology and Theoretical Framework)

लेखक एक ज्यामितीय ढांचे को विकसित करते हैं जो यूनिफॉर्म जैकोबियन कंडिशनिंग (Uniform Jacobian Conditioning) धारणा (Assumption 2.1) को संतुष्ट करने वाले ओवरपैरामेट्राइज्ड नेटवर्क के पैरामीटर-स्पेस डायनेमिक्स को लक्षणित करता है। यह धारणा मानती है कि जैकोबियन $J(\theta)$ के सिंगुलर वैल्यूज इंटरपोलेटिंग सॉल्यूशंस के पड़ोस में शून्य और अनंत से दूर सीमित हैं।

1. ज्यामितीय अपघटन (Geometric Decomposition)

लेखक एक इंटरपोलेटर के आसपास पैरामीटर स्पेस $\Theta$ को तीन प्रमुख वस्तुओं में विभाजित करते हैं:

फ्लो ऑर्बिट ( $O_{flow}$ ): उन सभी पैरामीटर्स का सेट जो एक इनिशियलाइजेशन $\theta_0$ से ग्रेडिएंट फ्लो द्वारा सुलभ हैं। फीचर-लर्निंग रिजीम में, यह एक उच्च-आयामी उप-रीमानियन (sub-Riemannian) सेट हो सकता है।
गेज-फिक्स्ड फ्लो मैनिफोल्ड ( $M_{flow}(\theta_0)$ ): फ्लो ऑर्बिट के भीतर एक विशिष्ट $n$ -आयामी सब-मैनिफोल्ड जो realized ग्रेडिएंट फ्लो प्रक्षेपवक्र (trajectory) को समाहित करता है। यह इंटरपोलेटर के पास फंक्शन स्पेस के लिए एक पैरामीटर-स्पेस चार्ट के रूप में कार्य करता है।
आउटपुट फाइबर्स ( $\Theta(c)$ ): फ्लो मैनिफोल्ड के ट्रांसवर्स दिशाओं में स्थित वे दिशाएँ जहाँ प्रशिक्षण भविष्यवाणियाँ $g(\theta)$ स्थिर रहती हैं, लेकिन अनदेखे इनपुट्स पर भविष्यवाणियाँ नाटकीय रूप से बदल सकती हैं।

2. रिज रेगुलराइजेशन की पैथोलॉजी (The Pathology of Ridge Regularisation)

यह शोध पत्र सिद्ध करता है कि फीचर-लर्निंग रिजीम में, फ्लो मैनिफोल्ड $M_{flow}(\theta_0)$ वक्राकार (curved) है, कर्नेल रिजीम के एफाइन सबस्पेस के विपरीत।

एंकोर्ड रिज की विफलता (Anchored Ridge Failure): एंकोर्ड रिज का ग्रेडिएंट $-2(\theta - \theta_0)$ , एक यूक्लिडियन कॉर्ड (chord) है। एक वक्राकार मैनिफोल्ड पर, इस ग्रेडिएंट को आउटपुट फाइबर्स (फ्लो दिशा के लंबवत) के साथ एक घटक प्राप्त होता है।
परिणाम: जैसे-जैसे रेगुलराइजेशन स्ट्रेंथ $\lambda \to 0$ होती है, समाधान अनरेगुलराइज्ड ग्रेडिएंट फ्लो लिमिट $\theta^*$ की ओर अभिसरित (converge) नहीं होता है। इसके बजाय, रेगुलराइजेशन ग्रेडिएंट पैरामीटर्स को फाइबर्स के साथ खींचता है, जिससे इम्प्लिसिट प्रायर विकृत हो जाता है और प्रीट्रेनिंग के दौरान सीखे गए उपयोगी इंडक्टिव बायस को नष्ट करने की क्षमता रखता है। इसे Theorem 3.1 में औपचारिक रूप दिया गया है।

3. कैनोनिकल रेगुलराइज़र का एक्सियोमैटिक व्युत्पन्न (Axiomatic Derivation of the Canonical Regulariser)

इसे हल करने के लिए, लेखक कैनोनिकल फंक्शन-स्पेस एनर्जी को ग्रेडिएंट फ्लो डायनेमिक्स के तहत इनिशियलाइजेशन से लक्ष्य तक नेटवर्क आउटपुट्स को ट्रांसपोर्ट करने के लिए आवश्यक न्यूनतम कंट्रोल-थ्योरेटिक एनर्जी के रूप में एक्सिओमेटाइज करते हैं।

विशिष्टता (Uniqueness): आइसोमेट्री इनवेरिएंस (isometry invariance) और ऑर्थोगोनल एडिटिविटी (orthogonal additivity) के सिद्धांतों को लागू करके, वे सिद्ध करते हैं कि कर्नेल रिजीम में, यह ऊर्जा अनन्य रूप से स्क्वेर्ड RKHS नॉर्म (एंकोर्ड रिज को रिकवर करती है) के अनुरूप है।
सामान्यीकरण (Generalisation): इस ऊर्जा को Definition 4.3 के माध्यम से पैरामीटर स्पेस में ले जाने पर जियोडेसिक रिज (Geodesic Ridge) रेगुलराइज़र प्राप्त होता है:
$d^2(\theta, \theta_0) = d^2_{flow}(\theta_0, g|^{-1}_{\theta_0}(g(\theta))) + d^2_{fibre}(\theta, g|^{-1}_{\theta_0}(g(\theta)))$
यह फ्लो मैनिफोल्ड के साथ स्क्वेर्ड जियोडेसिक दूरी और आउटपुट फाइबर के साथ जियोडेसिक दूरी को मापता है।
इम्प्लिसिट प्रायर: इसके अनुरूप फंक्शन-स्पेस प्रायर को एक रीमानियन गिब्स प्रोसेस (Riemannian Gibbs Process) के रूप में पहचाना गया है, जो वक्राकार ज्यामिति (curved geometries) में NTK गॉसियन प्रोसेस का सामान्यीकरण है।

4. आर्क रिज: एक व्यावहारिक सरोगेट (Arc Ridge: A Practical Surrogate)

चूंकि बड़े पैमाने पर जियोडेसिक दूरियों की गणना करना कठिन है, इसलिए लेखक आर्क रिज को एक मिनिमैक्स-रोबस्ट सरोगेट के रूप में प्रस्तावित करते हैं।

परिभाषा: आर्क रिज प्रशिक्षण प्रक्षेपवक्र की स्क्वेर्ड टोटल पाथ लेंथ है: $L_2(\gamma) = (\int_0^T \|\dot{\gamma}(t)\| dt)^2$ ।
गुण: यह जियोडेसिक रिज के लिए एक अपर-बाउंड (upper-bound) है, यह realized ग्रेडिएंट फ्लो दिशा के साथ "नो-बायस" गुण बनाए रखता है, और सटीक ग्रेडिएंट फ्लो के तहत अर्ली स्टॉपिंग (early stopping) के समान है। इसके लिए किसी सेकंड-ऑर्डर जानकारी की आवश्यकता नहीं है, यह केवल प्रशिक्षण के दौरान एक एकल स्केलर (पाथ लेंथ) को संचित करता है।

मुख्य परिणाम (Key Results)

मानक रेगुलराइज़र्स का बायस: यह पेपर सिद्ध करता है कि फीचर-लर्निंग रिजीम में दोनों मानक रिज और एंकोर्ड रिज, ग्रेडिएंट फ्लो लिमिट को बायस करते हैं (Theorem 3.1)। यह बायस तब भी बना रहता है जब रेगुलराइजेशन स्ट्रेंथ शून्य हो जाती है, जिससे समाधान उन आउटपुट फाइबर्स की ओर भटक जाता है जो ट्रेनिंग लॉस के लिए अदृश्य हैं।
जियोडेसिक रिज एक कैनोनिकल समाधान के रूप में: लेखक जियोडेसिक रिज को एकमात्र रेगुलराइज़र के रूप में व्युत्पन्न करते हैं जो फीचर-लर्निंग नेटवर्क की ज्यामिति के अनुरूप है, यह सुनिश्चित करता है कि शून्य-रेगुलराइजेशन लिमिट अनरेगुलराइज्ड ग्रेडिएंट फ्लो समाधान को रिकवर करती है (Theorem 4.2)।
आर्क रिज की समानता: आर्क रिज को जियोडेसिक रिज के एक टाइट, सुलभ अपर-बाउंड के रूप में दिखाया गया है। महत्वपूर्ण रूप से, यह सटीक ग्रेडिएंट फ्लो की सीमा में अर्ली स्टॉपिंग के समकक्ष होने के रूप में सिद्ध होता है (Proposition F.4), जो अर्ली स्टॉपिंग को एक ज्योमेट्री-अवेयर रेगुलराइजेशन तकनीक के रूप में एक सैद्धांतिक औचित्य प्रदान करता है।
अनुभवजन्य सत्यापन (Empirical Validation): UTKFace पर Age regression (ResNet18) और Yelp पर Review score regression (DistilBERT) जैसे ट्रांसफर लर्निंग कार्यों पर प्रयोगों से पता चलता है कि:
- उच्च रेगुलराइजेशन स्ट्रेंथ पर, मानक और एंकोर्ड रिज प्रीट्रेन्ड प्रायर के विनाश के कारण टेस्ट परफॉरमेंस में महत्वपूर्ण गिरावट का कारण बनते हैं।
- आर्क रिज केवल मामूली गिरावट दिखाता है, जो 'बेनाइन अंडरट्रेनिंग' (benign undertraining) के अनुरूप है।
- कम रेगुलराइजेशन स्ट्रेंथ पर, सभी विधियाँ अभिसरित होती हैं, क्योंकि अर्ली स्टॉपिंग बायस पर हावी हो जाता है।

महत्व और दावे (Significance and Claims)

यह पेपर दावा करता है कि यह वाइड फीचर-लर्निंग नेटवर्क में ग्रेडिएंट फ्लो के इम्प्लिसिट बायस को समझने और सुधारने के लिए पहला सिद्धांतिक ढांचा प्रदान करता है। इसके प्राथमिक योगदान हैं:

ज्यामितीय अंतर्दृष्टि (Geometric Insight): यह पहचानता है कि फ्लो मैनिफोल्ड की वक्रता (curvature) ही यूक्लिडियन-आधारित रेगुलराइज़र्स (जैसे एंकोर्ड रिज) की विफलता का मूल कारण है।
सैद्धांतिक एकीकरण (Theoretical Unification): यह रीमानियन गिब्स प्रोसेस को कैनोनिकल प्रायर और जियोडेसिक रिज को कैनोनिकल रेगुलराइज़र के रूप में पहचानकर NN-GP पत्राचार को फीचर-लर्निंग रिजीम में सामान्यीकृत करता है।
व्यावहारिक समाधान (Practical Resolution): यह आर्क रिज (स्क्वेर्ड पाथ लेंथ) को एक स्केलेबल, मिनिमैक्स-रोबस्ट विकल्प के रूप में प्रस्तावित करता है जो प्रशिक्षण की ज्यामिति के साथ संरेखित है। यह अर्ली स्टॉपिंग और कैनोनिकल रेगुलराइजेशन के बीच एक गहरा, पहले से अनफॉर्मलाइज संबंध प्रकट करता है, जो यह सुझाव देता है कि अर्ली स्टॉपिंग केवल एक ह्यूरिस्टिक नहीं है बल्कि एक ज्योमेट्री-प्रिजर्विंग रेगुलराइजेशन रणनीति है।

लेखक इस बात पर जोर देते हैं कि हालांकि उनका सिद्धांत यूनिफॉर्म जैकोबियन कंडिशनिंग को मानता है (जो परिशिष्ट H में अनुभवजन्य रूप से सत्यापित है), यह ज्यामितीय अंतर्दृष्टि फाइन-ट्यूनिंग के दौरान प्रीट्रेन्ड रिप्रेजेंटेशन के क्षरण और "ग्रोकिंग" (grokking) जैसी घटनाओं की व्याख्या करती है, जो डीप लर्निंग के लिए अधिक मजबूत रेगुलराइजेशन रणनीतियों की ओर एक मार्ग प्रदान करती है।