Dropout Universality: Scaling Laws and Optimal Scheduling at the Edge-of-Chaos
यह शोध पत्र क्रिटिकल सिग्नल प्रोपेगेशन के एक विक्षोभ (परटर्बेशन) के रूप में ड्रॉपआउट का एक मीन-फील्ड सिद्धांत स्थापित करता है, जो स्मूथ बनाम किंक्ड एक्टिवेशन्स के लिए विशिष्ट यूनिवर्सलिटी क्लासेस को प्रकट करता है और इष्टतम, फ्रंट-लोडेड ड्रॉपआउट शेड्यूल्स को व्युत्पन्न करता है जो डीप न्यूरल नेटवर्क्स में टेस्ट लॉस को महत्वपूर्ण रूप से कम करते हैं।