🤖 machine learning
Layerwise Progressive Freezing: A Training Scaffold for Depth-Scalable Binary Networks
यह शोध पत्र StoMPP को प्रस्तुत करता है, जो एक नवीन प्रशिक्षण स्कैफोल्ड (training scaffold) है जो इनपुट से आउटपुट तक स्टोकैस्टिक मास्क (stochastic masks) का उपयोग करके परत-दर-परत बाइनराइजेशन को प्रगतिशील रूप से लागू करता है, जो प्रभावी रूप से स्ट्रेट-थ्रू एस्टीमेटर (Straight-Through Estimator - STE) की आवश्यकता को समाप्त करता है और सक्रियण-प्रेरित ग्रेडिएंट अवरोधों (activation-induced gradient blockades) को रणनीतिक रूप से प्रबंधित करके बाइनरी न्यूरल नेटवर्क में गहराई-प्रेरित सटीकता पतन (depth-induced accuracy collapse) को रोकता है।