Why Zeroth-Order Adaptation May Forget Less: A Randomized Shaping Theory
यह शोध पत्र एक रैंडमाइज्ड शेपिंग थ्योरी प्रस्तुत करता है जो यह प्रदर्शित करता है कि ज़ीरोथ-ऑर्डर एडेप्टेशन, अनिसोट्रोपिक घटकों को संकुचित करते हुए आइसोट्रोपिक रिटेंशन कर्वेचर को संरक्षित करके, फर्स्ट-ऑर्डर विधियों की तुलना में फॉरगेटिंग (विस्मृति) को कम कर सकता है, जिससे RISE एल्गोरिदम का जन्म होता है जो बेहतर स्टेबिलिटी-प्लास्टिसिटी ट्रेड-ऑफ के लिए सटीक ग्रेडिएंट्स पर इस कैलिब्रेटेड शेपिंग मैकेनिज्म को लागू करता है।