Turning Stale Gradients into Stable Gradients: Coherent Coordinate Descent with Implicit Landscape Smoothing for Lightweight Zeroth-Order Optimization
यह शोध पत्र कोहेरेंट कोऑर्डिनेट डिसेंट (CoCD) को प्रस्तुत करता है, जो एक नियतात्मक ज़ीरो-ऑर्डर ऑप्टिमाइज़र है जो वॉर्म-स्टार्टेड ब्लॉक साइक्लिक कोऑर्डिनेट डिसेंट और इमप्लिसिट लैंडस्केप स्मूथिंग के माध्यम से पुराने (stale) ग्रेडिएंट्स को स्थिर अपडेट दिशाओं में परिवर्तित करता है, जिससे मौजूदा रैंडमाइज्ड विधियों की तुलना में बेहतर सैंपल दक्षता और अभिसरण स्थिरता (convergence stability) प्राप्त होती है।