Unveiling High-Probability Generalization in Decentralized SGD
यह शोध पत्र पॉइंटवाइज यूनिफॉर्म स्टेबिलिटी (pointwise uniform stability) पर आधारित एक नए लर्निंग थ्योरी को विकसित करके विकेंद्रीकृत SGD (decentralized SGD) के लिए उच्च-संभाव्यता सामान्यीकरण बाउंड्स (high-probability generalization bounds) और पारंपरिक SGD के बीच के अंतर को पाटता है, जो उत्तल (convex), दृढ़ उत्तल (strongly convex) और गैर-उत्तल (non-convex) परिवेशों में इष्टतम दर प्राप्त करता है।