Two Speeds of Learning: A Representation-Readout Decomposition of Grokking and Double Descent
यह शोधपत्र एक कार्य-अज्ञेय (task-agnostic) "रिप्रेजेंटेशन-रीडआउट" (representation-readout) अपघटन ढांचे को प्रस्तुत करता है जो ग्रौकिंग (grokking) और डबल डिसेंट (double descent) जैसी जटिल सामान्यीकरण घटनाओं को क्रमिक प्रतिनिधित्व शिक्षण (gradual representation learning) और रीडआउट अंशांकन (readout calibration) के बीच प्रतिस्पर्धी गतिकी के परिणाम के रूप में स्पष्ट करता है, जो वास्तविक शिक्षण को गैर-मानक प्रशिक्षण के कृत्रिम प्रभावों से अलग करने के लिए नए नैदानिक उपकरण प्रदान करता है।