🤖 machine learning
Algorithmic Information Dynamics of Learning: A Certified, Differentiable Complexity Controller for Grokking
यह शोध पत्र एल्गोरिद्मिक सूचना गतिकी (Algorithmic Information Dynamics) पर आधारित एक प्रमाणित, अवकलनीय जटिलता नियंत्रक (differentiable complexity controller) प्रस्तुत करता है जो हस्तक्षेप किक (intervention kicks) के सटीक समय निर्धारण के माध्यम से न्यूरल नेटवर्क में "ग्रोकिंग" (grokking) घटना को त्वरित करता है, जिससे एक डेटा-निर्भर ओकाम सीमा (Occam boundary) को मान्य किया जाता है और यह प्रदर्शित किया जाता है कि इस पद्धति का प्राथमिक योगदान विशेषता एट्रिब्यूशन (feature attribution) के बजाय इष्टतम समय निर्धारण है।