On the Importance of Embedding Norms in Self-Supervised Learning
यह शोधपत्र सैद्धांतिक और प्रयोगात्मक विश्लेषण के माध्यम से यह प्रदर्शित करके स्व-पर्यवेक्षित शिक्षण (self-supervised learning) में एम्बेडिंग नॉर्म्स (embedding norms) की भूमिका के संबंध में स्पष्ट विरोधाभास को हल करता है कि कोसाइन समानता (cosine similarity) की व्यापकता के बावजूद, ये नॉर्म्स अभिसरण दरों (convergence rates) को महत्वपूर्ण रूप से नियंत्रित करते हैं और नेटवर्क के आत्मविश्वास को कूटबद्ध करते हैं, जहाँ छोटे नॉर्म्स अप्रत्याशित नमूनों को दर्शाते हैं।