UR-JEPA: Uniform Rectifiability as a Regularizer for Joint-Embedding Predictive Architectures
UR-JEPA यूनिफॉर्म रेक्टिफिएबिलिटी (uniform rectifiability) और एक कारलेसन-प्रकार के स्क्वायर फंक्शन (Carleson-type square function) पर आधारित एक नवीन रेगुलराइज़र पेश करता है ताकि जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (Joint-Embedding Predictive Architectures) में रिप्रेजेंटेशन कोलैप्स (representation collapse) को रोका जा सके, जिससे काफी कम ट्रेनिंग वेरिएंस के साथ प्रतिस्पर्धी सटीकता प्राप्त होती है और मौजूदा विधियों की तुलना में एम्बेडिंग स्पेस में एक विशिष्ट, निम्न-आयामी ज्यामितीय संरचना प्रेरित होती है।