🤖 AI
Transformers converge to invariant algorithmic cores
यह शोध पत्र एल्गोरिद्मिक कोर एक्सट्रैक्शन (ACE) को प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि स्वतंत्र रूप से प्रशिक्षित ट्रांसफॉर्मर, भिन्न भार विन्यासों (weight configurations) के बावजूद, सघन, अपरिवर्तनीय एल्गोरिद्मिक उप-स्थानों (subspaces) पर अभिसरित होते हैं जो उनके व्यवहार को नियंत्रित करते हैं, जो स्पष्ट जटिलता के नीचे एक साझा कम्प्यूटेशनल संरचना को प्रकट करता है और यांत्रिक समझ एवं नियंत्रण के लिए एक नया मार्ग प्रदान करता है।