Transformers are Inherently Succinct
यह शोधपत्र प्रदर्शित करता है कि फिक्स्ड-प्रिसिजन ट्रांसफॉर्मर (fixed-precision transformers) स्वाभाविक रूप से लीनियर टेम्पोरल लॉजिक (linear temporal logic), रिकरेंट न्यूरल नेटवर्क्स (recurrent neural networks) और फाइनाइट ऑटोमेटा (finite automata) की तुलना में घातीय रूप से अधिक संक्षिप्त हैं, एक ऐसा गुण जो एम्प्टीनेस (emptiness) और इक्विवेलेंस (equivalence) जैसी मौलिक सत्यापन समस्याओं को EXPSPACE-कम्पलीट बनाता है।