Scalable Physics-Inspired Transformers for Spin Glasses
यह शोधपत्र एक स्केलेबल, भौतिकी-प्रेरित ट्रांसफॉर्मर प्रस्तुत करता है जिसमें व्याख्यात्मक स्पार्स अटेंशन और विशिष्ट पोजीशनल एम्बेडिंग्स हैं, जो मौजूदा वेरिएशनल ऑटोरेग्रेसिव नेटवर्क की तुलना में 100 गुना तक अधिक गति प्राप्त करता है, जिससे एक एकल GPU पर बड़े पैमाने के फ्रस्ट्रेटेड स्पिन-ग्लास सिस्टम के लिए बोल्ट्ज़मैन वितरण के कुशल सैंपलिंग और ऊष्मप्रवैगिकी गुणों के सटीक समाधान को सक्षम बनाया जा सके।