Gated Subspace Inference for Transformer Acceleration
यह शोध पत्र गेटेड सबस्पेस इन्फरेंस (Gated Subspace Inference) को प्रस्तुत करता है, जो एक रिट्रेनिंग-मुक्त विधि है जो एक्टिवेशन्स को लो-रैंक सबस्पेस और रेजिडुअल घटकों में एडेप्टिव गेटिंग के साथ विघटित करके ट्रांसफॉर्मर इन्फरेंस को त्वरित करती है, जिससे आउटपुट गुणवत्ता और विशिष्ट मॉडलों पर सटीक कैरेक्टर-लेवल सटीकता को बनाए रखते हुए लीनियर लेयर्स पर महत्वपूर्ण गति प्राप्त होती है।