Rethinking Depth Pruning for Vision Transformers: A Heterogeneity-Aware Perspective
यह शोध पत्र HetDPT को प्रस्तुत करता है, जो एक विषमता-जागरूक (heterogeneity-aware) डेप्थ प्रूनिंग विधि है जो इंटर-लेयर विषमता को संबोधित करके मौजूदा दृष्टिकोणों की सटीकता रिकवरी चुनौतियों पर विजय प्राप्त करती है, जिससे कई बेंचमार्क पर विजन ट्रांसफॉर्मर (Vision Transformers) पर न्यूनतम सटीकता हानि के साथ महत्वपूर्ण गति वृद्धि प्राप्त होती है।