Accelerating Multimodal Large Language Models with Prior-Corrected Token Reduction
यह शोध पत्र PriorTR को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) टोकन रिडक्शन विधि है जो एकल फॉरवर्ड पास के भीतर एक नल टोकन प्रोब (null token probe) का उपयोग करके टास्क-कंडीशन्ड अटेंशन को मॉडल-प्रेरित प्रायर्स (model-induced priors) से स्पष्ट रूप से अलग करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स को त्वरित करती है, जिससे आक्रामक टोकन बजट के तहत सटीकता-दक्षता संतुलन में सुधार होता है।