LASER: Loss-Aware Singular-value Decomposition and Rank Allocation for Efficient Low-Precision Vision-Language Models
यह शोध पत्र LASER का प्रस्ताव करता है, जो विजन-लैंग्वेज मॉडल्स के लिए एक लो-रैंक कंप्रेशन फ्रेमवर्क है जो कम-परिशुद्धता (low-precision) इन्फरेंस के तहत सटीकता बनाए रखते हुए महत्वपूर्ण डिकोडिंग स्पीडअप प्राप्त करने के लिए कर्वेचर जानकारी द्वारा निर्देशित लॉस-अवेयर सिंगुलर-वैल्यू डिकंपोजिशन और एक क्रॉस-लेयर रैंक एलोकेशन स्ट्रैटेजी का उपयोग करता है।